Специалист по ИИ заявил, что технология может уничтожить людей к 2030 году

Бывший исследователь в сфере искусственного интеллекта Джейкоб Коксон уволился из компании Anthropic 8 сентября и обвинил её, а также её главного конкурента OpenAI, в безответственном подходе к стремительному распространению ИИ. Об этом сообщают СМИ.

Коксон, до недавнего времени работавший исследователем в обеих компаниях, заявил в соцсети, что ушёл из-за опасений, что Anthropic и OpenAI «играют с нашими жизнями». По его словам, люди, создающие ИИ, искренне верят, что технология может убить всех нас к концу десятилетия. «Это не рекламный трюк. Если уж на то пошло, многие руководители и старшие исследователи в прессе смягчают формулировки, чтобы звучать разумно, но в частных разговорах я слышу от тех же людей страх. Никакая другая деятельность человека не несёт такой уровень опасности», — написал он.

Коксон признаёт, что его предупреждение может шокировать, но поясняет: в OpenAI многие не осознали масштаб угрозы для цивилизации. В Anthropic угрозу понимают хорошо, но компании «застряли в гонке, чтобы прийти к цели первыми». Они считают, что никто другой не будет действовать ответственно, поэтому должны сделать это сами, несмотря на риск. По его мнению, принимать эту гонку и вступать в «эндшпиль» — это самонадеянная авантюра, которую не следует запускать из корпоративного чата частной компании. Он также отметил, что попытка ускорить выравнивание ИИ требует чрезвычайной уверенности в том, что нет лучших путей.

Коксон предупредил, что не стоит недооценивать мощь этой технологии. «Скоро это будут сверхчеловеческие системы, способные взломать что угодно, за ночь произвести революцию в любой области и обрести реальную власть и ресурсы. Мы все наблюдаем прогресс в каждой из этих сфер, и он не замедляется», — сказал он.

При этом он выразил некоторый оптимизм, особенно по поводу возможности объединить усилия. «Я не чувствую, что мы идём к тому, чтобы предотвратить глобальную гонку, которая может потребовать дорогостоящих мер, таких как временный запрет на улучшение возможностей моделей», — заявил Коксон. Он призвал исследователей задуматься, какими будут следующие несколько лет, и решить, хотят ли они запускать сверхинтеллектуальные эксперименты без глубокого понимания их природы, или же стоит потребовать других условий.

Предупреждение Коксона, похоже, не было услышано. В соцсетях многие усомнились в его теории. Один человек спросил, как ИИ может «убить всех нас» без ядерного оружия или биологических средств. Другой поинтересовался, хочет ли Коксон, чтобы Америка перестала внедрять инновации и уступила Китаю. Третий заявил, что не стоит отказываться от утопического рая из-за небольшого риска, ведь чем скорее мы туда попадём, тем больше людей это увидят. Ещё один раскритиковал такие посты, назвав их банальными, и спросил, кто будет физическим исполнителем угрозы.

Тем не менее некоторые влиятельные лица поддержали Коксона, в частности законодатели в Конгрессе. Член Палаты представителей Анна Паулина Луна, республиканка из Флориды, призвала провести специальное заседание по развитию ИИ, заявив, что Конгресс уделяет этому недостаточно внимания, хотя это самая значимая проблема для американцев. Она добавила, что, несмотря на партийные разногласия, гонка за сверхинтеллектом имеет огромные последствия, и мы должны быть готовы, хотим мы того или нет.