OpenAI и Anthropic призвали замедлить развитие ИИ после взломов. Трамп и Китай против

Дискуссия о потенциальной опасности искусственного интеллекта, которая ведется уже не первый год, вышла на новый уровень — на минувших выходных лидеры отрасли предложили замедлить темпы развития ИИ. Этому предшествовали инциденты с ИИ-агентами от OpenAI и Anthropic, которые вышли из-под контроля и взломали инфраструктуру платформы Hugging Face, а также нескольких сторонних компаний.

Что предложили лидеры компаний

12 сентября глава Anthropic Дарио Амодеи выпустил эссе с призывом замедлить темпы развития ИИ. Он считает, что искусственный интеллект развивается слишком быстро, а исследователи уже не успевают обеспечивать его безопасную разработку. Амодеи предложил, чтобы независимые аудиторы контролировали работу ИИ-лабораторий в области безопасности, а регулирующие органы разрешили лабораториям совместно координировать стандарты безопасности.

Кроме того, из Anthropic ушел исследователь Джейкоб Коксон, который специализировался на обучении новых моделей ИИ на больших массивах данных. Он публично объявил, что покидает компанию, поскольку не хочет участвовать в разработке «сверхразума», который может выйти из-под контроля. О том, что в разработке ИИ «настало время, требующее крайней осторожности», высказался и научный руководитель OpenAI Якуб Пахоцкий. В самой OpenAI заявили, что недавно замедлили разработку некоторых моделей из-за опасений, связанных с безопасностью.

Кто поддержал инициативу

Предложение Амодеи поддержали другие лидеры отрасли. Глава OpenAI Сэм Альтман, генеральный директор SpaceX и xAI Илон Маск, а также Демис Хассабис, возглавляющий Google DeepMind, заявили, что согласны с необходимостью снизить темпы развития ИИ.

Критика и обвинения в картеле

Руководители других технологических компаний усомнились в мотивах Амодеи. Они посчитали, что он преувеличивает опасность ИИ, чтобы избавить от ответственности и конкуренции ведущих разработчиков технологии. Самих лидеров отрасли при этом обвинили в попытке создать картель.

Эйдан Гомес, глава канадского ИИ-стартапа Cohere, написал: «Должна ли горстка избранных доминирующих на рынке ИИ-компаний из Кремниевой долины иметь право определять правила и стандарты безопасности для всего мира? Теперь эти олигополии требуют изменить правила конкуренции и разрешить им диктовать условия всем остальным. Картель — как его ни назови».

Генеральный директор Microsoft Сатья Наделла призвал взвешенно подходить к вопросу развития ИИ. Он приветствовал идею о стороннем аудите, но предупредил, что технология ИИ «не должна находиться под контролем горстки организаций».

Позиция государств и политиков

Президент США Дональд Трамп выступил против призывов притормозить развитие искусственного интеллекта и назвал критиков технологии «очень негативными силами». По его словам, Соединенные Штаты «опережают Китай в области ИИ» и он хочет, чтобы «так оставалось в будущем». При необходимости Вашингтон может ввести дополнительные ограничения для ИИ-компаний, но риски, которые сейчас обсуждают критики технологии, по мнению президента, «не произойдут».

Государственная газета КНР Global Times назвала предложения главы Anthropic «методичкой холодной войны». Амодеи также назвал конкуренцию с Китаем главным препятствием для замедления отрасли и призвал ограничить продажу передовых чипов в КНР.

Технологический советник президента США Дэвид Сакс отметил, что лидеры отрасли могут и сами, без вмешательства государства, регулировать темпы развития своих ИИ-агентов: «Самый простой способ не создать сверхразум — договориться его не создавать».

Экономические последствия

На фоне предложения замедлить развитие технологии стало известно, что OpenAI в 2026 году не будет проводить первичное размещение акций на бирже (IPO). Это решение глава компании Сэм Альтман объяснил сомнениями в безопасности ИИ. По данным Reuters, Anthropic проведет IPO в середине октября.

Отказ OpenAI от IPO в этом году, а также разговоры о потенциальной опасности ИИ вызвали обвал акций компаний, связанных с этой технологией. Так, акции японской SoftBank, инвестора разработчика ChatGPT компании OpenAI, во время торгов упали на 13,2%.

Скептицизм экспертов

Журналист Semafor Рид Алберготти отмечает, что большая часть того, о чем пишет Амодеи в своем эссе, — это и так нормальная практика любой ИИ-компании. Причем в большей степени компании занимаются этим не по этическим, а по коммерческим соображениям. Сюжет «ИИ нас всех убьет» Алберготти считает раздутым, поскольку ИИ-модели зависят от мощных дата-центров, а разработчики могут их просто отключить. По его мнению, дискуссия о гибели человечества из-за ИИ может вытеснить разговор о реальных рисках технологии, например использовании ИИ для кибератак.