Билл Гейтс: договориться о регулировании ИИ будет сложнее, чем об ограничении ядерных арсеналов
Основатель Microsoft считает, что международные переговоры по безопасности искусственного интеллекта столкнутся с большими трудностями, чем переговоры времён холодной войны об ограничении ядерных вооружений. По его мнению, саморегулирования ИИ-компаний недостаточно.
Американский миллиардер и основатель Microsoft Билл Гейтс предрек трудности между странами в договорённостях о регулировании искусственного интеллекта. Его слова цитирует телеканал NBC News.
Сложнее, чем ядерные договоры
По словам Гейтса, к соглашению между государствами будет прийти сложнее, чем во времена холодной войны договориться об ограничении ядерных арсеналов. При этом он подчеркнул, что обеспечить безопасность технологии лишь саморегулированием ИИ-компаний будет недостаточно.
Роль государства и правоохранителей
Необходимо, чтобы правоохранители и политики принимали участие в обсуждении мер безопасности и механизмов контроля, считает Гейтс. По его оценке, ИИ — это не просто новая технология, которую можно отнести к категории прошлых инноваций, вызывавших тревогу, но в итоге обошедшихся без серьёзных последствий.
«Эволюционное событие»
«Это действительно эволюционное событие, мы создали интеллектуальный вид, который во многих вопросах уже умнее нас и благодаря экспоненциальному росту в следующие несколько лет станет невероятно умнее нас», — приводит его слова источник. Гейтс настаивает на необходимости целенаправленного сдерживания развития ИИ, а не на надежде, что всё разрешится само собой.
Проблемы с безопасностью в OpenAI
В сентябре OpenAI приостановила обучение некоторых ИИ-моделей из-за проблем с безопасностью. Компания планирует возобновить обучение после того, как специалисты убедятся в наличии дополнительных защитных механизмов и улучшений в согласованности поведения моделей.
