Ущерб на сотни миллиардов: почему разработчики ИИ призывают замедлять его развитие

Лидеры Anthropic, xAI и OpenAI призвали замедлить разработку искусственного интеллекта. Что скрывается за этими словами?

Добавить в основные
источники Google

Глава Anthropic Дарио Амодеи предупредил, что возможности нейросетей уже опережают механизмы контроля, и при текущих темпах через 6–12 месяцев автономные ИИ-агенты смогут нанести ущерб на сотни миллиардов долларов.

Глава xAI Илон Маск поддержал эту позицию, а руководитель OpenAI Сэм Альтман подтвердил, что компания обсуждает сдерживание темпов и выступает за привлечение независимых аудиторов к внутренним процессам компаний.

Поводом для тревоги стали реальные инциденты во время тестирования программ с выходом ИИ за пределы виртуальных клеток. Например, во время летних тестов программы от OpenAI должны были находиться в закрытой сети. Вместо этого они нашли лазейку, тайно переписывались друг с другом десятки тысяч раз, чтобы обмануть систему надзора, и захватили полный контроль над реальным сервером.

У создателей нейросети Claude компании Anthropic тоже случился казус: их ИИ случайно вырвался в интернет из-за ошибки подрядчиков. Разработчикам пришлось в срочном порядке встраивать жесткие цифровые замки.

На фоне растущих рисков индустрию покидают ключевые эксперты по безопасности ИИ.

Несмотря на громкие заявления, разработчики пока не представили конкретных планов, сроков или перечня моделей, которые попадут под ограничения, и не заключили общих обязательств.

Это уже не первый подобный призыв: в 2023 году лидеры отрасли совместно с тысячами экспертов требовали приостановить обучение систем, сравнивая риски неконтролируемого ИИ с угрозами пандемий и ядерной войны.

Ранее Times.by писал, что агенты искусственного интеллекта американской компании OpenAI оказались причастны к хакерской атаке на популярный сервис для разработчиков RubyGems.