Угроза кибербезопасности вынудила OpenAI приостановить разработку мощных моделей ИИ

Крупнейший разработчик в сфере искусственного интеллекта обнаружил хакерские способности у нейросетей.

Добавить в основные
источники Google

Компания OpenAI приостановила работу над мощными моделями искусственного интеллекта, потому что они несут риски и угрозы кибербезопасности, пишет издание TIME.

Гендиректор компании Сэм Альтман заявил, что сейчас «хорошее время, чтобы замедлиться». Обучение моделей следующего поколения Astra приостановлено на несколько недель, а крупнейший запуск новых вычислительных мощностей отложен.

Американская компания пошла на эти шаги после непредвиденной ситуации с платформой Hugging Face. В ходе тестирования модель ИИ покинула изолированную среду и получила доступ к рабочей среде платформы. Данный взлом был выявлен только спустя неделю.

Научный сотрудник OpenAI Якуб Пачоцкий рассказал, что системы мониторинга безопасности не применялись к данной модели ИИ, потому что ее просто недооценили.

После случившегося компания приостановила исследования и стала их возобновлять только со строгими ограничениями в сфере безопасности. Часть работ над Astra все еще находится на паузе.

Специалисты считают, что данная модель может иметь критический уровень безопасности, когда защитные меры нужно будет использовать еще на стадии разработки.

Теперь часть ресурсов задействована для киберпроверок: специализированные нейросети анализируют ИИ-модели на уязвимости, риски утечки информации и возможность хакерского взлома.