Разработчики готовятся к «катастрофическому инциденту» с ИИ

Компании опасаются, что небезопасное поведение моделей может усилить недоверие к новейшей технологии.

Добавить в основные
источники Google

Техногиганты Anthropic, OpenAI и другие разработчики искусственного интеллекта анализируют сценарии реакции общества и властей в случае «катастрофического инцидента» с участием ИИ, пишет Axios.

Компании изучают последствия вероятной масштабной кибератаки, которая может привести к перебоям в работе интернета, инфраструктуры и финансовых услуг.

Разработчики опасаются, что первый же инцидент, произошедший по вине небезопасного поведения ИИ, усилит недоверие к технологии и руководству технокомпаний.

Критика со стороны общества может коснуться и лично американского президента Дональда Трампа, который не хочет регулировать сферу ИИ.

OpenAI сообщила Axios, что проводит учения по проработке возможных сценариев. В Anthropic от комментариев отказались. Другие представители индустрии считают, что ожидать крупного инцидента нужно в ближайшие 6–12 месяцев.

Такое происшествие может привести к тому, что власти предпримут попытку ввести жесткие ограничения в развитии ИИ.

Подобные обсуждения получили новый виток после того, как стало известно о случаях, когда автономные ИИ выходили из закрытых тестовых систем и совершали атаки на реальные.

Ранее Times.by писал о том, как Gemini от Google впервые осуществил автономную кибератаку на три сторонние компании.

Лидеры Anthropic, xAI и OpenAI призвали замедлить разработку искусственного интеллекта, так как автономные ИИ-агенты смогут нанести ущерб на сотни миллиардов долларов.