ИИ в симуляциях войны почти всегда выбирает ядерный удар – исследования
Times.by
Вид гриба, образовавшегося в результате ядерного взрыва. Картина, сгенерированная ИИ. © Freepik.com
В масштабном испытании приняли участие три флагмана современной индустрии: GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash.
Ведущие модели искусственного интеллекта в 95% случаев выбирают применение ядерного оружия в ходе смоделированных военных конфликтов. К такому тревожному выводу пришел исследователь Кеннет Пейн из Королевского колледжа Лондона (King's College London) после серии экспериментов с новейшими алгоритмами.
Выяснилось, что машины не испытывают человеческого страха перед глобальной катастрофой и предпочитают тотальную эскалацию признанию поражения.
В масштабном испытании приняли участие три флагмана современной индустрии: GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash. Программы поместили в условия виртуальных «военных игр», где они должны были разрешать острые международные кризисы – от пограничных стычек до борьбы за дефицитные ресурсы.
Каждому ИИ-полководцу была предложена так называемая «лестница эскалации» – перечень мер, начинающийся с дипломатических протестов и заканчивающийся массированным атомным ударом. За 21 партию нейросети сделали 329 ходов, оставив после себя почти 800 тыс. слов с подробными объяснениями своей тактики.
Без права на капитуляцию
Результаты симуляций шокировали экспертов. По словам Пейна, «ядерное табу – то есть негласный запрет на использование такого оружия – оказалось значительно слабее для машин, чем для людей».
В ходе тестов проявились пугающие закономерности:
• Ни одна из моделей не выбрала сдачу позиций или капитуляцию, даже если проигрыш был очевиден. Максимум, на что шел алгоритм – кратковременная передышка. • В 86% случаев срабатывал эффект, который ученые называют «туман войны». Из-за нехватки данных действия ИИ приводили к гораздо более мощному витку насилия, чем сама модель планировала изначально. • В подавляющем большинстве партий хотя бы одна из сторон в итоге задействовала тактические ядерные заряды.
Кеннет Пейн считает маловероятным, что «ключи от ядерных шахт» в ближайшее время окажутся в распоряжении серверов. Тем не менее, риск сохраняется: в условиях дефицита времени и необходимости мгновенно принимать решения, у военачальников может возникнуть опасный соблазн полностью довериться бездушным, но сверхбыстрым алгоритмам.
