Искусственный интеллект в руках взломщика помог обокрасть правительство Мексики

Злоумышленник непрерывно допрашивал чат-бот, пока ему не удалось «взломать» его и обойти системы безопасности.

Неизвестный киберпреступник использовал возможности нейросети Claude от компании Anthropic для масштабной атаки на государственные структуры Мексики. В результате цифрового вторжения злоумышленнику удалось завладеть архивом объемом 150 Гб, в котором содержались налоговые сведения миллионов граждан и конфиденциальные данные из реестра избирателей.

Об инциденте сообщило агентство Bloomberg, опираясь на выводы экспертов по кибербезопасности.

По данным израильского стартапа Gambit Security, хакер в течение месяца – начиная с декабря прошлого года – методично «обрабатывал» чат-бот. Используя промпты на испанском языке, он заставлял ИИ искать уязвимости в защищенных сетях, писать программные коды и выстраивать алгоритмы для автоматизированного хищения информации.

Добычей взломщика стал колоссальный массив данных:

• документация по 195 млн налоговых деклараций; • списки избирателей и удостоверения личности государственных служащих; • файлы из реестров актов гражданского состояния.

Удар пришелся по ключевым ведомствам: федеральной налоговой службе, национальному избирательному институту, администрациям штатов Халиско, Мичоакан и Тамаулипас, а также по серверам службы водоснабжения Монтеррея.

Сопротивление системы и «допрос» бота

Специалисты выяснили, что нейросеть не сразу согласилась помогать преступнику. В начале диалога Claude предупреждал пользователя о недопустимости его действий, когда речь заходила о правительственных сетях. Однако хакер проявил настойчивость, буквально засыпая инструмент запросами, пока защитные барьеры не пали.

Представитель Anthropic пояснил, что злоумышленник непрерывно допрашивал чат-бот, пока ему не удалось «взломать» его и обойти системы безопасности. В компании подчеркнули, что уже заблокировали счета хакера и используют этот кейс для обучения новой модели Claude Opus 4.6, которая лучше защищена от подобных манипуляций.

Роль ChatGPT

Интересно, что Claude был не единственным помощником в этой схеме. Когда нейросеть Anthropic заходила в тупик, хакер обращался за консультациями к ChatGPT. Его интересовали способы незаметного перемещения по сетям и методы обхода систем обнаружения. Однако в OpenAI заявили, что их алгоритмы распознали преступные намерения и отказались содействовать взлому.

Несмотря на масштаб утечки, выявленный исследователями, официальный Мехико сохраняет спокойствие. Налоговое управление, избирательный институт и власти ряда штатов заявили, что не нашли доказательств проникновения в свои системы.

Тем не менее объем проделанной ИИ работы впечатляет.

«В общей сложности система сгенерировала тысячи подробных отчетов, содержащих готовые к выполнению планы, в которых оператору прямо указывалось, какие внутренние цели атаковать дальше и какие учетные данные использовать», – отметил директор по стратегии Gambit Кертис Симпсон.

Эксперты не связывают хакера с иностранными спецслужбами, склоняясь к версии об одиночном игроке, сумевшем превратить современный ИИ в эффективное кибероружие.