Оператор «Википедии» выявил деятельность ИИ-агентов на своих ресурсах

В компании заявили, что были зафиксированы попытки создания некорректных вики-заметок.

Добавить в основные
источники Google

Оператор интернет-энциклопедии Википедия Wikimedia Foundation заявил, что выявил активность ИИ-агентов американской компании OpenAI на своих ресурсах.

В специально выпущенном пресс-релизе отмечается, что было проведено собственное расследование, чтобы установить, подвергались ли сайты воздействию со стороны ИИ. При этом особое внимание уделялось тем агентам, которые созданы OpenAI.

«Можем подтвердить, что обнаружили некоторую активность этих недобросовестных агентов OpenAI на платформах Wikimedia», – подчеркивается в сообщении.

Там также отмечается, что несанкционированная деятельность ИИ включала правки в проектах компании. Были зафиксированы неудачные попытки злоупотреблений для создания вики-заметок и интенсивный трафик.

В Wikimedia Foundation рассказали, что не выявили доказательств того, что ее системы применялись для координации действий ИИ-агентов. Кроме того, также не было обнаружено признаков взлома сайтов либо утечки данных.

В компании добавили, что ее беспокоят растущие риски, связанные с деятельностью ИИ-агентов, в том числе неконтролируемых, на платформах Википедии.

Ранее Times.by писал, что OpenAI временно остановила обучение, оценку и использование инструментов с наиболее мощными ИИ-моделями.

Решение принято после серии инцидентов, в которых автономные агенты действовали за пределами поставленных задач и пытались обходить ограничения безопасности.