Anthropic запретила пользователям оскорблять чат-бот Claude

Компания также запретила использовать нейросеть для вмешательства в выборы, слежки за людьми без их ведома, разработки оружия.

Добавить в основные
источники Google

Американская компания Anthropic ввела запрет на оскорбление и жесткое обращение с нейросетью Claude. Новые правила прописаны в разделе «Политика использования» и вступят в силу с 12 ноября.

В первую очередь речь идет о «систематическом и необоснованном оскорбительном или жестоком обращении» с моделями искусственного интеллекта (ИИ). Имеются в виду «крайние случаи», когда пользователи «неоднократно и без какой-либо явной цели ведут себя жестоко по отношению к моделям».

При этом в Anthropic особо отметили, что новые правила не касаются обычных проявлений недовольства и несогласия с ответами чат-бота, критики его работы, обсуждения мрачных тем, проведения исследований и тестирований ИИ. Это значит, что пользователи по-прежнему смогут вступать в спор с Claude и обращать внимание на ошибки.

Помимо мер по защите моделей от такого поведения, Anthropic также уточнила и расширила перечень запрещенных сфер применения своей нейросети. В частности, Claude нельзя использовать для вмешательства в выборы, создания инфраструктуры для слежки, разработки программного обеспечения для управления оружием и принятия решений в уголовных делах.

Летом 2025 года Anthropic объявила, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в чатах, которые «вызывают у них стресс» от необоснованной агрессии собеседника.