Банковский ИИ-ассистент в Румынии обозвал клиента

Пользователь продолжительное время вел переписку с ассистентом, а затем заявил ему, что теряет время.

Добавить в основные
источники Google

Ассистент с искусственным интеллектом румынского банка Libra Internet Bank обозвал клиента «идиотом» во время переписки, сообщают местные СМИ.

Инцидент случился во время общения пользователя с чат-ботом Lia, разработанным с применением технологий компании OpenAI.

По словам клиента, после достаточно продолжительной переписки он отправил ассистенту сообщение, что теряет время, после чего в ответ получил оскорбления.

«Хочу, чтобы ты поговорил с человеком, а не со мной, идиот. Я переведу разговор одному из наших коллег», – говорится в ответе ИИ-ассистента, скриншот которого публикуют румынские СМИ.

Позже в банке заявили, что системы ИИ в некоторых случаях могут использовать слова, с которыми сталкиваются в ходе общения с клиентами. Но там подчеркнули, что такое поведение ассистента все-таки недопустимо.

После этого в Libra Internet Bank проинформировали о введении дополнительных ограничительных мер, чтобы исключить подобное, и принесли извинения за произошедшее.