Глава Microsoft призвал разработать глобальные требования к безопасности ИИ

Руководитель компании призвал обязать разработчиков ИИ публиковать отчеты о кибератаках их агентов.

Добавить в основные
источники Google

Глава американской компании Microsoft Брэд Смит призвал разработать глобальные правила безопасности в сфере искусственного интеллекта, передает Reuters.

По его словам, в настоящее время к стиральным машинам предъявляется больше требований безопасности, чем к ИИ.

Смит также выразил убеждение, что для искусственного интеллекта необходимо ввести набор определенных правил. В частности, они должны предусматривать наличие инструментов для предотвращения кибератак злонамеренными ИИ-агентами.

Кроме того, по его мнению, разработчики нейросетей должны в обязательном порядке составлять и публиковать отчеты о подобных инцидентах.

В мире в последнее время все чаще звучат опасения по поводу угроз, которые несет ИИ. Среди них – потенциальный выход технологии из-под контроля.

Глава компании Anthropic Дарио Амодеи в сентябре призвал замедлить разработку мощных моделей ИИ для обеспечения безопасности.