В OpenAI заявили, что развитие ИИ нужно замедлить

В компании призвали создать систему стандартов безопасности, чтобы контролировать ИИ.

Добавить в основные
источники Google

Ведущий научный сотрудник американской компании OpenAI Якуб Пахоцкий призвал замедлить разработку систем искусственного интеллекта, чтобы обеспечить контроль над мощными агентами.

Он предупредил, что дальнейшее развитие ИИ угрожает обществу, которое еще не готово к быстрому росту возможностей машинного интеллекта.

По его словам, OpenAI разрабатывает внутренние способы контроля ИИ-агентов, но этих мер недостаточно.

Пахоцкий предложил ввести стандарты безопасности, контролировать соблюдение которых могли бы независимые аудиторы, госструктуры либо международные организации.

На минувшей неделе OpenAI представила свою новейшую ИИ-модель Astra. При этом в компании заявили, что она является наименее склонной к сбоям.

Главный конкурент OpenAI в области высокотехнологичных систем искусственного интеллекта – компания Anthropic – ранее неоднократно призывала к более стандартизированному регулированию сферы ИИ.