Антрополог уволился из Anthropic, разочаровавшись в сфере ИИ

Ученый полагает, что гонка по развитию ИИ угрожает человеческой цивилизации.

Добавить в основные
источники Google

Антрополог-исследователь Джейкоб Коксон, ранее работавший в OpenAI, уволился из компании Anthropic, заявив, что гонка в сфере развития искусственного интеллекта стала опасной и безрассудной.

Он объявил о своем решении на странице в социальной сети Х, отметив, что последние три года занимался исследованиями в области обучения ИИ в двух IT-гигантах.

«Ни одна из этих компаний не работает ответственно. Они несутся к самосовершенствованию сверхинтеллекта и играют с нашими жизнями», – написал Коксон.

Ученый был членом технической команды OpenAI с 2023 года по июль 2026-го, после чего перешел в Anthropic, где трудился на должности исследователя, в том числе работал над созданием модели GPT-4o.

В своем сообщении Коксон отметил, что обе компании не до конца честны в отношении своих опасений по поводу ИИ.

«В OpenAI многие не до конца осознали масштабы угрозы для цивилизации. В Anthropic ее хорошо осознают, но они участвуют в гонке за первенство», – подчеркнул он.

Нынешний сотрудник Anthropic Эван Хубингер, возглавляющий группу по стресс-тестированию систем ИИ, согласился с Коксоном. Он написал, что есть 10-процентная вероятность того, что искусственный интеллект может уничтожить человеческую цивилизацию. При этом Хубингер выразил уверенность, что Anthropic делает все возможное для предотвращения этого, но четкого плана у компании пока нет.