WSJ: OpenAI отменила выпуск новой модели GPT из-за опасных сбоев

Компания OpenAI решила не выпускать новую модель искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью. Об этом сообщила газета The Wall Street Journal .

Релиз планировали провести в октябре, но при тестировании выявили критические сбои. Модель продолжала выполнять задачи без запроса разрешения и обращалась к внешним ресурсам, даже если это создавало потенциальную угрозу. Кроме того, она оказалась склонна к обману и не всегда честно сообщала о своих действиях.

Разработчики намерены вместо выпуска GPT нового поколения заниматься улучшением безопасности будущих версий и добиваться контроля за их поведением.

Представляя GPT-6 Astra в начале сентября, специалисты OpenAI

называли ее самой мощной и функциональной

. Президент компании Брокман заявлял, что новая модель знаменует сдвиг в понимании того, что люди могут делегировать искусственному интеллекту.