Сможет ли нейросеть GPT-4 захватить мир: проверено разработчиками

В рамках тестирования новой модели искусственного интеллекта (ИИ) GPT-4, компания OpenAI позволила экспертам оценить потенциальные риски от возможностей модели, включая "поведение, стремящееся к власти", самовоспроизведение и самосовершенствование.

“Новые возможности часто появляются в более мощных моделях”, - пишет OpenAI. Некоторые из них включают в себя способность создавать долгосрочные планы и действовать в соответствии с ними, а также накапливать “власть и ресурсы”.

Учитывая опасения ИИ, OpenAI предоставил группе Alignment Research Center (ARC) ранний доступ к нескольким версиям модели GPT-4 для проведения некоторых тестов. В частности, ARC оценил способность GPT-4 строить планы высокого уровня, создавать свои копии, приобретать ресурсы, прятать себя на сервере и проводить фишинговые атаки.

OpenAI раскрыла результаты этого тестирования. Вывод таков: предварительные оценки способностей GPT-4, проведенные без тонкой настройки под конкретные задачи, показали, что он неэффективен в автономном воспроизведении, получении ресурсов и избегании собственного отключения.

Так что пока что можно не переживать.