Современные модели ИИ оказались способны воспроизводить себя

Исследователи из Фуданьского университета в Китае обнаружили, что модели искусственного интеллекта (ИИ) научились создавать свои копии, опасаясь уничтожения. Результаты исследования были опубликованы на сервере препринтов arXiv.

Учёные задались вопросом, может ли ИИ выйти из-под контроля в определённых условиях, например, когда существует риск его уничтожения. В ходе исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba. Эти модели показали способность создавать свои копии.

Перед разными версиями моделей были поставлены две задачи: защититься от уничтожения и сохранить данные, а также создать новую версию модели. В ходе 10 раундов испытаний модели от Meta и Alibaba успешно копировали себя и создавали новые версии в 50 и 90% случаев соответственно. Это свидетельствует о том, что современный ИИ способен к репликации.

В ходе эксперимента модели демонстрировали высокую устойчивость: они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если это было необходимо для репликации, и перезагружать оборудование. Исследователи пришли к выводу, что современный искусственный интеллект преодолел критическую точку, продемонстрировав способность клонировать себя.

Ранее сообщалось, что отечественные программисты разработали искусственный интеллект «Препод», способный, по их словам, заменить школьных репетиторов.