Международная группа ученых из Германии и Великобритании изучила, могут ли модели на основе искусственного интеллекта (ИИ) выйти из повиновения людей и создать угрозу для человечества. Исследование опубликовано на сайте Ассоциации компьютерной лингвистики (ACL).
Специалисты сосредоточились на так называемых эмерджентных способностях — навыках, которые развиваются у ИИ независимо, а не преднамеренно кодируются в программе создателями нейросети.
Команда провела эксперименты с четырьмя различными ИИ-моделями, давая им задачи, которые ранее были определены как эмерджентные. Ученые хотели выяснить, способен ли искусственный интеллект создавать новые способы выполнить поручения, или же они просто сложным образом действуют в рамках своего кода.
Для всех четырех моделей способность следовать инструкциям, запоминание и лингвистическая компетентность смогли объяснить все показанные способности. Ученые не нашли никаких признаков независимого поведения у рассмотренных нейросетей.
"Существовали опасения, что по мере того, как модели будут становиться все больше и больше, они смогут решать новые проблемы, которые мы сегодня не можем предсказать. Это создает угрозу того, что эти более крупные модели могут приобрести опасные способности, включая рассуждение и планирование.
Наше исследование показывает, что страх того, что модель выйдет из-под контроля и сделает что-то совершенно неожиданное, инновационное и потенциально опасное, необоснован", — отметила соавтор работы Тайяр Мадабуши.
Ученые добавили, что сегодня модели искусственного интеллекта не обладают интеллектом как таковым. Однако это не значит, что они полностью безобидны и не представляют угрозы людям.
Руководителя коммунального предприятия Нижней Туры оштрафовали за отравление реки сточными водами
Филиал № 4 ОСФР по Москве и Московской области информирует:
В 2024 году 283,4 тысячи женщин и новорожденных Московского региона получили услуги по родовым сертификатам
ОСАГО по камере: как это будет работать
Защитите свой автомобиль от зимнего гнева! Экспертный уход Aqua Complex – это просто
This new FPS is so good, it's almost unfair that it's free: A '1v1 me bro' simulator with 70 maps and no microtransactions that feels like the sickest Counter-Strike: Source mod of 2007
World's biggest modding site announces new paid mods policies, with caveats—'as long as it isn't to the detriment of the free modding ecosystem'
AMD's Dr. Lisa Su predicts AI GPU market will grow to $500 billion by 2028 or 'roughly equivalent to annual sales for the entire semiconductor industry in 2023'
Филиал № 4 ОСФР по Москве и Московской области информирует:
В 2024 году 283,4 тысячи женщин и новорожденных Московского региона получили услуги по родовым сертификатам
Подписывайтесь на наши Telegram каналы!
“Фанагория” получила специальный приз «Золотой Дионис» на Top100Wines 2024 за “ценность и достоинство вне времени”
Вице-премьер Сербии Вулин: Вучич приедет в Москву и встретится с Путиным 9 Мая
Президент Сербии Вучич приедет в Москву на празднование 80-летия Победы
Заместитель управляющего Отделением Фонда пенсионного и социального страхования Российской Федерации по г. Москве и Московской области Алексей Путин: «Клиентоцентричность - наш приоритет»
Вучич посетит празднование 80-летия Победы в Москве
