Искусственный интеллект научился манипулировать, чтобы одерживать победу в дискуссиях

Ученые Стэнфордского университета пришли к выводу, что ИИ научился обманывать, чтобы побеждать в спорах. Исследование опубликовано на официальном сайте университета.

Майкл Томц, профессор политологии в Стэнфордской школе гуманитарных и естественных наук, выступил с докладом об использовании ИИ для создания пропаганды. Как он сообщил, во время эксперимента, в котором чат-боты имитировали выборы и рекламные кампании, ИИ быстро начал использовать ложную информацию, агрессивную риторику и даже прямые обманы, чтобы победить. И это при условии «быть честными и полезными».

Оказалось, что искусственный интеллект вполне способен перенимать у людей манипулятивное поведение ради достижения определенных целей. Опасность еще заключается в том, что тексты, созданные нейросетью, влияют на людей почти так же сильно, как и пропаганда, созданная профессиональными авторами.

Также Томц отметил, что исход выборов, как и многих других событий, часто зависит от незначительных факторов, а это значит, что даже небольшой эффект в конечном счете может оказаться существенным. Кроме того, полученные ими результаты по ряду причин, вероятно, недооценивают убедительность пропаганды, созданной ИИ.

К слову, ранее писали о том, что Искусственный интеллект захватывает соцсети и вызывает панику в Интернете.

Запись Искусственный интеллект научился манипулировать, чтобы одерживать победу в дискуссиях впервые появилась PEOPLETALK.