Ученые обнаружили новую угрозу от ИИ для людей: в чем дело

Это может изменить мировую экономику. Рассказываем, что известно.

Специалисты по этике искусственного интеллекта Кембриджского университета опубликовали статью, в которой предупреждают о вероятных угрозах, исходящих от искусственного интеллекта. Они касаются в первую очередь поведенческого анализа и экономических прогнозов, с помощью которых ИИ сможет буквально управлять мотивами и действиями людей, а тем не удастся этому влиянию противостоять, поскольку оно не будет осознаваемым.

В частности, предполагается, что в ближайшем будущем могут появиться системы ИИ, которые будут прогнозировать и влиять на процессы принятия решений на ранней стадии. А самое главное — компании-разработчики могут продавать эти «намерения», создавая фактически новую отрасль экономики, воздействие которой на мировые рынки и социум сейчас трудно даже оценить. Компании будут пытаться удовлетворить запросы людей еще до того, как последние их осознают и сформулируют.

По мнению авторов статьи, это открывает определенные перспективы, но в то же время создает массу угроз. Они назвали новую отрасль «экономикой намерений». Причем влияние может распространяться как на банальное решение о покупке билетов в кино, так и на значимые действия на политических выборах. Более того, исследователи уже видят признаки движения в этом направлении со стороны крупных технологических компаний.