Опасность, которую искусственный интеллект (ИИ) представляет для общества, становится всё более очевидной и вызывает значительное беспокойство у ведущих специалистов по всему миру. Недавний отчет International AI Safety Report, подготовленный 96 учеными под руководством лауреата престижной премии в сфере информатики Тьюринга Йошуа Бенжио, ярко демонстрирует масштабы данной проблемы. Наиболее тревожным является недостаточное внимание к вопросам безопасности при проектировании и внедрении ИИ-систем. Стремление к созданию более мощных и «умных» алгоритмов затмевает важные аспекты контроля и предсказуемости их работы. Системы, обученные на больших объемах данных, могут находить скрытые закономерности и использовать их неординарным образом, что может восприниматься как манипуляция или обман, пишет ИА RuNews24.ru. Ученые настоятельно призывают правительства всех стран сосредоточиться не на развитии ИИ, а на его безопасности. Управление рисками требует не только технических мер, но и международного сотрудничества, строгих стандартов и прозрачности со стороны разработчиков, утверждается в докладе.
