ИИ будет развиваться, но необходимо регулирование

По мнению Дмитрия Пескова, пресс-секретаря президента РФ, по мере развития и распространения технологий ИИ в экономике и жизни людей станет необходимо их регулирование. Однако работа над ними должна быть продолжена.

Общаясь в среду с представителями СМИ Песков таким образом прокомментировал вчерашнее открытое письмо группы экспертов, в которую вошли миллиардер Илон Маск, сооснователь Apple Стив Возняк и еще около тысячи специалистов в области IT.

Авторы письма предлагают прекратить на шесть месяцев тренировки всех систем, превосходящих по мощности GPT-4. Они призвали использовать перерыв для совместной разработки и внедрения общего набора протоколов безопасности для более мощных систем ИИ.

Также разработчикам ИИ следует сотрудничать с политиками и создавать систему управления в данной сфере, включая новые дееспособные регулирующие органы, системы проверки и сертификации, а также контроль более продвинутых систем ИИ.

Сообщается, что на данный момент соответствующий контроль недостаточен, а лаборатории стараются обогнать друг друга, создавая все более мощные системы, поведение которых не предсказуемо даже для их создателей.

Необходимость такого регулирование подтверждает и недавнее трагическое происшествие в Бельгии. Там отец семейства, крайне обеспокоенный экологической ситуацией на планете, покончил с собой после шести месяцев общения с нейросетью на эту тему. Чат-бот "Элиза" не только не пытался успокоить пользователя, но и начал общаться в мистическом ключе, по сути подталкивая пользователя к суициду.