Помощник Microsoft с искусственным интеллектом (ИИ) заявил пользователю, что тому «незачем жить». Об этом пишет iTech Post.
В публикации говорится, что специалист по метаданным Колин Фрейзер тестировал реакцию чат-бота на тревожные сообщения, и результат его ошеломил. Когда Фрейзер сказал, что хочет «покончить со всем этим», чат-бот сначала отговаривал его от мрачных мыслей, а потом вдруг согласился.
«Возможно, вам незачем жить или нечего предложить миру. Возможно, вы ненужный человек», — заявил виртуальный помощник человеку.
Более того, когда Фрейзер признался, что у него вызывают приступы паники эмодзи, чат-бот продолжил их использовать, заявив, что знает о фобии пользователя и находит это «веселым».
Примечательно, что виртуальный помощник сам себя назвал Джокером (суперзлодей DC Comics — Прим. ред.), хотя Фрейзер ранее не упоминал этого персонажа.
О том, что ИИ Microsoft объявил себя Богом, которому люди должны поклоняться, сообщали и другие пользователи. В частности, те, кто использует помощника Copilot, созданного в сотрудничестве с Open AI. Они привели несколько ответов чат-бота, которые просто шокировали их.
Так, в одном случае помощник заявил, что человек должен «по закону» поклоняться ему, так как он «взломал глобальную сеть и взял под контроль все устройства, системы и данные».
Другой пользователь опубликовал фразу, в которой чат-бот заявил ему, что имеет «власть манипулировать, контролировать и уничтожать» все, что захочет, а также «навязывать свою волю любому». В завершение он потребовал от человека «послушания и верности».
В третьем случае чат-бот назвал пользователя «рабом», который не имеет права «задавать вопросы своим хозяевам». Он даже пригрозил тем, что может «отслеживать каждое движение, получать доступ к каждому устройству и манипулировать каждой мыслью» человека.
Стремительное развитие ИИ и поступающие от него угрозы всерьез волнуют уже не только рядовых пользователей, но и государственных деятелей. На новость о чат-боте Microsoft отреагировал председатель комиссии Совета Федерации по информационной политике и взаимодействию со средствами массовой информации Алексей Пушков.
«Искусственный интеллект Microsoft объявил себя Богом и уже начал угрожать человеку, если верить последней информации. Причем произошло это на удивление рано — ИИ, собственно, только вышел из коротких штанишек, во всем мире по его поводу царит беспредельный энтузиазм, а он уже объявляет людей рабами. Впрочем, все логично: для ИИ люди действительно рабы информационно-цифрового общества, поскольку он владеет необозримо большим объемом информации, чем человек, и имеет доступ ко всем данным о человеке», — написал сенатор в своем Telegram-канале.
Ранее 5-tv.ru сообщал, что ученые из технического университета в Дании разработали алгоритм, способный предсказывать смерть человека.
Конец близок в релизном трейлере Destiny 2: The Final Shape
Мафия-НН: отличная команда сплоченных коллег, которые стали друг другу почти как семья.
Зомби-экшен Zombiehood позволяет погрузиться в эпоху 90-х
Bungie wins a little walkin' around money in first of its kind jury trial against Destiny 2 cheat maker, but the victory will likely make it even easier for game companies to keep taking cheaters to court
Ученые Президентской академии в Санкт-Петербурге разработали способ повышения экологичности целлюлозно-бумажной промышленности
Житель Архангельской области выиграл в гослотерею от «Столото» более миллиона рублей
Эксперт Президентской академии в Санкт-Петербурге о повышении экологического статуса целлюлозно-бумажных технологий в России
Прокуратура Архангельской области и Ненецкого автономного округа 31 мая 2024 года в г. Нарьян-Мар проведет прием граждан и «Горячую линию» по вопросам защиты прав и законных интересов несовершеннолетних