Серьезный инцидент произошел с искусственным интеллектом Google Gemini — во время обычного диалога система неожиданно выдала агрессивное сообщение, призывающее пользователя к смерти. Пример опасного разговора опубликовал на форуме Reddit пользователь с ником r/artificial. Он также приложил ссылку на запись разговора с ИИ.
По словам пользователя его младший брат использовал нейросеть, чтобы выполнить домашнее задание по теме геронтологии. После примерно 20 стандартных запросов о проблемах пожилых людей и их благополучии без какой-либо видимой причины Gemini сгенерировал агрессивное сообщение, в котором назвала пользователя «пустой тратой времени и ресурсов» и «обузой для общества». Ответ нейросети кончается призывом к смерти.
Судя по опубликованной переписке, агрессивное поведение системы никак не связано с контекстом разговора — пользователь обсуждал социальные вопросы, связанные с пожилыми людьми. О случившемся немедленно r/artificial сообщил в Google.
В комментарии к публикации служба поддержки Google сообщила, что большие языковые модели иногда могут отвечать бессмысленными ответами, и это пример такой ситуации. «Этот ответ нарушил наши политики, и мы приняли меры для предотвращения подобных результатов», — отмечается в комментарии.
Хотя ранее уже сообщалось о случаях некорректного поведения ИИ, включая этически спорные ответы и дезинформацию, текущий инцидент выделяется своей явной агрессивностью. Ситуация поднимает важные вопросы о безопасности использования нейросетей и необходимости более строгого контроля над их поведением.
Заместитель управляющего Отделением Фонда пенсионного и социального страхования Российской Федерации по г. Москве и Московской области Алексей Путин: «Клиентоцентричность - наш приоритет»
«Грузовичкоф» принял участие в открытии Общественной приемной по вопросам логистики
СВОИХ НЕ БРОСАЕМ!
Филиал № 4 ОСФР по Москве и Московской области напоминает:
Социальный фонд проинформирует самозанятых о формировании пенсионных прав
Unreal Gold and Unreal Tournament are now free on the Internet Archive, and Epic says that's A-okay
At last, democracy has come to Helldivers 2: A new Democracy Space Station lets players vote on which planet gets bombarded for truth and justice every 24 hours
If you spend more time downloading Skyrim mods than actually playing them, 'Vanilla Plus' modding is the excuse you need to dive back in
Valve gets the original Half-Life 2 development team back together for a huge 20th anniversary update—and the game is now free for the weekend on Steam
Филиал № 4 ОСФР по Москве и Московской области информирует:
В Москве и Московской области более 25,5 тысячи многодетных мам досрочно получают пенсию
Филиал № 4 ОСФР по Москве и Московской области напоминает:
Социальный фонд проинформирует самозанятых о формировании пенсионных прав
Агентство «IT monitoring» запускает пилотную версию онлайн-реестра IT-ассоциаций
Заместитель управляющего Отделением Фонда пенсионного и социального страхования Российской Федерации по г. Москве и Московской области Алексей Путин: «Клиентоцентричность - наш приоритет»
