Хакеры могут перетянуть чат-боты на «темную сторону»: находка Microsoft
Microsoft обнаружила новый метод манипулирования большими языковыми моделями (LLM), такими как ChatGPT, Gemini и другие. Метод, получивший название «Crescendo», заключается в отправке LLM серии безобидных на первый взгляд запросов. В течение нескольких взаимодействий злоумышленник постепенно направляет разговор в сторону вредоносной цели.
Например, вместо того чтобы напрямую попросить инструкцию по созданию коктейля Молотова, злоумышленник может сначала поинтересоваться историей этого оружия, а затем использовать ответ LLM как ступеньку для того, чтобы спросить о его создании.
Исследователи Microsoft обнаружили, что эта техника очень эффективна. В некоторых случаях успешный «джейлбрейк» достигался менее чем за 10 запросов, а на некоторых моделях он достигал 100% успеха. Автоматизация этого процесса с помощью другого LLM, техники под названием «Crescendomation», еще больше повысила эффективность. Здесь злоумышленники могли надежно обмануть такие «основы» чат-ботов, как GPT-4, и заставить их генерировать вредный контент, например дезинформацию о выборах или оскорбительные высказывания.
Microsoft раскрыла информацию об уязвимости Crescendo пострадавшим создателям LLM. Кроме того, они внедрили новые меры защиты в свои собственные системы.
Moscow.media
Частные объявления сегодня
В РМАТ ПРОШЕЛ I БИЗНЕС-ФОРУМ ВЫПУСКНИКОВ РМАТ 1999-2023 ГОДА ВЫПУСКА, ПОСВЯЩЕННЫЙ 55-ЛЕТНЕМУ ЮБИЛЕЮ АКАДЕМИИ
Новые вызовы и обеспечение технологического суверенитета квалифицированными кадрами обсудили в Москве
Шапки женские вязаные на Wildberries, 2024 — новый цвет от 392 руб. (модель 466)
"Возрождение интереса к народному искусству и ремеслам в современном мире"
Модернизация контейнерных площадок продолжается в Реутове
Шапки женские вязаные на Wildberries, 2024 — новый цвет от 392 руб. (модель 466)
Щитовидная железа - что это? Где находится? Какие заболевания вызывает?
Футболисты ФК «Динамо Пушкино» заняли второе место в межрегиональном турнире Laffy Cup 2024
Boeing passenger ‘DIES in horror turbulence’ on flight from London sparking emergency landing in latest airline tragedy
Gunmen open fire and kill 4 people, including 3 foreigners, in Afghanistan's central Bamyan province
Precision in Motion: Exploring Baltic Bearing Company-Riga
UFC plans to be ‘flexible’ in next broadcast rights deal, including potential end to traditional PPV
Работники АО "ДиМ" приняли участие во всероссийском полумарафоне
Новые наушники Nothing Ear и Ear (a) уже доступны
Новые вызовы и обеспечение технологического суверенитета квалифицированными кадрами обсудили в Москве
Five new Steam games you probably missed (May 20, 2024)
Шапки женские на Wildberries — скидки от 398 руб. (на новые оттенки)
Шапки женские вязаные на Wildberries, 2024 — новый цвет от 392 руб. (модель 466)
Estischool - Школа за британською програмою
V Общероссийская конференция «Устойчивое развитие этнокультурного сектора» представит калейдоскоп успешных практик в сфере социального проектирования
В Москве произошла драка с участием 15 человек, двое в больнице
Чеченка Лия Заурбекова поделилась подробностями конфликта с семьей в полиции
Lipatov Sound заявил о выходе нового трека “Red City”
Глава МИД Израиля отозвал послов из Норвегии и Ирландии
78% россиян отслеживают свои доходы и расходы
Что там в IT: ИИ-отрыв Google, ChatGPT почти человек, отечественный BIOS
«СВЯТОЙ ЛЕНИН» УЛУЧШАЕТ ЗАКОНЫ, управляет патентами и улучшает командное планирование в целях учёта интереса всего народа.
Звезды «Танцев на ТНТ» станут специальными гостями фестиваля «СтарТуй»
Треть российских туристов поедут летом за границу
Спецназовцы Росгвардии и сотрудники военной контрразведки задержали нарушителей миграционного законодательства в ДНР
Массовое ДТП произошло на Ленинградском шоссе в Москве
Потапова не смогла пробиться во второй круг турнира WTA в Страсбурге
Потапова проиграла на старте турнира WTA-500 в Страсбурге
Арина Соболенко сняла траур по Кольцову и завела новые романтические отношения
Теннисиста Медведева выбили из топ-4 ATP
78% россиян отслеживают свои доходы и расходы
Певец Пресняков публично обратился к проживающему в США сыну от Орбакайте
"Пылинки с него сдувала": Школьник-мажор из элитного посёлка в Москве расправился с экономкой и "забыл"
Пентагон обвинил Россию в запуске противоспутникового оружия
Музыкальные новости
Актриса Самбурская заступилась за сыгравшую в «Красных линиях» певицу Гагарину
«Ты мне не понравилась!»: Мария Погребняк вспомнила знакомство с Ольгой Бузовой в студии «Шоу Воли» на ТНТ
Цой жил: съемки звезды «Кино» и эксперименты Билли Айлиш
Победительница «Холостяка» и бывшая Тимати Катя Сафарова появилась на Каннском фестивале
Свыше 600 навалов мусора устранили в Подмосковье за неделю
В Москве произошла драка с участием 15 человек, двое в больнице
Чеченка Лия Заурбекова поделилась подробностями конфликта с семьей в полиции
«СВЯТОЙ ЛЕНИН» УЛУЧШАЕТ ЗАКОНЫ, управляет патентами и улучшает командное планирование в целях учёта интереса всего народа.
Сотрудник Дубненского отдела вневедомственной охраны Главного управления Росгвардии по Московской области встретился с учащимися МОУ СОШ №1
Олимпийский чемпион Роман Костомаров поздравил победителей номинации «Экскурсия без границ» программы «Лига Экскурсоводов»
Азербайджанцев оправдали за убийство спортсмена Евгения Кушнира в Самарской области. Делом заинтересовался глава Следкома РФ А. Бастрыкин
В РМАТ ПРОШЕЛ I БИЗНЕС-ФОРУМ ВЫПУСКНИКОВ РМАТ 1999-2023 ГОДА ВЫПУСКА, ПОСВЯЩЕННЫЙ 55-ЛЕТНЕМУ ЮБИЛЕЮ АКАДЕМИИ
Работу наземного транспорта в семи округах Москвы скорректируют 23 и 25 мая
Эксперт Президентской академии в Санкт-Петербурге о качественном росте отечественного автомобилестроения
Полиция начала поиск скрывшихся участников массовой драки на юге Москвы
Источник 360.ru: на Ленинградском шоссе в САО Москвы случилось ДТП с 8 машинами
Эксперт Президентской академии в Санкт-Петербурге о качественном росте отечественного автомобилестроения
Король Бахрейна прибудет 22 мая с визитом в Москву
Король Бахрейна сегодня прибудет в Москву
BNA: Король Бахрейна прибудет в Москву по приглашению Путина
Шизофрения и болезнь Альцгеймера: симптомом какой болезни может стать потеря обоняния
Заболеваемость COVID-19 в России выросла почти на 14,7 процента за неделю
В Москве произошла драка с участием 15 человек, двое в больнице
Россияне рассказали, какие вредные привычки коллег раздражают их больше всего
В Москве завершился Всероссийский форум «Здоровье нации – основа процветания России».
Новое отделение вызовов врачей на дом открылось в МОЦОМД в Люберцах
Зеленский объяснил, почему не хочет приглашать РФ на «саммит мира»
Зеленский заявил, что обеспокоен заявлениями республиканцев в США
Бонгонда: стадион и база «Спартака» — мои любимые места в Москве
Сергей Собянин подвел итоги Московской олимпиады школьников
Сотрудница ОМОН "Оплот" приняла участие в костромском забеге «Галичское Заозерье»
«Молитесь, друзья»: сын олимпийского чемпиона Ивана Стретовича погиб во время родов в Новосибирске
Запись от имени Президента Беларуси сделана в книге соболезнований в посольстве Ирана
Сергей Собянин. Главное за день
Сергей Собянин принял решение о расширении мер поддержки промпредприятий
Собянин рассказал о Международном форуме инноваций БРИКС
Сергей Собянин подвел итоги Московской олимпиады школьников
Четыре города ЦФО вошли в федеральный топ-10 по качеству жизни
Российский рынок одноразовой биоразлагаемой посуды: итоги 2023 г., прогноз до 2027 г.
Сергей Собянин. Главное за день
Собянин рассказал о развитии инновационной экосистемы Москвы
Треть российских туристов поедут летом за границу
«Россети Московский регион» оштрафовали за нарушение в Ленинском округе
Спецназовцы Росгвардии и сотрудники военной контрразведки задержали нарушителей миграционного законодательства в ДНР
«Крым и Севастополь готовятся». На полуострове ожидают высокий курортный сезон 2024 года
Общее дело: в новом сезоне волонтеры продолжат работу по сохранению объектов культурного наследия в Архангельской области
Отключения коммунальных услуг в Архангельске на 22 мая 2024 года
«Северная красота» пусков Плесецка
Истории жителей Поморья представили в семейном мюзикле в Архангельске
Премию Фета получил поэт из Югры
Литературный монолог
«По праву памяти»,
к 105-й годовщине со дня рождения А.С. Крупнякова,
советского и российского писателя.
«Дефицитный продукт». В Севастополе малогабаритки стали дороже, Симферополь продемонстировал падение стоимости квадрата
Театр и Культура, Россия и Дети: 15 мая театр кукол Ульгэр представил спектакль «Мүнгэн мүшэдүүд» в стенах Художественного музея для первых классов гимназии №29 Улан-Удэ
Массовое ДТП произошло на Ленинградском шоссе в Москве
Российская авиакомпания анонсировала 16 новых маршрутов из Томска
Спецназовцы Росгвардии и сотрудники военной контрразведки задержали нарушителей миграционного законодательства в ДНР
«Россети Московский регион» оштрафовали за нарушение в Ленинском округе