ИИ научился распознавать опасные запросы
Ученые создали систему защиты для искусственного интеллекта, который создает изображения из текста. Разработка помогает распознать опасные или неэтичные запросы пользователей.
Инструмент под названием Latent Guard научился анализировать текстовые запросы и выявлять в них вредные понятия, даже если они перефразированы. Система работает как дополнительный фильтр, который не позволит искусственному интеллекту сгенерировать нежелательные картинки.
Latent Guard вдохновлен традиционными черными списками, но идет дальше. Разработчики научили систему понимать не только отдельные слова, но и общий смысл запроса. Это делает защиту более гибкой и эффективной.
Исследователи протестировали свое изобретение на большом количестве запросов, включая специально созданные опасные фразы. Результаты показали, что Latent Guard успешно распознает вредные намерения и блокирует их воплощение в картинках.
В скором времени разработчики планируют поделиться своим изобретением с другими специалистами. Публикация кода и обучающих материалов позволит другим группам усовершенствовать систему защиты и сделать искусственный интеллект еще более безопасным.
Moscow.media Частные объявления сегодня
Подведены итоги конкурса «Мы верим твердо в героев спорта»
Стоит ли отдавать ребенка в частную школу?
Стоит ли отдавать ребенка в частную школу?
Фестиваль «Песня года» 2024 состоится в ДС «Мегаспорт» в Москве
Невидимая угроза: врач Кутушов рассказал, как токсины попадают в вашу еду
Как адаптировать коллектив к новым вызовам и изменениям
Почему туристов в Сочи называют странным словом «бздых»
Желдорреммаш определил лучших работников локомотиворемонтных заводов 2024 года
Nottingham rampage victim’s families slam ‘shameful & arrogant’ BBC doc ‘too sympathetic’ to killer Valdo Calocane
Just hours left for thousands of hard-up households to get £100s worth of white goods or new boiler – how to claim now
Grisly suicide-pod tale blows up lies of ‘dignity’ in assisted suicide
My mother and I were still estranged when she died in 2019. I went to a medium to connect with her and it brought me closure.
Пиво и образование помогло Германии бороться с изменением климата
На путепроводе через КАД Петербурга в районе развязки с ЗСД введут реверс
Для ремонта дорог в Петербурге в 2025 году ищут подрядчиков
Elgato Game Capture Neo review
Мафия-НН: Густой аромат армянского кофе наполнил воздух старательно украшенной гостиной.
Today's Wordle answer for Sunday, September 29
New California law inspired by Ubisoft and Sony requires retailers to warn consumers that the digital games they buy can be taken away at any time
Токсиколог Кутушов рассказал, как не запутаться в витаминах D и D3
Как адаптировать коллектив к новым вызовам и изменениям
Знаки зодиака: Москвички предпочитают украшения со львом
Токсиколог Кутушов объяснил, что делать, если разбили ртутный градусник
Подведены итоги конкурса «Мы верим твердо в героев спорта»
Заммэра Ракова: самому возрастному москвичу исполнилось 108 лет
Фестиваль «Песня года» 2024 состоится в ДС «Мегаспорт» в Москве
Стоит ли отдавать ребенка в частную школу?
Нижний Новгород назван одним из лидеров по реализации климатической повестки
«Верить в доступность платежа под ставку 22% глупо». Кто будет покупать квартиры в новостройках Севастополя?
Свадьба на высоте – ведущий из Бердска провел свадебную церемонию на борту самолёта
Десятков: станцию метро «Новаторская» Троицкой линии строили горным способом
Сафиуллин проиграл Синнеру и не смог выйти в четвертьфинал теннисного турнира в Пекине
Первую ракетку мира подводят под срок // Всемирное антидопинговое агентство будет добиваться дисквалификации Янника Синнера
Павлюченкова объявила о досрочном завершении сезона
Томми Пол уступил Томашу Махачу во втором круге турнира ATP-500 в Токио
Подмосковное УФАС признало СЗ «Коренево Девелопмент» нарушившим закон о рекламе
Заммэра Ракова назвала возраст самого пожилого жителя Москвы
Экспорт продукции Москвы в страны БРИКС+ превысил 21 млрд рублей
Свадьба на высоте – ведущий из Бердска провел свадебную церемонию на борту самолёта
Музыкальные новости
Трещит голова и тотальная слабость: Доктор Кутушов объяснил, как метеозависимость влияет на наше состояние
Певица Алсу снялась без фильтров и макияжа после омолаживающей процедуры
Гарик Харламов: «Мы подтверждаем, что Comedy Club закрывается»
Offset обвинил Карди Би в измене. Подробности!
Невидимая угроза: врач Кутушов рассказал, как токсины попадают в вашу еду
Как адаптировать коллектив к новым вызовам и изменениям
Токсиколог Кутушов рассказал, как не запутаться в витаминах D и D3
Токсиколог Кутушов объяснил, что делать, если разбили ртутный градусник
Где найти запчасти на китайские авто?
Борис Джонсон в пандемию планировал вторжение в Нидерланды ради вакцины
Росгвардейцы в Тюмени обеспечили безопасность Международных соревнований по спортивной борьбе и матча Чемпионата России по хоккею
"Фонтанка": в Пулково задержали похитителя ребенка, которого искали семь лет
Где найти запчасти на китайские авто?
Больше всего в 2024 году инвестируют в производство компьютеров, транспортных средств и медикаментов
Проверка подлинности автозапчастей: алгоритм
ЦЕРЕМОНИЯ ПЕРЕДАЧИ КЛЮЧЕЙ РОСГВАРДЕЙЦАМ ОТ НОВЫХ АВТОМОБИЛЕЙ ПРОШЛА В САРАТОВЕ
Невидимая угроза: врач Кутушов рассказал, как токсины попадают в вашу еду
Токсиколог Кутушов объяснил, что делать, если разбили ртутный градусник
Токсиколог Кутушов назвал дефицит магния причиной
проблем с пищеварением
Как адаптировать коллектив к новым вызовам и изменениям
Пресс-секретарь Зеленского: граждане РФ первыми узнают о разрешении Киеву бить вглубь России
В Мытищах прошли соревнования по греко-римской борьбе
Современные тренажёры и трибуна для зрителей: Большой парк для собак открыли на юге Москвы
«Динамо Мх» — «Динамо М»: видеообзор матча РПЛ с эффектным голом Нгамале
«Динамо» (Махачкала) — «Динамо» (Москва): когда начало, где смотреть онлайн матч 10‑го тура РПЛ, 29 сентября
Сергей Собянин рассказал, как город поддерживает экспорт в страны БРИКС
Новосибирск вошел в топ-5 городов-миллионников по внедрению экологичного транспорта
«Желтый туман» над югом России: Песчаные бури доберутся до Москвы? Отвечает ФОБОС
Экокожа – это не кожзам! Достойная альтернатива кожаной обивке офисных кресел
"Росатом" и Конго дорабатывают сделку по возобновляемой энергии и плавучим АЭС
EXEED RX. Новая комплектация с классическим «автоматом» и попаданиев «Топ-5 Авто» в России.
Десятков: станцию метро «Новаторская» Троицкой линии строили горным способом
Заммэра Ракова назвала возраст самого пожилого жителя Москвы
Прокуратура Москвы показала фото сгоревшей квартиры после смертельного пожара
Ефимов: на станции «Рублево-Архангельская» готовятся к проходке тоннелей
В Гидрометцентре прогнозируют температуру на 6-10°С выше нормы в нескольких регионах России
В Архангельске возобновилась реконструкция международного аэропорта в Талагах
Прокуратура проверяет информацию о пропаже вертолета в Архангельской области
Ретро-вечер «Джентльмен удачи – Савелий Крамаров»
Прогноз погоды в Крыму на 29 сентября
Под Симферополем продолжается строительство нового крупного микрорайона
В Симферополе появится новый бизнес-центр “Крымский”
Датчики не сработали: жителей ЖК в Ильменском проезде не оповестили о пожаре
Ирина Волк: Сотрудники УВД на Московском метрополитене задержали жителя столицы, который подозревается в хулиганстве с применением ножа
МЧС: пожар в жилом доме на Ильменском проезде ликвидирован
В Софринской бригаде оперативного назначения Росгвардии открыли аллею памяти
