Ученые создали систему защиты для искусственного интеллекта, который создает изображения из текста. Разработка помогает распознать опасные или неэтичные запросы пользователей.
Инструмент под названием Latent Guard научился анализировать текстовые запросы и выявлять в них вредные понятия, даже если они перефразированы. Система работает как дополнительный фильтр, который не позволит искусственному интеллекту сгенерировать нежелательные картинки.
Latent Guard вдохновлен традиционными черными списками, но идет дальше. Разработчики научили систему понимать не только отдельные слова, но и общий смысл запроса. Это делает защиту более гибкой и эффективной.
Исследователи протестировали свое изобретение на большом количестве запросов, включая специально созданные опасные фразы. Результаты показали, что Latent Guard успешно распознает вредные намерения и блокирует их воплощение в картинках.
В скором времени разработчики планируют поделиться своим изобретением с другими специалистами. Публикация кода и обучающих материалов позволит другим группам усовершенствовать систему защиты и сделать искусственный интеллект еще более безопасным.
Филиал № 4 ОСФР по Москве и Московской области информирует:
В Московском регионе более 62 тысяч семей распорядились материнским капиталом через банки
В Подмосковье сотрудники Росгвардии спасли пожилого мужчину, который оказался один дома и плохо себя почувствовал
За один день работники Уссурийского ЛРЗ и их дети выполнили сменно-суточное задание по ремонту 129 паровозиков
Филиал № 4 ОСФР по Москве и Московской области информирует:
С начала года более 4,7 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
Филиал № 4 ОСФР по Москве и Московской области информирует:
Более 4,4 млн пенсионеров старше 80 лет получают повышенные выплаты
История без фальсификации: Шемахи в первой половине XVIII века
Отделением СФР по Москве и Московской области в 2024 году выдано решение о финансовом обеспечении предупредительных мер 323 страхователям на сумму более 129 миллионов рублей
Филиал № 4 ОСФР по Москве и Московской области информирует:
В Московском регионе более 62 тысяч семей распорядились материнским капиталом через банки
История без фальсификации: Шемахи в первой половине XVIII века
Отделением СФР по Москве и Московской области в 2024 году выдано решение о финансовом обеспечении предупредительных мер 323 страхователям на сумму более 129 миллионов рублей
В Подмосковье сотрудники Росгвардии спасли пожилого мужчину, который оказался один дома и плохо себя почувствовал
Филиал № 4 ОСФР по Москве и Московской области информирует:
С начала года более 4,7 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
