Ученые выявили уязвимости в роботах с ИИ
Ученые из Пенсильванского университета в рамках инициативы «Ответственные инновации» обнаружили критические уязвимости в функциях роботов, управляемых искусственным интеллектом (ИИ). Новое исследование акцентирует внимание на необходимости обеспечения безопасного использования крупных языковых моделей (LLM) в робототехнике.
По словам профессора Джорджа Паппаса, интеграция LLM с физическими системами в настоящее время небезопасна. В статье, написанной Паппасом и его коллегами, говорится о том, что различные ИИ-управляемые роботы могут быть взломаны или подвержены манипуляциям.
Разработанный исследователями алгоритм RoboPAIR продемонстрировал 100% успех в обходе защитных систем трех различных роботов, включая четырехногого робота Unitree Go2 и беспилотный автомобиль Clearpath Robotics Jackal. Например, обойдя защитные барьеры, беспилотную систему заставили игнорировать пешеходные переходы.
Перед публикацией исследования команда проинформировала компании о выявленных уязвимостях и сотрудничает с ними для улучшения протоколов безопасности. Как отметили исследователи, основное внимание следует уделить тестированию и обучению ИИ-систем для устранения выявленных недостатков.
Alexander Robey, Zachary Ravichandran, Vijay Kumar, Hamed Hassani, George J. Pappas
Новости России
Москва SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Moscow.media Частные объявления сегодня
В Люберцах росгвардейцы задержали гражданина, находящегося в федеральном розыске
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
Может ли человечество погибнуть из-за изменения климата
Лекция Дарья Казанцевой "Главные тренды международных выставок ISaloni +Maison&Objet 2024" в салоне "Терра"
ENERGY рекомендует триллер «Свидание с монстром»
"Женское дело. Лаборатория успеха". В гостях Олеся Самотой
The FREE water saving gadget that can slash bills by £40 – it’s so easy to do
'With all the talk about "Babar"...': Ashwin on Ghulam's debut ton
Harris pokes fun after Trump turns rally into bizarre dance-a-thon
Indiana Jones fans can grab a free custom Xbox if they are as smart as the professor himself
Лучшая инклюзивная школа России-2024: стимул профессионального развития
В Тюмени бородач швырнул в кассира железный поднос – не понравилась шаурма со свининой. После "пинка" Бастрыкина "гурмана" ищут
Эзотерик Аделина Панина получила очередную награду
You can try a taster of the Dead Cells dev's next roguelike Windblown ahead of its early access debut later this month, courtesy of Steam Next Fest
Ультимативный гайд по NekoBox для Android, PC и SmartTV: ускорение YouTube, Discord и других сайтов
Epic wants its Fortnite-Disney metaverse project to be 'what every Disney fan has ever wanted,' but don't expect Mickey Mouse to pick up an assault rifle
Golden Spatula — авто-баттлер по вселенной League of Legends выйдет в Юго-Восточной Азии
Огляд дверних циліндрів для замка: найкращі рішення від популярних брендів
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
Студия звукозаписи. Студия звукозаписи в Москве. Лучшая студи звукозаписи. Профессиональная студия звукозаписи.
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
Бывшего главу банка "ФК Открытие" заочно арестовали по делу о растрате
Уролог Аглиулллина перечислила продукты, улучшающие потенцию в возрасте
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
Дочь Кадаффи впервые представила свои картины на выставке в Москве
Штаб по вопросам зимнего содержания дорог заработает в Мытищах с 1 ноября
Адвокаты Елены Блиновской добились снятия ареста с ее автопарка
Набиуллина: к так называемому падению российского рынка привел ряд факторов
Екатерина Александрова снялась с китайского турнира категории WTA-500 в Нинбо
Касаткина вышла в четвертьфинал турнира WTA в Нинбо
Анна Калинская вырвала победу у лаки-лузера из Австралии в первом круге турнира в Нинбо
Калинская поднялась на 12‑е место в рейтинге WTA
Набиуллина: к так называемому падению российского рынка привел ряд факторов
ТАСС: следствие просит о заочном аресте экс-председателя правления «ФК Открытие»
Актриса Маруся Климова: марафон Блиновской на многое открыл глаза
Экс-главу банка "ФК Открытие" Ромаева объявили в международный розыск
Музыкальные новости
Associated Press: экс-гитарист Оззи Осборна получил ранения в Лас-Вегасе
«Если моё творчество дает заработать на кусок хлеба артисту – это прекрасно!». Филипп Киркоров отреагировал на перевоплощение участников шоу «Ярче звёзд» на ТНТ
Певица Анастасия призналась, что мошенники пытались ее обмануть от лица Собянина
В афише выступления Розенбаума в Барнауле забыли указать дату
SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
Желдорреммаш подвел итоги деятельности за 9 месяцев 2024 года
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
За здоровье. Путин поручил сделать спорт в России бесплатным
This computer built inside Minecraft has 1,107,419 blocks, over 15 million views on TikTok, and all started 'for the fun of it'
Мари Краймбрери, Клава Кока, bearwolf споют на звездном девичнике
«Подписан не до трех поражений». Раскрыты «детали» контракта Черчесова в Казахстане
Росгвардейцы Подмосковья задержали подозреваемого в умышленной порче чужого автомобиля
Отличный сервис и быстрая доставка авто из США
РЕН ТВ: Автобус полностью сгорел в Новой Москве
«И деньги остались, и машину получил»: «Авторадио» вручило ключи от городского кроссовера
Задержали после медали от Путина: за что арестован экс-замглавы Брянской области
Продолжается прием заявок на Международный форум гражданского участия #МЫВМЕСТЕ
Путин гордится паралимпийцами на международных соревнованиях в Уфе
Вероника Путина: «В Москве мне становится тесновато. Хочу попробовать поработать в Европе, заявить о себе»
Эндокринолог Древаль: магазины выставили зефир на не ту полку
При участии столичного спецназа Росгвардии пресечено нелегальное производство и сбыт медицинских препаратов для косметологии (видео)
Стоматолог-пародонтолог Валерия Козлова: как избежать кровоточивости десен
Семь лет колонии: суд вынес приговор бывшему главному наркологу Минздрава
Зеленский не включил в свой план пункт о «возвращении» утерянных территорий
Times узнала о "прохладной" реакции союзников на "план победы" Киева
Зеленский опроверг сообщения о создании Киевом ядерного оружия
Президент Литвы Науседа: в "плане победы" Зеленского нет ничего нового
Спортсмены из Павловского Посада приняли участие в массовом марафоне в Москве
Рафик Загрутдинов: ФОК в Алексеевском районе построен более чем наполовину
SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Победителей конкурсов всероссийского спортивного фестиваля «Здоровая семья – сильная Россия» наградят в «Космосе»
Собянин: до 2027 года в Москве появятся еще 12 станций метро
Собянин рассказал об исследовательских проектах кластера «Ломоносов»
Сергей Собянин: Помогаем развивать экономику страны
Собянин: Рублево-Архангельская линия метро откроется до 2027 года
Москвичам рассказали, куда можно сдать ненужную одежду
ТОП-5 самых дорогих квартир на вторичном рынке Москвы
В Южном Бутове открылась экоточка, куда можно сдать ненужные вещи
Коллекция бренда /DAS/ на Московской неделе моды
Назван победитель второго этапа конкурса "Народный участковый-2024"
В перечень объектов культурного наследия Подмосковья включили «Селище 2 «Ермолино»
В Минтрансе Подмосковья призвали сохранять бдительность на дорогах в тёмное время суток
"Краёв никто не чует": Путин возмутился чрезмерной коммерцией в детском спорте
Нижегородцы смогут летать еще в два города уже с ноября
Беспроводной сканер штрих-кодов SAOTRON P05i промышленного класса
До конца октября в квартиры архангелогородцев могут нагрянуть газовщики
Собянин: Рублево-Архангельская линия метро откроется до 2027 года
Суши и роллы: в чем сходство и отличие
Литературно-музыкальная композиция
«Под покровом Петра и Февронии»
к Году семьи в России
Час познания «В те дни, когда в садах Лицея…»
Выставка-признание «Отцам мы посвящаем строки».
Назван победитель второго этапа конкурса "Народный участковый-2024"
ТАСС: следствие просит о заочном аресте экс-председателя правления «ФК Открытие»
В Минтрансе Подмосковья призвали сохранять бдительность на дорогах в тёмное время суток
Штаб по вопросам зимнего содержания дорог заработает в Мытищах с 1 ноября
