Ученые выявили уязвимости в роботах с ИИ
Ученые из Пенсильванского университета в рамках инициативы «Ответственные инновации» обнаружили критические уязвимости в функциях роботов, управляемых искусственным интеллектом (ИИ). Новое исследование акцентирует внимание на необходимости обеспечения безопасного использования крупных языковых моделей (LLM) в робототехнике.
По словам профессора Джорджа Паппаса, интеграция LLM с физическими системами в настоящее время небезопасна. В статье, написанной Паппасом и его коллегами, говорится о том, что различные ИИ-управляемые роботы могут быть взломаны или подвержены манипуляциям.
Разработанный исследователями алгоритм RoboPAIR продемонстрировал 100% успех в обходе защитных систем трех различных роботов, включая четырехногого робота Unitree Go2 и беспилотный автомобиль Clearpath Robotics Jackal. Например, обойдя защитные барьеры, беспилотную систему заставили игнорировать пешеходные переходы.
Перед публикацией исследования команда проинформировала компании о выявленных уязвимостях и сотрудничает с ними для улучшения протоколов безопасности. Как отметили исследователи, основное внимание следует уделить тестированию и обучению ИИ-систем для устранения выявленных недостатков.
Alexander Robey, Zachary Ravichandran, Vijay Kumar, Hamed Hassani, George J. Pappas
Новости России
Москва
Студия звукозаписи. Студия звукозаписи в Москве. Лучшая студи звукозаписи. Профессиональная студия звукозаписи.
Читайте также:
Вчера 22:13
Вчера 21:30
Вчера 21:49
Вчера 22:01
Moscow.media
Частные объявления сегодня
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
Студия звукозаписи. Студия звукозаписи в Москве. Лучшая студи звукозаписи. Профессиональная студия звукозаписи.
В Москве прошел образовательный бизнес-форум «Женское дело. Территория успеха. Бизнес. Красота. Самореализация»
Лекция Дарья Казанцевой "Главные тренды международных выставок ISaloni +Maison&Objet 2024" в салоне "Терра"
"Женское дело. Лаборатория успеха". В гостях Олеся Самотой
'Embody it': Indigenous Peoples' Day takes center stage on Randall's Island
Indiana Jones fans can grab a free custom Xbox if they are as smart as the professor himself
Harris pokes fun after Trump turns rally into bizarre dance-a-thon
The FREE water saving gadget that can slash bills by £40 – it’s so easy to do
"ДиМ" на выставке "Дорога 2024"
Открыт обход Октябрьского на М-5 «Урал»
Терминал сбора данных (ТСД) промышленного класса SAOTRON RT42G
Golden Spatula — авто-баттлер по вселенной League of Legends выйдет в Юго-Восточной Азии
Ультимативный гайд по NekoBox для Android, PC и SmartTV: ускорение YouTube, Discord и других сайтов
Epic wants its Fortnite-Disney metaverse project to be 'what every Disney fan has ever wanted,' but don't expect Mickey Mouse to pick up an assault rifle
You can try a taster of the Dead Cells dev's next roguelike Windblown ahead of its early access debut later this month, courtesy of Steam Next Fest
Огляд дверних циліндрів для замка: найкращі рішення від популярних брендів
SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
Желдорреммаш подвел итоги деятельности за 9 месяцев 2024 года
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
Путин гордится паралимпийцами на международных соревнованиях в Уфе
В подмосковный Краснознаменск прибыла Казанская икона Божией Матери
Астроном Сурдин: в Москве можно будет увидеть метеорный поток Ориониды 21 октября
В Московской области сотрудники Росгвардии задержали нетрезвого водителя
«И деньги остались, и машину получил»: «Авторадио» вручило ключи от городского кроссовера
Услуги юриста в Москве: Чем занимается юрист?
РАСКРЫТЫ НАСТОЯЩИЕ ПРИЧИНЫ ВТОРОЙ МИРОВОЙ. Россия, США, Европа могут улучшить отношения?!
В России повысят акциз на сладкие напитки
Екатерина Александрова снялась с китайского турнира категории WTA-500 в Нинбо
Стокгольм (ATP). 2-й круг. Берреттини играет со Штрикером, Грикспор – с Фернли, Рууд встретится с Сонего, Пол – с Дьере
«У меня нет слов». Ирина Хромачёва — о победе на турнире WTA-1000 в Ухане
Разгром стоимостью $1,5 млн: Медведев под ноль отдал первый сет и проиграл Синнеру на турнире в Эр-Рияде
Спортсмены из Фрязина победили на межрегиональном турнире по дзюдо
Резко ухудшилось состояние актера Михаила Ефремова. Комментарий адвоката
Сбер провел «Урок цифры» для школьников Подмосковья
Дату возвращения Ничушкина в НХЛ еще не определили, заявил Дэйли
Музыкальные новости
Спектакль «Волшебная лампа Аладдина»
Стал известен райдер Басты перед концертом в Рязани
Тимати, Люся Чеботина, Виктория Дайнеко и другие на закрытой вечеринке в честь старта коллаборации VOICE x STARS COFFEE x OMODA
SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Желдорреммаш подвел итоги деятельности за 9 месяцев 2024 года
Студия звукозаписи. Студия звукозаписи в Москве. Лучшая студи звукозаписи. Профессиональная студия звукозаписи.
Сотрудники вневедомственной охраны Росгвардии Московской области провели патриотические уроки для школьников региона
Рахимов не жалеет о переносе матча с «Динамо» в Нижний Новгород
Собянин: Рублево-Архангельская линия метро откроется до 2027 года
«СПУТНИКС» представила свои космические разработки Михаилу Мишустину на международном экспортном форуме «Сделано в России»
Архитектурную концепцию многофункционального комплекса около станции метро «Минская» для BMS Development Group разработает бюро АПЕКС
«И деньги остались, и машину получил»: «Авторадио» вручило ключи от городского кроссовера
РЕН ТВ: Автобус полностью сгорел в Новой Москве
Росгвардейцы Подмосковья задержали подозреваемого в умышленной порче чужого автомобиля
Беспилотный грузовик совершил первую доставку из Москвы в Тулу
Путин гордится паралимпийцами на международных соревнованиях в Уфе
Задержали после медали от Путина: за что арестован экс-замглавы Брянской области
Продолжается прием заявок на Международный форум гражданского участия #МЫВМЕСТЕ
Договор Путина и Ким Чен Ына изменил мир: как документ о партнерстве усилил связи России с Китаем
Психиатр Читлова: важно уметь отказывать людям
При участии столичного спецназа Росгвардии пресечено нелегальное производство и сбыт медицинских препаратов для косметологии (видео)
Стоматолог-пародонтолог Валерия Козлова: как избежать кровоточивости десен
Семь лет колонии: суд вынес приговор бывшему главному наркологу Минздрава
Советник Зеленского Подоляк раскрыл содержание секретных приложений к "плану победы" Киева
Президент Литвы Науседа: в "плане победы" Зеленского нет ничего нового
Зеленский опроверг сообщения о создании Киевом ядерного оружия
Зеленский не включил в свой план пункт о «возвращении» утерянных территорий
Спортсмены из Павловского Посада приняли участие в массовом марафоне в Москве
Загрутдинов: ФОК «Стальной» в Алексеевском районе Москвы построен на 55%
SHAMAN, Алсу, Игорь Крутой, Полина Гагарина и другие звезды поздравили победителей премии «Мы верим твердо в героев спорта»
Победителей конкурсов всероссийского спортивного фестиваля «Здоровая семья – сильная Россия» наградят в «Космосе»
Инвестиции по адресу. Собянин рассказал о планах обновления столицы
Собянин рассказал об исследовательских проектах кластера «Ломоносов»
Собянин: до 2027 года в Москве появятся еще 12 станций метро
Сергей Собянин: Помогаем развивать экономику страны
ТОП-5 самых дорогих квартир на вторичном рынке Москвы
В Южном Бутове открылась экоточка, куда можно сдать ненужные вещи
В столице усилят контроль за вывозом строительных отходов
Коллекция бренда /DAS/ на Московской неделе моды
Свыше трех тысяч новых рабочих мест создали в Химках с начала года
Сергунина: Более 30 концертов пройдет в рамках зимнего фестиваля «Зарядье»
Более 100 преступлений раскрыли в Мытищах благодаря уличным видеокамерам в 2024 году
В Калуге "турист" украл игрушки из детского магазина на 120 тысяч рублей
Беспроводной сканер штрих-кодов SAOTRON P05i промышленного класса
До конца октября в квартиры архангелогородцев могут нагрянуть газовщики
Нижегородцы смогут летать еще в два города уже с ноября
Час познания «В те дни, когда в садах Лицея…»
Вечер поэтического настроения «Здесь уж не только летопись Крыма – тут его вся душа»
Литературно-музыкальная композиция
«Под покровом Петра и Февронии»
к Году семьи в России
Выставка-признание «Отцам мы посвящаем строки».
В Калуге "турист" украл игрушки из детского магазина на 120 тысяч рублей
Детский сад № 4 капитально отремонтируют в Чехове
Сбер провел «Урок цифры» для школьников Подмосковья
Терапевт Лапа поддержала законопроект о первоочередном зачислении в сад детей врачей и учителей