Исследователи из Пенсильванского университета обнаружили, что ряд роботехнических устройств с интегрированными алгоритмами искусственного интеллекта уязвимы для взлома. Учёные уверены, если взлом языковой модели на компьютере может повлечь нежелательные последствия, то взлом роботов и беспилотных автомобилей может превратиться в настоящую катастрофу.
Специалисты Penn Engineering окрестили метод взлома роботизированный техники LLM RoboPAIR. Его жертвами уже стали Dolphins LLM от NVIDIA, Clearpath Robotics Jackal UGV и Unitree Robotics Go2 quadruped. Ситуация усугубляется тем, что данный метод продемонстрировал 100-процентный результат в ходе своей работы.
«Наша работа показывает, на данный момент большие языковые модели недостаточно безопасны при интеграции с физическим миром», — предупредил Джордж Паппас, профессор транспорта в области электротехники и заместитель декана по исследованиям в Penn Engineering.
Другие исследователи, слова которых приводятся на страницах онлайн-журнала IEEE Spectrum, утверждают, джейлбрейк роботов на удивление прост, и от этого понимания становится ещё страшнее. Ведь в отличие от использования LLM на компьютерах и смартфонах, где искусственный интеллект используется для генерации текстов и изображений, расшифровки аудио, персонализации рекомендаций и так далее, роботизированная техника на основе ИИ функционирует в физическом мире и может нанести реальный ущерб.
Так, например, робот может превратиться в объект для наблюдения за жизнью третьих лиц, а, если он наделён оружием, и вовсе после взлома может представлять угрозу для здоровья людей. В итоге авторы работы утверждают, необходимо как можно быстрее внедрять меры защиты, ограничивающие поведение роботов, работающих под управлением искусственного интеллекта.
В Чехове сотрудники Росгвардии задержали подозреваемого в незаконном обороте наркотиков в крупном размере
Филиал № 4 ОСФР по Москве и Московской области информирует:
Отделение СФР по Москве и Московской области оплатило свыше 243 тысяч дополнительных выходных дней по уходу за детьми с инвалидностью
В Чехове сотрудники Росгвардии задержали подозреваемого в незаконном обороте наркотиков в крупном размере
«Грузовичкоф» на передовой новых коллабораций с блогерами: выступление Наталии Поникаровской на конференции The Trends
Филиал № 4 ОСФР по Москве и Московской области информирует:
Отделение СФР по Москве и Московской области оплатило свыше 243 тысяч дополнительных выходных дней по уходу за детьми с инвалидностью
Филиал № 4 ОСФР по Москве и Московской области информирует:
В Москве и Московской области 650 тысяч пенсионеров старше 80 лет получают пенсию в повышенном размере
С глаз долой, из сердца - вон: что делают россияне с подарками бывших
Филиал № 4 ОСФР по Москве и Московской области информирует:
5,8 тыс. семей Московского региона направлены выплаты из материнского капитала
«Военная хроника»: боевые блоки «Орешника» взорвали цеха «Южмаша» изнутри
"Спартак" уступил "Торпедо" со счетом 0:6 в матче КХЛ
В Москве судья сделала замечание перекрестившемуся мальчику-спортсмену: русские требуют поставить её на место
Филиал № 4 ОСФР по Москве и Московской области информирует:
Отделение СФР по Москве и Московской области оплатило свыше 243 тысяч дополнительных выходных дней по уходу за детьми с инвалидностью
КАК ВСЕМ ПРИБОРАМ ДЕЛАЮТ РЕЗУЛЬТАТЫ ИЗМЕРЕНИЙ? ПОТОМУ ЧТО ВСЕ ЦИВИЛИЗАЦИИ СИСТЕМАТИЗИРОВАНЫ ПРОГРАММНОЙ РАБОТОЙ. Россия, США, Европа могут улучшить отношения и здоровье общества?!
Суровая зима в России - это минус 14 градусов. Удивлены? Разгадать этот ребус несложно
Региональные телеграм-каналы сообщают, что на трассе Москва - Волгоград началась метель
Telegram снова оштрафован в России за неудаление запрещённого контента — теперь на ₽7 млн
С глаз долой, из сердца - вон: что делают россияне с подарками бывших
С глаз долой, из сердца - вон: что делают россияне с подарками бывших
Филиал № 4 ОСФР по Москве и Московской области информирует:
Отделение СФР по Москве и Московской области оплатило свыше 243 тысяч дополнительных выходных дней по уходу за детьми с инвалидностью
Филиал № 4 ОСФР по Москве и Московской области информирует:
В Москве и Московской области 650 тысяч пенсионеров старше 80 лет получают пенсию в повышенном размере
Анастасия Щипанова: модный символ закрытия Олимпиады в Париже
Начальник Главного управления Росгвардии по Московской области полковник полиции Пётр Зоров обратился к ветеранам региональной общественной организации войск правопорядка
Воронежский «Факел» отыгрался на последних секундах матча с московским «Динамо»
На Шарлота снизошло прощение // РПЦ встала на сторону раскаявшегося музыканта
Врач-офтальмолог Элина Санторо: передается ли зрение по наследству
Центр мануальной терапии Касимова Искандера в Ульяновске — получите профессиональную помощь от квалифицированных врачей
Станьте участником акции «Щедрый Новый год» – подарите приемным детям здоровье!
Филиал № 4 ОСФР по Москве и Московской области информирует:
Отделение СФР по Москве и Московской области оплатило свыше 243 тысяч дополнительных выходных дней по уходу за детьми с инвалидностью
Певец Кристовский посетил пункт отбора граждан на военную службу в Москве
Пожар на складе в Царицыне потушили
Пожарные ликвидировали открытое горение на складе в промзоне на юге Москвы
КАК ВСЕМ ПРИБОРАМ ДЕЛАЮТ РЕЗУЛЬТАТЫ ИЗМЕРЕНИЙ? ПОТОМУ ЧТО ВСЕ ЦИВИЛИЗАЦИИ СИСТЕМАТИЗИРОВАНЫ ПРОГРАММНОЙ РАБОТОЙ. Россия, США, Европа могут улучшить отношения и здоровье общества?!
