Несмотря на всестороннюю развитость искусственного интеллекта, он достаточно уязвим. Решить этот вопрос не удастся еще очень долгое время.
В последнее время в IT-сообществе все больше разговоров о создании сверхчеловеческого искусственного интеллекта. Несмотря на то, что ИИ способен обыграть лучших гроссмейстеров в шахматах, в настолке «Го», его превосходство является достаточно хрупким. В связи с этим исследователи решили выяснить, смогут ли будущие ИИ-системы избавиться от проблем с безопасностью и надежностью. Получится ли у них претендовать на сверхчеловеческую эффективность.
Стивен Каспер, специалист по информатике из Массачусетского технологического института в Кембридже, добавляет, что на сегодняшний день создать сверхэффективный искусственный интеллект очень сложно, практически невозможно. Согласно опубликованному анализу, современные ИИ-системы не способны преодолеть состязательные атаки. Это когда с помощью нехитрых методов и уловок (подсказок) можно вынудить ИИ выдать вредоносную информацию, которую нейросеть должна скрывать.
Эксперимент с KataGo
В 2022 году исследователи создали ИИ-ботов, способных обыгрывать KataGo — лучшую систему искусственного интеллекта для игры в «Го». Обычно KataGo справляется с лучшими Го-игроками, но боты смогли найти эксплойты и обыграть ее. Интересно, но против простых людей боты часто были бессильны. Указывает ли это на фундаментальную слабость KataGo и прочих разработок искусственного интеллекта, обладающих на первый взгляд сверхчеловеческими способностями? Разобраться с этим решил исполнительный директор FAR AI Адам Глив.
Спортивные игры в СЛД "Москва-Сортировочная" филиала "Московский"
Филиал № 4 ОСФР по Москве и Московской области информирует:
За полгода 14,9 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
Филиал № 4 ОСФР по Москве и Московской области информирует:
С начала 2024 года 140 тысяч женщин и новорожденных Московского региона получили услуги по родовым сертификатам
Представители «Метровагонмаш-Сервиса» посетили СЛД «Москва-Сортировочная» филиала «Московский» компании «ЛокоТех-Сервис» для обмена опытом
В Домодедово сотрудники Росгвардии задержали подозреваемого в краже партии товаров.
Филиал № 4 ОСФР по Москве и Московской области информирует:
За полгода 14,9 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
Представители «Метровагонмаш-Сервиса» посетили СЛД «Москва-Сортировочная» филиала «Московский» компании «ЛокоТех-Сервис» для обмена опытом
"Он очень больной мальчик": диаспора просит отпустить мигранта проломившего голову депутату Госдумы Матвееву.
Филиал № 4 ОСФР по Москве и Московской области информирует:
За полгода 14,9 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
В Москве прошло заседание оргкомитета форума «Российская энергетическая неделя»
Отрытый конкурс красоты и таланта «Одна на миллион»
Филиал № 4 ОСФР по Москве и Московской области информирует:
С начала 2024 года 140 тысяч женщин и новорожденных Московского региона получили услуги по родовым сертификатам
22 июля Всемирный день мозга. Отвечаем на популярные вопросы о когнитивных расстройствах
Главный врач клиники микрохирургии глаза АйМед Элина Санторо: что такое катаракта на самом деле
Парк "Три вулкана" Группы "Интеррос" задает "зеленые" стандарты качества отечественного туризма
Филиал № 4 ОСФР по Москве и Московской области информирует:
За полгода 14,9 тысячи жителей Московского региона оформили страховую пенсию в автоматическом режиме на портале госуслуг
Продвижение Музыки. Раскрутка Музыки. Продвижение Песни. Раскрутка Песни.
Shaman назвал выступление у посольства США ответом РФ на блокировку на YouTube
Спортивные игры в СЛД "Москва-Сортировочная" филиала "Московский"
Молодёжь сервисного локомотивного депо «Сольвычегодск» филиала «Северный» ООО «ЛокоТех-Сервис» выиграла дорожный этап интеллектуальной лиги ОАО «РЖД» «Что? Где? Когда?»
