«Ешьте камни»: Новый продукт Google AI Overview дает странные советы пользователям

Экспериментальный инструмент AI Overviews просматривает интернет, чтобы обобщить результаты поиска с использованием модели Gemini AI. Эта функция была доступна некоторым пользователям в США в преддверии ее глобального релиза, запланированного на конец этого года, сообщил Google 14 мая на своей конференции. Этот инструмент уже вызвал широкое обсуждение в социальных сетях. Пользователи утверждают, что в некоторых случаях AI Overviews генерировал сводки, используя статьи с сатирического сайта The Onion и комедийные посты Reddit в качестве источников.

«Вы также можете добавить в соус около ⅛ стакана нетоксичного клея, чтобы придать ему больше липкости», — отвечает AI Overviews на один из вопросов о пицце. Скриншот был опубликован в X. Этот ответ основан на шуточном комментарии десятилетней давности, оставленном на Reddit. Другие ошибочные утверждения заключаются в том, что Барак Обама — мусульманин, отец-основатель США Джон Адамс 21 раз окончил Университет Висконсина, а пользователи должны съедать по камню в день, чтобы улучшить пищеварение.

Это странная ситуация, поскольку Google уже год тестирует обзоры AI Overviews. Эта функция была запущена в бета-версии в мае 2023 года под названием Search Generative Experience. Генеральный директор Сундар Пичаи заявил, что за это время компания обслужила более миллиарда запросов. Пичаи также заявил, что за тот же период Google удалось на 80% сократить расходы на предоставление ответов с помощью искусственного интеллекта. Это достижение стало возможным благодаря «прорывам в области оборудования, инженерии и технологий». Похоже, подобная оптимизация произошла слишком рано, до того, как технология полностью созрела.

Google продолжает настаивать на том, что продукт AI Reviews в основном выдает пользователям «высококачественную информацию». «Многие из показанных нам примеров касались необычных запросов, а также были случаи сфабрикованных данных или ситуаций, которые мы не смогли воспроизвести», — сообщила пресс-секретарь Google Меган Фарнсворт. Фарнсворт также подтвердила, что компания «принимает срочные меры» по удалению некоторых результатов AI Overviews.

Гэри Маркус, эксперт по искусственному интеллекту и профессор нейробиологии Нью-Йоркского университета, отметил, что многие компании, занимающиеся ИИ, «торгуют несбыточными мечтами» о скачке технологии с 80-процентной точности до 100-процентной. По словам Маркуса, достичь первых 80% относительно просто. Здесь достаточно проанализировать и сопоставить большой объем человеческих данных. Однако финальные 20% представляют собой принципиальную проблему. Для принятия окончательного решения требуются рассуждения: правдоподобно ли это утверждение, достоверный ли источник. Нужно выполнять задачи, схожие с теми, что выполняет человек-фактчекер, а это потребует наличия общего искусственного интеллекта (AGI).

Google оказался в непростой ситуации. Bing сделал ставку на ИИ раньше него. OpenAI разрабатывает собственную поисковую систему. Молодой стартап в сфере ИИ-поиска уже оценивается в $1 млрд. Компания явно чувствует давление со стороны конкурентов, что приводит к непродуманным релизам ИИ. Маркус приводит в пример Meta (компания признана экстремистской и запрещена в РФ), которая в 2022 году выпустила систему искусственного интеллекта под названием Galactica, но была вынуждена отключить ее вскоре после запуска, поскольку, помимо прочего, она советовала людям есть стекло. Ежегодная конференция Google I/O в значительной степени https://hightech.plus/2024/05/15/ii-assistent-generator-vide... на искусственном интеллекте. Поисковый гигант представил новые функции и сервисы, связанные с ИИ, например, генератор видео Veo. Но, как пишет The Verge, прямо сейчас репутация компании зависит от того, сможет ли она сделать качественно хотя бы базовые вещи.