Арт-нейросеть создала свой язык

Новейшая американская система искусственного интеллекта DALLE-E2, разработанная компанией OpenAI и предназначенная для генерации реалистичных или художественных образов из введенных пользователями текстовых описаний, внезапно изобрела свой собственный внутренний язык, который поначалу казался ученым простой тарабарщиной, однако затем выяснилось, что сама программа его все же вполне понимает. Об этом пишет издание New York Post.DALLE-E2 — нейросеть, использующая интерактивные ключевые слова, задавая которые, пользователи могут получать комбинированные изображения, причем вариации заданных ключевых слов и изменение их порядка приводят к генерации разных изображений и к изменению общего стиля рисунка. С некоторых пор исследователи заметили в поведении системы некоторую странность: она иногда пишет слова на своем собственном языке, комбинируя их на основе случайного расположения букв, и авторы программы не знают, почему она так поступает. Яннис Дарас из Техасского университета описывает пример такого поведения ИИ следующим образом. Когда он велел DALLE-E2 нарисовать картинку с «фермерами, говорящими об овощах», программа так и сделала, причем речь фермеров изображалась в виде исходящих из их уст облачков. Там присутствовало никому не известное слово «vicootes», однако когда Дарас отправил «vicootes» обратно в систему DALLE-E2 в виде нового задания, он действительно получил фотографии овощей. Затем то же самое получилось со словами «Apoploe vesrreaitars» — это оказались «птицы».Дарас и его соавтор написали статью о «скрытом словаре» DALLE-E2. На сайте OpenAI говорится, что программа таким образом просто «изучила взаимосвязь между изображениями и текстом, используемым для их описания». Ученые признают, что указание DALLE-E2 генерировать изображения слов обычно приводит к тому, что ИИ выдает «тарабарщину». Но при возвращении в DALLE-E2 этот текст ведет к заданным изначально изображениям, а это говорит о том, что для DALLE-E2 подобные слова не являются бессмысленными. Правда, самоуправство и непредсказуемость подобных программ у многих специалистов вызывают тревогу.