Новейшая американская система искусственного интеллекта DALLE-E2 внезапно изобрела свой собственный внутренний язык. Пока его понимает только сама ИИ.
Новейшая американская система искусственного интеллекта DALLE-E2, разработанная компанией OpenAI и предназначенная для генерации реалистичных или художественных образов из введенных пользователями текстовых описаний, внезапно изобрела свой собственный внутренний язык, который поначалу казался ученым простой тарабарщиной, однако затем выяснилось, что сама программа его все же вполне понимает. Об этом пишет издание New York Post.DALLE-E2 — нейросеть, использующая интерактивные ключевые слова, задавая которые, пользователи могут получать комбинированные изображения, причем вариации заданных ключевых слов и изменение их порядка приводят к генерации разных изображений и к изменению общего стиля рисунка. С некоторых пор исследователи заметили в поведении системы некоторую странность: она иногда пишет слова на своем собственном языке, комбинируя их на основе случайного расположения букв, и авторы программы не знают, почему она так поступает. Яннис Дарас из Техасского университета описывает пример такого поведения ИИ следующим образом. Когда он велел DALLE-E2 нарисовать картинку с «фермерами, говорящими об овощах», программа так и сделала, причем речь фермеров изображалась в виде исходящих из их уст облачков. Там присутствовало никому не известное слово «vicootes», однако когда Дарас отправил «vicootes» обратно в систему DALLE-E2 в виде нового задания, он действительно получил фотографии овощей. Затем то же самое получилось со словами «Apoploe vesrreaitars» — это оказались «птицы».Дарас и его соавтор написали статью о «скрытом словаре» DALLE-E2. На сайте OpenAI говорится, что программа таким образом просто «изучила взаимосвязь между изображениями и текстом, используемым для их описания». Ученые признают, что указание DALLE-E2 генерировать изображения слов обычно приводит к тому, что ИИ выдает «тарабарщину». Но при возвращении в DALLE-E2 этот текст ведет к заданным изначально изображениям, а это говорит о том, что для DALLE-E2 подобные слова не являются бессмысленными. Правда, самоуправство и непредсказуемость подобных программ у многих специалистов вызывают тревогу.
Более 40 тысяч семей в Москве и области получают ежемесячные выплаты из средств материнского капитала
Столичные росгвардейцы задержали мужчину, подозреваемого в грабеже
Филиал № 4 ОСФР по Москве и Московской области информирует:
Более 12 тысяч жителей Москвы и Московской области получают повышенную пенсию за работу в сельском хозяйстве
Филиал № 4 ОСФР по Москве и Московской области информирует:
С 1 августа Соцфонд увеличит страховые пенсии россиян
Портативный сканер штрих-кодов Heroje H133U на базе CMOS-матрицы
Гора Нос
Идёт экстренная эвакуация: в Челябинской области прорвало дамбу
Филиал № 4 ОСФР по Москве и Московской области информирует:
Более 12 тысяч жителей Москвы и Московской области получают повышенную пенсию за работу в сельском хозяйстве
A Google Doodle animator is my new favorite Elden Ring lore theorist thanks to this cartoon retelling of Shadow of the Erdtree set to a Taylor Swift song
Activision secretly experimented on 50% of Call of Duty players by 'decreasing' skill-based matchmaking, and determined players like SBMM even if they don't know it
Приключение-головоломка Arranger вышла на смартфоны и PC
Arena Breakout празднует 1 годовщину новой картой, игровым режимом и наградами
Песков назвал отвратительными ряд моментов открытия Олимпиады в Париже
Филиал № 4 ОСФР по Москве и Московской области информирует:
Более 12 тысяч жителей Москвы и Московской области получают повышенную пенсию за работу в сельском хозяйстве
Сына предпринимателя Бажаева задержали по подозрению в нападении на сотрудника полиции
Полицейские Петербурга лишатся своих бород - приказ руководства
Новейшая американская система искусственного интеллекта DALLE-E2 внезапно изобрела свой собственный внутренний язык. Пока его понимает только сама ИИ.