Новая нейросеть Google превратила обычные фото в место преступления

Google представил новый Pixel 9 13 августа. В девайсе появилась функция Reimagine, которая потенциально может стать инструментом для создания фейков, сообщил

The Verge. Технология по умолчанию встроена в последний смартфон линейки Pixel.  Reimagine — продолжение инструмента Magic Editor, который позволяет редактировать фото: стирать части ландшафта, менять цвет неба, выделять объекты. А с помощью новой опцией можно выбрать часть фотографии и ввести запрос для нейросети. Искусственный интеллект сгенерирует в этом месте объект по запросу пользователя. При этом, по словам издания, результат «выглядит крайне убедительно»: нейросеть определяет освещение, тени и перспективу съемки и дорисовывает все в соответствии с оригинальной фотографией. С одной стороны, это позволяет доработать изображение, а с другой, эта функция может превратить фото с фейк.

В инструменте есть система цензуры, однако нужно «немного творчества в запросах», чтобы ее обойти, пишет The Verge. «Мы разрабатываем наш ИИ так, чтобы он учитывал намерения пользователя. Это значит, что он может создавать неприемлемый контент, если пользователь даст на это указание. Но это не означает, что можно все. У нас есть четкие правила и условия предоставления услуг, где прописано, какой контент мы разрешаем и запрещаем. У нас есть защитные механизмы для предотвращения злоупотреблений. Иногда текстовые запросы могут бросить вызов этим механизмам, но мы стремимся постоянно улучшать защиту», — сказал представитель Google Алекс Морикони. Когда пользователь создает изображение с помощью Reimagine, у картинки не появляется маркировка с упоминанием ИИ. Морикони сообщил, что Google использует специальную систему тегов SynthID для изображений, на 100% созданных искусственно. Но после обработки в Magic Editor фото не получают такого тега. Как пишет The Verge, с появлением такого инструмента можно за пару секунд сделать фейковое фото. Если раньше требовались навыки, время, понимание Photoshop и дорогие программы, то теперь все сделает нейросеть. Кроме того, возможность создания таких картинок находится в телефоне, который можно купить в магазине. «Кто знает, быть может, все прочитают лицензионное соглашение Google и будут использовать Reimagine для создания цветочков и радуги. Это было бы чудесно! Но на всякий случай лучше проявите лишний скепсис к фотографиям, которые вы видите в интернете», — прокомментировал The Verge.