ИИ-аватары в TikTok заговорили фразами Гитлера: инструмент попал не в те руки

TikTok оказался под очередным пристальным вниманием после того, как случайно выпустил внутреннюю версию своего инструмента для создания ИИ-аватаров. CNN обнаружил сбой, который позволил создавать видео с цитатами исторических личностей, таких как Гитлер (осуждаем), а также другим "спорным контентом".

Инструмент, предназначенный для пользователей TikTok Ads Manager, был по ошибке доступен владельцам общих аккаунтов, что позволило обойти меры предосторожности, призванные предотвратить злоупотребления. TikTok оперативно удалил несовершенную версию после ее обнаружения, подчеркнув, что это была техническая ошибка, затронувшая ограниченное число пользователей.

Лаура Перес, представитель TikTok, заверила, что опубликованный контент нарушил бы правила TikTok и был бы отклонен при загрузке в любом случае. Несмотря на это, у издания сохраняется обеспокоенность по поводу возможных злоупотреблений технологией цифровых аватаров в будущем и того, насколько TikTok подготовлен к предотвращению подобных случаев.