Ошибка TikTok: внутренний инструмент AI-аватаров позволил создавать видео с цитатами Гитлера

TikTok случайно опубликовал ссылку на внутреннюю версию нового инструмента цифровых AI-аватаров, что позволило пользователям создавать видео практически с любыми высказываниями. Первым проблему заметило издание CNN, которое смогло сгенерировать видео с цитатами Гитлера и сообщениями о призыве пить отбеливатель.

TikTok оперативно устранил “техническую ошибку”. По словам представителя соцсети Лауры Перес, “только крайне малое число пользователей” смогли воспользоваться внутренней версией инструмента. CNN не публиковал созданные видео, но если бы они были размещены, TikTok бы их отклонил за нарушение политики. Инцидент вызывает вопросы о возможности злоупотребления этим инструментом в будущем.

Инструмент Symphony Digital Avatars, запущенный на этой неделе, позволяет бизнесам создавать рекламные видео с использованием образов оплаченных актеров и AI-дублированием, соблюдая правила TikTok. Хотя доступ к инструменту есть только у пользователей с аккаунтом TikTok Ads Manager, версия, найденная CNN, позволяла любому пользователю попробовать его.