Учителя физкультуры в США обвинили в использовании ИИ-клонировщика голоса, чтобы попытаться уволить директора школы

Учитель физкультуры и бывший спортивный директор средней школы в округе Балтимор был арестован и обвинен в использовании сервиса клонирования голоса на основе ИИ, чтобы подставить директора школы.

Полиция округа Балтимор считает, что аудиозапись, которая распространялась в социальных сетях в январе, где предположительно директор средней школы Пайксвилл Эрик Айсверт делал расистские и антисемитские комментарии, была поддельной. Эксперты сообщили, что запись имеет «плоский тон, необычно чистый фоновый звук и отсутствие последовательных звуков дыхания или пауз».

Полиция проследила запись до Дажона Дариена — бывшего спортивного директора школы, чье имя также упоминалось в аудиоклипе. Он якобы использовал школьные компьютеры для доступа к инструментам OpenAI и сервисам Microsoft Bing Chat.

Дариен был арестован в четверг в аэропорту. Полиция заявила, что Дариен сделал запись, чтобы отомстить Айсверту, который в то время проводил расследование возможного неправильного обращения со школьными средствами. Ему предъявлены обвинения в краже, нарушении работы школы, преследовании и мести свидетелю.

В последнее время подобные «киберпанковые» истории появляются все чаще, напоминая нам, что будущее из научной фантастики уже наступило. Так, недавно в Пакистане использовали ElevenLabs для имитации голоса заключенного в тюрьму бывшего премьер-министра Имрана Хана во время кампании. В США две компании были связаны с фальшивым автоматическим звонком, имитирующим президента Джо Байдена, призывающего людей не голосовать.

В связи с этими случаями OpenAI решила не предоставлять публичный доступ к своей платформе генерации текста в речь Voice Engine из-за отсутствия мер безопастности и потенциального использования со злым умыслом.