Учитель физкультуры и бывший спортивный директор средней школы в округе Балтимор был арестован и обвинен в использовании сервиса клонирования голоса на основе ИИ, чтобы подставить директора школы.
Полиция округа Балтимор считает, что аудиозапись, которая распространялась в социальных сетях в январе, где предположительно директор средней школы Пайксвилл Эрик Айсверт делал расистские и антисемитские комментарии, была поддельной. Эксперты сообщили, что запись имеет «плоский тон, необычно чистый фоновый звук и отсутствие последовательных звуков дыхания или пауз».
Полиция проследила запись до Дажона Дариена — бывшего спортивного директора школы, чье имя также упоминалось в аудиоклипе. Он якобы использовал школьные компьютеры для доступа к инструментам OpenAI и сервисам Microsoft Bing Chat.
Дариен был арестован в четверг в аэропорту. Полиция заявила, что Дариен сделал запись, чтобы отомстить Айсверту, который в то время проводил расследование возможного неправильного обращения со школьными средствами. Ему предъявлены обвинения в краже, нарушении работы школы, преследовании и мести свидетелю.
В последнее время подобные «киберпанковые» истории появляются все чаще, напоминая нам, что будущее из научной фантастики уже наступило. Так, недавно в Пакистане использовали ElevenLabs для имитации голоса заключенного в тюрьму бывшего премьер-министра Имрана Хана во время кампании. В США две компании были связаны с фальшивым автоматическим звонком, имитирующим президента Джо Байдена, призывающего людей не голосовать.
В связи с этими случаями OpenAI решила не предоставлять публичный доступ к своей платформе генерации текста в речь Voice Engine из-за отсутствия мер безопастности и потенциального использования со злым умыслом.
