Для Skyrim стали создавать эротические моды с ИИ-голосами актёров озвучки — актёры против
Они не давали согласия на то, чтобы их речь использовали в подобных проектах.
В 2023 году компания ElevenLabs запустила одноимённый сервис, который позволяет качественно клонировать голоса даже по небольшому образцу с записью речи. Спустя некоторое время этот инструмент стали активно использовать моддеры, в том числе для создания эротических и порнографических модов для The Elder Scrolls V: Skyrim.
В начале июля 2023 года пользователь Твиттера под ником Robbie92 собрал список актёров, чьи голоса синтезировали с помощью ИИ при создании подобных модов. Он также составил перечень самих модов, для озвучки которых нелегально использовали голоса Корри Инглиш, Коллин Делани, Сьюзэн Эйзенберг, Клаудии Кристиан и Эйприл Стюарт и других известных актёров, работавших над Skyrim и множеством других игр.
В таких модах, чаще всего эротического характера, женские персонажи флиртуют с главным героем или просто общаются с ним на откровенные темы. Так, в доступных в сети модах можно обнаружить фразы: «Я сделаю всё, папочка», «Ты был грязным мальчиком», «Мне нравится играть с твоим членом» и другие.
После того, как Robbie92 обратил внимание на ситуацию, в сети стали обсуждать, насколько легально создавать подобные моды. Несколько актёров, озвучивавших популярные игры, сообщили, что категорически против подобного.
Я не даю и никогда не дам согласия на использование моего голоса для ИИ-синтеза, клонирования, создания дипфейков и всего подобного. Это НЕ нормально.
Пожалуйста, сообщите мне, если увидите, что мой голос применяют в таких модах. Я не хочу, чтобы люди использовали искусственный интеллект, чтобы озвучивать что-то моим голосом.
Если вы обнаружите мой голос в одном из таких модов, то, пожалуйста, сообщите мне, чтобы я попросила убрать его. Я не даю согласия на использование моих биометрических данных в подобных целях.
Это на самом деле тревожно. Я изучу этот вопрос.
Одно дело взять голос актёра и сделать так, чтобы он произнёс какой-нибудь глупый мем. Но совсем другое дело — заставить его участвовать в сексуальных сценах. Я не имею ничего против NSFW-модов или NSFW-искусства. Но в данном случае мы сталкиваемся с фундаментальным неуважением к актёрам озвучки.
Это совершенно неправильно! И это тревожно. Клонирование голосов при помощи ИИ вышло из-под контроля. Ни в коем случае не поддерживайте это. И, пожалуйста, дайте мне знать, если увидите, что мой голос используют подобным образом. Я не даю согласия на это.
В апреле 2023 года один из крупнейших порталов для моддеров Nexus Mods объявил, что не будет запрещать использовать ИИ-инструменты для модов. В администрации сайта оставили за собой право блокировать моды в ответ на достоверную жалобу от правообладателя, например, владельца голоса.
Представители Nexus Mods также рекомендовали моддерам использовать ИИ-инструменты для генерации контента только с согласия владельцев прав. Однако на сайте продолжили выходить моды, в которых персонажей озвучивают при помощи сервисов вроде ElevenLabs.
Robbie92 предложил актёрам озвучки, которые против того, что их голоса синтезируют с помощью ИИ, направлять свои жалобы к Nexus Mods. По его словам, это позволит удалить часть модов с сайта и привлечь внимание администрации портала. На момент написания заметки на Nexus Mods было доступно по меньшей мере несколько десятков подобных модов.