Люди через нейросеть делают оскорбительное фейки с голосами звёзд кино

Ряд западных изданий, среди которых Vice и The Verge, обратили внимание на новый тренд, возникший на имиджборде 4chan. Пользователи используют ИИ-синтезатор речи ElevenLabs, который научился копировать голоса людей, и с его помощью записывают различные сообщения.

На сайте уже появились десятки различных высказываний голосами знаменитостей, среди которых оказались Эмма Уотсон, Джо Роган, Марго Роби и президент США Джо Байден. Пользователи развлекаются, присваивая звёздам несвойственные им громкие и оскорбительные цитаты.

К примеру, определённую популярность получила запись с голосом Эммы Уотсон, цитирующим книгу Адольфа Гитлера. В другом аудио Рик Санчес из «Рика и Морти» шутит про то, что бьёт свою жену (актёра озвучки Рика недавно обвинили в домашнем насилии), а в ещё одном Джо Байден объявляет о вторжении в Россию.

Создатели нейросети ElevenLabs признали, что отдельные пользователи злоупотребляют возможностями ИИ, и пообещали принять меры, чтобы в будущем сделать подобное было сложнее. Сервис также забанит тех, кто создаёт контент подобного содержания.