Полгода назад в интернете стали появляться ролики с наложенными лицами. Особо досталось Галь Гадот, Эмме Уотсон и Мейси Уильямс, который стали главными героинями в порнороликах, созданных с помощью нейросети deepfakes. Их лица просто наложили порноактрисам. Эти видео создаются с помощью нейросетей и искусственного интеллекта. Twitter, Discord, Imgur и Pornhub удаляют такой контент как созданный без согласия участвующих в нём лиц. Даже Reddit забанил сообщество, лишив его своей основной площадки.
Фальшивое видео можно распознать по артефактам или провести более глубокую проверку, но специалисты из Университета штата Нью-Йорк пошли более простым путем: они просто научили ИИ распознавать deepfakes, пишет dev.by. Оказалось, достаточно отслеживать моргания глаз человека. Эта сложная физиологическая реакция, которую в фальшивых роликах пока воссоздать не способны, так как обычно тренируют нейросети на изображениях, а не на видео. По крайней мере, пока что.
Порноролики – это, естественно, не единственный возможный вариант использования технологии. Притом, судя про всему, он один из самых безобидных. С помощью нее можно подделывать выступления политиков или использовать для создания фейковых новостей, что несет гораздо большую угрозу. Особенно тем, кто привык безоговорочно верить интернету и ТВ.