Сон, 17-летняя старшеклассница из провинции Кенгидо, вела себя в соцсетях так же, как и любая другая девушка ее возраста — выкладывала фотографии и короткие видеоролики, где она одна или вместе со своими друзьями танцует под популярные треки.
Так было до тех пор, пока она не получила анонимное сообщение в одной из соцсетей. Это преследует ее по сей день.
«После школы я заглянула в свой телефон и увидела сообщение, отправленное с анонимного аккаунта, — рассказала девушка The Korea Herald. — Сообщение гласило: «Знают ли твои друзья и родители об этой стороне твоей жизни?» с приложением трех фотографий».
Когда Сон открыла сообщение, она была потрясена, обнаружив свои фотографии откровенного сексуального содержания. Но на самом деле это не были ее настоящие фотографии. Это были дипфейки — фотографии, измененные цифровым способом, которые практически невозможно отличить от реальных изображений.
«Я была так потрясена и напугана, когда впервые увидела фотографии. Хотя я и знала, что это подделка, мои изображения казались такими реальными, — сказала Сон. — Мне хотелось верить, что это всего лишь дурной сон, от которого я в конце концов проснусь».
Однако сообщения продолжали приходить. В них одни задавали вопрос, действительно ли Сон изображена на этих откровенных фото, а другие требовали, чтобы девушка «развеяла их скуку», прося ее «развлечь их».
«Сначала я пыталась объяснить им, что это не я. Думаю, я даже попросила некоторых из них помочь мне, потому что подумала, может быть, есть хотя бы один человек, который был бы хорошим, отзывчивым взрослым, — добавила Сон. — Но то, что я отвечала на все их сообщения, казалось, только возбуждало их. Сообщения продолжали приходить, а требования ухудшались с каждым днем».
Сон — одна из жертв, чье количество постоянно растет, многие из потерпевших — несовершеннолетние.
По данным Корейского института прав женщин, с апреля 2018 года по воскресенье, 22 августа, в общей сложности 2154 человека обратились за помощью в Центр защиты прав жертв сексуального насилия в Интернете из-за порнографии с использованием дипфейков.
Из 781 человек, обратившихся за помощью в Центр защиты прав жертв сексуального насилия в Интернете в этом году, 36,9 процента или 288 человек были несовершеннолетними.
Число несовершеннолетних, обратившихся за помощью из-за дипфейков, увеличилось в последние годы в геометрической прогрессии: с 64 человек в 2022 до 288 в этом году.
Поскольку страх перед преступлениями с использованием технологии искусственного интеллекта растет, в среду Министерство образования заявило, что они займут твердую позицию в части противодействия преступлениям с использованием дипфейков в школах. Наказания для виновных могут включать исключение — самый суровый вид «пенальти» из девятиуровневой системы наказаний министерства для старшеклассников, причастных к школьному насилию. Для нарушителей в начальной или средней школе перевод является максимальным наказанием, поскольку и то, и другое считается обязательным образованием.
По состоянию на вторник в управления образования по всей стране поступило в общей сложности 196 сообщений о сексуальных преступлениях с использованием дипфейков, причем в 186 из них потерпевшими являлись ученики. Среди 186 жертв восемь — ученики начальной школы, 100 учеников средней школы и 78 старшеклассников. Министерство образования заявило, что из 196 заявлений 179 были переданы в полицию.
Министерство также решило создать оперативную группу по чрезвычайным ситуациям для расследования сексуальных преступлений с использованием дипфейков, эта группа начала функционировать со вторника. Они будут еженедельно расследовать преступления, связанные с фейками, обрабатывать отчеты, представленные жертвами, оказывать психологическую поддержку жертвам, проводить образовательные мероприятия и повышать осведомленность о таких преступлениях в школах, а также укреплять цифровую этику и контроль над ней.
Технология дипфейков значительно развилась за последние годы, появились инструменты искусственного интеллекта, которые позволяют обычным пользователям легко создавать такие подделки.
Однако, в Южной Корее нет правовой системы, позволяющей выявлять, отфильтровывать и наказывать тех, кто неправомерно использует технологии искусственного интеллекта.
Согласно Закону об особых случаях, касающихся наказания за сексуальные преступления, любой, кто редактирует, синтезирует или производит фейковую порнографию, наказывается тюремным заключением сроком до пяти лет или штрафом в размере до 50 миллионов вон (37 400 долларов). Те, кто распространяет контент с целью получения прибыли, наказываются тюремным заключением сроком до семи лет. Однако загвоздка в том, что в настоящее время нет законов, наказывающих тех, кто скачивает или смотрит дипфейк-порнографию.
«В настоящее время закон предусматривает наказание за просмотр видео откровенного сексуального содержания, снятых без согласия, но для дипфейков закон отсутствует, — заявила The Korea Herald адвокат по правам человека Мин Го Ын. — В наши дни технологии продвинулись настолько, что трудно отличить фейк от реальной фотографии или видео, сделанных кем-то другим. Однако в законе все еще есть лазейки, из-за которых дипфейки не приравниваются к незаконно снятым изображениям или видеоматериалам».
Даже если кому-то предъявлены обвинения в создании фальшивой порнографии, прокуроры должны доказать, что это было сделано с целью распространения. Если нет ничего, что указывало бы на явное намерение распространять этот контент, преступники могут «легко найти выход», сказала Мин.
Ли Ин Сон из Партии народной власти, представитель Комитета Национальной ассамблеи по вопросам гендерного равенства и семьи, заявил, что комитет «еще больше укрепит» правовую систему для предотвращения неправомерного использования дипфейк технологий, уделяя особое внимание пробелам в Законе о наказании за сексуальные преступления.
«Комитет больше не будет игнорировать эту серьезную ситуацию. Укрепляя и внося поправки в соответствующие законы, мы будем работать над защитой женщин и несовершеннолетних (от преступлений на сексуальной почве в Интернете)», — сказал Ли.
По состоянию на среду законодателями было внесено около восьми законопроектов, согласно которым при создании фотографий или видео с помощью искусственного интеллекта для обеспечения безопасности и надежности технологий искусственного интеллекта теперь требуется обязательное размещение на контенте специальных индикаторов, таких как водяные знаки.
Большинство из законов были представлены повторно после того, как были автоматически сняты с рассмотрения в связи с окончанием срока полномочий Национального собрания 21-го созыва 29 мая.
Однако эти законопроекты также сталкиваются с ограничениями, поскольку дипфейки часто создаются с помощью моделей ИИ с открытым исходным кодом, что затрудняет определение того, кто использовал ту или иную модель ИИ, или алгоритм для их создания. Модели искусственного интеллекта с открытым исходным кодом также можно настраивать, что упрощает обнаружение дипфейков.
«Несмотря на это, соответствующие законы для борьбы с сексуальными преступлениями с использованием дипфейков должны быть приняты, поскольку закон не поспевает за текущими технологическими достижениями», — сказала Мин.
«Можно увидеть, что этими преступниками движет страстное желание ощутить превосходство над теми, кто кажется «слабее» их, — рассказал The Korea Herald профессор криминальной психологии Ким Сан Гюн из Отдела полицейского управления Университета Пэксок. — Обычно считается, что у этих людей есть желание доминировать, манипулировать и контролировать тех, с кем, по их мнению, легко справиться, чтобы почувствовать превосходство над ними».
«Как правило, большинство людей преодолевают желание чувствовать свое превосходство посредством обычных социальных взаимодействий. Преступники, подобные тем, кто недавно участвовал в создании и распространении фейкового контента откровенного сексуального содержания в Telegram, скорее всего, являются теми, у кого возникают проблемы с преодолением подобных желаний в реальной жизни, поскольку у них есть проблемы со здоровым социальным взаимодействием», — добавил Ким.
Говоря о несовершеннолетних, создавших и распространивших фальшивую порнографию, профессор Бэ Сан Хун из Департамента полицейского управления Университета Вусук упомянул «подростковый эгоцентризм», который представляет собой когнитивный и социальный феномен, при котором подростки, достигнув полового созревания, проявляют желание продемонстрировать свои сильные стороны, навыки и превосходство, поскольку они верят, что другие всегда наблюдают или оценивают их.
«Несовершеннолетние, совершившие недавние преступления, скорее всего, считали свои действия не более чем отклонением от социальных норм, — сказал The Korea Herald профессор Бэ. — Для них это форма игры, с помощью которой они чувствуют себя лучше своих сверстников, раз пробуют что-то настолько смелое».
Судебный психолог Ли Су Чжон также добавил, что, вероятно, преступники считают свои действия не преступлением, а скорее «захватывающим опытом».
«Проблема в том, что преступники, совершающие подобные преступления, не осознают, что их действия могут нанести вред другим. Это просто еще один способ избавиться от своего любопытства и удовлетворить интерес, — сказал Ли. — Должны быть применены надлежащие методы обучения, чтобы помочь большему количеству людей осознать, что это преступление, а не какая-то форма развлечения».
사나 © YesAsia.ru
