«Раскрытие мошенничеств с дипфейками: как они искажают нашу реальность»
В последние годы распространение передовых технологий значительно изменило ландшафт онлайн-взаимодействий. Мошенничества, которые когда-то казались отнесенными к области научной фантастики, стали суровой реальностью, особенно с появлением сложных технологий генеративного ИИ, которые облегчают создание убедительных deepfake. Эти технологии deepfake позволяют злонамеренным актерам генерировать реалистичные синтетические медиа, без труда скрывая свои личности за поддельными персонажами в реальном времени.
Рассмотрите сценарий, знакомый многим пользователям интернета сегодня: цифровая встреча с потенциальным партнером через приложение для знакомств или социальную сеть. Взаимодействие передает ощущение подлинности — фотографии обмениваются, и видеозвонки устанавливают некоторое доверие. Однако ситуация принимает тревожный поворот, когда собеседник вводит финансовые темы, такие как необходимость помощи с интернет-счетами или инвестиционные возможности в развивающихся криптовалютах. Часто только после проведения финансовых транзакций жертвы осознают, что их взаимодействие было с убедительно созданным deepfake-персонажем, а не с подлинным человеком.
Этот дистопийный сценарий не гипотетический. Как описывает Дэвид Меймон, глава отдела мошенничества в SentiLink и профессор криминологии в Государственном университете Джорджии, случаи мошенничества на основе ИИ резко возросли в последние годы. Меймон подчеркивает, что по сравнению с предыдущими годами, когда несколько случаев сообщались ежемесячно, нынешние цифры указывают на сотни новых случаев каждый месяц. Этот рост в значительной степени объясняется снижением барьеров входа для создания deepfake, облегченных доступными инструментами ИИ, способными генерировать и анимировать реалистичные человеческие лица и голоса.
Финансовые последствия этих мошенничеств значительны. В одном примечательном случае профессионал в области финансов в Гонконге был обманут на сумму 25 миллионов долларов мошенником, использовавшим технологию deepfake для имитации главного финансового директора компании во время видеозвонка. Такие случаи подчеркивают потенциал deepfake для усиления различных форм онлайн-мошенничества, от романтических и трудовых мошенничеств до налоговых и инвестиционных мошенничеств.
Более того, помимо взаимодействий в реальном времени, заранее созданные deepfake с участием публичных фигур также использовались для обмана жертв. Например, пенсионер из Новой Зеландии потерял около 133 000 долларов в результате мошенничества с криптовалютой, спровоцированного рекламой в Facebook с участием deepfake премьер-министра, выступающего за инвестиции. Эти инциденты подчеркивают разнообразные применения deepfake в perpetuирование мошенничества в различных областях.
Последствия технологии deepfake выходят за пределы финансового мошенничества. Социальные медиа-платформы стали свидетелями influx влиятельных лиц, сгенерированных ИИ, которые используют deepfake для присвоения и монетизации контента, изначально созданного другими. Кроме того, deepfake проникли в геополитические сферы, о чем свидетельствует подделка мэра Киева в взаимодействиях с европейскими чиновниками. На более личном уровне люди использовали deepfake по причинам, таким как примирение с умершими близкими через виртуальные аватары.
Обнаружение deepfake остается серьезной проблемой. Несмотря на достижения в технологии, современные модели обнаружения часто оказываются неадекватными перед все более сложным контентом, сгенерированным ИИ. OpenAI и другие технологические компании разработали инструменты обнаружения, однако они ограничены в объеме и эффективности. Человеческая интуиция, таким образом, остается критической линией защиты, так как исследования показывают, что иногда люди могут лучше справляться с автоматическими системами в распознавании видео deepfake.
В заключение, хотя deepfake представляют собой значительные вызовы, они также способствуют повышению общественной осведомленности и скептицизма, что потенциально снижает их эффективность в качестве обманных инструментов. С ростом знакомства с технологией deepfake возрастает и коллективная способность различать подлинный контент от сфабрикованного, создавая противовес угрозам, исходящим от этих цифровых обманов.
Автор публикации
