Дипфейки или синтетические носители могут эффективно использоваться для подачи мошеннических заявлений, создания ложных отчетов о проверках и даже для установления существования и состояния несуществующих активов.
Если вы знакомы с инструментами для редактирования фото и видео, то, вероятно, слышали о дипфейках, новом поколении видео с улучшенным искусственным интеллектом, которые продемонстрировали способность размывать реальность способами, которые чрезвычайно трудно обнаружить людям или даже машинам.
В отличие от обычного редактирования видео, дипфейки используют искусственный интеллект (ИИ) для изменения или синтетического создания видео, обеспечивая новый уровень реализма без криминалистических следов, присутствующих в отредактированных цифровых носителях. Хотя эти продвинутые подделки могут звучать как научная фантастика, многие исследователи пришли к выводу, что дипфейки станут почти не обнаруживаемыми человеческим глазом и впоследствии не обнаруживаемыми даже с помощью сложных инструментов судебной экспертизы – это лишь вопрос времени.
В то время как дипфейки в значительной степени проявляются как новинка в социальных сетях, дипфейки и аналогичные фотографии и видео, созданные искусственным интеллектом, могут представлять серьезную угрозу для отраслей, которые принимают важные финансовые решения в отношении содержания фотографий и видео, таких как страхование. Возможность искажать реальность способами, которые трудно или невозможно обнаружить, значительно увеличивает риск мошенничества с цифровыми медиа при страховых выплатах в то время, когда многие операторы быстро приняли самообслуживание в качестве способа обработки претензий во время пандемии COVID.
Ранее в этом году ФБР забило тревогу, что дипфейки – это новая угроза кибератак, нацеленная на предприятия. В результате многие организации обдумывают стратегии снижения рисков и потенциально нежелательных результатов, которые могут возникнуть.
Осведомленность о дипфейке
Чтобы повысить осведомленность об опасности дипфейков в корпоративной сфере, Attestiv недавно опросил американских бизнес-профессионалов об угрозах их бизнесу, связанных с синтетическими или манипулируемыми цифровыми носителями. В ходе опроса также задавались вопросы об их плане действий и стратегиях защиты.
Неудивительно, что более 80% респондентов признали, что дипфейки представляют угрозу для их организации. В тройку основных проблем, вызывающих дипфейк, входят:
- Репутационные угрозы
- ИТ-угрозы
- Угрозы мошенничества
Хотя каждая киберугроза сопряжена с репутационными и ИТ-рисками, аспект мошенничества наиболее актуален для страховой отрасли, поскольку она полагается на цифровые фотографии, видео и документы для принятия бизнес-решений и уже подвергается ежегодному мошенничеству в размере десятков миллиардов долларов. Только США.
На вопрос о том, какие шаги предпримут организации для защиты от измененных цифровых медиа, менее 30% респондентов ответили, что у них есть какая-либо стратегия защиты. Несмотря на то, что количество бездействия выявляет проблему, утешает то, что еще 25% респондентов заявили, что планируют принять меры, что означает, что они осознают угрозу и решение находится в разработке. С другой стороны, это оставляет 46% респондентов без плана или знания о нем.
Возможно, по иронии судьбы, результаты были немного хуже для страхования, где только 39% респондентов указали, что они либо предпринимают, либо планируют меры по снижению риска дипфейков. Эти цифры были на удивление ниже среднего, учитывая, что другие отрасли могут быть менее восприимчивы к мошенничеству с использованием цифровых медиа.
На вопрос: «Что лучше всего оборонные организации могут предпринять против измененных цифровых медиа?» Результаты показали, что более 57% респондентов в страховом и финансовом секторах считают, что лучшей защитой является решение для автоматического обнаружения и фильтрации, в то время как 34% считают, что обучение сотрудников обнаружению дипфейков было лучшим решением. Этот результат оказался как обнадеживающим, так и несколько огорчительным.
Решения для автоматического обнаружения и фильтрации действительно являются жизнеспособным подходом к остановке дипфейков, поскольку в настоящее время на рынке существуют решения, использующие такие технологии, как блокчейн или искусственный интеллект, для предотвращения или обнаружения манипулируемых носителей. С другой стороны, обучение сотрудников обнаружению дипфейков – далеко не жизнеспособное решение, учитывая вероятность того, что они быстро становятся не обнаруживаемыми человеком. Некоторым компаниям может потребоваться дополнительное образование в отношении угрозы deepfake и траектории, по которой движется технология.
Справка из отраслевых стандартов
Еще в сентябре 2019 года Facebook в партнерстве с другими компаниями и академическими кругами запустил Deepfake Detection Challenge в надежде опередить серьезную угрозу дезинформации, которую дипфейки представляют в социальных сетях. Многие участники создали технологии для обнаружения дипфейков и манипулируемых медиа, а полученные результаты опубликованные в июне 2020 года были многообещающими, хотя и менее звездными. Лучший результат, регистрирующий точность 65% на наборе данных черного ящика. Хотя это было хорошее начало, оставалось много возможностей для улучшения.
Примерно в то же время были запущены другие рабочие группы, такие как Инициатива аутентичности контента (CAI), межотраслевая инициатива, позволяющая лучше оценивать происхождение контента, начатую Adobe в партнерстве с Twitter и New York Times. Аналогичным образом C2PA была основана в феврале 2021 года Microsoft и Adobe для обеспечения технических стандартов происхождения и аутентичности контента.
В то время как стандарты начали движение к предотвращению дипфейков в различных отраслях, у страховых компаний есть выбор: дождаться или разработать промежуточный план.
Подход к защите страхования
Возможно, вы видели веб-сайт Этого не существует, умный веб-сайт, использующий генеративные состязательные сети, технологию, лежащую в основе дипфейков, для создания синтетических людей, транспортных средств, кошек, домов для сдачи в аренду и тому подобного. Хотя это занимательное развлечение, применение той же технологии для создания ложных аварий или повреждений дома, которые могут преувеличить или создать поддельное страховое возмещение, никоим образом не является преувеличением. Более того, теперь, когда этого пресловутого кота выпустили из мешка, он не собирается исчезнуть в ближайшее время.
Так что же делать страховой компании? Внедрение некоторой формы автоматизированной защиты от дипфейков для страхования – это наиболее жизнеспособное решение для защиты от этого нового вида мошенничества. Но как это можно внедрить в существующие процессы подачи претензий?
Как оказалось, некоторые процессы, возможно, вообще не нужно менять. Например, любые фотографии претензий, которые собирают монтажники, уже проходят через доверенную третью сторону. Хотя ни одна внутренняя или внешняя сторона не застрахована от мошенничества, доверенная сторона, скорее всего, будет рисковать своей работой и репутацией, подавая ложные претензии. Проще говоря, цена совершения мошенничества с претензиями будет очень высокой.
С другой стороны, любые процессы, осуществляемые застрахованным лицом в режиме самообслуживания, уязвимы для манипуляций или фальшивых средств массовой информации. Рассмотреть возможность:
- Авто или домашние претензии
- Инспекции для андеррайтинга или контроля убытков
- Установление наличия и состояния активов при андеррайтинге
Дипфейки или синтетические носители могут эффективно использоваться для подачи мошеннических требований, создания мошеннических отчетов о проверках и даже для установления существования и состояния несуществующих активов. Подумайте о претензиях по поводу чрезмерного ущерба от ближайшего урагана или торнадо или по поводу предметов, которых даже не существует, например, несуществующие часы Rolex, которые были застрахованы и таинственным образом пропали.
Предлагает ли это вернуться к использованию инспекторов для рассмотрения важных претензий? Хотя шаг назад к ручной проверке может помочь устранить угрозу дипфейков, уровень защиты от дипфейков в процессах самообслуживания будет работать лучше, не отменив многолетней цифровой трансформации. Более того, поскольку многие процессы обработки претензий переходят к сквозной обработке, без вмешательства человека, за исключением исключительных случаев, для реализации уровня защиты предлагаются два встроенных подхода:
- Встроенное обнаружение: Использование искусственного интеллекта и моделей на основе правил для обнаружения дипфейков во всех представленных цифровых носителях. Как и в случае с Deepfake Detection Challenge, упомянутым ранее, перед обработкой заявки примените криминалистический анализ на основе искусственного интеллекта к каждой фотографии или видео.
- Встроенная профилактика: Цифровая аутентификация фото/видео во время захвата для «защиты от несанкционированного доступа» в момент захвата. Это может быть просто как часть безопасного приложения, которое не позволяет застрахованным лицам загружать свои собственные фотографии, или, что еще лучше, использовать блокчейн или неизменяемую бухгалтерскую книгу, которая защищает как внутренние, так и внешние изменения в средствах массовой информации, используя модель глобального консенсуса.
Если углубиться в подробности двух подходов, обнаружение имеет несколько недостатков. К ним относятся количество времени и обработки, необходимые для анализа фотографий или видео. Обширный анализ с использованием ИИ сложно провести в оперативном режиме, поскольку фотографии собираются из заявлений. Кроме того, этот анализ может быть бесконечной игрой в кошки-мышки, похожей на сканирование на вирусы, учитывая постоянные улучшения в технологии deepfake. Инструменты обнаружения, предназначенные для обозначения манипуляций, всегда будут преследовать, развиваться и улучшать инструменты редактирования, которые выполняют манипуляции.
С другой стороны, обнаружение иногда является единственной защитой, когда носитель не перехвачен доверенным приложением или доверенным лицом. Например, если застрахованный отправляет фотографии претензии по электронной почте, у страховщика есть только два варианта: запросить повторный выбор фотографий из доверенного приложения или принять фотографии и провести анализ, чтобы убедиться, что фотографии подлинные. Чтобы ответить на этот вопрос, если у застрахованного лица нет истории о мошенничестве со страховкой, опыт неудачных претензий вряд ли станет разумным компромиссом для лучшего сокращения мошенничества.
Это подводит нас к технологиям предотвращения, которые, в отличие от обнаружения, предлагают более надежное и перспективное решение проблемы дипфейка. Блокируя носитель в точке захвата, чтобы любые изменения становились очевидными, мы гораздо более уверены в том, что просматриваемый контент является оригинальным и неизменным. Думайте об этом как о цифровых водяных знаках, которые не обязательно наносятся на фотографии. Единственная загвоздка в том, что предотвращение применяется только в момент создания или захвата, что означает, что оно не всегда может заменить обнаружение как лучшую защиту, когда программное обеспечение для захвата недоступно или не используется.
С прагматической точки зрения это может означать гибридную схему, начиная с безопасного приложения, которое фиксирует фотографии претензий и аутентифицирует их в момент захвата. Теперь, если предположить, что все застрахованные используют приложение, тогда угроза дипфейков устранена. Мы знаем, что за пределами этого идеального мира принятие приложений не является стопроцентным, и в конечном итоге некоторые претензии будут просачиваться через другие, менее безопасные процессы, требующие той или иной формы обнаружения.
Вердикт?
Некоторые операторы могут попытаться продвинуть более широкое внедрение своих приложений с помощью встроенной безопасности; другие могут выбрать гибридный подход к предотвращению и обнаружению, в то время как другие могут просто взять на себя риск дополнительного мошенничества, полагаясь на уже существующее разочарование в виде уголовного преследования за мошенничество и в надежде, что вскоре появятся стандарты для предотвращения дипфейков и синтетических медиа. от воздействия на их претензии.
Страхование жизненно важно и комплексно, оно защищает все аспекты нашей жизни, но оно также становится все более уязвимым для новых методов мошенничества и обмана с появлением дипфейков. С растущим распространением самообслуживания и способов, с помощью которых цифровые носители могут быть легко скомпрометированы, критически важно начать бросать вызов существующему положению вещей в области предотвращения мошенничества, используя будущие стандарты, как только они станут доступны. Шаги, которые вы предпринимаете для защиты страховых случаев сегодня, окупятся и в ближайшие годы.
По материалам nachedeu. Автоор Никос Векиаридес
