Почему проблема дипфейков выходит далеко за рамки технологий

Искусственный интеллект стремительно меняет государственное управление, бизнес, образование и многие другие сферы. Развитие генеративного ИИ открыло новые возможности для создания цифрового контента. Одновременно появились и новые риски.

Одним из наиболее серьезных вызовов последних лет стали дипфейки — изображения, аудио- и видеоматериалы, созданные или измененные с помощью искусственного интеллекта так, что их трудно отличить от реальных.

Однако главная опасность дипфейков заключается не только в возможности обмана отдельных людей. Они постепенно делают менее надежными привычные способы проверки информации.

На протяжении десятилетий фотография, аудиозапись или видеозапись воспринимались как доказательство определенного события. Современные технологии позволяют создавать настолько реалистичный контент, что его подлинность бывает трудно определить даже специалистам.

В результате люди начинают сомневаться не только в поддельном контенте, но и в настоящем. Любая фотография, видеозапись или голосовое сообщение могут быть объявлены фальсификацией. Это создает риски для граждан, бизнеса, государственных институтов и цифровой среды в целом.

Последствия использования дипфейков все чаще проявляются в реальной жизни.

В 2019 году в Великобритании мошенники с помощью искусственно сгенерированного голоса руководителя компании убедили сотрудника перевести крупную сумму денег.

В 2024 году в Гонконге злоумышленники провели видеоконференцию с цифровыми копиями руководителей компании. Сотрудник не заподозрил подмены и выполнил указания мошенников, что привело к многомиллионным убыткам.

Отдельную угрозу представляет использование синтетических голосов и дипфейк-видео через мобильную связь, мессенджеры и платформы видеосвязи.

Иногда злоумышленникам достаточно нескольких фотографий или короткой записи голоса из открытого доступа, чтобы создать убедительную цифровую копию человека. Поэтому привычные способы проверки личности постепенно теряют прежнюю надежность.

Для Казахстана этот вопрос также приобретает особую актуальность. Уже сегодня преступники используют современные цифровые технологии для обмана граждан и получения доступа к денежным средствам и персональным данным.

В ответ на новые вызовы государства, технологические компании, международные организации и профессиональные сообщества развивают подходы AI Governance и создают механизмы противодействия дипфейкам. Их цель — обеспечить ответственное и безопасное использование искусственного интеллекта.

Среди наиболее перспективных направлений:

​•​маркировка контента, созданного с использованием ИИ;
​•​цифровые водяные знаки;
​•​инструменты обнаружения синтетических материалов;
​•​усиление мер противодействия злоупотреблениям;
​•​повышение цифровой грамотности населения.

Особое значение приобретают технологии подтверждения происхождения контента. Они помогают определить автора материала, проверить, изменялся ли он после создания, и повысить доверие к цифровой информации. Примером такого подхода являются технологии Content Credentials.

Что можно делать уже сегодня

Борьба с дипфейками не может сводиться только к совершенствованию технологий их обнаружения. Необходим комплексный подход, который объединяет государство, бизнес и общество.

Для государства важны развитие механизмов AI Governance, совершенствование законодательства, повышение уровня кибербезопасности и внедрение инструментов подтверждения подлинности цифрового контента.

Для бизнеса особое значение приобретает пересмотр процедур проверки личности и подтверждения важных решений. Голос, фотография или даже видеосвязь уже не могут считаться абсолютно надежным подтверждением личности. Поэтому организациям необходимо внедрять дополнительные механизмы проверки.

Для граждан наиболее эффективной защитой остается цифровая грамотность. В условиях распространения дипфейков важно критически относиться к неожиданной информации, особенно если она связана с денежными переводами, передачей персональных данных или срочными просьбами.

Не стоит забывать простое правило: важную информацию следует проверять через дополнительные каналы связи, даже если она выглядит убедительно и исходит якобы от знакомого человека.

Казахстану важно учитывать лучшие международные практики и участвовать в формировании безопасной и доверенной цифровой среды.

В эпоху искусственного интеллекта важнейшей задачей становится не только получение информации, но и подтверждение ее достоверности.