Неліктен дипфейктер мәселесі технология шеңберінен әлдеқайда кең

Жасанды интеллект мемлекеттік басқаруды, бизнесті, білім беруді және көп теген басқасалаларды қарқынды түрде өзгертуде. Генеративті жасанды интеллектінің дамуы цифрлықконтент жасаудың жаңа мүмкіндіктерін ашты. Сонымен қатар жаңа тәуекелдер де пайдаболды.

Соңғы жылдардағы ең маңызды сын-қатерлердің бірі – дипфейктер. Бұл жасандыинтеллект көмегімен жасалған немесе өзгертілген суреттер, аудио және бейнематериалдар, оларды шынайы материалдардан ажырату барған сайын қиындап келеді.

Алайда дипфейктердің басты қаупі тек жекелеген адамдарды алдау мүмкіндігінде емес. Олар ақпаратты тексерудің қалыптасқан тәсілдерінің сенімділігіне күмән келтіре бастады.

Көптеген жылдар бойы фотосурет, аудиожазба немесе бейнежазба белгілі бір оқиғаныңдәлелі ретінде қабылданды. Бүгінде заманауи технологиялар соншалықты шынайыконтент жасауға мүмкіндік береді, оның түпнұсқалығын кейде мамандардың өзінеанықтау қиын.

Нәтижесінде адамдар жалған ақпаратқа ғана емес, шынайы ақпаратқа да күмәнмен қарайбастайды. Кез келген фотосурет, бейнежазба немесе дауыстық хабарлама жалған дептанылуы мүмкін. Бұл азаматтар, бизнес, мемлекеттік институттар және жалпы цифрлықорта үшін тәуекелдер туғызады.

Дипфейктерді қолданудың салдары бүгінде нақты өмірде жиі байқалуда.

2019 жылы Ұлыбританияда алаяқтар компания басшысының жасанды түрде жасалғандауысын пайдаланып, қызметкерді ірі көлемдегі қаржыны аударуға көндірген.

2024 жылы Гонконгта қылмыскерлер компания басшыларының цифрлық көшірмелеріқатысқан бейнеконференция ұйымдастырған. Қызметкер алдауды байқамай, берілгеннұсқауларды орындап, нәтижесінде компания миллиондаған шығынға ұшыраған.

Сондай-ақ синтетикалық дауыстар мен дипфейк-бейнелерді ұялы байланыс, мессенджерлер және бейнебайланыс платформалары арқылы пайдалану да ерекше қауіптөндіреді.

Кей жағдайда қаскөйлерге адамның бірнеше фотосуреті немесе қысқа дауыстық жазбасыжеткілікті. Осы мәліметтердің негізінде олар адамның сенімді цифрлық көшірмесін жасайалады. Сондықтан жеке тұлғаны растаудың дәстүрлі тәсілдері бұрынғы сенімділігінбіртіндеп жоғалтып келеді.

Қазақстан үшін де бұл мәселенің өзектілігі артып келеді. Бүгінде қылмыскерлеразаматтарды алдау және олардың ақшалай қаражаты мен дербес деректеріне қол жеткізуүшін заманауи цифрлық технологияларды белсенді қолдануда.

Жаңа сын-қатерлерге жауап ретінде мемлекеттер, технологиялық компаниялар, халықаралық ұйымдар және кәсіби қауымдастықтар AI Governance – жасандыинтеллектіні жауапты және қауіпсіз пайдалану жүйесін дамытуда әрі дипфейктерге қарсытетіктерді қалыптастыруда.

Неғұрлым перспективалы бағыттардың қатарына мыналар жатады:

• жасанды интеллект көмегімен жасалған контентті таңбалау;

• цифрлық су белгілерін пайдалану;

• синтетикалық материалдарды анықтау құралдарын дамыту;

• теріс пайдалануға қарсы шараларды күшейту;

• халықтың цифрлық сауаттылығын арттыру.

Контенттің шығу тегін растау технологиялары ерекше маңызға ие болуда. Оларматериалдың авторын анықтауға, оның жасалғаннан кейін өзгертілген-өзгертілмегенінтексеруге және цифрлық ақпаратқа деген сенімді арттыруға мүмкіндік береді. Мұндайтәсілдің мысалы ретінде Content Credentials технологиясын атауға болады.

Бүгіннен бастап не істеуге болады?

Дипфейктермен күрес тек оларды анықтау технологияларын жетілдірумен шектелмеуітиіс. Мемлекет, бизнес және қоғам күш-жігерін біріктіретін кешенді тәсіл қажет.

Мемлекет үшін AI Governance тетіктерін дамыту, заңнаманы жетілдіру, киберқауіпсіздікдеңгейін арттыру және цифрлық контенттің түпнұсқалығын растау құралдарын енгізумаңызды.

Бизнес үшін жеке тұлғаны сәйкестендіру және маңызды шешімдерді растау рәсімдерінқайта қарау ерекше өзекті. Дауыс, фотосурет немесе тіпті бейнебайланыс енді тұлғанырастаудың толық сенімді құралы ретінде қарастырылмауы мүмкін. Сондықтан ұйымдарқосымша тексеру тетіктерін енгізуі қажет.

Азаматтар үшін ең тиімді қорғаныс құралы – цифрлық сауаттылық. Дипфейктер кеңтаралған жағдайда, әсіресе ақша аударымдарына, дербес деректерді беруге немесе шұғылөтініштерге қатысты ақпаратқа сын көзбен қарау маңызды.

Қарапайым ережені ұмытпау қажет: маңызды ақпарат қаншалықты сенімді көрінсе де және таныс адамнан келгендей әсер қалдырса да, оны қосымша байланыс арналарыарқылы міндетті түрде тексеру керек.

Қазақстан үшін үздік халықаралық тәжірибелерді ескеріп, қауіпсіз әрі сенімді цифрлықортаны қалыптастыруға белсенді қатысу маңызды.

Жасанды интеллект дәуірінде басты міндет тек ақпарат алу ғана емес, оныңшынайылығын растау болып отыр.