Развитие искусственного интеллекта сегодня ставит перед государствами важный вопрос: как развивать ИИ, не ограничивая инновации и одновременно снижая возможные риски?

Казахстан активно формирует собственную систему регулирования искусственного интеллекта. В стране действует Закон Республики Казахстан «Об искусственном интеллекте», а объявление Президентом Республики Казахстан 2026 года Годом цифровизации и искусственного интеллекта показывает, что развитию ИИ придается стратегическое значение на государственном уровне.

Мировая практика показывает, что важной частью управления искусственным интеллектом (AI Governance) становятся:
— прозрачность работы ИИ-систем;
— отчетность компаний;
— независимая оценка рисков ИИ.

Сегодня международные подходы, включая практику Европейского союза и США, исходят из того, что государственные органы должны получать достаточную информацию о наиболее мощной ИИ-моделях. Это необходимо для своевременной оценки рисков, выработки эффективной политики и защиты общественных интересов.

В мировой практике постепенно формируются два основных подхода:
* требования к прозрачности (transparency requirements) — когда компании раскрывают информацию о безопасности и принципах работы ИИ-систем;
* требования к отчетности (reporting requirements) — когда более детальная информация предоставляется государственным органам для оценки рисков и обеспечения надлежащего управления ИИ.

Подобные механизмы уже используются:
— в рамках Закона ЕС об искусственном интеллекте (EU AI Act);
— в законодательстве отдельных штатов США;
— в системах оценки рисков ИИ (AI risk assessment) и оценки воздействия ИИ (AIimpact assessment).

При этом международный подход строится на балансе между:
— безопасностью общества;
— развитием инноваций;
— защитой коммерческой тайны;
— ответственным внедрением ИИ.

Следующим этапом развития AI Governance становится внедрение механизмов независимого аудита и оценки соответствия ИИ-систем внутренним требованиям безопасности и управления рисками.
Для Казахстана это направление становится особенно актуальным в условиях цифровой трансформации и развития национальной модели регулирования ИИ.

В этой связи важное значение приобретают:
* разработка национальных механизмов управления ИИ;
* создание методологий оценки рисков ИИ;
* развитие экспертных организаций для проведения независимых исследований ИИ на стыке права и IT;
* внедрение принципов доверенного и ответственного ИИ;
* разработка стандартов прозрачности и оценки рисков ИИ.

Ассоциация “Pravion QZ” рассматривает развитие механизмов управления искусственным интеллектом как важный элемент безопасного, прозрачного и правомерного внедрения технологий искусственного интеллекта в Казахстане.