Против фейков и дипфейков: ИИ в Казахстане поставили под контроль

В Казахстане за ИИ-контент без маркировки теперь предусмотрены штрафы. Новые нормы касаются как обычных пользователей, так и бизнеса, СМИ и онлайн-платформ.  За какие публикации придётся отвечать, как правильно маркировать контент - и действительно ли штраф грозит за обычный пост в соцсетях? Обо всем по порядку расскажет корреспондент Almaty.tv.

Закон об искусственном интеллекте вступил в силу 18 января этого года. Он вводит чёткие правила для всех, кто использует нейросеть - от блогеров до крупных компаний. Главное нововведение – обязательная маркировка ИИ-контента. Теперь любые тексты, изображения, аудио и видео, созданные или существенно изменённые с помощью искусственного интеллекта, должны сопровождаться визуальным предупреждением. Контент должен иметь отметку в машиночитаемом формате, чтобы автоматические системы могли распознавать, что это синтетический продукт.

"Закон закрепляет основные принципы использования искусственного интеллекта, включая справедливость и равенство, прозрачность и объяснимость алгоритмов, ответственность и подконтрольность, защиту данных и конфиденциальности, а также безопасность и надежность ИИ-систем. Граждане имеют право быть проинформированными о применении автоматизированной обработки данных, её последствиях, возможности возражения против такой обработки, а также о механизмах защиты своих прав и законных интересов", - сообщили в Министерстве искусственного интеллекта и цифрового развития РК.

По мнению IT-экспертов, обязательная маркировка поможет защитить людей от манипуляций, фейков и дипфейков, которые становятся всё реалистичнее и опаснее. Такой контент может вводить в заблуждение, использовать чужие образы без согласия или нарушать права личности - от непрошеных рекламных роликов до виртуальных «копий» реальных людей. А для креаторов, дизайнеров и авторов контента серьёзных препятствий закон не создаст, главное, честно обозначать использование ИИ.

"На самом деле много кибермошенничества, киберпреступлений, социальной инженерии, которые могут давить на человека с помощью этих инструментов. А это (закон) на самом деле защищает его права. Можно ли сказать, что это будет кого-то тормозить? То только тех, кто эти инструменты использует с плохими побуждениями. Со стороны, условно, тех кто использует их адекватно, как инструментарий, все в целом нормально", - отметил PR-эскперт в IT Абылай Исин.

Система штрафов привязана к статусу нарушителя. Для физлиц около 65 тысяч тенге, для малого бизнеса более 86 тысяч, а среднего – почти 130 тысяч. Крупные компании за нарушение должны будут заплатить почти 433 тысячи тенге. Власти отмечают, тотальных проверок каждого фото и ролика не планируют. Реагировать будут точечно - на обращения граждан, жалобы и результаты мониторинга открытых источников и официальных площадок.

Адель Акжаркенова, - телеканал Almaty TV.

Читайте также: Токаев: цифровизация и ИИ определят будущее экономики и системы госуправления