В Казахстане появится свой детектор ИИ-контента
В Казахстане разрабатывают собственную систему для автоматического выявления фейкового контента и дипфейков: поддельных видео, голосов и изображений, созданных с помощью искусственного интеллекта. Об этом сообщил вице-министр культуры и информации Евгений Кочетов на круглом столе в мажилисе, пишет digitalbusiness.kz
Это для защиты от мошенников
По словам Кочетова, такие технологии все чаще используются злоумышленники:
«Создаются поддельные голоса, видео и изображения, так называемые дипфейки. Растет объем противоправного контента в сети», – пояснил он.
Отечественная система на базе ИИ
Чтобы бороться с этим, Минкультуры запускает новую цифровую инициативу. Система будет работать на базе ИИ - похожая технология уже используется в Казахстане для блокировки онлайн-ресурсов, связанных с наркоторговлей.
«Эта технология уже показывает эффективность в борьбе с онлайн-наркоторговлей. Специальная система «МЕРГЕН», работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. Только на этой неделе был закрыт 5000-й такой ресурс. Сейчас мы обучаем LLM-модель, чтобы включить в нее функции выявления дипфейков», – рассказал вице-министр.
Появится отечественный фактчекинг
Кроме того, алгоритмы начнут помогать в правовом мониторинге - они будут анализировать информацию в интернете, выявлять противоправные материалы и направлять их на автоматическую блокировку.
«Алгоритмы смогут анализировать контент, выявлять признаки противоправности и автоматически направлять его на блокировку. Эта работа уже внедряется в практику», – добавил Кочетов.
Может быть интересно:
Основы внедрения ИИ в образование законодательно закрепили в Казахстане
