Минцифры РФ разрабатывает инструмент для выявления контента, созданного искусственным интеллектом

Министерство цифрового развития Российской Федерации рассматривает возможность внедрения сервиса, который позволит россиянам проверять, является ли тот или иной контент созданным с помощью искусственного интеллекта. Об этом в ходе международного форума “ИТ-диалог 2025” сообщил заместитель министра цифрового развития Александр Шойтов.

“Существуют два основных подхода. Во-первых, необходимо выявление текста, сгенерированного ИИ. Есть различные методы, но они не всегда обеспечивают стопроцентную надежность. Это своего рода борьба: методы маскировки будут совершенствоваться, как и способы их обнаружения. Мы считаем важным иметь такой инструмент. Одним из вариантов является создание сервиса, доступного для граждан. Пользователь сможет отправить файл и узнать, является ли он оригинальным или сгенерированным”, — пояснил Шойтов.

Он добавил, что новый сервис будет работать по аналогии с “Мультисканером”, который определяет вирусы в файлах: “Вы просто отправляете файл и получаете ответ — сгенерирован он или нет”, — уточнил заместитель министра.

Шойтов отметил, что проблема контента, созданного искусственным интеллектом, касается множества областей, включая публикации в СМИ и социальных сетях, а также дипфейки, используемые мошенниками.

“В случае с массовой информацией у нас бывает возможность отсортировать контент, но когда мошенник звонит вам на телефон, требуется совершенно другой подход к реагированию. Они должны быть технологически различными”, — добавил он.