Эксперты оценили необходимость маркировки цифрового контента
Отличить видео, фото и текст, сгенерированные нейросетью, можно только с помощью специальных программ. Это создает большие возможности для мошенничества и манипуляций общественным мнением. Маркировка цифрового контента поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга.
Вслед за крупнейшими игроками на рынке искусственного интеллекта в России начнут маркировать контент, созданный нейросетями. Ежегодно отмечается стремительный рост фейков в Сети. Так, по данным АНО «Диалог Регионы», в прошлом году в российском сегменте интернета было зафиксировано 4 тысячи уникальных фейков и 12 миллионов случаев их распространения.
Эксперты прогнозируют, что в этом году число уникальных фейков достигнет 4,5 тысячи, а количество их копий возрастет до 15 миллионов. В связи с этим требуются срочные меры по регулированию контента, созданного нейросетями.
Новый закон о маркировке
Необходимость принятия закона о маркировке контента, сгенерированного нейросетями, назрела уже давно. Отсутствие подобного регулирования представляет серьезную угрозу безопасности пользователей. Неконтролируемое распространение контента, созданного нейросетями на базе искусственного интеллекта (ИИ), может привести к дезинформации и вызывать панику среди населения.
В Госдуме уже начали разработку закона о маркировке ИИ-контента. На данный момент обсуждается, как именно и в каких случаях будет маркироваться контент, кто должен нести ответственность за его распространение. Будет ли маркировка касаться только контента, распространяемого СМИ, или пользовательского контента, используемого в личных целях.
Справочно :Предполагается, что маркировка будет осуществляться при помощи графических или водяных знаков. Метки будут выглядеть ненавязчиво, но при этом заметно.
В случае принятия закона, российские ИИ-сервисы будут обязаны автоматически маркировать сгенерированные тексты. Поэтому таким крупным компаниям как Сбер и Яндекс следует уже сейчас задуматься о внедрении технологии маркировки.
Почему важно маркировать цифровой контент
Введение обязательной маркировки контента, созданного нейросетями, несет значительные преимущества для пользователей:
1. Большинство людей не способны критически воспринимать огромные информационные потоки. Метки помогут пользователям легко и быстро распознавать фейки и избегать их распространения.
2. Водяной знак или другой вид маркировки будет способствовать осознанному потреблению цифрового контента и снижению риска поддаться на уловки мошенников.
3. Маркировка служит своего рода страховкой для общества и бизнеса, хотя и не является абсолютной гарантией защиты от дезинформации.
В современном цифровом мире умение различать манипуляции становится жизненно важным. Маркировка ИИ-контента – первый шаг к формированию здоровой цифровой экосистемы.
Сергей Кузьменко, руководитель Центра цифровой экспертизы Роскачества: «Сегодня ИИ-сервисы стали доступны любому человеку, у которого есть устройство с выходом в интернет.Только с помощью специальных программ можно отличить видео, фото и текст, сгенерированные нейросетью. Это создает большие возможности для мошенничества и манипуляций общественным мнением. Соответствующая маркировка цифрового контента поможет пользователям определить, что данные были созданы нейросетью и требуют фактчекинга».