Потенциально опасен: в России запустят систему «Вепрь» для раннего выявления угроз в сети

Речь, в частности, идет об экстремистском контенте, призывах к митингам, склонении к суициду, пропаганде ЛГБТ и тому подобном. Сейчас специалисты Роскомнадзора анализируют контент вручную, отмечают «Известия». Результат, ожидаемо, весьма скромный: чуть более 200 изображений и роликов в день. Как следствие, многое остается вне поля зрения. Вспомнить хотя бы ситуацию с новым неформальным движением подростков «ЧВК Рёдан», которое изначально зародилось в соцсетях на волне увлечения аниме. Теперь же отлавливать агрессивных школьников приходится ОМОНу. Около 220 человек, например, в выходные увезли в отделения из ТРЦ «Галерея». «Вепрь», безусловно, может стать хорошим подспорьем для интернет-безопасников, - считает технический директор компании «АйТи Бастион» Дмитрий Михеев:

Технический директор компании «АйТи Бастион» Дмитрий Михеев То, что такие системы есть, были и будут новые, ну, это факт. Дальше – вопрос качества и применение полученных данных. По сути своей, это стандартная система экспертная, которая, как правило, упирается в какой-то механизм принятия решений. Все равно там есть какие-то контролирующие команды, живые эксперты, которые найденные автоматически материалы готовят и что-то с ними делают дальше. Тут уже вопрос насколько разумно они будут обращаться с этими результатами. И вот это я оценить не готов.

К слову, «Вепрь» будет плотно взаимодействовать с системой «Окулус», запущенной в январе для борьбы с фейками. Совместно они смогут анализировать более 200 тысяч изображений в сутки. О том, что подход к фильтрации контента необходимо пересмотреть специалисты говорят давно. Об этом же свидетельствуют данные Генпрокуратуры, по распоряжению которой в 2022 году было удалено и заблокировано больше 100 тысяч интернет-ресурсов, содержащих сомнительную информацию. Для сравнения: в 2021-м таковых было всего 7 тысяч. Другое дело, что чрезмерная активность в этом направлении может привести к негативным последствиям, – предупреждает ответственный секретарь Правозащитного совета Петербурга Наталия Евдокимова:

Член Совета по правам человека при президенте РФ Наталия Евдокимова Я программист по первому образованию и могу сказать, что всегда возможна ошибка в программе, всегда. Если она не заложена специально, такое тоже может быть. Вот мы с вами видели результаты голосования через систему Интернет. Потом, что такое противоправный контент? Так как наше законодательство, мягко говоря, не сильно точное, то распознавать нормы очень сложно. Правоприменительная практика показывает, что в одних случаях деяние признается правонарушением, а в других случаях не признается.

Добавим, что ранее правительство уже разрешило Роскомнадзору до суда блокировать контент, пропагандирующий нетрадиционные сексуальные отношения. Как позже пояснили в Госдуме, это позволит эффективнее бороться с распространением порнографических фото и видео в сети, объем которых за последние два года вырос втрое. Депутаты еще в 2020 году пытались обязать соцсети удалять противоправную информацию самостоятельно, но особого результата это не принесло.