Учёные разработали программу, распознающую запрещённое содержание сайтов; способ фильтрации незаконного контента пригодится как провайдерам, так и рядовым пользователям.
Действенный способ обнаружения в интернете информации, связанной с распространением наркотиков, придумали учёные из Института систем информатики им. А. П. Ершова СО РАН. Об этом рассказали в управлении по пропаганде и популяризации научных достижений СО РАН.
"Нейросети ищут определенный контент по словам: они взвешивают данные и определяют вероятность того, что этот сайт содержит запрещённую информацию. Программа, которую разработали в институте, интегрирует нейросети с моделями, основанными на знаниях экспертов по искусственному интеллекту", — объяснили разработчики. Полученный инструмент проверяет информацию, отфильтровывает нелегальный контент и объясняет, почему счёл его таковым.
По словам разработчиков, современные методы типа машинного обучения или нейронных сетей плохо справляются с поиском запрещённого контента. Злоумышленники могут использовать сленг при продаже наркотиков. Они называют их совершенно обычными словами, такими как “молоко” или “корова”.
"Если блокировать эти слова, то будет заблокировано слишком много сайтов. Еще одна трудность — часто сообщения о продаже наркотиков размещаются на сайтах совершенно обычной тематики, например в комментариях к новостям", — пояснила старший научный сотрудник лаборатории искусственного интеллекта ИСИ СО РАН кандидат физико-математических наук Елена Сидорова.
Принцип работы программы таков — программа анализирует структуру, затем с помощью словаря проводит лингвистический анализ содержания, исходя из чего оценивается, связан ли текст с темой наркотиков.
"В то время как методы машинного обучения определяют нелегальное содержание с точностью около 70 %, нам удалось добиться точности выявления в 86 % случаев. При этом почти 90 % нейтральных сайтов наш метод не относит к нежелательным", уточнила Сидорова.
В институте добавили, что программе предназначена, прежде всего, для провайдеров, поскольку именно они несут ответственность за размещение незаконного контента.
Напомним, в октябре в Новосибирске осудили банду кладменов.
Подпишитесь на нас в Telegram
