ICL Services разработали решение по распознаванию запрещённого контента

Специалисты ICL Services разработали решение по распознаванию запрещенного контента для стриминговой социальной сети. У заказчика появилась необходимость ускорить процесс выявления и блокировки запрещенного аудио- и видео-контента и сократить численность модераторов, которые занимаются идентичной работой. 

Для решения задачи специалисты ICL Services разработали плагин для браузера с использованием технологий искусственного интеллекта (ИИ), TorchAudio , TorchVision и ResNet . Плагин с точностью до 90% определяет запрещенный и подозрительный контент в аудио и сообщает модератору, на какой конкретно секунде зафиксировано нарушение. Также технологии ИИ были использованы для классификации видео-контента социальной сети. Для этого командой ICL был доработан интерфейс, который выводит подсказки для модераторов, и проведено A/B-тестирование .

Все это позволило сократить время модерации видео-ролика на 18,3%. — Для выявления запрещенного контента больше не нужно просматривать тонны видео и просушивать километры аудио дорожек вручную. Задача модераторов сводится к контролю системы и принятия окончательного решения, — поясняет специалист в области гибких методологий ICL Services Виктория Капмар. Благодаря предложенным решениям качество модерации выросло более чем на 14%, так как служба модерации заказчика стала быстрее реагировать на выявление запрещенного контента, оперативно принимать меры по блокировке пользователя и удалять контент из сети.

Torchvaudio — библиотека удобных инструментов для работы с аудио в формате волн. Torchvision — библиотека удобных инструментов для работы с изображениями. ResNet — остаточная нейронная сеть, называемая. A/B-тестирование — это эксперимент, который позволяет сравнить две версии чего-либо, чтобы проверить гипотезы и определить, какая версия лучше.

© ICL Services, 2021
© Издание 12NEWS (ИП Маринин А.Л.), 2021