Социальная сеть «Одноклассники» в России начала временно ограничивать доступ к пользователям, которые оставляют оскорбительные комментарии, используя технологии искусственного интеллекта (ИИ).
Об этом сообщает пресс-релиз, направленный в редакцию «Ленты.ру».
Представители «Одноклассников» объяснили, что в компании была разработана модель машинного обучения, которая помогает автоматом выявлять токсичные комментарии и накладывать ограничения на авторов на срок от одного часа до 24 часов, в зависимости от частоты их негативных высказываний. Как следствие, количество подобных сообщений под публикациями, фотографиями и видео уменьшилось на 47 процентов.
Согласно исследованию, инициированному социальным медиа, отрицательные сообщения вызывают гнев у свыше 40 процентов участников опроса. «Мы наблюдаем по запросам от пользователей, что наша аудитория нуждается в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе касается негативных комментариев, как их воспринимают пользователи, а 80 процентов обращений в службу поддержки связаны с вопросами токсичности», — сообщил директор по продукту социальной сети «Одноклассники» Александр Москвичев.
Модель машинного обучения прошла обучение на 400 тысячах агрессивных высказываний. Ее применение позволило уменьшить время на обработку жалоб на токсичные комментарии втрое и оперативнее помочь пользователям в решении их вопросов.
«Совместно с другими решениями, которые мы реализовали за последние два года, ограничение токсичных комментаторов даст возможность социальной сети не только быстрее вернуть редко заходящих пользователей, но и привлечь новую аудиторию», — подчеркнул Москвичев.
