«Одноклассники» включили ИИ для снижения токсичности комментариев

Временные ограничения в комментировании материалов ввела социальная сеть «Одноклассники» с использованием искусственного интеллекта (ИИ) в отношении пользователей, которые пишут оскорбительные комментарии, 26 ноября сообщила пресс-служба администрации соцсети. В пресс-службе сообщили, что на платформе внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии. Автоматика позволяет ограничивать авторов таких сообщений, блокируя для них возможность писать новые сообщения в течение определенного промежутка времени — от 1 до 24 часов. Время блокировки зависит от того, насколько часто пользователь оставлял оскорбительные высказывания. В результате нововведений количество оскорбительных сообщений под публикациями сократилось на 47%. Согласно исследованию, проведенному социальной сетью, негативные публикации вызывают злость у более чем 40% опрошенных. «Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против токсичности», — заявил директор по продуктам «Одноклассников» Александр Москвичев. glavno.smi.today