«Одноклассники» начали выявлять «токсичные» комментарии с помощью ИИ

«Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии», — заявила российская соцсеть в своём блоге.

Также сообщается, что ею была внедрена модель машинного обучения, позволяющая автоматически выявлять «токсичные» комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.

Это, по мнению соцсети, должно сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Разработчики обучали модель больше года на 400 тысячах «недружелюбных» или «провоцирующих негативную дискуссию» высказываний. Для определения таких фраз соцсеть провела исследование среди своей аудитории. В апреле 2024 года «Одноклассники» стали автоматически находить на площадке нецензурные слова и скрывать их под звёздочками, а в июне — размывать и скрывать эротические изображения.