В «Одноклассниках» заработала нейросеть для защиты пользователей от навязчивого общения в сети

  

16 Ноябрь 2023 (11:47)

В «Одноклассниках» заработала нейросеть для защиты пользователей от навязчивого общения в сети

«Одноклассники» запустили модель на основе машинного обучения, которая ограничивает навязчивые знакомства и общение с нежелательными собеседниками в соцсети, сообщает ОК в четверг.

Теперь пользователи ОК, которые часто отказываются от общения и знакомств, не получат информации об активности тех аккаунтов, которые навязывают общение и знакомства в сети. Киберсталкеры (онлайн-преследователи — ред.), в свою очередь, будут ограничены в количестве диалогов с незнакомыми им пользователями. Обновление будет способствовать дальнейшему развитию комфортной среды для общения в ОК и снизит количество нежелательных знакомств на площадке, говорится в сообщении.

Для защиты пользователей ОК анализирует социальное взаимодействие – дружба и запросы на неё, посещение страницы, подарки и ряд других параметров – в режиме реального времени между незнакомыми пользователями и делит их на категории. Нейросеть находит те аккаунты, которые регулярно добавляют в друзья людей без общих знакомых, массово отправляют подарки незнакомцам, ставят им «классы» и пишут личные сообщения. К другой группе модель ОК относит людей, которые часто отклоняют заявки в друзья, заносят в «чёрный список» пользователей, отказываются от подарков или жалуются на действия незнакомых людей.

На основе собранных данных ОК ограничивает взаимодействие между этими группами аккаунтов и скрывает уведомления от навязчивых собеседников, например, о заявке в друзья, классах на фотографиях или постах, подарках, посещениях страницы. Модель также снижает количество возможных бесед между этими группами пользователей – те, кто массово отправляют личные сообщения, будут ограничены в количестве диалогов.

Как говорится в сообщении, модель была протестирована на разных аудиториях ОК в течение нескольких месяцев, и в рамках эксперимента число жалоб на навязчивое внимание со стороны незнакомых аккаунтов снизилось на 25% по сравнению с предыдущими периодами. Пользователи, которые ранее часто отказывались от общения, стали реже отклонять заявки в друзья и добавлять незнакомых людей в «чёрный список», так как нежелательная активность перестала отвлекать внимание, а сами запросы в друзья стали более релевантными.