Команда «ВКонтакте» тестирует новый алгоритм нейросети, который будет удалять сообщения с оскорблениями.

Кибербуллинг – настоящий бич для современного Интернета. Специалисты с каждым годом делают все, чтобы пресечь разжигание ненависти и оскорблений в Сети.

Только за первую половину нынешнего года из российской соцсети было удалено около 520 тысяч материалов, связанных с оскорблениями и распространением ненависти. Теперь этим будет заниматься искусственный интеллект.

Специалисты «ВКонтакте» пообещали, что новинка будет опознавать самые разные виды оскорблений или неприличный контент. Компьютер распознает угрозы, гомофобию, расизм, а также проявление ксенофобии и других человеческих предрассудков.

О том, когда ИИ вступит в неравную борьбу с Интернет-провокаторами не сообщается, но борьба уже идет и не первый месяц. Известно, что первым этапом устранения кибербуллинга и оскорбительной информации стал раздел «Враждебные высказывания» в категории «жалобы».

blog.eset.ee

Также сейчас с помощью механизмов автоматического поиска и нейронных сетей проводится регулярное сканирование на предмет разжигания ненависти между пользователями, итоги которого, кстати есть. За 6 месяцев 2020 года удалено более 1 тысяч профилей и почти 2,5 тысяч сообществ, распространяющих подобную информацию.

 

 

Ранее МедиаПоток писал, что соцсеть «ВКонтакте» запустила функцию распознавания неприличных жестов. Алгоритмы сделают просмотр роликов «более комфортным» для пользователей, так как «поможет не сталкиваться с негативом».