Развитие рекомендательных сервисов может привести к политической поляризации общества, а также продвижению фейковых новостей и риторик ненависти. Такие риски видит ФГУП «Главный радиочастотный центр» (ГРЧЦ), подведомственный Роскомнадзору, пишут «Ведомости» со ссылкой на аналитическую справку, подготовленную организацией.
«Законодательное регулирование рекомендательных сервисов необходимо для защиты потребителей от непрозрачных алгоритмов отбора контента, способных искажать реальное положение дел и приводить к пугающим последствиям, вплоть до реального нанесения вреда здоровью и психике человека», — говорится в документе.
Работа рекомендательных сервисов, в том числе в социальных сетях, основана на технологии искусственного интеллекта, «поэтому можно смело утверждать, что ИИ — ключевой компонент популярных социальных сетей», говорится в записке. Искусственный интеллект, в свою очередь, контента «часто отдает предпочтение спорной, разжигающей вражду и недостоверной информации», так как именно она «привлекает больше внимания пользователей и ведет к повышению вовлеченности и взаимодействия с платформой», говорится в документе.
«В результате социальные сети могут спровоцировать политическую поляризацию и продвигать дезинформацию», — считают составители записки.
В качестве примера авторы документа приводят американские данные: статистику социальной сети Facebook (принадлежит Meta, признана экстремистской и запрещенной в России), согласно которой 64% всех новых подписчиков экстремистских групп пришли в них через рекомендации, а также данные системы мониторинга поисковой выдачи, которую использовали республиканцы для аналитики рекомендаций в Сети накануне выборов президента США в 2020 году. Согласно этим данным, исследователи отмечали существенный перекос в результатах поиска Google в пользу демократов. Примеры из работы российских рекомендательных сервисов в ГРЧЦ в записке не приводят.
Еще одним риском распространения рекомендательных сервисов ГРЧЦ считает то, что они выдают пользователю именно ту информацию, которая похожа на то, что он смотрел ранее. Это приводит к появлению эффекта «эхо-камеры», когда пользователь лишается рекомендаций с альтернативной точкой зрения.
Чтобы предотвратить такие риски, ГРЧЦ предлагает внедрить аудит алгоритмов, сообщение для пользователя с разъяснением о работе алгоритмов, а также возможность давать и отзывать согласие на обработку персональных данных.
Рекомендательные сервисы сейчас используют все крупнейшие интернет-компании в России, в том числе VK и «Яндекс», указывает газета. Алгоритмы анализируют так называемый цифровой след пользователя в Сети и на основе посещенных ранее страниц выдают им определенный контент, а также рекламу потенциально интересных товаров.
РБК направил запросы в «Яндекс» и VK.
Предложения ввести регулирование для рекомендательных сервисов обсуждаются несколько лет. В конце прошлого года стало известно о разработке инициативы по работе рекомендательных сервисов. Под действие законопроекта могут подпасть соцсети, видеохостинги, онлайн-кинотеатры, поисковые системы, маркетплейсы и др., писал «Коммерсантъ» в конце 2022 года. Кроме возможности отключения рекомендаций разработанный законопроект предполагал, что Роскомнадзор сможет запрашивать у владельцев информационных ресурсов данные, которые связаны «с предоставлением или распространением информации с применением рекомендательных технологий».
Однако инициатива была раскритикована участниками рынка. Президент Ассоциации компаний интернет-торговли (АКИТ) Артем Соколов отмечал, что в таком виде регулирование «отбросит рынок в прошлое»: интернет-магазины без механизма рекомендаций превратятся в каталоги, «которые использовали 20 лет назад». Он оценивал потери отрасли от введения регулирования более чем в 100 млрд руб. ежегодно.
Документ планировали внести в Госдуму до конца 2022-го, но этого не произошло. По словам собеседника РБК на IТ-рынке, законопроект «значительно доработали». По словам источника РБК власти склоняются к тому, чтобы отказаться от идеи создания так называемой кнопки, с помощью которой можно было бы отключать рекомендательные сервисы пользователям. Это подтвердил также Антон Горелкин — автор законопроекта, зампредседателя комитета Госдумы по информационной политике, информационным технологиям и связи.