Дуров напугал мир интернет-дистопией. Что это и когда наступит
. В чем прав и не прав глава TelegramЭксперты оценили опасения Дурова о переходе в мировую интернет-дистопию
Павел Дуров заявил о стремительном движении всего мира в интернет-дистопию
Активность в интернете стала ресурсом для компаний, которые превращают в статистику каждый лайк, комментарий и просмотр. Эти массовые данные служат питательной средой для машинного обучения, подбора нужной рекламы и еще много чего. К тому же все чаще активность в Сети мониторится на «опасную информацию», а эти процессы законодательно одобряются парламентами государств.
РБК Life опросил специалистов и узнал, насколько справедливы опасения главы Telegram Павла Дурова о стремительном движении всего мира в интернет-дистопию. Разбираемся, что это за явление.
Что такое интернет-дистопия
Согласно теории Дурова, в будущем интернет может лишиться приватности, автономности и свободы слова
Глава Telegram Павел Дуров, предлагая свое определение интернет-дистопии, делает акцент на мерах, снижающих доступность и анонимность интернета — то, что делало его таким привлекательным и одновременно нерегулируемым, в отличие от взаимоотношений в мире реальном.
Ведь у всех так или иначе есть паспорт или ID, но в интернете они были не нужны. Теперь это меняется. Проверка возраста раньше была скорее формальностью, но теперь, например, в Австралии это обязательное требование. А, скажем, в ЕС всерьез обсуждают массовое сканирование личных сообщений в мессенджерах, что, по мнению Дурова, напрямую противоречит свободе слова.
Дуров кратко определил интернет-дистопию как мир, в котором Сеть лишена приватности, автономности, свободы слова и обмена информацией. То есть он максималистски видит интернет как площадку с минимумом контроля и ограничений. В пример можно привести его попытки сохранить таким мессенджер Telegram — с крайне редким участием владельцев сервиса и единичной реакцией на оправданные запросы представителей государств.
Руководитель лаборатории искусственного интеллекта Московской школы управления «Сколково» Александр Диденко дал РБК Life свое определение.
Интернет-дистопия — это устойчивое состояние цифровой среды, в которой:
- системно снижена автономия пользователей;
- разрушена конфиденциальность;
- созданы глобальные цифровые механизмы социального контроля и цензуры.
Он уточнил, что это обеспечивается через сочетание технических инструментов (сбор больших данных о юзерах, принятие решений, в том числе судьбоносных и «неотменяемых», ИИ и т.п.), институциональных решений (законы, обязательные процедуры мониторинга) и экономических стимулов (монетизация внимания через таргетинг).
По мнению Диденко, ключевой признак такой дистопии — когда государство или некоторая цифровая платформа делает себя «обязательной точкой перехода», без посредничества которой не может осуществляться реализация базовых функций человека как экономического, социального или даже биологического агента.
В общении с РБК Life директор по диджитал-коммуникациям КРОС Иван Минаев предложил рассматривать понятие интернет-дистопии не как ситуацию тотального контроля, но как систему, в которой каждое социальное действие пользователя является не «частной инициативой», а ресурсом для работы алгоритмов. То есть скорее не классической дистопией, а антиутопией в ярких красках соцсетей и мессенджеров.
«Каждый лайк, комментарий или просмотр превращается в поведенческий сигнал, который компании используют для уточнения моделей машинного обучения. Эти модели обучаются на огромных массивах таких сигналов, чтобы точнее прогнозировать интересы, время удержания внимания, вероятность покупки или реакции на контент», — пояснил он.
По его словам, в такой разноцветной дистопии механизм работы достаточно прост: лайки и комментарии маркируют контент как релевантный для конкретной аудитории. Затем алгоритмы фиксируют закономерности, это вызывает наибольший отклик, что позволяет снова и снова захватывать внимание пользователей.
При этом юрист Мирза Чирагов заявил РБК Life, что частично согласен с позицией Дурова, но видит в подобном развитии ситуации конкретные причины.
«Павел Дуров прав, указывая на опасность концентрации цифровых данных в руках крупных платформ и государства. Это действительно создает предпосылки для злоупотреблений и манипуляций. Однако нельзя игнорировать и то, что часть регулирования направлена на общественную безопасность: противодействие экстремизму, кибермошенничеству, защиту детей от деструктивного контента. Проблема не в самом контроле, а порой в отсутствии прозрачных и ограниченных процедур его применения», — отметил он.
По словам Чирагова, термин «интернет-дистопия» отражает ситуацию, при которой цифровая среда перестает быть пространством свободы и самовыражения и превращается в систему постоянного наблюдения, контроля и коммерциализации поведения пользователей.
Как наши данные работают против нас
«Современные технологии позволяют анализировать действия пользователей в Сети, изучать поведенческие характеристики и на основе этого формировать персонализированный контент»
В настоящее время интернет уже не место для обмена информацией, а мощный ресурс для продвижения идей, брендов и формирования общественного мнения, заявила РБК Life ведущий специалист по продвижению в социальных сетях PRIX Club Мария Димова.
«Современные технологии позволяют анализировать действия пользователей в Сети, изучать поведенческие характеристики и на основе этого формировать персонализированный контент. Данные о лайках, комментариях, глубине просмотра позволяют делать выводы о том, какой тип контента интересен, какую реакцию вызывает та или иная публикация, какой уровень вовлеченности наблюдается у аудитории», — отметила она.
В результате данные могут помогать и пользователям, а не только компаниям. Ведь одни получают интересную ленту на основе собственных предпочтений, а другие лучше понимают потребителей, могут подробнее изучить целевую аудиторию и модернизировать продукт под ее потребности, уточнила Димова.
По словам Александра Диденко, данные о лайках обогащаются известной демографической информацией о пользователе, из комментариев может извлекаться, к примеру, тональность. В результате формируется цифровой отпечаток пальцев пользователя.
«Далее по этому отпечатку можно выстраивать очень точные данные о том, на каких сайтах и что именно делает пользователь, и добавлять их в датасет. А собирая информацию о геолокации, эти данные можно обогащать информацией и о том, где физически бывают пользователи», — предупредил он.
При этом ключевая задача социальных сетей и интернет-платформ в том, чтобы удерживать внимание пользователя на себе максимально долго. Поэтому сбор таких данных не всегда чистое зло для пользователя — часто таким образом он или она получает доступ к более важным для себя текстам, фильтруя в общем потоке информации важные вещи, допустил Диденко.
С юридической точки зрения в России действует следующий принцип: персональные данные принадлежат субъекту данных, а оператор обязан обеспечивать их защиту и использовать строго в заявленных целях, рассказал Мирза Чирагов.
По словам юриста, даже при всех текущих мерах пользователь не может полностью исключить цифровой след. Правовая и технологическая инфраструктура устроена так, что данные циркулируют между множеством операторов, констатировал он.
Поможет ли избежать дистопии отказ от интернета
«Отказ от интернета из-за риска дистопии — это скорее пользовательская паранойя»
Несомненно, приватность является важным аспектом жизни каждого человека, поэтому на любой платформе пользователь может ограничить обработку определенной информации, например отказаться от отслеживания местоположения, пояснила Мария Димова.
«Во многих приложениях можно скрыть количество лайков, комментариев, архивировать или удалить публикации», — добавила она.
В пример Димова привела то, как в 2021 году видеохостинг YouTube убрал количество дизлайков под видеозаписями, эти данные стали доступны только автору видео.
Александр Диденко выразил уверенность, что в текущих реалиях все еще возможно отказаться от всего цифрового контента, уничтожить профили в социальных сетях, максимально анонимизировать свое присутствие в интернете.
«В итоге пользователь получит усредненную версию интернета, в котором придется для поиска релевантной информации тратить в три раза больше усилий. Можно пойти дальше, отказаться от «Госуслуг» и сделать взаимодействие с государством исключительно «карбоновым» (в России это теоретически еще можно сделать, а в Китае и Индии — нет). И в результате утратить изрядную часть удобства и скорости», — констатировал он.
Диденко предположил, что отказ от интернета из-за риска дистопии — это скорее пользовательская паранойя, и допустил, что все-таки людям, как и Дурову, стоит пересмотреть «вековые истины».
«Возможно, на текущем уровне развития технологии общество просто должно пересмотреть вещи, которые кажутся нам «высеченными в скрижалях», например решить, что персональные данные не принадлежат человеку», — рассказал он.
По словам Ивана Минаева, пользователь теоретически может ограничивать использование своих данных, но на практике это очень сложно.
«Ирония в том, что, даже если запретить алгоритмам сбор данных, скорее всего, они все равно продолжат это делать, только в обезличенном формате. Кроме того, многие платформы делают интерфейсы настроек намеренно сложными, чтобы минимизировать отток данных», — пояснил он.
Реальная ответственность за виртуальное высказывание
«Усилился эффект «постоянной сцены»: любое высказывание может быть заархивировано, вырвано из контекста и использовано кем угодно»
Восприятие ответственности за собственные высказывания и действия в цифровом пространстве носит двойственный характер, считает Мария Димова. По ее словам, с одной стороны, из-за онлайн-присутствия, придуманных никнеймов и анонимности зачастую создается эффект безнаказанности и дистанцированности.
«Очень часто так работают с негативными комментариями в интернете, кибербуллинг возникает из-за отсутствия личного контакта и понимания, что по ту сторону экрана находится точно такой же живой человек со своими чувствами и эмоциями», — уверена она.
Однако в то же время активность в интернете подробно анализируется компаниями, что накладывает на пользователя определенный уровень ответственности и вызывает опасения, что личная информация будет использована вне его контроля или против него самого, уточнила Димова.
За последние годы заметно изменилось и восприятие ответственности за свои действия онлайн, уверен Иван Минаев. Если раньше цифровое пространство воспринималось как полуприватное и «без последствий», то сейчас пользователи лучше осознают риски — от репутационных до юридических.
«Одновременно усилился и эффект «постоянной сцены»: любое высказывание может быть заархивировано, вырвано из контекста и использовано кем угодно. Это повышает уровень самоконтроля, но и усиливает тревожность: границы между публичным и личным размылись окончательно», — констатировал он.
Мираз Чирагов выразил уверенность, что за последние 10–15 лет произошел реальный сдвиг в том, как пользователи воспринимают свои публикации.
«Пользователи осознали, что высказывания в Сети имеют юридические последствия: от гражданской ответственности за клевету и репутационные потери до уголовных дел по статьям о разжигании ненависти или фейках. Граница между частным и публичным размыта, а цифровой след сохраняется годами», — предупредил он.
При этом компании и госорганы активно используют цифровые профили при найме, проверках, мониторинге. «Это формирует новую цифровую этику: пользователь становится субъектом права и одновременно источником доказательств. Поэтому растет запрос на правовую грамотность в сфере данных и контента», — добавил Чирагов.
Юрист заметил, что «интернет-дистопия не фантазия, а естественный результат несбалансированного развития технологий и регулирования».
Он заключил, что задача юристов не отрицать контроль, а добиваться правовой определенности, прозрачности алгоритмов и подотчетности операторов данных, потому что только так можно сохранить цифровую среду правовой.
