Должны ли социальные сети подчиняться строгим нормам и правилам в области контроля, прозрачности и подотчетности?
«Альтернативные факты» и «реалии» давно уже перестали быть фантастикой. Сегодня едва ли не каждый утверждает, что только он один знает истинную правду, а всех остальных надо отправить на костер шельмования и доносов в социальных сетях.
В контекстеСоциальные сети и «дизайн сознания» Алгоритмы этих сетей стали настолько сложными, что они могут вызвать у вас зависимость, изменить ваши привычки, навязать стиль поведения или эмоции - и в очень короткий период. Их задача, на самом деле - заставить вас изменить свое поведение в реальном мире в результате чего-то, что вам навязали.
Сети отнюдь не соединяют людей, напротив, они мотивируют пользователей жить исключительно в своих замкнутых информационных пузырях.
Гиганты IT-индустрии покушаются уже даже не столько на свободу мысли, сколько на саму свободу эмоций.
Возникновение дискурса, свободного от «референта», то есть некоей третьей инстанции, которая является измерительной линейкой, источником общих понятий и, таким образом, некоего общего знаменателя, на основе которого только и возможны рациональные дебаты, подстегиваемое алгоритмами соцсетей стремление в рамках этих дебатов не добраться до истины, но уничтожить своего соперника морально, ведет к конфронтации дискурсов, к их конкуренции, и в итоге, к схлопыванию диалога до монолога: все это является фундаментальной проблемой наших дней.
Этот контент был опубликован 27 августа 2018 года27 августа 2018 года Швейцария может стать пионером в разработке научных методов борьбы с «фейковыми новостями».
Бесконечное количество информации равно отсутствию информации равно нулю. Часть становится больше целого. Единичное мнение не есть больше производное от «большого стиля» или «общепризнанного нарратива», но сам «стиль» и «нарратив». Каждый может сказать, что прав только я, а все остальные не правы.
Почему? Потому! Диалог окончен. Cancelled, как сейчас модно говорить.
Окрыленные собственной правотой и спутав социальную сеть с живой жизнью, многие левые и правые политики и общественные деятели все чаще призывают к насилию с целью реализации «единственно верной истины».
С правой стороны таким является, например, движение QAnon, с левой — радикальные климатические и зеленые активисты или же движение Antifa. Одно из последствий такой ситуации: изменение баланса сил между национальными государствами, традиционными социумами и глобальными гигантами IT-индустрии.
Твиттер «банит» некоего политика? Но почему технологическая сеть присваивает себе право фильтровать информацию для своих пользователей на основе ей одной известных критериев?
Да, сети являются частными компаниями, которые однако вторгаются на территорию общественного блага, пользуясь общественными же благами, начиная от инфраструктуры и заканчивая образованными пользователями.
Очевидно, что тут возникает проблема скалирования или масштабирования: правила, придуманные для того, чтобы приструнить просто сетевого дебошира, приобретают совсем иную природу тогда, когда «дебоширом» оказывается человек с ядерной кнопкой. В естественных и инженерных науках парадокс масштабирования известен уже давно.
Не исключено, что теперь он должен быть описан и применительно к социологии соцсетей. Как быть и как найти выход из этого противоречия?
* * *
В контекстеЗачем нужны миллиардеры? Гейтс недоумевает, сталкивался ли вообще кто-то с тем, что федеральное правительство окрестило монополистическим поведением Microsoft; и явно сочувствует чуду ребенка века нынешнего — Марку Цукербергу...
Мы решили поговорить на эту тему с Мариетте Шааке (Marietje Schaake), президентом Института политики кибернетической безопасности (Cyber Peace InstituteВнешняя ссылка) в Женеве и директором Отдела международной политики Центра кибернетической политики (Cyber Policy CenterВнешняя ссылка) Стэнфордского университета.
Разумеется, мы не претендуем на окончательную правду, мы рассматриваем это интервью только как шаг на долгом пути в поисках истины. Все, что говорит нам наш собеседник, так же можно и нужно ставить под вопрос.
SWI swissinfo.ch:
В течение многих лет вы постоянно призывали к более строгому регулированию социальных медиа-платформ. Каковы, на Ваш взгляд, наиболее срочные реформы, которые здесь необходимо осуществить?
Мариетте Шааке:
Существует фундаментальная проблема, которую нам необходимо решить в приоритетном порядке: прозрачность в сфере доступа к информации. Экспертам, властям и журналистам очень сложно сейчас понять, как именно алгоритмы, разработанные социальными сетями, используют и фильтруют информацию, какие данные собираются и кому они потом направляются.
Я думаю, что нам нужно больше независимых научных исследований, чтобы лучше понимать изначально предполагаемые, так и непредвиденные последствия реализации такого рода бизнес-моделей.
Без доступа к этой информации очень трудно понять, насколько подрываются и выхолащиваются базовые демократические права людей и соблюдают ли вообще эти компании условия использования и ограничения, стандарты и запреты, которые они установили сами же для себя.
В контексте3F-reality В современном мире обществу, помимо нормальных политических партий, навязана еще и группа гоблинов, представляющая не людей, а идеологию – причем, идеологию людоедскую, давно уже доказавшую на практике свою кровавую сущность.
Должны ли социальные сети подчиняться нормам и правилам в области ответственности, контроля, прозрачности и подотчетности, аналогичным нормам и правилам, действующим в банковской сфере?
Да, это правильная мысль в правильном направлении. С одной стороны, на компании должны распространяться четкие обязательства и стандарты. С другой стороны, необходимо ввести серьезные санкции за серьезные же нарушения.
Нам необходимо установить режим надзора за ними со стороны регулирующих органов, обладающих ноу-хау и полномочиями для проведения, в случае необходимости, расследований и реализации в обязательном порядке соответствующих мер и реформ.
Вы упомянули о банковской деятельности, но мы также могли бы взять в качестве аналогов правила и нормы, которые применяются в фармацевтической, химической или автомобильной промышленности.
Фейсбук уже начал создавать своего рода надзорные комитеты. Но разве в состоянии они отловить в сети с более чем двумя миллиардами пользователей все слова, посты и выражения, «разжигающие» и «оскорбляющие» кого-то? Мы уже не говорим о более скромных по размерам сетях, которые практически вообще не контролируются. Что могли бы сделать демократические страны для того, чтобы предотвратить шельмование и ненависть в сетях и их перетекание из виртуального мира в реальный?
Я думаю, что для этого нужна комбинация факторов. В большинстве европейских стран уже существуют содержательные исключения из принципа свободы выражения мнений, хотя, к счастью, они пока весьма ограничены. Существуют такие ограничения тогда, когда речь идет о подстрекательстве к насилию, или, например, когда имеет место отрицание Холокоста. Эти табу могут и в самом деле помочь нам внести ясность в ситуацию и понять, что является законным, а что — незаконным.
Трудности начинаются, когда мы сталкиваемся с поведением, допустим, приверженцев конспирологических мифов, которые оказывают опасное воздействие на общественное сознание, не нарушая формальных законов. В этом случае важно даже не столько наличие контроля, сколько понимание того, как такие теории распространяются и как влияют на общество в целом.
Саморегулирования тут уже недостаточно. Мы должны установить дополнительные правила, контролировать их соблюдение и при необходимости обеспечивать их выполнение или даже настаивать на этом. Но слышали ли вы о ком-то, кто получил решение суда в свой адрес в рамках такого рода проблематики?
Вот и я нет! Последствия нерегулируемых социальных медиа стали очевидными после штурма Капитолия США 6 января. Для многих это стало звонком, который четко показал: то, что говорится онлайн, не остается онлайн, наше слово отзывается и в реальном мире.
Решение частной компании блокировать в социальных сетях аккаунты действующего президента стали очередным «дном», пробитым легкостью необычайной. Для одних этот шаг был сделан слишком поздно, для других это стало наглым нарушением свободы слова и выражения мнений. Что означает этот сюжет для поиска какого-то будущего баланса сил между обществом и частными крупными технологическими компаниями?
Интересно, что сейчас мы ведем дискуссию о том, были ли блокировки хороши или плохи. Но в обоих случаях очевидно одно: эти компании, особенно социальные медиа-платформы и операторы поисковых систем, обладают сейчас огромной властью.
У них слишком много власти, особенно у самых крупных игроков. Они способны влиять не только на массы потребителей, но и на массы избирателей.
Это становится все более очевидным, и с этой властью необходимо что-то решать уже сейчас.
В контекстеУже не заговор Того, что человечество вырабатывало веками, того, что мы традиционно называли демократией и нашими правами, по Швабу, как раз не будет. Все будут решать никому не подотчетные группы экспертов, и не только по части медицины.
Но ведь онлайн-платформы сыграли решающую роль в период так называемой «Арабской весны». Может быть, мы должны просто признать, что такие сети — это обоюдоострый меч, хлебный нож, которым вполне можно и убить человека?
В этой дискуссии, как правило, забывают о том, что речь идет не только о языке или о каких-то словах, но о технологиях усиления громкости этих слов, а также о возможности просто купить себе большую видимость в глазах большей аудитории и таким образом просто взять и обмануть систему. Мы не можем рассматривать вопрос свободы слова, не взглянув на то, какую роль играют те или иные общественные акторы.
Например, важно отличать человека, пытающегося завоевать аудиторию с помощью теории заговора, от журналиста, который пишет о теориях заговора.
Есть также в сети так называемые боты — автоматы, которые притворяются людьми, взаимодействующими с аудиторией, когда на самом деле они есть ни что иное, как пустые, запрограммированные аккаунты. Иностранные спецслужбы также пытаются прицельно вбрасывать дестабилизирующую «дезу» с медийное пространство той или иной страны.
У нас есть полное право на свободу слова, и мы должны действительно ценить это. Но у нас также есть и право жить без дискриминации и насилия.
И когда свобода слова, как это произошло в Вашингтоне, вступает в конфликт с этими другими правами или с общественными обязательствами правительства, то тогда мы должны, прежде чем высказывать свое мнение, произвести сбалансированный анализ затрат и издержек, пользы и вреда. Будем надеяться, что в будущем это будет делаться на демократической основе, а не исходя из коммерческих интересов. «Взятие Капитолия» было только одним, хотя и ярким, олицетворением всех конфликтов такого рода. Многие избиратели Трампа верили в его «альтернативные факты», но тем не менее, за него голосовали более 70 миллионов человек. Они никуда не делись, они все также составляют часть общества. Как в таких условиях мы могли бы восстановить доверие к государственным и официальным информационным каналам?
Мы говорим здесь об истории с курицей и яйцом. Потому что если президент Соединенных Штатов утверждает, что избирательный процесс был сфальсифицирован и что его победа была украдена, то мы не должны удивляться тому факту, что определенный процент людей ему в самом деле верит.
Но я думаю, что куда опаснее — это не покушения на демократию снаружи, но ее саморазрушение изнутри.
Вот вы упомянули «арабскую весну», когда молодежь выступила за демократию. Но сейчас мы наблюдаем нападки на демократию со стороны людей, которые пользуются всеми свободами, которые как раз и приносит демократия.
Я думаю, это очень серьезный вызов. Восстановление доверия потребует сочетания ряда факторов, в частности, надлежащей правоохранительной деятельности и дополнительных инвестиций в СМИ и в журналистику, позволяющих осуществлять за собой надлежащий надзор.
В контекстеСША вновь угрожают отомстить Франции за Facebook Организация по экономическому сотрудничеству и развитию (OECD) пытается достичь согласия между почти 140 государствами, на территории которых действуют многонациональные корпорации и, в первую очередь, цифровые гиганты.
Нам также нужна более широкая информация о том, что делают местные органы власти, нам нужны более строгие антимонопольные нормы с целью создания большей конкуренции в СМИ и с целью расширения для пользователей палитры выбора.
Люди должны быть в состоянии самостоятельно решать, какие платформы они хотят использовать.
И они должны понимать, какая коммерческая логика скрывается за владельцами тех или иных соцсетей.
Рискуют ли европейские страны, включая Швейцарию, оказаться в аналогичной опасной ситуации? В конце концов, и здесь мы тоже видим организованное сопротивление антипандемическим мерам. Есть те, кто сопротивляется вакцинации и не согласен с фактом изменения климата. За всеми этими людьми стоят группы последователей конспирологических мифов, а также эзотерические и экстремистские круги.
На самом деле это не гипотетический риск, это уже реальность. Люди проводят сейчас куда больше времени в Интернете, из-за пандемии наступило самое настоящее «смутное время». Даже в Швейцарии можно увидеть, насколько могущественными стали крайне правые силы.
Поэтому мы все должны быть очень бдительными. Было бы наивно смотреть только на противоположный берег океана и думать, что это только американская проблема. Публичные дебаты — это не проблема. Проблема начинается тогда, когда наступает политическая поляризация, когда начинает доминировать ненависть и когда предпринимаются попытки дегуманизации оппонентов с иными взглядами.
В контекстеПолитика в Америке Google остается самым «щедрым» политическим лоббистом в Вашингтоне, но его это вряд ли спасет. Сейчас у IT-корпораций почти не осталось сторонников ни среди политиков, и республиканцев, и демократов, ни среди общественности.
Вызывает озабоченность также злоупотребление этими платформами авторитарными или диктаторскими правительствами. Как IT-компании и демократические страны могли бы решить эту дилемму?
Не секрет, что правительства сами используют эти платформы для ведения своей пропаганды. Примером тому является иранское руководство. С другой стороны, соцсети все-таки позволяют людям выражать свое мнение даже в условиях репрессивных режимов. Свобода выражения мнений — это одно.
Но проблема еще заключается и в последствиях, с которыми людям приходится сталкиваться позже. Например, активисты движения за демократию в Гонконге или мирные демонстранты в Северной Африке и на Ближнем Востоке получили доступ к социальным медиа-платформам и, таким образом, к широкой общественности.
Но операторы платформ, со своей стороны, не учли огромные риски, которые возникают там для пользователей, свободно высказывающих свое мнение или организующих демонстрации или митинги.
Так что мы должны действительно начать по-настоящему беспокоиться в связи с фактом существования обществ, в которых принципы верховенства права попираются ногами и в которых люди полностью отданы на откуп творящих произвол репрессивных властей.
Существуют ли сейчас какие-либо формы международного сотрудничества с целью как-то начать регулировать сектор информационных технологий?
Евросоюз сейчас работает над рядом предложений по регулированию цифровых услуг. Я имею в виду такие законопроекты, как Закон о цифровых рынках (Digital Markets Act), Закон о цифровых услугах (Digital Services Act) и Европейский план действий в области демократии (Democracy Action Plan).
Уже действуют новые нормы в области конфиденциальности данных, направленные на ограничение возможностей социальных сетей собирать пользовательские данные и продвигать политическую рекламу.
Администрация Джо Байдена заявила, что проведет саммит по вопросам демократии и что вопросы технологий будут занимать в его повестке дня самое видное место. Я думаю, что уже настало время для демократических стран начать сообща работать над общими стандартами регулирования Интернета.
* * *
Май Эльмахди
Русскоязычную версию материала подготовил Игорь Петров
SWI «SwissInfo»