Система социального рейтинга/кредита — система, собирающая любые данные везде, где только можно (в общем big data), чтобы потом предоставить вам различные бенефиции или наоборот, усложнить жизнь на основе своих алгоритмов. Коммерческая природа социальных рейтингов схожа с программами лояльности, однако, не было бы нужды обновлять итак новое понятие, если бы не политическая подоплека.
Си Цзиньпин сформулировал это так:
“Нужно совершенствовать как механизмы поощрения законопослушных граждан, так и механизмы наказания тех, кто нарушает закон и утратил доверие, чтобы человек просто не осмеливался, просто не мог потерять доверие”.
Официальное кредо государственной программы сформулировано поэтично:
“позволить благонадежным ступать куда вздумается, а потерявшим доверие осложнить каждый шаг”
Открыто заявлено, что это система продвижения политической воли при помощи технологий. Результаты могут как быть позитивными — снижение реальной преступности, малоприятными, но утилитарными — штрафы за вождение без шлема/переход в неположенном месте и подобное, так и спорными — цифровой остракизм без существенных провинностей перед обществом. Соцрейтинги уже не фантастика. Наивно полагать, что тема актуальна лишь в специфическом случае Китая, но он определенно лидирует, за счет парадоксального сочетания конфуцианской философии, псевдокоммунизма, идеи ничтожности граждан и специфическому технологическому ландшафту. Откройте западную статью по теме, и встретите фабулу: людей втягивают в платежные системы Alipay/WeChat и подобные, это дает кучу бонусов, потом что-то идет не так, и выясняется, что пресловутая Zhima Credit (a.k.a.Sesame) следит за вами не только ради вашего блага, так что теперь отели не выше трех звезд и путешествия только автостопом. Причиной стал ваш друг, одобривший уйгуров в WeChat, так что теперь уже живые знакомые после “как дела?” спешат сказать “мне надо идти”. Сейчас эти системы активно обрастают инфраструктурой на локальном уровне, проводятся различные эксперименты по расширению.
Подвох соцрейтингов в том, что они совмещают в себе объективно необходимое, — платежные системы, кредиты, системы скоринга, бонусные предложения, — и околосоциальную самодеятельность IT-гигантов. Если первое — технологическая неизбежность, то второе, памятую о коммерческой провальности многих про-социальных кампаний последнего времени — сомнительное начинание. Нас втягивают в клубок спутанных коммерческих и политических интересов, причем последние совмещают прихоти сверхкрупного бизнеса и правительства, которые, похоже, в восторге друг от друга, когда дело доходит до управления толпами.
Каковы могут быть последствия применения соцрейтингов? Уже вырисовалось понимание, что любыми.
В Китае популярной стала идея снижать скорость интернета людям с плохим рейтингом — тогда уж точно никакого посещения запретных сайтов через VPN. Ваше лицо могут повесить на “досках почета” где только захотят. Проблемы с рейтингом — в хорошую школу дети не попадут. Миллионам людей было отказано в транспортных услугах. Знакомо? Проверьте счета перед пересечением границы! Есть и позитивные моменты. Если ваш сын служит и расквартирован в Тибете — вам +10. Доносить на других, конечно же, тоже в почете, ведь это ради “доверия в обществе” (эта фраза часто значится в официальных документах). Среди прочего, караемые прегрешения включают:
– Плохое вождение
– Курение в транспорте
– Покупка “большого” количества видео игр
– Избыточное потребление фастфуда
– И алкоголя
– Звонок другу с плохим рейтингом
– Наличие таких друзей самих по себе
– Постинг “фейковых новостей” (не забывайте что в Китае, как и в России, критику правительства не любят)
– Критика правительства как таковая
– Посещение запрещенных сайтов
– Выгуливание собаки без намордника
И много еще чего, список динамичный и пополняется произвольно.
Мечтающий о “порядке” читатель спросит, что ж в этом всем плохого, у нас за многое из этого карают, не так ли? И верно: геймеров не все понимают, собачников не все любят, пьяниц — и подавно, и особенно — дураков на дороге. Однако из всего перечисленного, наверное, лишь последнее создает угрозу жизни посторонних. Понятно, что социальные рейтинги натянули вуаль исполнителя “строителя общества без пороков”, однако, довольно странно превращать нормы приличия в насаждаемую программу. Бонусы система содержит тоже вполне ясные — аренда велосипедов, проход в престижные клубы, упрощенное оформление документов. Вопрос, который должен терзать любого — почему вещи, обычно воспринимаемые как хорошие манеры или ведение бизнеса, должны поступать в качестве поощрения за следование партийной линии? Коммунизм научит вас радоваться простым вещам!
В некотором смысле, социальные рейтинги представляют интересную морально-этическую дилемму, своего рода перепевку старых рассуждений о свободе воли и о том, будет ли благостным благой поступок, совершенный из под палки.
Казалось бы, какая еще свобода воли, у нас же столько законов, которые не дают нам войти во грех! Но разница есть. Идея законов, изначально, в том, что есть у людей права, а нарушение их должно пресекаться и караться. Это не “добро из под палки”, скорее “меч держит меч в ножнах”. Потом возникает еще куча претензий на “порядок” и “лучшее общество” в виде запретов на продажу алкоголя после 11 вечера или запрета курить в ресторанах. Нам могут нравится какие-то из ограничений свободы, но редко однажды введенные запреты ограничиваются тем, что нам нравится. Соцрейтинги — это новый уровень порядка, чистое “ведите себя хорошо, мы сообщим как”. Иногда вы будете согласны с мнением деспота. Иногда от вас потребуют странных вещей. Скажем — улыбаться на уроках под страхом наказания. Вопрос “добра из-под палки” для рейтингов вполне актуален, но к этическому аспекту тему свести не удастся. Рейтинги готовят проблемы и помимо экзистенциальных переживаний.
Разумно спрашивать, что если соцрейтинги — просто новая, закономерная ступень развития человечества? Наверное, многое из сейчас считаемого дикостью, покидало общество не без сопротивления со стороны индивида.
И действительно, социальные рейтинги вбирают в себя уйму полезнейших технологий, которые могут сделать бизнес эффективней, а жизнь безопасней. Однако, когда эти технологии прикручивают к системе насаждения “правил игры”. Закономерно спросить откуда они взялись и кому нужны, но прежде всего — подумать о заложенных в эти системы недостатках, о последствиях.
Не за все дано судить
Существуют общепринятые представления о том, что есть хорошо, а что есть плохо. Воровать, убивать, нисиловать, то есть нарушать права других — всегда плохо. Существуют деяния и с менее однозначной оценкой — оппозиционные взгляды, отказ от посещения уроков по намазу в школе, курение в общественных местах и многое другое. В общем, вещи, за которые опрометчиво желать мгновенной и неизбежной кары провинившемуся, а с соцрейтингами она заказана. Есть категория поступков, находящихся под ситуативным табу, но при этом не являющихся запретными в абсолютном или историческом смысле — употребление чего-то запрещенного, владение чем-то ненадлежащим, использование определенных услуг, скажем сексуального характера, и множество поступков, ставших подсудными без однозначной причины.
Сокращать откровенные правонарушения — нормальная задача. Касаемо остального — требуется максимальная осторожность. Когда противоправная система дает сбой — свершается хорошее событие. Именно несовершенство контроля позволяло евреям избежать Холокоста, беглым рабам — обрести свободу на Севере, и не всех гомосексуалистов затравили химикатами, подобно Алану Тьюрингу, а некоторым нашим соотечественникам — не быть расстрелянными. Именно несовершенства в системе позволяли некоторым американцам не быть посаженными за то, что они всего лишь гнали самогон. Русским хорошо известна поговорка “строгость законов компенсируется необязательностью их исполнения”.Социрейтинги — это чудо-способ сделать соблюдение законов строго обязательным, попутно наплодив их.
Пока на Земле есть страны, лишающие свободы, имущества или родительских прав за распространение неугодной информации, сложно сказать, что является большей угрозой — неподчинение порядку или сам порядок.
Усложняя сложное
Мы уже не представляем жизни без смартфонов, соцсетей, проверки почты и новостных фидов. Беспроцентная рассрочка бывает очень кстати, услуга “трезвый водитель” от Uber — тоже. Достаточно отложить гаджет хотя бы на день, выехать из города, и вы чувствуете себя иначе. Это не страшно, покуда плата за дары диджитализации — ваше время, деньги и концентрация, но что если от вас потребуют еще и послушания, внесут коррективы в ваше поведение? А в системе Вы уже увязли. И вот, помимо новых функций, на вас свалились новые правила.
Технологии, образующие в совокупности социальные рейтинги, могут привести к тоталитарному государству 2.0 с замаскированной диктатурой. Всем знакома концепция “системы”. Порочная система превращает человека в сволочь, а объект ставит в подчиненное положение. Системы складываются и с огромным трудом меняются. За последние 100 лет буквально каждая государственная система разрослась до невиданных размеров, принеся в жизнь граждан множество ограничений, которые являются абсурдом — сегодня, а сто лет назад были бы просто дикостью. Как это произошло? Так жестоки стали люди? Так тираничны правительства? Вроде мы то и дело слышим, что очередная диктатура пала, демократия победно марширует по миру. Нет, дело не в строгости. Просто “все сложно” или “так устроено”. В одном департаменте решили, что можно изымать детей при таких-то обстоятельствах, в другом — что нужно забрать у бизнеса еще столько-то денег, потом прошел запрет на ношение колющих предметов. И вот — демократический мир не такой уж свободный, капля камень точит. Социальные рейтинги — это всего лишь очередной способ наплодить запретов, только без рассмотрений в правительствах. Система “сложится”, и останется лишь испытывать огорченное бессилие за все, с чем мы смирились — с запретом неугодных сайтов, со сроком за неверное слово, взносами на “капремонт” и прочими досадными мелочами, которые мы принимаем небольшими порциями, всякий раз позволяя подпортить нам вкус к жизни.
Нет поводов для доверия
Ладно, оставим китайские проекты. Что насчет Западного мира? Ясно, что создателями социальных рейтингов на Западе выступить могут только компании уровня Amazon, Facebook и Google, а если честнее — уже выступают, без объявления.
Про Google известно как минимум то, что компания спокойно подстраивается под цензуру стран от Германии до Китая. Для последнего Google и вовсе работал над алгоритмами отслеживания пользователей и цензурирования информации в рамках проекта Dragonfly, долгое время остававшимся секретным. Видимо, сотни миллионов пользователей — это слишком соблазнительно, рынок терять нельзя.
C Facebook приватности просто не существует. Казалось бы, пускай читают, но как-то неудобно, когда твой пост с мирной цитатой христианского теолога удаляют. Даже регистрацию под псевдонимами не оставили в покое, стараясь вывести анонимов на чистую воду. Что насчет социальной позиции Facebook? Банить людей за “разжигание ненависти” (hate speech), выраженной в неугодной политической позиции — это норма.
Не стоит думать, что компания старается избежать любого задирания на своей площадке — когда дело дошло до правого активиста Джозефа Уотсона, Facebook выпустила меморандум, согласно которому присылать угрозы расправы подобным индивидам допустимо (позже удалили).
У Facebook и без всяких рейтингов есть список “опасных индивидов”, и входят туда отнюдь не джихадисты. Естественно, левых радикалов цензура не касается, зато сторонника Трампа забанить за знак — “ок”. В подробностях можно копаться вечно, но Марк Цукерберг уже выразил свое отношение к пользователям — не нормативно.
Это — гиганты интернета на западе. Twitter, Instagram и прочие — под ними. У них достаточно средств, чтобы купить любую публичную компанию. Утечки информации для многих неприятны, хотя многим плевать. Цензура и баны многим обрушили карьеру. Представьте, что произойдет, если корпорациям позволить распоряжаться чем-то помимо их площадок?
Касательно России, о социальных рейтингах говорить вроде бы преждевременно, ввиду технологического отставания, а с другой — систем вроде ПСКОВ и “Шерлок” могли бы лечь в основу. Понятно что в Российском исполнении соцрейтингов ждать хорошего не придется.
Ничего социального
Парадокс “социальных рейтингов” в том, что ничего социального в них нет: людей просто подгружают в систему с навязанными правилами. Так ли работает общество? Как бы не так!
Метафорично, социальный рейтинг спускает взрослого, уже самостоятельного человека к состоянию школьника, оцениваемого безликим учителем на основе тестов. Не удивительно, что локомотивом стала Коммунистическая Партия Китая, у которой пунктов оценки поведения граждан хоть отбавляй. Но ровно как школьная успеваемость не всегда является исчерпывающим показателем, так и государственный эталон не исчерпывает собой образ достойного человека. Выходя из школы, человек оказывается в многомерной системе координат — в обществе.
Вас судят другие люди, весь ваш социальный круг, а не единый надзиратель. Вы сами выбираете свои задачи, задаете мерила своего успеха. Даже преступники могут найти себе социализацию, в которой их приемлют.
Социальный рейтинг не несет в себе ничего социального, поскольку не спрашивает мнение “общества”. Ни одну систему соцрейтингов этим пока не озадачили. Искусственные параметры — это не “социум”, а оценка электронной системой с ее приоритетами, заданными КПК или корпорациями, почему-то все чаще ориентированными на ультралевых. Соцрейтинги не ориентируются на вашу репутацию, они ее корректируют.
В Китае это уже испытали. Достаточно впасть в немилость электронного деспота, и знакомые задумаются, стоит ли знаться с вами. Волновали ли их причины понижения статуса в системе? Скорее, их волновало, как их это коснется. Нормальная бытовая логика, на котором построены манипуляции социальных рейтингов.
Может ли социальный рейтинг честно опираться на реальный вес в обществе? Тогда лидеры Тибета или протестов в Гонконге должны иметь некоторый вес в социальной системе КНР, а люди вроде Пола Джозефа Уотсона, Дэниса Прегера или Джозефа Питерсона — у Twitter или Facebook, прародителей будущих соцрейтингов Запада, но все они скорее подвергнуты цензуре. Именно те, кто создает соцрейтинги, меньше всего заинтересованы в адекватном отображении общественного мнения. Придумай свою оценку, сделай ее официальной. Социальные рейтинги вбивают клинья в общество, подменяя собой реальные отношения. Соцрейтинги — это способ продать слежку и контроль в 21 веке. Это преобразование тирании в затейливую игру, со смартфонами и приложениями, внутренней валютой, бонусами и банами. По сути, это способ осуществлять и поддерживать тоталитарную власть в обществе и цивилизации, у которых в ней нет никакой необходимости.
Частная собственность государства
Неужели социальные рейтинги не могут быть классной штукой без следа государственного вмешательства? Ладно Китай, там коммунизм, но как насчет Запада? Вспоминаем, когда слово “социальные” последний раз не было связано с чем-то государственным. Именно поэтому уже сейчас системы подобного уровня прочно сотрудничают с правительствами. Разница между Китаем и Западом малозначительна — Китаю нужна эффективная тирания, западным элитам — обход законодательных ограничений. И там и там IT-корпорации взялись за продвижение политической повестки. В США эстеблишмент перевернул все с ног на голову — предложив частному сектору поучаствовать в решении общественных вопросов, с заведомо известным результатом.
Facebook, запрещает рекламу оружия на своих просторах, Google — манипулирует алгоритмами в пользу партии противников оружия, а Apple заменяет эмоджи пистолета на водяной пистолет “в целях снижения агрессии”. Кому как не им решать, кого лишить Второй Поправки? Поэтому-то Apple и хотят поручить давать “зеленый свет” при покупке оружия на основе данных с Apple Watch. Словно одной ненавидящей оружие компании мало, к делу решили подключить гаджет Amazon Alexa, которая ведет постоянную прослушку (уже есть прецеденты использования записей в суде). Предполагается, что устройства займутся диагностированием психических заболеваний, которые якобы свойственны “людям, склонным к массшутингам”.
Тема оружия сама по себе может показаться ерундой, но если такое будет введено — американцам будет чего опасаться. Вердикт корпорации станет предлогом, карать неповиновение будет уже государство. Вас только что диагностировали при помощи чудо-устройства на предмет непригодности к владению оружием, пожалуй, службы надзора займутся вашими детьми, пока дом не прошерстят. Думаете, сюрреализм? Американцы опасаются что нет. Прецеденты бывали разные: так, в одном случае у человека конфисковали оружие, за то что его сын поделился “неправильным” мемом на фэйсбуке. Теперь представьте, сколько наплодится таких инцидентов, дай бдительным корпорациям волю мониторить “психическое здоровье” вооруженных граждан.
Короче, проблемы ограничения конституционных прав американцев пробуют переложить на bigtech-корпорации, а их позиция известна. И оружие — не единственный пример такого “негосударственного” воздействия.
Государство делегирует корпорациям действия, являющиеся во многих странах антиправовыми, даже антиконституционными. Тут и цензура, и нарушение приватности, и отказ в доступе к публичным благам, в реализации отдельных прав (как право на оружие) и многое другое. Показательно в этом отношении, что хотя Китай и утверждал своей целью переход к государственному соцрейтингу к 2020 году, окончательного решения пока нет, да и зачем? Рейтинги уже работают. Корпорации прекрасно применяют рейтинги в локальном режиме, госорганизации получают все интересующие их данные. Вполне возможно, такой статус всех устраивает, не без причин, ведь можно бесконечно ругать частный бизнес.
Как в авторитарном Китае, так и в демократичных США, бюрократия решила сыграть трюк с привлечением частных подрядчиков к ущемлению прав граждан. Все преподносится как “право частного игрока выбирать контрагента”. Шах и мат, сторонники рынка? — Нет.
Перекладывание ответственности с государства на частного игрока — это не “рыночная игра”. Корпорации вправе распоряжаться своим имуществом, но не вводить цензуру, торговать чужими данными, ограничивать права, короче, распоряжаться чужим. Это уже не “дела частной компании”, это либо провал государства в защите права собственности, или субподряд частного агента на нарушение этих прав.
Можно предположить, что подобные действия со временем признают неправовыми, но приходит на выручку “сложность системы” — сколько людей переживет лишения, прежде чем их признают невиновными? Если вводить запреты удается быстрее, чем их отменяют, то вы на верном пути. А соцрейтинги это и позволяют делать. Слушания в парламентах будут проходить не за принятия ограничений, а за их отмену.
Соцрейтинги не создадут “общества тотальной порядочности” — лишь откатят общества к тоталитарным порядкам. Дело даже не в абстрактной “тирании”. Порядок любят все, вопрос в пути достижения. Если вы любите людей, общество, свою жизнь, то есть все шансы, что с рейтингами Вам не по пути. Ничего кроме электронных талонов на мелкие блага Вы с них не получите. Потери как раз предсказуемы, о них можно спросить граждан коммунистических стран. Порядок можно наводить разными способами, желательно — с минимальным насилием. Китайцы не раз уже боролись со своей “бескультурностью”. Их элита по-отечески готова ограничивать и насиловать свой народ ради “перевоспитания” (и удержания власти, разумеется). В США двигателем около-рейтинговых идей выступают левые — с ненавистью относящиеся ко всем этим консерваторам, отказывающимся принять больше иммигрантов и различать всю радугу гендеров. Ответить на вопрос “нужны ли нам социальные рейтинги” очень просто. Он равносилен вопросу “я — русофоб?”. Если да, то последовательно думать, что сограждан нужно тиранить за каждое неугодное действие. В случае отрицательного ответа — стоит рассмотреть более патриотичные методы.
Возможно ли остановить рейтинги? Рано думать, что все пропало. Мир катится в будущее, где прогресс, неумолимая сила, большая, чем мы сами, непременно скажет свое, а нам лишь останется привыкнуть. Вряд ли развитие замкнется на новых витках “уберизации” или платежных системах — технологии помогут находить насильников и убийц, предотвращать грабежи, снижать количество афер, воровства и прочих противоправных действий (это далеко не всякие “преступления”!). Жизнь станет счастливее и безопаснее, потому что в людской природе — созидать и обустраивать. Но есть ли общественная необходимость в эволюции тирании, или соцрейтинги — прихоть узкой группы?
Ответ можно найти там, где все началось. В Китае, Коммунистическая Партия искала способ скрытно тиранить граждан. Вспомним Оруэлла: “заповедь современных диктатур — ты есть”. И человек будет, если запрограммировать весь мир корректировать его. В этом отношении рейтинги — попытка в срочном порядке внести поправку в общество. В извращенном смысле, в КНР действительно есть общественная потребность в рейтингах — иначе конфликтов режиму не избежать.
Граждане стран, где воля правительства — еще не абсолют, должны понять — рейтинг не нужен для того, чтобы давать. Приятные бонусы даются при помощи и ради денег, а не в обмен на хорошее поведение. Но если корпорации вроде Facebook поймут, что можно переписать условия, в коммерческие отношения с Вами внесут пункт о необходимости следования политической линии. Для спасения от социальных рейтингов достаточно научиться видеть, когда твою шкуру пытаются выкупить твоей же монетой. И в этом основная опасность с социальными рейтингами — большинству, как правило, нужен лишь малый процент причитающейся свободы, зато удобное приложение на смартфоне, — это соблазн подписать согласие с новым пользовательским соглашением, даже если заключается оно на себя самого.
А что до прав частных корпораций? Опять же, их права распространяются на их собственность. Как бы ни было обидно, что Walmart перестает продавать винтовки — имеют право, потому что не обязаны. Другой вопрос, когда компании решает, что вы винтовку купить не можете.
В информационном поле вопрос права собственности на “пространство” пока остается открытым. С одной стороны, Facebook имеет права на свой ресурс. С другой, не вполне ясно, имеет ли право компания, чья капитализация построена преимущественно на миллиардах пользователей, манипулировать этими самыми пользователями. Вопрос “публичных площадок” в соцсетях — отдельный вопрос, выходящий за пределы темы соцрейтингов, не считая того, что вопрос в общем-то есть.
Напоследок, сделаем важную оговорку, предупреждающую возражение в стиле “мы уже живем в мире социальных рейтингов финансовых организаций”. Это не так, по ряду причин. Несмотря на высокую информированность отдельных контор о нас, информация эта остается информацией. Номер Вашего паспорта это просто закрепленная за Вами цифра. История финансовых неудач — очень ограниченный кусочек жизни. За пределами банковской сферы, а то и конкретного банка, вы продолжаете существовать как прежде. Социальные же рейтинги влезут во все аспекты жизни. Пока вы можете выбирать контрагента, а ваши отношения касаются узкого перечня продуктов, отношения сложно назвать навязанными. Даже сверхмощный Google способен лишь ограничить пользователя у себя, но не усложнять каждый его шаг. Социальные рейтинги скажутся.
Также, неуместным является и сравнение с социальными рейтингами вашей репутации в Gett, AirBNB, Onetwotrip каршерингах и прочих “уберизационных” приложениях. Даже если все они объединят базы — не будет. Водитель Вас кинул — вы понизили его показатели. Вы испортили поездку окружающим на BlaBlaCar — вас возить больше не хотят. То как оно есть сейчас — нормальный пример цифровой репутации без самонадеянности. Чтобы вышло нечто близкое к социальному рейтингу, к этой системе нужно привинтить данные о вас с Госуслуг, отказывать в поездках при задолженности по ЖКХ или наоборот, давать скидку за репост Собянина во Вконтакте, начать отслеживать вашу локацию при посещении митингов и ставить вас в черный лист, и так далее и так далее. Короче говоря, социальный рейтинг невозможен без пересечения усилий множества ведомств, правительственных и коммерческих, или же возможен при полном произволе со стороны последних и при игнорировании нарушений со стороны правоохранительных органов, что, в западной интерпретации, и происходит сейчас в Китае — беспредел корпораций при поддержке правительства. Наверное, именно поэтому протестующие в Гонконге боятся всех историй, с рейтингами связанных — они просто пожили в системе ценностей, в которой граждане не считают себя собственностью правительства.
