Китай имеет все шансы стать страной победившей цифровой диктатуры. Сегодня проводится эксперимент, в котором специальный алгоритм оценивает граждан по разным параметрам и присваивает им социальный рейтинг, определяющий их жизнь. Как это работает и чем грозит правам и свободам обычных китайцев?
«Главная героиня пытается улучшить свой социальный рейтинг и переехать в более просторную квартиру, выступив с торжественной речью на свадьбе более успешной подруги. Но все оборачивается против девушки — ее рейтинг падает и это радикально меняет ее жизнь». Пока это всего лишь краткое содержание эпизода британского телесериала «Черное зеркало». Происходящее на экране кажется невероятным, и зрителю искренне жаль главную героиню: она так старалась всем понравиться, а в итоге скатилась до человека «низшего класса».
Пока миллионы зрителей обсуждали этот эпизод, в Китае зарождалась система социального кредита (Social Credit System, или SCS). В начале 2010-х в правительстве заинтересовались возможностями анализа больших данных, а технический прогресс упростил слежку за каждым гражданином. Когда совпали желания и возможности, оставалось только реализовать проект в отдельно взятой стране. Хотя полномасштабное внедрение рейтинга запланировано на 2020 год, система работает уже сейчас на десятках тысяч добровольцев из тридцати китайских городов.
Число, о котором мечтает каждый китаец
Это 1050 — значение рейтинга, которое является своеобразным пропуском в лучшую жизнь. Получить его может только порядочный, честный и ответственный гражданин Китая с категорией благонадежности ААА. На старте каждому выдается 1000 баллов. Кажется, что до заветной отметки осталось совсем мало, но быть добропорядочным гражданином непросто!
SCS внедряется для «построения честного общества» во всех сферах жизни человека — социальной, политической и экономической.
В правительстве Китая утверждают, что социальный рейтинг поможет улучшить общество, сделать людей более искренними, укрепить доверие между ними. Образцовые граждане с рейтингом от 1050 — надежда и опора государства, и последнее это всяческими способами подчеркивает. Большие скидки, кредиты на крупные суммы, приоритет в обслуживании, элитная школа для ребенка, хорошие вакансии, лучшие места в самолете и лайки в «Тиндере» — это и многое другое получают счастливчики, которые достигли заветной тысячи с хвостиком.
Ниже отметки 599 начинается другая жизнь…
Вы правильно поняли: это то число, за которым следует социальное забвение. Китайцы с низким рейтингом попадают в категорию D: им отказывают в кредите, покупке билетов на транспорт, работодатели относятся с подозрением. Но самое страшное в том, что они стремительно теряют друзей, свой круг общения. Социальный рейтинг учитывает не только поступки, но и близкое окружение. И если кто-то общается с обладателем скромных 500–600 баллов, его рейтинг тоже падает. Справедливо? Вряд ли: довольно быстро человек из категории D окажется в своеобразном вакууме, ведь с ним не общаются даже товарищи по несчастью — каждый старается любыми способами улучшить свой социальный рейтинг.
А как вам это: нарушение в одной области автоматически ведет к ограничениям во всех сферах. Например, китаец просрочил выплату кредита, теперь ему сложно купить билет на концерт любимого исполнителя или забронировать номер в отеле. Учитывается даже то, что случилось в школьные годы. Система социального рейтинга работает недавно, но государственные органы уже запрашивают в учебных заведениях списки тех, кто списывает на экзаменах. Легко догадаться, как будет использована эта информация.
На жизнь одних людей социальный рейтинг повлияет сильнее, на других — меньше. В первую категорию попадают адвокаты, учителя, журналисты.
Может ли обычный человек повлиять на свой рейтинг? Конечно, если будет жить как образцовый гражданин: вовремя оплачивать счета, покупать «правильные» товары, быть хорошим семьянином и работником, а еще не общаться со своими полными противоположностями — людьми с низким рейтингом. Но так как механизм работы алгоритма закрыт, иногда сложно понять, какой поступок положительный, а какой нет. Например, китаец ежедневно покупает пару чашек кофе на вынос — это хорошо или плохо? С одной стороны, у него есть постоянные предпочтения и он платежеспособен, с другой — а не вредно ли пить много кофе? Или вот еще: комментарии в социальной сети. Кто их оценивает, будет ли эта оценка объективной и поймет ли алгоритм иронию? Пока вопросов больше, чем ответов.
Система социального рейтинга учитывает каждый проступок — даже школьные хулиганства или списывание на уроках.
Возможно, введение SCS приведет к развитию нового рынка услуг. Появление консультантов, повышающих рейтинг, уже не кажется чем-то фантастическим. Представьте, как будут востребованы специалисты, которые помогают улучшить репутацию и выйти из категории неблагонадежных граждан! Не исключено, что возникнут «черные» или «серые» способы обмануть систему и изменить рейтинг в лучшую сторону.
За кулисами социального рейтинга
Как это работает и кто следит за каждым из 1,3 миллиардов китайцев? Правительству не пришлось выдумывать ничего нового — для вычисления рейтинга используются big data. Большие данные собирают и анализируют супермаркеты, учебные заведения, банки, камеры видеонаблюдения на улице. Технологические гиганты, с которыми обычные жители контактируют в цифровом мире, знают о клиентах намного больше, чем тем хотелось бы. А теперь представьте, что это происходит в стране — лидере по производству электроники на фоне глубокого проникновения интернета. Становится понятно, что к 2020 году ни один китаец не останется незамеченным. После официального запуска система будет учитывать абсолютно всех, а не только добровольцев, как сейчас.
Противники социального рейтинга утверждают, что полномасштабное внедрение SCS превратит Китай в «полицейское государство».
Но вернемся к тому, как работает социальный рейтинг. Информация о жизни китайцев поступает в единый центр, накапливается там, обрабатывается и анализируется. Источников данных много, но критериев оценки всего пять: социальные связи, потребительское поведение, надежность, благосостояние и следование правилам. Результатом анализа станут начисленные или отнятые от текущего значения рейтинга баллы.
Интересно, что результаты рейтинга находятся в открытом доступе и сейчас, во время тестирования, пользователи охотно делятся рейтингом в социальных сетях. Вы сможете узнать показатели человека перед тем, как позвать его на свидание, назначить собеседование или отправиться в путешествие с компанией, в которой есть незнакомцы — друзья друзей.
За реализацией проекта стоят несколько частных компаний. Одна из них — «дочка» Alibaba, платежная система, которая отслеживает финансовые операции китайцев. Не обошлось без монополиста на рынке интернет-провайдеров — компании Tencent. Она тестирует систему социального рейтинга с помощью своих мессенджеров QQ и WeChat. Эти, а также еще шесть компаний получили от правительства Китая лицензии на разработку алгоритмов подсчета социального рейтинга.
С 2009 года в Китае не работает Google и другие популярные в мире сервисы. Ими можно воспользоваться только через VPN.
Услугами Alibaba и Tencent пользуется большинство жителей Китая. Проще всего отслеживать платежи, 90% которых приходится на долю этих двух корпораций. Они обрабатывают информацию, связанную с покупками: что, когда и как часто покупает человек, в каких количествах, как связаны покупки между собой, в каких местах он это делает и как много времени там проводит. Когда подключаются технологии машинного обучения и искусственного интеллекта, из вороха данных извлекается полезная для государства информация. Правительство будет знать, какой доход у каждого гражданина и как он им распоряжается, ведет ли он здоровый образ жизни, какую рекламу смотрит и что читает.
Социальный рейтинг: взгляд со стороны
Баллы, привилегии, соревнования «кто лучше» — сегодня это кажется интересным, больше похожим на игру. Но к 2020 году все жители Китая будут вынуждены «играть» в нее. И если рейтинг действительно будет определять социальный статус, многим придется нелегко. Когда баллов становится все меньше, вернуть все «как было» или подняться в рейтинге проблематично. Человек, который расстроился из-за падения рейтинга, будет чаще бывать в плохом настроении, а это снова притягивает все плохое, что отнимает у него баллы: конфликты со знакомыми, прием успокоительных, фастфуды или того хуже — алкоголь. И где здесь справедливость?
Частная жизнь жителей Китая постепенно перестает быть приватной. Связи и действия в реальном и цифровом мире будут отслеживаться и анализироваться, а малейшие проступки — серьезно влиять на дальнейшую жизнь. Получается, что государство принуждает граждан поступать так, как ему выгодно, и отказываться от тех действий (покупок, путешествий, общения), которые приводят к падению рейтинга. Кто после этого скажет, Оруэлл не умел предсказывать будущее? С другой стороны, китайцы привыкли к тому, что правительство контролирует их, потому плавное внедрение социального рейтинга не выглядит для них неожиданным или ужасным.
В других странах правительство и бизнес тоже постепенно проникают в личную жизнь обычных людей. Большие данные уже несколько лет собирают крупнейшие технологические гиганты (один Google чего стоит!), супермаркеты и банки. К счастью, пока они не оценивают наши действия, но и от этого никто не застрахован.
