Система «социального кредита» Китая
Китайская система «социального кредита», основанная на искусственном интеллекте и Интернете вещей, внедряется, создавая общество, основанное на кредитном рейтинге. Система морального ранжирования разрабатывалась в Китае в течение многих лет для мониторинга поведения огромного населения страны и ранжирования его в соответствии с его «социальным авторитетом».
Читайте также: Китай использует ИИ в классах
В 2015 году правительственный документ объявил, что «система социального кредита» является «важным компонентом социалистической системы рыночной экономики и системы социального управления» и был направлен на укрепление идеи о том, что «сохранять доверие — это славно, а подрывать доверие — позорно».
Социальные оценки могут вознаграждать или наказывать граждан в #Китай
к @mvollmer1#Искусственный интеллект #инновация #ИИКопия: @МайкКвиндацци pic.twitter.com/GcCT3akwON
— Рональд ван Лун (@Ronald_vanLoon) 10 мая 2022 г.
Газета South China Morning Post сообщает, что рейтинги определяют группа экономического планирования Китая, Национальная комиссия развития и реформ (NDRC), Народный банк Китая и китайская судебная система.
Эта система на основе искусственного интеллекта может использоваться как частными лицами, так и предприятиями. По данным Wired, частный сектор, включая растущий технологический мир Китая, имеет свою собственную неправительственную систему оценки. По данным аналитического центра Merics, компания Sesame Credit, принадлежащая Ant Group Джека Ма, использует собственную неофициальную систему оценки своих сотрудников, например, изучает их покупательские привычки.
CNBC сообщил, что миллионы американцев приняли участие в программе в последние годы и что она будет полностью введена в эксплуатацию и интегрирована к 2020 году.
Source: YouTube
По данным Wired, в настоящее время система является фрагментарной и добровольной, хотя в конечном итоге она будет унифицирована по всей стране, и каждому человеку будет присвоен собственный уникальный код для измерения его кредитного рейтинга в режиме реального времени.
Читайте также: Роль ИИ в распространении вакцин
Плохое вождение и долги снизят ваш социальный рейтинг
Неясно, как алгоритм определяет нарушения, но примеры включают плохое вождение, курение в зонах для некурящих, покупку слишком большого количества видеоигр и размещение в Интернете ложной информации, касающейся терроризма или безопасности в аэропортах.
Вас также могут наказать, если вы проводите слишком много времени за видеоиграми, тратите слишком много денег на необоснованные покупки или ведете себя в социальных сетях.
Среди наказаний — запреты на поездки и медленный интернет.
В настоящее время Китай начал наказывать людей, ограничивая их поездки, в том числе запрещая им летать.
Национальный общественный кредитный информационный центр сообщил, что к концу 2018 года власти запретили людям покупать авиабилеты 17,5 миллионов раз.
Правительство также может ограничить доступ к роскошным вариантам: многим людям запрещено покупать билеты на поезд бизнес-класса или останавливаться в лучших отелях.
В конце концов, плохие пассажиры будут наказаны особо. Некоторые потенциальные правонарушения включают отказ от покупки билета, слоняться у выходов на посадку или курить в местах для некурящих.
В 2017 году автор Рэйчел Ботсман опубликовала на Wired часть своей книги о технической безопасности. По словам Боцмана, правительство ограничит скорость интернета за нарушение закона, хотя точная механика пока неясна.
Кредитная система отслеживает, вовремя ли люди оплачивают свои счета, подобно системе отслеживания финансовых кредитов, но также приписывает ей моральный компонент.
Лучшие рабочие места и школы также могут оказаться недоступными: в 2017 году 17 людям, отказавшимся служить в армии, было запрещено поступать в высшие учебные заведения, подавать документы в среднюю школу или продолжать учебу.
В июле 2018 года китайский университет отказался принять поступающего студента, чей отец имел плохой рейтинг социального кредита из-за его неспособности погасить кредит.
Другая тактика – называть и стыдить. В правительственном уведомлении от 2016 года компаниям рекомендуется ознакомиться с черным списком, прежде чем нанимать или заключать контракты с людьми, включенными в него.
После добавления в список люди будут уведомлены судом и смогут обжаловать решение в течение 10 дней с момента получения уведомления.
Ли Сяолинь, адвокат, которого признали «ненадежным» после того, как он не выполнил постановление суда в 2015 году, был внесен в список и не смог купить билеты на самолет домой во время рабочей поездки, сообщает Хьюман Райтс Вотч. Кроме того, он не мог подать заявку на получение кредитной карты.
Source: YouTube
«Плохих» граждан наказывают, но система вознаграждает и «хороших» граждан
Хороший результат может ускорить подачу заявок на поездки в Европу, сказал Боцман. Женщина с хорошим кредитным рейтингом рассказала Би-би-си в 2015 году, что ей не нужно вносить залог наличными, чтобы забронировать отель в Пекине. Кроме того, издание сообщило, что Baihe, крупнейший сайт знакомств в Китае, который сейчас принадлежит Jiayuan, способствует повышению популярности профилей добропорядочных граждан.
Имея хороший социальный кредит, граждане также могут получить скидки на счета за электроэнергию, арендовать вещи без залога и получить более выгодные процентные ставки в банках. В 2018 году журнал Foreign Policy опубликовал статью о городском совете Жунчэна в Восточном Китае, который развернул систему социального кредитования для своих граждан.
Читайте также: Искусственный интеллект и авиаперелеты
Эту систему сравнивают с научной фантастикой-антиутопией.
Система социального кредита Китая обладает моральным элементом, что является одной из причин, по которой многие сравнивают ее с некоторой формой антиутопического управления, например, в «1984» Джорджа Оруэлла, где государство жестко контролирует каждый аспект жизни гражданина.
Хьюман Райтс Вотч назвала систему «пугающей» и «вышедшим из-под контроля футуристическим видением Большого Брата», но некоторые граждане говорят, что она уже делает их лучше.
32-летний предприниматель, назвавшийся только Чэнем, рассказал журналу Foreign Policy в 2018 году: «Я чувствую, что поведение людей улучшилось за последние шесть месяцев. Например, когда мы едем, мы останавливаемся на пешеходном переходе. Если вы этого не сделаете, вы потеряете свои очки. Сначала мы просто боялись потерять очки, но теперь привыкли».