Китайският социален рейтинг: „1984“ или държавата на бъдещето?

юли 20, 2021 | Технологии

Китайският социален рейтинг: „1984“ или държавата на бъдещето?

20 юли 2021 | Технологии

Още тази година всички китайски граждани заживяват в „Биг Брадър“ – всяко тяхно действие ще се отразява в нова система, наречена „социален рейтинг“. Ако се борят срещу властта, сгазят коте или не се грижат за родителите си, никога няма да получат обществено доверие и ще бъдат лишени от редица права. А ако са примерни граждани, ще се радват на бонусите на Големия брат. Ще получават всякакви благинки, дарени от същата тази система.

Напоследък доста се говори по тази тема, но… само с крайности. Новата китайска социална система много често ще видите описана с подобен разказ, като прелюдия към оживяването на изтърканата от цитиране (и преиздаване, защото е без пари, но надали и от четене) фикция на Оруел. Неотдавна, в интервю за „Дигитални истории“, създателят на „СофтУни“ Светлин Наков също обрисува страховитата картина на бъдещето, идваща от Китай.

В други публикации пък ще попаднете на информация за тази система като за супериновативно решение, което подрежда „още по-наред“ нещата в и без това сложно устроеното китайско общество.

Който мисли, че пропагандата като фактор в комуникацията е останала в миналото, разбира се, е в много сериозна грешка. А що се отнася до темата за китайската социална рейтингова система, сблъсъкът на пропаганди е директен, брутален и много трудно се намират нюансите.

Къде е истината? Само китайците си знаят. Или поне някои от тях.

 

Китай

Снимка: Sam Beasley, Unsplash

 

Номерът на китайката

Който се е докосвал до тази цивилизация, е наясно с едно. Трудно е да се надникне в сърцето и в нравите ѝ, изначално е различна от нашата. И все пак, китайският социален рейтинг е толкова любопитен и мащабен проект, който си струва усилието човек да се опита да надникне зад пропагандата, колкото и да са трудни каквито и да било обективни изводи.

Проектът се появява през 2014 г. като „Рамка за конструирането на социална кредитна система“ (2014-2020 г.). И оттогава западните медии не спират да я представят като оживял сценарий на Оруел, в който се използват технологиите, за да се контролира всяка област от човешкия живот.

Така или иначе, 2020-а дойде и си отиде, а системата е далеч от тези опасения. По всичко личи, че за момента нещата са значително по-скромни и дори скучни. Съществуват по-скоро отделни регионални системи, които са в различен етап на експериментиране. Както е типично за тази част на Изтока, нещата се случват бавно, търпеливо, чак до замръзване по мерните единици, с които сме свикнали да работим в нашата западна цивилизация.

 

Китайска капка

Любопитно е, че в българския имаме толкова много идиоми, свързани с тази страна, която винаги ни е била далечна: географски, културно и езиково.

Едно е ясно, там нещата наистина се случват бавно. Неотдавна беше приет планът на ЦК на Китайската комунистическа партия, в него „създаването на правила за справедливост в обществото“, в което кредитната система играе ключова роля, остана за 2025 г.

Тромави, туткави институции, на които не им се занимава с бюрокрация? Не думайте, никога не сме виждали такива тук.

В момента социалната кредитна система е хетерогенна смесица от амбициозни идеи на национално ниво, тотално противоречащи си и разнопосочни регионални решения. През декември 2020 г. едва беше готов първият проект за закон, който да я регламентира, при това за вътрешно разглеждане.

Начинанието беше забавено и от ковид – макар Китай да беше от най-слабо засегнатите държави, мерките срещу пандемията там бяха наистина впечатляващи. И позволиха държавата, в която за първи път беше регистриран вирусът, да остане почти незасегната от него.

По всичко личи, за момента проектът е концентриран много повече върху фирмите, отколкото върху отделните личности. Неотдавнашно мащабно изследване показа, че 73,3% от официалните документи, свързани със социалната система, споменават компаниите като цел на начинанието и само 10,3% са свързани с отделни личности.

 

Китай

Снимка: Markus Winkler, Unsplash

 

Китайски мъчения

Така или иначе, през декември 2020 г. повече от 80% от провинциите и автономните региони обявиха, че са готови с регионалните си проекти за законодателство, свързано с кредитната система. Но това май се оказа доста куха статистика.

Много от публикациите по темата ще ви изрисуват една ясна картина за това как изглежда системата, но за момента просто такава няма. Например в град Ронгченг всички граждани получават стартовите 1000 точки. Властите отнемат по нещо за всяко нарушение – например карането с превишена скорост или кражбата на ток, и дават бонус, ако дарявате кръв или участвате в благотворителна кампания.

В други региони точките са 100. И правилата са много строго фиксирани. Ако имаш 90 точки – не можеш да си купиш място в бизнескласата на самолета или влака, а ако са под 50 – няма да те приемат в университет. Под 10 човек може да бъде изпратен в поправителен лагер.

Един от експериментите е в Сучжоу, „дребно“ 10-милионно градче в предградията на Шанхай. Местната система за социален рейтинг се нарича „Османтус“ на името на характерно растение. И тук се започва със 100 точки, като за промяната им се събират данни от 20 държавни институции. Теоретично човек може да събере до 200 точки, ако е истински отличник. Тук всеки може да види рейтинга си чрез специално приложение. Западни журналисти си правят експеримента да помолят повече хора да опитат и рекордът, който постигат, е на дама с цели 123 точки.

Оказва се, че малцина имат и по-ниски от началните стойности. А при почти всички попитани рейтингът така и не е мръднал – остава си 100, няколко години след старта на експеримента.

 

Китайската стена

В някои градове ще намерите класификация, подобна на тази за енергийната ефективност на уредите в магазините – от A+++ до D. Ако сте от първите, не само ще карате колело с минимален наем, а и ще ви е лесно да вземете кредит при страхотни условия. Разбира се – и обратното.

Така че дали голяма част от целта на проекта не е да е плашеща маска? Нещо като табелката, че след 100 метра има камера, която ще снима дали караш с превишена скорост…

Разбира се, големият въпрос е преди всичко за черния списък – как се попада там и може ли да се излезе. И тук обаче стоят регионалните различия – ако за момента някои райони избират да вкарат там, ако достатъчен брой пъти сте профучали покрай камерата с превишена скорост, други не го правят за по-„скромно“ провинение от убийство.

 

Китай

Снимка: Raychan, Unsplash

 

Китайски клечки

Но какво става, ако рейтингът ти се срине, дали животът свършва? Лю Ху е харесван на запад журналист, който пише да корупцията и цензурата в родината си. И, както сам той твърди, има лошия късмет да попадне в „черната“ част от социалния рейтинг. Забранено му е да си купи билет за някои влакови линии, да придобива недвижими имоти, да взема заеми. „Нито ми съобщиха нещо, нито ми изпратиха официален документ. И, което беше най-плашещо, просто не можех да направя нищо, за да променя това. Нямаш на кого да се оплачеш. Просто изведнъж ставаш никой“.

По официални данни през 2018-а китайците не са успели да купят 23 милиона билети за самолет или влак заради нисък социален рейтинг.

В една от обсъжданите на централно ниво системи отново основата е 1000 точки, които са обвързани и с буквичките като на електроуреди. Хората с по-малко от 600 попадат в група D, където най-вероятно няма да могат да си намерят дори и нископлатена работа. Банките, разбира се, не им отпускат кредити, не им се дават коли и дори колела под наем. Що се отнася до останалото – дали ако си общуваш с такъв човек, и твоят рейтинг ще пострада; дали той ще бъде лишаван от граждански права, например да гласува, или ще го „изпращат“ някъде, за да се „поправи“… разбира се, няма как да намерим достатъчно достоверна информация.

В някои области системите работят под пълна пара, в други – на практика не съществуват. И все пак, тепърва предстои да се създаде, ако изобщо се стигне дотам, решение на национално ниво.

 

панда

Снимка: Wood Dan, Unsplash

 

Китайската медицина

Междувременно, улавяйки основната идея, много компании създават собствени системи за рейтинг. Например „Сезам Кредит“, финансовото подразделение на популярната компания „Алибаба“. От финансовата институция признават, че оценяват своите 400 милиона потребители по огромен брой параметри, като например дали са родители или пък… колко време губят, играейки видеоигри.

„Сезам“ разпределя хората по скалата между 350 и 950 точки. Тези над 600 имат право на необезпечен кредит, над 650 – да вземат кола на изплащане без оскъпяване, а над 700 – да бъдат доста улеснени да пътуват до Сингапур и дори до Шенгенското пространство.

„Сезам Кредит“ дава достъп до своя рейтинг и за други проекти, като например сайта за запознанства Baihe. Така в китайския тиндър можете да видите не само снимките по бельо на човека, на когото сте хвърлили око, а и кредитния му рейтинг.

 

Китайска мъдрост

Според немалко източници централната система повече ще прилича на програма за лоялност в магазините, отколкото на зловещ държавен план за създаване на идеалния гражданин.

Ясно е, че крайната цел е единна общонационална система и база данни, в която всеки китайски гражданин и всяка фирма имат уникален номер и рейтинг. Могат да я ползват работодателите, китайските власти и организациите, отпускащи кредити. Като основна нейна цел е представена борбата с мошеничеството и финансовите машинации.

Ако повярваме на описанията, системата има корените си в… IV век. По онова време Шан Ян, управител на областта Шан, става известен като голям реформатор, защото налага промени, с чиято помощ се укрепва единната държава. Нещо доста ценно, предвид особеностите на Китай. Той разделя хората на групи от по 5-10 семейства, които да живеят заедно, в постоянна връзка, и да докладват, ако нещо с някой от елементите на „комуната“ не е както трябва. Системата става популярна като „баоцзя“ съществува в Китай до 1949 г. и идването на Мао.

 

 

Конфуций и Андрешко

По своеобразен начин днешните китайски управници се опитват да създадат наследник, в който обаче начело е изкуственият интелект.

Други водят произхода на този светоглед до Конфуций и една притча, на която нашият Андрешко доста би се повеселил. Мъдрецът работел като чиновник и му предложили подкуп, като обещали, че никой няма да узнае. Конфуций отвърнал: „Аз знам, ти знаеш, небето знае. Тогава кой няма да узнае?“.

И в момента работят два подобни официални рейтинга – персоналният „данг`ан“ и семейният „хукоу“, които от десетилетия се ползват за контрол на миграцията и заетостта. Новите решения просто ги допълват с възможностите на модерните технологии.

Различните институции, които отговарят за данните за системата, съобщават, че са събрали между 10% и 90% от показателите, които са им нужни, за да изпълнят основната си цел.

Така, макар и още далеч от финалната линия, има нещо реално – огромен обем информация, която е събирана и обработвана прецизно. А това е и най-важната част от всяка работеща система, базирана на изкуствения интелект.

Излишно е да казваме, че данните в случая са меко казано големи, става дума за най-населената страна. А на всичкото отгоре тя има култура, до голяма степен неразбираема за западния човек.

 

Дук Мандарина

Тук, на запад, е доста лесно да се събере кредитната история на даден човек. Имаме големите стари системи на кредитите, докато далеч на изток има твърде много хора, които са останали встрани от системата.

Нужен им е на китайските власти Биг Брадър? Ами, те нали уж официално вече го имат – съвършените системи за лицево разпознаване, с които се знае какво прави всеки жител на Поднебесната империя. Това обаче е още една тема, за която знаем прекалено малко, за да правим крайни изводи. Лицевото разпознаване в тази държава наистина е достигнало впечатляващи нива, в много от големите градове има на всяка крачка камери, които улавят и разпознават действията на всеки минувач. Но пък има и далечни региони, които никога не са виждали нещо подобно.

Ясно е, че властите в Китай правят доста, за да използват електронен контрол толкова, колкото е по силите им. Става дума за общество, което и към момента има доста различно отношение към индивидуалните свободи. И по-скоро благодарение, отколкото въпреки това оцелява и процъфтява.

 

китайските теракотени воини

Снимка: Aaron Greenwood, Unsplash

 

Източен вятър, западен вятър

А… кой може да ни убеди, че същото не се случва и на Запад, просто по-перфидно? След като стана ясно, че дори лидерите на най-близките до САЩ държави са били подслушвани от ЦРУ.

Няма чак толкова сериозни разлики между това, което ще представлява китайската система за социален рейтинг, и това, което днес имаме в западната цивилизация. Нима днешните банки, докато решават дали да ви отпуснат кредит, няма да проучат всичко, което биха могли да знаят за вас? Нима не биха ви подложили на супер строг анализ? Не биха очаквали да сте си плащали данъците, да не сте извършвали престъпления? Нима самата държава в подобни случаи не ви лишава например от правото да гласувате? Не ви лишава от достъп до здравеопазване, ако не си плащате осигуровките?

Разбира се, проблемите идват, когато се намеси и политиката, а властта получи репресивни механизми, но… кой ни гарантира, че и на Запад това не се случва?

В САЩ и Европа се прилагат активно системи за кредитен рейтинг, базирани на изкуствен интелект. С тяхна помощ банките преценяват дали да отпуснат заем на даден кандидат, или не. Къде точно е толкова голямата разлика?

 

Китай

Снимка: Nuno Alberto, Unsplash

 

Китайски ресторант

Естествено, без да се споменава изрично, идеята на системата е тя да се използва и за да се потиска удобно инакомислието. Много е гадно, факт. За щастие, няма нищо подобно на Запад, питайте Сноудън или Асанж.

Ами избухналият съвсем неотдавна скандал с израелското приложение „Пегас“, използвано, за да се шпионират журналисти и политици?

Важно е да се разделим с едно уточнение – въпреки че наистина се постарах да включа доста сериозни по обем и авторитет източници, при такава тема човек никога не може да бъде сигурен в противоречащите си публикации и се извинявам, ако по пътя е допусната грешка.

Китайската система съвсем не е симпатична, крие много сериозни рискове, но е поучително как тя се демонизира, без да се обръща внимание, че до голяма степен се припокрива с това, което вече имаме. Технологиите крият невероятни възможности да ни поведат по следващата стъпка в еволюцията, но лесно се превръщат в машина за потискане, неравенство, агресия, войни.

Системата на социалния рейтинг наистина може да е страховита, но не за китайците. А за всички нас. Защото изкуственият интелект има много приложения и както е способен да помогне за по-свободен и демократичен свят, да възроди медиите, също така би могъл да стане и палач. Средство за поробване. Достатъчно е да попадне в ръцете на хора, които знаят как да го превърнат в такова.

И все пак, системата я правим ние повече, отколкото си мислим. С активност, или с апатия.

 

китайски маски

Снимка: Eric Prouzet, Unsplash

Дигитални истории
<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

„Въпросът е да не убием сами креативността си“

„Въпросът е да не убием сами креативността си“

„Единствената голяма надежда, която имам за човечеството, е че няма да загубим любопитството и креативността си. И смятам, че загубата е по-възможно да се случи поради забавления, които ни правят...

повече информация
„Светът е вмирисан на кич. Затова върви към катастрофа“

„Светът е вмирисан на кич. Затова върви към катастрофа“

Текла Алексиева се превръща в легендарен илюстратор, след като създава 120 корици за книгите от поредицата „Библиотека Галактика“. Поколения читатели свързват най-големите фантастични романи с...

повече информация
Програмистът, който избра да е детегледач

Програмистът, който избра да е детегледач

Продължава да е повече от примамливо да се насочиш към програмирането, да потърсиш бъдещето си в прословутия IT сектор… Днешният ни гост е програмист с 20-годишен стаж! Насочва се към това поприще,...

повече информация
Човек или ИИ – можем ли да различим автора? (Резултати)

Човек или ИИ – можем ли да различим автора? (Резултати)

Можем ли днес да различим създаденото от изкуствен интелект и от човека? Започвам с краткия отговор: не можем. Това е основният извод от експеримента, който беше организиран на сайта Дигитални...

повече информация

Още публикации по темата:

От рубриката:

Човек или ИИ – можем ли да различим автора? (Резултати)

Човек или ИИ – можем ли да различим автора? (Резултати)

Способни ли сме да различим създаденото от изкуствен интелект и от човека?
Започвам с краткия отговор: не можем. Това е основният извод от експеримента, който беше организиран на сайта Дигитални истории.
Има обаче и толкова много други любопитни щрихи, които да ни накарат да се замислим…
Йеронимус Бош или Петко Славейков се оказаха по-трудни за разпознаване? Гозбите на Мария Жекова или строфите на Виолета Кунева?

повече информация
Кой е авторът – човек или изкуствен интелект?

Кой е авторът – човек или изкуствен интелект?

Можем ли днес да различим създаденото от човека от генерираното от изкуствения интелект? Нека заедно направим един експеримент, който може да даде много интересни отговори.
30 бързи въпроса, достатъчни са около 5 минути. Иска се единствено да прецените кои от изображенията и текстовете са генерирани от изкуствения интелект и кои са създадени от хора.
Включете се, опитайте! Поканете и приятели! Колкото повече са участващите, толкова по-интересни ще са резултатите!
Събирането на резултати ще продължи две седмици – до 8 март 2024 г. Петима от участниците ще получат подарък.

повече информация
Създават ли алгоритмите изкуство? 15 важни гледни точки

Създават ли алгоритмите изкуство? 15 важни гледни точки

Могат ли алгоритмите да творят?
Средство или автор е изкуственият интелект?
Има ли как ИИ да създаде следващите изкуства, или вече творенето е безсмислено занимание?
Какво ще правим, когато произведенията му във всяка област станат неразличими от човешките?
Вече 3 години в този сайт събирам гледни точки по големите въпроси на днешния технологичен ден. Смятам, че е жизненоважно да включваме повече различни гласове в дискусиите по важните теми, каквато безспорно е тази за изкуството и творчеството.
Ето 15 от най-интересните и съдържателни мнения, които събрах за това време. Влизат ли в противоречие, или се допълват думите на технологичните хора, писателите, творците, духовниците и… котараците?

повече информация

Най-новите:

„Въпросът е да не убием сами креативността си“

„Въпросът е да не убием сами креативността си“

„Единствената, най-голяма надежда, която имам за човечеството, е да не загубим любопитството и креативността си. И смятам, че е по-възможно да се случи на базата на забавления, които ни правят безлични и незаинтересовани. А не заради това, че някой изкуствен интелект ще ни е взел работата…“
Струва ли си днес да започнем да учим програмиране или науките, свързани с данните? Не е ли обречено бъдещето на софтуерните инженери? Всеки ли би могъл да стане специалист в тези област? Защо понякога университетското образование се превръща в пречка?
Йордан Даракчиев има много какво да каже по темата, за 8-и път той започва да преподава първия у нас едногодишен модул, в който човек може да получи достатъчно знания, за да започне работа в областта на науката за данните и изкуствения интелект.
При предишното му гостуване поговорихме за дефинициите и възможностите на машинното самообучение, невронните мрежи, изкуствения интелект. За това как почти случайно астрофизикът по образование започва да преподава на хора, които после стават част от ИИ-екипите във фирми като „Тесла“ и „Мета“, в обещаващи стартъпи.
Сега ще надникнем към предизвикателствата, пред които ни изправят генеративните алгоритми. Ще си говорим за разработването на софтуер и системи с изкуствен интелект като професионално предизвикателство, вълнуваща област… и възможност, която си струва повече хора да опитат.

повече информация
Павел Дуров. По-добрият Зукърбърг

Павел Дуров. По-добрият Зукърбърг

Щом има Гандалф и Гандалф Белия, защо да няма Зукърбърг и Зукърбърг Белия?
Странна птица е създателят на Telegram Павел Дуров. И той, като колегата си, „таткото“ на Facebook, е роден през 1984-а. Забогатява, след като създава социална мрежа. И той успява да натрупа известен брой милиарди.
Само че с доста съществени нюанси. За разлика от набора си, говори свободно латински, по снимките личи, че изглежда доста различно в мускулатурата. Направи световния си пробив с приложение, което ви гарантира сигурност и се старае да не ви манипулира. Не точно както при колегата…
Завършва с всякакви възможни отличия… филология, макар че в същото време уж е опасен хакер. Превръща се в знаменитост, преди да се забърка в тежки проблеми с властите в родината си.
Докато в същото време и до днес остава енигма за медиите по цял свят. Дали има две деца, или никога не е имал връзка с жена? Какъв ли ще е следващият му голям проект? Как си представя бъдещето и бои ли се от изкуствения интелект?
Павел Дуров е от онези образи, които правят днешния технологичен свят значително по-вълнуващ…

повече информация
„Светът е вмирисан на кич. Затова върви към катастрофа“

„Светът е вмирисан на кич. Затова върви към катастрофа“

„За човека продължава да има 10 000 начина да мисли и да гледа света. А какво прави той, по дяволите? Зяпа си телефона. Децата, които растат сега, не са виждали какво има наоколо. Те са обект на фантастиката, живеят в паралелен свят. Те не знаят как изглеждат улиците, как изглеждат хората. Това ме кара да мисля, че няма оправия. Кой ще ги вкара в този свят? Ако стане случайно, те ще бъдат разбити.“
Текла Алексиева се превръща в легендарен илюстратор, след като създава 120 корици за книгите от поредицата „Библиотека Галактика“. Поколения читатели свързват най-големите фантастични романи с образите, нарисувани от нея. Освен художник със самобитен поглед и безброй признания, е и автор на стихосбирка.
Какво ли мисли тя за изображенията, генерирани от изкуствен интелект?
Защо според нея днес сме заобиколени отвсякъде от кич – в литературата, в изкуството, в живота?
Можем ли и как да си върнем добрия вкус?
Защо в никакъв случай не бива да напускаме Земята?
Как така… Текла Алексиева не е успяла да дочете книгата с една от най-известните ѝ корици?

повече информация
Програмистът, който избра да е детегледач

Програмистът, който избра да е детегледач

Продължава да е повече от примамливо да се насочиш към програмирането, да потърсиш бъдещето си в прословутия IT сектор…
Днешният ни гост е програмист с 20-годишен стаж! Насочва се към това поприще, много преди то да се превърне в мода и да стане толкова изкусително. Докато не усеща, че му е омръзнало да прекарва времето си пред компютрите, а най-приятно му е да е сред децата.
Така, напук на всички стереотипи, Богдан решава да си изкарва хляба, като гледа хлапета. Това го прави щастлив, осмисля ежедневието му. Дори не му минават идеи да се връща към компютрите, за него няма нищо по-смислено от времето, прекарано с децата…
Не е ли време да преосмислим някои клишета?

повече информация
„Колко ни е важна днес истината?“

„Колко ни е важна днес истината?“

„Как изпуснахме обществения договор? Ей така, тихичко…“
Вече не сме способни да различаваме текстовете и изображенията, генерирани от изкуствен интелект от тези, създадени от човека. Това е големият извод от експеримента на Дигитални истории, в който се включиха близо 2000 души.
Срещаме се с Надя Шабани, правозащитен адвокат и директор на БЦНП, и с Радина Банова-Стоева, правозащитен адвокат и правен консултант към центъра.
Какъв ще е начинът, по който оттук нататък ще можем да различаваме истината?
Защо е важно да си говорим за човешките права в контекста на големите въпроси, пред които днес ни изправят технологиите? Обречени ли са опитите за регулация на изкуствения интелект? Как да решим големия въпрос с етиката в тази област?
Защо решенията, които вземаме днес по въпросите на изкуствения интелект, имат толкова голямо значение за бъдещето на цивилизацията ни?

повече информация
Човек или ИИ – можем ли да различим автора? (Резултати)

Човек или ИИ – можем ли да различим автора? (Резултати)

Способни ли сме да различим създаденото от изкуствен интелект и от човека?
Започвам с краткия отговор: не можем. Това е основният извод от експеримента, който беше организиран на сайта Дигитални истории.
Има обаче и толкова много други любопитни щрихи, които да ни накарат да се замислим…
Йеронимус Бош или Петко Славейков се оказаха по-трудни за разпознаване? Гозбите на Мария Жекова или строфите на Виолета Кунева?

повече информация
Share This