Роботи на власт

юли 9, 2021 | Технологии

Роботи на власт

9 юли 2021 | Технологии

Пак идват избори и изборът е труден, чак невъзможен. И, което е още по-лошото, често изглежда безсмислен. Няма избор. Политиците идват и си отиват, обещанията летят, хората, които просто гласуваме… насочваме поглед напред. Дали пък моделът не е изчерпан? И не могат ли да го променят из основи (или поне да го освежат) технологиите и изкуственият интелект?

У нас какво ли не опитахме последните 30 години, а все не става. Месия цар, месия бодигард, месия шоумен. Леви, които се държат като десни, десни, които се държат като бесни. Докато електронните политици няма да се излагат, не се нуждаят от кюлчета на нощното шкафче, нито от торби с ром и пури.

В една недалечна държава дори си избраха за президент актьор, който играе учител, случайно станал президент… Нещо в тази система не е наред. И проблемът далеч не е само в поизостаналите източни страни, има го, просто под други форми, и в най-старите демокрации.

Вся власть роботам!

Заговорим ли за политика, има защо малко да се отчаем от естествения интелект и да търсим спасение в изкуствения.

Добре, подведох ви, извинявам се, човешко е. С този текст не искам да ви разкажа за това как роботите могат да станат политици…, а ви каня на революция!

Каузата ви звучи малко съмнителна? Нека се опитам да ви спечеля.

За съжаление, няма да ми се получи с успешни примери. Но пък на все повече места по света се появяват наши съмишленици, които са стигнали до същия логичен извод. Хората очевидно не могат да се справят достатъчно добре на властови позиции и е време да дадем шанс на алгоритмите.

Сам, Уотсън, Алиса. Това са все имена на софтуерни продукти, които са били въвличани в политиката. Разбира се, малко трудно ще ни е да ги вземаме особено на сериозно, докато им даваме имена като на домашни любимци (и дори ги пишем в кавички, спестил съм ги тук само от уважение към каузата).

 

политика

Снимка: Jon Tyson, Unsplash

 

Програмисти от всички страни…

В интерес на истината, „Уотсън“ и „Алиса“ попаднаха в този списък неволно. В първия случай става дума за суперкомпютъра на IBM с изкуствен интерект, една от най-напредничавите разработки в тази област през последните години. В навечерието на американските избори за президент през 2016-а група ентусиасти създадоха кампания (сайтът ѝ още работи) за това именно „Уотсън“ да се превърне в новия обитател на Овалния кабинет.

Аргументите им са солидни: откритият алгоритъм, невероятните способности на кандидата да обработва информация и на базата на нея да взема оптимални, ясни, обосновани и обективни решения, не би могла да се съпостави с уменията на нито един човек (да не говорим за кандидатите, между които тогава трябваше да избират американците).

За съжаление, първата птичка не направи пролет, но се излюпиха и следващи. В Русия през 2018-а се появи движение, издигащо за президент „Алиса“ – гласовия асистент на популярната местна търсачка „Яндекс“. Явно обаче „майката и таткото“ на кандидатката не бяха съгласни проектът им да се обвързва с политика и сайтът на кампанията бързо изчезна.

 

И Сам воинът е Сам

Така стигаме до „Сам“. Да, той е далеч от изчислителния капацитет на „батко“ Уотсън, но пък е първата невронна мрежа, създадена специално, за да влезе в политиката. Програмистът и любител на изкуствения интелект мрежи Ник Геритсен създава проекта, отчаян от липсата на избор, която вижда на изборите.

Какви са предимствата на „Сам“ според неговия Джепето? Че може да елиминира пропастта между желанията на избирателите, обещанията на политиците и истинските им действия, след като попаднат на дадена позиция. Сам анализира нуждите на избирателите, отчитайки различните мнения. Пресмята последствията от всяко евентуално решение, търсейки оптималното. Помни какво е обещал, не влиза във вътрешни противоречия. Освен това винаги е на разположение на избирателите си в социалните мрежи.

„Може да не сме съгласни за някои неща“, пише на сайта си „Сам“, „но където не сме на едно мнение, обещавам да се опитам да разбера позицията ви, така че да ви представлявам по-добре. Сега едва започвам. Някои от отговорите ми ще са грешни или непълни, но се уча бързо. Освен това не се страхувам да кажа, че не знам нещо“.

Нещо повече – още от създаването му всеки може да поговори със Сам, да провери решенията и възгледите му, да даде предложения. Признавам, опитах и аз да го направя на сайта на електронния политик, но може би след неуспеха му да попадне в новозеландския парламент, създателят му е спрял да поддържа проекта.

 

избори

Снимка: Septimiu Balica, Pixabay

 

Робота, робота, робота

За десерт остана може би най-оптимистичният пример – на Мичихито Мацуда. Човекът си е съвсем истински, но обещава, ако спечели изборите за кмет на японския град Тама, предградие на Токио, ролята да поеме изкуствен интелект, кръстен на него. По време на кампанията дава дума на хуманоида политик, снабден с изкуствен интелект, който също обещава да се грижи по мъдър и прецизен начин за благото на гражданите.

„Електронната версия“ на Мичихито е дълбока невронна мрежа, способна да анализира огромни обеми от информация, търсейки оптималните решения. Създателите му твърдят, че Тама е идеалното място, където да се развие подобен пилотен проект, защото градът разполага с много сериозни електронни системи, генериращи данни от всякакъв характер, които могат да бъдат използвани от електронния кмет.

Проектът е доста сериозен, зад него стоят двама бивши високопоставени служители в японския клон на „Гугъл“. Мичихито наистина се явява на изборите за кмет през 2018-а и застава на трето място, получавайки цели 4000 гласа.

Пробивът е доста сериозен, а на нас ни остава да стискаме палци победителят в изборите да се поизложи и ва края на следващия му мандат хората сериозно да се замислят отново да дадат властта на нашия приятел Мичихито.

 

Българска роботническа партия!

Споменах ли, че е време за революция? Не бива да ни отчайва фактът, че до момента нямаме особено успешен прецедент за изкуствен интелект, който дори да е помирисал политиката. Ако ви притеснява думата „роботи“, нека ги наричаме силодеи.

Така или иначе, тенденцията е ясна. Ако не вярвате, питайте Владимир Путин, той определено знае какво говори. „Надявам се, че изкуственият интелект не може да стане президент. Поне засега. Той няма сърце, душа, чувство за състрадание и съвест“, казва руският президент. То пък като че ли много от истинските политици ги имат… По-интересна обаче е втората част от изказването му. „Но пък изкуственият интелект може да бъде добър, направо незаменим помощник за един президент“.

Днес политиката е страшно зависима от технологиите, излишно е да го казваме. Поне в по-напредналите в тази област страни, а не такива, в които може да бъде драма, че трябва да се гласува на машина.

Достатъчно е да споменем теми като „Уикилийкс“, „Кеймбридж Аналитика“, хакерството. Социалните мрежи, които все по-често се намесват в изборите, макар собствениците им да твърдят, че работят срещу това.

 

политическа кукла

Снимка: Septimiu Balica, Pixabay

 

Сърп и болт

На закриването на кампанията си преди последните президентски избори в Турция, Реджеп Ердоган се показа като холограма на митинги във всички по-големи градове на страната.

Всичко това определено е още един аргумент в полза на изкуствения интелект, който би бил в свои води във всякакви подобни начинания.

И още нещо – той преспокойно би могъл да бъде допълнен от достатъчно симпатична форма на дигитален човек, за да спечели доверието и гласовете на избирателите. Знаете, че търсите кандидат, който е на средна възраст, улегнал, има симпатична прическа и сини очи? Правите си го. При това без риска да ви изложи, като нападне камериерка или се окаже на компрометиращо събитие.

 

Има робот, няма проблем

Дори извън неприятното чувство, което оставя подобно събитие, има и нещо още по-важно. Това пък го прави напълно независим за манипулации, изнудване, компромати, което често се случва с човешките кандидати.

А един такъв политик би могъл да бъде поне малко по-харизматичен, да има авторитет, да превърне политиците отново в силни личности и авторитети… Защото, каквото и да си говорим, имаме лошия късмет да живеем във времена, когато управляват Байдън, Макрон или Меркел, а не Кенеди, Де Гол или Аденауер. (България в този контекст изобщо не искам да споменавам.)

Политикът робот би могъл да е достатъчно уравновесен и, поне докато е в безопасност от хакерите, да предотвратява войни. Да взема доста по-бързи решения в ситуация на криза. Да елиминира ефекта от личните (и партийни) симпатии в международната политика. Заключен от законите на алгоритмите си, да не носи в себе си изконното желание на почти всеки политик да стане авторитарен. Не би се опиянявал от властта и тя не би била самоцел за него.

 

лозунги

Снимка: Markus Spiske, Unsplash

 

Електронно правителство

Разбира се, с едно много, много важно уточнение. Както и с досегашните скучни кандидати, и тук първото, за което трябва да попитаме, преди да изберем фаворит на изборите, е какви сили стоят зад него. Дали алгоритъмът е достатъчно „чист“, податлив на манипулиране; дали е с отворен код и винаги би могъл да бъде проверяван от независими експерти. Защото в противен случай нашият кандидат би могъл да се превърне в троянски кон на всякакви интереси и отново би изпаднал в ролята на неуспешните си човешки колеги.

Добре, с малко разочарование ще ви призная, че революцията, която чакаме, може да не е чак толкова близо. Но пък определено е време да се подготвяме за нея. Най-малкото със създаването на тестови проекти. С алгоритми, които, както казва Путин, биха могли да помагат на истинските политици, а защо не – и да поемат тази част от работата им, която по-лесно се побира в обективни измерители. След като скоро ще можем да дадем на роботите да управляват колите ни, не си ли струва да опитаме същото и с държавите, или поне на регионално ниво?

 

Свобода, равенство, роботство

Хубаво, няма да е скоро. Днес роботите са взели около 1% от работните места в производствената индустрия във Великобритания, 3% в Германия, 5% в Южна Корея. Все още ги ползваме по-скоро за базисни задачи. Но пък, както неведнъж е ставало дума в Дигитални истории, технологичните възможности нарастват експоненциално. На всеки две години дълбоките невронни мрежи – системите, които сме свикнали да наричаме „изкуствен интелект“, удвояват възможностите си.

Те ще навлизат във все повече области и политиката, някак съвсем логично, е сред най-заподозрените. Веднага след като поемат професиите на администрацията, на всичко, свързано с безсмислена бюрокрация, това е следващото им естествено поле за изява. А в такива моменти който се досети и пръв намери конкретните приложения, ще бъде в силната позиция.

Доказателство е, че бизнесът все повече приема помощ от изкуствения интелект за важни задачи. 33% от американските технологични фирми използват такива системи при избора на кадри. Отново в САЩ полицията разчита на алгоритми от този тип, за да преценява как да подхожда в отношението си към терористи, пленили заложници. Много банки използват изкуствен интелект, за да оценяват хората, на които ще отпускат кредити.

А защо технологиите да не се превърнат в допълнението, което да позволи най-накрая на демокрацията да отиде на следващо ниво? Да възроди левите и десните политики, да позволи реална, дългосрочна визия за управлението на града или държавата, независима от 4-годишни мандати и човешки грешки? Да ни припомни какво е политически дебат и дискусия, а не размяна на сладникави снимки и клипчета?

 

Статуята на свободата

Снимка: Jackie Ramirez, Pixabay

 

Роботокрация

Да възроди и пряката демокрация? Изкуственият интелект политик да се превърне в това, което трябва, но не успяват да бъдат колегите му от плът и кръв – слуги на народа; изпълнители на неговите желания, повели, решения? Освободен от омразата онлайн и балона на филтрите. Да върне добрата стара форма за сблъсък на ляво и дясно, надпреварването на идеи. Възможността за трезва оценка на нуждата от реформи в дадени сектори, а не карането по течението на всеки следващ ден…

Добрият (да, бе!) стар Чърчил повтаряше, че „демокрацията е най-лошата форма на управление, с изключение на всички останали форми, опитвани някога“. Обаче от времето му мина повече от половин век, а животът, човекът, технологиите, не могат да стоят на едно място. Историята не свърши, а продължава и има нужда от питателна среда и нови стъпки.

Само си представете на мястото на политиците, които останаха пометени и неадекватно за предизвикателствата на коронавируса някой или нещо, което може да носи отговорност и разбира от числа.

Е, нямам търпение да гледам първото интервю на електронен журналист с електронен политик. Вероятно в началото разговорът би бил доста нескопосан и комичен. Но пък извън това, роботът управник би могъл много по-бързо и точно да бъде контролиран от обществото.

 

Скролващите депутати

Съществува и идеята да използваме изкуствения интелект, за да контролира политиците. Ако не ги заменя, поне да ги кара да си вършат работата по-добре. Любопитен пример в тази посока идва от проекта The Flemish Scroller. Създателят му Дрис Депортер използва факта, че всяко заседание на Фламандския парламент в Белгия се предава онлайн. Технологията му проследява в каква част от времето всеки от народните избраници е показан, докато „човърка“ нещо по телефона си. Проектът използва машинно самообучение, за да открива телефоните и лицево разпознаване, за да идентифицира политиците.

Разбира се, системата няма как да прави разлика дали по това време депутатът решава важен държавнически въпрос, или реди пасианс. Пък и по нашите ширини сме свикнали с кадрите от Народното събрание на представители, които правят всичко друго, освен политика за благото на народа. Но все пак, самата идея за включването на модерните технологии като коректив на властта е допълнителен коз за роботническата партия.

 

The Flemish Scroller

 

Роботът няма какво да губи…

За финал оставих още един сериозен аргумент, който да ни окуражи в начинанието. Ами… хората вече са узрели за идеята, властта се търкаля по улиците и само чака нашата Роботническа партия. Преди по-малко от месец любопитно проучване, обхванало почти 3000 души от 11 държави, даде изводи за нагласата на хората към темата. Цели 51% от европейците казват, че е добра идея да се намали броят на членовете на парламентите им, като част от отговорностите се дадат на изкуствен интелект.

Процентът е още по-висок в Испания (66%), Италия (59%), Естония (56%). Скептиците доминират в Англия, Холандия, Германия. За изкуствените политици са 75% от китайците, но само 40% от американците. Данни за България липсват, но имайки предвид традиционното ни отношение към политиката, има защо да вярваме, че хората, готови за роботи политици, ще са дори повече.

И все пак, във всички случаи говорим за критична маса, огромен брой хора, разочаровани от системата.

Тогава какво чакаме? Не знам за вас, но аз само очаквам появата на Роботническата партия. Най-накрая, след толкова дълга пауза, ще знам, че си струва и има за кого да гласувам. Отдавна не е имало избори, на които да има избор…

 

изгрев

Снимка Pexels

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

„Изкуственият интелект никога няма да пише по-добре от Борис Христов“

„Изкуственият интелект никога няма да пише по-добре от Борис Христов“

Веселин Веселинов е тазгодишният победител в седмия национален литературен конкурс „Станка Пенчева“. И далеч не само, докато говорим, ми показва стена в дома си, пълна с поетични отличия. Той...

повече информация
Поколенчески въпрос. Дигиталните лидери и култът към личността

Поколенчески въпрос. Дигиталните лидери и култът към личността

Кои са най-ярките личности в общественото пространство през последните десетилетия? Тези, от които най-малко бихме го очаквали, ако вярваме на стереотипите – хората на технологиите. От Бил Гейтс,...

повече информация
„Епидемията от невежество само ще се разширява“

„Епидемията от невежество само ще се разширява“

„Това, че не можем да захванем един смислен диалог, доведе до социална изолация на стотици хиляди хора. Някои се разболяват и умират просто защото нямат пълноценно общуване. Изкуственият интелект...

повече информация
Кои прогнози за 2025 г. се оправдаха? Какво се задава нататък?

Кои прогнози за 2025 г. се оправдаха? Какво се задава нататък?

През 2015 г. седмина водещи футуролози представят очакванията си за започващото десетилетие. След няколко часа ще посрещнем същата тази 2025-а, вече можем да преценим доколко добре са се справили с...

повече информация

Още публикации по темата:

От рубриката:

ЕИ + ИИ. Рамо до рамо, неврон до неврон

ЕИ + ИИ. Рамо до рамо, неврон до неврон

Докато се замерваме с клишета и спорим онлайн дали изкуственият интелект ще ни пороби, ще ни остави без работа или ще изчезне, затиснат от огромните очаквания… аз поне съм сигурен, че няма да направи нито едно от нещата в списъка. Но ще направи по малко и от трите.
Технологията, с идването на ChatGPT, вече 2 години е във фокуса на обществения интерес, на ежедневните разговори и на клишетата. Вече е ясно, че тя е тук…, а ние още не сме решили как да е посрещнем. В икономиката, в живота си, в погледа си към света. А и към самите нас. Към ежедневието ни, към труда ни. Към изкуството. Към всичко онова, което ни прави хора. И което може да ни прави по-добри и щастливи хора.
Единственият разумен подход оттук нататък е да се научим да работим заедно. Как да продължим да развиваме ИИ технологиите пълноценно, но и разумно. Обсъждайки, търсейки всеки важен аспект в различните областите на познанието.

повече информация
Кои прогнози за 2025 г. се оправдаха? Какво се задава нататък?

Кои прогнози за 2025 г. се оправдаха? Какво се задава нататък?

През 2015 г. седмина водещи футуролози представят очакванията си за започващото десетилетие. След няколко часа ще посрещнем същата тази 2025-а, вече можем да преценим доколко добре са се справили с очакванията си в толкова динамичната и турбулентна първа четвъртина на XXI век.
А после идва още по-интересното: ще надникнем в днешните очаквания на същите тези футуролози и най-вече на онези сред тях, оказали се прави.
Какво се задава през следващите години според хората, които успешно са прогнозирали последното десетилетие?

повече информация
Етика на прогреса. Могат ли технологиите и човечеството да съществуват в баланс?

Етика на прогреса. Могат ли технологиите и човечеството да съществуват в баланс?

Може ли да има етика в прогреса?
Могат ли технологиите и човечеството да съществуват в баланс?
Най-вероятно не.
Трябва ли да има етика в прогреса?
Трябва ли технологиите и човечеството да съществуват в баланс?
Определено да.
Но как така?

Ние спориме
              двама с ChatGPT
                          на тема: „Човекът във новото време“.

повече информация

Най-новите:

„Изкуственият интелект никога няма да пише по-добре от Борис Христов“

„Изкуственият интелект никога няма да пише по-добре от Борис Христов“

Какво е да си успешен поет днес? Кое те кара да продължаваш? Как изглежда бъдещето на поезията? Докога ще я има? Как тя може да вълнува повече хора, да ни помага да осмисляме големите теми на днешния ден?
Веселин Веселинов е тазгодишният победител в седмия национален литературен конкурс „Станка Пенчева“. И далеч не само, докато говорим, ми показва стена в дома си, пълна с поетични отличия.
Той завършва хуманитарна гимназия „Дамян Дамянов“ в Сливен, след което се насочва към разностранните полета на психологията в СУ „Св. Климент Охридски“. Доктор по клинична психология, от 13 години работи като учител и училищен психолог, а вече и преподава на бакалаври и магистри в Нов български университет.

повече информация
Поколенчески въпрос. Дигиталните лидери и култът към личността

Поколенчески въпрос. Дигиталните лидери и култът към личността

Кои са най-ярките личности в общественото пространство през последните десетилетия? Тези, от които най-малко бихме го очаквали, ако вярваме на стереотипите – хората на технологиите. От Бил Гейтс, когото целокупното конспиративно човечество превърна в основния виновник за пандемията до Илон Мъск, който, докато ни „спасява“ свободата на словото, е последната ни истинска надежда да се извисим в Космоса като цивилизация…
Да, култът към личността в дигиталните времена изживява доста странен апогей. Политиците отдавна изгубиха магията си на интересни личности, хората на изкуството стоят по-скоро насочени към конкретните си аудитории… докато знаменитостите, свързани с технологичния прогрес, се превърнаха в силните образи на новото време.
Дали защото технологията е днешната магия? Неразбираема за много от хората, променяща, атрактивна… Свърховеци ли са силните образи на дигиталните времена? Получават ли заслужената си слава иноваторите, или процъфтяват крадците на идеи? По какво си приличат и се отличават представителите на различните поколения? Срещаме доста различни дигитални истории…

повече информация
8 неочаквани факта за Джон Атанасов

8 неочаквани факта за Джон Атанасов

„Бащата на компютъра е българин“. Някои твърдения приемаме за аксиома и повтаряме ли, повтаряме, често без да си даваме сметка какво стои зад тях. Българин ли е наистина? Какво точно е създал Джон Атанасов, част от блестящо поколение учени, и наистина ли приносът му е решителен? Има ли защо да се гордеем с него или става дума за още едно от обграждащите ни отвсякъде исторически клишета?
Всички важни отговори дава излязлата неотдавна на български книга „Джон Атанасов – човекът, който изобрети компютъра“. Авторката Джейн Смайли е носител на „Пулицър“. От Айова, мястото, където Атанасов прави големия си пробив, тя тръгва по пътя на изобретателя. Разказва за десетилетията в средата на миналия век, когато редица забележителни учени постигат стъпка по стъпка отдавнашната човешка мечта за машина, която да ни е полезна в безброй задачи.
С откритието си Атанасов отваря вратата на днешния дигитален свят.
Какво знаете за него? Ето 8 любопитни щриха от книгата, събрали някои от най-важните акценти в тази история.

повече информация
ЕИ + ИИ. Рамо до рамо, неврон до неврон

ЕИ + ИИ. Рамо до рамо, неврон до неврон

Докато се замерваме с клишета и спорим онлайн дали изкуственият интелект ще ни пороби, ще ни остави без работа или ще изчезне, затиснат от огромните очаквания… аз поне съм сигурен, че няма да направи нито едно от нещата в списъка. Но ще направи по малко и от трите.
Технологията, с идването на ChatGPT, вече 2 години е във фокуса на обществения интерес, на ежедневните разговори и на клишетата. Вече е ясно, че тя е тук…, а ние още не сме решили как да е посрещнем. В икономиката, в живота си, в погледа си към света. А и към самите нас. Към ежедневието ни, към труда ни. Към изкуството. Към всичко онова, което ни прави хора. И което може да ни прави по-добри и щастливи хора.
Единственият разумен подход оттук нататък е да се научим да работим заедно. Как да продължим да развиваме ИИ технологиите пълноценно, но и разумно. Обсъждайки, търсейки всеки важен аспект в различните областите на познанието.

повече информация
„Епидемията от невежество само ще се разширява“

„Епидемията от невежество само ще се разширява“

„Това, че не можем да захванем един смислен диалог, доведе до социална изолация на стотици хиляди хора. Някои се разболяват и умират просто защото нямат пълноценно общуване. Изкуственият интелект според мен ще засили тази тенденция, защото ще заблуди хората, че разговарят с приятел, с някого, когото са загубили или който не иска да ги чува. Така се оказваме в един свят, в който уж можем да си говорим. А всъщност, зад тази привидна палитра от гледни точки, от думи, словесна салата, включително от егоцентрични академични речи, седят едни изплашени, обезверени, обеднели, интелектуално и емоционално хора. Това според мен е големият ужас на съвремието.“
От поезията започна разговорът ни с писателката Силвия Томова, за да мине през образованието, историята, през епидемията от невежество и назрялата нужда от обществено пробуждане. На фона на всичко това като неизменен спътник останаха технологиите, които променят всяка от тези теми из основи.
Журналист и дефектолог по образование, тя публикува есета, разкази, романи. Носител на редица награди, автор на 5 романа и 3 сборника с разкази, Силвия често наднича и в миналото, и в големите въпроси на днешния ден. Не се страхува да излезе от клишетата и да предизвиква мейнстрийма и в литературата, и на общественото поле.
Ето че се срещаме за един важен и дошъл тъкмо навреме разговор.

повече информация
Кои прогнози за 2025 г. се оправдаха? Какво се задава нататък?

Кои прогнози за 2025 г. се оправдаха? Какво се задава нататък?

През 2015 г. седмина водещи футуролози представят очакванията си за започващото десетилетие. След няколко часа ще посрещнем същата тази 2025-а, вече можем да преценим доколко добре са се справили с очакванията си в толкова динамичната и турбулентна първа четвъртина на XXI век.
А после идва още по-интересното: ще надникнем в днешните очаквания на същите тези футуролози и най-вече на онези сред тях, оказали се прави.
Какво се задава през следващите години според хората, които успешно са прогнозирали последното десетилетие?

повече информация
Share This