Тристан Харис – рицарят на честните технологии

фев. 10, 2023 | Истории

Тристан Харис – рицарят на честните технологии

10 февруари 2023 | Истории

С името на митичен рицар, той е сред малкото донкихотовци, продължаващи битката срещу чудовището, в което се превърна днешният интернет.

„Най-близкото до съвест, което съществува в Силициевата долина“, така е известен Тристан Харис. Името му нашумя с прословутия филм „Социалната дилема“, който привлече погледите, но така и не поведе след себе си кой знае каква промяна. Работата му е олицетворение на всичко онова, което е „счупено“ в днешния онлайн живот. На манипулативните практики, които са се превърнали в заплаха за бъдещето ни като вид.

Тристан Харис е не само най-разпознаваемият радетел за свободен и демократичен интернет. Не само задълбочен изследовател, привличащ погледите към начините, по които ни манипулират. Той е и човекът, който десетилетие по-рано предупреди, че пътят, по който вървят технологиите ще ни отведе в света на компаниите мастодонти, по-силни и от най-големите държави. До времената, когато сме неспособни да задържим вниманието си, четейки. До балоните на филтрите, които изкривяват гротескно начина, по който се информираме.

Възможно ли е според него да обърнем тенденциите? Интернет да се превърне в свободно място без монополи, където информацията се предоставя по демократичен начин, с уважение към личните данни и възгледите на всеки потребител… Какви ли са идеите му за бъдещето на мрежата?

 

Социалната дилема

 

На три стана

Негова личност идва като естествено продължение на Джарон Лание, Ели Парайзър, Кал Нюпорт. Пътят на Тристан минава през собствен успешен стартъп, през опит да промени системата отвътре като част от екипа на Google. После идва същинската му битка за времето и вниманието на всички ни.

Роден през 1985-а, пътят му започва като този на много от другите забележителни личности на Силициевата долина. От малък си пада по програмирането, съвсем невръстно хлапе пише първите си програми за Mac. Идолът му по това време е Стив Возняк, дори му праща писма, които остават без отговор.

Освен от компютрите, той се увлича и от изкуството на илюзионистите. Сам се учи да прави фокуси, за да впечатлява приятелите си. По-късно той ще се върне към онези времена, защото те го карат да се замисли по темата за асиметричната власт. Карайки ви да изберете карта от колодата, магьосникът уж ви дава избор, но той е само илюзия, знае се предварително коя ще изберете, той умело ви е насочил към нея. Именно това, което след години Тристан ще забележи, че правят и интернет гигантите.

 

Тристан Харис

 

В бляскави доспехи

Като млад той определено им симпатизира. Учи в Станфорд, университета, дал на този свят според статистиката най-много успешни стартъпи.

Негов състудент е Майк Кригър, бъдещият създател на Instagram, заедно участват в поведенчески експеримент. Изследват как да накарат човек в дадена мрежа да изпрати на друг снимка, ако при събеседника му времето е лошо – за да го зареди с добро настроение. Курсът е по психология и е насочен към това как да влияем на потребителите. На нашия герой му прави впечатление, че и дума не се обелва за това как влиянието да се случва етично, как да се оставя свобода на избор на същите тези потребители.

Докато следва, изпълнява една от големите си мечти – стаж в Apple. После идва и голямата стъпка – създава свой стартъп. Apture е добавка към браузъра, с чиято помощ човек може да търси повече информация в даден сайт. Приложението бързо става популярно, ползват го The Economist, Financial Times, The New York Times. Както после разказва Харис, през цялото време той се разкъсва между мисията на компанията – да провокира любопитството на хората, и натиска на клиентите да прави така, че те да стоят колкото може по-дълго на сайтовете им.

Статъпът е купен от Google за $10 млн., заедно с него и Тристан става част от екипа на компанията и работи по електронната поща Gmail. След година в това начинание, той вече е убеден, че не иска да е част от една манипулативна система и започва кръстоносната си битка…

 

Тристан Харис

 

Тристан и Изолда

Това е името на един от най-популярните средновековни сюжети, който идва още от XII век и повлиява на много следващи литературни явления. Той има много варианти, които се разпростират из всички цивилизации на тогавашния свят. Но като цяло винаги става дума за изпепеляваща любов и за смел рицар, който се бори за справедливостта.

В интерес на истината нищо не знаем за изпепеляващите любови в живота на Харис, той целенасочено крие всякаква лична информация. Като своеобразен символ за това как технологиите трябва да уважават личното пространство. Но пък за битката за справедливост на адаша на средновековния герой се знае доста и именно това е поводът да си говорим за него.

През 2012 г. той разпраща на колегите си презентация на 144 страници със заглавието „Призив да се минимизират отвличащите фактори и да се уважава вниманието на потребителите“. Пуска го до пощите на десетина души, но след няколко дни вече са го чели над 5000 служители на Google, включително и Лари Пейдж.

От гиганта уж му дават шанс да приложи идеите си на практика. Година по-късно Тристан заема длъжността „етичен дизайнер и продуктов философ“ за гигантската компания. Знаете, в тази област си падат по гръмките и оригинални длъжности, които обаче са с доста неясно съдържание. Така или иначе, той се опитва да популяризира идеите си, включително канейки световноизвестния будистки монах Тик Нят Хан да изнесе лекция пред „колектива“.

 

 

Когато се каляваше стоманата

Много пъти се среща с шефовете на Google. Получава аплодисменти, уж му казват колко е важна неговата работа, но… нищо не се променя. Така пред декември 2015-а Тристан се отказва от опитите си да промени системата отвътре, напуска работа и се отдава на мисията си. Да говори за недъзите на съвременните технологии и за това как можем да им противодействаме, отново чрез технологиите.

Напълно разбираемо е защо Google не могат да си позволят да приложат идеите на нашия герой. Защото в дивия онлайн свят това веднага би ги направило неконкурентноспособни спрямо всички останали.

Става дума за същата онази асиметрична власт, поуката, която Тристан носи в себе си от магическото детство. Само че в случая не безобидният опит за впечатляване на илюзиониста, а съвсем пряката манипулация. „Хората „зад екрана“ упражняват цялата власт върху тези, които гледат в същия този екран.“

„Проблемът ни е, че днес изпитваме същите палеолитни емоции, живеем при институции, устроени при средновековен начин, а вече владеем технологии, които ни карат да се чувстваме богоподобни“, казва Тристан.

 

Тристан Харис

 

На върха на копието

Всичко това идва като естествено последствие от най-важната характеристика на съвременния дигитален свят – огромното море от информация, което ни залива, и битката вниманието ни да бъде привлечено. Искат или не, за да оцелеят, компаниите правят всичко по себе си, за да насочат погледа ни именно към техния продукт, колкото може по-често и задълго, защото именно то е това, което по някакъв начин ги изхранва.

Тристан я нарича „икономика на вниманието“. Всяко приложение и уебсайт – независимо дали е за медитация, новинарска платформа или увлекателна игра, се старае да привлече погледа ви, за да го отворите и да прекарате в него възможно най-дълго време.

И как се случва това? Чрез всякакви манипулативни техники. В имейла си до колегите Тристан предупреждава, че до десетилетие те ще доведат дотам, че хората ще са неспособни да задържат задълго вниманието си, например четейки книга. Че софтуерните продукти все повече ще ни бомбардират със съобщения за щяло и нещяло, на което ние ще реагираме отново и отново, без да се осъзнаваме, като хамстер във въртележка. Че персонализирането на съдържанието крие рискове, които трябва да бъдат осмислени и предотвратени.

 

Подлеци, сър!

Добре дошли в това бъдеще, за което Тристан се оказва напълно прав. Отвличащите фактори в ежедневието ни днес са бич, чиито гнили плодове ще ядем дълги години. Все по-трудно ни е да задържаме вниманието си, да се удържим да не погледнем пак към телефона, за да видим дали пък някой не е лайкнал поредния ни пост.

Ама, и да го е лайкнал, какво от това?

След Google Тристан започва да се занимава с нещо, което сам нарича „етически активизъм“. Създава движението „Добре прекарано време“ (Time Well Spent) с идеята по темата да се говори повече и хората да си дават сметка за размерите на манипулацията. После със съмишленици основава неправителствената организация Център за хуманни технологии.

През 2020-а успява да привлече внимание към темите с участието си в „Социалната дилема“. Филмът е гледан от 100 милиона души в 190 страни, преведен е на 30 езика! Харис става доста популярен, много държави го канят като консултант за възможни регулации, чест гост е и в Сената.

Да, популярността на филма вероятно води до някои промени, като например въвеждането на „фокусиран“ режим в новите айфони. Истината обаче е, че по-скоро отново се претворява поговорката за това, че кучетата си лаят, а керванът си върви.

 

Тристан Харис

 

В двора на крал Артур

Според нашия герой едно от решенията е да се сложи край на безплатните приложения. Както повтаря и добрият стар Джарон Лание, когато нещо е безплатно, стоката си ти, това се доказва днес от тъжните примери на интернет гигантите. От ожесточената им битка за данните и времето ни. Срещу това според Тристан стоят „органичните технологии“ – плащаш си за тях, но това позволява на създателите им да не използват манипулации и рекламни хватки.

Първата стъпка според него е държавите да забранят свръхтаргетираната реклама.

Обаче много е трудно човек да свикне да дава пари за нещо, което винаги е получавал (на пръв поглед) безплатно. Разбира се, тук цена има и тя накрая излиза солена, но за да си дадеш сметка за това, трябва да се замислиш… за което нямаш време, докато в джоба телефонът пак ти напомня, че в някоя от 235-те социални мрежи някой е харесал поста ти.

И тук идва следващата идея на Тристан, която е проста, логична и все пак, ако я вземат на въоръжение повече хора, само биха спечелили от това. Да, знаете в чии ръце е спасението на самите давещи се.

Търсенето на решение на тези проблеми минава през осъзнаването им – малцина ще се замислят и няма да открият за себе си, че са се превърнали в „анонимни фейсбукхолици“ и отварят минута през минута тази или друга платформа.

 

Ескалибур онлайн

Съветите на нашия герой са доста подобни на тези на Кал Нюпорт с неговия „дигитален минимализъм“. Стъпките са наистина интуитивни. Да ограничите за известно време приложенията, които имате на телефона си, за да оцените кои от тях наистина са ви важни. Факт е, че днес е почти невъзможно да си активен член на обществото, ако се откажеш напълно от тях, за това допринесе и все по-свободната работна среда от времената на пандемията.

Но спасението тук е в това да се ограничим до онези приложения и съобщения в тях, които наистина са ни важни. Ако толкова нямаме търпение да видим писмото от някой важен човек, винаги може да сложим филтър и телефонът да ни осведоми само за него, а не за всяки следващ спам в пощенската кутия. Средно всеки от нас днес поглежда телефона си около 150 пъти на ден!

Сред другите му идеи е да отделите на един екран важните приложения, така че другите да не са непрестанно пред очите ви. Защото всички са измислени така, че, насочите ли поглед към екрана, да ви привлекат с червена удивителна, че има нещо ново и особено интересно, заради което да ги отворите.

 

Социалната дилема

 

Въпрос на чест

Неспособността да се съсредоточаваме е огромен проблем, който се задълбочава – личи си и от това как се променя характерът на всяка следваща нашумяла социална мрежа. Но има и още една голяма тема, свързана с етиката на гигантите, за която Тристан често говори и тя е не по-малко важна за нас като вид: демокрацията и общественото развитие.

И тук пак голямо значение имат социалните мрежи. Днес, за да достигне до вас например тази публикация, това с много голяма степен на вероятност се е случило през някой от интернет гигантите. Отдавна отмина времето, когато влизахме на сайтове, за да четем новини – сега ни ги предлагат търсачките, ако ни е нужно нещо конкретно, или социалните мрежи. Последните обаче никак не обичат да показват външни линкове, основната им цел е да задържат вниманието ни колкото може по-дълго. В резултат се налага създателите на съдържание да плащат за реклама, така че все пак думите им да стигат до някого.

Или другият вариант: да са шумни, провокативни, конспиративни, двусмислени, „просещи си“ да кликнеш на шарено звучащия линк. От всичко това логично последваха и други явления, предсказани от Тристан – поляризацията на обществата, невъзможността за постигане на съгласие, агресивната комуникация.

 

Вятърни мелници

Заедно с това идва и пряката намеса. Според изследване на психолога Робърт Ъпстейн от Американския институт за поведенчески изследвания и технологии например, от 2015-а до днес резултатите от Google са променили изхода на изборите в не по-малко от 25 държави.

„Всичко това води до упадък на хората, на човечеството, упадък на отношенията, вниманието, демокрацията, на чувството за срам“, казва Тристан.

Нови теми отваря и напредъкът на изкуствения интелект. Според модерния рицар, проблемът там не е, че технологиите технологично ще започнат да ни превъзхождат в нашите силни области. Опасността настъпа тогава, когато компютърът „осъзнае“ слабостите на човека, когато разбере къде той е емоционално уязвим и използва това срещу него. Дали не виждаме първите следи от този проблем в алгоритмите на социалните мрежи?

 

 

Последният довод

На заседание на Сената през пролетта на 2021-а Тристан формулира проблема ясно и увлекателно: „Намираме се в средата на големия преход от аналоговото общество на ХХ към цифровото на XXI век. Пред нас има два избора, които изглеждат като антиутопия: можем да се насочим към китайските оруеловски импланти в мозъка с авторитарен контрол, цензура и масова промяна на поведението. Или да изберем американската, западната версия на Хъксли, при която да потънем в отпускане, гняв, незначителност и развлечения до смърт… Хайде да опитаме да намерим трети път: към открито, а не затворено дигитално общество!“.

И наистина, хайде! Тази битка е толкова важна и зависи от всеки от нас… Със сигурност смисленото дигитално бъдеще минава през осмисляне. И борба, но не срещу хората на различно мнение онлайн. Нали си спомняш къде е свободата, Санчо…?

Дигитални истории
<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

„Новата“ майка на ChatGPT

„Новата“ майка на ChatGPT

„Тварта прониква с множество очи в отворения свят…“ Коя ли е тази твар? Сътресенията в OpenAI през последната седмица надминаха по обрати „Игра на тронове“, че дори и българската политика. Сам...

повече информация
„Свободна воля. Или баркод в цифровия концлагер?“

„Свободна воля. Или баркод в цифровия концлагер?“

„Представете си Одисей с джипиес сред гръцките острови напът към Итака. Превръщаме пътуването на човечеството през времето в круиз. А от лъжовната розова зона на комфорта до цифровия концлагер е...

повече информация
Момчето, което спаси интернет. И влезе в затвора

Момчето, което спаси интернет. И влезе в затвора

12 май 2017-а, денят, който можеше да сложи край на интернет. Компютрите на британската здравна система започват да рухват един след друг. Спират да работят и на екрана се появява недвусмисленото...

повече информация

Още публикации по темата:

От рубриката:

Пол Алън – другото лице на Microsoft

Пол Алън – другото лице на Microsoft

Две хлапета се сприятеляват покрай общия си интерес към компютрите. После заедно създават първата си фирма. Няма и десетилетие по-късно същата тази фирма вече е първият гигант на модерните компютърни времена. И ако за едното хлапе, което дълго беше най-богатият човек на планетата, знаем много, то историята на другото не е чак толкова популярна.
Не друг, а компютърният специалист Пол Алън, „кръстникът“ на Microsoft, се оказа собственикът на най-скъпо продадената частна колекция от картини. При това през ноември 2022-а, 4 години след като си отиде от този свят. Ценител на изкуството, запленен от спорта, огромен дарител за научни изследвания. Той е и богаташът, който пробуди модерния интерес към космическите полети.
Още на 29 разбира, че е болен от смъртоносно заболяване и решава да изживее остататъка от живота си така, както си е мечтаел.
Много може да се поучим от историята и светогледа на този нестандартен образ. И още повече – да си задаваме въпроса как щеше да изглежда днешният технологичен свят, ако и останалите му лидери имаха неговия светоглед?

повече информация
Момчето, което спаси интернет. И влезе в затвора

Момчето, което спаси интернет. И влезе в затвора

12 май 2017-а, денят, който можеше да сложи край на интернет. Компютрите на британската здравна система започват да рухват един след друг. Спират да работят и на екрана се появява недвусмисленото съобщение „Ууупс, файловете ви са криптирани! Трябва да преведете между $300 и $600 в биткойн на следния адрес, за да отключите машината…“.
Вирусът WannaCry, влязъл в родния мем фолклор с нелепия превод „Искаплаче“, се превръща в най-мощната кибератака в човешката история. Само за един следобед нанася щети за между 4 и 8 милиарда долара. Нещо повече, заради начина и скоростта, с която се разпространява, заплашва за денонощие да порази всяко устройство, свързано към интернет.
Спира го по особено неочакван начин един симпатичен къдрав британец с ямайски произход. Само на 22, той се превръща в знаменитост в киберсвета. Докато няколко месеца по-късно не се озовава в щатски затвор с обвинения, които могат да му донесат десетки години затвор.
Историята на Маркъс Хъчинс е нещо средно между „Граф Монте Кристо“ и „Престъпление и наказание“ на дигиталните времена. За възходите и паденията на момчето, което спаси интернет (и хиляди животи), преди да се срещне с грешките от миналото си…

повече информация
Програмистът, който изтри 11 реда и „счупи“ интернет

Програмистът, който изтри 11 реда и „счупи“ интернет

23 март 2016 г. можеше да бъде апокалиптичен ден в историята на дигиталния свят, който надали ще се повтори. Netflix, Facebook и Spotify са само част от безбройните сайтове, които изведнъж се оказва, че… няма как да бъдат поддържани и обновени.
Защо ли? 28-годишният програмист Азер Кочулу просто е изтрил 11 фатални реда компютърен код.
Но как е възможно един непознат програмист да блокира сайтовете на световните гиганти? Защо в странния днешен онлайн свят неочаквано се оказва, че огромни, мултимилиардни проекти се крепят на раменете на доброволния труд на ентусиасти? Какво ли е накарало Азер да се ядоса толкова, че да отприщи в най-страховития му вид ефекта на пеперудата?
Понякога най-малките и уж безобидни редове код обръщат програмата…

повече информация

Най-новите:

Пол Алън – другото лице на Microsoft

Пол Алън – другото лице на Microsoft

Две хлапета се сприятеляват покрай общия си интерес към компютрите. После заедно създават първата си фирма. Няма и десетилетие по-късно същата тази фирма вече е първият гигант на модерните компютърни времена. И ако за едното хлапе, което дълго беше най-богатият човек на планетата, знаем много, то историята на другото не е чак толкова популярна.
Не друг, а компютърният специалист Пол Алън, „кръстникът“ на Microsoft, се оказа собственикът на най-скъпо продадената частна колекция от картини. При това през ноември 2022-а, 4 години след като си отиде от този свят. Ценител на изкуството, запленен от спорта, огромен дарител за научни изследвания. Той е и богаташът, който пробуди модерния интерес към космическите полети.
Още на 29 разбира, че е болен от смъртоносно заболяване и решава да изживее остататъка от живота си така, както си е мечтаел.
Много може да се поучим от историята и светогледа на този нестандартен образ. И още повече – да си задаваме въпроса как щеше да изглежда днешният технологичен свят, ако и останалите му лидери имаха неговия светоглед?

повече информация
„Занимаваш се с наука? Ще си тъп и беден!“

„Занимаваш се с наука? Ще си тъп и беден!“

Не, няма! Технологиите, науката са пътят – и за всеки млад човек, който иска да постигне нещо, и за всички нас, като народ, дори като цивилизация.
29 милиона пъти са видени миналата година в социалните мрежи публикациите на сайта „Българска наука“. Достъпно, но и адекватно, издържано, в него се разказва за научните пробиви, за предизвикателствата, за големите успехи на българските учени.
Вече 17 години Петър Теодосиев влага в тази кауза душата си. Започва като хлапе, няма пари да си купи книги, от които да се научи да програмира. А после така се увлича в разказването на научни истории, че и до днес не губи вярата си.
Че можем да обърнем стереотипа. Че е важно да запалим искрата на любопитството, на любовта към книгите, пламъка на науката при следващите млади хора. Защото това е шансът ни като нация.
Но как да се случи?

повече информация
„Новата“ майка на ChatGPT

„Новата“ майка на ChatGPT

„Тварта прониква с множество очи в отворения свят…“ Коя ли е тази твар?
Сътресенията в OpenAI през последната седмица надминаха по обрати „Игра на тронове“, че дори и българската политика. Сам Алтман, лидерът на компанията, превърнала се в доминатор, изведнъж… бе уволнен. На него място застана главният технологичен директор на компанията Мира Мурати. После настана пълна суматоха, в края на която всичко си дойде обратно на мястото.
Тепърва ще научим (или пък няма) как и защо се случи този панаир.
Повече от любопитна е версията, съобщавана и от сериозни медии, че причината за всичко е Q* – „кю стар“, нов алгоритъм, способен да разтърси човечеството. Алтман го е представил на борда на директорите и те са били толкова уплашени, че решили да спасят света…
И докато онлайн дебатите се превърнаха в спорове като за латиносериал кой и как дърпа конците, кой се е оказал в силната позиция и какво се променя в света на технологиите след цялата суматоха… встрани остана само образът на жената, която за няколко дни се озова начело на компанията.
Макар и името ѝ да се споменаваше след големия успех на ChatGPT, личността на албанката Мира Мурати винаги оставаше в сянката на Алтман. Ето че е дошло време да научим повече за нея, защото, по всичко личи, от нейните действия ще зависи бъдещето на света, при това не само на технологичния…

повече информация
„Свободна воля. Или баркод в цифровия концлагер?“

„Свободна воля. Или баркод в цифровия концлагер?“

„Представете си Одисей с джипиес сред гръцките острови напът към Итака. Превръщаме пътуването на човечеството през времето в круиз. А от лъжовната розова зона на комфорта до цифровия концлагер е само крачка. Така наречената цифровизация би била една много комична, дори забавна част от историята на човечеството, но, уви, не е така. Тя ни води директно в един безсмислен от хуманна гледна точка свят.“
С тези думи на Недялко Славов започваме разговора за най-новия му роман „Хабитат“. Огромна по значение и сила книга, пропита с много от тези големи днешни въпроси, чиито отговори не спирам да търся чрез Дигитални истории.
Недялко Славов е носител на редица национални награди за поезия и проза, автор на романите „Фаустино“, „432 херца“, „Камбаната“.
На границата на епоса е и новото му произведение, в което с безпощадната си писателска наблюдателност и неповторимия си стил той ни показва зловещо тиктакащите взривни устройства на днешния ден, за които все нямаме време.
Ще се научим ли да ценим данните си, най-ценното, което имаме днес онлайн? Какво може да ни спаси от шпионските агенции, в каквито са се превърнали социалните мрежи? Къде е днес битката за свободата и има ли все още шанс да не я загубим?
„Всичко е в това какво искаш да си утре. Свободна воля. Или баркод в цифровия концлагер на един безсмислен свят“.

повече информация
Момчето, което спаси интернет. И влезе в затвора

Момчето, което спаси интернет. И влезе в затвора

12 май 2017-а, денят, който можеше да сложи край на интернет. Компютрите на британската здравна система започват да рухват един след друг. Спират да работят и на екрана се появява недвусмисленото съобщение „Ууупс, файловете ви са криптирани! Трябва да преведете между $300 и $600 в биткойн на следния адрес, за да отключите машината…“.
Вирусът WannaCry, влязъл в родния мем фолклор с нелепия превод „Искаплаче“, се превръща в най-мощната кибератака в човешката история. Само за един следобед нанася щети за между 4 и 8 милиарда долара. Нещо повече, заради начина и скоростта, с която се разпространява, заплашва за денонощие да порази всяко устройство, свързано към интернет.
Спира го по особено неочакван начин един симпатичен къдрав британец с ямайски произход. Само на 22, той се превръща в знаменитост в киберсвета. Докато няколко месеца по-късно не се озовава в щатски затвор с обвинения, които могат да му донесат десетки години затвор.
Историята на Маркъс Хъчинс е нещо средно между „Граф Монте Кристо“ и „Престъпление и наказание“ на дигиталните времена. За възходите и паденията на момчето, което спаси интернет (и хиляди животи), преди да се срещне с грешките от миналото си…

повече информация
„Искам да чета нещо, написано от хора!“

„Искам да чета нещо, написано от хора!“

За книги и фронтенд програмиране, за писането – на думи и компютърен код, ще си говорим с Александър Кондов. Ще минем покрай философията и изкуствения интелект.
Програмирането е изкуство, а не инженерна работа! – гласи веруюто на днешния ни гост.
Защо ли смята така?
Седнали сме тримата – с него и ChatGPT, в една дигитална кръчма, за да побъбрим на чаша дигитален чай за ония големи теми, които вълнуват всички ни…

повече информация
Share This