„Това, че не можем да захванем един смислен диалог, доведе до социална изолация на стотици хиляди хора. Някои се разболяват и умират просто защото нямат пълноценно общуване. Изкуственият интелект според мен ще засили тази тенденция, защото ще заблуди хората, че разговарят с приятел, с някого, когото са загубили или който не иска да ги чува. Така се оказваме в един свят, в който уж можем да си говорим. А всъщност, зад тази привидна палитра от гледни точки, от думи, словесна салата, включително от егоцентрични академични речи, седят едни изплашени, обезверени, обеднели, интелектуално и емоционално хора. Това според мен е големият ужас на съвремието.“
От поезията започна разговорът ни с писателката Силвия Томова, за да мине през образованието, историята, през епидемията от невежество и назрялата нужда от обществено пробуждане. На фона на всичко това като неизменен спътник останаха технологиите, които променят всяка от тези теми из основи.
Журналист и дефектолог по образование, тя публикува есета, разкази, романи. Носител на редица награди, автор на 5 романа и 3 сборника с разкази, Силвия често наднича и в миналото, и в големите въпроси на днешния ден. Не се страхува да излезе от клишетата и да предизвиква мейнстрийма и в литературата, и на общественото поле.
Ето че се срещаме за един важен и дошъл тъкмо навреме разговор.
– Написа онлайн, че да участваш с генерирана поезия на конкурс е признак на его и инфантилност. Отдавна се канех да те поканя за интервю, но ето че ме провокира тъкмо мнението ти, толкова различно от моето. Според мен се наложи да направя този литературен експеримент, защото не виждам друг начин безпристрастно да проверим колко добре ИИ създава поезия. Освен да я дам на жури, което не знае за нея. И тъй като се случи вече на два конкурса, според мен става дума за важни изводи, които всички заобикалят.
– Според мен такива случаи ще стават все повече. Вече има литературни конкурси по света, спечелени от произведения, дело на човек, използвал изцяло изкуствен интелект. Наскоро чух за такъв конкурс за разказ. Авторът, използвал новите технологии, е професор и след края на конкурса е споделил пред журито, че разказът е генериран от ИИ, но за целта той му е задал 36 въпроса.
Тоест, зависи до каква степен човекът, който си „играе“ с ИИ, има някаква литературна култура и е запознат с контекста. Защото всеки литературен конкурс се провежда в някакъв контекст. А и много зависи от личността на автора… Какви са неговите лични естетически критерии? Ако няма интерес към литературата, не е писал преди, това, което ще избере от генерираното, няма да е висока или добра литература. Ако човекът има висок литературен вкус и добри редакторски способности, той би могъл да компилира нещо свое със създаваното от ИИ, за да се получи що-годе приемлив разказ. Но
тук въпросът е не дали това ще се случва, дали вече се е случило и как нашите литературни журита са реагирали.
Дори не какви са хората, които са си позволили да го направят, защото не е наказуемо юридически. Тук според мен има едни етични категории, чиито граници не трябва да се прекрачват. Първо, това е лъжа. Участвам с чуждо произведение, защото генерираното е взето отнякъде, ИИ не си го е измислил. Второ, подкопава се, компрометира се самият конкурс. Усилията на тези, за които предполагаме, че участват честно, се обезсмислят. Така че трябва да се пипа, когато става дума за хора, твърде внимателно.
Първото нещо, което човек научава в този свят, е да не лъже.
снимки: Добрин Кашавелов
– Съгласен съм, именно заради това и аз, и другият участник съобщихме веднага след избора на топ 10. А в случая става дума за напълно генерирани стихове, които не съм променял по никакъв начин. И все пак изпревариха общо над 100 участника. Темата за критериите е съвсем друга, аз също по никакъв начин не искам да дискредитирам журито, особено след като две поредни журита избират тези стихове. Но догодина кой би си признал, ако използва алгоритмите? Не само не е престъпление, но вече е ясно, че не е доказуемо, не сме в състояние да различим кога текстът е генериран, а не създаден от човека.
– Всеки конкурс, не само литературен, е арена на суетата.
Утре тази драма ще се забрави, както се забравят и всички лауреати на литературни конкурси. Разбирам, че ти и, вероятно, твои съмишленици,
искате да обърнете внимание към пакостите, които може да направи изкуственият интелект, но не съм сигурна, че обществото е достатъчно подготвено да участва в такъв дебат.
Все едно да си говорим за литературните конкурси въобще. Преподавателите в университетите ще кажат: „Кои сте вие, че се обаждате? Ние имаме висок критерий“. Ние ще кажем: „Кои сте вие, че ни налагате критерий, който не отговаря на действителността?“.
Така по-скоро би се получил един хаотичен псевдодебат, шум в пространството и това никъде няма да ни изведе. Наистина никъде. По-скоро смятам, че въпросите, които касаят изкуствения интелект, трябва да се повдигат на научни дискусии, форуми и в лаборатории, където те ще срещнат необходимото разбиране от специалисти в различни области.
Но си прав, че изкуственият интелект поставя интердисциплинарни предизвикателства. Той има нужда от обмисляне, от етичен, дори в някакъв смисъл религиозен, верски характер, заслужава своето обговаряне от всички страни, но не на улично и на площадно ниво.
– Другото просто значи да се правим, че нищо не се случва.. Точно това е каузата ми, затова го има този сайт. Давал съм думата за ИИ и на свещеник, и на ислямски духовник, и на мнозина хора на изкуството. Мисля, че давам шанс на такъв дебат, обаче той трябва да се изведе на съвсем друго ниво, за да има истински смисъл.
– Трябва да се изведе към властта и да се има предвид че ИИ, освен пробив в техническо отношение, е и ще бъде преди всичко бизнес.
– Или обществото? Струва ми се, че властта нищо не прави, ако не бъде притисната. Как да се случи този дебат? Казваш научни конференции, но аз мисля, че промените вече са твърде големи, за да се решават там. Науката има задължително и важно място. Но не е достатъчно.
– Напротив, особено що се отнася до високите технологии. САЩ, а и всички държави, все повече ще зависят от тях… Един Мъск бе привлечен в екипа на Тръмп, например.
Категорично не съм съгласна, че властта действа тогава, когато е притисната от обществото.
Тъкмо обратното наблюдавам. Хората гледат да се нагодят към властта, за да получат някакви изгоди, но не се интересуват от властта, освен ако не бъдат провокирани. Властта задава дневния ред. Обществото ходи като стадо след водача си. И това не важи само за нашето общество, а изобщо.
Ако Тръмп не беше спечелил изборите в САЩ, щяхме да говорим за мир в Украйна точно нанайци, никога. Освен това, откъде сме сигурни, че утре недобросъвестни властимащи няма да използват изкуствения интелект срещу интересите на хората?
Аз не знам как един сайт може да повдигне толкова висок дебат, но съм сигурна, че властта не трябва да бъде изключвана. Напротив, трябва да бъде провокирана.
Ако, например, някой си поиграе с ИИ и създаде измислен проблем, властта как ще реагира? Ще подведе този човек под съдебна отговорност, нали така? Освен това, някъде дълбоко в себе си, по-скоро интуитивно, смятам, че трябва да има регулация на тези неща.
Мен литературата слабо ме интересува, честно казано. Защото, ако някой ще излъже, той може да излъже и без изкуствен интелект. По-скоро ме интересува какво въздействие може да има върху социалните процеси, с какви данни ще бъде захранвана тази машина, за да не създаде социален катаклизъм и да не се окажем накрая в една антиутопия.
В същото време съм обнадеждена от това, че ИИ дава възможности за удължаване и подобряване на качеството на живота на болни хора. Не трябва априори всичко да се отхвърля. Но, както всичко създадено от човека, трябва да се използва… колкото и наивно да звучи, с чисто сърце.
– И достатъчно осмислено. Често пиша за всяка от тези теми, също и защото ми се струва невиждано средство за манипулация. Вече веднъж навлязоха такива технологии стихийно със социалните мрежи, които имат предишно ниво ИИ и създадоха огромни разломи, нарушиха диалога. Според мен всички политически проблеми сега идват и заради тях, просто защото така работи алгоритъмът. Много лесно ни настройва едни срещу други. Нарушава диалога, създава флуидна истина.
– Абсолютно, напълно съм съгласна. След като едни обикновени социални мрежи, където човек влиза по желание, могат да свършат такава работа, просто не искам да си мисля докъде може да ни доведе изкуственият интелект. „Свободата е робство.“ Ужасно.
– Докато имаме и следващ много сериозен проблем – да не различаваме кое какво е. За мен поезията е много показателна, защото е неочевидна, метафорична. Търси по-задълбочени връзки, надтекстовото, дори надчовешкото.
– Смятам обратното. Поезията, тъй като е метафорична, неочаквана, в нея езиковият експеримент е по-приемлив, там може да мине. В разказа е по-лесно да хванеш нелогичност и нещо, което не съответства, да речем, да се изгуби контекстът, един герой да не звучи убедително във всички сцени.
Да си призная честно, само веднъж попитах изкуствения интелект за нещо, свързано с литература. Помолих го да напише първото изречение на исторически роман по зададени от мен параметри. И той написа толкова скучно изречение, че, признавам си, не бих прочела този роман, дори ИИ да го напише целия. Така че, по-скоро смятам, че по-лесно е ИИ да мине в поезията, по-трудно ще му бъде да напише един разказ.
А и в прозата според мен талантът си личи по душата на един текст. Дали и доколко е актуален. Това дали би го постигнал ИИ? А и компютърът няма душа… има неща, които се усещат на друго ниво, не само интуитивно и не само със сърцето, както казва Екзюпери. Литературата има връзка с небето, с вярата или неверието… с фундаментални за човека неща…
снимки: Добрин Кашавелов
– Ами, можем само да си задаваме въпросите и аз затова влизам в ролята на агент провокатор, който проверява на практика.
– Но какъв сериозен въпрос би могъл да повдигне за нашето съвремие ИИ, при положение, че той не е жив?
– Мен ме впечатлява и с нестандартни идеи, понякога го използвам за това. Ако му поискам 10 първи изречения на роман и му дам малко повече контекст, съм сигурен, че едно от тях ще е по-хубаво от всичко, което аз мога да измисля.
– Според твоите критерии, според други може да не е така. Една книга може да се прочете от 100 души и да има 100 различни мнения, докато не стигне до университета, където преподавателите ще извадят голямата секира и ще ни обяснят кое е добро и кое не е… Последното е ирония. И дали ще оцелее исторически, разбира се, защото нещо, което днес е добро, може утрешната политическата система да го обяви за пълен провал, за политкоректно писание, чийто автор се е нагаждал, както не един и двама от тези, които днес ни заобикалят и не слизат от телевизионните екрани.
– Въпросът е не трябва ли да пишем заради смисъла? Заради това, което ни идва отвътре, а не за да печелим конкурси?
– Точно така. Литературните конкурси, бидейки поне 50-60 в България, са сцена за изява, както и социалните мрежи.
Точно те направиха още нещо, което за мен е много опасно. Напълно заличиха самокритичността.
Ако един човек не е самокритичен, няма самосъзнание за това как изглежда в очите на околните, нищо добро не ни чака. Не може всички да сме прекрасни, да сме велики. „Манго, посмали малко…“
– Как можем да го променим, този разговор да стане по-смислен?
– Все едно ме питаш как да направим разговора за политика в социалните мрежи по-смислен. Никога няма да стане. А и политиката поне у нас не е поле за минимум интелигентен дебат, властва лъжата, пъчи се и дефилира гордо простотията…, за съжаление.
– Обаче вече не можем да го изкараме извън социалните мрежи, там се случва всичко.
– Все още имам усещане за йерархия в това общество и уважавам тези, които се занимават сериозно, а именно научно с изкуствения интелект, независимо от сферата.
Ще се повторя, но смятам, че това трябва да става на публичен форум, където са събрани специалисти, подбрани по някакъв критерий.
Не всички сме компетентни да се изкажем. Аз не се чувствам компетентна за литература, въпреки че пиша. Мога да кажа, че това ми харесва или не. Мога да напиша собствено си виждане, но не съм филолог. Трябва сериозен дебат.
снимки: Добрин Кашавелов
– Добре, обаче ако има такъв научен дебат, той няма ли да се остане затворен там? Как може да стигне след това до обществото?
– Напротив, приложната наука има отношение към живота ни. След като ИИ е навлязъл в медицината, той вече е част от нашия свят.
Онзиден приключих трилогията на един Нобелов лауреат – Юн Фосе, норвежец. Тази книга ме преряза… Велика! Изключителна литература, отдавна не бях чела нещо толкова въздействащо, смазващо.
И прочетох малко за този човек – той не гледа телевизия, не слуша радио, не се появява по дискусии. Напълно се е изолирал от света и се бори с демоните си. Алкохолик е и пише гениална литература. Без да използва нищо. Над него е само Бог. И всеки, който сложи ИИ пред човека, е всъщност Богоборец. ИИ е нищо повече от поредната технология, с която може да твори и добро, и зло.
Аз нямам самочувствие в поезията, но мога да седна и да „изпраскам“ 10 стихотворения. И какво от това?
Човечеството според мен има нужда точно в този момент от отрезвяване.
Ами тази епидемия от самота, за която се говори и на научните форуми? Трябва да си дадем сметка на какво се дължи. Социалните медии, нашето отчуждение един от друг като човешки същества. Това, че, както казваш, не можем да захванем един смислен диалог, доведе до социална изолация на стотици хиляди хора.
Някои умират в буквалния смисъл. Разболяват се и умират просто защото няма пълноценно общуване.
Изкуственият интелект според мен ще засили тази тенденция, защото ще заблуди хората, че разговарят с приятел, с някого, когото са загубили или който не иска да ги чува. Така се оказваме в един свят, в който привидно можем да си говорим. А всъщност, зад тази привидна палитра от гледни точки, от думи, словесна салата, включително от егоцентрични академични речи, седят едни изплашени, обезверени, обеднели, интелектуално и емоционално хора.
Това според мен е големият ужас на съвремието.
И аз го виждам ежедневно в работата си с деца. Виждам едни хора, които са отчаяни от това, че обществото не е такова, каквото са си представяли. Този проблем често се появява, когато хората започнат да възпитават децата си. Тогава идва шокът от това, което ни заобикаля. Родителите осъзнават, че са сами и никакъв ИИ не може да преодолее фрагментацията на обществото, нито пък липсата на съпричастие.
– И за мен. За момента са малки, но срещата им с тези проблеми ме ужасява.
– Системата не може да ги развали, ако семейството е положило фундаментална база.
снимки: Добрин Кашавелов
– От какво зависи тази фундаментална база?
– Младите хора, родители на деца в предучилищна възраст, са вече изкривени от системата, която създава у тях изкуствени критерии за успех.
Какво е успех? Да имаш най-яката кола, вместо да прочетеш три книжки? Или да сложиш на дъщеря си силиконов бюст?
Не казвам, че всички са такива, но критериите за успех масово са изкривени. Неолибералната система изкриви образованието тотално – от предучилищната педагогика до висшите училища.
Тази сутрин чух интервю с един университетски професор, която обясни, че нивото на студентите във висшето образование е катастрофално и трябва да се вземат мерки, не виждайки по-далеч от университетската си катедра.
Нивото на образование се скапва още в началното училище. Не виня учителите, ще обясня защо е така. Първо – съвременните родители нямат достатъчно време да говорят с децата си. И те, за съжаление, растат самотно, без да изградят връзка с родителите си. Без те да им поставят ясни ограничения какво може и какво – не. Без да ги възпитат в правилата за социално поведение. Ако детето остане само, то не е насърчавано да чете, а да не говорим за култура и възпитание…
Първото нещо, което прави родителят, е да му даде мобилен телефон. Това забавя неговото емоционално, ментално и дори физическо развитие.
Децата малко играят. Родителите, също така, се страхуват от грешките. А грешката е от фундаментално значение, защото, учейки се от нея, децата израстват интелектуално. На някои родителите, с които се срещам като логопед, казвам: „Оставете детето. Да опита, да види кое работи и кое – не, за да се поправи. Давайте му добър пример“.
Едно време децата, когато не можеха да бъдат с родителите, бяха с бабите и дядовците. Сега и те работят на две-три места, за да бъдат в помощ. Същевременно с това учителят няма никакъв авторитет в обществото. Бащата смята, че ако учител направи забележка на детето му, това е абсолютно недопустимо. Отива да се разправя с учителя, дори да има основание за забележката.
Има и родители, за които знанието не е ценност само по себе си, то е просто някаква стъпка към колата, към социалния престиж.
Не е престижно да си знаещ.
Ако отвориш един вестник или сайт, ще се убедиш, че вътре не останаха добрите пера, добрите писачи. Ако пуснеш радио, няма да чуеш добър оратор, полемист… Колко от политиците ни могат да кажат 3 изречения?
– Как да останат… Аз нямаше как да имам две деца, ако трябваше да си изкарвам хляба, работейки в медии. Но пак според мен се връщаме до социалните мрежи, където медиите отпаднаха от битката, защото се оказаха наравно с всички останали.
– Има много фактори, също и тяхната корпоративна, политическа зависимост.
Езикът обеднява. В моя кабинет влизат родители, чийто активен речник е 200-300 думи. Как очакват децата им да бъдат пълноценни, ако самите те не полагат усилия над себе си? С огромна болка го казвам, защото
епидемията от невежество ще се разширява.
– Аз пак тегля към моите теми, но според мен и за това са виновни технологиите и по-точно начинът, по който ги приемаме. Защото, като свеждат общуването ти със себеподобни, а когато нямаш пиетет към знанието, нямаш медиите, които по някакъв начин да са гарант, нямаш критерия с автори, които да те печелят, които пишат като Димитри Иванов.
– Така е, нямам какво да добавя.
снимки: Добрин Кашавелов
– Според мен по-големият проблем е, че всичко това ще се задълбочава, за което ще помогне и навлизането на изкуствения интелект. Докато в същото време стават все по-ценни уменията да отсяваме, да преценяваме, за да откриваме грешките, които ИИ е обречен да допуска.
– Точно така е. Всичко трябва да се проверява – в практиката, в реалния свят. Във философията и високата хуманитарна наука може да си говорим за някакви абстрактни неща, но, за съжаление, докато си ги говорим, децата, учениците и студентите затъват интелектуално.
Къде е грешката? Някъде връзката между всички тези звена, които отговарят за възпитанието, образованието и поведението на младите хора се е прекъснала. Защо? Не съм компетентна да отговоря изцяло на този въпрос. Мога да говоря само от собствените си камбанария.
Системата е погрешна. Или по-скоро не е в полза на хората.
Но ако се осмелиш да кажеш, че тук нещо не е съвсем така, веднага биваш нарочван за враг, което също е грешка на обществото, веднага ти се лепват етикети. Биваш прикрепен към политически партии или движения, които дори може да не подозираш, че съществуват. Така беше с Тръмп, казваха, че е фашист, нацист – това са пълни глупости, не е интелигентно. И е позор, че хора, които имат претенции, че са интелектуалният елит на Америка, ги използваха. В България се случва същото.
Така хората, които умеят да говорят, които разбират, в един момент се отчайват и се прибират в собствените си домове, в собствените си тесни приятелски кръгове.
Ние живеем, без дори да се докосваме.
Ако не можем да се разберем как да сложим една маса вкъщи, фигуративно казано, какво да я правим, как ще се разберем за изкуствения интелект?
Нека вземем законодателството за децата със специални образователни потребности, вътре има напълно неработещи текстове. Не можем да се разберем дори за нещо такова.
– И за конституцията си не можем да се разберем, която е в основата, пък както остава нагоре. Как може да изглежда това пробуждане? Дали не сме минали критичната точка, след която не е възможно?
– Историята е доказала как. Пробуждането, за съжаление, понякога минава през социални катаклизми, дано не ни се случи. Скоро четох интервю с футуроложката доц. Мариана Тодорова, която каза, че ако ИИ реши, че човечеството е опасно за планетата, може да ни унищожи.
Според мен всички трябва да живеем по някакъв начин с усещането за по-висша санкция.
За това, че животът не започва и не свършва с нас, тогава някак ще си знаем границите.
Но, за съжаление, понякога елитите докарват нещата дотам, че няма изход, освен коренна обществена промяна – такава се е случвала след Френската революция, след Октомврийската революция, след Втората световна война. При нас и след Първата световна война, когато тотално се променя отношението ни към света. Защото оттогава ние винаги сме на страната на губещите. Някои историци казват, че по тази причина страдаме от сателитния синдром и нямаме елит, който да се осмели да мисли самостоятелно.
снимки: Добрин Кашавелов
– Алек Попов ми беше казал, че смъртта на Вазов е тази точка на бифуркация, от която се разделяме на две, за момента необратимо.
– Ако не бяхме загубили Първата световна война, щеше да бъде съвсем различно. Моите уважения към патриарха на литературата, но обществените течения, тежнения, нагласи, се определят от по-високи неща. Писателите могат да те подкрепят духовно, както когато се подписва Ньойският договор, нашите сънародници са отчаяни и отиват под балкона на Вазов. Но той не може да им помогне в пълна степен…
Много е тежко и защото така нареченият наш интелектуален елит е разделен, ако въобще можем да говорим за такъв, а не за едно обикновено папагалство. За съжаление, смятам, че спасението не е в диалога и или в българското общество в днешния му вид и няма нужда да живея още 50 години, за да се убедя. Не го казвам с болка, а като констатация.
Това общество 35 години доказва, че не е способно на здравословна дискусия, която уважава мнение, различно от официозния политкоректен дискурс.
– Даже повече години… Историята е голяма тема, на която посветих поредица от Дигитални истории. Но по другата голяма тема, която засегнахме – за децата и технологиите, след няколко дни започвам поредица от важни гледни точки. Благодаря от сърце за интересния разговор!
