Алгоритмите, оказва се, вече могат да предскажат кога и къде ще се случи престъпление. По този начин, след още няколко стъпки, може да бъдат предотвратявани масови убийства, безброй животи да бъдат съхранени. Човечеството да бъде принудено да се сбогува с тази изконна негова черна страна – престъпността.
Ами съдебната система? В Китай вече официално част от присъдите се определят от изкуствен интелект, чиито решения се оспорват само ако има сериозни доказателства. Значи ли това краят на съдебните грешки, юридическите хватки, несъвършенствата, с които така и не можем да се преборим през цялата човешка история тогава, когато заговорим за справедливостта?
Ще оставим ли Джон Гришам без работа? Или ще се озовем в ужасната последна сцена на един знаменит роман – мъж и жена си приказват, когато зад тях един стоманен глас изрича: „Вие сте покойници“?
Ако всяко престъпление може да бъде предсказано или справедливо наказано, ще стане ли животът ни невероятно спокоен? Или ще се озовем в свръхконтролиран световен концлагер?
Снимка: Stefano Pollio, Unsplash
…съдияаата е робот!
Разбира се, всичко, казано дотук, са крайности. Абсолютната справедливост е утопия, точно както е утопия и самата думичка „справедливост“. И все пак, заговорим ли за престъпления, винаги водещ е бил човешкият фактор. От този, който ги е причинил, до този, който трябва да ги предотврати и последният, който след това да ги овъзмезди, на това се е основавала нашата цивилизация.
И именно от човешкия фактор във всяка от трите позиции идват проблемите. Трудностите, несъвършенствата, грешките, които превръщат търсенето на справедливостта в кауза пердута. Може ли технологиите да помогнат в този процес? Не само може, а и вече се случва. И голямата трудност идва от баланса – какво можем да си позволим да им „дадем“ като отговорност и кое никога не бива да попада в „ръцете“ им.
Правото, с пълно основание, е една от най-консервативните области в човешкото общество. Там още се обличат в тоги, говорят си на латински… и това не е самоцелна игра, не е само символ на консерватизма и традициите. А много повече – знак, че тази област трудно може да бъде променяна, защото се крепи на огромен опит, трупан с хилядолетия.
Е, надали мнозина българи ще се съгласят с тази постановка, у нас винаги го е имало и недоверието към тази система, и липсата на увереност, че има как нещата да се случват по-добре в целия цикъл на битката с престъпността. Дали точно затова не би трябвало именно ние да погледнем по-смело в подобна посока? Да, знам, че звучи утопично, но…
Снимка: Luther.M.E. Bottrill, Unsplash
Криво седи, право съди
„Който контролира съда, контролира и държавата“, дали го казва Гешев? Не, Аристотел.
Технологиите определено вече имат какво да предложат, дори още преди да се е случило едно престъпление. Защото се оказва, че повечето закононарушения могат да бъдат предсказани, а това дава още поводи за размисъл за характера на това явление.
През юли учени от Чикагския университет представиха проект, разработен съвместно с Пентагона, който може да предскаже… 90% от престъпленията, преди да са се случили!
Алгоритъмът е изпробван в Чикаго, Атланта, Лос Анджелис и Филаделфия. Всеки град бива разделен на зони от по 92 квадратни метра, след което невронната мрежа е захранена с подробни данни за престъпленията, случили се през последните десетилетия. Оказва се, че алгоритъмът прогнозира изключително успешно кога в някоя зона ще се случи престъпление. И тъй като става дума за площ с размерите на апартамент, е повече от лесно на базата на това то да бъде предотвратено.
И после какво? След като полицаите обкръжат отвсякъде периметъра, това дали няма да пренасочи зложелателите? Няма ли много бързо престъпниците да се съобразят със слабостите на ИИ и дори да се възползват от тях? Така идеята просто ще се превърне в поредната стъпка от вечната битка между стражаря и апаша…
Снимка: Amrut Roul , Unsplash
Имате право да мълчите
Още преди десетилетие Чикагската полиция пък разработи модел, който оценява колко вероятно е един човек да извърши престъпление или да стане жертва на такова. Преценката се оказа изключително точна и основната причина начинанието да бъде спряно, беше, че алгоритъмът дава доста расистки прогнози – оказа се значително по-склонен да преценява цветнокожите като потенциални престъпници и белите – като жертви.
Къде минава границата на утопията? Ако такива два алгоритъма могат да кажат кога ще има престъпление и кой е най-вероятният извършител… ще стигнем ли до сюжета полицията да арестува престъпника за нещо, което евентуално някога ще извърши?
Това наистина е фантастичен сценарий, но е важно, когато говорим за технологиите, винаги да гледаме няколко стъпки напред. И тъй като стана дума за пристрастията – именно тук идва големият въпрос. Дали въвеждането на алгоритми би могло да направи правораздаването по-обективно, или обратното: да въведе по-необратими пристрастия дори от тези, които са характерни за хората?
Думи, а не дела
Имайки предвид американската практика със съдебните заседатели, второто надали е възможно. Наистина, чрез сложни алгоритми, но, все пак, системата е такава, че дава решенията на най-важните дела в ръцете на хора, избрани уж на максимално случаен принцип. Но все пак: без юридическа подготовка, такива, че да бъдат максимално представителна извадка на обществото.
Идеята е чудесна, но дали наистина дава така търсената справедливост? Няма ли да бъде дори по-справедливо, ако просто имаме на мястото на съдебните заседатели изкуствен интелект, който обаче е достатъчно широко скроен, с още по-потиснати предразсъдъци, отколкото би могъл да е който и да било човек? Или пък, още по-добре, комбинация от различни по устройство и подготовка изкуствени интелекти?
Ако предварителното наказване на престъплението изглежда плашещ вариант, то справедливостта в съда винаги е била мечта, която може би има как да бъде постигната… А може би това вече е факт!
„В Естония е разработен срещу 8000 долара ИИ, който решава съдебните дела, когато предметът на спора е в рамките на по-ниска сума“. Можете да намерите тази новина от последните години от доста онлайн източници.
Снимка: Faruk Tokluoğlu
Да няма „именувам се“
И все пак, тя не е вярна, ще ви го кажат дори и фактчекърите, колкото и въпроси да оставя и това направление. Шумът тръгва от публикация в Wired, която се преповтаря нататък.
Да, обаче лековерието може да застигне дори и десетките медии, споделили новината. Наистина ли мислите, че алгоритъм, който ще присъжда обезщетения, днес може да бъде създаден за по-малко от месечната заплата на средно добър специалист в областта? И да бъде пуснат да дава присъди в държава от Европейския съюз, при това тази, която държи реномето на най-дигитализираната сред останалите?
Правното министерство на Естония тук опровергава новината. Но с уточнението, че изкуственият интелект наистина се използва във все повече области на правораздаването. Една от посоките е например „пенсионирането“ на съдебните секретари, след като системите за набиране на текст на естонски вече са по-прецизни от хората с точност 92%.
Навлизането на технологиите в правото е факт и в западните държави. Разбира се, не в ролята на съдия, но софтуерът с машинно самообучение отдавна е част от арсенала на адвокатските кантори, които могат да си го позволят. А те са все повече, защото алгоритъмът и тук умее значително по-бързо и качествено от хората да обработва огромни обеми от информация.
В името на робота
Може би са ви учудвали информациите и от нашата преса, че съдията по дадено дело се е запознал с няколкостотин тома представени документи. Голяма част от работата на правистите днес е свързана с обработката на огромни обеми от информация. Да, със сигурност това не е най-забавната част, затова и нерядко попада в ръцете на стажанти, млади сътрудници, хора, чийто труд е по-евтин. ИИ обаче може да надгражда, що се отнася до такъв тип работа, а да не говорим и за финансовите му условия.
Ето защо днес има софтуер, който прави предварителния правен анализ, анализира дела, сходни с това, по което е страна дадената адвокатска кантора. Събира и подготвя данните, така че да са удобни за юристите. Ето едно безспорно приложение, в което изкуственият интелект може и дори вече е полезен – бързо можете да откриете подобни стартъпи онлайн.
Както пише още през 2019-а тук футуроложката Мариана Тодорова, „има няколко компании, които предлагат подобен продукт – Kira Systems, Leverton, eBrevia, Thought River. Те развиват разнообразни услуги – по-прецизен дю дилиджънс преди подписване на договори; прочитане и обработване на документи на 20 езика, като е възможно над 50 да бъдат обработени за около минута; проверяват около 150 атрибута на договора в 12 000 кредитни споразумения само за няколко минути, което е еквивалент на 36 000 часа правна физическа работа; умеят да намират и скриват чувствителни данни при потенциални договори“.
Всичко това би могло да има и социален, и екологичен ефект – замислете се за огромните обеми хартия, свързани с всяко по-заплетено дело дори у нас.
Прогнозиране на това как ще се развият делата, анализ на документи, на нагласите на съдебните заседатели, обработка на големи обеми документи – това са все области, в които алгоритмите безспорно могат да бъдат полезни и да спестяват тонове труд.
Снимка: kat wilcox
Инструмент в ръцете на Господ
И все пак, наистина ли няма как да ги включим и при вземането на решения? Да премахнем пустата субективност, от която се оплакваме традиционно по нашите ширини?
В крайна сметка все още не сме видели осъдени за корупция на високите етажи у нас, само на прословутата Кьовеши ли ни остава да разчитаме? У нас дори липсват зрелищните съдебни дела – шоу програми като сериала с участието на Джони Деп и Амбър Хърст, нямаме какво да губим.
Колко по-зле може да стане? Дори исторически, ако си припомним, че Патриархът на българската литература, докато работи като съдия… осъжда куче. След като алгоритмите вече дори и пишат толкова добре…
Вероятно има надежда, но ако отправим поглед не на запад, а към Поднебесната история. Да, всичко изброено дотук може и да показва, че днес мястото на технологиите в битката с престъпността е по-скоро подпомагащо, докато не стигнем до Китай. Именно това е държавата, която развива най-непознатите, но пък явно работещи системи, свързани с изкуствен интелект.
Снимка: Gerd Altmann, Pixabay
За кокошка няма прошка
Това е и съвсем обяснимо. Става дума за страна, която дори повече от нас има нуждата от рязка промяна, що се отнася до правораздаването. Като дори си го признава официално. През последните десетилетия с огромния ръст на хората в средната класа, нарасна и нуждата от повече и повече съдии заради растящия брой дела и намаляващия – на хора, които се насочват към юридическото поприще. И у нас делата понякога се „влачат“ с десетилетия, но там това е значително по-честа практика, която се задълбочава.
През 2000-а делата във всички съдилища са били 5,35 срещу 28 милиона през 2018 г. или ръст от 423%!
Затова технологиите бързо навлизат на всички нива. През 2019 г. 97,8% от китайските съдилища поддържат онлайн попълване на документи. Почти като у нас, нали?
А после идват технологиите в областта на изкуствения интелект, които, противно на типичните ни стереотипи, днес изживяват огромен бум далеч не само в Западния свят.
Тук е задължителна уговорката, че, както винаги, стане ли дума за Поднебесната, има дефицит на информация, особено такава, която може да бъде проверена. Както е с теми като прословутия социален рейтинг, така и що се отнася до навлизането на изкуствения интелект в правораздавателната система, винаги може да се подведеш.
Снимка: Florian Glawogger, Unsplash
Бай Робот при Бай Ставри
И все пак, по всичко личи, че в някои част от страната вече наистина работят алгоритми, които вземат решения. Разбира се, те са наблюдавани за момента от хора съдии. И ако те се съгласят с изводите на алгоритъма, делото е решено, а ако са против – налага им се да пишат дълги и подробни обяснения, които след това да бъдат въведени в ИИ системите, така че да ги подобрят. По всичко личи, че крайната дума все още я има човекът.
Системата съвсем не е от вчера, разработва се от 2016-а, когато главният съдия Цян Джоу призова технологията да се използва за подобряване на „справедливостта, ефективността и надеждността“.
В Шанхай алгоритъмът влиза в ролята на прокурор, автоматично подготвя обвиненията за престъпления.
Бонбони и Клайд
Според тази информация, идваща директно от Китай, приложенията са впечатляващи. Изкуственият интелект вече има отношение към всяко едно дело, разглеждани в страната! Това се случва с помощта на обща система от подсистеми, наречена „Умен съд“, до която има достъп всеки съдия в страната, думите са на Ксю Янфенг, началник на информационния център на Върховния съд.
Системите автоматично мониторират за референции, регулации, за шаблони на различни документи. А някои от тях имат за цел да търсят грешни съдебни решения и други неточности. В началото платформата е работела просто като голяма база данни за всички в процеса, а днес има все по-голямо значение в процеса на вземане на решения. Следи на всяка от стъпките за лоши практики и корупция…, знаете, в Китай това никак не е шега работа.
Смята се, че тази система вече пести 1/3 от работното време на юристите и за двете години от въвеждането си е „изработила“ 1,7 милиарда часа. „Рано е да приемаме умните съдебни системи като панацея“, казва все пак съдията Сун Юбау. „ИИ наистина не може да прави всичко“. Дано не го чуе и самата умна система, че ще му измисли нещо…
Снимка: Maxim Hopman, Unsplash
Чиста дузпа
Уви, проблемът е, че не само няма как да знаем доколко наистина са внедрени в практиката подобни системи в Китай, още по-малко е известно за това как точно работят. Например как решават предразсъдъците, склонността алгоритмите да са по-„строги“ към определена нация, етнос или дори пол само защото са били обучени на данни, които са от по-стар период. Или пък обратното – в опит този проблем да се реши, се стига до крайността даденият етнос да бъде оневиняван почти по подразбиране…
Откъде и как черпи информация алгоритъмът? Дали се базира само на предходни дела – та ако е така, значи и грешките, допуснати преди, ще бъдат мултиплицирани… Дали събира и някаква форма на външна информация за заподозрените или за страните по делото? Ако е така, доста ще му е трудно да „прочете“ и различи това, което се отнася за всеки „Иван Иванов“, или, не дай си боже, Ли.
Опитва ли се алгоритъмът напълно да се абстрахира от всичко, което се асоциира с емоции при дадено решение? Може ли всичко да бъде превърнато в статистика?
Как можем да сме сигурни в система, която не знаем как точно работи, докато дълбоките невронни мрежи за момента са черна кутия за учените?
Пледира невменяемост
От друга страна, същото можем да кажем и за човешкия мозък, и в неговата работа има немалко неясноти. Като например как можем да се развиваме технологично, а все още да има войни, убийства, кражби.
Както обикновено, оптималният вариант поне за момента е да съберем най-доброто от двата елемента. Да, системите, които могат да работят като съдии, биха могли да са допълнителна гледна точка при вземането на решения. Да покажат например нуждата от още една инстанция тогава, когато изводите им се сблъскат с тези на човешкия съдия.
Или пък да ги разделим: ИИ би могъл да бъде добър в търсенето на отклонения и грешки в решенията на човека конкурент, които могат да се окажат важни.
Дали един ден ще имаме и на запад такива работещи системи, зависи от много фактори, сред които е и цената. В толкова области ИИ прави огромна революция през последните години, но това винаги минава през сериозни инвестиции. Тук, по всичко личи, единствените заинтересовани са държавите, които, меко казано, не са сред големите любители на инвестирането в стартъпи.
Извън изкуствения интелект има немалко други области, които могат да се включат в търсенето на справедливост. Виталик Бутерин например вярва, че решението могат да са системи, които да решават делата на базата на своеобразно гласуване. Тук планират да се включат още блокчейн технологиите, а любопитни идеи идват и от теорията на игрите.
Снимка: cottonbro
Робот в КПКОНПИ
Смята се, че за момента в Китай алгоритмите вземат решения само в части от страната, в гражданските спорове, при това за по-ниски суми. И това изглежда резонно – решенията там нямат чак такава обществена тежест.
Не знам за вас, но би ми било любопитно да видя китайските ИИ в ролята на Жоро Игнатов от „Съдебен спор“. Ако се справят и в ситуацията на гротескните междуличностни кавги, значи със сигурност няма какво да ги уплаши. Нито пък да плаши нас за бъдещето.
Между другото, това не е само шега – в Канада има проекти за ИИ като медиатор, който да събира разделени двойки и да решава други „безопасни“ спорове. Добре че делото на Джони и Амбър не беше там, можеше обществото да бъде лишено от това пищно зрелище.
Снимка: Donald Tong
Параграф 0/1
Дали някога ще имаме свят, свободен от престъпления? Ако в някакъв момент го повярвате, може би е време да (пре)прочете добрия стар Достоевски. Или, ако нямате време, ще ви свърши работа не по-малко добрият и стар Елин Пелин. „Андрешко“, колкото и да го иронизираме, със сигурност е образ, по малко от който всеки от нас носи скрит някъде надълбоко, зад портфейла.
За добро или лошо, човекът е устроен така, че надали ще изгуби вечната си нужда да нарушава реда. И все пак, технологиите могат да спасяват много животи тогава, когато се прилагат разумно. Битката с престъпността със сигурност е място, където те има какво да дадат, благодарение на силните си страни. Не би трябвало да си затваряме очите и това да плаши. Какво би могло да бъде по-важно от живота и съдбата, която се крие зад всяко предотвратено или овъзмездено престъпление?
