„ИИ революция!“ Когато шумът дойде в повече…

авг. 17, 2021 | Технологии

„ИИ революция!“ Когато шумът дойде в повече…

17 август 2021 | Технологии

Изкуственият интелект може да удължи живота ни драстично, а и да го направи по-хубав по толкова много начини. За това сме ви разказвали немалко Дигитални истории и още много ви очакват. Вярвам, че един ден той може да замени (или поне да допълни или подпомогне) журналистите, програмистите, дори политиците. Помага ни да прогнозираме пандемията. Напоследък обаче това словосъчетание се използва толкова безогледно и маркетингово, че наистина си струва винаги, когато го чуем, да имаме едно наум.

Колкото по-нашумяла е една област от познанието, толкова по-привлекателна става и за измами, питайте Остап Бендер. От кръвопускането и пиявиците до нанотехнологиите, много е яко да сложиш пелерината на ултрамодерната технология и да избиеш рибата. Понякога прекалено буквално.

Да, безобидно, макар и малко наивно е да слагаме етикета на всичко, търсейки евтина слава. Да, няма нужда черпакът за шкембе чорба да е с изкуствен интелект. И това е немалка част от проблема – заради безогледното ползване на този термин, това руши реномето и на сериозните проекти.

По-лошо обаче става, когато става дума за особено чувствителни области, като например медицината. ИИ днес е навлязъл в много нейни области… Но какво се случва, когато технологията, на която сме се предоверили, започне да не изпълнява задачите си? И пропусне най-важната част от хипократова клетва: Primum non nocere. „Преди всичко, не вреди…“

Проф. Гари по безпътните гари

Проф. Гари Н. Смит е от малкото учени, които се опитват да привличат вниманието именно към подобни теми. Той се занимава с изкуствен интелект, с икономика, автор е на 3 книги, излезли под марката на издателството на „Оксфорд“. Основният лайтмотив в работата му е да ни предупреждава: ИИ идва, за да промени живота ни. Но ако се предоверяваме на всичко, което се скрие зад атрактивното му название, ще страдаме. За „9 клопки в науката за данните“ той дори печели наградата на Американската асоциация на издателите за популярна наука.

Тук например той дава един особено показателен пример.

„Епик системс“ е най-голямата компания в Америка, която се занимава с обработване на данните за здравословното състояние на хората. Това е, най-меко казано, внушително постижение – знаете колко сериозни са регулациите за съхранението и анализа на лични данни, а какво остава за най-уязвимата информация, тази, свързана със здравето!

И на този фон, „Епик“ официално и направо епично имат достъпа до данните на 180 милиона души, цели 56% от американците!

„С пациента в сърцето“, гласи силно емоционално подбраният слоган на компанията. В портфолиото ѝ има 20 изпипани алгоритъма, базирани на изкуствения интелект, чиято цел е да предскажат, потвърдят дадена диагноза, или да предположат за колко дни ще бъде хоспитализиран определен пациент.

 

части от роботи

Снимка: Alessio Ferretti, Unsplash

 

Гаргари и алгоритми

Както отбелязва проф. Гари Смит, прекалено често се случва да чуем, че нещо е дело на съвременната магия „изкуствен интелект“. И, понеже е „търговска тайна“, „патент за милиони“ или каквато и да е друга безценност, не е ясно какво точно се случва в черната кутия на алгоритъма. Нито е възможно да се правят някакви елементарни проверки с конкретни външни данни.

Едно от основните призвания на епичния „Епик“ е да предсказва случаите на сепсис, внезапна инфекция, водещата причина за смъртност в болниците. Както пише проф. Смит, „сепсисът се получава, когато човешкото тяло реагира прекалено бурно на инфекцията и изпраща в кръвообращението вещества, които могат да разрушават тъканите или да пречат да органите да функционират нормално. Ранното диагностициране буквално може да спасява животи, но… сепсисът е много трудно да бъде диагностициран рано“.

И така, „Епик“ има особено перспективен алгоритъм, базиран на изкуствения интелект, който казва, че може да предскаже с точност между 73 и 84% опасността от сепсис!

Страхотно, нали? Толкова много спасени животи!

Само че съвсем неотдавна, в първия ден на август, в реномираното издание „JAMA, вътрешна медицина“ бяха публикувани прелюбопитни данни на екип от изследователи, проучили болничните данни на 38 455 пациенти, преминали през Университетската болница на Мичиган. 6,6% от тях, или 2552-ма, наистина развили сепсис. Как обаче се е справила системата, която е трябвало да предскаже дали ще се стигне до проблем?

Следващата елементарна табличка казва всичко. Отгоре с „Епик+“ и „Епик-“ са отбелязани прогнозите на алгоритъма дали при даден пациент ще се развие сепсис, а отдолу е реалният резултат.

Епик+ Епик- Общо
Развили 843 1709 2552
Не развили 6128 29 775 35 903
Общо 6971 31 484 38 455

 

Грешка не човешка

Проба, грешка. Цифрите май и сами показват колко далеч се е оказал алгоритъмът от истината.

Но все пак проф. Гари Смит откроява две основни зависимости:
– От 2552 пациенти със сепсис системата е генерирала предупреждение само за 843, което е едва 1/3.
– От 6971 предупреждения прогнозата се е потвърдила само при… 843 души. Дванайсет процента!

Погледнато наобратно: системата се е провалила при откриването на 67% от случаите, а от дадените предупреждения 88% са се оказали неточни.

Тоест, дори ако просто седите и хвърляте монета, процентът на познатите случаи може би ще се окаже доста по-точен.

А сега си представете, че наистина от този алгоритъм, за който са похарчени огромни суми, не просто се очаква да предупреждава, а по някакъв начин от него директно зависи здравето на пациентите… Направо плашещо, нали?

 

изкуствен интелект

Снимка:Maxim Hopman, Unsplash

 

Епично

Проф. Смит отбелязва също, че много от другите системи, развивани от „Епик системс“, всъщност са много, много по-неубедителни в прогнозите си, отколкото е заложено в обещанията. И изследователят предупреждава, че определено не е добра идея да се дава достъп до огромна здравна информация с мултимилиардни проекти на уж базирани на изкуствения интелект решения. Които обаче в действителност се оказват много, много по-нескопосани от лустросаната си обвивка.

Редно е подобни системи да бъдат тествани и оценявани по-внимателно от учените, преди да се въведат в практиката. При това от независими екипи. А не просто да имаме една черна кутия, която приема някакви данни и „изплюва“ резултат.

Проблемът, разбира се, съвсем не се изчерпва с една фирма.

 

Д-р Уотсън в бюрото по труда

Все още в сферата на медицината, струва си да споменем и проекта „Д-р Уотсън“. Да, това е начинание на IBM, базиращо се на същия този суперкомпютър „Уотсън“, който не спря да побеждава хората в разни състезания. Тук обаче изгуби.

Една от идеите на създателите му беше да го вкарат в медицината. Отне 5 години и 60 милиона долара за разработка, преди „д-р Уотсън“ да бъде „уволнен“ от центъра за лечение на онкологични заболявания „Андерсън“ в Хюстън, заради „многобройни примери за небезопасни и неправилни препоръки за лечение“.

И последен медицински пример. В реномираното списание „Нейчър“ през март тази година бе публикуван сравнителен анализ на 2212 различни публикации, използващи модели за машинно самообучение в опит да предсказват или да диагностицират развитието на ситуацията с коронавируса.

Резултатът: „Нито един от моделите не показва потенциал за евентуално прилагане в клинични условия“.

 

робот

Снимка: Lukas, Unsplash

 

Груботи

Немалко ИИ проекти пък се провалят доста зрелищно, дори комично. Пословичен е примерът с чатбота Тай, многообещаващ проект на „Майкрософт“ от 2016-а за технология, която управлява туитър акаунт с идеята да води разговори досущ като типичен американски младеж.

Е, не знаем какво е типичното за повечето младежи, но Кай доста бързо показва силно плашещи страни от характера си. Няколко часа след пускането на проекта вече заявява, че ненавижда евреите, а Хитлер е бил прав. Чатботът е спрян по-малко от денонощие след старта на проекта. Става ясно, че зложелателни потребители на мрежата са използвали слабости в начина, по който алгоритъмът се учи, за да го накарат да приказва като расист и човекомразец.

Ще кажете – тази история е вече доста стара. Да, но пък е показателна и ни кара да се замисляме. Ами ако по същия начин може да се манипулира например ИИ, който отговаря за управлението на автономните коли?

 

Депутати и престъпници

Всички сме слушали за съвършените системи за лицево разпознаване в Китай (макар че по въпроса наистина има повече от една гледна точка). Е, през 2018-а полицията арестува погрешка съпругата на един от най-богатите хора в страната, защото ИИ грешно я припознал за шофьорка, виновна за много сериозна катастрофа. Нещо повече, лицето ѝ се появява на гигантските екрани, на които публично се показват най-сериозните нарушители на правилата като форма на публично порицание.

Подобен проблем имат и от „Амазон“. Журналистически експеримент показва, че системата им за лицево разпознаване бърка 28 от членовете на американския конгрес с криминални престъпници. Нещо повече – алгоритъмът асоциира 40% от хората на снимките с афроамериканци, макар в действителност такива да са под 20% от конгресмените.

Завършваме списъка с малко прогностика. Преди последното световно първенство по футбол какви ли не ентусиасти се опитват да прогнозират победителя с помощта на всякакви модели и алгоритми. Накрая резултатите им са обобщени. Бразилия, сочена като победител в най-много от моделите, стигна до четвъртфиналите. А другите два най-вероятно победители – Испания и Германия, отпаднаха дори по-рано.

За да не прекаляваме с песимизма, ето и един пример, когато ИИ си върши работата чудесно, но… това води до сериозни проблеми. Главният финансист на базирана в Англия енергийна компания превежда 220 000 евро на унгарски доставчик. Просто си изпълнява задълженията, защото му се е обадил и му е казал за го направи самият германец, главен шеф на фирмата. После обаче се оказва, че това е бил звуков вариант на технологията дийп фейк, при който изкуственият интелект точно е наподобил гласа на шефа. „Звучеше с абсолютно същия немски акцент и същата мелодика в гласа“, разказва жертвата пред „Уолстрийт Джърнъл“.

 

робот

Снимка: Arseny Togulev, Unsplash

 

Алгоритме, алгоритме…

Както предупреждава в друга своя статия проф. Смит, с когото започнахме, изкуственият интелект се е превърнал в мантра, в маркетингово клише, в хайп, както биха казали по-младите.

Той ни разказва и историята на Джъстин Уонг, който завършва с добри оценки бакалавър и магистратура по информационни технологии и през 2017-а създава базираната в Сингапур компания на име „Скрай“. Целта ѝ е да се превърне в „платформа за социални предсказания“. Потребителите се регистрират безплатно и могат да въвеждат своите собствени прогнози за вероятността за дадено събитие. Кой ще е следващият президент на САЩ? Ще успее ли Мъск да „откара“ хора на Марс в близкото десетилетие. Използва се принцип, познат като „мъдростта на тълпата“, за който вече сме разказвали в комплект с блокчейн технологията.

Скоро той прави и следващата стъпка – „Скай Вентидж“, система, която прави същите тези прогнози. Само че с помощта на алгоритъм, който, разбира се, също е заключен в черна кутия. И всяка прогноза, направена с него, вече струва по 400 долара.

„Наричаме го ИИ, само това ви трябва да знаете“, е принципът, на който работят доста такива проекти. Но дали зад тях наистина се крие сериозен, научно обоснован и проверен алгоритъм? Или просто си играем на онче-бонче и търсим отговора в гугъл?

 

Алго-ритни ме!

Всъщност, проф. Смит слага в списъка с подобни проекти и GPT-3, което със сигурност е доста по-спорно. Тази технология наистина изглежда доста обещаваща, в крайна сметка всички можем да я проверим днес по доста различни начини.

Още една причина да сме по-мнителни, чуем ли „мантрата“ ИИ, ни дава това проучване от 2019-а. Според данните на една от водещите компании в тази сфера – „Пактера технолоджис“, цели 85% от проектите за разработване на изкуствен интелект в различни области се провалят. Те така и не успяват да доставят това, за което са създадени. Процентът наистина е много сериозен, като изследователите дават доста възможни обяснения. От една страна – трудното адаптиране към толкова сериозни промени, от друга – прекалено амбициозните задачи, които се поставят, при положение, че очевидно тази технология има още много да се развива, преди да предложи дори част от впечатляващите неща, които очакваме от нея.

Изкуственият интелект определено е тема, по която си струва да сме предпазливи. Много тънка е границата между сериозните проекти, които определено могат да подобряват живота на всички ни, и пълните фалшификати, които пък създават предубеждения към цялото направление.

Когато представям различни Дигитални истории, свързани с изкуствения интелект, може би понякога се улисвам в предвиждането на едно прекалено оптимистично бъдеще. Темата го предполага. А и понякога този тип технологии изненадват изумително с напредъка си. Достатъчно е да спомена лицевото разпознаване, машинния превод, автономните коли.

 

Изкуствен интелект

Снимка: Dominik Scythe, Unsplash

 

И, И… какво?

Затова по такива теми се старая да представям балансирани истории, в които не прекалявам с оптимизма или скептицизма.

„Никога не инвестирайте в бизнес, който не разбирате“, казва Уорън Бъфет. И е факт, че опасността да ни изиграят понякога е много по-голяма, стане ли дума за модерните технологии. Достатъчно е да споменем митичната измама с блокчейн за милиарди OneCoin, тръгнала от България.

При изкуствения интелект за съжаление това също важи с пълна сила. На едро или пък съвсем на дребно, лепвайки толкова модерния етикет на всяка дреболия. Много е важно какво точно се крие зад определението „ИИ“ във всеки конкретен случай. Разбира се, важно е да вярваме в сериозното развитие на технологиите и да сме подготвени за бъдещето, което идва. Но все пак, добре е и винаги да имаме едно наум…

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист и писател. Още за мен – тук. .
Дигитални истории

Най-нови публикации:

„Забравихме, че бебето знае как да се роди“

„Забравихме, че бебето знае как да се роди“

Как технологиите промениха бременността и раждането? С какво облекчиха и как – парадоксално, в други посоки създадоха проблеми за начина, по който идваме на бял свят? Жени Маркова се свърза с мен...

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното...

повече информация
„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато...

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какви ли не хобита имат хората – някои колекционират марки, други – евро, трети дори имат търпението да гледат български футбол. Е, аз освен че имам навика да проверявам нищожните си познания в...

повече информация
„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до...

повече информация

Още публикации по темата:

От рубриката:

Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното родителство?
Тези и още много важни въпроси отправих в началото на февруари към родителите и близките на деца до 11 години. Анкетата на Дигитални истории събра повече от 350 мнения. Изводите са показателни, замислящи. Посланията, събрани там, си струва да бъдат четени и обсъждани.
Благодаря от сърце на всеки, който я попълни, на всеки, който помогна повече хора да се включат! Ето какви се оказаха резултатите.

повече информация
Таралежите се раждат без ИИ

Таралежите се раждат без ИИ

В какъв свят ще живеят днешните деца?
Какво има смисъл да учат днес и кое би било загуба на време, усилия и пари?
Кога и как да ги срещнем с технологиите така, че да им помогнем да се опознаят, без някой да пострада?
А кога да ги „запознаем“ с изкуствения интелект?
Ще потърся отговорите на тези и други важни въпроси, свързани с децата и технологиите. Започва дълга поредица от детски Дигитални истории.
Ето защо според мен е жизненоважно да навлезем по-дълбоко в тези огромни теми:

повече информация
Как срещаме децата с технологиите? (Анкета)

Как срещаме децата с технологиите? (Анкета)

В какъв свят ще живеят децата ни? А как да ги срещнем с технологиите по най-добрия начин?
Имам две хлапета и този сайт го има, защото тези въпроси не ми дават мира. Докато има още толкова важни въпроси, на които е време да намерим отговор.
Нека ги обсъдим, а после да потърсим отговорите. Нека заедно нарисуваме картината на днешното дигитално родителство и погледа му към бъдещето.
Анкетата е насочена към родителите на деца от 0 до 11 години (а и към баби, дядовци, хора, които имат отношение към децата). Темите на тийнейжърите също са изключително важни, и за тях ще дойде моментът.
Анкетата е анонимна, можете да отговорите на въпросите, които си изберете. Можете да се включите и в жребий за награди – подбрани книги и фланелки с логото на Дигитални истории. Отговорите се събират до 28 февруари, а в началото на март очаквайте резултатите.
С тази анкета започва поредицата от важни Дигитални истории за децата и технологиите. Ще поговорим за майчинството и бащинството днес, за промените в образованието, за професиите на бъдещето. Поканил съм забележителни гости, от които всеки родител (включително и аз) има много какво да научи.
Благодаря от сърце за всяко попълване, за всяко споделяне!

повече информация

Най-новите:

„Забравихме, че бебето знае как да се роди“

„Забравихме, че бебето знае как да се роди“

Как технологиите промениха бременността и раждането? С какво облекчиха и как – парадоксално, в други посоки създадоха проблеми за начина, по който идваме на бял свят?
Евгения Маркова се свърза с мен заради поредицата „Дигитални деца“ с предложението да поговорим за този аспект от връзката на технологиите с родителството. Тя живее в Германия и макар че дълги години е работила в сферата на маркетинга и разработката на софтуер, днес основното ѝ занимание е на дула. Особено популярно на запад, това е попрището на жени, които не са медицински специалисти, но помагат с информация, съвети, практическа и емоционална подкрепа на бъдещите майки.
Кога предоверяването на технологиите може да се превърне в проблем при бременността и раждането? Защо си струва в някои посоки да се върнем към традициите и повече да слушаме тялото си, а не само медицинските показатели или чужди съвети? Време е за един важен разговор, който според мен би могъл да даде много полезни идеи за хората, които тепърва се готвят да станат родители.

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното родителство?
Тези и още много важни въпроси отправих в началото на февруари към родителите и близките на деца до 11 години. Анкетата на Дигитални истории събра повече от 350 мнения. Изводите са показателни, замислящи. Посланията, събрани там, си струва да бъдат четени и обсъждани.
Благодаря от сърце на всеки, който я попълни, на всеки, който помогна повече хора да се включат! Ето какви се оказаха резултатите.

повече информация
„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Елица Стоилова казва, че дигиталната грамотност би трябвало да се превърне в национална цел, ако искаме да вървим напред. „Липсата ѝ води до страх от технологиите = консерватизъм в тяхното въвеждане и използване = изоставане на нацията ни в множество посоки. Какво е бъдещето на неграмотните народи?“, написа ми тя.
Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато накрая акостира в ИТ света. Разбира, че голяма част от задачите в туризма успешно могат да се изпълняват от алгоритми, тъй като са повторяеми. Така създава чатбот платформата UMNI, много преди друг един чатбот да привлече погледите на света към това колко е напреднал изкуственият интелект.
Но как така… тя е толкова оптимистично настроена за пътя напред? Гостенката ни смята, че ако правилно изиграем картите си, ИИ ни води към едно прекрасно бъдеще. От какво зависи дали ще изиграем картите си както трябва? И защо понякога си струва дори да изоставиш едно от най-райските кътчета на планетата, преследвайки мечтите? Търсим важни и неочаквани отговори в следващите редове.

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какъв е коефициентът на интелигентност на напредналия изкуствения интелект?
Достига ли, надминава ли средните 100 точки на днешното човечество? И защо това е важно?
Хайде да научим заедно!

повече информация
„Последният печели“. ChatGPT отвръща на удара!

„Последният печели“. ChatGPT отвръща на удара!

Из въздуха витае интелигентност, в залата са малко над 100 души, повечето от тях са сред най-интелигентните в нашата страна. Не е предположение, мога да го докажа. Те са сред победителите в „Последният печели“ – телевизионното състезание, което през последните години припомня защо знанието е важно за всички ни, дори като вид, във времената на напредналия изкуствен интелект.
С моите съмишленици в залата имаме важна задача. Да се изправим заедно срещу ИИ в едно състезание, което може да ни каже и покаже много.
Ще победи ли с днешните си невероятни умения изкуственият интелект едни от най-знаещите представители на естествения? Време е да проверим. И да научим нещо ново…
ChatGPT срещу някои от най-интелигентните българи в състезание по познание. Кой ще победи? Изгубихме ли окончателно и тази битка срещу машините? Ръкавицата е хвърлена!

повече информация
„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до какво води прекомерната употреба на дигитални устройства за развитието на емоционално-интелектуалния апарат на децата.“
Но какви точно са тези щети и защо са толкова важни? Как прекомерното излагане на технологии променя необратимо децата? И какво да правим, след като го знаем?
Слави Стоев е психолог, води обучения за лидерство и мениджърски умения, водещ е на подкаста „Естествен ѝнтелект“. В същото време е и баща, и автор на детски книжки, посветени на ранното развитие и емоционалната интелигентност.
Точният гост, с когото да потърсим има ли среден път в отношението на родителите към технологиите и как можем да го намерим. Ще поговорим за базовите умения, които днес не успяваме да развием, и упадъка, към който се е насочила цивилизацията ни. Ако бързо не вземем целенасочени мерки, свързани именно с пресечната точка между технологиите и децата.

повече информация
Share This