Технологиите вече четат мисли. Идва ли краят на свободата?

апр. 21, 2023 | Технологии

Технологиите вече четат мисли. Идва ли краят на свободата?

21 април 2023 | Технологии

Знам какво си мислите!

Разбира се, нищо подобно, идея нямам какво ви се върти в главата. Оказва се обаче, че това реторично твърдение неусетно се превръща в самата истина.

Технологиите вече позволяват мозъчните сигнали да се „превеждат“ в четими данни, първите пробиви са налице. Улисани в напредъка на изкуствения интелект и прословутия GPT, може да пропуснем една огромна стъпка, що се отнася до естествения. На нея обръща внимание проф. Нита Фарахани, учен и юрист с огромен опит.

„Днес вече има компании, които са способни да декодират мозъчните вълни“, каза тя на световния форум в Давос в началото на годината.

Готови ли сме за момента, когато някой ще чете мислите ни? Ще доведе ли това до тотален контрол, или ще направи живота ни по-удобен?

 

Четене на мозъци

„ИИ вече е способен да разчита мислите ни“, както си го „представя“ алгоритъмът MidJourney

 

Изтичане на мозъци

Звучи доста примамливо. Само си помисляш какво ти се хапва за вечеря, умното устройство „чува“ и се погрижва ястието да те чака у дома. Докато караш, то следи тонуса ти и в момента, когато задремеш, спира колата. „Прочита“ настроението ти и веднага приготвя според него фийда на любимата социална мрежа. Накрая подбира и най-точния сериал, удобството е осигурено.

Дадена новина те натоварва? О, нищо подобно няма да видиш повече. Някой се готви да те ограби? Няма как да стане, неговото устройство веднага е предало където трябва.

Дотук добре. Но какво ще се случи, ако работодателят или пък партньорът ти в живота получи достъп до всичките ти мисли?

На пръв поглед това са сюжети и въпроси от научната фантастика, които обаче тихичко излизат от нея, нахлуват в действителността и много скоро ще трябва да им търсим отговори.

 

Нита Фарахани

Нита Фарахани

 

Хакери на човешките души

„Със сигурност ще се изненадате да научите, че бъдещето вече пристигна“, каза в своята реч в Давос Нита Фарахани. „Благодарение на изкуствения интелект вече е възможно да декодираме мозъчната активност по начини, които никога не сме подозирали, че са възможни. Всичко, което мислите, всичко, което чувствате, се превръща просто в данни, огромни масиви от данни, които могат да бъдат декодирани от изкуствения интелект“.

Думите ѝ отекнаха на форума на най-богатите, където се събират световните лидери, за да обсъдят бъдещето. Тя не насочва погледите към темата за първи път, изследователката отдавна опитва да привлече вниманието към този рядко обсъждан въпрос. Както го нарича самата Фарахани, „битката за мозъка“.

Тя не е случаен човек, знае какво говори и доказателство не е само фактът, че е поканена да говори именно в Давос. Нита Фарахани работи в университета Дюк, професор е по право и по философия. Бакалавърската ѝ степен е по биология, има магистратура по биотехнологии. А основната ѝ тема на работа са етичните страни на технологиите, особено ще се отнася до тези, свързани с бъдещето ни като вид. От 2010 до 2017-а е част от съвета по биоетика, създаден от тогавашния американски президент Обама.

 

Четене на мозъци

Снимка: Nadezhda Moryak

 

Мисля, следователно съществувам

Наистина ли мозъкът ни, толкова сложен орган, извел ни на гребена на еволюцията, се оказва толкова лесен за „прочитане“? Никак даже. Не можем все още да обясним нито начина, по който работи, нито да го уподобим, колкото и да наричаме новите технологии, които разработваме, „изкуствен интелект“. Оказва се обаче, че не е чак толкова трудно да улавяме и да декодираме част от сигналите, свързани с начина, по който той обработва информацията.

Първият вариант е ясен. Макар напоследък да не попада толкова често в светлината на прожекторите, мозъчно-компютърният интерфейс е направлението, чрез което ще се свържем с компютрите най-буквално – чрез чип, имплантиран в мозъка.

Най-популярната разработка е проектът „Неуралинк“, чрез който Илон Мъск е убеден, че ще постигне дългоочаквания пробив… Само че той, както изглежда, напоследък е твърде зает с модерирането на Twitter и с работата си по това да спре разработките на ИИ и няма време да се съсредоточи върху чипирането. Или пък просто начинанието се оказа прекалено сложно?

 

Мисълта се рее

За момента сериозните пробиви се задават в другото направление – устройствата, които са способни да уловят и декодират мозъчните вълни, като просто се доближат до главата ни. Напредъкът в тази област е впечатляващ. Това, според проф. Фарахани, ще позволи много скоро да имаме удобни джаджи в ежедневието си, които могат да уловят настроението ни, да преценяват дали сме концентрирани и какво си представяме. Създавайки много нови предизвикателства…

Балоните на филтрите, фалшивото удобство от това алгоритъмът да решава кое е важно за нас… А после идват в цялата си дълбочина съзнаваното и неосъзнаваното в картини, които е трудно да си представим уловени и биха изправили брадата дори на Фройд.

Звучи ви утопично? Ето една новина отпреди месец. Японски учени разработиха технология, чрез която могат да реконструират изображение, видяно от човека, по мозъчните му вълни. Използват данните от функционален ядрено-магнитен резонанс, а пробивът идва, след като прибавят възможностите на последните поколения технологии с изкуствен интелект.

Stable Diffusion е платформа за генериране на изображения по описание, много подобна на по-популярните DALL·E и Midjourney. Тази невронна мрежа е с отворен код и това я прави чест избор за научни разработки. Японците са дообучили алгоритъма с данните от изображения, показвани на четирима доброволци и съответните реакции на мозъка им – кои са активните области. Всеки от тях видял по 10 000 възможно най-различни изображения.

 

Четене на мозъци

„ИИ чeтe човешкия мозък“ споредMidJourney

 

Въпрос на виждания

В тази дейност активни са две части от мозъка – темпоралният лоб е отговорен за съдържанието на образите, а тилната област, където е зрителната кора, пресъздава размера и общото разположение на обектите.

И ето че алгоритъмът се справя прекрасно със задачата. След това, на базата на данните, той се оказва способен много добре да „рисува“ формите и дори цветовете на картините, видени от доброволците. Да прочете какво те виждат!

Да, съвършенството все още не е тук, но резултатът е забележителен, можете да се убедите сами. Особено след като става дума за пилотни изследвания, при това с малък брой доброволци. Смята се, че точността на възпроизвеждане е 80%, което кара учените да напишат в публикацията си, че „това ни позволява ефективно да четем мислите на хората. Нашият метод, базиран на човешката мозъчна активност, може да реконструира изображения с достатъчна резолюция и висока семантична точност“.

„Точността на новия метод е впечатляваща“, казва Айрис Грьоен, професор по невронауки от Университета на Амстердам.

Всичко това е прекрасно! Този тип технологии обещават толкова много… Ще позволят да общуваме с хора, които са напълно парализирани и няма как иначе да изразяват мислите си. Ще можем да научим повече за работата на мозъка, да „записваме“ сънищата си, дори да видим какво сънува домашният ни любимец…

 

Четене на мозъци

Отгоре са изображенията, показани на доброволците, а отдолу – възпроизведените от алгоритъма.

 

С мисъл за смисъла

„Ние, хората, трябва да свикнем с идеята, че вече не сме мистериозни души. Вече сме просто животни, които могат да бъдат хакнати“, каза в реч отново пред световния икономически форум в Давос, но през 2020-а Ювал Ноа Харари. С типичната си образност той рисуваше картината на тоталитарна държава, например Северна Корея, която е намерила начина да контролира хората дотолкова, че да им чете мислите. Харари изведе и формула: B x C x D = AHH – знанието ни за биологията, умножено по възможностите на компютрите и по данните, с които разполагаме, се превръща във възможността хората да бъдат „хакнати“.

Е, 3 години по-късно, според Нита Фарахани, това вече е факт. Случва се с помощта на различни технологии. Освен споменатия ЯМР, тук се включва и доста по-масово достъпнато технология на принципа на ЕЕГ – електроенцефалографията, при която мозъчните вълни се следят с помощта на електроди.

Пробивът идва с напредъка и на изкуственият интелект. Подходът, използван от японските учени, може да се окаже успешен в толкова други направления. Така дори не е нужно да опознаваме чак толкова физиологията и начина на работа на мозъка. Достатъчно е да пуснем модерните алгоритми в коронната им роля – да анализират закономерности от голям обем данни.

 

Четене на мозъци

Вляво е изображението, показано на доброволците, в средата – това, генерирано от алгоритъма само по мозъчни вълни, а вдясно – допълнено и с текстови описания от доброволците.

 

Ден на отворените врати

„В бъдещето, и имам предвид съвсем близкото бъдеще, тези устройства ще станат обичайна форма на взаимодействие с всички други. Това е вълнуващо и обещаващо бъдеще. Но също така и страшно бъдеще“, каза в речта си проф. Фарахани.

„Наблюдението на човешкия мозък може да бъде мощно, улесняващо, полезно, да трансформира работните места и да направи живота ни по-добър. Но освен това има антиутопична възможност да бъде използвано за експлоатация. Да извадим на повърхността нашето най-скрито и нелицеприятно „аз“.“

Къде тук идва границата? Никой не знае, но на базата на наличните пробиви, доста смело можем да отпуснем въображението си. Може ли да се анализират закономерностите между мозъчните вълни и склонността например човек да извърши престъпление? Логиката сочи, че няма пречка. Но какво идва после? Дали ще се озовем в едно бъдеще без престъпления, или в дигитален концлагер?

Започваме с изображенията, какво ще „четем“ после? Емоционалното състояние, нивата на концентрация. Това кое ни радва и кое ни натъжава, кое ни е смешно. За кого ще гласуваме и какво си мислим за човека насреща. Или пък паролата за имейла ни или за банковата карта…

 

Четене на мозъци

Снимка: MART PRODUCTION

 

Мозъчна атака

През последните години немалко са научните изследвания, които показват, че е възможно да се разчитат все по-комплексни мозъчни функции. В такъв тип изследвания инвестират сериозни суми и големите технологични компании, обяснява проф. Фарахани.

„Нисан“ например разработва технологии за разчитане на емоциите на шофьора, „Нилсен“ – за изучаване на потребителското поведение с цел по-успешен маркетинг. „Икеа“ изследва как произведенията на изкуството влияят върху мозъка, а постепенно проучването се насочва към това как по-успешно да се продават стоките. В Китай пилотни проекти следят мозъчните вълни на работници във фабрики, военни, шофьори на високоскоростни влакове.

Фарахани предполага, че първите индустрии, които ще се възползват, са компютърните игри, здравеопазването, авиацията, невромаркетингът. Според нея сме на поне 5 години разстояние до това да можем да разчитаме изцяло мозъчната дейност, а може би никога няма да достигнем такъв етап. Но вече е тук времето, когато технологията работи за конкретно задание, както в примера с изображенията.

 

Четене на мозъци

„Когнитивна свобода“ според MidJourney

 

Вълнуващи вълни

Технологичните въпроси се решават, очевидно, доста бързо, но не е така с етичните, както с пълна сила важи и що се отнася до изкуствения интелект.

Всички обичаме да ни става все по-удобно, нали? Доста по-готино е да има прахосмукачка, която да ни върши работата. Или фийд, който да ни събира най-важното. Може би не е случайно, че на английски това е думата не само за списъка на социалните мрежи, но и за фураж, захранка. Това, че се заобиколихме с новините, които искаме да четем, с мненията, които много ни харесват или обратното – ни ядосват, вече веднъж из основи промени начина, по който общуваме и по който възприемаме света.

Всичко това може да продължи с нова сила и в много плашещи измерения, когато напреднат технологиите за „четене на мозъци“, предупреждава проф. Фарахани.

„Представете си един антиутопичен, но съвсем реален сценарий, работодателят да използва технологиите, за да следи служителите си – колко са концентрирани, как си вършат работата, какво мислят за клиентите“, казва изследователката. „Когато комбинирате проследяването на мозъчната активност с други технологии за наблюдение, силата става доста плашеща“.

 

Четене на мозъци

 

Мислиш ли?

„Всичко това има някои големи предимства. Например, хората няма да има нужда да пишат текстови съобщения и да шофират, ще могат да ги изпращат просто с мисълта си. Но недостатъкът е, че внезапно даваме достъп до най-личната и чувствителна информация, която имаме… на Facebook, Google и други технологични компании, като няма гаранции, че с тази информация в крайна сметка няма да бъде злоупотребено срещу нас, няма да се опитат да ни манипулират или да променят това, което е в нашия мозък“.

Показателно според нея е как се отнасяме към темата днес. Никой няма време да чете дългите условия, оставяме данните си онлайн на гигантите, без да си даваме сметка до какво може да води това. Всичко това обаче минава на ново, още по-опасно ниво, когато става дума за най-личното. За собствените ни мисли и емоции…

„Хората са станали толкова спокойни и са свикнали да предават данните си, без да виждат какви са вредите от това. Отказахме се от почти всеки друг вид поверителност и лични данни, свободата на мисълта е единственото пространство, което всички винаги сме приемали, че ще бъде свещено и ще е защитено“, казва изследователката. „Ето защо се опасявам, че това, което ще се случи, когато става дума за мозъчни данни, е, че удобството и факторът „уау“ ще накарат повечето хора да се възползват, без да се замислят за последствията“.

 

Четене на мозъци

Снимка: David Cassolato

 

Последният бастион на свободата

Именно затова според нея е важно час по-скоро да създадем направлението „когнитивна свобода“. Да заложим някакви етични ограничения, които този път да изпреварят технологията, а не да излязат на дневен ред, когато последствията вече са тук. В този случай е твърде вероятно те да бъдат необратими. Както казва проф. Фарахани, тогава ще сме изгубили „последния бастион на свободата си“.

Ограниченията би трябвало да включват области, които да бъдат забранени за този тип технологии. Да гарантират, че винаги ние ще сме тези, които носят правата да скрият мислите си, да забранят достъпа.

Дали накрая няма да се окаже прав именно Харари? С идеята, че вече не сме мистични души, а просто животни, които могат да бъдат хакнати…

Имаме доста теми за размисъл. Задава се още една технология, за която не сме подготвени като цивилизация. Нека се замисляме за такива теми по-често. Преди, в един момент да се окаже, че някой може да види какво си мислим и да го използва срещу нас…

Дигитални истории
<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

„Светът е вмирисан на кич. Затова върви към катастрофа“

„Светът е вмирисан на кич. Затова върви към катастрофа“

Текла Алексиева се превръща в легендарен илюстратор, след като създава 120 корици за книгите от поредицата „Библиотека Галактика“. Поколения читатели свързват най-големите фантастични романи с...

повече информация
Програмистът, който избра да е детегледач

Програмистът, който избра да е детегледач

Продължава да е повече от примамливо да се насочиш към програмирането, да потърсиш бъдещето си в прословутия IT сектор… Днешният ни гост е програмист с 20-годишен стаж! Насочва се към това поприще,...

повече информация
Човек или ИИ – можем ли да различим автора? (Резултати)

Човек или ИИ – можем ли да различим автора? (Резултати)

Можем ли днес да различим създаденото от изкуствен интелект и от човека? Започвам с краткия отговор: не можем. Това е основният извод от експеримента, който беше организиран на сайта Дигитални...

повече информация
„Живеем във време на пълна трансформация“

„Живеем във време на пълна трансформация“

„Заобиколени сме от огромно количество софтуерни системи, ползваме ги в ежедневието си, а те са написани от посредствени програмисти. Счупен е начинът, по който създаваме софтуер!“ „Ценността на...

повече информация

Още публикации по темата:

От рубриката:

Човек или ИИ – можем ли да различим автора? (Резултати)

Човек или ИИ – можем ли да различим автора? (Резултати)

Способни ли сме да различим създаденото от изкуствен интелект и от човека?
Започвам с краткия отговор: не можем. Това е основният извод от експеримента, който беше организиран на сайта Дигитални истории.
Има обаче и толкова много други любопитни щрихи, които да ни накарат да се замислим…
Йеронимус Бош или Петко Славейков се оказаха по-трудни за разпознаване? Гозбите на Мария Жекова или строфите на Виолета Кунева?

повече информация
Кой е авторът – човек или изкуствен интелект?

Кой е авторът – човек или изкуствен интелект?

Можем ли днес да различим създаденото от човека от генерираното от изкуствения интелект? Нека заедно направим един експеримент, който може да даде много интересни отговори.
30 бързи въпроса, достатъчни са около 5 минути. Иска се единствено да прецените кои от изображенията и текстовете са генерирани от изкуствения интелект и кои са създадени от хора.
Включете се, опитайте! Поканете и приятели! Колкото повече са участващите, толкова по-интересни ще са резултатите!
Събирането на резултати ще продължи две седмици – до 8 март 2024 г. Петима от участниците ще получат подарък.

повече информация
Създават ли алгоритмите изкуство? 15 важни гледни точки

Създават ли алгоритмите изкуство? 15 важни гледни точки

Могат ли алгоритмите да творят?
Средство или автор е изкуственият интелект?
Има ли как ИИ да създаде следващите изкуства, или вече творенето е безсмислено занимание?
Какво ще правим, когато произведенията му във всяка област станат неразличими от човешките?
Вече 3 години в този сайт събирам гледни точки по големите въпроси на днешния технологичен ден. Смятам, че е жизненоважно да включваме повече различни гласове в дискусиите по важните теми, каквато безспорно е тази за изкуството и творчеството.
Ето 15 от най-интересните и съдържателни мнения, които събрах за това време. Влизат ли в противоречие, или се допълват думите на технологичните хора, писателите, творците, духовниците и… котараците?

повече информация

Най-новите:

Павел Дуров. По-добрият Зукърбърг

Павел Дуров. По-добрият Зукърбърг

Щом има Гандалф и Гандалф Белия, защо да няма Зукърбърг и Зукърбърг Белия?
Странна птица е създателят на Telegram Павел Дуров. И той, като колегата си, „таткото“ на Facebook, е роден през 1984-а. Забогатява, след като създава социална мрежа. И той успява да натрупа известен брой милиарди.
Само че с доста съществени нюанси. За разлика от набора си, говори свободно латински, по снимките личи, че изглежда доста различно в мускулатурата. Направи световния си пробив с приложение, което ви гарантира сигурност и се старае да не ви манипулира. Не точно както при колегата…
Завършва с всякакви възможни отличия… филология, макар че в същото време уж е опасен хакер. Превръща се в знаменитост, преди да се забърка в тежки проблеми с властите в родината си.
Докато в същото време и до днес остава енигма за медиите по цял свят. Дали има две деца, или никога не е имал връзка с жена? Какъв ли ще е следващият му голям проект? Как си представя бъдещето и бои ли се от изкуствения интелект?
Павел Дуров е от онези образи, които правят днешния технологичен свят значително по-вълнуващ…

повече информация
„Светът е вмирисан на кич. Затова върви към катастрофа“

„Светът е вмирисан на кич. Затова върви към катастрофа“

„За човека продължава да има 10 000 начина да мисли и да гледа света. А какво прави той, по дяволите? Зяпа си телефона. Децата, които растат сега, не са виждали какво има наоколо. Те са обект на фантастиката, живеят в паралелен свят. Те не знаят как изглеждат улиците, как изглеждат хората. Това ме кара да мисля, че няма оправия. Кой ще ги вкара в този свят? Ако стане случайно, те ще бъдат разбити.“
Текла Алексиева се превръща в легендарен илюстратор, след като създава 120 корици за книгите от поредицата „Библиотека Галактика“. Поколения читатели свързват най-големите фантастични романи с образите, нарисувани от нея. Освен художник със самобитен поглед и безброй признания, е и автор на стихосбирка.
Какво ли мисли тя за изображенията, генерирани от изкуствен интелект?
Защо според нея днес сме заобиколени отвсякъде от кич – в литературата, в изкуството, в живота?
Можем ли и как да си върнем добрия вкус?
Защо в никакъв случай не бива да напускаме Земята?
Как така… Текла Алексиева не е успяла да дочете книгата с една от най-известните ѝ корици?

повече информация
Програмистът, който избра да е детегледач

Програмистът, който избра да е детегледач

Продължава да е повече от примамливо да се насочиш към програмирането, да потърсиш бъдещето си в прословутия IT сектор…
Днешният ни гост е програмист с 20-годишен стаж! Насочва се към това поприще, много преди то да се превърне в мода и да стане толкова изкусително. Докато не усеща, че му е омръзнало да прекарва времето си пред компютрите, а най-приятно му е да е сред децата.
Така, напук на всички стереотипи, Богдан решава да си изкарва хляба, като гледа хлапета. Това го прави щастлив, осмисля ежедневието му. Дори не му минават идеи да се връща към компютрите, за него няма нищо по-смислено от времето, прекарано с децата…
Не е ли време да преосмислим някои клишета?

повече информация
„Колко ни е важна днес истината?“

„Колко ни е важна днес истината?“

„Как изпуснахме обществения договор? Ей така, тихичко…“
Вече не сме способни да различаваме текстовете и изображенията, генерирани от изкуствен интелект от тези, създадени от човека. Това е големият извод от експеримента на Дигитални истории, в който се включиха близо 2000 души.
Срещаме се с Надя Шабани, правозащитен адвокат и директор на БЦНП, и с Радина Банова-Стоева, правозащитен адвокат и правен консултант към центъра.
Какъв ще е начинът, по който оттук нататък ще можем да различаваме истината?
Защо е важно да си говорим за човешките права в контекста на големите въпроси, пред които днес ни изправят технологиите? Обречени ли са опитите за регулация на изкуствения интелект? Как да решим големия въпрос с етиката в тази област?
Защо решенията, които вземаме днес по въпросите на изкуствения интелект, имат толкова голямо значение за бъдещето на цивилизацията ни?

повече информация
Човек или ИИ – можем ли да различим автора? (Резултати)

Човек или ИИ – можем ли да различим автора? (Резултати)

Способни ли сме да различим създаденото от изкуствен интелект и от човека?
Започвам с краткия отговор: не можем. Това е основният извод от експеримента, който беше организиран на сайта Дигитални истории.
Има обаче и толкова много други любопитни щрихи, които да ни накарат да се замислим…
Йеронимус Бош или Петко Славейков се оказаха по-трудни за разпознаване? Гозбите на Мария Жекова или строфите на Виолета Кунева?

повече информация
„Живеем във време на пълна трансформация“

„Живеем във време на пълна трансформация“

„Заобиколени сме от огромно количество софтуерни системи, ползваме ги в ежедневието си, а те са написани от посредствени програмисти. Счупен е начинът, по който създаваме софтуер!“
„Ценността на смисленото съдържание ще се вдига, защото има прекалено много боклук, прекалено много шум. Единственият начин да се съхраним като хора е, да слагаме прегради. Да пресяваме какво влиза в нашата глава.“
Борис Симандов има огромен технологичен опит. Близо 10 години е на директорска позиция в Chaos Group, една от най-успешните български IT компании. Днес помага в развитието на следващото поколение стартъпи.
Заедно с Росен Генчев са създатели на фейсбук групата DevBG, най-оживеното (и често доста странно) онлайн пространство, където се срещат хората от технологичния свят.
Ще поговорим:
– за това можем ли да се чувстваме спокойни в днешните турбулентни времена
– за революцията на изкуствения интелект, в която живеем и за скептиците
– за поредната важна стъпка – Sora и генерирането на видео
– за големите предизвикателства и професиите, обречени да изчезнат
– за връщането на истината като ценност и медиите на бъдещето
– за групата DevBG като най-добрия пример защо и как не работи демокрацията днес.

повече информация
Share This