La peste 7 ani de la lansare, filmul Ex Machina a ajuns în topul Netflix în România. Plin de simbolism, mai mult sau mai puțin ușor de descifrat, Ex Machina dezbate chestiunea singularității și abordează unele semne de întrebare nerezolvate care sunt deja extrem de rumegate în „comunitatea” futuriștilor de astăzi care văd deja doar o chestiune de timp atingerea singularității.

Testul Turing

Testul Turing este un gimmick după mine deși poate că Turing nu a încercat trivializarea problemei ci pur și simplu angajat fiind în tentativa de popularizare a problematicii inteligenței artificiale, a conceput și a lansat această idee. Pe scurt Turing a propus următorul test pentru a clasifica o inteligență artificială ca fiind inteligență și nu altceva (putere de calcul, rezolvare algoritmică de probleme, arbore de decizii etc): dacă în urma discuției între un om și un calculator, omul neștiind dacă vorbește cu un om sau cu un calculator, crede că interlocutorul său este un om și nu își dă seama ca este IA, atunci se poate declara succes: calculatorul a trecut testul lui Turing și poate fi considerat inteligent.

Ca relevanță în domeniul IA, testul Turing este doar o simplă poveste și poate încă nițică teorie de memorat și pierdut timpul în cadrul academic. Evident că testul în sine include un mare grad de subiectivitate – pe de o parte – iar posibilitatea imitării comportamentului face nulă capacitatea acestui test de a spune orice, pe de altă parte.

Poate la vremea lui Turing, părea imposibil ca un computer să imite pur și simplu gândirea umană, să sintetizeze cunoștințe atât de vaste încă să poată face ca poate chiar toți interlocutorii să dea verdictul de inteligență umană acolo unde este o simplă imitare a unor replici, adaptate la context, extrase cu forță brută din volumul deja extrem de mare de informație digitizată care poate într-un viitor nu prea îndepărtat va putea fi exploatat pentru a fi folosit în timp real – cam ceea ce face Alexa sau Google astăzi.

Problema conștiinței

Deși nu prea știm ce este conștiința în prezent, chiar definiția fiind imprecisă și laxă, se pune problema dacă în momentul în care inteligența artificială va atinge și de fapt va depăși inteligența umană vom putea considera acele entități ca fiind conștiente și – Doamne-ferește! – ca fiind vii, organisme vii care au drepturi și libertăți.

Această non-problemă tembelă a ajuns până acolo unde, mai în glumă mai în serios, mulți comentatori se feresc să spună ceva rău despre IA și chiar militează pentru acordarea de drepturi roboților când va veni momentul, de frică să nu fie exterminați de viitorii overlorzi artificiali.

Problema conștiinței este însă una intermediară deoarece dincolo de ea se pune chiar problema supraviețuirii omului când IA va trece de puntul de singularitate în care inteligența artificială va depăși inteligența umană. Elon Dodge Musk este citat deseori ca punând emergența IA ca principalul risc existențial pentru umanitate.

Aici sunt de acord cu Elon deși nu din aceeași poziție. Nu faptul că roboții vor prelua controlul și ne vor considera pet-uri care pot oricând să fie eliminate dacă existența lor nu mai este eficientă este riscul pe care îl văd eu, ci mie mai degrabă îmi este teamă ca un descreierat cum este Bill Gates să pună mâna pe un soft IA atât de puternic care să îi permită unele chestii cu care să poată facă cam ce vrea. De exemplu, un soft de distruption global al rețelelor de electricitate care să taie 12 ore pe zi electricitatea prin rotație, ajuns pe mâna lui Bill Gates care și-ar dori o planetă verde în care să meargă doar el la vânătoare, este cu adevărat periculos. Dar nu doar un astfel de soft este periculos. Un soft IA de producție automată de drone militare și cu o componentă de luptă, căzută în mâna chinezilor ar fi de asemenea extrem de periculos deoarece le-ar permite să cucerească lumea în 2-3 săptămâni și să facă nuclearele total inutile. Ce vor face americanii cu nuclearele lor dacă chinezii vor lansa o sută de milioane de drone care singure vor zbura, se vor alimenta, se vor repara automnat în căutarea de … nechinezi pe care să-i extermine? Și alte asemenea riscuri ale IA sunt care mă sperie pe mine, nu singularitatea.

De fapt, riscul deraierii pe parcurs a avansului IA și anihilarea planetei din accidente sau prin simpla folosire malițioasă a unor capacități de distrugere avansate care pot fi dezvoltate și controlate prin IA de actori malefici este poate de departe calea cea mai probabilă pentru evoluția IA, mai ales că dezvoltarea capacităților și uneltelor se face cu un anume scop, nu pentru descoperirea singularității. Nicio țară și nicio companie nu investește aleator în dezvoltarea unei inteligențe generale, ci face roboți care să se priceapă la aspirat, face softuri care să comunice facil cu oamenii, face fabrici autonome care să lucreze singure și să producă bani, face roboți care înlocuiesc muncitorii în fast-food-uri și care trebuie să coste mai puțin decât salariul minim pe economie etc.

Mitul Singularității

Dacă religia creștină și în general religiile tradiționale sunt împinse la marginea societății, religiozitatea omului nu poate fi inhibată total, mai nou existând chiar studii care cataloghează „predispoziția spre religios” a omului ca un atribut util și chiar necesar evoluției sociale. Deci omul sfârșitului istoriei are și el nevoie de mituri, simboluri, ritualuri și tot arsenalul specific unei vieți religioase. Iar singularitatea este unul dintre miturile omului modern produs în eprubeta ideologică a progresismului continuu și a marșului accelerat spre eficientizare maximă și optimizare continuă a tuturor proceselor, piedica în această aventură „eshatologică” fiind tocmai tradiționalii care prin definiție sunt văzuți anti-progres.

Spun că singularitatea este un mit deoarece nu este de ieri de astăzi, ci de decenii se tot discută și se filosofează. De altfel, zvâcul recent al inteligenței artificiale are bazele tot în anii 70 în rețelele neuronale, ce este nou este creșterea puterii de calcul și acumularea de date mult mai multe care pot fi apoi prelucrate și pot da oarecare rezultate pe un set de probleme standard care pot fi rezolvate prin tehnicile actuale de inteligență artificială. De altfel, dând Cezarului ce este al Cezarului, chiar și domeniul academic în prezent a abandonat tentativele desuete de copiere și imitare a proceselor de gândire care oricum reprezintă încă un mare mister, nivelul de cunoaștere a felului cum funcționează creierul în prezent, comparându-se poate cu nivelul de cunoaștere a felului cum funcționează ficatul de acum 150 de ani. Ba chiar, ca niște foi de ceapă, mereu apar noi și noi provocări cum ar fi implicațiile mecanicii cuantice în procesele cognitive.

Dar aș dori totuși să clarific de ce neg nu doar posibilitatea singularității ci o consider ca un mit, ca un fals target sau reper către care să ne holbăm și pe care să-l monitorizăm și să ne îngrijorăm sau să îl salutăm. Din start, recunosc că am fost pasionat de subiect și am pierdut ceva timp urmărind discuții chiar cu specialiști. Totul este o poveste interesantă, nu există nicio bază cu realitatea. Am explicat puțin că inteligența generală nu este nici măcar un obiectiv și nu există nicio tentativă de abordare. Asta nu neagă posibilitatea emergenței acesteia așa cum avem nenumărate surprize de anumite proiecte care au depășit cu mult cadrul lor de cercetare inițial. Mă refer aici la acel soft care a bătut pe campionul mondial la Go în Koreea și care acum a fost învățat să joace și alte jocuri, inclusiv Starcraft 2, joc de real time strategy.

Așa cum în Ex Machina, la un moment dat ni se arată tree-ul versiunilor anterioare Evei, mitul singularității, privit de azi înspre viitor, spune pe scurt că așa cum vedem că există progrese mari pe anumite felii, este inevitabil ca la un moment dat să apară un soft (sau softuri interconectate) care să aibă capacități de inteligență generală care ar putea trece cu brio testul Turing amintit mai sus. Atunci se va pune problema conștiinței și ne vom întreba ce putem face. Bineînțeles ne întrebăm și acum, dar atunci se va pune problema drepturilor roboților. Chestiunea are nenumărate fire și poate fi extinsă la infinit. De exemplu, IA dacă va exista va exista pe un calculator sau într-un centru de calcul sau în cloud. Ce ne facem dacă se va atinge singularitatea și vom fi puși în fața unei conștiințe artificiale suficient de dezvoltate încât să ne convingă că are conștiință, personalitate, că are o existență proprie, că are unele atribute extrem de similare omului, deși ca programator eu nu văd cum poate rămâne la nivelul omului – o inteligență care devine capabilă să asimileze informații și trăiește într-un mediu digital cu acces la mult mai mulți senzori decât o prezentă fizică limitată, cu siguranță poate face progrese masive într-un scurt timp pe măsură ce procesează informațiile.

Firele și poveștile se sparg mai apoi din nou, punându-se chestiunea relevanței conștiinței fără o motivație existențială. Ce scop va avea IA? Păi să zicem scopul pus în el/ea de programatori. Dar fiind autonomă evident că va devia puternic de la scopurile inițiale, programatorii nefiind decât creatorii inițiali. Deja în prezent softurile de IA, majoritatea sunt astfel concepute încât funcționează ca un black box, adică programatorul face cutia, îi dă date, face niște rotițe în ea, apoi învață rotițele ce input trebuie să dea ce output și rotițele cumulează know-how ajungând ca după iterații masive de mii sau milioane de etape de învățare (în funcție de obiectivul softului respectiv) să devină capabil să rezolve orice set de date cu o acuratețe maximă. Adică, programatorul nu poate explica prea mult cum funcționează softul. Aceeași cutie, învățată pe un set de date diferit de altă cutie, poate ajunge la configurații cu totul diferite. Sau aceeași cutie, cu unele ajustări și cu seturi de date mai valoroase și mai calitative, poate avea rezultate exponențial mai bune, fără ca programatorul să facă mare brânză. Iată deci panoplia de topicuri adiacente singularității dintre care o parte au fost atinse în film.

Transhumanismul în oglindă

Filmul îl recomand a fi privit într-o altă cheie: din el vedem cum își pun problema umană profeții transhumanismului, indiferent de subcurentele la care se asociază. La ce mă refer? Păi să dau un exemplu. După cum pasionații știu, unul dintre apostolii roboților a fost scriitorul de SF Isaac Asimov care a lansat și faimoasele legi ale roboților dintre care prima susține că un robot nu poate face rău unui om. Filmul nu aderă la aceste legi, considerându-l pe Asimov probabil un eretic sau un … tradiționalist. Sau un rasist alb care nu aderă la ideologia BLM care se va extinde cu drepturile roboților și ale androizilor.

De unde această omisiune importantă? Doar din rațiuni artistice? Dar legile lui Asimov nu constrâng prea mult spațiul de expresie, din contră, existând chiar filme și seriale care sunt cumva focusate pe aceste legi și toata tensiunea se crează în jurul lor. I, Robot este un exemplu deși mult mai interesant este un serial britanic al cărui nume îmi scapă acum.

Religia transhumanistă mai nou se pare că dorește să uite de ele și omul este degradat în ierarhie, fiind doar un element în food-chain-ul ecosistemului entităților inteligente artificiale, hybride sau augmentate în care cei normali vor fi considerați niște paria și vor fi marginalizați așa cum oamenii cu un sistem imunitar sănătos care au supraviețuit virusului și care refuză să accepte seruri experimentale de modificare genetică sunt deja penalizați câtă vreme nu acceptă integrarea în noul ecosistem prin vaccinare.

Mie unuia îmi este clar că diavolul este în spatele acestei noi religii, cel care îl urăște pe om cu toată ființa sa și dacă ar putea ar fi înghițit până acum pământul de nenumărate ori dacă l-ar fi lăsat Dumnezeu.

În esență singularitatea este simulacrul raiului, înlocuitorul lumii de dincolo, promisiunea salvării pentru „cei aleși”. Aici am ieșit deja din film și comentez feeling-ul pe care îl am eu și cum văd aceste dezbateri sau mai degrabă aceste „evanghelii” legate de viitorul strălucitor care așteaptă omenirea când roboții ne vor face munca și noi vom putea să ne petrecem timpul cu activități creative într-un mediu perfect ecologic. Și bine-înțeles că nu vom mai muri deoarece creierele noastre vor fi importate în cloud și ni se va aloca și nouă un proces persistent care să simuleze o continuare a existenței din lumea reală a unei individualități care chiar dacă va fi sub semnul întrebării, cel puțin la nivelul promisiunii va fi continuarea existenței noastre fizice.

Este uimitor și totodată hazliu cum diavolul a sucit mintea unor oameni de altfel inteligenți ca să rumege și să conceapă chiar ca posibilitate aceste evoluții fără nicio bază și fără niciun fundament real concret. Doar optimismul progresist și credința nelimitată într-un viitor care nu are cum să fie altfel, dat fiind istoricul deja de câteva sute de ani de progres științific. Dar, chestiunea adevărului lipsește cu desăvârșire din această discuție. Atât Adevărul cu A mare cât și adevărul cu a mic. Ce vreau să spun? Progresul în sine dacă nu ne dă răspunsuri ci doar aduce noi întrebări, nu ne apropie de adevăr, nu contribuie cu nimic la o adevărată evoluție a umanității.

Câtă vreme noi știm despre găurile negre doar că sunt niște singularități, niște puncte unde legile fizicii pe care am apucat noi deocamdată să le descoperim nu pot funcționa, ce sens are să facem experimente gen Ligo care să dovedească existența acestor găuri – cu ce ne încălzește? Cu ce am progresat că știm de existența lor? Dar găurile negre ca găurile negre, ce ne facem însă cu materia „întunecată” care compune grosul universului. Avem un model cu mii de constante și giumbușlucuri tehnice care încearcă să încastreze realitatea într-un sistem prea puțin coerent care trece peste 95% din materie la capitolul … nu știm ce este, e „materie neagră”. Iată cu adevărat probleme de dezbătut și care pun sub semnul întrebării dacă nu cumva progresul infinit la care speră unii este o cădere într-o gaură neagră a orientării înspre modele și a depărtării de realitate. Cu suficientă tehnică și capacități narative, orice model, oricât de fals, poate fi propus și adoptat, oamenii căzând victime unui teatru global cu implicații ontologice.

Dorința omului de a afla adevărul și de a răspunde unor întrebări fundamental pare din ce în ce mai slabă, tentația spre visare și spre iluzie – chiar dacă una elaborată și rațională – fiind mult mai atrăgătoare.