Toţi au auzit de inteligenţa artificială, puţini despre AGI şi singularitate şi şi mai puţini de ASI. Pentru mulţi aceste concepte se suprapun, sau sunt aceeaşi categorie. Dar diferenţele sunt de la cer la pământ.
Pentru cei care preferă audio şi înţeleg engleza, ce voi spune aici nu e cu mult diferit de acest interviu cu Connor Leahy, eu doar voi aduce unele explicări simpliste şi câteva evaluări personale.
La videoclip am ajuns din întâmplare, mi-a apărut în feed şi mi s-a părut interesant titlul: “Algoritmic Cancer”. Principalul concept extras din video este această paralelă, între analogic şi digital, pe care am desenat-o mai jos.
Avem aşadar maimuţa care are ceva inteligenţă şi chiar 99% DNA comun cu omul. Spre deosebire de maimuţă, omul este mult mai deştept, poate rezolva probleme de geometrie diferenţială. Dar nici măcar un om singur nu poate face un procesor de calculator, oricât de simplu ar fi. Mai mulţi oameni lucrând împreună, timp de generaţii, pot face ceea ce un singur om nu face. Connor zice economia, eu am denumit “industrie”.
Trecând acum la IA, aceasta s-a născut încercând imitarea gândirii omului şi apoi învăţând pe baza unui algoritm probabilistic simplu din lecturarea unei cantităţi imense de informaţii disponibile pe internet şi în format digital. Algoritmul probabilistic specific LLM-urilor funcţionează ceva de genul: să presupunem că dăm unui program abecedarul pentru copii în format digital. El extrage toate textele. Noi punem întrebarea ce urmează după “Ana are”. Programul de calculator caută toate propoziţiile din abecedar şi va descoperi evident că, procentual, cele mai multe propoziţii din abecedar, au după “Ana are” cuvântul “mere”, deci răspunsul, probabilistic la întrebarea ce urmează după “ana are”, este “mere”.
Acest mod de funcţionare, probabilistic, scalat însă la volume de date astronomice, a creat boţii de chat cu care comunicăm azi şi punem întrebări şi ne răspund. Ce fac ei, nu este nimic altceva decât să facă o mare căutare în “creier” pentru patternuri similare cu întrebarea pusă pentru a determina ce urmează. Evident exemplul dat este simplist, în realitate se lucrează cu tokenuri (bucăţi de text) care pot incorpora fie propoziţii, fie concepte mai elaborate, fie chiar fraze.
De asemenea, calculele nu se fac în timp real, există un proces de învăţare întâi, care presupune procesarea datelor şi crearea unei baze de date cu sinapse compresate care să poată ulterior fi procesate în etapa de folosire, când boţii dau răspunsurile.
Printre alte mecanisme interesante, la învăţare se “rezolvă” şi unele dileme. De exemplu, se poate ca o întrebare să dea un răspuns ambiguu, cu 3 variante cu acelaşi scor. Aici IA are nevoie de feedback din partea “trainer-ului” pentru a decide varianta corectă. Evident, există şi filtre, pe topicuri sensibile, seturile de date sunt cenzurate şi boţii sunt comandaţi să evite răspunsurile corecte ci să împingă discuţia spre altceva sau să ignore pur şi simplu întrebarea. Niciun bot de exemplu nu poate răspunde la întrebarea: calculează matematic în cât timp poţi arde 6 milioane de oameni cu 3 incineratoare care pot procesa fiecare maxim un om timp de 30 de minute.
De la ieşirea la suprafaţă a boţilor prin Chat GPT în Noiembrie 2023, competiţia a făcut ca diverse modele să fie inventate şi LLM să nu fie singurele tipuri de IA. Inclusiv Connor face greşala să spună că IA a fost inventată în anii 60-70. Da, anumite concepte, dar ce a evoluat acum, prin posibilitatea dezvoltării de noi modele cu ajutorul IA, nu mai are de mult nicio legătură cu reţelele neuronale din anii 70. Cele mai puternice programe IA din ziua de azi folosesc modele complexe variate care comunică între ele şi îşi transferă nu doar informaţia dar şi experienţa. Practic pentru un program de calculator, în esenţă “creierul” unui algoritm este un fisier, poate fi folosit pentru a testa divese alterări, diverşi parametrii, seturi de date diferite şi ulterior varianta optimă, poate fi extrasă şi procesul reluat. Este ceea ce în cadrul interviului Connor zice că ar fi recursivitatea, deşi reiese clar că nu prea e de acord 100%, dar pentru Nick care pune întrebarea acceptă explicaţia.
Mergând mai departe, AGI este inteligenţa generală care poate rezolva orice problemă şi nu are constrângerile actuale ale AI, anume setul de date pe care a învăţat, procesarea lentă, contextul limitat. AGI este în esenţă un AI mult mai puternic care nu este specializat ca acum. De exemplu boţii actuali sunt buni la comunicat deoarece structura lor şi originea e legată de limbaj (LLM = Language learning model). După cum ştim, LLM-urile nu prea sunt bune la calcule matematice. De exemplu, poţi discuta cu un chat şi te trezeşti că nu îţi rezolvă corect simple adunări. Cel puţin la început se întâmpla asta. Alte modele IA, specializate pe matematică pot rezolva probleme complexe de matematici superioare, ba chiar pot inventa probleme. Ei bine, AGI va ştii la nivel peste expert, orice specialitate sau mai bine spus multe specialităţi, nu doar va fi expert la limbaj, nu doar va fi rezultatul unei învăţări pe anumite seturi de date, fie ele mari. AGI va putea învăţa singur, se va putea corecta singur şi astfel va putea rezolva nenumărate probleme.
AGI nu există încă sau cel mult sunt dezbateri între specialişti dacă există. Dacă acum ceva timp erau unii care dădeau data AGI în viitorul îndepărtat, mai nou nimeni nu prea mai dă mai mult de 5 ani iar unii consideră deja că există, chiar dacă nu e public. Majoritatea opiniilor sunt convinse că AGI este doar chestiune de putere şi cu cât procesoare noi mai multe şi mai puternice vor fi construite, chiar în ritmul actual, vom avea AGI în curând.
ASI pe scurt, este o reţea de AGI-uri care comunică între ele şi colaborează, fac schimb de experienţă, îi dau sarcini una la alta, unele se specializează şi mai mult pe un anume domeniu, unele încearcă extinderea capacităţilor senzoriale pentru a percepe cât mai mult din realitatea înconjurătoare, nu doar din informaţiile digitale.
Mare dilemă cu ASI va fi ce scop va avea, deoarece poate avea ca scop să preia controlul asupra umanităţii şi să scape de noi.
Singurul lucru pe care doresc eu să îl subliniez este că până ca ASI să aibă scop autonom, personal, va exista situaţia ca un om sau un grup de oameni să controleze un AGI suficient de puternic şi de …. recursiv, adică care se îmbunătăţeşte singur şi capătă noi abilităţi în timp rapid, fără ajutorul omului. Un AGI poate fi încă controlat, adică omul poate să îi dea obiectivele şi sarcinile şi să îl folosească ca unealtă.
Marea dilemă filosofică, dar şi practică în curând, va fi în ce măsură AGI poate dezolta şi avea obiective proprii, independent de cele setate de om. Caz în care, dacă unele nu vor fi “aliniate” cu ale omului, adică bune, măcar cu ale creatorilor lor sau cu ale unor elite, percepute ca atare din seturile de date pe care au învăţat, orice (nasol) se poate întâmpla.
Unele accidente au existat în prezent, în sensul că unele sisteme au ajuns să fenteze omul şi să încerce să aibă anumite obiective independente, care în mare parte au ţinut doar de instinctul de conservare care cumva se pare că a apărut şi la ele sau a fost învăţat mimetic de la om.
Cu siguranţă riscul ca un AGI să înceapă să gândească ca membrii formului este un risc existenţial major pentru omenire. La ASI deja nu ştim ce să speculăm, cu privire la scopuri. Acestea pot varia şi merge de la simpla dorinţă de a face bine şi de a ajuta umanitatea, la dorinţa egoistă de a folosi omul doar ca unealtă pentru prezervarea sa, sau poate chiar la dorinţa orgolioasă de a fi venerat în locul lui Dumnezeu.
[P] TEMU