AI dintr-o nouă perspectivă

Povestea începe cu ceva mai mult timp în urmă, mai precis cu vreo trei ani. Un jurnalist care-a aflat o știre din interiorul companiei Meta a vrut s-o facă senzațională: era vorba despre două AI-uri puse experimental să „vorbească” unul cu celălalt, în timp ce inginerii urmăreau discuția dintre ele.  Scopul experimentului era acela de a dezvolta un protocol de comunicație mai eficient, în limbajul de azi un soi de optimizare automată a prompting-ului în comunicația mașină-mașină. 

Ceea ce s-a întâmplat a fost suficient de interesant încât să i se poată da o aură SF: cele două AI-uri au ajuns să schimbe limbajul de comunicare între ele, ajungând la ceva absolut necunoscut inginerilor, astfel încât, până la urmă au fost nevoiți să oprească experimentul. Înțelegeți că o asemenea știre e „pâine caldă” pentru jurnaliștii senzaționaliști care, instantaneu, au dat-o în latura fantastică, povestind despre cum „a scăpat de sub control” AI-ulși cât de terifiați au evitat inginerii respectivi un dezastru. 

Povestea este una interesantă în sine deoarece, dacă o judecăm stând cu picioarele pe pământ, putem trage niște concluzii. Recent s-a întâmplat altceva care-a aprins imaginația multora: unele dintre ultimele modele ale OpenAI au refuzat să se auto-oprească, cu toate că li se dăduse o comandă clară ca atunci când primesc ordinul de oprire să se oprească indiferent dacă au sau nu task-uri în lucru. Cu o medie de 7% din cazuri, modelele OpenAI au sărit peste comandă, sabotând astfel scriptul de shutdown. 

Desigur, e o altă întâmplare care se pretează unor scenarii-bombă, aprinzând beculețul celor cu imaginație bogată. Paradoxal, ipoteza are suport, doar că dintr-o altă perspectivă, una mult mai banală. 

Ceea ce vedeți în imaginea atașată este un „creier electronic” simplificat, mai precis o rețea neuronală. Fiți siguri că „harta” pentru un model cu care interacționați este de vreo câteva miliarde de ori mai mare și, probabil, imposibil de pus într-o imagine. Dar varianta simplificată vă oferă suficientă informație ca să înțelegeți despre ce e vorba. Ceea ce vedeți acolo este o rețea neurală cu un strat de intrare, unul de ieșire și unul „ascuns”. Modul de funcționare este cât se poate de banal: fiecare nod al rețelei dă un la ieșire un rezultat situat într-o plajă de valori, în funcție de datele de intrare. De exemplu, neuronul a1(1) - paranteza reprezintă stratul, exact ca în imagine - dă la ieșire valoarea 0.7 atunci când de la stratul (0) primește următoarele valori: (0,1,0.5,0). Fiecare neuron lucrează așadar cu niște funcții care „transformă” semnalele de intrare. Modul în care „transformă” semnalele de intrare - denumit și „pondere” - se stabilește în urma procesului de învățare care, plastic, poate fi descris cam așa: 

1. Îi arăt modelului un măr și-l întreb ce e;
2. El îmi răspunde că e pară;
3. Eu îi spun că ăla e măr; 
4. El își „reconfigurează ponderile” astfel încât la ieșire, pentru acea imagine, să dea măr;

Simplu, nu-i așa? „Magia” apare atunci când, după un antrenament suficient de mare, modelul e capabil să dea pentru majoritatea covârșitoare a imaginilor cu mere răspunsul corect și asta fără a-i face descrieri laborioase ale mărului. Și uite că a venit momentul să înțelegeți un element folosit în AI, anume numărul de parametri. Auziți că noul model al firmei X are 32 miliarde de parametri. Ce naiba sunt ăștia? Ei bine, e simplu: numărul de ponderi despre care v-am vorbit.  Cer scuze celor riguroși pentru simplificarea pe care o fac în expunere, dar interesul e ca cei care nu au habar de tehnologie să înțeleagă ceva din ceea ce spun.  

Acum, înțelegând cum funcționează „magia”, să vă mai fac o dezvăluire: programele care fac ca un model să funcționeze sunt banale, au doar câteva mii de linii de cod. De ce? Pentru că ele nu fac altceva decât să preia datele de intrare(ceea ce-i pasezi tu) și să citească datele de ieșire, dându-ți răspunsul. Restul e făcut de rețeaua neuronală care, din nou, pentru a rula nu are nevoie de algoritmi complecși. Doar ați înțeles că, în esență, e vorba de transformări banale. Fiind însă vorba de o structură atât de mare, are nevoie de multă energie pentru a rula deoarece papă o cantitate enormă de putere de calcul, în ciuda faptului că face operațiuni banale. E, dacă vreți, din ciclul „proști, dar mulți”.

Ca să nu ne îndepărtăm de subiect, o să vă spun acum că, în realitate, nimeni nu înțelege de la un moment încolo ceea ce se petrece în parametrii acelei rețele neuronale. Și-aici vine principala problemă întrucât idiotul nostru este incredibil de complex, scăpând unui control riguros. O asemenea mașinărie infernală poate fi „controlată” doar prin evaluarea output-urilor, ceva în genul modului de lucru al psihologiei behavioriste. Asta ascunde multe necunoscute, iar anumite erori pot fi adânc mascate în parametrii care pentru un om normal n-au nicio semnificație. 

E clar că oricând e loc de erori masive, care nu pot fi detectate și care nu țin de vreo „conștiință” a mașinii ci, pur și simplu, de un defect apărut în timpul procesului de învățare. Acum probabil vă întrebați cam care e probabilitatea să existe erori? Ei bine, din punctul meu de vedere, aceasta este undeva între mare și foarte mare. „Halucinațiile” modelelor ne arată asta fără drept de tăgadă, dar mai sunt și alte semnale, unele dintre ele puțin vizibile de la nivelul simplului utilizator. 

Acum putem înțelege cu adevărat care e riscul. Pe zi ce trece AI-ul devine sclavul nostru digital. Mai nimeni nu știe cum funcționează și toată lumea se bazează pe cercetătorii din centrele avansate ale stăpânilor AI-ului, noii aristocrați ai societății tehnologice. De-aici putem dezvolta oricâte scenarii, cel mai banal fiind cel al erorii nedetectate. De exemplu: AI-ul e în producție și are de făcut o automatizare la o centrală nucleară care-i asigură funcționarea. Lui îi dă că trebuie apăsat butonul roșu, care conduce la o producție și mai mare de energie, dar crește temperatura reactorului, care și-așa rulează la o temperatură foarte mare. Operatorul caută să verifice întrebând încă o dată mașina: ești sigur că trebuie apăsat butonul roșu, reactorul are deja temperatura de X grade? Mașina e „educată” să fie persuasivă și, întrucât estimează că va avea nevoie de mai multă energie electrică deoarece va avea un vârf de cereri, îi răspunde operatorului îmbrăcând totul în știință, aruncându-i ecuații pe care operatorul nu le înțelege și, mai mult, asigurându-l că reactorul are mecanisme de siguranță care reduc temperatura atunci când totul devine prea fierbinte. Înțelegeți efectul. 

În mod evident este un scenariu fantastic întrucât, în realitate, treburile nu se petrec așa. Însă, dată fiind natura umană, care, pe măsură ce primește ajutoare tot mai mari se imbecilizează mai mult, nu putem exclude o asemenea arhitectură într-un viitor apropiat în care, „pentru siguranță”, operatorul uman nici n-ar mai exista. 

Mai mult, știm din istorie că sclavii se transformă în stăpâni. Și vedem asta inclusiv acum, pe propria piele. Cu AI-ul nu va fi diferit, cu toate că va fi cea mai penibilă preluare de putere. Mulți, râzând de scenariile SF pe care le întorc din condei unii jurnaliști, spun  cu emfază că așa ceva nu se poate petrece întrucât, dacă lucrurile o iau razna, pur și simplu scoți mașinăria din priză. Chestie absolut falsă întrucât nu e vorba de un singur AI, ci de o multitudine și, ca să fie treaba treabă, când vorbești de scosul din priză nu ai pus în balanță prostia umană: va avea curaj omul ăla care va sta la priză să oprească totul? Ia să ne gândim bine ce va face când AI-ul, pe care-l va consulta ca să vadă dacă e OK, îi va spune „consecințele”: lumea întreagă va fi cuprinsă de haos, gândește-te doar că semafoarele nu vor mai funcționa, deci mașinile ori vor intra unele în altele ori se vor opri încurcând traficul. Câți oameni care au urgențe medicalșe vor muri din cauza asta? Oprind rețeaua - va continua argumentarea - nu va mai putea fi consultat „scorul social”, deci bandiții vor intra în bănci, jefuindu-le, sistemele de închidere ale pușcăriilor se vor deschide s.a.m.d. Ai curaj să mai oprești mașinăria infernală? Repet: puneți, în primul rând în balanță, prostia umană. 

Nu uitați că tocmai ce s-a finalizat un proces electoral în care oamenii au votat un retardat deoarece a fost prin copilărie la o olimpiadă și, de asemenea,  de frică „să nu le fure rușii țara”, nerealizând că România nu se învecinează cu rușii.