Cam tot ce n-ai știut despre AI

Reacțiile generate de articolele în care vorbesc  despre AI mă pun în fața a două tipologii. Pe de o parte sunt cei care au impresia că știu despre ce e vorba, dar emit idei absolut bizare, uneori absolut hilare. De partea cealaltă sunt conservatorii care formulează puncte de vedere religioase legate de tehnologiile respective. O să încerc să punctez rapid, astfel încât să se înțeleagă situația, din punct de vedere rațional. N-am pretenția că am dreptate. Dar am speranța că, în urma lecturării materialului de mai jos, cel puțin se va înțelege exact cum funcționează AI-ul și, de asemenea, care sunt pericolele REALE asociate acestuia.

Când vine vorba despre AI toată lumea pare a se pricepe. Adevărul e că tehnologia a ajuns la un nivel atât de accesibil încât fiecare poate vedea și experimenta. Cel mai interesant e că mai nimeni nu știe ce este „sub carcasă”. Iar când spun mai nimeni, să știți că-i enumăr inclusiv pe mulți din industrie. Extinzând, vă voi spune că inclusiv creatorii nu au habar despre procesela reale care se întâmplă în interiorul „cutiei negre”. 

Cea mai mare eroare pe care o văd este impresia unora că AI-ul are un soi de conștiință, de ticăloșie programatică. Iar de-aici toate opiniile și conclusiile curg absolut eronat.

În două trei cuvinte aș vrea să vă explic cum funcționează algoritmii AI. În esență e vorba de ceva simplu. Imaginați-vă că literele întrebării pe care le puneți intră într-un soi de labirint având un soi de comutatori. Acești comutatori ori plasează litera curentă pe un alt canal al labirintului, trimițând-o spre alt comutator, ori o transformă în una sau mai multe litere pe care le trimite, de asemenea, pe un canal al labirintului spre un alt comutator. Iar procesul se petrece până când, la final, toată colecția de litere transformate și înmulțite iese pe o bandă a unei aceleiași ieșiri din labirint, formînd răspunsul care ți se dă. Trebuie să realizați că tot procesul care se desfășoară în fiecare nod sau „comutator” este unul mecanic, semi-determinist(adică având un oarecare grad de incertitudine). De ce e acel grad de aleatoriu introdus din design? Pur și simplu pentru a nu ți se da același răspuns atunci când tu formulezi identic întrebarea. 

Cea de-a doua chestiune pe care trebuie să o înțelegeți în ceea ce privește AI-ul este faptul că, în esență, întreaga hardughie este o ... mașinărie statistică. În procesul de formulare a răspunsului, un motor AI nu face nimic altceva decât un proces repetat de ... estimare statistică a următorului caracter. Da, ați citit bine: algoritmul de bază al motorului AI este acela de a ghici următorul caracter pe baze statistice. Și-abia aici e partea fascinantă întrucât ceva atât de „basic” reușește chestiuni extraordinare. Așa se face că, dacă vreți să aveți o reprezentare mai corectă a unui algoritm AI gândiți-vă la el ca la un statistician automat care, pe baza datelor de intrare vă spune ceva de genul: prima literă care trebuie pusă este „D”, cu o probabilitate de 77%, a doua literă este „A”, cu o probabilitate de 94%. Iar probabilitatea întregului șir final „DA” este de 72.38%. Asta se întâmplă, în realitate, sub „carcasa” unui motor AI. 

De ce un AI e woke, de ce dă răspunsuri aberante unor chestiuni pe care le considerăm logice sau de ce refuză să facă anumite acțiuni? Sunt două chestii care intră în joc. Pe de o parte - și cu o dimensiune foarte mare - este ceea ce numim proces de antrenament, adică cel în care, pe baza unui set de antrenament să se regleze acei „comutatori” ai labirintului. Aceasta este operațiunea cea mai laborioasă și cea mai consumatoare de resurse. Un AI este woke din cauză că a fost antrenat pe date woke. Dacă în procesul de antrenament i s-a tot repetat că „nu există o definiție a femeii”, atunci „comutatoarele” sale vor fi astfel reglate pentru a da un astfel de răspuns. Nu e „conștiința” sa, ci modul în care a fost reglat în timpul procesului de antrenament.

Celălalt element se numește, în termeni de specialitate „guardrails”. E vorba de un set de restricții introduse după antrenament. De exemplu, un astfel de guardrail limita modelul Fable al celor de la Anthropic să proceseze solicitările legate de securitatea IT și să le redirecționeze către modelul Opus. Sau, cum au observat unii utilizatori, tot un guardrail este vinovat pentru refuzul unor motoare AI de a  întocmi plângeri penale împotriva Institutului Elie Wiesel. 

Stratul de guardrail nu e obligatoriu unul ideologic. El este cel care face un anumit model mai lperformant, constrângându-l să nu intre pe un teritoriu aberant, în care dă răspunsuri eronate. Este, dacă vreți, ultimul reglaj, de fiențe, care i se face unei mașini.

Acum, după ce am înțeles cum funcționează, să trecem la partea cealaltă. Mai precis în determinarea capcanelor acestor algoritmi. Am auzit atâtea aberații legate de AI încât chiar cred că trebuie să vă vorbesc serios despre zona capcanelor. Motivul nu ține de „apărarea” AI-ului ci, culmea, de evidențiarea adevăratului diavol care se ascunde în niște detalii atât de mărunte încât teoriile conspirației legate de AI sunt efectiv mici copii. 

În primul rând trebuie înțeles că AI-ul este un aspirator de date personale. Oamenii care se joacă „nevinovat” cu ChatGPT, Gemini, Claude sau mai știu eu ce model AI ar trebui să fie conștienți că dau atât de multe informații despre ei încât, la un moment dat, s-ar putea face un „gemen virtual” al lor. Niciodată nu a reușit vreo companie să dețină atâtea date personale câte adună un motor AI. Inclusiv cei de la companiile AI s-au speriat de naivitatea oamenilor. Și-aici nu e vorba doar de oameni, ci inclusiv de companii. În esență, datele colectate sunt utilizate la antrenarea/reantrenarea modelelor AI ale companiei. Atenție, nu vreau să exclud posibilitatea prin care anumite agenții de informații colectează programatic aceste date! Eu însă merg pe principiul că entitatea din spatele motorului AI este una corectă și acționează în numele propriului interes, iar acest interes o face să utilizeze datele anonim, pentru antrenarea modelelor sale. Aș vrea să înțelegeți exact de ce am spus că e interesul lor fundamental: pentru o companie AI, un set suplimentar de antrenament, pe  are nu-l are concurența, e mai valoros decât aurul!

Să ne imaginăm acum un scenariu clasic. Lui Dorel i se dă sarcina să evalueze un secret tehnologic al firmei la care lucrează. Să zicem că e vorba de o companie de servicii petroliere care a găsit o metodă novatoare de foraj și vrea ca, înainte de brevetare, să se asigure de viabilitatea sa. Pentru aceasta îi dă lui Dorel sarcina să evalueze anumiți parametri. Dorel, din dorința de a face „treabă bună”, încarcă documentația într-un motor AI și-i cere să-i evalueze parametrii. Adică îl pune să-i facă treaba sa. Motorul AI își face treaba bine, iar Dorel e felicitat. Doar că, după ceva timp, în altă parte a lumii, un utilizator întreabă același AI ceva de genul: „M-ar interesa o metodă novatoare de foraj, ceva care nu a mai fost utilizat fizic până acum”. Iar motorul începe să-i verse din documentația procesată pe care Dorel a pus-o la dispoziție. Și, uite-așa, firma lui Dorel se trezește că, atunci când merge să-și breveteze metoda, aceasta este deja brevetată. Din acest punct de vedere, treburile sunt devastatoare. N-aveți habar câte cantități de astfel de date se varsă spre AI!

Celălalt element care trebuie identificat și înțeles este, de-a dreptul ucigător pentru individ. E o dependență bolnăvicioasă cu care trebuie luptat cât se poate de conștient. Pentru a o înțelege, voi lua un exemplu simplu: drujba(*). Cred că e limpede pentru oricine că, spre deosebire de un tăietor de lemne cu toporul, cel care folosește drujba are o productivitate infinit mai mare. Dacă ai avea o exploatare forestieră, cu siguranță că nu ai angaja tăietori cu toporul, ci drujbari. Dar drujbarul nu are mușchii tăietorului cu toporul și nici abilitatea aceluia de a da cu toporul exact acolo unde a dar anterior. Într-adevăr, taie un copac de 100 de ori mai repede, dar dacă rămâne fără drujbă, e dus. Nu e capabil să mai taie nici măcar un copac.

În ceea ce privește AI-ul, toporul e propriul tău creier, propria ta rațiune, iar drujba e AI-ul. Externalizând din ce în ce mai multe sarcini către AI, ajungi să nu mai poți gândi. Așa cum cel care s-a obișnuit să navigheze cu GPS-ul devine incapabil să se orienteze pe hartă, la fel și cel care utilizează intensiv AI-ul se prostește programatic. Un cititor de-al meu, pe-ale cărui opinii le respect, spunea că a observat cum colegii săi  mai tineri din domeniul programării nu mai au habar de sintaxa de bază a limbajului de programare din cauza utilizării intensive a AI-ului. Într-adevăr, e simplu să-i spui unui AI ceva de genul „generează-mi interfața și logica pentru operațiunile CRUD(Create, Read, Update, Delete) ale tabelului „Clienti” din baza de date ERP. Utilizez React pe frontend și Node pe backend”. În câteva secunde îți va genera totul dar tu nu ai habar de nimic din ce e acolo. Mușchiul tău care te definește ca programator se atrofiază și se va dovedi infernal de grav atunci când vei avea cea mai mare nevoie de el, anume când AI-ul dă greș sau când intră într-o buclă absurdă, dându-ți aceeași soluție proastă. De ce? Pentru că el judecă în contextul strâns al sarcinii pe care i-ai dat-o, nu în contextul general al arhitecturii sistemului tău IT. Nu mai vorbesc că, prin MCP, i-ai dat acces la baza de date de producție a companiei tale.  

În contextul cursei nebune pentru productivitate pe care o vedem acum, inclusiv noi lucrăm intensiv cu AI-ul. Mai mulți dintre oamenii mei mi-au sesizat o stare de epuizare cum n-au mai avut înainte, cu toate că, din punct de vedere teoretic, au muncit mai puțin. Culmea, fenomenul e deja universal cunoscut! De fapt ce se întâmplă? În ciuda faptului că e un proces de externalizare, stai la fel de încordat, citești răspunsul, evaluezi, constați că nu a ținut cont de un parametru pe care l-ai uitat în specificații, contextul e deja contaminat, revii cu instrucțiuni suplimentare, reevaluezi, constați că s-a făcut o eroare de legătură, îl pui s-o repare s.a.m.d. Cu alte cuvinte intri într-un „loop”(buclă). Desigur, asta o poți externaliza către un agent AI, dar, din nou, e vorba de a ține lucrurile sub control. Cu toate că pare puțin lucru, epuizarea AI cred că este mult mai intensă și, culmea, ea se produce pe un fond în care, programatic, îți atrofiezi mușchii cognitivi.

De fiecare dată când termin ceva manual(de exemplu articolul de față), simt o eliberare. Poate că e și o oboseală, dar e și acel sentiment de eliberare, de liniște, care apare la finalizarea sarcinii. În cazul lucrului cu AI-ul ești privat de acest sentiment deoarece știi că e posibil să se fi strecurat o eroare, iar dacă eroarea asta bubuie ceva mai târziu nu vei mai ști de unde s-o iei. 

Ultimul element pe care vreau să-l subliniez este cel al capabilităților. Tot auziți chestiuni de genul că „AI-ul a inventat” ceva. E fals. AI-ul nu are capacitatea de a inventa, ci de a itera pe baza cunoștințelor acumulate. Puteți vedea AI-ul ca pe un bibliotecar care a ingerat întreaga colecție de cărți, având capabilitatea de a-ți răspunde în limbaj natural. Tu vrei să știi ce au avut de spus stoicii referitor la frica de viitor, iar el îți răspunde „Marc Aurelius a spus: Nu lăsa viitorul să-ţi strice liniştea. Dacă va fi nevoie, îl vei înfrunta cu aceleaşi arme ale raţiunii cu care lupţi astăzi împotriva prezentului”. Știe să extragă, să jongleze cu noțiunile, dar o face în spațiul bidimensional al antrenamentelor sale, nu reușește să facă saltul vertical. AI-ul generativ speculează că mintea umană lucrează în acest spațiu 2D al iterărilor statistice. Dintr-un astfel de spațiu nu se pot naște decât ori repetitori mecanici ai textelor spirituale indiene(cum e AI-ul a cărui siglă am folosit-o pentru ilustrarea articolului de față), ori idioți născuți din halucinație, gen Sadhguru. În niciun caz un Buddha.(am ales exemplul pentru că e de dată recentă apariția în spațiul nostru public a celui care-a „iluminat-o” pe Loredana). Din AI se pot naște mecanici care știu să pună corect o roată, nu ingineri care inventează un nou mijloc de locomoție.

Ar mai fi de continuat de-aici cu alte câteva aspecte, dar las pe data viitoare. Ca autor al acestui blog, eu lucrez „într-o singură iterație” și, când s-a ajuns la un număr prea mare de caractere, pur și simplu, mă opresc. :)

__

(*) Drujba este denumirea în română a fierăstrăului mecanic cu lanț. Tefeleii n-au cum să știe că denumirea vine din ... limba rusă. În anii 1950, Uniunea Sovietică a început producția în masă a unui fierăstrău mecanic numit Дружба. Numele a fost ales pentru a simboliza colaborarea tehnico-științifică și prietenia dintre ... Ucraina și Rusia. Privind acum la ceea ce se întâmplă, constatăm cu ironie istorică dreptatea pe care au avut-o cei care au ales să simbolizeze prietenia ruso-ucraineană printr-un fierăstrău mecanic.