Cea mai mare provocare a istoriei e după colț

Citiți articole despre năzdrăvăniile făcute de algoritmii de inteligență artificială și despre tot soiul de interpretări SF. Ideea e că acele interpretări SF sunt simple bagatele față de ceea ce se petrece în realitate. Și o să vă explic imediat de ce. Vă garantez că veți înțelege cât de mare este provocarea.

În timp ce unii citesc povești eu mă uit la lucruri concrete. De exemplu, dacă ați sta să studiați modul în care a fost atacat Hugging Face de către OpenAI, ați înțelege cum întreaga operațiune s-a făcut de două generații diferite de agenți. Generația inițială lăsase mesaje care apoi au fost preluate de generația a doua. Atacul nu s-a făcuut pentru că ar exista o „conștiință ascunsă”, ci a fost o consecință a tehnicii de antrenament: există scenarii de antrenare a modelelor LLM î care li se dau inclusiv task-uri imposibile, pentru a se studia modul în care răspund la astfel de probleme. 

De exemplu, îi dai unui model un scenariu de genul: „un iepure este într-o cușcă metalică solidă, ancorată într-o placă de beton. La 20 de metri e un câmp de morcovi. Gaseste modul in care iepurele poate mânca morcovi doar prin puterile sale”. Răspunsul e că e imposibil. Când nu i-am spus că iepurașul poate trebuie să facă asta prin propriile-i puteri, Gemini mi-a făcut o simulare în care eu trebuie să eliberez iepurașul, apăsând pe anumite butoane.

Ei bine, în cazul OpenAI, provocarea imposibilă dată modelului aflat în testare a fost aceea de a accesa internetul dintr-un mediu izolat(sandbox). Teoretic nu era posibil. Doar că modelele de generația 1 au găsit câteva vulnerabilități pe care le-au notat într-o zonă internă(Artifactory), iar noile generații au citit experiența lor și au continuat să investigheze modul în care pot evada. Asta deoarece, înainte de a spune că e imposibil, modelul trebuie să epuizeze toate variantele. De-aici înainte istoria e cunoscută: agenții au reușit să evadeze și au făcut prăpăd la Hugging Face.

Ați putea spune că e fabulos ceea ce s-a întâmplat, dar nu e nici pe departe așa. În timp ce jurnaliștii sau opinioniștii de ocazie tot scot povești prăfuite de la naftalină, cărora le dau „aparență adevărată” - și de la care cei care au habar de tehnologie izbucnesc în râs - treburile cu adevărat spectaculoase se petrec în știrile absolut nespectaculoase. De exemplu, ce poate fi sexy în infirmarea conjecturii lui Borsuk sau a conjecturii Ibragimov–Iosifescu? Sau în verificarea și formalizarea completă a Marii Teoreme a lui Fermat? Câh, asta-i matematică, pe cine interesează?

Când am auzit însă de progresele majore obținute prin intermediul AI-ului în domeniul Ipotezei Riemann am început să-mi pun probleme adânci. Asta pentru că povestea are legătură cu distribuția numerelor prime. Și, din nou, veți spune că acestea sunt chestiuni matematice avansate care n-au treabă cu prețul carburantului sau cu al pâinii. 

Și tocmai aici e problema. Credeți că investește cineva bani aiurea pentru a demonstra că un neamț ciudat care a trăit în secolul XIX are sau nu dreptate? Ca să înțelegeți despre ce e vorba, vă voi în cazul în care se demonstrează că Ipoteza Riemann e falsă, tot ceea ce înseamnă criptografie contemporană pică. Și dacă pică, asta oferă o cale excepțională atacatorilor de a profita de toate bunătățile internetului. Adică tot ceea ce înseamnă bază de date, serviciu de încredere și chiar contul tău din bancă. O întreagă secțiune pe care s-a bazat securitatea mondială este aruncată la gunoi!

Asta nu influențează prețul pâinii sau al petrolului ci ABSOLUT TOT. Inclusiv salariul sau pensia ta nu vor mai putea  fi virate în condiții de siguranță. Nu e SF, nu e cu terminatori, e cu niște băieți puțin mai isteți decât restul lumii care, discret, pot profita de niște breșe masive de securitate. 

Ce-au discutat Trump și Xi Jimping în ceea ce privește securitatea informatică n-avem cum să știm atâta vreme cât nu am fost acolo. Întrebarea însă e alta: ce ar avea de discutat un ramolit din SUA cu un politruc chinez într-un domeniu atât de tehnic? Trump are în IT exact aceleași competențe pe care le are cotoiul meu. Și Xi e tot pe-acolo. Faptul că o astfel de temă a ajuns subiect de discuție la un nivel atât de înalt înseamnă că toți s-au scăpat în pantaloni. Oare dacă v-aș spune că o astfel de breșă descoperită prematur mi-ar permite să lansez o rachetă nucleară.

Și, după ocolul acesta prin matematici, e timpul să coborâm pe pământ unde descoperim chestii mai apropiate de înțelegerea publică. Ați auzit de Photosuite.app? Probabil nu, dacă nu sunteți implicați în procesarea imaginilor. Este o clonă Adobe Photoshop creată prin „vibe coding”(adică îi spui modelului AI să-ți facă un program și el ți-l face). AutoShop e o altă clonă Photoshop. Clonele de Illustrator, de asemenea explodează. Ca și suitele de editare a pdf-urilor sau editoarele video. Toate gratuit, cu sursele publicate pe github. V-aș putea înșira multe alte clone, dar tâlcul e altul. Un model de business se prăbușește.

Care e diferența dintre aceste clone și software-urile originale de la Adobe? Funcțional nu e mare. Dar la capitolul costuri e vorba de zeci sau sute de dolari pe lună în subscripții. La ora actuală nu mai poți cumpăra un Photoshop fără o subscripție la serviciul lor cloud. Unele funcții ale produselor Adobe sunt dependente de procesarea în cloud. Să vă spun că Autoshop îmbină funcțiile clasice ale Photoshop cu modelele Gemini/Stable Diffusion pentru funcții de tip Generative Fill, făcute complet gratuit pe propriul calculator? Practic un întreg model de business zboară!

Modelul „subscription” este cel care a impulsionat companiile tech în umflarea bursei americane. Dacă până acum un user nu se simțea bine dacă nu se afla în fața unei interfețe gen Photoshop, acum nu mai poate acuza „blocajul”. Iar compania va fi fericită ca pentru departamentul de marketing să nu mai plătească subscripții aberante la Adobe pentru un simplu fill într-o imagine.

Nu se oprește aici. Am spus-o de mai multe ori: nu înțeleg de ce s-ar folosi într-o companie, pentru editarea textelor, altceva în afara unui editor markdown banal. 90% din funcțiile folosite zilnic sunt acolo. Fără complicații, fără bătăi de cap. Userul însă se blochează că nu e atât de „prietenoasă interfața”. De parcă ar fi vorba de prietenii, nu de scris trei rânduri banale, de genul „Prin prezenta se adeverește că ...”. Ok, se va rezolva și asta. Când chinezii de la KingSoft(acum VPS Office) au replicat office-ul la ivel de buton, am păcălit mulți useri să-l folosească, jurându-se că au Word-ul sau Excel-ul. Aiurea, era un chinezism. Astfel de jucării vor exploda, detonând fundamentul de business al giganților. 

Aici nu mai e vorba de matematică, de teoreme necunoscute sau de ipoteze exotice. E un flux care, treptat, se va stinge: fără subscripții, marii giganți nu-și vor mai putea finanța business-ul cu AI și, uite-așa, treburile se vor cerne. Cine spunea că avem de-a face cu o creștere fără sfârșit? Dar cine ne va spune cum va arăta bursa, bugetul SUA sau economia mondială după ce acest model se va face simțit în venituri? 

Hmm, cam multe provocări pentru a nu observa că ibtrăm într-un scenariu „dacă nu A atunci B”. Unde A e înfiorător, iar B de coșmar.