luni, 19 ianuarie 2015

AI=Apocalipsa Inteligentei?

Anul trecut mi-am facut un sistem de şah. Nimic spectaculos: un sistem standard pe care-ţi instalezi un program de şah. În cazul meu Stockfish. Ceea ce a reprezentat o aroganţă a fost alegerea unui sistem cu două procesoare pentru a permite programului rularea la o capacitate decentă. Bani aruncaţi de pomana: de-atunci nu mai ştiu ce-nseamnă să câştigi o partidă de şah. De fapt, dacă e să fiu cinstit, trebuie să recunosc faptul că nu mai ştiu cum arată nici măcar o remiză. 

Să ne înţelegem bine: nu sunt un jucător fabulos de şah. Zilele în care mă visam maestru internaţional au apus de mult, lăsând şahul undeva în cămara cu lucruri mai puţin utilizate. Îmi place acest joc, simt că mă relaxează, însă lipsa unui partener permanent disponibil m-a făcut să apelez de-a lungul timpului la calculatoare. La începuturi, programele erau atât de slabe încât şi pentru un copil era floare la ureche să învingă sistemul. Între timp lucrurile au evoluat, culminând cu celebra serie de partide dintre Kasparov şi Deep Blue. Atunci a fost momentul zero al unei alte ere: maşina îi semnaliza clar omului că este capabilă să se ridice deasupra sa.
Nu exagerez deloc. În acest moment, sistemele de şah nu mai au adversari în oameni, ci în alte sisteme. Ştiu, veţi spune că în spatele fiecărui motor de şah se află oamenii, însă oamenii care fac motorul nu sunt capabili să-l depăşească. Dacă în ceea ce priveşte viteza sau ridicarea greutăţilor omul chiar se mândreşte cu capacitatea maşinilor care-i ies din mână, în ceea ce priveşte inteligenţa se pare că avem un complex grav. Niciodată până acum omul nu şi-a imaginat existenţa a ceva mai inteligent decât el care să nu fie Dumnezeu sau vreun înger de-al său. Apariţia unor maşini mai intelegente este un moment generator de frustrare. Momentul în care maşinile vor fi capabile să se auto-reproducă - denumit singularitate tehnologică - este văzut ca o apocalipsă a umanului şi o epocă în care maşina va decide totul, fiind capabilă să descifreze singură şi pentru sine toate secretele universului.

Dacă perspectiva vi se pare îndepărtată vă înşelaţi. Deja maşinile depăşesc oamenii, e drept, pe segmente extrem de reduse. Şahul este doar unul dintre ele. Fără a exclude posibilitatea existenţei unui grup de oameni capabili să învingă un sistem de ultimă generaţie, trebuie să înţelegem că pentru noi ceilalţi adevărul e unul singur: ne este imposibil să învingem o maşină la şah. De-aceea acest sport a decăzut atât de mult: înainte confruntările dintre marii maeştri erau mai mult decât confruntări în şah. Aveam personalităţi diferite care erau transpuse în jocul de şah. Acum, ce emoţie poate transmite confruntarea dintre o maşină dotată cu X procesoare şi una dotată cu Z procesoare?

Partea proastă pentru societatea umană este dată de faptul că aceste depăşiri "pe segmente" ale omului conduc spre bulversări ale întregii societăţi. O să vă prezint un exemplu pe care l-am văzut într-un documentar cu ceva timp în urmă. Este vorba despre automobilele care se conduc singure. Tehnologia a progresat fantastic şi nu mai este decât o chestiune de timp apariţia lor pe străzile oraşelor. Mulţi iau în râs acesastă perspectivă dând exemple de prostii făcute de diversele softuri ale acestor maşini. Uită însă că softurile se corectează. Momentul în care omul va fi total înlocuit de la şofatul maşinilor nu va fi cel în care maşina nu va mai face erori, ci cel în care maşina va face mai puţine erori decât omul. Iar acel moment este destul de aproape. Acum, cu această perspectivă în faţă, să vedem ce va reprezenta acel moment. Câţi oameni sunt angajaţi full time în industria de transport? De la autobuz, taxi, şofer privat, până la transportul de marfă sau conducerea utilajelor din industrie/construcţii, toate acestea au în spate oameni care-şi vor pierde joburile. Practic, oameni care vor deveni inutili. 

Dacă vi se pare o analiză superficială, similară cu cele de la începuturile introducerii tehnicii de calcul, vă înşelaţi. Lucrurile sunt mult diferite! Probabil domeniul transporturilor sau al construcţiilor sunt văzute ca domenii de bază, în care nu e nevoie de prea multă inteligenţă. Ce veţi spune însă în momentul în care veţi afla că IBM Watson e capabil nu numai să interpreteze limbajul natural, ci şi să proceseze şi să decidă dacă o anumită poliţă de asigurare poate despăgubi un anume eveniment. Vi se pare ceva simplu? Greşiţi! Încercaţi să citiţi prevederile unei poliţe de asigurare(da, tonele acelea de litere mărunte!) şi apoi să spuneţi dacă un automobil incendiat sau unul care a ars din cauza unei defecţiuni a motorului poate fi despăgubit. Nu e simplu deoarece în fiecare caz sunt câteva variabile esenţiale. În primul caz trebuie să ţii cont cel puţin de cine a incendiat autovehiculul, în ce fel, dacă a fost incendiat intenţionat sau accidental s.a.m.d. În cel de-al doilea caz ar trebui să ştii dacă era încă în garanţie, dacă i se făcuse revizia, dacă proprietarul sau altcineva a intervenit la motor s.a.m.d. În momentul în care o companie găseşte că o maşină este capabilă să ia astfel de decizii înseamnă că pentru cei angajaţi în acel domeniu zilele sunt numărate. Imaginaţi-vă câte armate de jurişti vor fi scoase din joc deoarece maşina face acelaşi job cu mult mai puţine erori. Şi dacă încă nu mă credeţi, probabil veţi fi surprinşi teribili în momentul în care procesele se vor desfăşura online având judecători automaţi. Acel moment, credeţi-mă, nu este departe!

Ajunşi aici poate trebuie să ne întrebăm ce rol îi mai rămâne omului în societate? Înlocuit treptat din toate domeniile de activitate, cu ce se va ocupa omul în continuare? Luaţi-vă gândul de la utopii precum "Venus Project". Omul este făcut să fie util, să gândească, să clădească, să evolueze. Având un competitor atât de puternic, acest drept îi este confiscat şi riscă să ajungă la stadiu de râmă sau de vieţuitoare protejată. Deocamdată e un risc, nu o fatalitate. Desigur tehnologia nu poate fi stopată, motiv pentru care, cel puţin va trebui să ne gândim la rolul nostru din viitor: ne vom folosi de "extensia de inteligenţă" precum ne folosim acum de macarale sau vom deveni prizonieri inutili într-o lume a monştrilor pe care noi i-am făcut. E o întrebare grea: poate cea mai dificilă de la crearea lumii până acum.

14 comentarii:

  1. Atât timp cât nicio mașinărie nu ajunge în top 300, omenirea e la adăpost. Neofeudalismul nu poate fi învins de niciun... terminator. HFT-ul îi suflă-n pânze.
    Totuși, în ziua în care se va trezi vreun gigel să dezvolte o mașinărie care să transfere averilor celor din top 300 în conturile lui, gigel va ajunge la pârnaie, iar mașinăria interzisă, în principiu, dar permisă în nuanțe dacă e pusă în slujba... binelui, adică a neofeudalismului, tocmai pentru ca oamenii să rămână harnici și creativi.

    RăspundețiȘtergere
  2. Posibil simbioza, teoretic ăsta înseamnă evolutie.

    RăspundețiȘtergere
  3. Lacomia omeneasca e prea mare.
    Ducand gandul mai departe, cu putin noroc, va fi sau nu va fi un "jihad butlerian"? Dar daca masinile vor sti de aceasta posibilitate, ne vor ucide inainte.

    P.S. oricum noi nu vom prinde asa ceva in viata noastra.

    ga4

    RăspundețiȘtergere
  4. In opinia mea creierul uman nu poate fi invins de vreo maisna niciodata...vorbim de un creier perfect mobilat si care functioneaza la parametrii nominali....eu nu conisder masinile intelignete vreun pericol....ce este insa periculos este ca se foloseste aceasta tehnologie fantastica in sens negativ....daca se imbunatatesc masini ca sa mearga singure (ca sofer acest viitor mi se pare de neacceptat) ce se va intampla cand se vor dezvolta drone care sa mearga si sa omoare anumite tinte ?
    Capacitatea creierului uman este fantastica iar ceea ce pare acum o depasire a mintii umane este de fapt o depasire a celor 5-7-10% procente pe care le folosim din capacitatea noastra intelectuala......in rest multumim pentru informatiile prezentate in articol...si pentru privilegiu de a exprima maruntele noastre opinii

    RăspundețiȘtergere
  5. Inceputul jihadului Butlerian? Scenariul lui Frank Herbert pare orecum plauziil.

    RăspundețiȘtergere
  6. Îmi permit un comentariu care poate părea nebunesc. Înțeleg dacă îl veți cataloga drept delir...

    Toate mașinăriile scornite de mintea omului nu sunt decât o încercare de a imita natura. Daca Dumnezeu poate crea materia după cum dorește, astfel încât ea sa existe după reguli stabilite de El, omul în schimb creează limitat doar de ceea ce materia lăsată de Dumnezeu ii oferă. Creierul nostru e format din miliarde de neuroni interconectați intre ei, fiecare în parte dintre ei fiind celule vii care consuma energie și produc impulsuri electrice transmise altor neuroni și asa mai departe. Ce este un procesor? Câteva milioane de tranzistori microscopici adunați pe o foarte mica plăcuta de siliciu. Dumnezeu a creat din foarte multe elemente chimice neuronul, omul a creat din siliciu tranzistorul, un "neuron" mult mai rudimentar și urat. Cum ne putem imagina ca un tranzistor va putea învinge complexitatea unui neuron?

    Calculatoarele înving la șah pentru ca asta sunt programate sa facă. Daca ai învață un copil de mic numai șah, cu siguranța creierul lui s-ar adapta și ar face fata oricărui calculator. Omul însa este o ființa la fel de complexa la scara macro asa cum este neuronul la scara micro. Nu-și poate permite luxul de a-și folosi darul de la Dumnezeu doar pentru a juca șah...

    Întrebarea este: de ce această nevoie de a crea mașini din ce in ce mai inteligente și de a înlocui omul peste tot unde se poate? Toată știința de pana acum lupta sa creeze un "om" mecanic, urat si neșlefuit sau, ca varianta de rezerva, o clona biologica, adică un plagiat sinistru al creației. Este forma de lupta a dracului, care vrea sa-i arate Creatorului ca și el poate... Nu doar știința se lupta in acest sens, media participa si ea prin tot felul de filme care sa ne inducă dorința de a crea roboti umani sau clone si de a privi acest lucru ca pe un act similar creației, ca pe ceva eroic si în același timp necesar. Nu va reamintesc decât câteva titluri: "I, Robot", "Automata", "Bladerunner", "Bicentennial Man". Puteți adaugă voi la lista asta si altele.

    Omul este creația lui Dumnezeu iar satanei nu-i place asta. De aici distrugerea întregii planete, prin exploatarea de-a dreptul deliranta a resurselor, tăierea pădurilor, secătuirea marilor de pești, poluarea fără precedent și, în final, înlocuirea omului cu ROBOTUL sau cu o clona, un "om" creat nu după chipul si asemănarea lui Dumnezeu ci după imaginația satanei și dorința lui bolnava de a strica tot ceea ce Dumnezeu i-a lăsat omului și chiar pe omul însuși...

    RăspundețiȘtergere
  7. Computerele poate imagina mutări la șah și pot să demonstreze teoreme, adică pot să rationeze abstract. Dar nu poți judeca un proces numai pe bază de raționamente abstracte, judecățile pe care le face un judecător trebuie să aibă aderență la realitatea umană (norme culturale, moralitate, etc).
    Interesant, unul dintre simptomele pierderii legăturii cu realitatea în schizofrenie este ceea ce se cheamă în psihopatologie "raționalism morbid": bolnavul nu mai înțelege realitatea socială și interpretează totul cu ajutorul unor principii abstracte, pe bază de raționamente. Un exemplu: un tată schizofren trebuie să îi cumpere fiicei muribunde un cadou de ziua ei. Îi cumpără un coșciug. Din punct de vedere logic decizia e justă. Din punct de vedere uman e o monstruozitate.
    Nimeni nu și-ar dori judecători care suferă de raționalism morbid, nu?

    RăspundețiȘtergere
  8. Cred ca exagerati destul de mult cu inteligenta artificiala. Ma refer la progresele facute. Suntem inca departe, si ma refer strict la capitolul programare a microprocesoarelor in domeniul asta.

    Exista ceva progrese timide, impusionate si de ieftinirea dramatica a microprocesoarelor, in parallel cu cresterea la fel de dramatica a puterii de procesoare, dar nu discutam in niciun caz de viitorul apropiat (10-20 de ani)

    Pana si un proces banal (da, e banal, in materie de luarea deciziei), cum ar fi condusul unei masini, si e extrem de greu de implementat. Mai devreme de 10 ani, nicio sansa sa vedem ceva la nivel industrial. Apropo, cat de usor e sa schimbe un cauciuc spart un astfel de robot? Caci or sa se mai faca si pene. Ce se va intampla? Masina ramane in mijlocul strazii si apeleaza 112 sa vina sa schimbe cauciucul? Asta apropos de inlocuirea soferilor la scara larga si de somaj. Mai plauzibil pare sa ai "pilot automat", dar asistat de un sofer uman.

    Progresele vor putea sa fie mai spectaculoase mai degraba in domeniul muncii pur intelectuale. Dar si acolo, suntem foarte departe. Pentru a fi util, robotul ala jurist nu e sufficient sa fie programat pe baza regulilor unui contract, caci nu am facut nimic, sa tot programezi reguli in el. Trebuie sa fie capabil sa preia ORICE contract de asigurare, scris in termenii juridici actuali, sa fie capabil sa il asimileze si sa ia decizii pe baza lui. Asta e inca tare, tare departe.

    Dar cred ca se va ajunge acolo, peste ceva vreme. Oricum o sa fie ciudat.



    RăspundețiȘtergere
  9. Probabil ca in timp ce masinariile avansate isi vor inlocui piese stricate unele altora, omul va fi (re)descoperit cum sa-si utilizeze creierul in proportie de 100% sau poate chiar mai mult.Astfel, in timp ce va levita langa crengile unui portocal, utilizand de la acesta doar cromatica, deoarece hrana a disparut ca si concept clasic, acum hrana fiind insusi informatia, va inchide ochii, calatorind instantaneu in cealalta parte a Universului (probabil utilizand gaurile de vierme care nu mai reprezinta un mister pentru nimeni) pentru a studia civilizatii mult inferioare care sapa dupa titaniu, sa zicem.Dupa care masinariile vor fi ele insele o civilizatie care a evoluat, si care nu mai are nimic in comun cu umanoizii, aceste doua entitati functionand in 2 planuri total diferite de existenta si care nu mai pot avea tangenta (cam cum nu au tangenta rechinii cu caprele negre-traiesc in 2 medii total diferite : marin-terestru).

    RăspundețiȘtergere
  10. Faptul ca omul nu poate folosi 100% din creier este un mit (gasiti explicatii destule pe net). Ba din contra, s-a constatat ca un om inteligent

    (antrenat) isi foloseste mai putin creierul pentru o anumita activitate cognitiva fata de un om mai putin antrenat. Mai departe, cu cat creierul

    este folosit mai intens cu atat oboseste mai repede, consuma mai multe resurse si are nevoie mai repede de odihna.
    In mod paradoxal oamenii inteligenti isi folosesc creierul mai putin intens si astfel sunt capabili sa o faca pe o perioada mult mai mare de

    timp.

    Explicatia acestui fapt este ca functionarea creierului difera fundamental fata de functionarea un calculator si este diferita chiar de modul

    cum ni s-ar parea noua "de bun simt".

    Creierul este o retea neuronala unde mai mult decat numarul de neuroni conteaza coexiunile si functiile acestor conexiuni. Creierul invata prin

    modificarea conexiunilor dintre neuroni (numar si mod de interactiune). Procesul de invatare este ceva de genul: la o anumita combinatie de

    stimuli (input) reteaua neuronala trebuie sa isi modifice structura astfel incat sa obtina un raspuns cat mai apropiat de o combinatie

    predefinita de reactii (standard output). Dupa invatare, in prezenta unui input similar (nu inotdeaua identic) se va obtine output-ul standard.

    In plus fata de activitetea de invatare mai exista creativitatea. Aceasta, desi este ceea ce ne deoasebeste funamental de orice altceva din

    acest univers, nu poate fi explicata ca mecanism de functionare. Cu atat mai mult simulata sau copiata.

    Cateva cifre.
    Un creier uman are aprox 20 miliarde de neuroni (desi sunt 86 miliarde in tot sistemul nervos). Numarul de sinapse (conexiuni) este de ~10 la

    puterea 15, adica 1 milion de miliarde de conexiuni. Aceste conexiuni au un numar foarte mare de modalitati de a functiona (nu doar 0 si 1 ca la

    procesor). Se obtine un numar extraordinar de mare de "moduri" (de configuratii) in care creierul poate sa se afle. Practic creierul poate

    invata foarte multe lucruri. Ca sa o faca are nevoie de timp si de expunere (experienta). Insa cel mai important: odata invatata o anumita

    actiune "viteza de procesare" este aproape instantanee indiferent de complexitatea actiunii.

    Despre procesoare.
    In prezent procesoarele trec de 1 miliard de tranzistori, iar daca le asezam in supercomputere putem ajunge la mii sau zeci de mii de miliarde

    de tranzistori. Insa modul de functionare este altul fata de creier. Nu exista conexiuni intre toate elementele, functioneaza binar (doar 0 si

    1), procesarea necesita timp: cu cat procesarea e mai complexa cu atat timpul necesar este mai indelungat. Si cel mai important lucru: este

    nevoie de un program (software) ca sa-l faca sa functioneze.

    Practic transferul de inteligenta de la om la masina sa face prin programare. Activitatea de programare este cea care necesita creativitate

    umana si care necesita timp pentru realizare. Este infinit mai importanta inteligenta umana investita si timpul investit in activitatea de

    programare decat timpul in care calculatorul executa actiunea pentru care a fost programat. Timpul de a scrie un program de sah dureaza mult mai

    mult decat partida jucata de calculator.

    In concluzie: oricat de evoluat ar fi un computer, nu va reusi sa fie creativ prin el insusi. Nu va reusi sa se adapteze unei situatii noi care

    nu a fost deja imaginata de programator si inglobata in program. Ori sa faci un program care sa prinda toate starile ipotetice care pot exista

    este imposibil.

    RăspundețiȘtergere
    Răspunsuri
    1. Bun comentariu.Totusi, nimic nu este imposibil.Pentru ca nu a facut nimeni un asemena program, nu inseamna ca nu se poate.Bunicul meu nu a putut niciodata sa inteleaga cum platesc eu motorina cu cardul,Degeaba i-am explicat despre transferul de informatie intre firma-banca-pompa, el nu intelegea unde intra banii in cardul ala subtirel...A murit convins ca e imposibil si ca-l mint eu cu ceva.Zicea ca-i imposibil ce-i spun.La fel si cu sistemul GPS si hartile electronice.N-a priceput niciodata.Asa spuneti si d-voastra mai sus.Solutiile nu-s intotdeauna conventionale, si ideile revolutionare constau tocmai in originalitatea lor.

      Ștergere
    2. "Nu va reusi sa se adapteze unei situatii noi care nu a fost deja imaginata de programator si inglobata in program."

      Si totusi creierul omenesc, un procesor in esenta, poate face asta, fara sa fi fost programat pentru toate situatiile. Daca AI-ul se inspira din realitate, atunci va fi posibil sa se adapteze si sa invete, astfel incat sa faca fata la orice situatie, ca si oamenii. E o chestiune de timp numai.

      Ștergere
  11. "Nu va reusi sa se adapteze unei situatii noi care nu a fost deja imaginata de programator si inglobata in program"
    Pentru cei care inca mai cred in aceasta afirmatie, le recomand www.wikipedia.org/wiki/Machine_learning

    RăspundețiȘtergere