Carte / Idei

Vor deveni computerele stăpânii noștri

de Venki Ramakrishnan

Publicat pe 21 mai 2019

Inteligența artificială a ieșit de mult din zona speculațiilor SF și e azi parte din viața de zi cu zi a celor mai mulți locuitori ai planetei: de la conversațiile cu Siri sau Alexa, la filtrele care ne sortează automat emailurile, căutările noastre pe Google sau algoritmii care învață ce muzică, filme sau produse să ne recomande. Evoluția de până acum a inteligenței artificiale și a relației oamenilor cu ea e, însă, un experiment fără precedent, astfel încât viitorul ei nu e deocamdată nici pe departe previzibil. În Minți posibile, cartea pe care a editat-o anul acesta, John Brockman, agent literar și autor de literatură științifică, invită 25 de cercetători și gânditori influenți să reflecteze tocmai asupra acestor posibile scenarii pentru viitor: va deveni inteligența artificială opresivă cu oamenii sau îi va fi slujitor credincios? Cum aplicăm valorile noastre morale atunci când creăm roboți și când vom vorbi despre drepturile mașinilor?

Sunt doar două întrebări din Minți posibile, cartea proaspăt tradusă de George Chiriță la Editura Vellant, în care semnează, printre alții, Daniel C. Dennett, unul dintre cei mai relevanți filosofi din zilele noastre, Max Tegmark, fizician la MIT și președinte al Institutului Future for Life, Steven Pinker, profesor de psihologie la Harvard și autor de bestseller-uri, Hans Ulrich Obrist, directorul artistic al galeriei londoneze Serpentine, sau Anca Drăgan, profesoară la Berkley și cercetătoare la Centrul de Inteligență Artificială Compatibilă cu Omul. Cele 25 de eseuri, foarte diferite și ca bagaj ideologic, și ca domeniul de explorare, și ca abordare, construiesc împreună un rollercoaster palpitant de idei, argumente și ipoteze. Dintre ele, am ales să publicăm capitolul scris de Venki Ramakrishnan, chimist premiat cu Nobel în 2009, cercetător la Laboratorul de Biologie Moleculară al Consiliului de Cercetare Medicală de la Universitatea Cambridge și autor al cărții Gene Machine: The Race to Discover the Secrets of the Ribosome. 

Capitolul 18: Vor deveni computerele stăpânii noștri

Un fost coleg al meu, Gérard Bricogne, obișnuia să glumească spunând că inteligența bazată pe carbon este doar un catalizator pentru evoluția inteligenței bazate pe siliciu. Mult timp, atât filmele de la Hollywood, cât și profeții științifici au preconizat capitularea noastră în fața stăpânilor noștri, computere. Cu toții așteptăm singularitatea, care pare întotdeauna să fie după colț.

Într-un anumit sens, computerele au preluat deja controlul, facilitând practic fiecare aspect al vieților noastre – de la banking, călătorii și utilități până la cele mai intime comunicări personale. Pot să-l văd și să vorbesc gratuit cu nepotul meu din New York. Îmi amintesc când am văzut prima dată filmul din 1968 intitulat 2001: Odiseea spațială, publicul a râs când a auzit prețul ridicol de ieftin de 1,7 dolari pentru un apel telefonic cu imagini venite din spațiu, în acel moment un apel la distanță costând 3 dolari pe minut în Statele Unite.

Totuși, comoditatea și puterea computerelor este și ceva asemănător unui târg faustic, deoarece vine la pachet cu pierderea controlului. Computerele ne împiedică să facem lucrurile pe care vrem să le facem. Încearcă să te urci într-un avion dacă ajungi la aeroport și sistemele de computere nu funcționează, așa cum i s-a întâmplat cu puțin timp în urmă companiei British Airways la aeroportul Heathrow. Avioanele, piloții și pasagerii erau toți acolo, chiar și controlul traficului aerian funcționa. Dar niciun avion al companiei aeriene nu putea decola. Computerele ne fac și să facem lucruri pe care nu vrem să le facem – generând liste de e-mailuri și tipărind etichete pentru a ne trimite milioane de e-mailuri nedorite pe care noi, oamenii, trebuie să le sortăm, expediem și ștergem.

Dar nu ați văzut nimic încă. În trecut, am programat computerele folosind algoritmi pe care i-am înțeles cel puțin în principiu. Și, când mașinile au obținut rezultate uimitoare, cum ar fi să-l învingă pe campionul mondial la șah, Garry Kasparov, am putut spune că programele victorioase au fost proiectate cu algoritmi bazați pe propria noastră înțelegere – folosind, în acest caz, experiența și sfaturile celor mai buni jucători de șah. Mașinile erau pur și simplu mai rapide la efectuarea calculelor brute, aveau volume prodigioase de memorie și nu erau pasibile de eroare. Un articol a descris victoria lui Deep Blue nu ca pe cea a unui computer, care era doar o mașină proastă, ci ca victoria a sute de programatori asupra lui Kasparov, un singur om.

Acest mod de programare se modifică dramatic. După o discontinuitate mare, puterea învățării automate a prins aripi. O mare parte din schimbare a venit atunci când programatorii, în loc să încerce să anticipeze și să codeze toate contingențele posibile, au permis computerelor să se instruiască singure în ce privește datele, folosind rețele neuronale profunde bazate pe modele pentru cum învață creierele noastre. Folosesc metode probabilistice pentru „a învăța“ din volume mari de date. Computerele pot recunoaște tipare și pot trage concluzii fără ajutorul oamenilor. O metodă foarte puternică pare să fie învățarea cu întărire, prin care computerul învață, fără intrări anterioare, ce variabile sunt importante și câtă pondere să le acorde pentru a atinge un anumit obiectiv. Această metodă imită într-o oarecare măsură modul în care învățăm când suntem copii. Rezultatele acestor abordări noi sunt uimitoare.

Un astfel de program de învățare profundă a fost folosit pentru a învăța un computer să joace Go, un joc despre care doar până acum câțiva ani se credea că nu poate fi jucat de o inteligență artificială pentru că era atât de greu să estimezi cât de bine stai. Se pare că cei mai buni jucători de Go se bazau foarte mult pe intuiție și pe estimarea poziției, deci se considera că priceperea necesita un anumit tip de inteligență umană. Dar programul AlphaGo produs de DeepMind, după ce a fost instruit din mii de jocuri Go de nivel superior jucate de oameni și apoi de milioane de jocuri pe care le-a jucat cu el însuși, a putut foarte repede să-i bată pe cei mai buni jucători din lume. Și mai uimitor este faptul că programul corespunzător AlphaGo Zero, care a învățat totul de la zero jucând singur, a fost mai puternic decât versiunea instruită inițial pe jocurile cu oameni! Este ca și cum oamenii au împiedicat computerul să ajungă la potențialul său maxim. Aceeași metodă a fost recent generalizată: începând de la zero, în numai douăzeci și patru de ore, un program echivalent de șah de la AlphaZero a reușit să învingă cele mai bune programe de șah „convenționale“ de astăzi, care, la rândul lor, au învins cei mai buni oameni.

Progresul nu a fost restricționat la jocuri. Computerele sunt semnificativ mai bune la recunoașterea imaginilor și la sintetizarea vocii decât erau înainte. Pot detecta tumorile din radiografii mai devreme decât majoritatea oamenilor. Diagnosticele medicale și medicamentele personalizate se vor îmbunătăți substanțial. Transportul cu mașinile autonome ne va menține pe toți în siguranță, în medie. Probabil nepotul meu nu va trebui să-și ia niciodată permisul de conducere, pentru că a conduce o mașină va fi cum este astăzi călăritul – un hobby pentru câțiva oameni. Activitățile periculoase cum ar fi minatul și activitățile repetitive și plictisitoare vor fi făcute de computere. Statul va oferi servicii publice mai precise, mai personalizate și mai eficiente. Inteligența artificială poate revoluționa educația analizând toate nevoile individuale ale elevilor și permițând predarea personalizată, astfel încât toți elevii să poată avansa la o rată optimă.

Alături de aceste beneficii uriașe, bineînțeles, vom avea și riscuri alarmante. Cu volumul vast de date personale, computerele vor putea afla mai multe despre noi decât știm noi înșine despre noi; cine deține datele despre noi va deveni o întrebare foarte importantă. În plus, deciziile bazate pe date vor reflecta fără îndoială predilecțiile sociale: chiar și un așa-zis sistem inteligent neutru conceput pentru prezicerea riscurilor de credit, să spunem, poate trage concluzia că simpla calitate de membru al unui grup minoritar te predispune la incapacitatea de rambursare a împrumutului. Deși acesta este un exemplu evident pe care-l putem corecta, pericolul real este că nu suntem întotdeauna conștienți de predilecțiile din date și le putem perpetua pur și simplu.

De asemenea, învățarea automată poate perpetua propriile noastre prejudecăți. Când Netflix sau Amazon încearcă să-ți spună ce ți-ar plăcea să vizionezi sau să cumperi, aceasta este o aplicație a învățării automate. În prezent, astfel de sugestii sunt uneori ridicole, dar cu timpul și cu mai multe date, vor fi din ce în ce mai precise, fortificându-ne prejudecățile, ce ne place și ce nu ne place. Vom rata oare ocazia întâlnirii aleatorii care ne-ar putea convinge să ne schimbăm părerea prin expunere la idei noi și contradictorii? Social-media, dată fiind influența sa asupra alegerilor, este un exemplu destul de clar pentru modul în care poate fi accentuată falia dintre oamenii care se află în părți diferite ale spectrului politic.

Probabil am atins deja etapa în care majoritatea guvernelor nu mai au puterea să reziste la influența combinată a câtorva companii multinaționale puternice care ne controlează pe noi și viitorul nostru digital. Lupta dintre companiile dominante de astăzi este, de fapt, o luptă pentru controlarea datelor. Acestea își vor folosi influența lor enormă pentru a împiedica reglementarea datelor, pentru că sunt interesate de controlul absolut asupra lor. În plus, posedă resursele financiare pentru a-i angaja pe cei mai talentați oameni din domeniu, sporindu-și astfel și mai mult puterea. Ne-am cedat datele personale în schimbul câtorva servicii gratuite precum Gmail și Facebook, dar, după cum evidenția autorul și jurnalistul John Lanchester în London Review of Books, dacă este gratuit, atunci tu ești produsul. Clienții lor adevărați sunt cei care-i plătesc pentru a primi acces la cunoștințele acumulate despre noi, pentru a ne putea convinge să le cumpărăm produsele sau pentru a ne influența în altă privință. O metodă de a evita monopolul asupra datelor este să împărțim titlul de proprietate asupra datelor unor firme care le utilizează. Persoanele individuale ar deține și controla astfel datele lor cu caracter personal (un model care ar încuraja competiția, devreme ce oamenii ar fi liberi să-și mute datele la compania care oferă servicii mai bune). În cele din urmă, folosirea abuzivă a datelor nu este limitată la corporații: în regimurile totalitare sau chiar și în cele democrate cu numele, guvernele știu lucruri despre cetățenii lor pe care nici Orwell nu și le-ar fi putut imagina. Modul în care utilizează aceste informații nu este întotdeauna transparent și nu poate fi contracarat mereu.

Ideea de inteligență artificială în scopuri militare este înspăimântătoare. Ne putem imagina sisteme inteligente care sunt proiectate să acționeze autonom în baza datelor obținute în timp real, care pot acționa mult mai repede decât inamicul, inițiind războaie catastrofale. Astfel de războaie nu sunt neapărat convenționale sau nucleare. Dată fiind importanța rețelelor de computere în societatea modernă, este mult mai probabil ca războaiele inteligențelor artificiale să fie purtate în spațiul cibernetic. Consecințele pot fi la fel de grave.

 

În ciuda acestei pierderi a controlului, continuăm să mărșăluim inexorabil într-o lume în care inteligența artificială va fi peste tot. Indivizii nu vor putea rezista comodității și puterii, iar corporațiile și guvernele nu vor putea rezista avantajelor sale competitive. Dar iau naștere întrebări importante legate de viitorul muncii. Computerele sunt responsabile de pierderi considerabile în rândul meseriilor de muncă manuală în ultimele decenii, dar, până de curând, meseriile de birou – meserii pe care „le pot face doar oamenii“  – erau considerate sigure. Brusc, acest lucru nu mai este adevărat. Contabili, mulți profesioniști din domeniul dreptului sau medicinei, analiști financiari și brokeri, agenți de turism – de fapt, mulți angajați la birou – vor dispărea ca urmare a programelor sofisticate de învățare automată. Vom face față unui viitor în care fabricile vor scoate pe bandă rulantă produse cu foarte puțini angajați, iar transportul bunurilor este în mare parte automatizat, la fel ca multe alte servicii. Ce mai rămâne de făcut pentru oameni?

În 1930 – cu mult timp înainte de apariția computerelor, cu atât mai mult a inteligenței artificiale –, John Maynard Keynes scria, într-un eseu numit „Posibilitățile economice ale nepoților noștri“, că, din cauza îmbunătățirilor productivității, societatea poate produce toate lucrurile de care are nevoie cu o săptămână de lucru de cincisprezece ore. De asemenea, a preconizat, odată cu creșterea timpului liber petrecut în mod creativ, sfârșitul banilor și avuției ca scop în viață:

Vom putea să ne permitem să îndrăznim să evaluăm motivul banilor la valoarea sa adevărată. Dragostea față de bani ca posesie – diferită de dragostea față de bani ca mijloc de obținere a plăcerilor și realităților vieții – va fi recunoscută pentru ceea ce este, o morbiditate oarecum dezgustătoare, una dintre acele înclinații semicriminale, semipatologice pe care le predăm ridicând din umeri specialiștilor în boli mintale.

Din păcate, predicția lui Keynes nu s-a adeverit. Deși productivitatea a crescut, într-adevăr, sistemul – posibil inerent într-o economie de piață – nu a avut ca efect mai puține ore de lucru. În schimb, s-a întâmplat ceea ce antropologul și anarhistul David Graeber a descris ca fiind creșterea „meseriilor de rahat“*. În timp ce meseriile care produc elemente esențiale precum alimente, adăpost și bunuri au fost în mare parte automatizate, am văzut o extindere enormă a unor sectoare precum legislația corporatistă, administrarea academică și a sănătății (în opoziție cu predatul efectiv, cercetarea și practica medicinei), „resursele umane“ și relațiile publice, fără a mai menționa industriile noi precum serviciile financiare și telemarketingul, și industriile auxiliare în așa numita economie a gigurilor, care servește persoanelor care sunt prea ocupate făcând toată munca suplimentară.

Cum se vor descurca societățile cu tehnologia care distruge rapid întregi profesii și lasă un număr mare de oameni fără loc de muncă? Unii argumentează că această grijă se bazează pe o premisă falsă, pentru că iau naștere meserii care nu existau înainte, dar, subliniază Graeber, aceste meserii noi nu vor fi neapărat satisfăcătoare și nu ne vor face să ne simțim împliniți. În timpul primei revoluții industriale, a durat aproape un secol înainte ca mulți oameni să aibă o situație mai bună. Acea revoluție a fost posibilă doar pentru că guvernele vremii favorizau acerb drepturile de proprietate asupra muncii și cei mai mulți oameni (și toate femeile) nu aveau dreptul de vot. În societățile democratice de astăzi, nu este clar dacă populația va tolera o răsturnare atât de spectaculoasă a societății în baza promisiunii că, „în cele din urmă“, lucrurile se vor îmbunătăți.

Chiar și această viziune edulcorată va depinde de reformarea radicală a educației și a procesului de învățare de-a lungul vieții. Revoluția industrială a determinat schimbări sociale enorme de acest tip, inclusiv o alunecare către educația universală. Dar nu se va întâmpla decât dacă o facem noi să se întâmple: esențialmente, este vorba despre putere, mijlocire și control. Ce urmează pentru, să spunem, șoferul de taxi sau de camion, în vârstă de patruzeci și șase de ani, în era mașinilor autonome?

O idee care a fost vehiculată este cea a venitului de bază universal, care va permite cetățenilor să-și urmărească interesele, să se respecializeze pentru alte ocupații și, în general, să fie liberi să trăiască o viață decentă. Însă economiile de piață, care au la bază o cerere din ce în ce mai mare din partea consumatorului mai mult decât orice altceva, probabil nu vor tolera această inovație. De asemenea, există senzația că a găsi sens în munca prestată este un element esențial pentru demnitatea umană și sentimentul de împlinire. Deci altă posibilitate ar fi ca bogăția enormă generată de productivitatea crescută datorită automatizării să fie redistribuită pentru meseriile ce necesită muncă și creativitate umane, în domenii precum arta, muzica, asistența socială și alte activități ce merită efortul. În cele din urmă, ce meserii vor fi satisfăcătoare sau productive și care vor fi „de rahat“ ține de părerea fiecăruia și pot varia de la societate la societate, precum și în funcție de timp.

 

Până acum m-am concentrat pe consecințele practice ale inteligenței artificiale. Ca om de știință, ce mă deranjează pe mine este posibilitatea de a pierde înțelegerea. Acum acumulăm date la o rată incredibilă. Doar în laboratorul meu, un experiment generează mai mult de un terabyte de date pe zi. Aceste date sunt transformate în mesaje, analizate și reduse până când ajungem la un rezultat interpretabil. Dar în toată această analiză de date, credem că știm ce se întâmplă. Știm ce fac programele, pentru că noi suntem cei care am proiectat algoritmii de la zero. Prin urmare, când computerele noastre generează un rezultat, simțim că îl înțelegem intelectual.

Noile programe de învățare automată sunt diferite. Recunoscând tiparele prin intermediul rețelelor neuronale profunde, generează concluzii și nu știm exact cum. Când descoperă relații, noi nu le înțelegem în același fel ca și cum am fi dedus acele relații noi înșine, utilizând un cadru teoretic subiacent. Pe măsură ce seturile de date devin mai mari, nu le vom putea analiza noi înșine, chiar și cu ajutorul computerelor; mai degrabă ne vom bizui în întregime pe computere să facă analiza pentru noi. Așadar, dacă cineva ne întreabă cum știm ceva, vom spune pur și simplu că mașina a analizat datele și a produs concluzia.

Într-o bună zi, un computer poate prezenta un rezultat cu totul nou – de exemplu, o teoremă matematică a cărei demonstrație sau chiar a cărei ipoteză nu poate fi înțeleasă de niciun om. Acesta este un mod filosofic diferit de modul în care am practicat știința până acum. Sau, cel puțin, de modul în care am crezut că am practicat-o. Unii ar putea argumenta că nu știm nici cum ajung creierele noastre la anumite concluzii și că aceste metode sunt o cale de a imita învățarea realizată de creierul uman. Cu toate acestea, mie mi se pare înspăimântătoare această posibilă pierdere a înțelegerii.

În ciuda avansurilor remarcabile din domeniul tehnicii de calcul, febra inteligenței artificiale generale – o mașină generală de inteligență care va gândi ca un om și, probabil, va dezvolta conștiință – mie îmi miroase a science-fiction, în mare parte pentru că nu înțelegem creierul la acel nivel de detaliu. Nu doar că nu înțelegem ce este conștiința, nu înțelegem nici măcar o problemă relativ simplă, de exemplu, cum reușim să ținem minte un număr de telefon. În această întrebare simplă, trebuie să luăm în considerare o mulțime de factori. Cum știm că este un număr? Cum îl asociem unei persoane, unui nume, unei fețe și altor caracteristici? Chiar și astfel de întrebări aparent triviale implică totul de la cogniția de nivel superior și memorie până la modul în care o celulă stochează informațiile și cum interacționează neuronii.

În plus, aceasta este doar o sarcină printre multe altele pe care creierul le face fără efort. În timp ce mașinile vor face, fără îndoială, lucruri din ce în ce mai minunate, este puțin probabil să înlocuiască gândirea, creativitatea și viziunea umane. Eric Schmidt, fostul președinte al companiei Google, a spus într-un interviu recent la Muzeul de Științe din Londra că până și simpla desemnare a unui robot să curețe masa, să spele vasele și să le așeze va fi o provocare uriașă. Calculele implicate de a programa toate mișcările pe care trebuie să le facă corpul pentru a arunca o minge cu precizie sau de a face slalom pe schiuri sunt vaste. Creierul poate face toate acestea, făcând în același timp și calcule matematice sau muzică și inventând jocuri precum șah și Go, nu doar să le joace. Avem tendința să subestimăm complexitatea și creativitatea creierului uman și cât de uimitor de generalist este.

Dacă inteligența artificială urmează să devină mai umană în abilitățile sale, comunitățile de învățare automată și de neuroștiințe trebuie să interacționeze îndeaproape, ceva ce se întâmplă deja. Câteva dintre numele cele mai mari din prezent pentru inteligența artificială – cum ar fi Geoffrey Hinton, Zoubin Ghahramani și Demis Hassabis – au experiență în neuroștiința cognitivă și succesul lor s-a datorat cel puțin parțial încercărilor de a modela comportamente asemănătoare creierului în algoritmii lor. În același timp, a înflorit și neurobiologia. Au fost dezvoltate tot soiul de instrumente pentru a vedea ce neuroni se activează și pentru a-i manipula genetic și a vedea ce se întâmplă în timp real cu intrările. Mai multe țări au lansat inițiative de neuroștiință cu țeluri foarte înalte pentru a vedea dacă putem să dezvăluim misterele creierului. Progresele în domeniul inteligenței artificiale și neuroștiinței par să meargă mână în mână; fiecare domeniu îl poate avansa pe celălalt.

Mulți cercetători evoluționiști și filosofi precum Daniel Dennett au scos în evidență faptul că creierul uman este rezultatul a miliarde de ani de evoluție*. Inteligența umană nu este caracteristica specială pe care o credem noi a fi, ci doar un alt mecanism de supraviețuire, nu foarte diferit de sistemele noastre digestive sau imunitare, și acestea din urmă fiind ambele incredibil de complexe. Inteligența a evoluat pentru că ne-a permis să înțelegem lumea din jurul nostru, să planificăm pentru viitor și să facem față astfel unei game variate de evenimente pentru a supraviețui. Însă, cum scria Descartes, noi, oamenii, ne definim existența prin abilitatea noastră de a gândi. Deci nu este surprinzător că, în mod antropomorfic, temerile noastre ce vizează inteligența artificială reflectă această credință că inteligența noastră este cea care ne face speciali.

Dar, dacă facem un pas înapoi și privim viața de pe Pământ, observăm că suntem departe de a fi cea mai rezistentă specie. Dacă vom fi cuceriți la un moment dat, vom fi cuceriți de cele mai vechi forme de viață de pe Pământ, cum ar fi bacteriile, care pot trăi oriunde, din Antarctica până la vulcanii submarini de pe platforma oceanică, zone mai fierbinți decât apa clocotită, sau în medii acide care ne-ar topi pe mine și pe tine. Așadar, când oamenii întreabă unde ne îndreptăm, trebuie să punem întrebarea într-un context mai larg. Nu știu ce fel de viitor va inaugura inteligența artificială: dacă îi va face pe oameni sclavii ei sau niște ființe depășite sau dacă va fi o extindere utilă și binevenită a capacităților noastre, care ne va îmbogăți viețile. Dar sunt aproape sigur că computerele nu vor fi niciodată stăpânii bacteriilor.

Foto: Pixabay/geralt

21 mai 2019, Publicat in Actual /

text de

  • Venki RamakrishnanVenki Ramakrishnan

    Chimist premiat cu Nobel în 2009, cercetător la Laboratorul de Biologie Moleculară al Consiliului de Cercetare Medicală de la Universitatea Cambridge și autor al cărții Gene Machine: The Race to Discover the Secrets of the Ribosome.


Tema de gândire

Acest site web folosește cookie-uri prin intermediul cărora se stochează și se prelucrează informații, în scopul îmbunătățirii experienței dumneavoastră. Mai multe detalii aici.

OK