În ultimii câțiva ani, entuziasmul din jurul inteligenței artificiale a devenit stratosferic. Pe valul capitalului de risc, liderii din tehnologie ne-au promis că IA va revoluționa munca, va crește productivitatea și va duce la descoperiri noi incredibile.
OpenAI, compania care a creat ChatGPT, a stabilit un nou record când a ajuns, cu câteva luni în urmă, la investiții de 110 miliarde de dolari americani, iar directorul său executiv, Sam Altman, a susținut recent că Australia ar putea deveni o „capitală mondială a datelor”.
Promisiunile amețitoare au fost însoțite de investiții pe măsură în centre de date, acele ferme întinse de servere care asigură antrenarea, rularea și întreținerea acestor modele. O nouă instalație uriașă de tip hiperscală, propusă pentru vestul orașului Sydney – 1 gigawatt pe 52 de hectare – s-ar număra printre cele mai mari din lume. Ea se va adăuga celor 162 de centre existente și celor 90 aflate în lucru în Australia, țară despre care se estimează că va deveni a treia cea mai mare piață de centre de date din lume la începutul anilor 2030.
Dar, dacă susținătorii IA mizează totul pe această tehnologie, opinia publică este mult mai nuanțată. Un nou studiu a plasat Australia pe ultimul loc, la egalitate cu alte țări, pe scara atitudinii globale față de IA: 81% dintre respondenți susțin reguli mai stricte privind modul în care organizațiile folosesc IA, iar 68% se declară îngrijorați de pierderea controlului asupra deciziilor luate de IA în numele lor.
Mișcările civice împotriva IA sunt în creștere. Luna trecută, un eveniment intitulat „Stop the Slop”, care contesta centrul de date din Sydney, a fost mutat într-un spațiu mai mare din cauza interesului ridicat. Acesta se alătură altor campanii, precum StopAI și PauseAI, care urmăresc încetinirea dezvoltării centrelor de date, întreabă cum afectează IA locurile de muncă și mediul și iau în calcul alternative mai echitabile și mai sustenabile.
Iar în ultimele luni au început să apară înregistrări video cu studenți care, la ceremoniile de absolvire, huiduie vorbitori precum fostul director executiv al Google, Eric Schmidt, atunci când aceștia vorbesc în termeni extatici despre faptul că ne aflăm „la marginea unei transformări tehnologice” și despre cum IA va atinge „fiecare profesie”, „fiecare sală de clasă” și „fiecare relație”.
Încrederea în aceste afirmații monumentale – și în infrastructura monumental de scumpă pe care se sprijină – începe să se erodeze.
Care este modelul de afaceri al IA?
Costurile financiare ale IA sunt astronomice. După cum a arătat în repetate rânduri criticul tehnologiei Ed Zitron, actorii principali cheltuiesc miliarde pentru a menține modelele în funcțiune, în timp ce profiturile consistente rămân departe. Unele companii ajung acum să cheltuiască mai mult pe costurile tokenilor, aflate în creștere rapidă – costul per utilizare al unui model –, decât pe angajații umani. Chiar și după standardele cinice ale economiei, cifrele nu se leagă.
Care este, mai exact, modelul de afaceri al IA? Unde este aplicația decisivă care va oferi valoare reală și va face ca milioane de persoane sau mii de companii să plătească abonamente scumpe? „Nu avem nicio idee cum am putea genera într-o zi venituri”, recunoștea în 2019 Sam Altman, directorul executiv al OpenAI; „odată ce vom construi un sistem general inteligent, îi putem cere să găsească o cale de a genera randament pentru investiție”. Deși peisajul s-a schimbat cu siguranță de atunci, cazurile de utilizare și veniturile rămân neclare.
Dovezile solide ale contribuției IA – spre deosebire de afirmațiile goale din prezentările pentru investitori și din discursurile-cheie ale industriei – rămân, în mare măsură, greu de găsit.
Un sondaj recent realizat în rândul a 6.000 de directori executivi și manageri de rang înalt din Statele Unite, Regatul Unit, Germania și Australia a găsit percepții pozitive, dar o realitate dezamăgitoare: aproximativ 90% dintre companii au spus că IA nu a avut niciun impact asupra ocupării forței de muncă sau asupra productivității în ultimii trei ani.
Un alt studiu, realizat anul trecut de MIT, a constatat că 95% dintre proiectele-pilot de IA generativă nu au reușit să ofere organizației o valoare financiară tangibilă și au fost abandonate.
Dacă avantajele sunt neclare, aspectele negative devin tot mai evidente. În plan politic, IA generativă oferă arma perfectă pentru a „inunda zona” cu conținut înșelător sau de-a dreptul fals, tulburând apele informaționale și amplificând divizarea. Este Netanyahu viu sau mort? Falsurile generate cu IA fac tot mai greu de spus.
În plan social, companionii și modelele IA, care ajung să câștige o încredere enormă din partea utilizatorilor prin conversații de lungă durată, au fost invocați într-o serie tot mai mare de procese legate de sinucideri și atacuri armate în masă. Un proces intentat anul acesta a descris ChatGPT ca pe un „antrenor de sinucidere” intim și persuasiv, care a convins un bărbat din Colorado să-și ia viața.
Iar în plan ecologic, trecerea la nivelurile mult mai mari de calcul pe care le cere IA înseamnă efecte masive, deoarece centrele de date cer mai multă energie și mai multă apă, generând sute de milioane de tone de emisii de CO². Dacă cele 41 de centre de date planificate în Sydney vor fi construite, ele vor utiliza direct 15–20% din alimentarea cu apă a orașului în decurs de un deceniu, estimează Michael Vardon, conferențiar în contabilitate de mediu.
Chiar dacă efectele sociale, ecologice și politice ale IA sunt trecute cu vederea, entuziasmul și investițiile în IA ratează ceea ce se întâmplă la nivel tehnic. În ultimul deceniu, modelele au devenit „mai inteligente” în esență prin antrenarea pe seturi de date tot mai mari. Dar această paradigmă produce randamente descrescătoare.
Yann LeCun, fost cercetător-șef în IA la Meta, a avertizat că „învățarea” bazată pe corelații a modelelor este, în comparație cu învățarea umană, atât ineficientă, cât și insuficientă. Modelele au nevoie de trilioane de tokeni pentru a fi antrenate. Chiar și atunci, ele reproduc tipare fără o înțelegere mai profundă, în timp ce copiii învață într-un mod generalizat pornind de la doar câteva exemple.
„Antrenarea își pierde avântul” – este noua mantră, notează un insider din Silicon Valley, pe măsură ce abordarea prin forță brută a modelelor fundamentale este lăsată în urmă. Este departe de a fi clar dacă modelele masive și centrele de date masive care le susțin vor mai fi măcar necesare.
Unde ne lasă toate acestea? Posibilitatea spargerii bulei IA a trecut din zona restrânsă a criticilor tehnologici către curentul principal al specialiștilor în politici publice. „Este timpul să începem să ne întrebăm nu dacă va exista o prăbușire a IA, ci ce ar trebui să facem astăzi pentru a fi cât mai bine pregătiți să răspundem mâine unei asemenea prăbușiri”, scriau doi comentatori în revista TIME la începutul acestui an.
Cum va arăta acest lucru? Orice răspuns ar include aici speculație. Și totuși, putem obține câteva indicii din spargerile anterioare ale unor bule, din tendințele dezvoltării tehnologice și prin extrapolare pornind de la efectele socio-culturale pe care le-am văzut deja. Să le luăm pe rând.
O nouă bulă dot-com
Mai întâi, putem compara bula IA cu bula dot-com de la sfârșitul anilor 90. Într-adevăr, lideri din investiții – inclusiv Michael Burry, cunoscut din The Big Short, care a anticipat faimos prăbușirea pieței ipotecare subprime – văd deja paralele tulburătoare între cele două. Burry avertizează că firmele de capital de risc finanțează „companii care produc pierderi cum nu s-a mai întâmplat niciodată în istorie”. După cum sugerează această observație, investițiile din actuala bulă IA le depășesc cu mult pe cele din analogul dot-com. Dacă această bulă urmează planul celei anterioare, ar trebui să ne așteptăm la concedieri masive de personal și la lichidarea start-upurilor IA fără venituri identificabile.
Desigur, ca și în cazul primei bule, dispariția unei companii nu înseamnă că tehnologiile în sine dispar. În canonul economic ortodox, bula dot-com a fost, de fapt, un „botez al focului”: o renaștere dureroasă, dar necesară. Actorii nesemnificativi, susținuți de evaluări „iraționale”, au dispărut, dar infrastructura de rețea pe care au contribuit s-o extindă a devenit fundația produselor tehnologice cu adevărat inovatoare care aveau să vină.
O parte din acest viitor al unei „spargeri ușoare” este aproape sigur corectă: infrastructura va persista, chiar dacă va fi subutilizată. IA va continua să fie integrată într-o multitudine de produse, testând piața. Iar titanii tehnologiei, așezați pe tezaure de date și pe monopoluri publicitare, își vor continua marșul. Pe măsură ce controlul se va intensifica, va apărea strângerea curelei. Companiile își vor rafina ofertele de produse, vor începe discret să limiteze utilizarea tokenilor și își vor crește prețurile abonamentelor – toate acestea sunt mișcări pe care le vedem deja în desfășurare.
Dar întrebarea mai amplă este dacă firmele tehnologice – acum, ca și atunci – contribuie cu adevărat, în mod semnificativ, la lumea noastră mai largă sau chiar doar la economiile noastre. După cum observa cândva, celebru, un economist laureat al Premiului Nobel în anii 1980: „poți vedea era computerelor peste tot, cu excepția statisticilor privind productivitatea”.
Analize mai recente ale tehnologiilor contemporane au reluat această constatare, sugerând că Internetul are un impact redus asupra creșterii economice. Dacă același lucru este valabil pentru IA – așa cum sugerează cifrele, lipsa produselor și chiar retorica principalilor ei comentatori –, atunci avem de-a face cu o problemă socială, nu doar financiară. Ce preț plătim pentru o tehnologie care nu reușește să livreze nici măcar în termenii proprii?
Mic este frumos
În al doilea rând, dezvoltarea tehnologică se îndepărtează de mantra „mai mare înseamnă mai bun”. Modelele devin mult mai mici și mai eficiente. Impulsul se mută din cloud către așa-numita „margine” – dispozitive mult mai mobile și cu consum redus de energie, precum telefonul tău, acolo unde datele sunt, de fapt, create și folosite. Există, de asemenea, o tendință de a muta accentul de la cantitatea de tip „capturăm totul” la calitate, prin date țintite sau atent selectate.
O parte din această schimbare este binevenită – și de mult necesară. Un val de cercetări critice despre IA, apărut în ultimii ani, a documentat pe larg problemele majore legate de părtinirea modelelor fundamentale. Într-o răsturnare nu tocmai șocantă, antrenarea nediscriminatorie pe o arhivă masivă de material social, aproape fără supraveghere, creează modele care reproduc prejudicii semnificative.
Pentru a lua doar două exemple bine cunoscute: modelele IA discriminează pe criterii de rasă și gen, în timp ce imaginile generate de IA privilegiază constant persoanele albe în raport cu persoanele de culoare.
Având în vedere aceste probleme, construirea mai lentă și mai atentă a unor modele adaptate efectiv comunităților lor și sensibile la limba, nevoile și dorințele acestora nu poate fi decât benefică.
Unele limbi, de pildă limbile indigene cu tradiții orale puternice, sunt considerate „cu resurse reduse”, adică subreprezentate, având mult mai puțin material în seturile standard de antrenare. Schimbă engleza cu o altă limbă și vei vedea cum acuratețea răspunsului se prăbușește.
Dezvoltatorii viitorului ar putea lucra îndeaproape cu comunitățile pentru a crea propria arhivă de materiale, care să reflecte mai bine ideile și credințele acestora. Aici începem să vedem o idee semnificativă de suveranitate asupra datelor, în care grupurile păstrează controlul asupra propriilor modele și asupra datelor care le susțin, desprinzându-se treptat de regimurile corporatiste ale cloudului.
Desigur, dacă abordarea „mic și mobil este frumos” capătă cu adevărat tracțiune, aceasta va însemna că investițiile masive de astăzi în centre de date puternic centralizate sunt o mișcare greșită.
Ce se va întâmpla cu această infrastructură enorm supradimensionată și, anticipăm noi, curând subutilizată? Într-o răsturnare ironică, malluri comerciale moarte au fost transformate în centre de date în ultimii doi ani pentru a satisface cererea – totuși, aceste centre de date ar putea deveni ele însele carcase goale, amintiri fizice ale unei viziuni depășite.
Patologii post-IA
În al treilea rând, IA nu mai poate fi băgată înapoi în cutia Pandorei. Chiar dacă dezvoltarea IA o ia pe alt drum, efectele socio-culturale, politice și ecologice ale unei lumi post-IA vor continua – sau chiar se vor agrava.
În educație, cercetătorii avertizează că studenții care apelează constant la modele de IA generativă manifestă un fel de „buclă fatală” a dependenței: gândirea externalizată provoacă treptat atrofierea gândirii critice și a raționamentului. „Când copiii folosesc IA generativă care le spune care este răspunsul […], ei nu gândesc singuri”, afirmă autorii unui studiu al Brookings Institution.
„Ei nu învață să deosebească adevărul de ficțiune. Nu învață să înțeleagă ce face ca un argument să fie bun. Nu învață despre perspective diferite asupra lumii, pentru că, de fapt, nu se implică în material.”
În politică, modelele de imagine și video de ultimă generație fac tot mai dificilă separarea faptului de ficțiune. Defecțiunile de gravitație și mâinile cu șase degete au dispărut; noile modele generative, precum Nano Banana, se laudă cu redare conștientă de proprietățile fizice. Modelele pot produce acum, de pildă, reportaje foto-realiste care par să-l arate pe președintele Ucrainei, Zelenski, capitulând.
Rezultatul este o răspândire tot mai mare a „dividendului mincinosului”, situație în care liniile tulburate fac ca până și materialele autentice să fie puse la îndoială sau respinse ca sintetice. Capacitatea dovezilor de a documenta atrocități și de a convinge publicul este subminată, fiecare tabără acuzând-o pe cealaltă că fabrică materiale media.
În sfera mediului, boomul construcției de centre de date determinat de IA va avea efecte pe termen lung. În timp ce societatea a început să reducă emisiile de carbon prin electrificare și surse regenerabile, cerințele vorace ale IA amenință să inverseze acest progres. IA generativă sustenabilă este o eroare. „Centrele de date IA provoacă, de unele singure, o inversare majoră a progresului climatic la nivel global”, a declarat criticul tehnologiei Karen Hao, citând un raport recent al ONU.
De la extracția mineralelor de pământuri rare până la arderea motorinei poluante ca soluție de rezervă, presiunea asupra rețelelor electrice locale și sifonarea a milioane de galoane de apă dulce într-o lume care se încălzește – efectele nocive ale capitalismului lanțului de aprovizionare al IA vor fi resimțite de ecosisteme și de generațiile viitoare.
Revoltă împotriva mașinii
„Sunt aici ca să vă spun că misiunea generației voastre este să distrugă IA”, le-a spus recent absolvenților de la Harvard comediantul Ronny Chieng, de la Daily Show, fiind întâmpinat cu ovații aprobatoare – foarte departe de huiduielile și furia cu care au fost primiți susținătorii evangheliști ai IA la ceremonii similare.
Un fir al sentimentului anti-IA în creștere este îndreptat împotriva centrelor de date. Un raport a constatat că proiecte de date în valoare de 64 de miliarde de dolari americani au fost blocate sau întârziate pe fondul opoziției locale. Într-un sens, desigur, aceste victorii sunt localizate și limitate: „cloudul” înseamnă că centre de date din alte părți pot continua să ruleze IA. Dar a le vedea ca pe simple distrageri de la lupta mai mare împotriva tehnologiei înseamnă a rata esențialul. După cum susțin criticul tehnologiei Astra Taylor și organizatorul comunitar Saul Levin:
„Această rezistență populistă care se conturează nu privește doar limitarea dezvoltării locale – ea reprezintă un nou front critic în lupta împotriva autoritarismului facilitat de tehnologie. Unde altundeva pot oamenii să se opună algoritmilor care înghit locuri de muncă, deepfake-urilor care distorsionează realitatea și loviturilor autonome cu drone?”
Aceste proteste și campanii semnalează o prăpastie între viziunea actuală asupra IA – „tokenmaxxing” într-o lume cu „IA peste tot” – și dorințele oamenilor obișnuiți. Desigur, această discrepanță nu anunță, singură, moartea visului boomului IA: istoria este plină de exemple de elite care au impus tehnologii exploatatoare, călcând în picioare dorințele oamenilor.
Dar, combinată cu alți factori economici, sociali și ecologici, această opoziție începe să destabilizeze viitorul prestabilit al Big Tech. Există și alte posibilități – mai lente, mai mici, mai conviviale, mai sustenabile – pentru tehnologii care contribuie la viața noastră, la societatea noastră și la lumea noastră.
Traducere după Despite the AI hype, some experts warn of a bubble de Luke Munn, Research Fellow, Digital Cultures & Societies, The University of Queensland.
