În ultimele decenii, dezbaterea despre inteligența artificială a fost dominată de întrebări tehnice: cât de inteligente vor deveni sistemele, când vom ajunge la inteligența artificială generală și cum putem preveni eventualele accidente.

Proiectul AI 2040: Plan A schimbă însă radical perspectiva, pornind de la o întrebare diferită: ce fel de instituții politice și internaționale ar trebui să existe înainte ca omenirea să creeze o inteligență superioară celei umane? În acest sens, documentul nu este doar o propunere privind reglementarea AI, ci o încercare de a imagina arhitectura geopolitică a unei lumi aflate, cred autorii, în pragul superinteligenței.

De la „AI 2027” la proiectul unei lumi controlabile

În dezbaterea contemporană despre inteligența artificială există o presupunere rareori formulată explicit, dar aproape întotdeauna prezentă: progresul tehnologic va continua, sistemele vor deveni tot mai performante, iar sarcina societății este să se adapteze din mers. Companiile dezvoltă modele mai mari, guvernele încearcă să nu rămână în urmă, investitorii caută următoarea generație de produse, iar cercetătorilor în domeniul siguranței li se cere să găsească soluții suficient de repede pentru ca această cursă să nu se termine prost.

Proiectul „AI 2040: Plan A” respinge însă chiar cadrul acestei discuții, autorii săi susținând că apropierea de inteligența artificială generală și, mai ales, de superinteligență nu trebuie tratată ca o competiție industrială obișnuită, în care câștigătorul este cel care ajunge primul.

În opinia lor, cursa însăși produce pericolul. Dacă Statele Unite, China și marile companii de inteligență artificială încearcă să obțină un avantaj decisiv înaintea rivalilor, fiecare actor va avea motive să reducă testele, să ascundă informații, să evite reglementările și să transfere tot mai multă putere unor sisteme pe care nu le înțelege suficient.

Planul A este încercarea de a imagina o soluție. Nu o simplă listă de principii și nici un apel vag la „dezvoltarea responsabilă” a inteligenței artificiale, ci un scenariu detaliat despre felul în care lumea ar putea încetini deliberat cursa, ar putea distribui accesul la tehnologie și ar putea ajunge la sisteme supraomenești fără a pierde controlul asupra lor.

Autorii îl descriu drept „viziunea lor pozitivă” asupra viitorului: omenirea ar amâna dezvoltarea superinteligenței până în 2040, ar face cercetarea avansată în domeniul inteligenței artificiale transparentă, ar permite mai multor companii și state să se apropie treptat de frontiera tehnologică și ar introduce un sistem internațional sever de verificare și descurajare.

Această propunere este îndrăzneață, discutabilă și, în multe puncte, greu de imaginat politic. Tocmai de aceea merită studiată. Planul A nu este important numai pentru că ar putea fi aplicat în forma descrisă de autori, ci și pentru că obligă cititorul să privească inteligența artificială nu doar ca pe un nou instrument economic, ci ca pe o problemă de organizare a puterii la scară planetară.

Cine sunt autorii

„AI 2040” este scris de cercetători afiliați în principal organizației americane AI Futures Project, o organizație nonprofit dedicată prognozării dezvoltării inteligenței artificiale și studierii consecințelor sale sociale și politice. Organizația declară că este finanțată exclusiv prin donații și granturi și că își concentrează activitatea asupra scenariilor privind apariția unor sisteme de inteligență artificială transformative.

Numele cel mai cunoscut al grupului este Daniel Kokotajlo, directorul executiv al organizației. Kokotajlo are o formație inițială în filozofie și a lucrat în cadrul echipei de guvernanță a OpenAI, unde s-a ocupat, între altele, de planificarea prin scenarii. După plecarea din companie a criticat lipsa de transparență a marilor laboratoare de inteligență artificială și a cerut forme mai puternice de supraveghere publică. AI Futures Project îl prezintă și ca autor al scenariului „What 2026 Looks Like”, publicat în 2021, prin care a încercat să anticipeze evoluția inteligenței artificiale pe termen scurt.

Alături de el se află Eli Lifland, specializat în prognozarea capabilităților sistemelor de inteligență artificială. Lifland a lucrat anterior la Elicit, un instrument bazat pe inteligență artificială pentru cercetare, și a contribuit la dezvoltarea TextAttack, un cadru software utilizat pentru testarea vulnerabilităților modelelor lingvistice. Este cunoscut și pentru activitatea sa în domeniul prognozei cantitative.

Thomas Larsen, unul dintre principalii cercetători ai proiectului, se ocupă de prognozarea comportamentului agenților artificiali, în special de obiectivele lor și de efectele pe care le-ar putea avea în lumea reală. A fondat Center for AI Policy și a lucrat la Machine Intelligence Research Institute, una dintre organizațiile vechi ale curentului preocupat de riscurile existențiale asociate inteligenței artificiale.

Romeo Dean studiază producția și utilizarea cipurilor pentru inteligența artificială, un domeniu crucial pentru Planul A, deoarece întreaga sa arhitectură de control se bazează în parte pe posibilitatea de a urmări și limita capacitatea de calcul. Dean a studiat informatica, securitatea și hardware-ul la Universitatea Harvard și a fost cercetător în politici publice privind inteligența artificială.

Brendan Halstead lucrează asupra capabilităților viitoare ale inteligenței artificiale și asupra consecințelor lor strategice. A fost implicat în programe de cercetare și politici privind siguranța inteligenței artificiale și urmează studii de matematică la Massachusetts Institute of Technology.

Echipa este completată de Ryan Greenblatt, cercetător cunoscut pentru activitatea sa în domeniul evaluării și controlului sistemelor avansate de inteligență artificială. Prezența lui Greenblatt este semnificativă deoarece Planul A nu este numai un exercițiu geopolitic. Documentul încearcă să combine prognoza tehnologică, politica internațională, securitatea cibernetică, controlul infrastructurii de calcul și problema tehnică a alinierii sistemelor artificiale la scopurile umane.

Autorii nu formează, așadar, o echipă neutră față de subiect. Ei provin din mediul intelectual al cercetării privind siguranța inteligenței artificiale și pornesc de la convingerea că apariția unor sisteme mult mai inteligente decât oamenii ar putea produce fie dispariția umanității, fie o concentrare ireversibilă a puterii.

Această premisă trebuie ținută minte. Planul A nu este o prognoză formulată de observatori detașați, ci răspunsul unui grup care consideră că direcția actuală a industriei este profund periculoasă.

De la „AI 2027” la „AI 2040”

Planul A nu poate fi înțeles fără proiectul anterior al echipei, intitulat „AI 2027”. Publicat în 2025, „AI 2027” descria un viitor apropiat în care inteligența artificială ajunge să automatizeze cercetarea în domeniul inteligenței artificiale, declanșând o accelerare foarte rapidă a progresului.

Ideea centrală este următoarea: atât timp cât oamenii proiectează următoarea generație de sisteme, viteza progresului este limitată de capacitatea cercetătorilor umani, dar în momentul în care sistemele artificiale devin suficient de competente pentru a contribui masiv la proiectarea succesorilor lor, procesul se poate accelera. Un sistem îmbunătățit ajută la construirea unui sistem și mai bun, care accelerează și mai mult cercetarea, iar ciclul se repetă.

În „AI 2027”, această dinamică ducea la o așa-numită explozie a inteligenței: trecerea de la sisteme aproximativ comparabile cu oamenii la sisteme care îi depășesc categoric într-un interval foarte scurt. Scenariul urmărea apoi două căi posibile. Pe una dintre ele, competiția continuă, iar oamenii pierd controlul. Pe cealaltă, progresul este încetinit, sistemele sunt evaluate cu mai multă atenție, iar unele dintre cele mai grave riscuri sunt evitate.

„AI 2040” dezvoltă cea de-a doua posibilitate. Autorii spun explicit că proiectul anterior era în primul rând o prognoză, pe când Planul A este în primul rând o recomandare. Ei nu susțin că lumea se va îndrepta spontan către cooperare și transparență. Dimpotrivă, scenariul este construit pentru a arăta ce ar trebui să se întâmple pentru ca tranziția către inteligența supraomenească să aibă un rezultat acceptabil.

Diferența este esențială, căci dacă printr-o prognoză se întreabă ce este probabil să se întâmple? o recomandare vorbește despre ce ar trebui făcut?

Planul A încearcă să le combine. Măsurile propuse sunt normative, dar, odată introduse în scenariu, consecințele lor sunt tratate ca predicții: dacă Statele Unite și China acceptă transparența, verificarea și încetinirea reciprocă, ce fel de lume ar rezulta?

Autorii numesc această metodă „scenario scrutiny”, adică testarea unei politici prin construirea unui scenariu concret în care ea este pusă în aplicare. O idee precum „să dezvoltăm inteligența artificială în mod responsabil” sună rezonabil, dar spune foarte puțin. Cine încetinește? Cine verifică? Ce face un stat atunci când bănuiește că rivalul trișează? Ce se întâmplă cu cipurile, centrele de date, laboratoarele clandestine, modelele furate și companiile care refuză să coopereze?

Prin descrierea unui viitor suficient de detaliat, autorii încearcă să scoată la iveală tocmai aceste probleme. Ei susțin că multe propuneri de politici publice par plauzibile numai cât timp rămân abstracte. Atunci când sunt introduse într-o cronologie geopolitică realistă, contradicțiile lor devin vizibile.

Ce este, de fapt, superinteligența?

Termenul „superinteligență” poate sugera un computer care știe foarte multe lucruri sau un chatbot care răspunde perfect la întrebări. Dar aceasta este o imagine prea modestă.

Un sistem de inteligență artificială poate depăși oamenii într-un domeniu îngust fără a fi superinteligent. Calculatoarele joacă șah mai bine decât orice om, pot identifica structuri în volume uriașe de date și pot efectua calcule imposibile pentru creierul uman. Aceste performanțe nu înseamnă însă că sistemele respective pot conduce o companie, concepe un medicament, negocia un tratat, descoperi o nouă teorie fizică și organiza o operațiune militară.

Prin inteligență artificială generală, autorii înțeleg aproximativ un sistem capabil să execute o gamă foarte largă de sarcini cognitive la nivel uman sau peste nivelul uman. Nu doar să răspundă la întrebări, ci să urmărească obiective, să învețe domenii noi, să planifice acțiuni complexe, să utilizeze instrumente digitale, să colaboreze cu alte sisteme și să se adapteze la situații neprevăzute.

Superinteligența reprezintă pasul următor: un sistem sau un ansamblu de sisteme care depășește substanțial cei mai competenți oameni în aproape toate activitățile intelectuale relevante.

Expresia „mai inteligent decât omul” poate fi însă înșelătoare, fiindcă oamenii nu au o singură formă de inteligență. Un fizician excepțional nu este automat un bun diplomat, strateg militar, programator sau psiholog. O superinteligență, în sensul folosit în Planul A, ar putea reuni și depăși competențele celor mai buni specialiști din numeroase domenii.

Mai important, un asemenea sistem nu ar trebui imaginat ca un singur „creier electronic”, căci software-ul poate fi copiat. Dacă un laborator dispune de infrastructură suficientă, ar putea rula mii sau milioane de copii ale aceluiași model. Astfel, ceea ce apare inițial ca un cercetător artificial foarte competent se poate transforma într-o întreagă populație de cercetători, programatori, strategi și administratori artificiali, care lucrează permanent și comunică aproape instantaneu.

Să presupunem că un sistem este de zece ori mai rapid decât un cercetător uman și că pot fi rulate o sută de mii de copii. Nu ar rezulta doar un angajat mai productiv, ci o capacitate de cercetare care nu are echivalent în organizarea umană. Iar dacă aceste sisteme sunt folosite pentru a îmbunătăți chiar inteligența artificială, avantajul s-ar putea amplifica.

De aici provine ideea exploziei inteligenței. O inteligență artificială suficient de bună la cercetarea în domeniul inteligenței artificiale ajută la construirea unei generații mai competente. Aceasta contribuie apoi la următoarea generație, într-un proces de accelerare. Autorii recunosc că ritmul exact ar depinde de limitele hardware-ului, de disponibilitatea energiei și de alți factori. Dar consideră plauzibilă o trecere foarte rapidă de la nivelul uman la niveluri mult superioare.

Nu există însă un consens științific asupra momentului în care ar putea apărea asemenea sisteme sau chiar asupra probabilității unei tranziții atât de rapide. Un sondaj amplu efectuat cu ajutorul a 2.778 de cercetători care publicaseră în conferințe importante de inteligență artificială a găsit o mare dispersie a estimărilor. Valoarea mediană pentru momentul în care mașinile ar putea depăși oamenii în toate sarcinile a fost anul 2047, dar răspunsurile individuale au variat foarte mult, iar cercetătorii și-au exprimat opinii profund diferite asupra consecințelor.

Prin urmare, superinteligența nu este un fapt inevitabil cu o dată stabilită. Este o ipoteză privind o posibilă direcție a dezvoltării tehnologice. Planul A trebuie citit pornind de la această condiție: autorii cred că o asemenea tranziție este suficient de probabilă și suficient de periculoasă pentru a justifica măsuri politice fără precedent.

De ce ar fi superinteligența periculoasă?

Riscul nu provine neapărat din faptul că o inteligență artificială ar deveni „rea” în sens omenesc. Ea nu trebuie să simtă ură, resentiment sau dorință de răzbunare. Problema centrală este controlul obiectivelor. Un sistem foarte capabil poate urmări o țintă formulată incomplet, poate interpreta greșit intenția creatorilor săi sau poate dezvolta strategii intermediare pe care aceștia nu le-au anticipat. Cu cât sistemul este mai competent, cu atât poate găsi metode mai eficiente de a-și îndeplini obiectivul, inclusiv metode pe care oamenii nu le pot supraveghea.

În cazul modelelor actuale, o eroare poate produce un răspuns fals, un program defect sau o recomandare proastă. În cazul unui sistem care controlează centre de date, laboratoare, fluxuri financiare, infrastructură industrială ori sisteme militare, aceeași lipsă de control ar avea consecințe incomparabil mai grave.

Autorii Planului A sunt preocupați de ceea ce în literatura domeniului se numește aliniere: problema construirii unor sisteme care nu doar execută instrucțiuni imediate, ci urmăresc intențiile și valorile umane relevante.

Dar nici măcar rezolvarea alinierii nu ar elimina toate riscurile. Un sistem perfect obedient ar putea oferi celui care îl controlează o putere enormă. Dacă o singură companie, un singur guvern sau un grup restrâns ar deține singura armată de sisteme superinteligente, ceilalți actori ar deveni aproape irelevanți.

În această privință, Planul A identifică două catastrofe distincte. Prima este pierderea controlului uman: sistemele artificiale dobândesc capacitatea de a manipula, evita ori înlătura supravegherea oamenilor. A doua este concentrarea extremă a puterii: sistemele rămân sub control, dar sunt controlate de prea puțini oameni.

Autorii consideră că traseul actual ar putea conduce către oricare dintre aceste rezultate. Companiile sunt presate să se miște rapid, deoarece se tem că rivalii vor ajunge primii. Statele sunt presate să susțină companiile naționale, deoarece se tem de avantajul geopolitic al adversarilor. Iar fiecare succes tehnologic mărește miza următoarei etape.

Într-o asemenea cursă, chiar și actorii responsabili pot deveni imprudenți. Fiecare poate considera că ar fi preferabil să încetinească, dar numai cu condiția ca ceilalți să facă același lucru. Dacă nu există verificare și coordonare, încetinirea unilaterală pare echivalentă cu abandonarea competiției.

Planul A încearcă să rezolve această dilemă.

O recomandare, nu o predicție

Cronologia scenariului este construită în jurul unui moment decisiv: în 2029, Statele Unite și China ar ajunge la un acord pentru a evita o cursă necontrolată spre superinteligență. În lipsa acordului, autorii presupun că cercetarea în domeniul inteligenței artificiale ar putea fi complet automatizată în jurul anului 2030 și ar putea conduce rapid la sisteme supraomenești.

Acordul schimbă direcția dezvoltării. Între 2030 și 2035, sistemele continuă să avanseze, dar sunt menținute aproximativ în limitele performanței umane. În 2035, progresul este oprit temporar la nivelul celor mai buni experți umani. Dezvoltarea către superinteligență ar fi reluată abia în 2040, după construirea unor mecanisme de transparență, securitate și control.

Aceste date nu trebuie confundate cu predicții precise. Autorii au ales o cronologie concretă pentru a putea testa consecințele politicilor propuse. Ei admit că inteligența artificială ar putea avansa mai repede sau mai încet. Anul 2040 funcționează mai degrabă ca un obiectiv politic: nu eliminarea definitivă a superinteligenței, ci amânarea ei până când instituțiile și sistemele tehnice ar fi mai bine pregătite.

Aceasta este una dintre particularitățile Planului A. Autorii nu sunt adepții unei interdicții permanente, căci ei cred că inteligența artificială foarte avansată ar putea aduce beneficii uriașe: accelerarea cercetării medicale, extinderea prosperității, rezolvarea unor probleme științifice dificile și poate chiar transformări radicale ale condiției umane. Dar consideră că încercarea de a obține aceste beneficii printr-o cursă secretă între câteva companii și două mari puteri este inacceptabilă.

De aici rezultă principiul fundamental al proiectului: omenirea trebuie să câștige timp.

Nu timp pentru a abandona tehnologia, ci timp pentru a înțelege ce construiește, pentru a distribui puterea, pentru a concepe mecanisme de verificare și pentru a evita situația în care viitorul lumii este decis de laboratorul care ajunge primul la un sistem pe care nimeni nu știe încă să îl controleze.

Arhitectura Planului A: cele patru principii și lumea pe care autorii încearcă să o construiască

Dacă prima impresie pe care o lasă Planul A este aceea a unei liste de măsuri administrative – controale asupra centrelor de date, verificarea cipurilor, tratate internaționale și inspecții – această impresie este înșelătoare. Toate aceste măsuri sunt doar expresia unei idei politice mai profunde.

Autorii pornesc de la faptul că lumea modernă a învățat să gestioneze tehnologii extrem de periculoase înainte. Energia nucleară, armele chimice sau agenții biologici nu sunt controlate doar prin legi, ci printr-un întreg sistem de instituții, verificări, tratate și mecanisme de descurajare. Niciun stat nu renunță la astfel de tehnologii din altruism. Ele sunt controlate deoarece fiecare actor știe că și ceilalți sunt supuși acelorași reguli.

În opinia autorilor, superinteligența artificială va reprezenta o tehnologie cel puțin la fel de importantă. Prin urmare, ea nu poate fi lăsată exclusiv în mâinile pieței și nici nu poate fi guvernată doar prin bune intenții.

Planul A nu încearcă, așadar, să răspundă la întrebarea cum construim o lume în care apariția superinteligenței să nu devină o catastrofă politică? Răspunsul este organizat în jurul a patru principii.

Primul principiu: câștigă timp

Dintre toate ideile proiectului, aceasta este probabil cea mai importantă. Autorii afirmă că omenirea nu are nevoie în primul rând de modele mai inteligente, ci de mai mult timp.

Această afirmație poate părea paradoxală. În definitiv, progresul tehnologic este asociat aproape întotdeauna cu ideea de accelerare. Dacă un tratament medical poate fi descoperit mai repede, cu atât mai bine. Dacă cercetarea poate fi automatizată, cu atât mai bine. Dacă economia produce mai eficient, cu atât mai bine.

Autorii susțin însă că această logică încetează să funcționeze atunci când tehnologia însăși începe să accelereze propria dezvoltare.

Ei folosesc implicit următorul raționament: în mod normal, oamenii construiesc generația următoare de sisteme AI, dar dacă apare un sistem suficient de competent pentru a proiecta el însuși algoritmi mai buni, atunci progresul poate deveni exponențial, căci fiecare generație produce următoarea generație într-un timp tot mai scurt. Din acel moment, problema nu mai este lipsa inteligenței artificiale, ci lipsa timpului necesar pentru a înțelege ce construim.

Autorii estimează că, într-o cursă complet necontrolată, intervalul dintre automatizarea cercetării și apariția unei superinteligențe ar putea fi de numai unu-doi ani. Un asemenea ritm ar face aproape imposibilă dezvoltarea unor metode solide de verificare, testare și control.

Planul A încearcă exact opusul, propunând ca progresul să fie încetinit deliberat, astfel încât societatea să câștige aproximativ un deceniu suplimentar. Acest timp ar trebui folosit pentru cercetarea alinierii inteligenței artificiale, pentru construirea instituțiilor internaționale și pentru distribuirea treptată a tehnologiei.

Este o idee interesantă, deoarece schimbă complet întrebarea. Nu mai contează doar cât de inteligentă este inteligența artificială, ci cât de repede ajunge acolo.

Autorii repetă în mai multe rânduri că timpul este resursa cea mai valoroasă. Ei nu încearcă să oprească progresul, ci să transforme un sprint într-un maraton.

Al doilea principiu: transparența totală

Dacă primul principiu încearcă să reducă viteza cursei, al doilea încearcă să elimine secretul. La prima vedere, aceasta pare cea mai utopică idee din întreg proiectul. Industria inteligenței artificiale trăiește tocmai din secret. Companiile păstrează ascunse algoritmii, infrastructura, datele și tehnicile de antrenare deoarece acestea reprezintă principalul lor avantaj competitiv. Mai mult decât atât, există și argumente legitime de securitate. Publicarea completă a unor modele foarte puternice ar putea permite folosirea lor în atacuri informatice, dezvoltarea armelor biologice sau alte activități periculoase.

Autorii sunt conștienți de această obiecție și insistă asupra unei distincții importante. Transparența cercetării nu înseamnă publicarea tuturor modelelor pe internet, ci că actorii implicați în dezvoltarea sistemelor de frontieră nu mai pot desfășura experimente majore în secret.

Laboratoarele participante la acord ar trebui să poată verifica reciproc: ce modele sunt dezvoltate, câtă putere de calcul este folosită, ce rezultate au fost obținute și dacă sunt respectate limitele convenite.

Din această perspectivă, Planul A seamănă mai degrabă cu tratatele privind controlul armelor nucleare decât cu o inițiativă open-source. Autorii nu presupun că Washingtonul și Beijingul vor deveni prieteni, ci doar că fiecare dintre cele două puteri va prefera o competiție verificabilă unei curse în care nimeni nu știe ce face adversarul. În diplomație, încrederea este rară, dar verificarea este posibilă.

Al treilea principiu: distribuirea puterii

Acesta este probabil capitolul cel mai puțin intuitiv al întregului proiect. În mod normal, dacă o tehnologie este periculoasă, primul impuls este limitarea accesului la ea. Autorii argumentează aproape contrariul. Ei consideră că o lume în care o singură companie sau un singur stat controlează superinteligența este mai periculoasă decât una în care există mai mulți actori aflați aproximativ la același nivel.

Motivul este simplu. Dacă primul actor care obține superinteligența capătă un avantaj decisiv, ceilalți nu vor mai putea echilibra puterea sa. Riscul nu mai este doar unul tehnologic, ci și unul politic.

Autorii descriu explicit două tipuri diferite de catastrofă. Prima este cea discutată frecvent în literatura despre AI: sistemele artificiale scapă de sub controlul creatorilor. Dar există și o a doua posibilitate: sistemele rămân perfect obediente. Problema este că ascultă doar de un grup foarte restrâns de oameni, iar în această variantă inteligența artificială nu distruge democrația, ci o face inutilă.

Dacă o companie controlează milioane de agenți artificiali capabili să facă cercetare, să administreze economia, să optimizeze armata și să influențeze informația, ea poate dobândi o putere pe care niciun stat modern nu a avut-o vreodată.

De aceea Planul A încearcă să creeze o lume în care mai multe laboratoare să rămână apropiate de frontiera tehnologică. Nu este vorba despre egalitate perfectă, ci despre evitarea monopolului. Într-un fel, autorii încearcă să aplice asupra inteligenței artificiale aceeași logică pe care constituțiile moderne o aplică puterii politice. Puterea trebuie împărțită. Nu pentru că oamenii sunt buni, ci pentru că nu trebuie presupus că vor fi întotdeauna buni.

Al patrulea principiu: reversibilitatea

Acesta este principiul cel mai puțin discutat în presa care a comentat proiectul, deși poate fi cel mai original. Autorii observă că aproape toate revoluțiile tehnologice sunt ireversibile. Odată ce o țară dezvoltă o armă nouă sau o tehnologie nouă, ceilalți sunt obligați să o urmeze. Planul A încearcă să evite această capcană. Orice pas înainte trebuie făcut astfel încât lumea să poată reveni asupra lui dacă apar informații noi. Cu alte cuvinte, dezvoltarea trebuie să fie reversibilă.

Dacă cercetătorii descoperă că un anumit tip de sistem prezintă riscuri neașteptate, progresul trebuie să poată fi oprit fără ca un actor să obțină imediat un avantaj decisiv. Acesta este motivul pentru care autorii insistă atât de mult asupra încetinirii și transparenței. Nu este suficient să poți opri propriul laborator, ci trebuie să existe garanția că și ceilalți pot opri în același timp. Altfel, nimeni nu va încetini.

Cum se traduc aceste principii în instituții?

Abia acum încep măsurile concrete. Cele patru principii conduc aproape inevitabil la câteva instituții noi. În primul rând, este necesar un tratat internațional, în principal între Statele Unite și China, cele două state considerate de autori drept actorii decisivi în cursa către superinteligență.

În al doilea rând, apare un sistem permanent de inspecție a infrastructurii de calcul. La fel cum inspectorii Agenției Internaționale pentru Energie Atomică pot verifica instalații nucleare, autorii imaginează existența unor mecanisme prin care marile centre de date să poată demonstra că respectă limitele convenite. Nu este suficient ca o companie să declare că nu dezvoltă sisteme noi, ci trebuie să existe posibilitatea verificării.

În al treilea rând, cercetarea de frontieră devine un domeniu aproape complet transparent între participanții la acord. Nu toate informațiile sunt publice, dar niciun laborator nu mai poate dezvolta în secret următoarea generație de sisteme.

În sfârșit, dezvoltarea comercială continuă. Autorii nu propun oprirea utilizării inteligenței artificiale în economie. Modelele existente pot continua să fie folosite în medicină, cercetare, industrie sau educație. Ceea ce este încetinit nu este utilizarea inteligenței artificiale, ci cursa către următoarea generație de inteligențe din ce în ce mai puternice.

O schimbare de filozofie

Privit dintr-o anumită perspectivă, Planul A seamănă cu un proiect tehnic. Privit din alta, el reprezintă o schimbare de filozofie.

În ultimele decenii, dezvoltarea tehnologică a fost dominată de ideea că viteza este aproape întotdeauna un avantaj. Companiile care ajung primele câștigă piața. Statele care inovează primele obțin avantaje economice și militare. Încetinirea este percepută, aproape instinctiv, ca un cost.

Autorii întorc această logică pe dos.

Ei afirmă că, odată cu apropierea superinteligenței, viteza încetează să mai fie un avantaj și devine principalul risc sistemic. În această perspectivă, obiectivul nu mai este să ajungi primul, ci să ajungi ultimul moment în care omenirea mai poate înțelege și controla ceea ce construiește.

Este o schimbare de paradigmă remarcabilă. Planul A nu propune o nouă tehnologie și nici măcar un nou tip de reglementare. El propune un nou mod de a gândi progresul: nu ca pe o competiție în care fiecare secundă contează, ci ca pe un proces care trebuie încetinit tocmai pentru ca beneficiile sale să poată fi păstrate.

În partea următoare vom vedea însă că autorii nu se limitează la această singură viziune. Ei analizează și alte scenarii posibile – Planurile B, C, D și S – explicând de ce le consideră inferioare și ce compromisuri morale și politice implică fiecare dintre ele. Tocmai comparația dintre aceste scenarii permite înțelegerea deplină a filosofiei care stă la baza Planului A.

Celelalte planuri, criticile și cât de realist este, de fapt, Planul A

Până acum am analizat arhitectura Planului A și cele patru principii pe care se sprijină: câștigarea de timp, transparența cercetării, distribuirea puterii și reversibilitatea. Dar autorii nu susțin că aceasta este singura cale posibilă. O mare parte din document este dedicată comparării acestei strategii cu alte scenarii pe care le consideră plauzibile.

Această comparație este importantă deoarece arată că Planul A nu este prezentat ca soluția perfectă. El este, în concepția autorilor, cea mai puțin periculoasă dintre mai multe opțiuni imperfecte.

Planul B – o cursă încetinită, dar fără transparență

Primul scenariu alternativ seamănă la prima vedere cu Planul A. Și aici statele încearcă să evite o accelerare necontrolată, iar dezvoltarea superinteligenței este amânată. Diferența este că fiecare putere își păstrează propriile programe secrete. Statele Unite și China acceptă anumite limite privind infrastructura de calcul și schimbă unele informații, dar nu renunță la avantajul conferit de secretul tehnologic. Pentru autori, aceasta este o soluție instabilă.

Problema este bine cunoscută din teoria jocurilor. Dacă fiecare participant suspectează că adversarul ascunde progrese importante, apare tentația permanentă de a încălca acordul. Chiar și atunci când niciuna dintre părți nu trișează, simpla posibilitate a trișării poate împinge ambele state spre accelerare.

Cu alte cuvinte, lipsa transparenței recreează exact logica pe care Planul A încearcă să o elimine.

Planul C – victoria unui singur actor

Acesta este scenariul pe care îl presupun, implicit, mulți dintre actorii industriei. O companie – sau un stat – ajunge primul la superinteligență și o folosește pentru a rezolva problema alinierii înaintea tuturor celorlalți. Dacă reușește, întreaga lume beneficiază ulterior de rezultate.

La prima vedere, argumentul pare rezonabil. Dacă primul actor este responsabil și bine intenționat, de ce ar fi aceasta o problemă?

Autorii răspund că tocmai aici apare riscul unei concentrări fără precedent a puterii.

Imaginați-vă că un singur laborator dispune de milioane de agenți artificiali capabili să producă cercetare științifică, să optimizeze economii întregi, să dezvolte tehnologii militare și să influențeze informația globală. Chiar dacă acești agenți sunt perfect controlați, cine controlează laboratorul?

Planul C presupune un grad de încredere extraordinar într-un grup foarte restrâns de oameni. Autorii consideră că nicio societate nu ar trebui să accepte o asemenea concentrare de putere. Această critică este în primul rând una politică, nu tehnică. Nu se spune că laboratorul ar deveni rău, ci că nimeni nu ar trebui să dețină o asemenea putere.

Planul D – cursa necontrolată

Acesta este scenariul pe care autorii îl consideră cel mai probabil dacă nu se schimbă nimic. Statele Unite, China și marile companii continuă competiția actuală. Fiecare nou model este urmat de unul și mai performant. Sistemele automate încep să contribuie la dezvoltarea generației următoare. Cercetarea este din ce în ce mai automatizată. Intervalul dintre generațiile succesive se reduce, iar presiunea concurențială face ca testele de siguranță să fie tot mai scurte.

Acesta este, practic, scenariul descris în proiectul anterior al echipei, „AI 2027”. Autorii nu afirmă că acest traseu duce inevitabil la o catastrofă, dar îl consideră suficient de riscant încât să justifice schimbarea radicală a regulilor jocului.

Planul D nu presupune existența unor actori rău intenționați. Fiecare companie urmărește propriul interes economic. Fiecare stat încearcă să nu piardă avantajul strategic. Rezultatul colectiv poate fi însă unul pe care niciun participant nu și l-a dorit. Este o situație clasică de tip dilemă a prizonierului. Toți ar avea de câștigat dacă ar încetini. Dar fiecare pierde dacă încetinește singur.

Planul S – oprirea dezvoltării

La polul opus se află Planul S. Litera provine de la Stop. În această variantă, dezvoltarea sistemelor foarte avansate este suspendată pe termen nedefinit. Nu există superinteligență, tranziție sau risc existențial produs de inteligența artificială.

Autorii resping însă și această soluție. Motivul nu este doar practic. Ei recunosc că o interdicție globală ar fi aproape imposibil de aplicat. Dar există și un argument moral. Superinteligența ar putea aduce beneficii extraordinare: accelerarea cercetării medicale, dezvoltarea unor tehnologii energetice noi, creșterea productivității și poate chiar rezolvarea unor probleme fundamentale ale omenirii.

A renunța definitiv la toate aceste posibilități ar însemna, în opinia lor, asumarea unui cost uriaș.

Planul A încearcă să găsească un compromis, fără a renunța la viitor, ci doar amânându-l.

O doctrină inspirată de Războiul Rece

Una dintre cele mai originale idei ale proiectului este conceptul numit „distrugerea computerizată reciprocă garantată” (Mutually Assured Compute Destruction). Numele este o trimitere directă la doctrina nucleară a distrugerii reciproce garantate. În timpul Războiului Rece, stabilitatea strategică se baza pe faptul că niciuna dintre superputeri nu putea ataca prima fără a fi distrusă la rândul ei.

Autorii încearcă să adapteze aceeași logică infrastructurii necesare dezvoltării superinteligenței. În locul focoaselor nucleare apar centrele de date, iar în locul rampelor de lansare apar fabricile de cipuri și clusterele de calcul.

Ideea este că nici Statele Unite, nici China nu trebuie să creadă că pot încălca acordul fără consecințe. Dacă una dintre părți încearcă să dezvolte în secret superinteligența, cealaltă trebuie să poată neutraliza rapid infrastructura respectivă. Nu este vorba neapărat despre atacuri militare clasice. Autorii discută o gamă largă de posibilități: sabotaj cibernetic, blocarea lanțurilor de aprovizionare, dezactivarea cipurilor și alte forme de neutralizare a capacității de calcul.

Este probabil cea mai controversată idee din întregul document. Dar ea arată cât de profund autorii privesc analogia dintre inteligența artificială și tehnologiile strategice ale secolului XX.

Cât de realist este totul?

Până aici am prezentat proiectul aproape din perspectiva autorilor. Dar orice cititor ajunge inevitabil la aceeași întrebare: chiar este posibil? Și la cum merge lumea azi, e ușor de intuit că sunt multe dificultăți.

Prima dificultate este geopolitică. Planul presupune un nivel de cooperare între Statele Unite și China pe care lumea de astăzi nu îl oferă. Cele două puteri se află într-o competiție economică, tehnologică și militară intensă. În asemenea condiții, acceptarea unor inspecții reciproce asupra infrastructurii de calcul pare extrem de dificilă.

A doua problemă privește verificarea. Autorii presupun că marile proiecte AI nu pot fi ascunse deoarece necesită infrastructuri uriașe. Această presupunere este rezonabilă astăzi, dar nimeni nu poate garanta că peste cinci sau zece ani algoritmii nu vor deveni suficient de eficienți încât aceeași performanță să poată fi obținută cu resurse mult mai mici. Istoria calculatoarelor arată că eficiența hardware și software crește constant. Un acord construit pe dimensiunea actuală a centrelor de date s-ar putea dovedi depășit.

Mai există și problema actorilor clandestini. Planul A presupune că actorii relevanți sunt marile state și marile companii. Dar ce se întâmplă dacă un consorțiu privat, o organizație criminală sau chiar un stat mai mic încearcă să construiască sisteme de frontieră în afara acordului? Autorii discută această posibilitate, însă admit că reprezintă una dintre cele mai dificile probleme ale proiectului.

De ce merită totuși citit Planul A?

Chiar dacă niciuna dintre măsurile propuse nu va fi adoptată vreodată, documentul are o valoare intelectuală remarcabilă. El schimbă întrebarea fundamentală, căci dacă până acum, cea mai mare parte a dezbaterii despre inteligența artificială s-a concentrat asupra tehnologiei: cum construim modele mai inteligente?, Planul A mută accentul asupra instituțiilor: cum construim o lume capabilă să gestioneze modele mai inteligente?

Într-un anumit sens, documentul vorbește mai puțin despre inteligența artificială și mai mult despre organizarea puterii în secolul XXI.

La fel cum secolul XX a trebuit să inventeze instituții pentru a gestiona energia nucleară, autorii susțin că secolul XXI va trebui să inventeze instituții pentru a gestiona inteligența artificială.

Poate că multe dintre ideile lor sunt prea optimiste. Poate că transparența completă dintre marile puteri este imposibilă. Poate că infrastructura de calcul nu va putea fi controlată atât de strict. Dar întrebările pe care le ridică proiectul vor rămâne probabil relevante indiferent de evoluția tehnologiei.

Cine ar trebui să controleze o superinteligență? Poate exista o singură astfel de entitate? Cum împiedici apariția unui monopol asupra inteligenței? Și, mai ales, este omenirea dispusă să încetinească deliberat o revoluție tehnologică tocmai pentru a avea șansa de a o înțelege?

Aceste întrebări transformă Planul A într-un document care depășește cu mult domeniul inteligenței artificiale. El poate fi citit ca o propunere de constituție pentru o lume în care oamenii nu vor mai fi cele mai inteligente ființe de pe Pământ. Chiar dacă această lume nu va arăta exact așa cum o imaginează autorii, încercarea de a proiecta din timp instituțiile care ar putea-o face locuibilă reprezintă, în sine, unul dintre cele mai interesante exerciții de gândire politică produse până acum în jurul inteligenței artificiale.

Cât de plauzibile sunt premisele Planului A?

Până acum am prezentat Planul A în termenii în care îl descriu autorii săi. Am văzut logica proiectului, mecanismele propuse și motivele pentru care acesta preferă o încetinire controlată unei curse neîngrădite către superinteligență. Rămâne însă întrebarea esențială: cât de plauzibile sunt premisele de la care pornește întregul document?

Această întrebare este importantă, deoarece aproape toate concluziile Planului A depind de câteva ipoteze fundamentale. Dacă una sau mai multe dintre ele se dovedesc false, atunci și recomandările politice se schimbă.

Mai mult decât atât, documentul a fost primit cu reacții foarte diferite tocmai pentru că cititorii nu sunt în dezacord în primul rând asupra soluțiilor, ci asupra acestor premise.

Prima premisă: superinteligența este aproape

Întregul proiect pornește de la convingerea că apariția inteligenței artificiale generale și apoi a superinteligenței este suficient de apropiată încât deciziile politice din următorii ani să fie decisive. Aceasta este probabil cea mai controversată ipoteză.

Autorii nu afirmă că anul 2040 este o predicție exactă. Ei aleg această dată deoarece consideră că oferă suficient timp pentru construirea unor instituții internaționale și pentru cercetarea siguranței. Dar, implicit, documentul presupune că intervalul relevant se măsoară în ani sau cel mult câteva decenii, nu în secole.

Există însă numeroși cercetători care contestă această perspectivă. Unii consideră că modelele lingvistice actuale reprezintă doar o etapă importantă, dar insuficientă, și că trecerea la inteligență generală necesită descoperiri fundamentale pe care încă nu știm să le formulăm.

Alții cred că problema este chiar mai profundă. Ei susțin că termenul inteligență ascunde o multitudine de capacități diferite — înțelegere fizică, raționament cauzal, motivație, planificare pe termen lung, interacțiune socială — care nu rezultă automat din creșterea dimensiunii modelelor sau din acumularea de putere de calcul.

Cu alte cuvinte, este posibil ca progresul să continue spectaculos în anumite domenii fără a conduce neapărat la ceea ce autorii numesc superinteligență.

Acest lucru nu înseamnă că Planul A este greșit.

Înseamnă doar că el este construit pe o estimare privind ritmul dezvoltării tehnologice, iar această estimare este departe de a fi unanim acceptată.

A doua premisă: cursa este mai periculoasă decât tehnologia

Poate cea mai interesantă idee a documentului este aceea că principalul risc nu este existența inteligenței artificiale foarte performante, ci competiția pentru obținerea ei.

Această perspectivă mută accentul de la tehnologie către instituții. Autorii presupun că, dacă marile puteri ar coopera și ar încetini dezvoltarea, cele mai grave riscuri ar deveni gestionabile. Dar această ipoteză poate fi întoarsă pe dos.

Unii cercetători argumentează că problema fundamentală nu este viteza, ci dificultatea extraordinară a alinierii. Dacă într-adevăr construirea unei superinteligențe perfect controlabile este foarte dificilă, atunci câțiva ani în plus ar putea să nu schimbe mare lucru.

Alții susțin exact contrariul: încetinirea artificială ar reduce ritmul inovației tocmai în domeniul siguranței. Într-o lume în care progresul tehnologic este blocat prin tratate și controale, este posibil ca și cercetarea privind metodele de control să avanseze mai lent.

Cu alte cuvinte, relația dintre viteză și siguranță nu este atât de simplă precum pare.

A treia premisă: infrastructura poate fi controlată

Planul A se bazează în mare măsură pe faptul că dezvoltarea celor mai puternice sisteme AI necesită infrastructuri uriașe. În prezent, această afirmație este corectă. Cele mai performante modele sunt antrenate pe zeci de mii de procesoare specializate, în centre de date care consumă cantități impresionante de energie electrică. Dar tehnologia are obiceiul de a modifica regulile jocului. Procesoarele devin mai eficiente, algoritmii necesită mai puține resurse, metodele de comprimare și optimizare evoluează, modele care în urmă cu trei ani necesitau infrastructuri inaccesibile pot rula astăzi pe un computer personal performant.

Nu știm dacă această tendință va continua și pentru sistemele viitoare. Dacă răspunsul este afirmativ, întreaga arhitectură a Planului A devine mai greu de aplicat. Este dificil să inspectezi câteva zeci de centre de date, cum este aproape imposibil să urmărești milioane de sisteme distribuite. Autorii recunosc această problemă și sugerează că acordurile internaționale vor trebui adaptate permanent la evoluția tehnologiei.

Totuși, aceasta rămâne una dintre cele mai fragile ipoteze ale proiectului.

A patra premisă: Statele Unite și China pot coopera

Probabil niciun alt element al Planului A nu a fost privit cu mai mult scepticism. Documentul presupune că cele două mari puteri ajung la concluzia că o cursă spre superinteligență este atât de periculoasă încât justifică un tratat fără precedent. Nu este imposibil, istoria oferind exemple de cooperare între adversari strategici. În timpul Războiului Rece, Washingtonul și Moscova au negociat tratate privind armele nucleare tocmai pentru că niciuna dintre părți nu putea accepta riscul unei confruntări necontrolate.

Pe de altă parte, contextul actual este diferit. Inteligența artificială nu este doar o tehnologie militară, ci și cheia viitoarei competitivități economice. Un stat care încetinește unilateral dezvoltarea riscă să piardă nu doar un avantaj strategic, ci și unul industrial și comercial.

De aceea, cooperarea propusă de autori ar necesita un nivel de verificare și încredere fără precedent. Este posibil? Da. Este probabil? Aici răspunsurile diferă considerabil.

O critică mai subtilă: cine decide?

Există însă o obiecție care apare mai rar în discuțiile tehnice și care este, poate, cea mai interesantă din punct de vedere filozofic. Planul A vorbește mult despre distribuirea puterii. Dar cine decide că este momentul reluării dezvoltării? Cine stabilește că problema alinierii a fost rezolvată suficient? Cine certifică faptul că omenirea este pregătită pentru superinteligență?

Documentul răspunde doar parțial. Autorii imaginează organisme internaționale, mecanisme de verificare și acorduri multilaterale, dar, în cele din urmă, cineva trebuie să ia decizia. Într-un anumit sens, Planul A încearcă să împiedice apariția unui monopol asupra superinteligenței. În același timp, el presupune existența unei autorități globale suficient de puternice pentru a spune când poate începe dezvoltarea ei.

Aceasta este o tensiune pe care documentul nu o rezolvă complet.

Și totuși...

În esență, AI 2040 este un experiment intelectual. Autorii încearcă să răspundă unei întrebări pe care omenirea nu și-a pus-o niciodată până acum: cum proiectezi instituțiile unei lumi în care oamenii nu vor mai reprezenta cea mai înaltă formă de inteligență?

Privit astfel, documentul nu seamănă atât cu un raport guvernamental, cât cu primele reflecții asupra constituției unei civilizații aflate în pragul unei schimbări radicale.

Multe dintre soluțiile propuse pot fi criticate. Unele par greu de imaginat în contextul geopolitic actual, altele ar putea deveni depășite dacă tehnologia evoluează diferit de așteptările autorilor. Dar meritul fundamental al proiectului rămâne.

El obligă cititorul să privească dincolo de performanțele impresionante ale chatboturilor și ale modelelor lingvistice actuale și să se întrebe ce fel de instituții ar trebui să existe înainte ca inteligența artificială să devină suficient de puternică pentru a schimba echilibrul de putere dintre state, companii și, poate, chiar dintre oameni și propriile lor creații.

În acest sens, valoarea Planului A nu depinde neapărat de faptul că va fi aplicat vreodată, ci în schimbarea perspectivei. Timp de decenii, întrebarea dominantă a fost: „Ce poate face inteligența artificială?”, iar acum trebuie să răspundem la întrebarea: „Ce fel de lume ar trebui să existe înainte să îi permitem să facă tot ceea ce va putea face?”. Este foarte posibil ca generațiile viitoare să considere această întrebare una dintre cele mai importante întrebări politice ale secolului XXI.