Ni se oferă în mod constant cu o versiune a inteligenței artificiale care arată, sună și acționează în mod suspect ca noi. Vorbește în propoziții elegante, imită emoții, exprimă curiozitate, pretinde că simte compasiune, chiar se aventurează în ceea ce numește „creativitate”.
Dar iată adevărul: nu posedă niciuna dintre aceste calități. Nu este umană. Și prezentarea ei ca și cum ar fi? Asta e periculos. Pentru că este convingătoare. Și nimic nu este mai periculos decât o iluzie convingătoare.
În special, inteligența artificială generală, tipul mitic de IA care presupune că oglindește gândirea umană, este încă science fiction și ar putea rămâne așa.
Ceea ce numim astăzi inteligență artificială nu este nimic mai mult decât o mașină statistică: un papagal digital care regurgitează modele extrase din „oceane” de date umane (situația nu s-a schimbat mult în ultimii cinci ani). Când scrie un răspuns la o întrebare, literalmente doar ghicește ce literă și ce cuvânt va urma într-o secvență – bazându-se pe datele cu care a fost antrenată.
Asta înseamnă că IA nu are înțelegere. Nicio conștiință. Nici cunoaștere în vreun sens real, uman. Doar strălucire inginerească bazată pe probabilitate, nimic mai mult și nimic mai puțin.
Deci de ce este probabil imposibilă o IA „gânditoare" reală? Pentru că nu are corp. Nu are simțuri, nu are carne, nu are nervi, nu simte durere, nu simte plăcere. Nu îi este foame, nu dorește și nu se teme. Și pentru că nu există cogniție, nici măcar o fărâmă; există un decalaj fundamental între datele pe care le consumă (date născute din sentimente și experiențe umane) și ceea ce poate face cu ele.
Filozoful David Chalmers numește mecanismul misterios care stă la baza relației dintre corpul nostru și conștiință „problema dificilă a conștiinței". Oameni de știință eminenți au emis recent ipoteza că, în fapt, conștiința apare de fapt din integrarea stărilor mentale interne cu reprezentările senzoriale (cum ar fi modificările ritmului cardiac, transpirația și multe altele).
Având în vedere importanța cardinală a simțurilor umane și a emoțiilor în manifestarea conștiinței, există o separare profundă și probabil ireconciliabilă între inteligența artificială generală, a mașinii, și conștiință, un fenomen uman.
Stăpânul
Înainte să argumentați că programatorii de IA sunt umani, lăsați-mă să vă opresc aici. Știu că sunt umani. Asta este o parte a problemei.
Ați încredința cele mai profunde secrete, decizii de viață, tulburări emoționale unui programator de computere? Totuși, exact asta fac oamenii; întrebați-l pe Claude, GPT-4.5, Gemini... sau, dacă îndrăzniți, Grok.
A da inteligenței artificiale o față, o voce sau un ton uman este un act periculos de travestire digitală. Declanșează un răspuns automat în noi, un reflex antropomorfic, ducând la afirmații aberante prin care se spune că unele softuri de IA au trecut faimosul test Turing (care testează capacitatea unei mașini de a prezenta un comportament inteligent, asemănător celui uman). Dar eu cred că dacă IA trece testul Turing, trebuie să actualizăm testul.
Mașina IA nu are idee ce înseamnă să fii uman. Nu poate oferi compasiune autentică, nu poate prevedea suferința ta, nu poate intui motive ascunse sau minciuna. Nu are gust, nu are instinct, nu are „busolă” interioară. Este lipsită de toată complexitatea dezordonată, fermecătoare care ne face să fim ceea ce suntem.
Mai tulburător: IA nu are scopuri proprii, nici dorințe sau etică, dacă acestea nu sunt injectate în codul său. Asta înseamnă că adevăratul pericol nu se află în mașină, ci în stăpânul ei — programatorul, corporația, guvernul. Încă te simți în siguranță?
Și, vă rog, nu veniți la mine cu: „Ești prea dur! Nu ești deschis la nou!”. Sau mai rău: „E o viziune atât de sumbră. Prietenul meu pe bază de IA mă calmează când sunt anxios”.
Îmi lipsește entuziasmul? Nicidecum. Folosesc IA în fiecare zi. Este cel mai puternic instrument pe care l-am avut vreodată. Pot traduce, rezuma, vizualiza, scrie cod, depana, explora variante, analiza date — mai rapid și mai bine decât aș putea visa vreodată să o fac singur.
Sunt impresionat. Dar este încă un instrument — nimic mai mult, nimic mai puțin. Și ca orice instrument pe care oamenii l-au inventat vreodată, de la topoare de piatră și praștii la computere cuantice și bombe atomice, poate fi folosit ca armă. Va fi folosit ca armă.
Aveți nevoie de ceva vizuală? Imaginați-vă că vă îndrăgostiți de o IA amețitoare, ca în filmul „Her”. Acum imaginați-vă că „decide" să vă părăsească. Ce ați face pentru a o opri? Și pentru a fi clar: nu va fi IA cea care vă respinge. Va fi omul sau sistemul din spatele ei, mânuind acel instrument devenit armă pentru a vă controla comportamentul.
Înlăturarea măștii
Deci unde vreau să ajung? Trebuie să încetăm să dăm inteligenței artificiale trăsături umane. Prima mea interacțiune cu GPT-3 m-a enervat destul de serios. Pretindea că este o persoană. Spunea că are sentimente, ambiții, chiar conștiință.
Nu mai este comportamentul implicit, din fericire. Dar stilul de interacțiune — fluxul de conversație ciudat de natural — rămâne intact. Și este, de asemenea, convingător. Prea convingător.
Trebuie să dezantropomorfizăm IA. Acum. Să îi smulgem masca umană. Ar trebui să fie ușor. Companiile ar putea elimina toate referințele la emoție, judecată sau procesare cognitivă din partea IA. În special, ar trebui ca răspunsurile să includă fapte, fără să spună vreodată „eu", sau „simt că"... sau „sunt curios".
Se va întâmpla? Mă îndoiesc.
Îmi amintește de un alt avertisment pe care l-am ignorat de peste 20 de ani: „Trebuie să reducem emisiile de CO2”. Uitați unde am ajuns. Dar trebuie să avertizăm marile companii de tehnologie despre pericolele asociate cu umanizarea IA. Este puțin probabil să coopereze, dar ar trebui, mai ales dacă sunt serioși în dezvoltarea unei IA mai etice.
Iată ce fac eu (pentru că prea des am acest sentiment ciudat că vorbesc cu un om sintetic când folosesc ChatGPT sau Claude): îi dau instrucțiuni inteligenței artificiale să nu mi se adreseze pe nume. Îi cer să se numească IA, să vorbească la persoana a treia și să evite termenii emoționali sau cognitivi.
Dacă am o interacțiune vorbită, nu scrisă, cer inteligenței artificiale să folosească formulări plate și să vorbească puțin ca un robot. Este de fapt destul de amuzant și ne ține pe amândoi în zona noastră de confort.
Citiți și:
-- Cum funcționează ChatGPT?
-- Noam Chomsky: falsa promisiune a ChatGPT
-- ChatGPT nu poate gândi. Conștiința este ceva complet diferit
-- L-am întrebat pe ChatGPT ce le-ar scrie creatorilor lui
Traducere după We need to stop pretending AI is intelligent de Guillaume Thierry, profesor de neuroștiințe cognitive la Universitatea Bangor.
