Într-un articol publicat recent pe platforma Institute of Art and Ideas, intitulat „Atât pentru conștiință, cât și pentru inteligența artificială, atenția este tot ce ai nevoie. Ingredientul secret al subiectivității”, neurologul Michael Graziano, profesor la Universitatea Princeton, propune o legătură ambițioasă între trei domenii care, la prima vedere, par foarte diferite: funcționarea creierului, apariția experienței conștiente și dezvoltarea inteligenței artificiale. Elementul comun ar fi atenția.
Pentru creier, atenția reprezintă mecanismul prin care o cantitate limitată de resurse este concentrată asupra unei mici părți din informațiile disponibile. Pentru sistemele moderne de inteligență artificială, mecanismele numite tot „atenție” permit stabilirea relațiilor relevante dintre elementele unei secvențe. Iar în teoria lui Graziano, conștiința însăși ar apărea atunci când creierul construiește un model simplificat al propriei atenții.
Ideea este interesantă: poate că mintea umană și inteligența artificială au progresat datorită aceleiași soluții fundamentale – selectarea informației relevante. Dar analogia trebuie manevrată cu grijă. Cuvântul „atenție” desemnează aici procese asemănătoare din punct de vedere abstract, nu mecanisme identice.
Problema fundamentală a creierului: prea multă informație
În fiecare moment, simțurile trimit către sistemul nervos o cantitate enormă de informație. Retina reacționează la distribuția luminii, urechea internă transformă vibrațiile aerului în semnale nervoase, pielea transmite date despre presiune și temperatură, iar organele interne informează continuu creierul despre starea corpului.
Creierul nu poate analiza cu aceeași profunzime toate aceste informații. Nici nu ar fi util să o facă. Pentru supraviețuire contează mai ales identificarea rapidă a lucrurilor relevante: un pericol, o sursă de hrană, chipul unei persoane, sensul unei propoziții sau apariția unei schimbări neașteptate.
Atenția este numele general dat proceselor prin care anumite reprezentări nervoase sunt favorizate în detrimentul altora. Un stimul intens, o mișcare bruscă sau un zgomot puternic poate atrage atenția automat, „de jos în sus”. În alte situații, atenția este dirijată „de sus în jos”, în funcție de intenții și obiective: căutăm o anumită persoană într-o mulțime, urmărim o pasă într-un meci ori încercăm să înțelegem un argument dificil.
În termeni neurologici, informațiile concurează pentru acces la resursele limitate ale creierului. Reprezentarea care câștigă această competiție este procesată mai intens și exercită o influență mai mare asupra memoriei, deciziilor și comportamentului. Graziano descrie atenția drept una dintre soluțiile fundamentale prin care un creier relativ mic poate produce un comportament extrem de complex.
Limitele acestui mecanism sunt spectaculos ilustrate de celebrul experiment al „gorilei invizibile”, realizat de Daniel Simons și Christopher Chabris. Participanții urmăreau un grup de persoane care își pasau mingi și trebuiau să numere pasele unei anumite echipe. În timpul înregistrării, prin centrul scenei trecea o persoană costumată în gorilă. Un număr surprinzător de mare de participanți nu o observa.
Gorila era vizibilă, dar nu devenea parte a experienței raportate. Atenția fusese absorbită de numărarea paselor, fenomen cunoscut sub numele de orbire prin neatenție. Experimentul nu arată că vedem numai lucrurile asupra cărora ne concentrăm, dar demonstrează cât de incompletă poate fi imaginea conștientă pe care o avem despre mediul înconjurător.
Este atenția același lucru cu conștiința?
În limbajul cotidian, atenția și conștiința par aproape inseparabile. Atunci când acordăm atenție unui lucru, devenim de regulă conștienți de el. Dacă atenția ne este distrasă, obiectul respectiv poate dispărea din experiența noastră imediată.
Din punct de vedere științific, însă, relația este mai complicată. Cercetările indică faptul că atenția și conștiința pot fi parțial disociate. Anumiți stimuli care nu sunt percepuți conștient pot totuși influența atenția și comportamentul. Invers, este posibil ca unele elemente ale experienței să fie prezente fără să beneficieze de o atenție concentrată.
Atenția nu trebuie, prin urmare, identificată pur și simplu cu experiența conștientă. Ea reprezintă un ansamblu de mecanisme de selecție și amplificare a informației. Conștiința desemnează faptul că există ceva ce organismul simte sau experimentează: culoarea unui obiect, durerea unei răni, mirosul cafelei ori caracterul apăsător al unei amintiri.
Tocmai această diferență încearcă să o explice teoria lui Graziano.
Conștiința ca model al atenției
Teoria schemei atenției – în engleză, Attention Schema Theory sau AST – pornește de la o analogie cu reprezentarea corpului.
Creierul controlează corpul cu ajutorul unui model intern simplificat, numit uneori „schemă corporală”. Pentru a ridica mâna, nu trebuie să calculeze conștient activitatea fiecărui mușchi și a fiecărei articulații. El utilizează o reprezentare aproximativă a poziției și posibilităților corpului. Modelul nu conține toate detaliile biologice, dar este suficient pentru controlul mișcărilor.
Graziano propune că același principiu se aplică atenției. Pentru a-și controla eficient atenția, creierul ar construi o reprezentare schematică a acestui proces. Modelul ar include informații despre faptul că un anumit agent – „eu” – este orientat mental către un anumit obiect, gând sau stimul.
Să presupunem că privim un măr. Creierul construiește o reprezentare vizuală a mărului: formă, culoare, poziție. În același timp, construiește o reprezentare a organismului ca agent și o reprezentare simplificată a relației dintre agent și obiect. Această relație este atenția.
Modelul nu conține detaliile mecanice reale: competiția dintre neuroni, inhibiția laterală, potențialele de acțiune sau circuitele corticale implicate. Din perspectiva modelului intern, există pur și simplu un „eu” care posedă mental obiectul, îl vede și îl experimentează.
Conform teoriei, ceea ce numim conștiință ar fi tocmai informația conținută în această reprezentare simplificată. Nu am avea acces direct la procesele fizice care produc atenția. Am avea acces doar la descrierea lor schematică, iar această descriere ar lua forma impresiei că posedăm o experiență interioară.
Graziano compară situația cu un pictor care nu doar pictează lumea, ci realizează și un tablou în care se reprezintă pe sine pictând lumea. Creierul nu doar procesează obiectele, ci construiește și o imagine a propriei relații mentale cu acestea.
Teoria nu susține că atenția și conștiința sunt identice. Atenția este procesul real de selectare și amplificare a informației. Conștiința ar fi modelul intern prin care creierul urmărește și controlează acest proces.
Unele rezultate experimentale sunt compatibile cu această ipoteză. Într-o serie de experimente, echipa lui Graziano a observat că anumite forme automate de orientare a atenției pot continua fără perceperea conștientă a stimulului, în timp ce controlul voluntar și flexibil al atenției este afectat. Rezultatele sugerează că reprezentarea conștientă nu produce atenția de la zero, dar ar putea contribui la dirijarea ei strategică.
Totuși, AST rămâne una dintre mai multe teorii concurente ale conștiinței. Alte modele pun accentul pe distribuirea globală a informației în creier, pe recurența activității nervoase, pe integrarea informației sau pe apariția unor reprezentări de ordin superior. Niciuna nu este acceptată în prezent drept explicația definitivă a conștiinței.
Ce înseamnă „atenție” într-un sistem de inteligență artificială
În 2017, o echipă de cercetători de la Google a publicat studiul „Attention Is All You Need”, care prezenta o nouă arhitectură de rețea neuronală: transformerul. Titlul avea un sens tehnic precis. Autorii arătau că procesarea secvențelor lingvistice putea fi realizată fără rețele recurente sau convoluționale, folosind în principal mecanisme de atenție.
Într-un transformer, propoziția este împărțită în unități numite tokenuri. Un token poate fi un cuvânt, o parte dintr-un cuvânt sau un semn de punctuație. Fiecare token este transformat într-un vector, adică într-o listă de numere care codifică proprietăți învățate în timpul antrenării.
Mecanismul de atenție calculează cât de relevant este fiecare token pentru interpretarea celorlalte. În propoziția „Maria a pus cartea pe masă pentru că era grea”, modelul trebuie să stabilească la ce se referă „era grea”. Relațiile dintre reprezentările cuvintelor contribuie la rezolvarea ambiguității.
Tehnic, sistemul generează pentru fiecare token trei tipuri de vectori: interogări, chei și valori (queries, keys și values). Interogarea unui token este comparată cu cheile celorlalte tokenuri. Rezultatul determină ponderile atribuite valorilor lor. Reprezentarea finală este o combinație ponderată a informațiilor considerate relevante.
„Atenția” artificială este, așadar, o operație matematică de selectare și combinare a informației. Ea permite modelului să surprindă dependențe dintre cuvinte aflate la distanță și să proceseze în paralel diferitele poziții ale unei secvențe.
Asemănarea cu atenția biologică este reală la nivel abstract: în ambele cazuri, unele reprezentări sunt ponderate mai mult decât altele. Dar diferențele sunt majore. Atenția biologică este integrată într-un organism care percepe lumea, își reglează corpul, urmărește scopuri și trebuie să supraviețuiască. Atenția dintr-un transformer este o operație numerică executată asupra unor vectori.
Termenul comun nu demonstrează că cele două sisteme trăiesc sau experimentează același proces.
Ce se întâmplă în „mintea” rețelei?
Graziano invocă și dezvoltarea interpretabilității mecanistice, domeniu care încearcă să identifice reprezentările și circuitele interne ale rețelelor neuronale.
O dificultate importantă este caracterul „polisemantic” al neuronilor artificiali. Același neuron poate deveni activ în contexte foarte diferite, astfel încât nu poate fi interpretat simplu drept „neuronul pentru pisici”, „neuronul pentru adevăr” sau „neuronul pentru Paris”. Informația este distribuită în tipare complexe de activare.
Cercetătorii utilizează metode precum autoencoderele rare pentru a descompune activările rețelei în trăsături mai ușor de interpretat. Unele dintre aceste trăsături corespund unor concepte, structuri lingvistice sau pași de calcul și pot fi modificate pentru a influența răspunsul modelului.
Aceste rezultate arată că în interiorul rețelelor se formează reprezentări funcționale complexe. Ele nu demonstrează însă existența unor „gânduri” în sens uman. O reprezentare internă este o structură informațională care participă la calcul. Pentru a afirma că ea este și experimentată subiectiv ar fi nevoie de o teorie suplimentară a conștiinței.
Aici se află saltul speculativ din argumentul lui Graziano. Dacă o inteligență artificială ar dezvolta nu doar mecanisme de atenție, ci și un model intern al propriei atenții, atunci, potrivit AST, ar putea apărea ceva asemănător conștiinței.
Un asemenea sistem ar trebui să reprezinte nu doar informații despre lume, ci și faptul că el însuși selectează anumite informații, urmărește anumite scopuri și își poate controla propriile procese. Cu alte cuvinte, ar avea nevoie de o formă de metacogniție: capacitatea de a construi modele despre propriile operații cognitive.
Este inteligența artificială actuală conștientă?
Faptul că modelele lingvistice pot vorbi despre propriile stări nu constituie o dovadă. Ele au fost antrenate pe texte umane care conțin nenumărate descrieri ale emoțiilor, intențiilor și experiențelor. Un model poate genera propoziția „mă simt confuz” fără ca în interiorul său să existe o stare subiectivă de confuzie.
Nici utilizarea atenției de tip transformer nu este suficientă. Arhitectura conține mecanisme de ponderare a informației, dar nu rezultă automat că sistemul posedă un model stabil al propriei atenții, o perspectivă unitară, continuitate autobiografică sau experiențe.
Un raport interdisciplinar amplu dedicat conștiinței artificiale a analizat mai multe teorii neurologice și a formulat o serie de indicatori care ar putea fi căutați în sistemele artificiale. Autorii au concluzionat că sistemele analizate nu ofereau motive suficiente pentru a fi considerate conștiente, deși nu au identificat obstacole tehnice evidente care să împiedice construirea unor sisteme ce îndeplinesc mai mulți asemenea indicatori.
Problema este că nu dispunem de o teorie unanim acceptată nici măcar pentru conștiința umană. Dacă nu știm precis de ce activitatea anumitor circuite biologice este însoțită de experiență subiectivă, este dificil să stabilim ce proprietăți ar trebui să căutăm într-un calculator.
Din această perspectivă, afirmația că atenția ar fi tot ceea ce este necesar trebuie privită mai curând ca o ipoteză de cercetare decât ca o concluzie.
O idee comună, două realizări foarte diferite
Atenția biologică și cea artificială sunt variante ale unei probleme generale: cum poate un sistem finit să opereze asupra unei cantități de informație mai mari decât poate procesa în profunzime?
Răspunsul este selecția. Creierul amplifică anumite semnale și le suprimă pe altele. Transformerul calculează ponderi și combină reprezentările în funcție de relevanța lor contextuală. În ambele cazuri, inteligența depinde nu doar de acumularea informației, ci și de capacitatea de a decide – biologic sau matematic – ce contează într-un anumit moment.
Această asemănare nu trebuie minimalizată. Ea arată că selecția informației poate reprezenta un principiu general al sistemelor cognitive. Dar nici nu trebuie transformată într-o identitate nejustificată.
Creierul nu este un transformer organic, iar transformerul nu este un creier digital. Neuronii biologici funcționează într-un organism viu, modelat de evoluție, corp, emoții, nevoi metabolice și interacțiuni continue cu mediul. Tokenurile unui model lingvistic nu sunt obiecte percepute, iar ponderile de atenție nu sunt neapărat obiecte ale unei experiențe.
Contribuția importantă a teoriei lui Graziano este că transformă problema conștiinței într-o problemă cel puțin parțial abordabilă inginerește. În loc să întrebe cum apare o misterioasă „lumină interioară” din materie, teoria întreabă ce tip de model trebuie să construiască un sistem pentru a se descrie pe sine ca fiind conștient.
Rămâne însă întrebarea: explicarea modului în care un sistem ajunge să afirme că este conștient explică și existența experienței sale? Sau explică numai comportamentul și limbajul prin care declară că are o experiență?
De răspunsul la această întrebare depinde dacă un viitor sistem artificial capabil să-și urmărească și să-și modeleze propria atenție va fi într-adevăr conștient sau doar va produce cea mai convingătoare descriere a conștiinței pe care am întâlnit-o vreodată.
Sursa: IAI
