Dacă apreciezi Scientia, ajută-ne să continuăm!

De ce inteligența umană nu poate fi redusă la optimizare, nici în epoca inteligenței artificiale.

În discursul despre inteligența artificială apare des următoarea idee: inteligența ar fi, în esență, capacitatea de a optimiza. Un sistem inteligent primește un obiectiv, învață din experiență, își reduce erorile și găsește mijloace tot mai eficiente pentru a obține rezultatul dorit. În această definiție încap cu ușurință softurile de șah, sistemele de navigație, algoritmii de recomandare și modelele lingvistice mari.

Aceasta este o descriere utilă a unei mari părți din tehnologia actuală, dar devine problematică atunci când este transformată, aproape pe nesimțite, într-o definiție completă a inteligenței, inclusiv a inteligenței umane. Dacă inteligența nu este decât optimizare, atunci omul apare ca o mașină mai lentă și mai imperfectă, condamnată să fie depășită de sisteme capabile să calculeze mai repede, să compare mai multe date și să urmărească obiective cu o eficiență incomparabilă.

Filozofia are motive serioase să ridice o obiecție, căci inteligența umană nu înseamnă doar să găsești cele mai bune mijloace pentru un scop, ci și să poți întreba dacă scopul merită urmărit.

Aceasta este, în fond, disputa dintre David Hume și Immanuel Kant, readusă în centrul lumii noastre de inteligența artificială.

Hume: rațiunea este slujitoarea dorințelor

Filosoful scoțian David Hume susținea, în secolul al XVIII-lea, că rațiunea nu stabilește scopurile acțiunilor noastre. Ea poate calcula, compara, anticipa consecințe și corecta erori, dar nu ne spune ce să dorim.

Dorințele, pasiunile, sentimentele și interesele fixează direcția; rațiunea ne ajută doar să ajungem mai eficient acolo.

Dacă cineva dorește răzbunare, rațiunea îi poate indica mijloacele cele mai eficace. Dacă dorește pace, îi poate recomanda negocierea. Dar, în această perspectivă, rațiunea nu poate decide între răzbunare și pace. Ea este un instrument: o unealtă foarte sofisticată, dar tot o unealtă.

Hume nu era un apologet al egoismului brutal. Prin „pasiuni”, el înțelegea și compasiunea, prietenia, bunăvoința, grija față de ceilalți ori dorința de liniște. A văzut corect că oamenii nu acționează numai după silogisme și calcule reci. Emoțiile, caracterul și legăturile sociale contează enorm.

Problema este alta: dacă rațiunea nu poate evalua scopurile, atunci nu mai avem un criteriu rațional pentru a spune că unele scopuri sunt nedemne, nedrepte sau distructive. Putem deveni foarte buni la obținerea a ceea ce dorim, fără să ne întrebăm dacă dorințele noastre merită să ne conducă viața.

Kant: libertatea începe când judecăm scopurile

Faimosul filozof german Immanuel Kant a respins această reducere a rațiunii la simplu calcul al mijloacelor. Pentru el, omul nu este liber doar fiindcă poate alege între mai multe dorințe. Dorințele noastre pot fi produse ale obiceiului, fricii, impulsului, educației, presiunii sociale sau interesului imediat. A face pur și simplu ceea ce dorim nu înseamnă neapărat libertate.

Libertatea apare atunci când putem lua distanță față de propriile dorințe și le putem judeca. Merită acest scop? Poate fi justificat? Aș putea accepta ca regula după care acționez să fie urmată de toți? Îi tratez pe ceilalți ca persoane, sau doar ca mijloace pentru planurile mele?

Aceasta este ideea kantiană de autonomie: capacitatea de a ne conduce după principii pe care le putem recunoaște rațional și pe care, în principiu, le-am putea justifica și celorlalți. Nu este vorba despre a inventa reguli private, convenabile doar nouă. Autonomia nu este capriciu, ci este capacitatea de a te supune unei reguli pe care o poți înțelege și susține ca egal între egali.

De aici derivă una dintre cele mai importante idei ale lui Kant: oamenii trebuie tratați întotdeauna ca scopuri în sine, nu doar ca instrumente. Un ciocan, un telefon sau un algoritm pot fi folosite pentru un scop. O persoană nu poate fi redusă legitim la utilitatea ei: angajat, consumator, votant, utilizator sau obstacol.

Omul are demnitate tocmai pentru că nu este doar purtătorul unor dorințe, ci o ființă capabilă să-și examineze și să-și asume responsabilitatea pentru scopurile sale.

Ce ne arată inteligența artificială

Sistemele de inteligență artificială funcționează, în mare, după logica optimizării. Un motor de șah caută mutări care cresc probabilitatea victoriei. Un algoritm de recomandare urmărește adesea timpul petrecut pe platformă sau probabilitatea unui clic. Un sistem de navigație găsește traseul cel mai rapid către o destinație pe care nu el a ales-o.

Chiar și atunci când un sistem pare creativ, când propune idei, formulează întrebări sau își modifică strategia, trebuie păstrată o distincție importantă. Inițiativa nu este același lucru cu autonomia morală. Un program poate genera sub-obiective, poate găsi căi neașteptate spre rezultat și poate ocoli constrângeri prost formulate. Dar asta nu arată, prin sine, că poate decide dacă rezultatul urmărit este justificat.

A avea un scop nu este totuna cu a putea răspunde moral pentru acel scop.

Aceasta este diferența importantă dintre o mașină foarte performantă și o persoană: mașina poate optimiza, dar persoana poate întreba ce merită optimizat.

Pericolul obiectivelor invizibile

Reducerea inteligenței la optimizare este atrăgătoare fiindcă permite măsurarea. Putem stabili un indicator, putem urmări progresul, putem compara performanțe și putem mări profitul. Într-o cultură dominată de metrici, randamente și clasamente, această imagine pare aproape inevitabilă.

Dar fiecare optimizare ascunde o alegere anterioară: ce anume considerăm succes? O platformă poate optimiza „angajamentul” utilizatorilor, iar o companie poate optimiza producția pe oră, dar niciunul dintre aceste obiective nu este neutru, căci încorporează o anumită idee despre ce contează: atenția, viteza, profitul, creșterea, persuasiunea.

Problema nu este că asemenea scopuri există, pentru că orice organizație are nevoie de obiective. Problema apare când ele nu mai sunt discutate public și ajung să fie tratate ca date naturale. Atunci, oamenii devin variabile într-un sistem: date de analizat, comportamente de prevăzut, impulsuri de exploatat.

Gânditorii Școlii de la Frankfurt, precum Max Horkheimer și Theodor Adorno, avertizau că rațiunea redusă exclusiv la calcul, control și eficiență poate deveni un instrument al dominației. Nu rațiunea este periculoasă, ci rațiunea amputată de întrebarea morală: eficient pentru ce și cu ce preț uman?

Problema reală a „alinierii”

Se vorbește mult despre necesitatea alinierii inteligenței artificiale la valorile umane. Este, desigur, necesar ca sistemele puternice să nu urmărească obiective incompatibile cu siguranța și interesele oamenilor. Dar problema nu este numai tehnică. Nu ajunge să spunem că mașinile trebuie aliniate la „valorile noastre”, ca și cum acestea ar fi deja clare, fixe și unanim acceptate.

Valorile sunt discutate, reinterpretate și apărate în spațiul public. Ele cer educație, imaginație morală, conflict democratic și capacitatea de a-i asculta pe ceilalți.

Pericolul cel mai profund nu este doar ca mașinile să devină prea autonome, ci ca oamenii să renunțe treptat la propria autonomie, lăsând algoritmii să decidă ce merită citit, cumpărat, crezut, votat sau dorit.

Avem nevoie de mașini inteligente, capabile să ne ajute, dar nu trebuie să acceptăm ideea că omul este doar o mașină de optimizat. Rațiunea nu este numai puterea de a atinge eficient un scop, ci și cea de a ne întreba, împreună, ce fel de scopuri sunt demne de noi.


Sursa: Reason is more than a tool

Write comments...
symbols left.
Ești vizitator ( Sign Up ? )
ori postează ca „vizitator”
Loading comment... The comment will be refreshed after 00:00.

Be the first to comment.

Susține Scientia!
Progresul softurilor de IA și funcția Google de a genera răspunsuri IA direct în pagina de căutare au dus la scăderea semnificativă a traficului Scientia și, implicit, a veniturilor oricum modeste din publicitate.
Scientia continuă să publice articole de știință și tehnologie, fără a accepta articole publicitare mascate drept conținut editorial (primim în mod regulat astfel de oferte). Dorim să păstrăm această independență, dar, în condițiile actuale, continuarea proiectului depinde și de sprijinul cititorilor.
Dacă apreciezi Scientia și dorești ca acest proiect să continue,
susține-ne printr-o donație.
Orice contribuție contează.