În urmă cu câteva zile a apărut un articol scris de Mihnea Măruță, jurnalist și autor. Acesta a avut și o discuție cu jurnalistul Cristian Tudor-Popescu la un podcast, în care analizează temele care sunt prinse, mai succint, în articol.
Domeniul relației omului cu tehnologia ar trebui să ne intereseze pe toți, pentru că transformă modul în care trăim. Așadar, am citit cu atenție articolul lui Măruță, iar în continuare o să prezint propriile idei cu privire la temele propuse de jurnalist.
Cele cinci teme sunt: 1. îndrăgostirea de inteligența artificială (IA); 2. capitalismul transcendental; 3. invidierea robotului; 4. invazia fantomelor; 5. nemurire și obediență. La final apare și o întrebare fără răspuns.
Găsesc cele cinci teme interesante și util de dezbătut. Sunt subiecte foarte generoase, care, separat, pot face obiectul câte unei cărți, pentru a trece în revistă unde suntem, cum am ajuns aici și ce este posibil.
Sigur, o să mă rezum la scurte aprecieri care, sper, vor da totuși un pic de context și care ne duc un pic mai aproape de răspunsul la întrebarea: ce este realmente posibil?
1. Îndrăgostirea de IA
Ce spune Mihnea Măruță, în esență:
- tot mai mulți se îndrăgostesc de asistenți de IA.
- IA pare că are emoții, deci seamănă cu un om.
- cu timpul, omul va avea sentimente de intimitate, fidelitate și atașament față de IA.
- vor fi consecințe: omul nu-și mai exersează memoria; ne vom depărta de oameni, care nu sunt disponibili ca IA; vor fi solicitări de căsătorie cu IA.
Întâi, nu cred că oamenii din registrul normal, majoritatea, vor ajunge să se îndrăgostească de un program de calculator, orice ar spune diverși autori și diverse studii. Pur și simplu nu există ingredientele necesare.
De ce te îndrăgostești în fapt? Te îndrăgostești de o voce care vorbește frumos cu tine, te înțelege, dar care vorbește la fel cu toată lumea? Iubirea, printre altele, include unicitatea ființei de care te îndrăgostești și particularitățile ei.
Complexul de emoții care însoțesc îndrăgostirea și iubirea includ: senzația că ai întâlnit pe cineva unic, care ar putea fi pierdut, deci trebuie tratat cu o anumită grijă, precum și senzația că simpla prezență a persoanei iubite te implinește. Nu mai vorbesc despre aspectele intime presupuse de o relație sentimentală. Toate aceste lucruri nu se potrivesc în scenariul îndrăgostirii de ChatGPT, care nu creează nicio tensiune, nu oferă nicio victorie a cuceririi, nu prezintă nicio perspectivă a tragediei (pierderii partenerului).
Vor fi unii care vor declara că iubesc nu știu ce agent de IA și chiar vor să se căsătorească? Sigur. Dar va fi un fenomen larg răspândit? Nu văd cum, dacă nu apar modificări substanțiale ale naturii umane.
2. Capitalismul transcendental (aprioric) - economia intenției
Ce spune autorul, în esență:
- economia atenției va deveni economia intenției.
- firme aflate în colaborare cu deținători de LLM (ex: ChatGPT) vor fi interesate de deciziile noastre înainte de a fi luate.
- în dialogul cu agentul de IA vom primi sugestii care prezintă interesul unor companii, gen: „nu vrei să mergi la filmul X?”.
- astfel, capitalismul premerge acțiunile omului, va apărea un domeniu de studiu care vrea să descifreze intenția omului în funcție de ce postează online, iar în final nu mai alegem pe cont propriu, fiind în fapt influențați de IA.
Încep cu o mică nedumerire privind terminologia. Transcendental nu înseamnă aprioric, în terminologia lui Kant (autorul spune că la bază ar sta gândirea kantiană).
Altfel, sigur, există un interes pentru intențiile posibililor consumatori. Și de mulți ani. De aceea când cauți, de pildă, o pereche de pantofi, vei fi bombardat ulterior de reclame la pantofi, chiar dacă ți-ai cumpărat deja.
Foarte probabil, tehnologia va evolua și tot mai multe date vor fi colectate despre noi, iar procesarea va fi mai eficientă.
Altfel, este posibil ca agenții de IA să facă propuneri concrete pentru a merge la un film, dar am dubii, pentru că agentul își vor pierde rapid ștaiful, acela de posesor al tuturor cunoștințelor omenirii, chiar dacă azi dau rateuri (promisiunea e că nu vor mai face). Pierderea ștaifului va îndepărta utilizatorii, care se vor simți trădați.
În plus, dacă se va ajunge la infiltrarea de reclame, vom observa asta și ne vom duce către agenți de IA care nu fac asta. Cel puțin eu :)
În concluzie, da, intenția potențialilor clienți a prezentat, prezintă și va prezenta interes pentru companiile care vând ceva. Vor fi evoluții în ce privește capacitatea de procesare a datelor colectate. Dar nu cred că agenții de IA vor deveni agenți de vânzări. Vom vedea.
3. Învierea robotului
Ideile din articol, în esență:
- omul se va conecta permanent la Internet prin interfețe om-mașină.
- numărul senzorilor (electrozilor) care vor implantați în creier vor fi din ce în ce mai mulți, omul va controla obiecte din proximitatea sa cu mintea.
- comunicarea dintre minți este lentă, dar dacă le pui interfețe, comunicarea de date va fi la cu totul alt nivel.
- ca urmare, omul va invidia computerele, că sunt superioare, creierul omului va putea fi accesat de entități din rețea, fiind posibil ca viitoarele războie să fie purtate de creiere.
Ar fi multe de spus, dar nimănui nu-i place un articol lung, nu? :)
Pentru a înțelege cum funcționează în fapt interfețele om-mașină, puteți citi o serie de articole aici pe site. În esență, nu este vorba, cum cred mulți, despre transferul magic, continuu și cu precizie al unor gânduri către computere. Este un efort enorm, imperfect, de a găsi tipare ale activății electrice a creierului, stocarea datelor, iar, ulterior, la captarea a noi semnale, compararea cu tiparele identificate și ghicirea a ceea ce se întâmplă în creier la un moment dat.
Nu știu ce poate însemna faptul că „ne-am conecta permanent la Internet prin interfețe om-mașină”. Dacă își imaginează cineva că există în creier un loc în care poți pune un fel de port special prin care te conectezi la Internet - este naiv. Dacă această conectare înseamnă că acei electrozi pot, prin extensie, fi parte dintr-o rețea mai mare, cu acces la Internet, sigur. Dar utilizarea Internetului în mod magic, renunțând la dispozitive intermediare (PC, telefon etc.), este o utopie.
Prin interfețe om-mașină, sigur, ai acces la activitatea electrică a creierului, dar cum ajungem la războaie ale minților nu mi-e clar.
Mai mult, activitatea creierului poate fi alterată prin impulsuri electrice, câmpuri magnetice sau substanțe chimice. Dar asta nu înseamnă un control permanent al tuturor prin intermediul tehnologiei.
Nu mi-e clar nici ce a vrut să spună autorul prin menționarea vitezei superioare de transmitere a datelor de către computere. Gândurile noastre funcționează în ritmul lor. Nicio interfață electronică nu le poate crește viteza.
Sigur, transferul de date al mașinilor ar putea fi superior, dar la ce ajută? Mai mulți electrozi nu înseamnă un transfer mai mare de date în ambele sensuri între om și mașină.
Din câte știu, nu există cunoașterea necesară, de exemplu, cu privire la introducerea de cunoștințe în creierul uman prin intermediul unei interfețe om-mașină (deși există unele experimente care tatonează domeniul).
4. Invazia fantomelor
La această temă, în esență ni se spun următoarele:
- după TV și rețele sociale, omul poate fi înregistrat pe timpul vieții, iar la moarte poate fi creat un soft de IA, cu care urmașii pot dialoga.
- apoi, un alt stadiu, memoria omului va fi urcată într-un computer, iar „dublura” va acționa ca o fantomă digitală.
- în fine, informația poate fi pusă într-un robot, iar cel mort va fi viu, pentru că are memoria celui mort.
Ideile sunt de film SF. Dar nu sunt dintre cele care vor deveni realitate. Problemele apar, ca mai mereu, când vrem să înțelegem ce vrem să spunem și cum am putea să punem în practică ideile.
Ce înseamnă, de pildă, să urci „informația integrală din memoria unei persoane” într-un computer? Ce-ți amintești tu la un moment dat? Asta este foarte secvențial, multe amintiri sunt, în fapt, fără legătură cu ce s-a întâmplat și, în orice caz, ce ne amintim este infim în raport cu ce am trăit.
Nu există în creier un hard-disk în care se stochează ce vedem, auzim, simțim, gândim șamd. Așadar, ce urci în fapt pe mediul de stocare al unui computer? Am scris la un moment dat despre urcarea „eului” pe un computer și de ce asta nu va fi posibil.
S-o fi gândit autorul la un transfer automat al memoriei? Adică îi bagi omului câți electrozi în creier, de unde extragi ce e acolo? Cum? Noi nu înțelegem cum funcționează stocarea amintirilor la nivelul creierului, nici cum funcționează amintirea (ce anume face creierul când își reamintește numele de fată al bunicii?). De unde colectezi amintirile?
În fapt, știm foarte puține despre cum funcționează creierul. Iar tehnologia gen ChatGPT nu reproduce modul de funcționare al minții umane, ci este o variantă super-simplificată.
-- Citește și: Cum funcționează ChatGPT?, precum și Falsa promisiune a ChatGPT.
Pe de altă parte, omul nu este doar amintirile sale. Cum pui într-un calculator predispozițiile omului? Întreaga sa personalitate? Capacitatea de a observa lumea cum o observă un om (cum vom reproduce senzația de roșu, de exemplu, specific umană, la nivelul unui computer?).
Sigur, putem face roboți care să semene cu cineva drag și decedat, iar robotul să spună niște fraze care seamnă cu defunctul. Dar va trăi cineva cu senzația că se poate discuta cu robotul cum se discuta cu omul? Va avea cineva senzația că vorbește cu cel decedat și cumva înviat? Puțin probabil. Nu suntem atât de bizari, ca specie.
Dar, dacă tehnologia va evolua, și în acest caz, cum spuneam și mai sus când vorbeam despre îndrogăstirea de un robot, se vor găsi unii să vrea un robot de acest timp. La urma urmelor, oamenii cumpără tot timpul tehnologie de care nu au nevoie. Și mai sunt și cei care... ies din sfera a ce considerăm normal, ciudații. Unii ciudați cu bani vor cumpăra probabil astfel de roboți inutili.
5. Nemurire și obediență
Aici se discută, în esență, următoarele:
- memoria noastră va fi probabil salvată în cloud.
- dar astfel riscăm să cedăm supremația către o specie artificială.
- cei bogați vor să facă experimente genetice și farmacologice și de conectare om-mașină, într-o cursă a înarmării cu IA.
- astfel, tendința e de adroidizare a omenirii și trebuie să ne întrebăm dacă va exista o reacție colectivă, cum va fi războiul împotriva androidizării și dacă poți lupta analogic împotriva unei entități atotcunoscătoare.
Este o temă pe care Mihnea Măruță o expune, din câte-mi dau seama, mai puțin clar. Cred că esența este următoarea: ne mutăm amintirile în cloud, iar IA, cu acest bagaj de cunoștințe va prelua controlul lumii; cum ne vom lupta noi cu această nouă specie?
Nu știu la ce ajută urcarea amintirilor oamenilor în... cloud. Este mult mai valoros ceea ce e deja în IA: cunoștințele teoretice și practice ale omenirii.
O mașină nu va deveni om doar pentru că are acces la amintirile omului; cel mult poate simula până la un punct că este om, dacă așa este programată. Dar durerea de măsea este ceva ce nu poate fi programat și nici reacția la splendoarea unei opere de artă. Sentimentele umane și modul în care percepem lumea nu pot fi translatate în linii de cod.
În teorie este posibil ca anumite mașini să decidă, îndepărtându-se cumva de la ce se așteaptă de la ele, să rănească/ ucidă oameni. Se întâmplă deja.
Articole de presă recente vorbesc despre utilizarea unor echipamente militare care decid singure țintele, pe baza unor parametri stabiliți de programatori.
Este posibil, la limită, ca diverse mașini să comunice între ele, pentru că așa au fost programate, iar din greșeală să afecteze omul și viața umană.
Dar nu văd cum ar putea fi sursa răului faptul că niște amintiri ale omului ajung în cloud...
Dar, una peste alta, tema afectării omului de către inteligența artificială, care, cumva, mergând dincolo de scopurile pentru care a fost programată, la un moment dat o va lua razna, este una validă și merită toată atenția.
6. Redefinirea lumii
În final Mihnea Măruță propune o temă la care nu are un răspuns: „nu cumva transferul cunoașterii omenești către IA creează această golire de sine a omenirii?”.
Asta în contextul în care ar fi discuții din ce în ce mai des despre: ce misiune au părinții, avem nevoie de școală, ce rost are să mai iubești, are rost să lupți pentru libertate sau de ce realitatea este bună.
Iar întrebarea ar fi: ce mai poate constitui un suport de realitate, un „menținător” de realitate în lumea noastră?
Ar fi multe de spus la acest subiect. Mă mărginesc la a afirma următoarele:
- nu am auzit aceste întrebări din ce în ce mai des, ceea ce nu înseamnă că nu e totuși așa.
- nu cred că există vreun transfer de „sine” către IA. Omul modern se construiește pe sine în contextul de astăzi, cu acces inegalabil la cunoaștere. Azi poți deveni ce-ți dorești, în limitele, desigur, ale posibilului; ai acces la informațiile necesare în mod rapid și ieftin, ca niciodată în istorie.
Într-o lume avansată tehnologic ca cea de astăzi, în mod cert părinții au un rol mai complicat și mai important decât în trecut, iar școala este mai relevantă pentru a-l pregăti pe tânăr pentru această lume. Iubirea și simțul libertății țin de natura umană - mereu vom avea nevoie de ele, chiar dacă libertatea individuală a fost și este de multe ori sub semnul întrebării / suprimată în anumite regimuri politice.
Pe de altă parte, dincolo de articolul pe care l-am discutat rapid mai sus, fiecare observă că tehnologia vine cu transformări profunde ale modului în care trăim. Ceea ce nu demult însemna în genere a trăi, activitățile cotidiene specifice, este amendat de tehnologie. Astăzi copiii nu mai sunt copii în sensul tradițional și așteptat încă de generațiile mai în vârstă, mamele nu mai sunt mame, iar tații nu mai sunt tați, pentru că sunt conectați la diverse aplicații și epuizați de această conectare. Despre efectele interacțiunii cu tehnologia am scris mai multe articol de-a lungul timpului; vi le recomand pe următoarele:
-- Homo delectationis. De ce TikTok este culmea evoluției umane
-- Omul perpetuu cuplat și evanescența trăirilor
-- De ce nu vedem la fel lumea, deși privim la aceleași lucruri
-- De ce prostiile și tragediile ne captează atenția.
---
Articolul lui Mihnea Măruță poate fi citit aici.
Dezbaterea cu Cristian Tudor-Popescu poate fi urmărită aici.
Imaginea de început este generată cu IA, pornind de la imaginea din articolul discutat.
