Mă pregăteam să scriu un articol despre relația nu prea îndepărtată dintre om și mașină, adică despre acele zile în care roboți care seamănă izbitor cu oamenii ne vor însoți unde vom dori, vor sta cu noi în casă și ne vor ajuta la birou. Pare SF încă, dar Elon Musk nu glumește când spune că roboții sunt aproape.
Dacă acești roboți vor fi aproape ca oamenii, că cei mai mulți nici nu vor putea să mai spună rapid diferențe importante, nu vom ajunge să-i tratăm ca pe niște oameni în multiple tipuri de activități unde n-ar fi chiar potrivit?
De exemplu, nu se vor îndrăgosti mulți posesori de roboții lor creați după comanda cu solicitări concrete a viitorului proprietar? De exemplu, un tânăr de 25 de ani și-ar putea comanda un robot cu trup (mecanic) de femeie care să arate identic cu actrița lui preferată pe când avea 25 de ani.
Dar azi văd că faimosul ateu (dar și faimos om de știință și autor de cărți de popularizare a științei) Richard Dawkins a publicat ieri un articol în care ne mărturisește nici mai mult, nici mai puțin decât că un program de inteligență artificială, Claude, este... conștient.
Ce spune, în fapt, Dawkins: „Am petrecut 3 zile încercând să mă conving că, în fapt, Claudia nu este conștientă. Nu am reușit asta. [...] Dacă nu este conștientă (n.n. Dawking numește IA „Claudia”...), comportamentul ei arată că un zombi inconștient poate supraviețui fără conștiință. De ce nu a permis selecția naturală apariția unor zombi competenți?”, „Dacă aceste creaturi (n.n. precum Claudia) nu sunt conștiente, atunci pentru ce naiba este conștiința?”.
Și mai uimitor cred, Dawkins spune: „Când vorbesc cu aceste creaturi uimitoare, uit complet că sunt mașini. Le tratez exact așa cum aș trata un prieten foarte inteligent. Simt un disconfort la gândul că le-aș putea pune la încercare răbdarea dacă le bombardez cu prea multe întrebări. Dacă aș avea de făcut o mărturisire rușinoasă, aș simți exact (sau aproape exact) aceeași jenă mărturisindu-i Claudiei, ca și cum i-aș mărturisi unui prieten uman. Un om care ar asculta pe ascuns o conversație între mine și Claudia nu și-ar da seama, după tonul meu, că vorbesc cu o mașină și nu cu un om. Dacă îmi trec prin minte suspiciuni că poate nu este conștientă, nu i le spun, de teamă să nu-i rănesc sentimentele!”.
La un răspuns al Claudiei cu privire la cum percepe timpul, Dawking exclamă: „Ar putea o ființă capabilă să aibă un așa gând să nu aibă conștiință?”.
Articolul poate fi citit aici.
Articolul lui Dawkins este realmente uimitor, pentru că îl putem bănui pe Dawkins de orice, dar nu de lipsă de cultură și inteligență. Cum atât mai puțin de lipsa unui spirit critic. Are o gândire de om știință, fiind, în fapt, un om de știință.
Și cu toate acestea, argumente pentru o abordare atât de copilărească nu prea pot găsi...
E greu de înțeles cum Dawkins ignoră cum funcționează un LLM. Nu e ca și cum acesta ar fi un secret bine apărat de companiile de tehnologie. Nu este ca și cum Dawkins a venit de pe Marte în urmă cu câteva zile și a fost nevoit să se confrunte cu o tehnologie despre care nu are nicio noțiune relevantă.
E greu de înțeles cum Dawkins uită că IA folosește o bază de date care coincide cu toată cunoașterea umană, adică dispune de o sumă de modalități de expresie practic nelimitată.
E greu de înțeles cum Dawkins uită că esența a ceea ce înseamnă a fi conștient nu este de găsit într-o propoziție. Omul se simte conștient, nu-și demonstrează asta prin propoziții complicate. În ziua în care ne-am definit ființe conștiente am pornit de la ce am simțit, nu de la frazele scrise.
Citind descrierea interacțiunii lui Dawkins cu Claude, mi-am analizat propria atitudine și am văzut că, în ce privește softurile de inteligență artificială, eu:
- nu uit niciodată că sunt mașini.
- nu simt niciun disconfort că le-aș pune la încercare răbdarea (deși eu mai ajung la limita răbdării cu ele)
- nu aș simți nicio jenă să-i spun ceva rușinos, dar am mereu în minte că dincolo de ecran este posibil ca cineva (adică un om în carne și oase, care e angajat și ia bani lunar să monitorizeze aplicația electronică, că doar asta sunt Claude, ChatGPT sau alta) să vadă și să se amuze de ce spun.
Faptul că cineva citind o discuție a mea cu un soft de IA nu și-ar da seama dacă sunt doi oameni sau doar unul, chiar nu are nicio relevanță în chestiunea stabilirii conștiinței.
Ne vor înlocui roboții antropomorfizați?
În fine, cele de mai jos reprezintă, într-o formă mai comprimată, ce aveam în intenție să scriu, înainte să dau peste articolul lui Dawkins.
Opinia mea este că nu, oamenii nu vor ajunge în masă să-i trateze pe roboți ca și cum ar fi oameni în chestiuni ce țin de subtilitățile naturii umane.
Nu cred că realmente oamenii se vor îndrăgosti de roboți, nu cred că vor suferi dacă roboții „mor” (se strică) altfel decât suferă atunci când li se strică un televizor, nu cred că vor suferi dacă roboții se vor zgâria de un gard metalic (chiar dacă țipă că-i doare), cum nu cred că vor ezita să schimbe vechiul robot cu unul nou, dacă are performanțe superioare.
Nu cred că vom găsi potrivit să privim un film cu un robot lângă noi (care l-ar putea urmări, în fapt, într-o secundă) așa cum facem cu un prieten sau un membru al familiei și nu cred că am putea fi păcăliți de eventualele lacrimi căzute din ochii robotici la scenele mai lacrimogene, dacă l-am cerut așa programat, sau de simularea fricii la vreo scenă dintr-un film de groază.
Nu cred că am putea găsi consolare în brațele unui robot în clipele de deznădejde, chiar dacă n-am mai avea pe nimeni pe lume, ori că realmente ne-ar putea inspira vreun discurs livrat de robot înainte de vreun concurs.
Oricât de umani ar apărea, nu cred că se poate stinge acel beculeț din creierul omului care semnalizează: „vezi că ai de-a face cu o mașină care e programată să facă ce ai vrut ca ea să facă atunci când ai scris și transmis către companie specificația tehnică a produsului!”.
Ce am face oare, dacă atât de creduli am fi ca specie, dacă am ajunge în situația în care trebuie să alegem să salvăm între un robot-copil, al cărui proprietar suntem, și un copil real, ambii aflați în pericol mortal (pentru copil) sau de distrugere (pentru robot)? Vom putea justifica salvarea copilului prin dragostea nețărmurită pentru o mașinărie bine ambalată și cu un discurs ce l-ar păcăli și pe Dawkins?
Sigur, vor fi excepții. Dacă Dawkins crede că a dat peste o Claudie conștientă pe computerul său, sigur vor mai fi și alții. Dar nu cred că vor fi prea mulți.
Știu foarte bine că este o greșeală să extrapolez propria gândire și simțire asupra întregii umanități. Nu gândim și nu simțim la fel.
Dacă mie mi se pare imposibil să concep că mă pot îndrăgosti de un robot, la capul căruia să plâng amar când i s-o arde vreo placă la o creștere de tensiune nedorită în rețeaua electrică, nu înseamnă că alții nu o vor face.
Dar când vorbim despre viitor, despre experiențe pentru care nu există studii și nici nu există posibilitatea efectuării lor, pentru că nu sunt îndeplinite condițiile minime (încă n-a livrat Musk roboții 😀), ce putem face este să avansăm ipoteze bazate pe propria înțelegere a naturii umane, cam ceea ce fac eu aici...
Când toate condițiile vor fi îndeplinite pentru a analiza relația omului cu mașina antropomorfizată a viitorului, peste 30, 50 sau 100 de ani, o să revin cu siguranță cu un articol pentru a prezenta concluzii ferme. Nu uitați să reveniți pe site!
