Despre ce putem delega inteligenței artificiale, câtă încredere îi acordăm și cum verificăm
Mă gândesc tot mai des la inteligența artificială ca la un prieten foarte bun. Unul dintre acei prieteni pe care îi poți suna aproape oricând și despre care știi că va încerca să te ajute, indiferent cât de banală sau de complicată este problema ta. Îl poți întreba unde găsești o piesă pentru robotul de tuns iarba, cum instalezi un dispozitiv, ce înseamnă un rezultat medical, cum se interpretează o prevedere legală, dacă un calcul dintr-un model financiar are logică sau ce argumente există într-o controversă socială. Poți chiar să îi dai câteva idei dezordonate și să îl rogi să te ajute să construiești din ele un articol, un raport sau un capitol de carte.
Este un prieten neobișnuit de disponibil, răbdător și informat. Numai că are o particularitate pe care nu avem voie să o uităm: nu putem avea încredere deplină în el. Poate să ne ofere un răspuns remarcabil la o problemă dificilă și, câteva minute mai târziu, să greșească într-o chestiune aparent simplă. Mai mult, uneori spune lucruri greșite cu aceeași naturalețe și siguranță cu care le spune pe cele corecte.
Cred că de aici ar trebui să înceapă, de fapt, discuția despre folosirea matură a inteligenței artificiale. Nu de la întrebarea dacă trebuie sau nu să avem încredere în AI, pentru că răspunsul nu poate fi pur și simplu «da» sau «nu». Întrebarea mult mai utilă este: ce fel de încredere îi putem acorda, pentru ce fel de sarcină și cum verificăm ceea ce ne spune?
Șapte feluri în care ne poate ajuta
Prima clasificare pornește de la rolul pe care îl joacă AI în relația cu noi. Putem vorbi despre șapte asemenea roluri: executant, documentarist, analist, consilier, interlocutor intelectual, coautor și adversar intelectual. Nu este doar o împărțire teoretică. Fiecărui rol îi corespunde un alt nivel de încredere și, mai ales, o altă modalitate de verificare.
1. AI executantul
Aceasta este probabil forma cea mai simplă și mai concretă de colaborare. Bineînțeles, dacă (știm să) îi precizăm contextul și criteriile relevante într-o manieră clară pentru îndeplinirea sarcinii date. Îi cerem să găsească un produs, să compare câteva oferte, să ne explice cum configurăm telefonul, să ne ajute să instalăm un dispozitiv, să transforme un fișier sau să facă un calcul. Avantajul acestor sarcini este că rezultatul lor este palpabil și, de cele mai multe ori, ușor de verificat. Produsul există sau nu, setarea funcționează sau nu, fișierul a fost transformat corect sau nu.
Cum verificăm? În primul rând, prin rezultat. Dacă AI îmi explică pas cu pas cum să modific o setare a telefonului și, la sfârșit, telefonul funcționează așa cum îmi doream, verificarea este aproape inclusă în sarcină. Tocmai de aceea, în această categorie putem avea un grad mare de delegare. Nu pentru că AI ar deveni infailibil, ci pentru că eroarea este ușor de descoperit și, de regulă, consecințele ei sunt limitate.
2. AI documentaristul
Un al doilea rol este acela de documentarist, având grijă să îi precizăm criteriile de calificare a surselor pe care le poate folosi. Îi cerem să găsească studii, statistici, standarde profesionale, prevederi legislative, tranzacții, informații istorice sau opiniile unor specialiști. Aici economia de timp poate fi enormă. Ceea ce înainte presupunea ore de căutări poate fi uneori redus la câteva minute. Numai că apare o diferență esențială față de prima categorie: faptul că AI ne prezintă o informație nu înseamnă că informația există exact în forma în care ne-a fost prezentată. O sursă poate fi interpretată greșit, un studiu poate fi depășit, iar un citat poate fi scos din context sau atribuit eronat.
Cum verificăm? Mergând la sursa originală. Dacă este important pentru concluzia noastră că un anumit studiu spune ceva, trebuie să deschid studiul. Dacă mă bazez pe o prevedere legală, trebuie să verific textul actualizat al legii. Dacă folosesc un citat, trebuie să văd cine l-a spus, unde și în ce context. Regula este simplă: cu cât informația este mai importantă pentru concluzia noastră, cu atât verificarea sursei originale este mai relevantă.
3. AI analistul
Lucrurile devin mai interesante atunci când nu îi mai cerem doar să găsească informații, ci să le interpreteze. Îi putem da un model financiar și îi putem cere să găsească erori, putem analiza împreună un set de tranzacții, îi putem cere să identifice relații între variabile sau să ne ajute la estimarea valorii unui bun. Aici AI poate fi impresionant, dar apare și un risc mai subtil. Un calcul poate fi matematic corect și economic lipsit de sens. O relație statistică poate fi reală fără să demonstreze cauzalitatea. Un model poate produce un rezultat cu multe zecimale și totuși să pornească de la ipoteze greșite. Precizia aparentă nu trebuie confundată cu corectitudinea.
Cum verificăm? Nu doar refăcând calculele, ci întorcându-ne la date, ipoteze și logică. De unde provin datele? Sunt reprezentative? Ce ipoteze au fost introduse? Ce se întâmplă dacă schimbăm una dintre ele? Are rezultatul sens economic sau profesional? În această zonă AI poate fi un analist foarte bun, dar omul trebuie să rămână cel care înțelege modelul, evaluează relevanța și își asumă concluzia.
4. AI consilierul
Ajungem apoi într-o zonă în care consecințele unei erori pot fi mult mai importante. Îl întrebăm ce ar putea însemna niște analize medicale, ce alternative de tratament există, cum se interpretează o clauză contractuală, ce implicații fiscale poate avea o tranzacție sau care sunt riscurile unei investiții. Aici AI are o calitate extraordinară: poate transforma o problemă pe care nu o înțelegem într-una despre care putem purta o conversație inteligentă cu specialistul. Însă tocmai aceasta este distincția pe care noi trebuie să o facem: AI-ul nu înlocuiește specialistul, ci poate fi doar consilierul nostru în dialogul cu specialistul. Ne poate explica termenii, ne poate prezenta pontețiale alternative, ne poate spune ce întrebări ar trebui să punem și ne poate atrage atenția asupra unor riscuri pe care nu le-am observat.
Cum verificăm? Prin surse solide și, atunci când miza este importantă, prin specialistul potrivit. Nu trebuie să renunțăm la AI în asemenea domenii; dimpotrivă, îl putem folosi foarte mult. Trebuie doar să înțelegem diferența dintre a folosi AI pentru a fi mai bine informați și a transfera către AI responsabilitatea unei decizii medicale, juridice sau financiare.
5. AI interlocutorul intelectual
Există apoi conversații în care nu căutăm neapărat un răspuns unic. Îl întrebăm ce explicații există pentru un fenomen social, care sunt argumentele dintr-o controversă economică, cum poate fi interpretat un eveniment istoric sau care sunt pozițiile relevante într-o dezbatere politică. În asemenea situații AI nu mai este nici executant, nici simplu furnizor de informații. Devine un interlocutor intelectual. Aici există însă o capcană interesantă: dacă formulăm întrebările astfel încât să ne confirme propriile convingeri, este posibil să obținem exact asta – o conversație confortabilă, dar nu neapărat una care ne ajută să gândim mai bine.
Cum verificăm? Cerând surse pentru afirmațiile factuale și, în același timp, cerând deliberat perspective diferite. „Care este cel mai bun argument al celor care nu sunt de acord cu această idee?” poate fi uneori o întrebare mai valoroasă decât „De ce am dreptate?”. În problemele sociale și politice, scopul nu ar trebui să fie ca AI să decidă pentru noi, ci să ne ajute să vedem mai bine faptele, argumentele și diferențele dintre poziții.
6. AI coautorul
Poate una dintre cele mai spectaculoase utilizări ale AI este scrisul. Putem porni de la câteva idei și să construim un articol, putem dezvolta un capitol de carte, putem analiza un fir logic pentru coerență sau putem testa cât de solidă este o argumentație, putem transforma notițe disparate într-un raport sau putem rescrie aceeași pagină până când găsim formularea care ne reprezintă. Aici verificarea este diferită. Nu mai este suficient să întrebăm dacă textul este corect gramatical sau dacă sună bine. Trebuie să ne întrebăm dacă ideile sunt ale noastre, dacă argumentația ne reprezintă și dacă am fi capabili să susținem ceea ce este scris acolo într-o conversație cu cineva care ne-ar pune întrebări.
Cum verificăm? Recitind textul ca autori, nu ca beneficiari ai unui serviciu de redactare. Verificăm separat faptele și sursele, dar ne asumăm ideile, judecățile și concluziile. AI poate fi coautorul procesului de scriere, însă omul trebuie să rămână proprietarul intelectual al rezultatului.
7. AI adversarul intelectual
Ultimul rol mi se pare unul dintre cele mai valoroase și, probabil, încă insuficient folosite. În loc să îi cerem AI să ne ajute să demonstrăm că avem dreptate, îi putem cere să încerce să demonstreze că greșim. Îi putem da un raport și să îi cerem să găsească punctele vulnerabile, să construiască cel mai puternic contraargument, să identifice ipotezele pe care le-am tratat ca fiind certe sau să ne spună ce informație, dacă s-ar dovedi adevărată, ne-ar schimba concluzia.
Cum verificăm? Aici verificarea se întoarce, într-un fel, la noi. AI produce obiecțiile, dar noi trebuie să judecăm dacă sunt valide. Tocmai de aceea acest rol este atât de interesant: nu îi delegăm judecata, ci îl folosim pentru a ne testa propria judecată. Devine un fel de partener de antrenament intelectual, iar valoarea lui nu stă în faptul că are ultimul cuvânt, ci în faptul că ne obligă să ne apărăm mai bine propriile concluzii.
O a doua clasificare: cât îi delegăm?
Cele șapte roluri pot fi privite și dintr-un alt unghi. În loc să ne întrebăm ce face AI, ne putem întreba cât îi delegăm. Din această perspectivă văd trei niveluri foarte simple: „Fă pentru mine”, „Ajută-mă să înțeleg” și „Ajută-mă să decid”.
În prima categorie, „Fă pentru mine”, putem delega mult. Îi spunem să caute, să compare, să calculeze, să transforme sau să organizeze. Omul stabilește obiectivul și verifică rezultatul, dar nu există niciun motiv să refacă manual o sarcină pe care AI o poate executa mai repede.
La nivelul următor, „Ajută-mă să înțeleg”, relația se schimbă. Nu mai vrem doar rezultatul. Vrem să înțelegem de ce două metode conduc la rezultate diferite, ce spune un studiu, care sunt ipotezele unui model, ce argumente există de ambele părți sau ce anume nu am observat într-o problemă. Aici apare probabil una dintre cele mai importante contribuții ale AI: nu ne înlocuiește inteligența, ci ne poate mări capacitatea de a înțelege.
Ultimul nivel, „Ajută-mă să decid”, este cel în care trebuie să păstrăm cea mai clară delimitare între ajutor și delegarea judecății. AI poate organiza alternativele, poate explica riscurile, poate identifica consecințe, poate căuta informații și poate pune sub semnul întrebării presupunerile noastre. Dar, pe măsură ce consecințele deciziei cresc, ultimul cuvânt trebuie să rămână tot mai clar la om și, atunci când este cazul, la profesionistul care își asumă răspunderea pentru opinia sa.
Cum știm cât putem avea încredere?
Cele două clasificări se întâlnesc într-o regulă pe care o putem aplica aproape oricărei interacțiuni cu inteligența artificială. Înainte de a accepta un răspuns, ar trebui să ne punem două întrebări: cât de ușor pot verifica acest rezultat și ce se întâmplă dacă este greșit?
Dacă rezultatul este ușor de verificat, iar consecința unei erori este mică, putem delega foarte mult. Dacă îi cer AI să găsească o piesă pentru un aparat, verificarea este simplă, iar riscul redus. Dacă îi cer să identifice sursele pe care îmi construiesc un articol profesional, trebuie deja să le deschid și să le verific. Dacă îi cer să analizeze valoarea unei companii, trebuie să verific datele, ipotezele, modelul și raționamentul. Dacă discutăm despre un diagnostic sau o decizie cu consecințe importante, pragul de verificare trebuie să fie cu totul altul. Elementul comun oricăreia dintre situații este abilitatea utilizatorului de a formula sarcini pentru AI și de a evalua calitatea răspunsurilor acestuia.
Cu cât rezultatul AI este mai ușor de verificat și consecințele unei erori sunt mai mici, cu atât îi putem delega mai mult. Cu cât rezultatul este mai greu de verificat și consecințele unei erori sunt mai mari, cu atât AI trebuie să treacă din rolul de executant în cel de asistent al judecății umane.
Nu numai AI greșește
Ar fi însă incorect să încheiem discuția spunând pur și simplu că trebuie să verificăm AI pentru că AI greșește. Și oamenii greșesc. Medicii greșesc, evaluatorii greșesc, avocații greșesc, profesorii greșesc, autorii studiilor științifice greșesc și, evident, prietenii noștri greșesc. De aceea nici înainte de apariția inteligenței artificiale nu ar fi trebuit să confundăm autoritatea unei surse cu adevărul absolut.
Diferența este că AI ne pune această problemă într-o formă nouă și la o scară fără precedent. Avem în fața noastră un instrument capabil să caute, să sintetizeze, să calculeze, să analizeze, să scrie și să converseze într-un ritm imposibil pentru un om. Tocmai această capacitate extraordinară poate crea iluzia că și încrederea pe care i-o acordăm trebuie să fie la fel de mare. Nu trebuie.
Dacă ar fi să comprim toate rolurile sale în șapte verbe, aș spune că AI poate SĂ FACĂ, SĂ CAUTE, SĂ ANALIZEZE, SĂ SFĂTUIASCĂ, SĂ DEZBATĂ, SĂ SCRIE și SĂ CONTESTE. Dar nivelul nostru de încredere nu poate fi același pentru toate cele șapte.
Am vorbit mult în ultimii ani despre prompturi și despre cât de important este să știm să îi cerem AI-ului ceea ce dorim. Este adevărat: contează enorm ce îi cerem, cât context îi oferim și cum formulăm întrebarea. Cred însă că următoarea etapă a alfabetizării în inteligența artificială va fi mai importantă decât simpla artă de a scrie prompturi. Va trebui să învățăm ce merită să îi cerem, cât îi putem delega și cum verificăm ceea ce primim.
Pentru că AI poate deveni unul dintre cei mai buni colaboratori pe care i-am avut vreodată: executant, documentarist, analist, consilier, interlocutor, coautor și, atunci când avem înțelepciunea să îi cerem acest lucru, adversar intelectual.
Este, într-adevăr, un prieten foarte bun în care nu putem avea încredere deplină. Iar paradoxul este că tocmai faptul că știm să nu avem încredere deplină în el ne permite să avem din ce în ce mai multă încredere în felul în care îl folosim.