Uniunea Europeană a fost de multe ori acuzată că este mult prea birocratică, prea înceată și chiar neprietenoasă cu mediul de afaceri. Nu de puține ori a confirmat aceste acuze. În egală măsură, parte din calitatea vieții oamenilor a fost îmbunătățită tocmai cu ajutorul directivelor europene. Dat fiind avântul Inteligenței Artificiale, Uniunea a decis să-și asume riscul de a crea primul regulament pentru AI din lume.
Scopul este să protejeze oamenii atunci când aceasta poate influența decizii importante din viața lor. Există o diferență enormă între a folosi Inteligența Artificială pentru a scrie un e-mail și a o folosi pentru a decide dacă cineva primește un loc de muncă, un credit sau un tratament medical. În primul caz, consecințele sunt minore. În al doilea, ele pot schimba destinul unui om.
Primul regulament AI din lume (UE)
Necesitate
- Protejarea drepturilor oamenilor
- Utilizare cu grad de risc diferit (consecințe)
- Exemplu: a scrie un email cu suport AI vs.
selecție candidați job, aprobare credit, tratament medical.
Regulamentul UE introduce reguli mai stricte pentru aplicațiile AI considerate cu risc ridicat, cum sunt cele folosite în recrutare, evaluarea angajaților sau alte procese care pot influența drepturile și oportunitățile unei persoane. Un alt aspect foarte important este transparența – dacă o companie folosește Inteligența Artificială în procesele sale, oamenii au dreptul să știe acest lucru.
Primul regulament AI din lume (UE)
Criterii grad de risc
- Impact asupra drepturilor și oportunităților
- Recrutare
- Evaluare angajați
- Asigurare transparență
- Oamenii au dreptul să știe când/cum AI este folosită
Regulamentul vorbește despre obligația organizațiilor de a asigura un nivel adecvat de pregătire pentru cei care folosesc Inteligența Artificială. Nu este suficient să ai acces la cea mai performantă tehnologie. Trebuie să știi cum să o folosești. Trebuie să îi înțelegi limitele și riscurile. Să verifici informațiile pe care ți le oferă. Să nu îi delegi decizii pe care doar oamenii ar trebui să le ia.
Primul regulament AI din lume (UE)
Responsabilități
- Asigurarea pregătirii necesare
- Ce este și cum funcționează
- Cum poate fi folosită
- Care sunt limitele și riscurile
- Verificarea informațiilor
- Păstrarea rolului decizional la oameni
Regulamentul UE stabilește criteriile de calificare ale celor 4 categorii de risc – de la innaceptabil, la ridicat, de transparență și minim. Cele care se califică în prima categorie sunt interzise pentru că efectele negative depășesc din start orice eventual câștig viitor. Lucruri precum manipularea sau înșelarea oamenilor prin tehnici AI care produc prejudicii sau exploatarea vulnerabilităților unor persoane sau grupuri sunt, deci, interzise.
Primul regulament AI din lume (UE)
Criteriile de risc
- Categorii: innaceptabil > ridicat > de transparență > minim
- Inacceptabil: utilizări interzise + penalizate
- Manipularea/înșelarea oamenilor (prejudicii)
- Exploatarea vulnerabilităților (persoane/grupuri)
Cele cu risc ridicat se referă la aplicații cu impact în domenii precum sănătatea, siguranța, accesul la educație, locurile de muncă sau drepturile fundamentale. În cazul acestora se cer măsuri importante de reducere a riscurilor și de remediere a efectelor negative. Altfel spus, nu mai este suficient să creezi un produs AI care rezolvă o problemă. Trebuie să știi riscurile, să le monitorizezi și să ai planuri de intervenție deja pregătite.
Primul regulament AI din lume (UE)
Criteriile de risc
- Categorii: innaceptabil > ridicat > de transparență > minim
- Ridicat: sănătate, siguranță, educație,
locuri de muncă, drepturi fundamentale - Măsuri de reducere a riscurilor + remediere a efectelor negative
- Monitorizare + detecție + planuri de intervenție
Și cred că merită spus faptul că lipsa oricărei legislații nu ar face nimănui nicio favoare. Pentru ca această nouă industrie să-și găsească locul cuvenit în economie – este nevoie ca, similar oricărui alt domeniu, să suporte costurile aferente. Deja a avut un început de câțiva ani în care, prin lipsa legiferării, a fost subvenționată de noi toți. Însă am intrat de ceva timp într-o altă etapă care cere noi abordări.
Primul regulament AI din lume (UE)
Legiferare vs inovație
- Lipsa oricărei legi nu avantajează industria
- Orice domeniu are costurile sale (riscuri, efecte adverse)
- Orice produs conține toate tipurile de costuri
=> își găsește locul potrivit în economie (cerere & ofertă) - Lipsa legiferării = subvenție (riscuri suportate doar de noi)
- AI este astăzi într-o altă etapă => noi abordări
Nu există nicio activitate care să nu implice riscuri – profesionale, de execuție sau impact. Iar utilizarea AI nu face excepție. Prin urmare, la fel ca restul domeniilor, are responsabilități legale, contractuale și sociale. Desigur, fiind la început, anumite concesii rezonabile pot fi făcute pentru a încuraja inovația. Însă, între a lăsa spațiu experiementării și a fi lipsită de orice responsabilitate, este o diferență enormă.
Primul regulament AI din lume (UE)
Legiferare vs inovație
- Toate activitățile comerciale implică riscuri
>> profesionale, de execuție sau impact - Toate activitățile comerciale au responsabilități
>> legale, contractuale și sociale/morale - Pot fi făcute concesii pentru încurajarea inovației
(!) dar nu pot fi exceptate total de la asumarea responsabilității
Este bine să înțelegem AI ca parte din instrumentele cu care noi, oamenii, ne construim și dezvoltăm civilizația. O tehnologie, oricât de avansată sau revoluționară, nu ar trebui niciodată să aibă dreptul sau posibilitatea să ne înlocuiască civilizația cu totul. Iar momentan încă nu știm în care dintre scenarii ne găsim. Astfel că acest prim regulament din lume pentru AI este binevenit.
Ne oprim aici pentru astăzi. În ediția viitoare vom reveni cu noi teme veridice. Până atunci vă doresc multă sănătate!