Guvernanța AI în practică: inventar, politică și control

În majoritatea companiilor, AI-ul a apărut de jos în sus: un angajat a început să-și rezume ședințele cu un chatbot, echipa de marketing a adoptat un generator de imagini, iar un furnizor de software a activat discret funcții AI într-un produs deja plătit. Conducerea află adesea ultima.

Guvernanța AI înseamnă să știi ce sisteme folosești, în ce scop, cu ce date și cine răspunde pentru rezultatele lor. O politică semnată și pusă într-un dosar nu răspunde la niciuna dintre aceste întrebări. Răspunsul vine dintr-un set mic de procese care funcționează în fiecare lună: inventar, clasificare, reguli de utilizare, evaluarea furnizorilor, supraveghere și gestionarea incidentelor.

Presiunea vine din trei direcții. AI Act impune deja alfabetizarea AI și interzice anumite practici. GDPR se aplică oricărei date personale introduse într-un prompt. Iar pentru entitățile NIS2, uneltele AI sunt încă o parte a lanțului de aprovizionare de gestionat.

Nu poți guverna ce nu vezi. Inventarul este fundația oricărui program și trebuie să includă și shadow AI — uneltele folosite de angajați fără aprobare formală, adesea cu conturi personale.

• Chestionar scurt trimis șefilor de echipă: ce unelte AI folosiți și pentru ce?
• Jurnalele de proxy și DNS: ce domenii ale serviciilor AI populare apar în trafic?
• Facturi și carduri corporative: abonamente lunare la servicii AI.
• Contracte SaaS existente: ce furnizori au adăugat funcții AI și cu ce condiții?

Pentru fiecare sistem, notează cel puțin: numele și furnizorul, scopul, departamentul, proprietarul intern, categoriile de date prelucrate, dacă implică date personale, rolul tău (furnizor sau implementator) și nivelul de risc. Un tabel bine întreținut valorează mai mult decât o platformă sofisticată pe care n-o actualizează nimeni.

Odată inventariate, sistemele se clasifică după logica AI Act: interzis, risc ridicat, risc limitat (transparență) și risc minim. Clasificarea decide efortul.

Clasificarea nu e definitivă. Același instrument poate trece dintr-o categorie în alta dacă îl folosești în alt scop: un model de limbaj folosit pentru rezumate e risc minim, dar folosit pentru a clasa candidați devine, de regulă, risc ridicat.

Politica de utilizare este documentul pe care angajații îl citesc efectiv, deci trebuie să fie scurtă și concretă. Partea cea mai importantă este lista de date interzise în uneltele publice sau neaprobate:

• date personale ale clienților și angajaților, mai ales categorii speciale (sănătate, date biometrice);
• parole, chei API, token-uri, fișiere de configurare;
• cod sursă proprietar și documentație internă de arhitectură;
• informații financiare nepublicate, contracte, prețuri negociate;
• detalii despre incidente de securitate în curs.

Politica mai trebuie să spună ce unelte sunt aprobate și cu ce tip de cont, că rezultatele se verifică de un om înainte de a fi folosite în decizii sau publicate, cum se marchează conținutul generat cu AI și cui se raportează o problemă. Leag-o de instruirea de alfabetizare AI cerută de Art. 4, altfel rămâne o hârtie.

Un furnizor de AI primește, prin definiție, datele pe care i le trimiți. Evaluează-l cu aceeași seriozitate ca pe orice furnizor critic:

1. Rezidența datelor: unde sunt prelucrate și stocate promptul și răspunsul?
2. Antrenare: folosește furnizorul datele tale pentru a-și antrena modelele? Există opțiune de dezactivare și este activă implicit pe planul tău?
3. Retenție: cât timp păstrează conversațiile și cine le poate accesa?
4. GDPR: există un acord de prelucrare a datelor și ce subprocesatori folosește?
5. Securitate: ce certificări are, cum gestionează incidentele, ce jurnale îți pune la dispoziție?
6. Ieșire: cum îți recuperezi datele și cum confirmă ștergerea la încetarea contractului?

Pentru sistemele cu risc ridicat, cere și instrucțiunile de utilizare și informațiile pe care furnizorul este obligat să le ofere implementatorilor prin AI Act.

Nu uita furnizorii existenți. Multe aplicații SaaS deja contractate — CRM, suită de birou, helpdesk — au primit funcții AI prin actualizări. Revizuiește periodic termenii actualizați, pentru că o funcție nouă poate schimba unde și cum îți sunt prelucrate datele, fără ca cineva din companie să fi semnat ceva nou.

Supravegherea umană înseamnă o persoană numită, competentă, care înțelege limitele sistemului și are autoritatea să-i ignore sau să-i oprească rezultatul. Un buton „aprobă” apăsat mecanic nu este supraveghere.

Jurnalizarea îți permite să reconstitui ce s-a întâmplat: ce sistem, ce versiune, ce intrare, ce rezultat, cine a decis. Pentru sistemele cu risc ridicat, AI Act cere implementatorilor să păstreze jurnalele aflate sub controlul lor cel puțin șase luni. Pentru prompturi care pot conține date personale, echilibrează cerința cu minimizarea din GDPR — de exemplu, păstrând un hash și metadatele în locul textului complet.

Incidentele AI — un rezultat discriminatoriu, o scurgere de date printr-un prompt, o decizie greșită luată pe baza unei „halucinații” — trebuie să intre în procesul existent de gestionare a incidentelor, nu într-unul separat. Dacă ești entitate NIS2, verifică dacă incidentul are și impact de securitate care trebuie notificat la DNSC.

ISO/IEC 42001:2023 este standardul internațional pentru sistemele de management al inteligenței artificiale. Are structura familiară a standardelor ISO de management — context, conducere, planificare, suport, operare, evaluare, îmbunătățire — și se integrează natural cu ISO/IEC 27001. Certificarea este voluntară și nu echivalează cu conformitatea cu AI Act, dar oferă un cadru verificabil pentru procesele descrise mai sus.

GDPR nu dispare când apare AI-ul. Datele personale dintr-un prompt sunt prelucrare de date: ai nevoie de temei legal, de informarea persoanelor vizate și, pentru prelucrările cu risc mare, de o evaluare de impact (DPIA). Merită să treci uneltele AI în registrul activităților de prelucrare.