Asistent AI în proces: unde pui aprobarea umană

Un asistent poate pregăti un răspuns bun și totuși să nu aibă autoritatea de a-l trimite. Când propunerea și execuția sunt lipite într-un singur pas, echipa pierde ocazia de a verifica destinatarul, condițiile și consecințele. Punctul de aprobare trebuie ales după acțiune.

Descrie efectul, nu doar sarcina

„Ajută vânzările” este prea larg. Scrie ce poate produce asistentul: rezumat, clasificare propusă, draft de mesaj sau actualizare propusă a unei fișe. Separat, notează ce ar schimba execuția în sistem și cine răspunde de acel efect.

Pentru acțiuni cu consecințe externe sau acces privilegiat, păstrează un pas de verificare potrivit riscului. OWASP include controlul privilegiilor și aprobarea umană pentru operații cu risc în recomandările de reducere a efectelor prompt injection. Vezi ghidul OWASP.

Arată omului exact ce aprobă

Ecranul sau fișa de aprobare trebuie să conțină propunerea, sursele relevante, destinația și diferența față de starea curentă. Nu cere „aprobi automatizarea?” dacă omul nu poate vedea înregistrările și efectele concrete. Leagă aprobarea de versiunea verificată.

Într-un exemplu ipotetic, asistentul propune schimbarea responsabilului unei cereri. Omul vede motivul, noul responsabil și sarcinile care ar fi mutate. Dacă între timp cererea a fost închisă, propunerea trebuie reevaluată, nu executată pe baza unei aprobări vechi.

Stabilește și situațiile de oprire: informație lipsă, surse contradictorii, destinatar ambiguu sau solicitare în afara mandatului. Răspunsul generat nu poate să își acorde singur o permisiune nouă.

Testează aprobarea, refuzul, expirarea propunerii și schimbarea ei după verificare, folosind date fictive și fără efecte externe. Verifică dacă jurnalul arată cine a acceptat și ce versiune a fost executată.

Pentru un singur pas omis, intervenția poate fi un FIX. Când rolurile și stările nu sunt definite, începe cu proiectarea traseului în CRM și procese înainte de conectarea asistentului la acțiuni reale.