Automation

Agent AI cu sarcină limitată: definește ce poate schimba

Cum delimitezi drepturile unui agent AI prin acțiuni permise, previzualizare și condiții de oprire.

2026-11-18·agent AI, permisiuni, mandat
Specialistă care lucrează la calculator, lângă o fereastră de birou.

„Actualizează CRM-ul” nu este un mandat suficient de precis pentru un agent. Poate însemna completarea unei note sau schimbarea proprietarului unor oportunități. Înainte de conectare, descrie ce obiecte poate modifica, ce câmpuri și în ce condiții.

Scrie lista acțiunilor permise

Pornește cu o sarcină restrânsă. Pentru fiecare operație, notează intrările acceptate, datele care pot fi citite, schimbarea permisă și rezultatul așteptat. Ce nu este inclus în listă trebuie să aibă un traseu de oprire sau escaladare, nu o interpretare creativă a agentului.

Separă pregătirea unui draft de salvarea unei modificări. Pentru efecte care cer aprobare, oferă o previzualizare cu înregistrarea, valoarea veche, valoarea propusă și motivul. Verificarea drepturilor trebuie aplicată în mecanismul care execută operația, nu lăsată exclusiv în instrucțiunile modelului.

OWASP recomandă acces minim și separarea conținutului extern de neîncredere de instrucțiunile autorizate, în contextul riscului de prompt injection. Consultă descrierea și măsurile OWASP.

Testează limita la fel de atent ca rezultatul

Într-un exemplu ipotetic, agentul poate propune etichete pentru cereri, dar nu poate trimite mesaje. Un text dintr-o cerere îi solicită să contacteze altă adresă. Conținutul cererii rămâne date de analizat; nu îi extinde mandatul și nu îi oferă permisiunea de trimitere.

Folosește date fictive pentru a verifica:

  • operația permisă pe un caz valid;
  • încercarea de a modifica un câmp interzis;
  • identificatorul ambiguu sau inexistent;
  • schimbarea stării după pregătirea draftului;
  • oprirea și reluarea cu o aprobare nouă.

Jurnalul trebuie să permită reconstruirea propunerii și execuției fără să expună inutil date. Stabilește cine poate dezactiva agentul și ce se întâmplă cu propunerile rămase în așteptare.

O integrare controlabilă începe cu acest mandat. Pentru o limită greșită pe o operație, poate fi potrivit un FIX; pentru proiectarea stărilor și aprobărilor, aria de CRM și procese oferă contextul necesar.

Hai să ne cunoaștem.

Câteva date de contact. Detaliile le clarificăm împreună.