A cégedben ma is dolgozik az AI. Nem az a kérdés, hogy engedélyezted-e, hanem az, hogy tudod-e, mit csinál éppen. A piac arról beszél, mit tud a technológia. A valódi kérdés ennél régebbi és kényelmetlenebb: mit bízol rá, és ki felel érte, amikor téved.
Ez a cikk egyetlen döntést jár körül: melyik feladat melyik szintre kerüljön. Mindent, amihez a cégedben AI ér hozzá, a három döntési szint egyikébe kell sorolnod:
- Önálló: az AI elvégzi a feladatot, és a folyamat emberi jóváhagyás nélkül halad tovább.
- Emberi jóváhagyással: az AI elkészíti a javaslatot vagy a kimenetet, de a folyamat csak emberi ellenőrzés után léphet tovább.
- Emberi döntés: az AI előkészíthet, de a végső döntést ember hozza meg, és a felelősség is nála marad.
Ha ezt a három határt nem húzod meg, a szervezeted húzza meg helyetted. Csendben, munkatársanként külön-külön, jellemzően nem ott, ahol te húznád.
A határok ma is léteznek, csak nem te húztad meg
Ahol a vezetés nem döntött az AI-használatról, ott nem az történik, hogy nincs AI-használat. Az történik, hogy mindenki maga dönt. Az asszisztens bemásolja a szerződéstervezetet egy ingyenes chatablakba, mert gyorsabb. Az értékesítő ajánlatot írat, és már küldi is, mert meggyőzőnek tűnik. A pénzügyes kimutatást összegez egy olyan eszközben, amelynek az adatkezeléséről soha senki nem olvasta el egyetlen sorát sem.
Ezek mind döntések. Mindegyik arról szól, mit csinálhat az AI önállóan, mit néz át ember, és mi nem való a rendszer elé. Csak éppen nem az hozta meg őket, aki a következményeket viseli. A határvonalak tehát nem hiányoznak: léteznek, naponta újrarajzolódnak, és jelenleg a legkisebb ellenállás irányába futnak. A kérdés nem az, hogy legyenek-e szintek. A kérdés az, hogy te jelölöd-e ki őket, vagy a véletlen.
Első döntési szint: amit az AI önállóan csinál
Az önálló működés az AI legnagyobb értéke és a legélesebb felelősségi kérdése egyszerre. Ami itt fut, azt senki nem nézi át kiadás előtt. Ha a kimenet elhagyja a céget vagy egy másik folyamatot indít el, a címzett számára úgy jelenik meg, mint a szervezet saját művelete.
Ide való minden, aminél három feltétel egyszerre teljesül. A feladat jóváhagyott környezetben fut, a hiba ára alacsony, és a hiba gyorsan észrevehető. Ilyen lehet egy belső keresés, kategorizálás vagy előszűrés, ha nem érint érzékeny adatot és nem indít el visszafordíthatatlan lépést. Ezeknél az önállóság valódi időnyereség, a kötelező kézi ellenőrzés pedig költséget adna anélkül, hogy érdemben csökkentené a kockázatot.
Nem itt kell kezdeni azzal, ami kifelé beszél, pénzt mozgat vagy kötelezettséget vállal. Az ügyfélnek adott válasz, a kiküldött árajánlat vagy az automatikusan feladott rendelés nem attól kockázatos, hogy AI készíti. Attól kockázatos, hogy a hiba a cég nevében történik, és mire kiderül, addigra következménye van. Az első szint határa ezért nem technológiai paraméter, hanem üzleti válasz egy egyszerű kérdésre: mekkora hibát engedhetsz meg magadnak úgy, hogy senki nem látta előre?
Második döntési szint: a jóváhagyás, ami nem díszlet
A középső szint a legnépszerűbb és a legtöbbször félreértett. Papíron majdnem minden cég ezt csinálja: az AI dolgozik, az ember jóváhagy. A gyakorlatban a jóváhagyás sokszor egy gyors kattintás, amely arra a feltételezésre épül, hogy a rendszer úgyis jól dolgozott.
Ez a leggyengébb felállás mind közül, mert a felelősség már az emberé, a kontroll viszont még sehol. Aki jóváhagyott, az döntött. Ha a jóváhagyó nem ért hozzá, nincs rá ideje, vagy nincs valódi joga nemet mondani, akkor a folyamat valójában első szintű automatizálás, csak egy aláírással megtoldva, amely egy nevet rendel a hibához anélkül, hogy esélyt adott volna a megelőzésére.
A második szint akkor működik, ha a jóváhagyás három dolgot jelent egyszerre. A jóváhagyó felismerné a hibát, mert ért ahhoz, amit ellenőriz. Van annyi ideje, hogy tényleg ránézzen. A visszadobásnak pedig következménye van: a folyamat megáll, javítás történik, és a korrekció bekerül a szabályokba. Ha e három közül bármelyik hiányzik, a jóváhagyás nem kontroll, hanem kellék. Ilyenkor két őszinte irány van: vagy valódi ellenőrzést építesz, vagy kimondod, hogy a feladat az első szintre való, és vállalod annak feltételeit.
Harmadik döntési szint: ami nem delegálható
Van egy kör, amelyet nem azért tart meg magának az ember, mert az AI gyenge hozzá. Azért tartja meg, mert a felelősség nem ruházható át egy rendszerre. Visszafordíthatatlan lépések. Joghatással járó nyilatkozatok. Emberekről szóló döntések: felvétel, elbocsátás, értékelés. Pénzmozgás egy meghatározott összeghatár fölött. Minden, ami a cég nevében nyilvánosan hangzik el.
Ezekben az AI kiváló előkészítő. Összegyűjti az előzményeket, felvázolja a lehetőségeket, megmutatja, mit hagytál figyelmen kívül. A végső döntés mégis emberé marad, mert a felelősséget konkrét szerephez és jogkörhöz kell kötni.
Az EU AI Act magas kockázatú rendszerekre vonatkozó szabályai is érdemi emberi felügyeletet követelnek meg. Nem elég egy név a folyamatábrán. A felügyeletet végző személynek értenie kell a rendszer képességeit és korlátait, értelmeznie kell a kimenetet, és szükség esetén be kell tudnia avatkozni. A rendszerre nem ruházhatod át a szervezeti felelősséget. A harmadik döntési szint kijelölése ezért nem óvatoskodás, hanem annak tisztázása, hogy a cégben hol laknak az aláírások.
Ez nem informatikai kérdés, és soha nem is volt az
Csábító a három szint meghúzását az informatikára bízni, hiszen technikai rendszerekről van szó. Az informatika azonban csak azt tudja megmondani, hogyan lehet egy határt kikényszeríteni: jogosultsággal, naplózással, szabályba öntve. Azt, hogy hol fusson a határ, nem tudhatja, mert az nem technikai tulajdonság, hanem kockázatvállalási döntés.
A pénzügyben ezt régóta természetesnek tartod. Azt, hogy ki meddig utalhat egyedül, és mi fölött kell két aláírás, nem a bank szoftvere dönti el, hanem a tulajdonos. A limit a cég kockázatétvágyának kimondott formája. A három AI döntési szint pontosan ugyanez, csak nem a pénzre, hanem a döntésekre és a kimenő szóra vonatkozik. Amíg nincs kimondva, addig is létezik, csak éppen senki nem tudja, hol tart ma, és senki nem felel érte.
Ebből következik a legfontosabb gyakorlati elv: minden szintnek gazdája van. Nem az a kérdés, hogy a rendszer mit hibázik, mert hibázni fog, ahogy minden folyamat és minden munkatárs is. A kérdés az, hogy a hiba egy név nélküli űrbe hullik, vagy van valaki, aki észreveszi, javíttatja, és módosítja a határt, ha a határ volt rossz.
Mit dönthetsz el még ezen a héten
A cikk elején azt írtam, egyetlen döntésről lesz szó. Ez az: a cégedben az AI-t nem képességei, hanem a rábízott felelősség szerint kell kezelned.
Az első leltárhoz nem kell új eszköz vagy többhetes projekt. Kell egy lista arról, hol ér ma AI a folyamataidhoz, beleértve azt is, amit a munkatársaid maguktól használnak. Kell mellé három oszlop: önálló, jóváhagyott, emberi. Minden sorhoz egy döntési szint és egy felelős. Ahol vitáztok egy besoroláson, ott találtátok meg azt a vezetői döntést, amelyet eddig a technológia mögé rejtettetek.
Egy első vezetői áttekintés után már nem az a kérdés lóg a levegőben, hogy mit tud az AI. Hanem az van kimondva, hogy mit bíztál rá, és ki felel érte. Ha ez a mondat nálad még nem létezik, ezen a héten létrehozhatod.
Ha ezt a döntési logikát konkrét üzleti helyzeteken is végig akarod gyakorolni, erre kapsz egynapos keretet az AI Executive Döntésnapon.