A bizalom az első funkció

Egy kiállított számlát nem lehet visszavonni, csak sztornózni. A rendszer jelenti a NAV-nak, és onnantól jogi nyoma van. Amikor a titkar.ai-on dolgozni kezdtem, innen kellett indulnom, nem a látványos résztől.

A látványos rész könnyű: odaszólsz egy mondatban, a modell összerakja a számlát. A nehéz az, hogy ezt biztonságos legyen kimondani. És ez nem a fejlesztés végén dől el.

Mit építesz előbb, ha a hibának valódi ára van

A beszélgetős réteg a termék arca, de nem ez készült el először. Előbb az jött, ami akkor is állja a helyét, ha a modell téved.

A számokat sosem a modell adja: a nettót, áfát, bruttót determinisztikus kód számolja. A modell dolga a megértés és a megfelelő művelet kiválasztása, nem a számolás. A visszafordíthatatlan lépéseket – kiállítás, e-mail, sztornó – nem a modell hajtja végre; előkészít egy megerősítő kártyát, és a gombot te nyomod meg. Így a modell tévedése legrosszabb esetben egy rossz vázlat, nem egy rossz, NAV-nak jelentett számla. A tesztmód az alapértelmezett, a bankhoz csak olvasási hozzáférés van, és minden lépés ott marad egy visszanézhető naplóban.

Ez a réteg nem látszik a demón. De ez tartja meg az egészet.

A szakma is erre jut

Ami két éve még a modell képességén múlt, ma máson. Idén több helyről is ugyanaz jön: az agenteknél már nem az a kérdés, elég okos-e, hanem hogy meg lehet-e bízni benne – a NiCE júniusi írása pont ezt mondja ki. A minta, ami kialakul, ismerős: a pénzt mozgató, visszafordíthatatlan műveletek emberi megerősítést kapnak, a többi fut magától. Az Anthropic computer-use útmutatója is ezt ajánlja a valós következménnyel járó lépésekre.

A csapda az lenne, ha mindent kapuzni kezdenél. Az megöli az agentet: minden kérdés egy súrlódás. A titok a szűk lista – csak az kerül megerősítés mögé, ami drága vagy nem vonható vissza. A többi mehet kérdés nélkül.

A sorrend a termék, nem a látvány

Egy magas tétű agentnél már az is döntés a termékről, hogy mit építesz előbb. Ez a teherhordó fal, amire a többi ráépül.

A beszélgetés az, amit megmutatsz. A bizalom az, amitől működik.