Plan-tudatos AI: kisebb kontextus, pontosabb döntés

2025 végére egy furcsa jelenség lett mindennapos az AI-projektekben: nem az algoritmusok „buták”, hanem a kontextus túl kövér. A több lépéses ügynökök (agentek) – amelyek terveznek, eszközöket hívnak, jegyzetelnek, majd újraterveznek – pillanatok alatt több ezer, akár több tízezer tokennyi „munkamemóriát” gyártanak. A végeredmény gyakran csalódást keltő: drágább futás, lassabb válasz, és néha még rosszabb döntés is.

A PAACE (Plan-Aware Automated Context Engineering) című friss kutatás pont ezt a fájdalmat célozza: hogyan lehet az ügynökök folyamatosan növekvő kontextusát úgy sűríteni, hogy közben ne vesszen el a lényeg. Ami engem igazán megfogott benne, az nem a „szebb összefoglaló”, hanem a szemlélet: a kontextust nem egyben kell tömöríteni, hanem a terv (plan) következő lépései szerint kell rendben tartani.

És itt jön a csavar: miközben ez a munka a számítógépes ügynökök világából jön, nagyon jól fordítható egészségügyi és kiskereskedelmi/e-kereskedelmi folyamatokra is – pont oda, ahol sok adat, sok lépés és sok felelősség találkozik.

Miért fáj a „túl nagy kontextus” az ügynököknek?

A lényeg röviden: minél hosszabb a kontextus, annál drágább és zajosabb a gondolkodás.

Három tipikus probléma, amit a gyakorlatban látni

1. Figyelemhígulás (attention dilution): az LLM figyelme szétszóródik. Fontos részletek „elcsúsznak” a kevésbé fontos logok, chatdarabok, eszköz-válaszok között.
2. Költség és késleltetés: a hosszú prompt több időt és pénzt visz el. Ez telemedicinában, ügyfélszolgálatban vagy valós idejű készletkezelésnél nem „kényelmetlenség”, hanem üzleti kockázat.
3. Törékeny több lépéses logika: egy agent nem egyszer válaszol, hanem munkafolyamatot futtat. Ha az út közben rosszul sűrítünk, a későbbi lépések félrecsúszhatnak.

A kutatási absztraktból az derül ki, hogy a korábbi megközelítések (összefoglalás, query-aware tömörítés) sokszor nem veszik komolyan az ügynöki tervezést. Pedig egy több lépéses folyamatban nem mindegy, hogy a következő 1–3 feladat szempontjából mi releváns.

„A kontextus nem archívum. A kontextus egy munkalap.” Ha mindent őrzünk, a munkalap használhatatlan lesz.

Mit csinál másként a PAACE? A „plan-aware” megközelítés lényege

A PAACE központi állítása: a kontextuskezelést a terv struktúrájához kell igazítani. Vagyis ne egy általános kivonatot készítsünk, hanem olyan reprezentációt, ami a következő lépésekhez tartja kéznél a kritikus információt.

A keretrendszer négy pillért emel ki (a cikk összefoglalója alapján):

• Next-k-task relevancia modellezés: a sűrítés célja nem az, hogy „szép rövid” legyen, hanem hogy a következő k feladathoz legyen optimális.
• Tervstruktúra-elemzés: a rendszer a plan szerkezetéből próbálja megérteni, mi a függőség, mi a mellékszál.
• Instrukciók együtt-finomszabályozása (instruction co-refinement): a feladatleírás és a kontextus együtt formálódik, hogy egyértelmű legyen, mi a következő teendő.
• Funkciómegőrző tömörítés: a cél nem az információ „szépsége”, hanem a működőképesség megőrzése (a későbbi lépések helyesek maradjanak).

Két komponens: PAACE-Syn és PAACE-FT

A kutatás két építőelemet nevez meg:

• PAACE-Syn: szintetikus ügynöki munkafolyamatok nagy léptékű generátora, lépésenként annotált tömörítési felügyelettel.
• PAACE-FT: desztillált, plan-tudatos „kompresszor” modellek családja, amelyek sikeres tanár-demókból tanulnak.

Az eredmények (benchmarkokon) azért izgalmasak, mert nemcsak tokeneket spórolnak:

• AppWorld-ben jobb pontosság a baseline-okhoz képest, miközben alacsonyabb a csúcskontextus és a kumulatív függőség.
• OfficeBench és multi-hop QA esetén jobb accuracy és F1, kevesebb lépés, kevesebb csúcstoken, kisebb attention-függőség.
• A desztillált PAACE-FT a leírás szerint a tanár teljesítményének 97%-át tartja meg, miközben több mint nagyságrendi (10×+) költségcsökkenést hoz.

Ez a 97% azért fontos, mert a valós életben a legtöbb szervezet nem engedheti meg magának a „mindig a legnagyobb modell, mindig a leghosszabb kontextus” stratégiát.

Mit jelent ez az egész az egészségügyben? (És mi köze van a költségekhez)

A plan-tudatos kontextusmérnökség az egészségügyben nem elméleti játék. A klinikai döntéstámogatás, a triázs, a radiológiai leletezés vagy a betegút-szervezés mind több lépéses, sokforrású folyamat.

1) Diagnosztikai munkafolyamatok: „következő lépés relevancia” a gyakorlatban

Egy tipikus forgatókönyv:

• tünetek + anamnézis
• laboredmények
• képalkotó (CT/MR)
• korábbi epizódok
• gyógyszerlista
• irányelv/rendelkezés

A gond nem az, hogy ezek ne lennének fontosak, hanem hogy nem egyszerre fontosak. Egy plan-tudatos megközelítés azt mondja:

• Ha a következő lépés a gyógyszer-interakció ellenőrzés, akkor a friss labort és a gyógyszerlistát tartsd fókuszban.
• Ha a következő lépés a képalkotó értelmezés, akkor a releváns klinikai kérdés + előzmény + radiológiai megfigyelések legyenek elöl, ne a teljes chatnapló.

Ez nemcsak gyorsít. Csökkenti annak esélyét is, hogy a modell irreleváns részletekbe kapaszkodva „félrediagnosztizáljon”.

2) Telemedicina és elérhetőség: költség = hozzáférés

A sűrítés itt egyenesen hozzáférési kérdés. Ha egy telemedicinás szolgáltatás 10× olcsóbban futtatható (a kutatás „nagyságrendi” csökkenést sugall a desztillációval), akkor:

• több konzultáció fér bele ugyanabba a költségkeretbe,
• kisebb intézmények is belevághatnak,
• és reálisabb a 24/7 támogatás.

A valós nyereség az, hogy a rendszer nem „spórolós” lesz, hanem fenntartható.

3) Adatminimalizálás és auditálhatóság

Az egészségügyben a kontextus nemcsak technikai kérdés, hanem megfelelés és felelősség is. Egy plan-tudatos tömörítés előnye lehet, hogy:

• kevesebb személyes adat kerül feleslegesen a promptba,
• könnyebb megindokolni, miért volt szükség egy adott információra,
• jobban auditálható, mit „látott” a rendszer egy döntésnél.

Miért érdekes ez a kiskereskedelemben és e-kereskedelemben is?

Ez a cikk a „Mesterséges intelligencia a kiskereskedelemben és e-kereskedelemben” sorozatba illeszkedik, mert ugyanaz a minta ismétlődik: sok adat + több lépéses döntés + költségérzékeny működés.

1) Személyre szabott ajánlások több lépésben

Egy modern ajánlórendszer agent-szerűen gondolkodik:

• értelmezi a felhasználói szándékot,
• figyelembe veszi a készletet,
• ellenőrzi a promókat,
• optimalizálja a kosárértéket,
• és közben A/B logikához igazodik.

Ha mindehhez minden korábbi eseményt és minden termékjellemzőt betolunk, hamar szétesik a fókusz. A plan-tudatos kontextuskezelés itt azt jelenti:

• a következő 1–2 döntési lépéshez tartjuk kéznél a legfontosabb jeleket (pl. aktuális böngészés + készlet + szállítási ígéretek),
• a régi, alacsony relevanciájú adatokat pedig funkciómegőrző módon tömörítjük.

2) Kereslet-előrejelzés és készletkezelés: kevesebb zaj, jobb jel

Kereslet-előrejelzésnél nem ritka, hogy a rendszer egyszerre próbálja kezelni:

• szezonhatásokat (decemberi csúcs, év végi készletkisöprés),
• kampányokat,
• ár- és versenytárs adatokat,
• ellátási lánc késéseket.

A PAACE-szerű gondolkodás haszna: nem mindent kell mindig egyszerre optimalizálni. A következő lépés (pl. „rendelési mennyiség jövő hétre”) szempontjából releváns tényezők kerülnek előtérbe.

3) Ügyfélszolgálati agentek: rövidebb kontextus, kevesebb téves válasz

Az ügyfélszolgálatban a „túl hosszú kontextus” klasszikus hiba: a bot összekeveri a rendeléseket, félreérti a visszaküldési időablakot, vagy régi információt vesz alapul.

A plan-tudatos sűrítés itt kifejezetten azt szolgálja, hogy a bot:

• a következő teendőt (azonosítás → státusz → megoldási opciók → jóváhagyás) tartsa fókuszban,
• és a régi mellékszálakat visszacsomagolja egy rövid, megbízható állapotleírásba.

Hogyan kezdd el: gyakorlati lépések plan-tudatos kontextusmérnökséghez

A PAACE egy kutatási keretrendszer, de a szemlélete azonnal alkalmazható. Ha AI agenteket építesz egészségügyi vagy kereskedelmi környezetben, ezt a 6 lépést tartom a leghasznosabbnak:

1. Írd le explicit módon a tervet (plan): ne csak prompt legyen, hanem lépéssor. Például: „azonosítás → adatellenőrzés → döntési pont → akció → naplózás”.
2. Határozd meg a next-k lépéseket: tipikusan k=2–3 elég. Ennél többnél visszajön a zaj.
3. Címkézd a kontextust funkció szerint: „bizonyíték”, „döntési indok”, „felhasználói preferencia”, „szabály/irányelv”, „eszközválasz”.
4. Vezess be két szintű memóriát:
   • munkamemória (rövid, aktuális),
   • archív (hosszabb, visszakereshető, de nem mindig promptban).
5. Mérj három dolgot minden release-nél:
   • csúcstoken (peak context),
   • lépésszám,
   • hibaarány a kritikus pontokon (pl. rossz termék, rossz betegazonosítás, rossz visszatérítés).
6. Desztillálj, amikor stabil a folyamat: ha már tudod, mi a „jó” tanári viselkedés, érdemes kisebb kompresszor modellt tanítani. A PAACE-FT iránya erre példa.

Egy mondatban: előbb legyen jól megtervezett a munkafolyamat, és csak utána tömöríts agresszíven.

Mit érdemes hazavinni ebből 2025 végén?

A PAACE üzenete számomra nagyon praktikus: a kontextuskezelés nem kozmetika, hanem teljesítmény és költség kérdése. Ha plan-tudatosan sűrítesz, akkor egyszerre kapsz:

• pontosabb ügynöki döntéseket,
• alacsonyabb futtatási költséget,
• és stabilabb, auditálhatóbb működést.

A kiskereskedelmi és e-kereskedelmi projektekben (személyre szabott ajánlások, kereslet-előrejelzés, készletkezelés, ügyfélszolgálati automatizálás) ez ugyanúgy aranyat ér, mint az egészségügyben (diagnosztikai workflow, telemedicina, triázs). A közös nevező: többlépcsős folyamatoknál a „mindent bele” kontextus stratégia rossz kompromisszum.

Ha most építesz vagy skálázol agent-rendszert, egyetlen kérdést tennék a csapat elé a következő sprinten: a következő 2 lépéshez mi az a 10 mondatnyi információ, ami tényleg számít – és mi az, amit csak azért őrzünk, mert félünk elengedni?