AI-optimalizálás: gyorsabb modellek kórházban és webshopban

A legtöbb AI-projekt nem ott csúszik el, ahol elsőre gondolnád. Nem a modellarchitektúrán. Nem is a „még több adat kell” mantrán. Hanem azon a kevésbé látványos részen, ami mégis mindent visz: a tanításon, pontosabban az optimalizálón.

2025 végére a nagy modellek (LLM-ek, képfeldolgozó hálók, generatív modellek) már nem csak a Big Tech játékszerei. Egyre több egészségügyi és kereskedelmi csapat próbálja őket finomhangolni saját adatra: kórházi képekre, laboreredményekre, betegutakra, vagy épp webshopos keresésekre, kosáradatokra. A gond az, hogy a klasszikus „SGD-alapú” tanítás sokszor lassú, érzékeny és elég rosszul viseli a valóságot: a heterogén adatot, a több telephelyet, a szűk számítási keretet.

Egy friss arXiv-cikk (2025.12.19-én frissített verzió) egy olyan irányt hoz be a mainstreambe, amit én kifejezetten üdvözlök: ADMM-alapú, előkondicionált, inexact és sztochasztikus megközelítés mély modellekhez. A szerzők PISA néven írják le, és két hatékonyabb variánst is adnak mellé (SISA, NSISA). A lényeg nekünk, gyakorlati oldalról: stabilabb és gyorsabb tanítás/finomhangolás heterogén, elosztott környezetben – ami kórházaknál és többcsatornás kiskereskedelemnél napi fájdalom.

Miért épp az optimalizáló a szűk keresztmetszet?

Az optimalizáló dönt arról, mennyi idő, pénz és kísérletezés kell ugyanahhoz a modellminőséghez. Ha rossz a tanítási dinamika, akkor:

• több GPU-óra megy el ugyanarra a pontosságra,
• több „instabil futás” miatt csúszik a projekt,
• a modell érzékenyebb lesz az adateloszlás-változásra (ami élő rendszerekben szinte garantált).

Egészségügy: amikor a késés és instabilitás valós kockázat

Egy radiológiai képosztályozó modellnél a finomhangolás tipikusan intézményi adaton történik (más géppark, más protokoll, más betegpopuláció). Ha a tanítás lassú és „hisztis”, akkor nem csak a kutató szenved: késik a validáció, csúszik a bevezetés, és a csapat nehezebben tartja a megfelelőségi (compliance) ütemterveket.

E-kereskedelem: ugyanaz a probléma, csak más nevekkel

A kiskereskedelemben a heterogenitás a normál állapot:

• különböző országok/üzletek eltérő vásárlói mintái,
• szezonális kilengések (decemberi csúcs, januári visszaesés),
• csatornák közti eltérések (app vs. web vs. marketplace).

Ha az ajánlórendszer vagy keresleti előrejelző modell tanítása nem bírja ezt a szórást, akkor a csapat vagy „átlagol”, vagy túl sokat hand-tuningol. Mindkettő drága.

Mit állít a PISA (és mit érdemes ebből megjegyezni)?

Válasz először: a PISA egy olyan tanítási eljárás mély modellekhez, ami elosztott, heterogén adatok mellett is stabil konvergenciát céloz, és közben teret ad hatékony, preconditioned (elő-kondicionált) frissítéseknek.

A cikk két dolgot mond ki, ami gyakorlati szempontból különösen érdekes:

1. Kevésbé szigorú elméleti feltételek mellett ígér konvergenciát. A szerzők szerint elég a gradiens Lipschitz-folytonossága egy korlátos tartományon. Ezt úgy fordítom le: kevesebb „csillagállás” kell, hogy értelmesen viselkedjen a tanítás.
2. Kezeli a heterogén adatból fakadó bajokat. Elosztott tanításnál (több kórház, több raktár/üzlet, több adat-silo) a lokális frissítések nem ugyanabba az irányba húznak. A PISA/ADMM-szemlélet ezt strukturáltabban fogja meg.

Mi az az ADMM, és miért jön elő újra 2025-ben?

Az ADMM (Alternating Direction Method of Multipliers) egy klasszikus optimalizálási eszköz, ami jól illik olyan helyzetekhez, amikor:

• a problémát részekre bontanád,
• a részeket párhuzamosan oldanád,
• és közben szeretnél valamiféle „konszenzust” tartani.

Ez kísértetiesen hasonlít a valós elosztott AI-tréningre: minden csomópont tanul a saját adatán, de a végén közös modellt akarunk.

„Inexact” és „stochastic”: miért jó, hogy nem tökéletes?

A mélytanulásban a „pontosan megoldjuk az alproblémát” általában luxus. Az inexact itt azt jelenti: nem kell minden részlépést tűpontosan kiszámolni, elég közelíteni. A stochastic pedig: minibatch-alapú, zajos gradiensinformációval dolgozunk, mint a gyakorlatban mindig.

A kettő együtt sokszor pont azt adja, ami nekünk kell: kiszámíthatóbb tréning költség mellett stabilabb haladás.

Előkondicionálás: a gyorsulás „rejtett” forrása

Válasz először: az előkondicionálás azt jelenti, hogy a frissítések irányát és léptékét a probléma geometriájához igazítjuk, így gyorsabban és stabilabban érünk jó megoldáshoz.

A cikk több precondition-t említ:

• másodrendű információ (a görbülethez kapcsolódó jel),
• második momentum (az adaptív módszerek világa),
• ortogonalizált momentum Newton–Schulz iterációkkal.

A gyakorlatban ez azért érdekes, mert a legtöbb csapat ma is Adam/AdamW környékén mozog. Ezek működnek, de heterogén elosztott settingben gyakran jön:

• túl nagy szórás a futások között,
• érzékenység a learning rate-re,
• „lassan csorgó” finomhangolás.

Az SISA és NSISA variánsok pont arra mennek rá, hogy számításban ne legyen irreális, mégis kapjunk valamit az adaptív/strukturált frissítések előnyéből.

Egy jó preconditioner nem „okosabb modellt” ad. Ugyanazt a célt közelebb hozza – kevesebb próbálkozással.

Mit jelent ez az egész az egészségügyi AI-ban?

Válasz először: gyorsabb és stabilabb tanítás közvetlenül javítja a diagnosztikai modellek iterációs sebességét, a telemedicina skálázhatóságát és a kórházi döntéstámogatás időszerűségét.

1) Orvosi képalkotás: gyorsabb tanítás, gyorsabb validáció

Egy CT/MR képszegmentáló modellnél gyakori, hogy intézményenként eltér a képminőség és a protokoll. Elosztott tanításnál ez adatheterogenitásként jelenik meg.

Ha az optimalizáló jobban kezeli a heterogenitást, akkor:

• kevesebb „összeomló” tréningfutás,
• kevesebb újraindítás,
• gyorsabban kész a validálható modellverzió.

2) Telemedicina: amikor a modellnek frissülnie kell, nem csak futnia

Telemedicinában nem elég, hogy a modell inference-ben gyors. A szolgáltatás fenntartásához gyakran kell:

• új adat beemelése,
• finomhangolás új populációra,
• drift detektálás utáni frissítés.

Ezek a „csendes” MLOps-folyamatok gyorsulnak, ha a tréning robusztusabb és jobban párhuzamosítható.

3) Kórházi valós idejű döntéstámogatás

A valós idejű döntéstámogatás (pl. kockázat-előrejelzés sürgősségin) akkor működik, ha a modell:

• stabil,
• rendszeresen frissíthető,
• és a változó betegáramlás mellett sem „csúszik szét”.

Az ADMM-szemléletű konszenzus és a preconditioned frissítések itt kézzelfogható előny: a tanítás kevésbé billeg, amikor az adatok különböznek.

Mi köze mindennek a kiskereskedelemhez és e-kereskedelemhez?

Válasz először: ugyanaz a technikai probléma – heterogén, elosztott adat és gyors frissítési igény – egyszerre van jelen a kórházakban és a webshopokban.

A „Mesterséges intelligencia a kiskereskedelemben és e-kereskedelemben” sorozatban sokat beszélünk személyre szabott ajánlásról, kereslet-előrejelzésről és készletoptimalizálásról. Ezeknél a tanítási oldal tipikus kihívásai:

• Személyre szabott ajánlórendszer: országonként, régiónként más preferenciák; marketplace-en más a kosárlogika.
• Kereslet-előrejelzés: ünnepi időszakban (december) extrém szezonhatás, januárban visszarendeződés; promóciók okozta törések.
• Készletkezelés: több raktár és üzlet eltérő készletforgása; lokális akciók.

Itt egy „PISA-jellegű” optimalizáló azért lehet érdekes, mert természetes módon illeszkedik a párhuzamos tanításhoz, és elvben jobban tolerálja, ha a lokális adatok nem azonos eloszlásból jönnek.

Gyakorlati példa: ajánlómodell több piacra

Képzeld el, hogy egy közép-európai e-kereskedő 4 országban fut, és mindegyiknél különbözik:

• a kosárérték,
• a kedvelt kategóriák,
• az utánvétes arány,
• a szállítási preferenciák.

Ha mindent egy modellbe akarsz gyúrni, az „átlag” gyakran középszerű. Ha külön modellt tanítasz, elszáll a karbantartás. A konszenzusos, elosztott optimalizálás egy köztes út: lokális tanulás + kontrollált egyeztetés.

Mikor érdemes ilyen optimalizálókban gondolkodni? (Checklist)

Válasz először: akkor, ha a tréning költsége és kockázata már üzleti probléma, nem csak mérnöki kellemetlenség.

Hasznos kérdések, amiket én csapatokkal végig szoktam nézni:

1. Hány tréningfutásból lesz „jó” modell? Ha 10-ből 3 megy csak végig stabilan, az optimalizáló téma.
2. Mennyire heterogén az adat? Több intézmény/üzlet/piac esetén általában nagyon.
3. Milyen gyakran kell frissíteni? Ha havonta/hetente, akkor a tanítási sebesség MLOps-kritikus.
4. Korlátozott-e a compute? Ha igen, minden instabil futás pénzégetés.
5. Van-e párhuzamos infrastruktúra? ADMM-szerű módszerek értéke akkor nő, ha tényleg tudsz párhuzamosítani.

Gyakori kérdések, amiket ilyenkor mindenki feltesz

„Ez azt jelenti, hogy az AdamW-ot el kell felejteni?”

Nem. A valóságban sok csapatnál az AdamW marad az alapértelmezett.

A lényeg: amikor a finomhangolás kiszámíthatatlan (drift, heterogenitás, elosztott setting), akkor érdemes olyan optimalizáló osztályokat is mérni, amelyek konszenzusra és stabilitásra vannak tervezve.

„Mit mérjek, ha optimalizálót cserélek?”

Én nem csak végpontosságot néznék. Legalább ezt a négyet:

• idő a célmetrikáig (pl. AUC=0,92 eléréséig),
• futások szórása (stabilitás),
• kommunikációs költség elosztott tanításnál,
• validációs drift (különböző intézmény/ország szerinti bontásban).

„Hol jön be ebből lead?”

Ott, hogy a legtöbb szervezetben a tréning instabilitása üzleti bottleneck: később indul a pilot, később lesz ROI. Ha ezt le tudod rövidíteni, gyorsabban kapsz döntést és költségkeretet a skálázásra.

Zárás: a „gyorsabb tréning” nem luxus, hanem működés

A PISA/SISA/NSISA irányból én egy dolgot viszek haza: az optimalizálás újra stratégiai kérdés lett. Nem azért, mert mindenki ADMM-et akar implementálni holnap, hanem mert a heterogén, elosztott adatvilág (kórházak, telemedicina, omnichannel kereskedelem) kikényszeríti a stabilabb tréninget.

Ha a célod az, hogy diagnosztikai modell, kockázat-előrejelzés vagy e-kereskedelmi ajánlórendszer gyorsabban jusson el a bevezethető állapotig, akkor az optimalizáló nem mellékszál. Az egyik főszál.

Ha te dönthetnél: inkább 20%-kal jobb végpontosságot akarsz, vagy 40%-kal gyorsabb és stabilabb iterációt ugyanahhoz a szinthez? A legtöbb éles rendszerben a második hozza hamarabb a valódi eredményt.