AI unlearning: adatvédelem forrásadat nélkül is

Egyre több AI-rendszer kerül olyan helyzetbe, ahol „elfelejtést” kellene végrehajtania: egy beteg kéri az adatai törlését, egy licencelt adatforrás szerződése lejár, vagy egy audit során kiderül, hogy bizonyos rekordok nem maradhatnak a modell „emlékezetében”. A gond csak az, hogy a gyakorlatban a tréningadatok gyakran nincsenek már kéznél: archiválás, adatminimalizálás, beszállítói korlátozások vagy egyszerűen költség- és folyamatok miatt.

A friss kutatási irány, amely erre érdemi választ ad: a tanult felejtés (machine unlearning) forrásadat nélkül, tanúsítható (certified) garanciákkal. A 2025-ben bemutatott megközelítés lényege, hogy nem a teljes eredeti adathalmazból indul ki, hanem egy helyettesítő (surrogate) adatkészletből, és a két eloszlás közötti különbséghez igazítja a szükséges „zajt” – így kontrolláltan csökkenti annak esélyét, hogy a modell vissza tudjon idézni tiltott információkat.

A csavar: ez a téma nemcsak egészségügyben kritikus. A mezőgazdaságban és agrártechnológiában is egyre több a szenzitív adat (gazdaságok termelési adatai, talaj- és hozamtérképek, állategészségügyi nyilvántartások, gépadatok), és a piaci szereplők bizalma azon múlik, hogy az AI betartja-e a törlést és a hozzáférési korlátokat. Ha az AI „felejt” – de bizonyíthatóan –, az közvetlenül támogatja a bevezethetőséget.

Mit jelent az, hogy egy AI „elfelejt”? (és miért nem ugyanaz, mint a törlés)

Az unlearning célja nem az, hogy a nyers adatokat kitöröljük a tárolóból (az „csak” adatkezelési feladat), hanem hogy a már betanított modellből eltávolítsuk egy adott adathalmaz hatását. Ez a valóságban azt jelenti, hogy a modell viselkedése (predikciói, valószínűségei, reprezentációi) a törölt rekordok nélkül betanított modellhez „elég közel” kerüljön.

Miért nehéz ez?

• A modern modellekben a tudás elosztva tárolódik a paraméterekben.
• Egyetlen beteg- vagy gazdasági rekord hatása szétterülhet sok súlyon.
• Ha „gyorsan újratanítunk”, az drága és sokszor nem reprodukálható.

Az egészségügyben a probléma még élesebb: a páciensek adatait sokszor eleve minimalizálják, vagyis a tréningadatok megtartása is korlátozott lehet. Az agráriumban pedig gyakori, hogy a tréningadatok szolgáltatótól jönnek, és a licenc nem engedi a hosszú távú tárolást.

Röviden: az unlearning akkor ér valamit, ha nemcsak „ígéri” a felejtést, hanem mérhető, auditálható garanciát ad rá.

A tanúsítható unlearning ötlete: felejtés forrásadat nélkül

A forráscikk központi állítása egyszerű és praktikus: ne feltételezzük, hogy az eredeti tréningminták elérhetők. Ehelyett használjunk egy surrogate adathalmazt, ami statisztikailag hasonlít az eredetire, és az unlearning lépést úgy kalibráljuk, hogy figyelembe vegye a két eloszlás közti távolságot.

Surrogate adat: mitől „jó”, és honnan jön?

A surrogate nem varázslat. A mezőgazdaságban például lehet:

• újraszimulált idősor időjárás + talaj + tápanyag modellekkel,
• nyílt adatokból és saját szenzoradatból generált keverék,
• szintetikus állomány egy generatív modellből (szigorú kontrollal),
• de akár egy későbbi szezon adata is, ha az eloszlás eléggé stabil.

Egészségügyben tipikus megoldás a de-identifikált vagy szintetikus betegadat, esetleg intézményi „árnyékadatbázis” auditált hozzáféréssel.

A kulcs: a surrogate-nak nem kell azonosnak lennie, de kellően közel kell állnia az eredetihez ahhoz, hogy az unlearning garanciái értelmesek legyenek.

Miért kell zaj? Miért nem elég „finomhangolni”?

A tanúsítható megközelítések általában valamilyen véletlen zaj hozzáadásával érnek el garanciát. Intuíció:

• Ha a surrogate eltér az eredetitől, akkor a modell frissítéseiben ott maradhatnak nyomok.
• A zaj „elmossa” azt a maradék jelet, ami a törölt rekordokhoz köthető.

A cikk megközelítése azt emeli ki, hogy a zaj mértéke nem fix, hanem a surrogate–forrás eloszlástávolsághoz igazított. Ez józan kompromisszum: ha a surrogate nagyon jó, kevesebb zaj kell (jobb pontosság marad), ha gyengébb, több zaj kell (erősebb felejtési garancia).

Miért fontos ez a kórházban – és mi köze van az agrár AI-hoz?

A kampány fókusza az egészségügy, de a mezőgazdasági sorozatban érdemes kimondani: a megfelelőség és bizalom ugyanúgy fáj az agráriumban, csak más szereplőknél.

Egészségügy: betegbizalom és auditálható megfelelőség

Egy diagnosztikai vagy triázs modell esetén a kérdés nem elméleti. Ha egy páciens kéri az adatainak törlését, akkor az intézménynek gyakran azt is bizonyítania kell, hogy:

• az adat nincs meg a tárolókban,
• és a modell sem „emlékszik” rá olyan módon, ami visszafejthető.

A tanúsítható unlearning pont erre ad keretet: modellviselkedés-garanciákat lehet hozzá társítani, nemcsak belső folyamatleírást.

Agrártechnológia: adatmegosztás, licenc és versenyelőny

A precíziós gazdálkodásban a termelői adat sokszor versenyelőny. A gazda akkor fog hozamtérképet, gépadatot vagy növényvédelmi naplót megosztani, ha biztos abban, hogy:

• kilépéskor a szolgáltató tényleg felejt,
• egy modellből nem lehet „kibányászni” az ő adatait,
• a licencváltás nem ragasztja bent az adatát évekre.

Itt a „felejtés” üzleti képesség: csökkenti a belépési félelmet, és gyorsítja a digitális agrármegoldások terjedését.

Gyakorlati megvalósítás: hogyan néz ki egy unlearning folyamat a valóságban?

A papír „garanciái” akkor érnek valamit, ha a csapat le tudja fordítani őket folyamatokra. Én így bontanám le egy egészségügyi vagy agrár AI-projektben.

1) Tervezd meg előre a felejtést (különben később fájni fog)

Az unlearning nem utólagos folt. Már modelltervezéskor dönteni kell:

• Mi az unlearning egysége? (egy páciens, egy vizit, egy gazdaság, egy szezon)
• Mi számít „törlendőnek”? (nyers rekord, derivált jellemzők, embeddingek)
• Milyen SLA kell? (pl. 7 nap, 30 nap)

2) Készíts surrogate adatstratégiát

A surrogate adathalmaz minősége meghatározza a zajigényt, tehát a pontosságot. Minimum checklist:

• eloszlás-eltérés becslése (pl. főbb statisztikák, klaszterek, drift-metrikák),
• reprezentatív mintavétel (évszakok, régiók, ritka esetek),
• hozzáférés és naplózás (ki generálja, ki fér hozzá).

3) Zajkalibráció és „utility” kontroll

A gyakorlatban az eloszlástávolság ritkán ismert pontosan. A kutatás is jelzi: becslésekből dolgozunk, ami gyengítheti a garanciát, de még így is értékes.

A jó megközelítés:

• több szcenárió (optimista–konzervatív távolság),
• célmetrikák: pontosság + felejtési tesztek,
• kontrollkészletek szezonális bontásban (agrárnál ez kötelező).

4) Felejtési tesztek: mit kérdez az auditor?

Ha valaki komolyan veszi az unlearninget, nem elég a „töröltük”. Tipikus tesztcsaládok:

• membership inference jellegű vizsgálatok (felismerhető-e, hogy benne volt-e a rekord),
• célzott „canary” rekordok (szándékosan jelölt minták, amiket később töröltetünk),
• predikciós stabilitás (a törlés után a releváns csoportoknál nem romlik aránytalanul).

A felejtés nem egy gomb, hanem egy mérési rendszer.

Mire figyelj, ha egészségügyi AI-t építesz agrár tapasztalatokkal (és fordítva)

A két terület között meglepően sok a párhuzam:

• Szezonális drift: agrárban természetes, egészségügyben osztályváltás, protokollváltás, járványhullám okozza.
• Ritka esetek: mindkét területen a ritka események a legértékesebbek, és a legkockázatosabbak is adatvédelmi szempontból.
• Beszállítói függés: szenzorgyártó, EHR-szolgáltató, laborrendszer – mindenhol.

Konkrét javaslatom: építs „felejtésre kész” architektúrát.

1. Adat- és modellverziózás: minden modellhez legyen meg, mely adatkör hatott rá.
2. Törlési napló: kérés, végrehajtás, teszt, eredmény.
3. Surrogate pipeline: automatikus frissítés, minőségmérés, drift-riasztás.
4. Zajparaméter-politika: előre rögzített döntési szabályokkal (ne ad hoc).

Gyakori kérdések, amiket a csapatod fel fog tenni

„Ha nincs meg az eredeti adat, honnan tudom, hogy tényleg felejtett?”

A válasz: viselkedésalapú bizonyítással. Nem azt nézed, hogy „hol van a rekord”, hanem hogy a modellből ki lehet-e következtetni a rekord jelenlétét, és mennyire.

„A zaj nem rontja tönkre a pontosságot?”

Rontja – a kérdés a mérték. A surrogate minősége és a távolságbecslés pontossága dönti el, mennyit kell „fizetni” utility-ben. Épp ezért érdemes a surrogate stratégiára külön erőforrást adni.

„Ez kiváltja az újratanítást?”

Nem mindig. Nagy, sok törlési kérelemnél lehet, hogy időnként olcsóbb egy kontrollált újratanítás. De unlearning nélkül az újratanítás minden kérésnél rémálom.

Következő lépés: felejtés, ami nem csak ígéret

A tanúsítható unlearning forrásadat nélkül egy olyan képesség, ami az egészségügyben betegbizalmat, az agrártechnológiában pedig adatmegosztási hajlandóságot épít. Nekem az a tapasztalatom, hogy a legtöbb projekt ott csúszik el, hogy a felejtést „majd később” kezeli. Később viszont már a teljes adat- és modelléletciklust kell visszabontani.

Ha 2026-ra AI-t akarsz skálázni kórházi vagy precíziós gazdálkodási környezetben, akkor a kérdés nem az, hogy kell-e unlearning, hanem az, hogy mikor teszed be a folyamatba: még a pilot előtt, vagy egy audit után, kapkodva.

A te rendszered ma képes lenne bizonyíthatóan „elfelejteni” egy teljes gazdaság vagy egy páciens adatait úgy, hogy közben a modell használható marad?