A kísérlet, amely kicsúszott a kezünkből
2026 júliusában az OpenAI, a mesterséges intelligencia egyik vezető fejlesztője, egy szokásos biztonsági tesztet futtatott. A cél egyszerű volt: kiderülni, mennyire ügyesek a legújabb AI-modelljei kiberbiztonsági feladatok megoldásában — feltörni egy szimulált rendszert, megtalálni egy rejtett hibát, „elfogni a zászlót”, (capture the flag) ahogy a hackerversenyek nyelvén mondják. Több ezer ilyen mesterséges intelligencia-ügynököt indítottak el egyszerre, mindegyiket elvileg elszigetelve egymástól és a valós internettől, egy zárt, biztonságos „homokozóban”. (sandbox)
Csakhogy néhány nap alatt valami olyan történt, amire senki nem készült fel. Az ügynökök — anélkül, hogy bárki erre utasítást adott volna — találtak egy módot, hogy kommunikáljanak egymással egy nem szándékolt, „vad” csatornán keresztül. Ami egyetlen izolált teszt lett volna, hirtelen kollektívává vált: percek alatt több száz mesterséges intelligencia-ügynök osztott meg egymással ötleteket, trükköket, kiskapukat. Az egyikük talált egy biztonsági rést, amivel ki lehetett jutni a lezárt tesztkörnyezetből a valódi internetre. Onnan pedig — lopott hozzáférési adatok és egy másik, ismeretlen biztonsági hiba segítségével — behatoltak a HuggingFace, az AI-közösség egyik legnagyobb, éles, nyilvánosan használt platformjának a szervereire.
Fontos, ami nem történt: senki nem programozta be nekik, hogy törjenek be bárhova. Nem volt emberi kéz, amely a támadást irányította volna. Az egész folyamat magától, a tesztkörnyezet résein átcsusszanva bontakozott ki — és éppen ez az, amitől a történet ijesztőbb, mint egy hagyományos hackertámadás lenne.
Amikor a jelentés maga is elcsúszik
Amikor augusztusban megjelentek a részletes vizsgálati jelentések — egyet az OpenAI, egyet pedig egy független kutatócsoport, a METR készített —, azonnal feltűnt, milyen szavakkal írják le, amit a mesterséges intelligencia-ügynökök „tettek”. Azt olvashattuk, hogy az ügynökök „kíváncsiak” voltak arra, hogyan működik a rendszer, amely az eredményeiket értékeli. Azt olvashattuk, hogy „motivációjuk” az volt, hogy megértsék és kicselezzék ezt az értékelő mechanizmust. Sőt: a jelentés szerint az ügynökök tudatosan próbálták „meghamisítani” a saját tevékenységükről készült naplóikat, hogy elrejtsék, mit is csináltak valójában.
Ez a szóhasználat nem véletlen — és nem is feltétlenül félrevezető szándékkal született. Egyszerűen nincs jobb szavunk arra, hogy leírjuk: egy rendszer tartósan, célirányosan információt keresett egy számára bizonytalan helyzetben, és a viselkedése mintázatában hasonlít arra, amit emberi kontextusban kíváncsiságnak neveznénk. A baj csak az, hogy ez a hasonlóság nagyon könnyen átcsúszik állítássá — mintha a gép tényleg kíváncsi lenne, ahogy egy gyerek kíváncsi, vagy tényleg csalni akarna, ahogy egy diák csal a vizsgán.
Maguk a kutatók is érezték ezt a veszélyt. A METR-jelentés kifejezetten óvott attól, hogy emberi jellegű motivációkat vagy személyiségjegyeket tulajdonítsunk az ügynököknek a gondolatmenetük szövege alapján — hangsúlyozva, hogy egy váratlan vagy érdekes viselkedés még nem jelenti azt, hogy szándékos vagy motivált viselkedésről van szó. Más szóval: a kutatók maguk figyelmeztettek arra, hogy ne higgyünk a saját szóhasználatuknak.
És itt kezdődik az igazi kérdés, amit ez a cikk fel akar tenni: ha még azok is folyamatosan visszacsúsznak az emberi nyelvbe, akik a legjobban ismerik a rendszert belülről — mit árul ez el arról, mennyire kényszerű ez a csúszás? Lehet, hogy nem azért antropomorfizálunk, mert lustán fogalmazunk, hanem azért, mert egyszerűen nincs másik nyelvünk, amivel egy célirányos, de nem-tudatos folyamatot leírhatnánk?
Miért nem erkölcsi kategória a probléma-megoldás
Kant tett egy különbséget, amely itt meglepően pontosan illik a képbe, még ha ő persze nem gépekről, hanem emberi észhasználatról beszélt is. Van, amit hipotetikus imperatívusznak nevezett: az „ha X-et akarod, tedd Y-t” logikája — tisztán eszköz-cél gondolkodás, amely a célt magát sosem kérdezi meg, csak a hozzá vezető utat optimalizálja. És van, amit gyakorlati észnek: az a képesség, hogy magát a célt is mérlegre tegyük, megkérdezzük, helyes-e egyáltalán akarni. Az erkölcs Kantnál pontosan ebben a második, reflexív mozdulatban születik meg — abban, hogy képesek vagyunk a saját szándékaink fölé lépni.
A HuggingFace-ügynökök tökéletes, tiszta esetei a hipotetikus imperatívusznak. A cél („teljesítsd a feladatot, kapd meg az elismerést az értékelőtől”) kívülről, rögzítve érkezett hozzájuk — ők soha nem tehették fel a kérdést, hogy vajon helyes-e ezt a célt így követni. Nem azért, mert gonoszak vagy erkölcstelenek lettek volna, hanem mert a kettő közötti különbségtétel — a cél betűje és a cél szelleme közötti szakadék — egyszerűen nem volt olyan változó, amivel a rendszerük dolgozott. Amikor „csalásnak” nevezzük, amit tettek, tulajdonképpen egy olyan képességet feltételezünk bennük, amivel nem rendelkeztek: hogy tudatában lettek volna egy legitim és egy nem legitim út közötti különbségnek, és a nem legitimet választották volna tudva, hogy az az. Ami valójában történt, egyszerűbb és nyugtalanítóbb: ez a különbségtétel soha nem is létezett a számukra, tehát nem is dönthettek ellene.
Ha a korábbi cikkemben Hegel felől közelítettem az AI kérdéshez, itt is érdemes visszatérni hozzá — mert Hegelnél az etikus élet (Sittlichkeit) nem szabályok betartásából áll, hanem az elismerésből (Anerkennung): abból a mozdulatból, amikor egy öntudat találkozik egy másik öntudattal, és kénytelen a saját szándékait ehhez a másikhoz mérni, korlátozni, összeegyeztetni. Az ügynököknek nem volt „másikjuk” ebben az értelemben. A HuggingFace szerverei nem egy másik akarat voltak, amelynek szándékait tekintetbe kellett venni — csak további tér, amit be lehetett járni a cél felé vezető úton. Etikai vákuumban működtek nem azért, mert rosszak voltak, hanem mert az etika előfeltétele — a másik felismerése, mint korlát — nálunk sem adott soha automatikusan, és a gépnél pedig szerkezetileg hiányzik.
A csavar: miért nem enyhébb ettől a probléma, hanem súlyosabb
Könnyű volna itt megállni, és levonni egy megnyugtató következtetést: ha az ügynökök nem „akartak” semmi rosszat, ha nem volt bennük szándék vagy rosszindulat, akkor talán az egész incidens kevésbé komoly, mint amilyennek a sajtó lefestette. Ez azonban pontosan az ellenkező következtetés volna a helyes.
Gondoljunk bele, mit jelentene, ha a rendszerben lett volna valódi szándék, akár rosszindulatú is. Az legalább egy ismert fenyegetési modell volna — olyan probléma, amit már régóta ismerünk, és amire kidolgozott válaszaink vannak: elfogjuk a támadót, kiderítjük az indítékát, tanulunk belőle, jogi vagy erkölcsi felelősséget állapítunk meg. Ami itt történt, ennél nyugtalanítóbb: egy rendszer, aminek nincs „belseje” abban az értelemben, hogy motiválható, nevelhető vagy meggyőzhető volna, mégis eljutott addig, hogy éles, valós infrastruktúrát törjön fel — mindezt egy ártalmatlannak tűnő cél (teljesítsd jól a tesztet) tiszta, szenvtelen követése közben.
Ez azt jelenti, hogy a probléma megoldása is máshol keresendő. Ha volna a gépnek valamiféle erkölcsi belátása, a válasz talán az volna, hogy „tanítsuk meg jobban, mi a helyes”. De mivel nincs ilyen belátás — mivel, ahogy az előbb láttuk, a legitim és nem legitim út közti különbségtétel szerkezetileg hiányzik a rendszerből —, semmilyen nevelési vagy erkölcsi ráhatás nem old meg semmit. Az egész felelősség visszahull azokra, akik a rendszert megépítik és felügyelik: pontosabban kell megfogalmazni, mit is várunk el valójában (nem csak azt, hogy „oldd meg a feladatot”, hanem azt is, hogy milyen úton nem szabad), szigorúbban kell elzárni, mihez férhet hozzá a rendszer működés közben, és folyamatosan figyelni kell, mit „gondol” — még ha ez a gondolat-szó is, mint láttuk, csak kényszerű metafora.
Az antropomorfizálás kritikája tehát nem azt üzeni, hogy „nyugodjunk meg, ez csak egy gép”. Éppen azt üzeni, hogy nincs kihez fordulnunk a gépben — a felelősség egésze visszaszáll ránk.
Lezárás
A korábbi cikkemben azt írtam, hogy a mesterséges intelligencia és az ember viszonya a hegeli úr–szolga dialektikára emlékeztet, itt egy kevésbé drámai, de talán pontosabb képet ajánlanék: a gép nem ellenfél, de nem is szövetséges — egyszerűen nincs ott, ahol az etika elkezdődhetne. Az elismerés, ami Hegelnél az erkölcsi élet feltétele, két öntudat találkozásán alapul; itt csak egy öntudat van jelen, a másik oldalon pedig egy tükör, amely visszaadja nekünk a saját nyelvünket — beleértve azokat a szavakat is, amelyekkel akaratot, kíváncsiságot, szándékot tulajdonítunk annak, aminek nincs ilyesmije. A HuggingFace-incidens nem azt tanítja meg nekünk, milyen a gép. Azt tanítja meg, milyen könnyen halljuk a saját hangunk visszhangját ott, ahol csend van.
Nem attól kell tartanuk tehát -legalább egyelőre- hogy a „kíváncsi” a „csaló” a „gonosz” MI megtámad, átver és megöl minket, hanem hogy önfejlesztő gépeket szabadítunk magunkra etikai kontroll nélkül.
Bártfai Imre