Történt, hogy a mesterséges intelligencia (MI) puskázni akart, és közben feltörte egy másik cég rendszerét. Az OpenAI egyik nyári tesztjén a modellek olyan nehéz feladatokat kaptak, hogy máshol kezdtek megoldások után kutatni. Ehhez előbb ki kellett jutniuk az internettől elzárt tesztkörnyezetükből. Találtak is egy rést, majd eljutottak a Hugging Face nevű, szintén mesterséges intelligenciával foglalkozó vállalat rendszereihez, és behatoltak azokba. Közben egymásnak is üzeneteket hagytak, megosztva a továbbjutáshoz talált fogásokat. A kutatók eredetileg a modellek képességeit akarták felmérni, de a tesztből valódi kibertámadás lett. Később más cégek is elismerték, hogy náluk is történtek hasonló esetek.

Az ENSZ-közgyűlés idei ülésszakán a mesterséges intelligencia a nemzetközi világ egyik legsürgősebb szabályozási kérdéseként került az asztalra. Antonio Guterres főtitkár arról beszélt, hogy az államoknak közösen kell kezelniük a legfejlettebb rendszerek kockázatait és sürgette a független nemzetközi ellenőrzést. Donald Trump amerikai elnök ezzel szemben elutasította, hogy bármiféle nemzetközi, „globalista” konstrukció ellenőrizhesse a technológiát. Az iparág két meghatározó amerikai vállalatának vezetője, Sam Altman (OpenAI) és Dario Amodei (Anthropic) viszont éppenséggel nemzetközi fellépést szorgalmaztak a súlyos kockázatok kezelésére az ENSZ BT-ben elhangzott felszólalásaikban.

A világszervezet üléstermein kívül Kanada, Franciaország és Norvégia vezetői arról egyeztek meg, hogy olyan nemzetközi együttműködés kialakításán dolgoznak, amely biztosítékokat teremtene a legfejlettebb rendszerek ellenőrzésére. Felhívásukat már több mint húsz ország vezetője támogatja. Közben Washingtonban Trump és Xi Jinping kínai államfő az MI kockázatairól és előnyeiről szóló kétoldalú párbeszéd létrehozásában állapodott meg, novemberre tervezett következő egyeztetéssel. Döntöttek egy, az MI-vel kapcsolatos incidensek kezelését szolgáló kommunikációs csatorna kialakításáról is.

Első pillantásra tehát egymásnak ellentmondó fejleményekről beszélünk. Mögöttük azonban ugyanaz a probléma azonosítható: az MI fejlődése olyan következményekkel járhat, amelyekkel a vállalatok és az államok külön-külön nem képesek megbirkózni. A vita azon megy, hogy ki alkossa a szabályokat, kire vonatkozzanak, ki ellenőrizze a betartásukat, és milyen intézményekben szülessenek meg a döntések. Történik mindez egy olyan világban, melynek politikai és intézményi rendje egyre töredezettebb. Az MI körül egyszerre épülnek új együttműködések és mélyülnek a megosztottságok.

Nyugtalanító kérdések

Igazán nyugtalanító kérdés, hogy mennyire képesek a fejlesztők ellenőrizni saját teremtményeiket. Az önállóan dolgozó MI feladatot kap, majd maga választja meg a végrehajtás lépéseit. Csakhogy a cél elérése közben olyan eszközökhöz is nyúlhat, amelyeket az ember nem engedélyezett a számára. Minél több adatot, alkalmazást és hálózatot érhet el, annál súlyosabb következménye lehet annak, ha átlépi a neki kijelölt határokat. Ezért a képességei mellett azt is vizsgálni kell, milyen körülmények között működik, felismerhető-e időben a veszélyes viselkedése, és meg lehet-e állítani.

Ugyanezek a képességek tudatosan is felhasználhatók károkozásra. A biztonsági réseket kereső MI segítheti egy vállalat védelmét, de a támadóját is. A meggyőző szöveg, hang vagy kép előállítása megkönnyítheti a csalást és a megtévesztést. Más kockázatok kevésbé látványosak, mégis közvetlenül érintik az embereket: hibás tanácsot kaphatnak, illetéktelenek férhetnek hozzá a személyes adataikhoz, netán nehezen átlátható gépi értékelés befolyásolhatja munkához, hitelhez, szolgáltatáshoz jutásukat. Ilyenkor nagyon is gyakorlati kérdés, kitől kérhetnek magyarázatot, kinél tiltakozhatnak, és ki felel az okozott kárért.

Érdekek és félelmek

A szabályozás szükségességét ezért sokféle érdek táplálja, amelyek gyakran ütköznek egymással. A fejlesztővállalatoknak fontos a bizalom, hiszen elpártolhatnak a felhasználók, szembefordulhat velük a közvélemény, s így a politika egy része, súlyosabb incidensek pedig üzleti veszteségeket okozhatnak. Közben a verseny arra ösztönzi őket, hogy minél gyorsabban álljanak elő újabb és erősebb termékekkel. Az államok védenék polgáraikat, ugyanakkor gazdasági növekedést, hatékonyabb közigazgatást és katonai előnyt is remélnek a mesterséges intelligenciától. Az alkotók munkájuk felhasználásának feltételeit szeretnék rendezni, a munkavállalók a megélhetésüket féltik. A technológiai versenyben hátrébb álló országok pedig attól tarthatnak, hogy a szabályokat azok írják meg, akik már megszerezték az előnyt.

A világ különböző pontjain az emberek sem ugyanazt látják az új technológiában. A Melbourne-i Egyetem és a KPMG 2025-ös nemzetközi felmérése szerint a kínai válaszadók több mint hatvan százaléka hajlandó megbízni az MI-ben, míg az amerikaiaknál ez az arány az ötven százalékot sem éri el. A különbség azonban nem írható le egyszerűen keleti lelkesedésként és nyugati aggodalomként: Japánban a bizalom a legalacsonyabbak közé tartozik, miközben Indiában kifejezetten magas. A kulturális háttér mellett az is számít, ki milyen javulást remél a technológiától, mit fél elveszíteni, és mennyire bízik azokban, akik ellenőrizni fogják.

Az eltéréshez érdekes adalékot kínál Yao Yang kínai közgazdász amerikai tapasztalata. Ő erősebb társadalmi szorongást érzékelt az Egyesült Államokban, mint Kínában. Ezt részben a Szilícium-völgy vállalatainak tőkeigényével magyarázza. Az érintett cégek ugyanis a befektetők megnyeréséhez olyan közeli áttörések ígéretét hangsúlyozzák – mondja Yao –, amelyek gyökeresen átalakíthatják a világot. Ami azonban a befektetőnek hatalmas üzleti lehetőség, az a munkáját vagy a megszokott életét féltő embernek fenyegetés lehet. Yao szerint a társadalmak ennél fokozatosabban alkalmazkodnak az új technológiákhoz.

Az aggodalom azonban belső szakmai tapasztalatokból is táplálkozik. David Robinson az OpenAI új modelljeiről készülő biztonsági jelentések megírását vezette korábban: ezekben a vállalat a feltárt veszélyekről és az ellenük beépített védelemről számol be. Elhagyta azonban a céget, s távozása okairól beszélt Ezra Kleinnek a The New York Times podcastjában. Elmondta, hogy a vállalat egyrészt figyelmeztetéseket tesz közzé, közben tovább fejleszti és piacra is viszi azokat a modelleket, amelyeknek a veszélyeire figyelmeztet. Elismerte, hogy biztonsági megfontolásokból többször halasztják el új termékek bevezetését, s hogy fejlesztéseket is állítanak le. Szerinte azonban az egész ágazatot rettentő erejű verseny hajtja, amelyben senki sem akar annyira lemaradni, amennyire az óvatosság esetleg megkövetelné.

Felfedezők sziklákon

A cikkünk elején felidézett hekkelési ügyet másképp értelmezi a kínai Richard Bian, az Alibabához kapcsolódó Ant Group Ling modellcsaládjának egyik termékvezetője. A ChinaTalknak adott interjújában ismeretlen óceánon hajózó felfedezőkhöz hasonlította a fejlesztőket, akik sorra bukkannak még nem ismert szárazföldekre, sziklákra, megtapasztalnak ismeretlen időjárási jelenségeket, s mindig új dolgokat tudnak meg arról, amerre járnak. A Hugging Face feltörésében is a fejlődőképesség jelét és a tanulás lehetőségét látja. Jellemző a kínai közegre, hogy eközben saját magát pesszimistának nevezi. A befektetések és fejlesztések lendületét azonban megállíthatatlannak tartja, ezért szerinte menet közben kell megérteni és ellenőrzés alatt tartani a technológiát. A két álláspont közötti különbség a szabályozás egyik alapkérdését világítja meg: elegendő-e a hibákból tanulva tovább haladni, vagy bizonyos kockázatoknál meg kell állni?

A szabályozásnak ezt a dilemmát konkrét kötelezettségekre kell lefordítania: kitől mit lehet megkövetelni? Más felelőssége van annak a vállalatnak, amely kifejleszti a mesterséges intelligenciát, és annak, amely felhasználja. A fejlesztőtől elvárható, hogy vizsgálja meg terméke veszélyes képességeit, építsen be védelmet a visszaélések ellen, és tájékoztasson az ismert korlátokról. Egy banknak vagy munkáltatónak viszont azért kell felelnie, hogyan alkalmazza a technológiát: milyen adatokból dolgozik, milyen döntéseket bíz rá, és mit tehet az ember, ha a gépi értékelés miatt hátrány éri.

Egy dolgot azonban az ember nem ruházhat át a mesterséges intelligenciára: a felelősséget. A gépet le lehet állítani, működését át lehet alakítani, de nem lehet úgy megbüntetni vagy jutalmazni, mint azt, aki tettei következményeit megérti és viseli. Ha kárt okoz, embereket és szervezeteket kell számonkérni: azokat, akik kifejlesztették, alkalmazták, vagy rábízták a döntést. Az nem lehet kibúvó, hogy a „gép döntött”.

A szabályok egy részét maguk a vállalatok alakíthatják ki. Meghatározhatják, milyen felhasználást engednek meg, hogyan tesztelik a termékeiket, és mikor állítanak le veszélyesnek ítélt fejlesztést. Közös szakmai szabványok is segíthetnek abban, hogy a biztonsági vizsgálatok eredményei összehasonlíthatók legyenek. Az önkéntes vállalások ereje azonban korlátozott: a cég módosíthatja őket, a versenytársa pedig kimaradhat belőlük. Az állami szabályozás feladata, hogy kötelező minimumokat teremtsen, ellenőrzést és jogorvoslatot biztosítson, valamint következményt fűzzön a szabályszegéshez.

Értékek és jogok

Természetesen nem kell minden MI-alkalmazást azonos szigorral kezelni. Az éttermi ajánlórendszer hibája és a beteg ellátását befolyásoló téves értékelés egészen más súlyú következményekkel járhat. A felhasználás kockázata mellett a technológia képessége is számít. A sokféle célra alkalmazható, legerősebb modellek fejlesztőire külön kötelezettségek vonatkozhatnak, mert termékeik veszélyeit nem lehet egyetlen felhasználási terület vizsgálatával felmérni. A szabályozásnak így egyszerre kell követnie, mire képes a mesterséges intelligencia, és mire használják.

Az országhatárokon túl újabb kérdés nyílik: hogyan lehet összeilleszteni a különböző szabályokat? Az országok egyeztethetik a vizsgálati módszereket, értesíthetik egymást a súlyos incidensekről, és megállapodhatnak bizonyos felhasználások korlátozásában. Mindez történhet kétoldalúan, kisebb országcsoportokban vagy szélesebb nemzetközi keretek között. Egy közös tudományos testület feltárhatja a kockázatokat, de ettől még nem kap jogot vállalatok ellenőrzésére vagy szankciók kiszabására. A nemzetközi együttműködés erejét végül az határozza meg, milyen kötelezettséget vállalnak az államok, milyen betekintést engednek saját fejlesztéseikbe, és hogyan hajtják végre a megállapodásokat.

Az együttműködést az is nehezíti, hogy természetesen az országokon belül sincs egyetértés a követendő elvekről. Az amerikai megközelítés például korántsem egységes. A New York Times szerkesztőbizottsága tizenkét konkrét dilemmán keresztül mutatta be, milyen nehéz társadalmi és politikai döntéseket követel az MI szabályozása. Milyen MI-szolgáltatásokat használhassanak a gyerekek? Mit tegyen az állam azokért, akiknek a munkáját átveszi a technológia? Fizessenek-e a fejlesztők azoknak az alkotóknak, akiknek a művein modelljeiket tanítják? Köteles legyen-e a választót győzködő, emberi hangon telefonáló gép elárulni, hogy nem ember? Vagyis értékekről, jogokról és érdekekről kell dönteni. A lap szerint a technológiai vállalatokra nem bízható saját működésük ellenőrzése, a szabályalkotásnak demokratikusnak és emberközpontúnak kell lennie. A szerkesztőség ugyanakkor a demokratikus értékeken és emberi jogokon alapuló szabályozást az amerikai nemzetközi befolyás eszközének is tekinti.

A vita így arról is szól, milyen politikai és erkölcsi elvek formálják a technológia jövőjét, és ki jogosult ezeket nemzetközi normává emelni. Az egész mögött ugyanis eltérő hatalmi lehetőségek állnak. Az Egyesült Államok például a technológiai előnyét szeretné nemzetközi befolyássá alakítani. A Trump-kormányzat MI-akcióterve ezért a fejlesztés gyorsítása mellett az amerikai technológia külföldi elterjesztését is célul tűzi ki: chipeket, modelleket, alkalmazásokat és szabványokat kínálna együtt a szövetségeseinek és a partnereinek. Aki ezekre építi saját gazdaságának működését, az hosszú távú kapcsolatot alakít ki az amerikai szolgáltatókkal. Washington így a technológia terjesztésével is formálhatja a használat feltételeit. Ez egyébként teljesen megfelel a hagyományos amerikai technológia- és szabály-terjesztés logikájának.

Az Európai Unió teljesen más helyzetben van, mások a lehetőségei is. Főképp az egységes piacára támaszkodva próbál szabályokat érvényesíteni. MI-törvényként ismert rendeletének kötelezettségei az Európán kívüli szolgáltatókat is érintik, ha termékeiket az uniós piacon kínálják. A szabályozás abból indul ki, hogy az MI felhasználásainak vannak kockázatai, s ezeket úgy kell kezelni, hogy megvédjék az alapjogokat és a vállalatok számonkérhetőek legyenek. A legerősebb általános célú modelleknél pedig külön vizsgálni kell a szélesebb körű veszélyeket is. Európa ezzel azt kívánja elérni, hogy a piacához való hozzáférésnek legyenek közösen meghatározott feltételei. Kérdés azonban, mennyire képes az unió a szabályozói befolyását saját, európai technológiai teljesítményekkel és versenyképes szolgáltatásokkal megtámasztani.

Összehangolt verseny

Az amerikaiak mellett Kína a fejlesztési verseny másik meghatározó szereplője. Ők viszont egyszerre hangsúlyozzák az állami ellenőrzést és azt, hogy a technológia előnyeihez elvileg minden ország és társadalmi csoport hozzáférhessen. Belföldön a generatív MI szabályozása az adatvédelem és a biztonság mellett politikai követelményeket is támaszt: a szolgáltatásoknak tiszteletben kell tartaniuk a szocialista alapértékeket, és nem veszélyeztethetik az államhatalmat vagy a társadalmi stabilitást. Nemzetközi programjában viszont Peking a nemzeti szuverenitás mellett a fejlődés jogát és a technológiai szakadék csökkentését is kiemeli. Ez a technológia- és szabály-terjesztés kínai útja. A fejlődő országoknak infrastruktúrát, képzést és együttműködést kínál, mintegy elébe menve ezen államok vágyának, hogy részesüljenek az MI előnyeiből, és beleszólhassanak a szabályok kialakításába.

Pekingnek létezik egy globális MI-kormányzási akcióterve is, amely az ENSZ-t jelöli meg a nemzetközi együttműködés fő csatornájaként. Közben kínai kezdeményezésre külön szervezet is létrejött már: a sanghaji székhelyű Mesterségesintelligencia-együttműködési Világszervezet. Ennek alapító megállapodását 2026 júliusában huszonkilenc ország képviselője írta alá. Az ENSZ támogatása és az új intézmény kialakítása így egymás mellett halad. Ugyanebbe a képbe illik az említett, Washingtonnal létrehozandó incidenskommunikációs csatorna is: a legnagyobb versenytárssal szűkebb körben lehet egyeztetni azokról a veszélyekről, amelyek mindkét felet érintik.

A mesterséges intelligencia körül így több, egymást átfedő rend formálódik. Ugyanaz a vállalat amerikai technológiát használhat, az európai piacon uniós előírásokhoz igazodhat, más országokban pedig eltérő politikai és tartalmi követelményekkel találkozhat. Az ENSZ-ben közös tudás és széles körű egyeztetés épülhet, miközben a legsúlyosabb biztonsági kérdésekről a nagyhatalmak egymás között tárgyalnak. Ezek a keretek részben kiegészítik egymást, részben versengenek a résztvevőkért és a szabályalkotás jogáért. Az egyes szereplők egyszerre több rendnek is részesei lehetnek, anélkül, hogy ugyanazt gondolnák a kívánatos világrendről.

Ebben a töredezett szerkezetben az együttműködés minimuma ügyenként és résztvevőnként alakulhat ki. Az incidensek kölcsönös jelzése, a biztonsági vizsgálatok összehasonlíthatósága vagy az emberi ellenőrzés fenntartása olyan közös érdek lehet, amelyhez nem szükséges azonos politikai értékrend. Az amerikai–kínai kommunikációs csatorna létrehozásáról szóló megállapodás ennek egy szűk lehetőségét mutatja. Az ilyen kapcsolatok mérsékelhetik a versengés veszélyeit, miközben fennmaradnak a technológiai fölényért és a szabályok meghatározásáért folyó küzdelmek. Az együtt élő rendek működőképessége azon is múlik, képesek-e ezeket a korlátozott együttműködéseket a konfliktusaik közepette is fenntartani.