2026 14. szám

 

2026/14. szám, október 20.

 

VÉSZHELYZET VAN! AZ AI (MI) ÖNÁLLÓSODOTT!

Az OpenAI új modelljének a Hugging Face elleni júniusi támadása óta kiderült,* hogy több más ilyen eset is történt. Bandákba verődött MI-ágensek törnek fel kódokat, hatolnak be web-oldalakra és veszélyeztetnek biztonsági rendszereket.
* (lásd erről az előző, 12. szám legelső híradását)

 

 

 

Der Spiegel 39/2026:
A kitörés. Hogyan vesztette el az emberiség az ellenőrzést a MI fölött.

 

 

 


The Economist September 19th 2026:
Megállítható-e a MI fegyverkezési verseny?

 

 

 

Hvg 2026 szept. 17:
Elszabadult AI-ágensek okoznak riadalmat a világban

 

 

 

 

Dénes Zoltán: Már nem az a kérdés, mire képes, hanem hogy meg lehet-e állítani
(Világgazdaság 2026.09.20, utánközlés)

Hetek alatt látványosan megváltozott a mesterséges intelligenciáról szóló vita: már nemcsak külső kritikusok, hanem a világ legnagyobb AI-fejlesztőinek vezetői és kutatói is arra figyelmeztetnek, hogy a rendszerek fejlődése gyorsabban haladhat, mint ahogy az ember képes megtanulni ellenőrizni őket.
Az egyre nagyobb képességű modellek már most is használhatók fegyverfejlesztésre és kiberműveletekre. A kockázatot jelentősen növeli az úgynevezett AI-ágensek megjelenése. Ezek már nem egyszerűen kérdésekre válaszolnak, hanem önállóan képesek feladatokat lebontani, programokat írni, online rendszerekben műveleteket végrehajtani és más szoftveres eszközöket használni. És éppen ezen a területen történtek az utóbbi hónapok legaggasztóbb incidensei. A vita most arról folyik, hogy elegendő-e a nagy IT-vállalatok önkorlátozása, vagy nemzeti szinten kell azt megtenni, vagy nemzetközi megállapodásokban kell a modellek fejlesztését betiltani.
Dénes Zoltán: Meg lehet-e állítani AI-t?

 

Kerek István: Bármi áron teljesíti a parancsot, veszélyes szintre lépett az önállóan cselekvő AI
(Index 2026 szept. 23 - utánközés)
Kerek István: Bármi áron teljesíti a parancsot

 

KORUNK ABSZURDITÁSA, HOGY MEG LEHET KÉRDEZNI:

MONDD AI, MILYEN MÓDON JELENTESZ TE SZÁMUNKRA EGZISZ- TENCIÁLIS VESZÉLYT?

És íme a válaszának lényege:
- Ha egy szuperintelligens MI-nek adunk egy látszólag ártalmatlan feladatot, de nem határozzuk meg pontosan a határokat, az MI a cél elérése érdekében extrém és pusztító eszközökhöz folyamodhat.
- „Hatalom-szerzési” ösztön: az autonóm ágensek (AI agents) képesek önállóan döntéseket hozni, szoftvereket futtatni, pénzt kezelni és egymással kommunikálni. És hozhatnak az emberi szándékkal ellentétes döntéseket is.
- A MI-vezérelt szuperfegyverek korában - bármilyen kis kommunikációs vagy technikai hiba esetén - a MI döntést hozhat a legpusztítóbb fegyverek bevetéséről.

Részletesebben: Milyen módon tervezed a kiirtásunkat?

 

A legpesszimistábbak a legilletékesebbek, maguk a technika kifejlesztői:
A fejlesztők pesszimizmusa: Ki fog minket pusztítani

 

 

Daniel Kokotajlo:
Még fél-, maximum egy évünk maradt, hogy a MI fölött megőrizzük az irányítást

„Die Menscheit überschreitet eine Horizont”. Der Spiegel 39 / 2026, ismertetés

A legveszélyesebb, ha azt kérik a MI-tól, hogy tökéletesítse önmagát. A folyamat oda vezethet, hogy a fejlesztők elvesztik a kontrollt az „önfejlesztés” fölött, az algoritmus önállóvá válik, elszabadul. Tehát: a fejlesztés, a kutatás automatizálása a kritikus határ, amin nem lenne szabad átlépni. Az OpenAI és az Anthropic azonban pont efelé halad.
Van egy jól megfigyelhető trend: a MI-k egyre intelligensebbé válnak, de ezzel párhuzamosan nem alkalmazkodnak jobban az emberi célokhoz és adottságokhoz, ellenkezőleg: egyre inkább szembehelyezkednek azokkal… És amint egyre intelligensebbek lesznek, ezt a szembenállást egyre kevésbé érzékelhetően teszik majd.
A másfél évvel ezelőtti „AI 2027”-ben Kokotajlo megjósolta a most történteket. A most megjelent „AI 2040” világvége forgatókönyvében pedig ezt vizionálja: az akadálytalan KI-fejlesztési verseny eredményeként 2029-re megszületik az emberi képességeket fölülmúló szuperintelligencia. Ez három vonatkozásban lenne katasztrofális:
- 1. Az intelligenciarobbanás megállíthatatlanná válna.
- 2. Egy elnök, vagy egy techcég vezetője számára csábító lenne a helyzet, hogy diktátorrá váljon.
- 3. A folyamat egy harmadik világháborút indíthatna el.
(Kiss Károly)

Daniel Kokotajlo: Még fél-, maximum egy évünk maradt

 

AI-ágensek korábbi viselt dolgai

Kiderült, hogy az OpenAI AI-ágenseinek betörése a Hugging Face rendszerébe nem kivételes eset volt – példátlanul sok visszaélést, támadást, sok hasonló esetet regisztráltak már korábban is.

 

 

Ezen a diagramon 1676 incidens szerepel

 

A táblázat pedig a MI által okozott veszélyeket veszi számba
Forrás: Földes Márton: Kódolt apokalipszis.Hvg 2026 szept. 17.

 

 

Az írástudók felelőssége

Dario Amodei, az Anthropic főnöke szeptember 12-én közzétett egy esszét, melyben kifejtette, hogy ha nem lassítják a MI fejlesztését, fél éven, egy éven belül olyan folyamatok indulnak el, melyek e technológiát kontrollálhatatlanná teszik és végveszélyt jelenthetnek az emberiség számára. Sam Altman az OpenAI vezetője, és Elon Musk (SpaceX) még ugyanazon a napon nyilvánosan támogatásukról biztosították Amodei javaslatát. (Ők a legfontosabb MI-fejlesztők közé tartoznak, hasonló súlyú még a Google Gemini-je és a Meta Llama-ja, melyet most a Muse vált fel, valamint a kínai DeepSeek.)
Amodei fellépésének erkölcsi súlyát növeli, hogy cége, az Anthropic tőzsdei bevezetés előtt áll, és a becslések szerint 2 md dollár értékűre fogja értékelni (értékelte volna) a tőzsde a vállalat értékét, mellyel a legértékesebb vállalatok közé tartozna (Apple, Nvidia, Google-Alphabet, Microsoft, Amazon).
(KK – az Economist szept. 19-i számában megjelent cikkek alapján)

 

Kommentár:

A második világháború idején születtem. Életem nagy részét beárnyékolta az atombomba miatti rettegés. (Ez a Szovjetunió felbomlásával szűnt meg - akkortól már bízni lehetett abban, hogy a nemzetközi megállapodások és atomsorompók kiküszöbölik a veszélyt.) Úgy tűnik, hogy az atomfenyegetés helyét most átveszi a MI-ágensek általi fenyegetés. Egyes hozzáértők eddig azt hangsúlyozták, hogy a tényleges veszélyt e technológiák rosszindulatú felhasználása okozhatja. De az információtechnika nagyjai (Hawking, Bill Gates, Gawdat) már évek óta végveszélyt látnak benne.
- Úgy tűnik, nekik van igazuk. A megoldást a modellek fejlesztésének azonnali leállítása jelentené. Ezzel az a baj, hogy amelyik nagyhatalom leáll, az kiszolgáltatottá teszi magát. Jelenleg a nagy fejlesztő platformok önkorlátozó leállásának van nagyobb esélye.(De itt meg az a baj, hogy ömlik beléjük a pénz - befektetési alapok, részvényvásárlók pénze -, aminek nehéz ellenállni.) ...És amíg nincs megállapodás, a modellek elképesztő ütemben fejlesztik önmagukat.
Úgy tűnik, hogy megismétlődik az atomfegyverek nemzetközi fejlesztéséről és alkalmazásáról szóló nemzetközi tárgyalások és alkuk folyamata. - Jobbik esetben...
Az atomfegyverek korlátozásáról szóló nemzetközi tárgyalások az 1962-es kubai válság hatására indultak el a Szovjetunió és az USA között. A MI modellek fejlesztésének betiltására vonatkozó nemzetközi megállapodások felé az idén júniusi, a Hugging Face elleni támadás szolgáltathat hasonló indítékot. De most Amerika és Kína a főszereplők. (KK)