Kína felkészül a mesterséges intelligencia kockázataira
A kínai hatóságok a mesterséges intelligencia fejlődésével összefüggő egyik legsúlyosabb hosszú távú kockázatként kezelik annak lehetőségét, hogy a fejlett rendszerek kikerülhetnek az emberi ellenőrzés alól, ezért az elmúlt években több biztonsági és szabályozási intézkedést vezettek be a veszély kezelésére.
A Reuters összefoglalója szerint a kérdésre ismét ráirányították a figyelmet az amerikai Anthropic kutatóinak figyelmeztetései, amelyek szerint a jövőben egyre fejlettebb mesterségesintelligencia-modellek akár az emberi irányítást is meghaladhatják. Kína és az Egyesült Államok a mesterséges intelligencia fejlesztésének és elterjedésének két meghatározó szereplője, miközben az ágazat szabályozása egyre fontosabb témává válik a kétoldalú egyeztetéseken is.
A kínai állambiztonsági miniszter, Csen Ji-hszin vasárnap megjelent írásában azt állította, hogy egyes fejlett amerikai modellek, köztük az Anthropic és az OpenAI rendszerei kockázatot jelenthetnek Kína kritikus informatikai infrastruktúrájára nézve.
A miniszter ezért a mesterséges intelligenciával kapcsolatos biztonsági intézkedések átfogó megerősítését sürgette. Kínai fejlesztők ugyanakkor az úgynevezett nyílt súlyozású (open-weight) modellek előnyei mellett érvelnek, mondván, hogy ezek biztonsági szempontból jobban ellenőrizhetők és módosíthatók. Szakértők szerint azonban az ilyen rendszerek is kockázatot hordoznak, mivel viszonylag kevés felügyelet mellett alakíthatók át és terjeszthetők tovább. Kína 2024 szeptemberében közzétett mesterségesintelligencia-biztonsági keretrendszerében első alkalommal említette kifejezetten azt a jövőbeli forgatókönyvet, amelyben a mesterséges intelligencia elveszítheti az emberi felügyeletet. A dokumentum szerint nem zárható ki, hogy a jövő fejlett rendszerei külső erőforrásokat szerezzenek, önmagukat másolják, öntudatra tegyenek szert, vagy hatalmat keressenek, ami versenyhelyzetet teremthet az emberekkel.
A 2025-ben kiadott bővített változat szerint a mesterséges intelligencia váratlan és jelentős képességbeli ugráson is áteshet, mielőtt ilyen folyamatok elindulnának. A dokumentum ezért a "megbízható alkalmazás, az ellenőrzés elvesztésének megelőzése" elvét is beemelte az irányítási alapelvek közé.
A kínai vezetés legmagasabb szintjén is megjelentek ezek az aggályok. Hszi Csin-ping kínai elnök júliusban, a sanghaji Mesterséges Intelligencia Világkonferencián azt mondta, hogy a hatóságoknak figyelemmel kell kísérniük a technológia közvetlen és közvetett kockázatait, a mesterséges intelligenciának pedig mindig emberi ellenőrzés alatt kell maradnia. A kínai külügyminisztérium mesterséges intelligenciáért felelős vezető tisztviselője, Szun Hsziao-po augusztusban az ENSZ-ben arról beszélt, hogy Kína átfogó mesterségesintelligencia-törvény előkészítésén dolgozik. Szun Lej, Kína ENSZ melletti helyettes állandó képviselője pedig a hónap elején óvatosságra intett a katonai célú mesterséges intelligencia alkalmazásával kapcsolatban, hangsúlyozva a stratégiai félreértések és a fegyverkezési verseny kockázatait.
Peking közben külön szabályokat dolgozott ki a mesterségesintelligencia-ügynökökre is, amelyek a hagyományos chatbotoknál önállóbban képesek feladatokat végrehajtani. A májusban kiadott iránymutatások előírják, hogy a fejlesztők rendelkezzenek eszközökkel a nem megfelelő működés felismerésére, beavatkozásra, blokkolásra és a rendszerek helyreállítására. Az előírások biztonsági kockázatként nevesítik az adatmérgezést, az algoritmusok manipulálását, a rendszersebezhetőségeket és az úgynevezett működési ellenőrzésvesztést. A szabályok egyben kimondják, hogy a felhasználóknak meg kell őrizniük a végső döntéshozatali jogkört a mesterségesintelligencia-ügynökök autonóm döntései felett.
