A „jognak asztalánál” is helyet kér a mesterséges intelligencia
A legal engineer a jog és az informatika metszetében született. A megnevezés olyan szakembert takar, aki technológiai megoldásokat tervez, integrál és felügyel jogi környezetben. Feladata lehet saját fejlesztés koordinálása, piaci eszközök feltérképezése, bevezetésük és a jogi csapatok igényeinek technikai leképezése — mindig ügyelve az adatvédelemre, a GDPR-követelményekre és a jogi felelősségi határokra. Nem helyettesíti a jogászi döntést, hanem csökkenti a repetitív munkát, növeli a hatékonyságot és segít biztonságosan hasznosítani az AI-t, amely újabban a jogi területen is helyet kér. Vági Renátó legal engineerrel, a Wolters Kluwer Hungary munkatársával a jog és a mesterséges intelligencia kapcsolatáról beszélgettünk.
A mesterséges intelligencia elterjedésével egyre gyakrabban hallhatunk új foglalkozások megjelenéséről. Jómagam ezek közé sorolnám a legal engineert is, amit a kordivatnak megfelelően már nem is próbált meg magyarítani a szakma. Definiáljuk magát ezt az új foglalkozást, mik a kompetenciái, hogyan írhatnánk le?
A legal engineer kétségkívül friss szakma, de nem kimondottan a mesterséges intelligencia kapcsán, hanem a joggal kapcsolatos technológiák fejlődésével párhuzamosan jelent meg a 2010-es évek közepén, eleinte Nyugaton.
Mi a legal engineer feladata?
A legal engineer abban tér el a klasszikus ügyvédi, jogászi munkától, hogy nemcsak a jogi területre rálátó szakember, hanem a technológiai területen is jártas. Rálát a különböző eszközökre, azok felhasználhatóságára. A legal engineer az, aki segít jogászokat foglalkoztató intézményeknek, munkahelyeknek az informatikai eszközök adaptálásában, integrálásában, akár saját fejlesztésben. Ha egy mondatban akarjuk összefoglalni, a legal engineer az, aki közvetít a jog és az informatika világa között, hogy a jogászok minél hatékonyabban tudják használni az informatikai eszközöket.
Mi kell ahhoz, hogy valaki legal engineer lehessen?
Mindenképpen hasznosak a jogi ismeretek. Azok a legal engineerek, akiket én ismerek, jogi végzettséggel rendelkeznek, de ez nem feltétlenül követelmény. Fontos, hogy legyen bizonyos technikai szaktudása azon a területen, amelyen tevékenykedni akar.
Már ez a munkaterület is differenciálódott?
Igen. Vannak, akik a mesterséges intelligenciával, vannak, akik legal research (jogkutatás – a szerk. megj.) eszközökkel, mások ügyvédi ügyviteli szoftverek irodai környezetben való alkalmazásával foglalkoznak. Fontos, hogy rálásson az adott területnek az informatikai hátterére.
Hol folyik ilyen jellegű oktatás, képzés?
Formális képzés egyelőre nincs. Ma Magyarországon még nincs olyan intézmény, amely legal engineer diplomát adna. Viszont ma már egyre több egyetemen vannak kurzusok a graduális képzés során is, ahol jogi technikai felhasználói ismereteket, vagy éppen a mesterséges intelligencia felhasználásának lehetőségeit oktatják. Mi is a Wolters Kluwer Hungary Kft. égisze alatt számos magyarországi egyetemen tartunk előadásokat, illetve gyakorló jogászoknak workshopokat, ahol az ezzel a területtel kapcsolatos alapvető tudást igyekszünk átadni. Napjainkban egyre több egyetem is indít olyan szakjogászi képzést, amelyek a jogi technológiákhoz, illetve a mesterséges intelligencia jogi alkalmazási lehetőségeihez kapcsolódnak. Tudomásom szerint az ELTÉ-n, a Károli Gáspár Református Egyetemen és a Pázmány Péter Katolikus Egyetemen is vannak ilyen kurzusok.
Ha elképzelünk egy klasszikus ügyvédi irodai környezetet, hogyan működik együtt a legal engineer a csapat többi tagjával?
Két stratégia létezik, ha egy ügyvédi iroda valamilyen eszközt kíván használni a folyamatai hatékonyabbá tételéhez. Az egyik stratégia az, hogy valamilyen saját, belső megoldást fejlesztet. Erre viszonylag kevés ügyvédi irodának van lehetősége, főleg a nemzetközi irodáknak és a nagyvállalatok jogi osztályának van kapacitása és erőforrása erre. Itt a legal engineer feladata az, hogy a fejlesztőkkel tartsa a kapcsolatot, és az ötlettől a megvalósításig segítse a folyamatot. A másik stratégia az, hogy valamilyen, a piacon már létező eszközt szereznek be a saját folyamataik optimalizálására. A legal engineer itt arra kap megbízást, hogy mérje fel a piacon a probléma megoldására rendelkezésre álló eszközöket, ezeket tesztelje, a beszerzést követően pedig segítse az alkalmazását. A legal engineer az, aki meghallgatja a jogi csapat igényeit, szükségleteit, és erre választ igyekszik adni technikai oldalról.
Mivel a legal engineer egy határmezsgyén mozog, fontos tudni, hol húzódnak a határok. Meddig szólhat bele a legal engineer jogi dolgokba, meddig tart a hatásköre?
Magukat a szabályozási kérdéseket már a klasszikus jogi pályát művelő kollégák szokták végezni. A legal engineer feladata inkább az, hogy megállapítsa, egy adott eszköz, adatvédelmi, GDPR-, szerzői jogi és egyéb szempontok szerint megfelelő-e, az alkalmazás által nem kerül-e a ki érzékeny adat az ügyfelekről stb. Ennek megállapítása beletartozik a feladatkörébe, de mélyebb jogi kérdésekkel nem foglalkozik.
Térjünk át a jog és a mesterséges intelligencia kapcsolatára. A jogi egyetemeken az AI leggyakoribb felhasználása – gondolom – olyan, mint a többi egyetemen: a hallgatók ezt-azt megíratnak vele. De mi a helyzet az alkalmazásával a jogalkotási és -alkalmazási környezetben?
Ez még kialakulóban van. A jogi környezetben egyelőre nem annyira elterjedtek az egyes mesterségesintelligencia-eszközök. Főleg itt, Európában az adatvédelmi szabályozás miatt vannak biztonsági kérdések, illetve van egy kis bizalmatlanság is. Még gyakran előfordul, hogy „hallucinálnak" ezek az alkalmazások, pontatlan válaszokat adnak. Olyan területen, mint a jog, ahol minden fogalomnak meghatározott szerepe van, emiatt olykor nehezen használható. De már egyre inkább kialakulnak azok a területek, ahol jól használható. Az egyik ilyen az alapszintű jogi információk keresésének a támogatása. De itt is ügyelni kell arra, hogy ne olyan, általános célú eszközöket használjunk, mint például a ChatGPT, amely a jogi információkat nem feltétlenül kezeli pontosan, csak van egy belső tudásbázisa, vagy lefolytat egy internetes keresést, de gyakran nem vesz figyelembe lényeges dolgokat, például, hogy milyen időállapotról van szó, vagy a jogszabályi struktúrát. A ChatGPT nagyon leegyszerűsített válaszokat ad. Viszont egyre kezdenek elterjedni a speciális, jogi adatbázisokban való keresést segítő alkalmazások, amelyek támogatják, hogy a pontos terminus technicus használata nélkül, a problémát hétköznapi nyelven leírva segítsék a keresést, releváns válaszokat adva. Kezd elterjedni a különböző dokumentumok összetettebb elemzésére való felhasználás, a jogszabályoknak, EU-s előírásoknak, vagy éppen belső, vállalati szabályoknak való megfelelés vizsgálata. Új területnek számít a dokumentumok generálásának a feladata. Ez lehet egy ügyfélnek írt e-mail, valamilyen tanácsadási dokumentum, egyszerűbb szerződés, amely a jogi elemzést nagyobb mélységben nem igényli. Ilyen lehet például egy adásvételi szerződés, amely jogi szempontból egy elég technikai jellegű dokumentum, meghatározott formai követelményeknek kell megfelelni, meghatározott adatokat kell tartalmazni. Ha ezeket megadjuk a mesterségesintelligencia-eszköznek, vagy azt, hogy honnan tudja ezeket beszerezni, akkor képes összeállítani akár egy komplexebb dokumentumot is. Persze, itt már vigyázni kell, hogy az érzékeny adatokat később ne használják fel a modell későbbi tanításához. Általánosságban elmondható, hogy a jogi területen kicsit lassabban halad az AI-eszközök alkalmazása. Nyilván konzervatívabb területről van szó, és az adott eszköznek sok minden egyéb szempontnak is meg kell felelni.
Említette, hogy a jogi terület konzervatív. A jog „szögletessége", standardizációra való törekvése, hogy fér össze az AI által kínált kreatív megoldásokkal? Mit kell tenni ahhoz, hogy a konzervatív jog profitálhasson a mesterséges intelligencia nóvumaiból, kreativitásából?
Mindig figyelni kell arra, hogy az AI eszközöket arra használjuk, amiben ők jók, ahol pedig korlátaik, vagy hiányosságaik vannak, azokat a részeit ne használjuk, vagy ha igen, akkor legyünk ennek tudatában. Mondok egy példát. Ha egy jogi kérdésben megkérdezzük a ChatGPT-t, az akkor is fog nekünk válaszolni, ha az adott területről nincs tudása. Ebben az esetben generál nekünk egy olyan szöveget, amely magabiztosnak tűnik, de a benne levő információforrások több helyen pontatlanok. Az OpeanAI fejlesztői így alakították ki, mert azon a véleményen voltak, hogy a felhasználói élményt azzal segíti, ha mindig generál egy választ. A felhasználónak ugyanis nagyobb csalódás lenne, ha az AI eszköz azt mondaná, hogy nem tudja, mint ha rossz választ adna. A jog területén ez azért elég veszélyes lehet.
Vannak esetleg már olyan konkrét esetek, amikor kilógott a „mesterséges lóláb?”
Amerikában már előfordult, hogy egy ügyvéd szeretett volna a saját érvelése támogatásához korábbi bírósági határozatokra hivatkozni. Beadta a keresést a ChatGPT-be, amely odatett neki amerikai bírósági határozatnak látszó hivatkozásokat. Ő ezeket belefoglalta a beadványba. Az eljárás során aztán a bíró jelezte, hogy ezek nem létező ügyek. De ez egyébként fordítva is megtörtént. Arra is van már precedens, hogy a bíró egy ítélet indoklásának megfogalmazásához használt AI eszközt, és ott kerültek be pontatlanságok. Ezeket az eszközöket tehát egyelőre nem lehet jól használni ezekre a célokra. De ha csak arra használjuk, hogy szövegeket generáljon, de a jogi keresést nem ezekre az eszközökre bízzuk, hanem mi csináljuk meg, vagy mögé teszünk egy releváns jogi adatbázist, ezzel tudjuk a „hallucinációt" csökkenteni, a pontosságot növelni, illetve beiktatni egy olyan védelmi funkciót, hogy ha a megadott adatbázisban a válaszhoz nem találunk releváns szövegegységeket, akkor az alkalmazás mondja azt, hogy nem tudom, vagy nem találtam információt. Ez is sokkal hasznosabb egy jogásznak, mint ha kapna egy rossz választ.
Ha a jogász egy büntető- vagy akár polgári, vagy gazdasági jogi ügy érzékeny adatait beadja az AI eszközbe, akkor ki minősül adatkezelőnek és adatfeldolgozónak?
Itt sok kérdés nincs még tisztázva. Magyarországon az Ügyvédi Kamara sem adott még ajánlást arra vonatkozóan, hogy ezeket az eszközöket hogyan kell vagy lehet használni, és mire kell figyelni a mindennapi gyakorlat során. Azt szoktuk tanácsolni, hogy az általános eszközökbe, amilyen például a ChatGPT, különösen az ingyenes verzióba, ne adjunk meg érzékeny és személyes adatokat. Ez akár sértheti az ügyvédi titoktartást is. További probléma lehet, hogy ezek az eszközök a megszerzett adatokat felhasználhatják a későbbiekben a modell tanításához, továbbfejlesztéséhez, így ezek a későbbiekben kereshetővé válhatnak. Legalább olyan eszközöket kell használni, amelyek a GDPR-nak való megfelelést vállalják. Illetve tájékozódni kell, hogy a megszerzett adatokat a későbbiekben hogyan és mire használják fel, hol tárolják. A ChatGPT-nek például van olyan előfizetős modellje, ami a GDPR-nak való megfelelést vállalja.
Milyen jellegű adatokat oszthat meg, illetve nem oszthat meg egy jogász egy AI-alkalmazással?
Az általános célú, a GDPR-nak való megfelelést nem vállaló eszközökkel mindenképp csak anonimizált adatokat osszunk meg, vagy példaadatokkal, nem valós adatokkal megírt dokumentumokat használjunk. Személyes adatok, üzleti titkok semmiképp ne szerepeljenek benne. Inkább olyanokra jó használni ezeket az eszközöket, mint a jogszabályok, bírósági határozatok összehasonlítása, elemzése. Tehát amelyek már eleve nyilvánosak, hozzáférhetőek és anonimizáltak. Vagy használjunk az adatvédelmi megfelelést vállaló AI eszközöket, ez azonban egy nagyobb beruházás.
Amikor egy ügyvédi iroda kiválaszt egy AI alkalmazást, akkor a mindenki számára elérhető verziót használja, vagy külön szerződést köt az adatfelhasználásról, törlésről, tréningtilalomról?
A dobozos, előfizetős termékek esetében az általános szerződési feltételek az irányadók. Ha eseti, saját fejlesztésről van szó, akkor az azt biztosító fejlesztő céggel tudnak külön megállapodni.
Ha a bírósági gyakorlatot nézzük, az Európai Unióban, vagy a világ más részén van-e már valamilyen irányelv a mesterséges intelligencia alkalmazására?
Az Európai Unióban nincs tudomásom róla, hogy bármilyen iránymutatás született volna. Amerikában a jogi elemző szoftverekkel kapcsolatban szoktak néha előfordulni vitás kérdések, amelyek már létező, nagy mennyiségű, bevitt jogi adat elemzését végzik döntéstámogatáshoz. Abból például hangosabb ügy volt, hogy a szabadlábon védekezés lehetőségének meghatározásakor az AI-eszköz által elvégzett adatelemzésből indultak ki. Korábbi ügyek adatainak alkalmazásával próbálták megbecsülni, hogy milyen a szökésveszély, a bűnismétlés, vagy a visszaesés veszélye. A bíró ennek alapján hozta meg a döntést, hogy a vádlott szabadlábon védekezhet-e. Itt felmerült, hogy milyen mértékben lehet bőrszínre vagy származásra vonatkozó adatokat kezelni. Kimutatták ugyanis, hogy az AI a színesbőrű vádlottak esetében kevésbé ajánlotta a szabadlábon védekezés lehetőségét. Európában pedig a GDPR óta nem lehetséges, hogy csak egygép, vagy egy algoritmus hozzon meg egy döntést, mindig biztosítani kell az emberi felülvizsgálatot, elemzést.
Melyek azok a feladatok, amelyeket az elkövetkező néhány év horizontján a mesterséges intelligencia kiválthat a jogban?
Amire már gyakorlat van, az a belépő szintű jogi feladatok elvégzése. Ez nem teljesen új keletű. Például a jogi szakfordítás olyan terület, amelyet ma már mesterségesintelligencia-eszközök segítségével végeznek. Régen ez a gyakornok, vagy az ügyvédjelölt feladata volt. Természetesen az elkészült első verziót a senior jogásznak még ellenőriznie kell, de mindegy, hogy az ügyvédjelölt, vagy a mesterséges intelligencia által létrehozott változatot fogja-e ellenőrizni, szerkeszteni. Ráadásul a fordítást a mesterséges intelligencia sokkal gyorsabban és olcsóbban végzi el. A mesterséges intelligencia elő tudja készíteni egy keresetlevél, vagy egy szerződéstervezet első változatát. Nyilván ezeket a megoldásokat olyan irodák kezdik alkalmazni, ahol nem telik „ügyvédbojtárra”, de most már azt látom, hogy a nagyobb irodák is kezdenek átállni erre. Persze, a másik oldalról ez probléma is, mert akkor hol lépnek be a friss diplomás ügyvédjelöltek az ügyvédi gyakorlatba, ha nem ezekkel a belépő szintű feladatokkal.
Mit tanácsolna azoknak az ügyvédeknek, akik egyelőre idegenkednek az AI alkalmazásától a mindennapi gyakorlatban?
Azt tanácsolnám, hogy gondolják végig, melyek azok a feladattípusok a mindennapi tevékenységük során, amelyeket egy nap többször is el kell végezni, és esetleg nem is szeretik. Ezeket fokozatosan ki lehetne váltani az AI alkalmazásával. Először érdemes a személyes szférában, mindennapos tevékenységekhez kipróbálni, ezt követően szakmai környezetben is. Eleinte érdemes egyszerűbb ügyeket, próbaadatokkal kipróbálni, érdemes a „nemszeretem" feladatokkal kezdeni. Legalább ezeket biztosan ki tudja váltani valamilyen általános vagy kimondottan jogi mesterségesintelligencia-alkalmazás.
CV:
Dr. Vági Renátó (1994), jogász, a Wolters Kluwer Hungary Kft. legal engineer és jogi mesterséges intelligencia szakértője, az ELTE PhD hallgatója. Kutatási területe az AI eszközök jogi felhasználási lehetősége, valamint a mesterséges intelligencia jogra és társadalomra gyakorolt hatása.
