Az AI Act alkalmazása kapcsán kiemelkedő jelentőségű az a kérdés, hogy egyáltalán mi számít mesterséges intelligenciának a jogszabály szerint.

Jelen cikk azt vizsgálja és mutatja be, hogy az AI Act szerint mi érthető az MI rendszer / modell fogalma alatt, és hogyan lehet megkülönböztetni egy MI rendszert egy hagyományos (vagy klasszikus) automatizált döntéshozatali eljárástól. Ez utóbbi rendszer esetében ugyanis mindössze az az elvárás, hogy azonos bemeneteli események (inputok) érkezésekor mindig azonos kimeneteli eredményeket (output) hozzon. A teljes döntési folyamata ismert, és visszakövethető. Ezzel szemben az AI Act által definiált MI modellek / rendszerek esetében korántsem ilyen egyértelmű a döntési folyamat, az input és az output „közötti” művelet esetében felléphet a „black box” hatás – amikor egy MI rendszer hasznos információt ad a felhasználónak, de a rendszer döntéshozatali folyamata nem feltétlen teljesen átlátható és visszakövethető.

A rendelet a következő fogalommeghatározást alkalmazza az MI-rendszerre: „gépi alapú rendszer, amelyet különböző autonómiaszinteken történő működésre terveztek, és amely a bevezetését követően alkalmazkodóképességet tanúsíthat, és amely a kapott bemenetből – explicit vagy implicit célok érdekében – kikövetkezteti, miként generáljon olyan kimeneteket, mint például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket, amelyek befolyásolhatják a fizikai vagy a virtuális környezetet”

Mivel csak az a rendszer esik az AI Act tárgyi hatálya alá, amelyik megfelel ennek a definíciónak érdemes annak tartalmi elemeit részletesebben megvizsgálni.

Mit jelent pontosan a definíció?

Az első fogalmi elem, vagyis, hogy az MI rendszer / modell gépi alapú, nyilvánvalóan szükséges a működés leírására, ugyanakkor alkalmatlan arra, hogy megkülönböztessen egy MI rendszert más informatikai termékektől. A rendelet Preambuluma szerint „a »gépalapú« kifejezés arra a tényre utal, hogy az MI-rendszerek gépeken futnak.”

A fogalom második eleme, a különböző autonómiaszinteken való működés viszont kifejezetten lényeges eleme a definíciónak, hiszen ez egyértelműen az MI rendszerek sajátosságára utal bármely más informatikai rendszerhez képest. Lényeges, hogy a képesség megléte elégséges feltétel, hogy az adott technikai megoldás MI-nek minősüljön, de ez nem befolyásolja az éles működés megítélését. Hiszen kockázatcsökkentő és védelmi mechanizmusként sokszor pont ezt a képességét korlátozzuk.

Az MI rendszer autonómiája azt mutatja meg, hogy egy rendszer milyen mértékben képes tanulni vagy cselekedni emberi beavatkozás nélkül. Az autonómia lényegében az emberi beavatkozás bizonyos fokát jelenti – vagy annak teljes hiányát. A gyakorlatban fontos különbséget tenni az autonóm és az automatizált működés között, mivel az utóbbi is lehetséges emberi beavatkozás nélkül, de az automatizált működés esetében a rendszer előre meghatározott lépések szerint működik egy adott eredmény elérése érdekében, míg az autonóm működés különböző szintjei esetén a végső eredmény nem lehet teljesen előre jelezhető és determinisztikus.

Szintén fontos megkülönböztető elem a következtetés képessége. A Preambulum erről a következőket írja: „A következtetés képessége egyfelől az olyan kimenetek – például előrejelzések, tartalom, ajánlások vagy döntések – előállításának folyamatára utal, amelyek befolyásolni tudnak fizikai és virtuális környezeteket, másfelől pedig az MI-rendszerek azon képességére, hogy bemenetekből vagy adatokból modelleket vagy algoritmusokat – vagy mindkettőt – tudnak levezetni. Valamely MI-rendszer következtetési kapacitása meghaladja az alapvető adatkezelés körét azáltal, hogy lehetővé teszi a tanulást, az érvelést vagy a modellezést”.

Az MI rendszerek / modellek következtetési képessége a gyakorlatban azt jelenti, hogy az MI rendszerek / modellek képesek saját működésük módosítására is azáltal, hogy korábbi lépéseik vagy döntéseik hatását önállóan elemzik és értékelik. Vagyis egy konkrét cél elérése érdekében meg tudja tervezni a következő legoptimálisabb lépését azzal, hogy feldolgozza a saját maga által gyűjtött vagy előállított adatokat, és reagálni is tud azokra. Ezzel szemben a klasszikus, még nem MI-nek számító modellek / rendszerek ilyen önálló értékelésre nem képesek.

A definíció az alkalmazkodóképességet nem kötelező tartalmi elemként használja. Vagyis, ha egy rendszer rendelkezik az adaptivitás képességével, az megerősíti, hogy MI rendszerről van szó, de annak hiánya önmagában még nem jelenti azt, hogy nem MI rendszerről van szó. Ugyanez elmondható az utolsó fogalmi elemről, miszerint a rendszer „kimenetei” befolyásolhatják a fizikai vagy virtuális környezetet. Az alkalmazkodóképesség a rendelet Preambuluma szerint az MI rendszer használat közbeni változását lehetővé tevő öntanulási képességeit jelenti.

Fontos azt is megjegyezni, hogy vannak olyan MI-rendszerek, amelyek ugyan a definíciónak megfelelnek, de maga az AI Act zárja ki őket a hatálya alól. Vannak magától értetődő kivételek, ilyenek például a teljes egészében az Európai Unión kívül alkalmazott, és Uniós polgárokat az alkalmazása során egyáltalán nem érintő MI rendszerek. Egy másik kivett csoportot alkotnak a katonai, védelmi és nemzetbiztonsági célú MI-rendszerek, amelyekre szintén nem alkalmazandó a jogszabály, figyelembe véve azt is, hogy ezek tipikusan tagállami, és nem uniós hatáskörbe eső területek.

A tipikus üzemeltetőknek, gondolva itt kifejezetten a pénzintézetekre is, sokkal fontosabb lehet két további kivételtípus. A rendelet szabályai ugyanis nem alkalmazandóak a kifejezetten a tudományos kutatás-fejlesztés kizárólagos céljára kifejlesztett és üzembe helyezett MI-rendszerekre, és ami még fontosabb lehet, hogy szintén nem alkalmazandó semmilyen, az MI rendszerekkel vagy MI modellekkel kapcsolatos kutatási, tesztelési és fejlesztési tevékenységre azt megelőzően, hogy azokat forgalomba hozzák vagy üzembe helyezik.

Vagyis a kutatási-fejlesztési fázisban még nem az AI Act szigorú szabályainak kell megfelelni, viszont azt maga a jogszabály is rögzíti, hogy ezeket a tevékenységeket is minden vonatkozó uniós jogszabállyal összhangban kell végezni, illetve, hogy ez a kivétel nem vonatkozik az éles körülmények közötti tesztelésre.

Kövesd figyelemmel az Intrát, hogy ne maradj le a következő cikkről sem, amely a diszkriminációtilalmat fogja vizsgálni az MI rendszerek esetében.

Kapcsolódó cikkek: Az AI Act és a pénzügyi szektor