A következőkben azt mutatjuk be, hogy az MI-rendszereket alkalmazó vállalkozásoknak mire kell figyelniük, illetve milyen kötelezettségeket kell teljesíteniük, amennyiben nem saját fejlesztésű rendszert alkalmaznak.
Az Európai Unió mesterséges intelligenciáról szóló rendelete (MI rendelet
mesterséges intelligenciával kerülnek kapcsolatba, illetve, hogy
az általuk látott, hallott vagy olvasott tartalmat mesterséges intelligencia segítségével készítették vagy módosították.
A konkrét jogszabályi kötelezettségeket az MI Rendelet 50. cikke
A vállalkozás szerepének tisztázása
Elsőként azt szükséges tisztázni, hogy a vállalkozás által használt MI-rendszerrel kapcsolatban a szervezet milyen szerepet tölt be. A kötelezettségek ugyanis eltérően alakulnak attól függően, hogy a szervezet szolgáltatónak vagy alkalmazónak minősül.
A szolgáltató (provider) az a természetes vagy jogi személy, amely MI-rendszert fejleszt vagy fejleszttet, és azt saját neve vagy védjegye alatt forgalomba hozza vagy üzembe helyezi. A gyakorlatban ez jellemzően a szoftver vagy az MI-rendszer fejlesztője, gyártója vagy forgalomba hozója.
Az alkalmazó (deployer) az a természetes vagy jogi személy, amely saját szakmai tevékenysége körében MI-rendszert használ. A legtöbb vállalkozás ebbe a körbe tartozik, amikor kész MI-megoldást vásárol, előfizetésként használ, vagy külső szolgáltatótól vesz igénybe.
A szerepek elkülönítése azért lényeges, mert a jogszabály más kötelezettségeket ró a szolgáltatóra és az alkalmazóra.
Közvetlen emberi interakcióra szolgáló MI-rendszer, például chatbot vagy telefonos mesterséges intelligencia: a szolgáltató köteles úgy kialakítani a rendszert, hogy az érintett személy tudja, hogy MI-rendszerrel lép kapcsolatba.
Generált kép-, hang-, videó- vagy szöveges tartalom előállítása: a szolgáltató köteles biztosítani, hogy a rendszer kimenete géppel olvasható módon jelölt és mesterségesen előállítottként vagy módosítottként felismerhető legyen.
Érzelemfelismerő vagy biometrikus kategorizáló rendszer alkalmazása: az alkalmazó köteles tájékoztatni az érintett természetes személyeket a rendszer működéséről. Ilyen lehet például, ha egy számítógépes játékban használt MI-rendszer figyeli és elemzi a játékos reakcióit. Egy ilyen rendszerről a játék indításakor jól látható módon értesíteni kell a játékost.
Deepfake tartalom (olyan, mesterséges intelligenciával létrehozott vagy módosított kép-, hang- vagy videótartalom, amely valós személyek vagy tárgyak megjelenését, hangját vagy cselekedeteit megtévesztően hiteles módon utánozza), illetve közérdekű ügyekről szóló tájékoztatóban MI-vel előállított vagy módosított szöveg közzététele: a közzétevő alkalmazó köteles a mesterséges előállítás vagy módosítás tényéről tájékoztatást adni.
A következőkben az alkalmazókra vonatkozó kötelezettségeket mutatjuk be.
Mikor válhat az alkalmazóból szolgáltató?
Lehetséges, hogy egy vállalkozásnak a szolgáltatói kötelezettségeknek is meg kell felelnie, annak ellenére, hogy eredetileg csak alkalmazóként vásárolt vagy használt egy MI-rendszert. Az MI Rendelet alapján ez különösen akkor merülhet fel, ha a vállalkozás egy már forgalomban lévő vagy üzembe helyezett MI-rendszert saját neve vagy védjegye alatt üzemeltet, a rendszeren jelentős módosítást hajt végre, vagy a rendszert olyan célra használja, amely eltér az eredeti rendeltetésétől.
Ilyen esetben a korábban a szolgáltatót terhelő kötelezettségek egy része a vállalkozást is terhelheti. Ez érintheti például a chatbot tájékoztatási funkcióját vagy a generált tartalom géppel olvasható jelölésének biztosítását. Ezért beszerzéskor, testreszabáskor és új felhasználási cél meghatározásakor mindig vizsgálni kell, hogy az MI-rendszert alkalmazó vállalkozás szerepe megváltozik-e.
Érzelemfelismerő MI-rendszer, vagy biometrikus kategorizációt megvalósító MI-rendszer
Az MI Rendelet szerint érzelemfelismerő rendszer a természetes személyek érzelmeinek vagy szándékainak a biometrikus adataik alapján történő azonosítására vagy kikövetkeztetésére szolgáló MI-rendszer, biometrikus kategorizálási rendszernek pedig a természetes személyeknek a biometrikus adataik alapján meghatározott kategóriákba sorolására szolgáló MI-rendszerek tekinthetőek.
E rendszerekre szigorú szabályok vonatkoznak:
Tilos például munkahelyeken, iskolákban általában az érzelemfelismerő rendszerek használata, tilos továbbá az olyan biometrikus kategorizációt megvalósító MI-rendszerek használata is, amely külső megjelenés alapján faji, etnikai, világnézeti kategorizálást vagy csoportosítást végezhet.
A jogszerűen használható érzelemfelismerő vagy biometrikus kategorizációt megvalósító MI-rendszerek nagy kockázatú MI-rendszernek minősülnek, azaz az MI Rendelet szerinti legszigorúbb előírásoknak kell megfelelniük (ezen előírásokat 2027. december 2-től kell alkalmazni az érintett alkalmazóknak).
Az érzelemfelismerő vagy biometrikus kategorizációt megvalósító MI-rendszerek alkalmazóinak előzetesen tájékoztatni kell erről a rendszer felhasználóit. A tájékoztatást azt megelőzően kell biztosítani, hogy a felhasználó első alkalommal kapcsolatba lépne a szóban forgó MI rendszerrel. Például egy olyan számítógépes játék esetén, amely mesterséges intelligencia segítségével elemzi a játékos reakcióit, a játék indítását megelőzően kell megjelennie a tájékoztatásnak (pl. felugró ablakban).
Valóságosnak tűnő, mesterségesen előállított (deepfake) tartalom
Deepfake tartalomról akkor beszélünk, ha egy MI-rendszer olyan kép-, hang- vagy videótartalmat hoz létre vagy módosít, amely valós személyeket, tárgyakat, helyeket vagy eseményeket valóságosnak tűnő, de mesterségesen előállított vagy módosított módon ábrázol.
Ha egy vállalkozás ilyen tartalmat tesz közzé, a közzétételkor tájékoztatnia kell az érintetteket vagy a nyilvánosságot arról, hogy a tartalom mesterségesen előállított vagy módosított. Ez akkor is a közzétevő szervezet felelőssége, ha maga a tartalom külső MI-rendszerrel készült.
A tájékoztatásnak világosnak és megkülönböztethetőnek kell lennie. Gyakorlati megoldás lehet például a jól látható, az MI-tartalomra utaló grafikai jelölés, vagy – hanganyag esetén – rövid, hallható figyelmeztetés. Az Európai Bizottság által közzétett Átláthatósági Gyakorlati Kódex (Code of Practice on Transparency)
Kész MI-rendszer beszerzésekor elvárható, hogy a rendszer támogassa a jelölést, például automatikus vízjellel vagy jelölési sablonokkal. A végső közzétételi felelősség azonban a közzétevő szervezetnél marad. Ezért célszerű belső jóváhagyási és jelölési folyamatot kialakítani minden olyan esetben, amikor valós személyt, eseményt vagy helyzetet érintő MI-tartalom nyilvánosan megjelenik.
Közérdekű kérdésről tájékoztató, mesterséges intelligenciával írt szöveg közzététele
Külön figyelmet igényel az a helyzet, amikor egy szervezet MI-rendszerrel állít elő vagy módosít olyan szöveget, amelyet a nyilvánosság tájékoztatása céljából, közérdekű témában tesz közzé. Ilyen lehet például egy automatikusan generált hírösszefoglaló, piaci tájékoztató, befektetői közlemény, társadalmi hatású elemzés vagy más nyilvános tájékoztató anyag.
A közzétevő szervezetnek ilyenkor tájékoztatnia kell a nyilvánosságot arról, hogy a szöveg mesterségesen előállított vagy módosított. A tájékoztatásnak világosnak, megkülönböztethetőnek és az érintettek számára hozzáférhetőnek kell lennie. Az Európai Bizottság által közzétett Átláthatósági Gyakorlati Kódex (Code of Practice on Transparency)
A rendelet fontos kivételt is tartalmaz: ha a tartalom emberi felülvizsgálaton vagy szerkesztői ellenőrzésen ment keresztül, és a közzétételért természetes vagy jogi személy szerkesztői felelősséget vállal, akkor a külön MI-jelölés nem kötelező. Ilyen esetben azonban célszerű dokumentálni, hogy ki végezte az emberi ellenőrzést, annak mi volt a terjedelme és ki vállal felelősséget a közzétett tartalomért.
A vállalkozásoknak érdemes előzetesen eldönteni, hogy a közérdekű MI-szövegek esetében melyik megfelelési utat választja: látható jelölést alkalmaz, vagy emberi szerkesztői ellenőrzést és felelősségvállalást vezet be. A döntést belső szabályzatban vagy szerkesztési eljárásrendben célszerű rögzíteni.
Mit érdemes számon kérni a szolgáltatótól?
A legtöbb vállalkozás nem fejleszt saját MI-rendszert, hanem külső szolgáltatótól vásárol vagy vesz igénybe kész megoldást. Emiatt a jogszabályoknak való megfelelés jelentős részben már a beszerzési és szerződéskötési szakaszban eldől. Az alábbi kérdéseket célszerű feltenni, és a válaszokat lehetőség szerint a szerződésben vagy szolgáltatói nyilatkozatban is rögzíteni.
Biztosítja-e a rendszer, hogy az érintett személyek már az első kapcsolatfelvételkor tudják, hogy MI-rendszerrel kommunikálnak?
A generált vagy módosított kép-, hang-, videó- és szövegtartalom automatikusan kap-e géppel olvasható jelölést?
A jelölés hatékony, interoperábilis, robusztus és megbízható módon működik-e a szolgáltató dokumentációja szerint?
Rendelkezésre áll-e olyan ellenőrző eszköz vagy eljárás, amellyel a géppel olvasható jelölés megléte vizsgálható?
A szolgáltató csatlakozott-e az uniós gyakorlati kódexhez? Ha nem, milyen más módon igazolja az MI Rendelet 50. cikkének való megfelelést?
Vállal-e a szolgáltató szerződéses szavatosságot vagy megfelelőségi nyilatkozatot az MI Rendelet vonatkozó rendelkezéseinek teljesítésére?
Egyértelműen meghatározza-e a szerződés, ki felel a tájékoztatás elmaradásáért, hibás megjelenéséért vagy eltávolításáért?
A szolgáltató átadja-e a használati útmutatót, a megfelelőségi dokumentációt és az ellenőrzéshez szükséges információkat?
A végfelhasználói tájékoztatások magyarul, közérthetően és a használat jellegéhez igazodva jelennek-e meg?
Az MI rendszer támogatja-e a szervezet saját jelölési vagy közzétételi folyamatát deepfake tartalom és közérdekű MI-szöveg esetén?
