Az Európai Unió megállapodott a világ első átfogó mesterséges intelligencia szabályozásáról, megnyitva ezzel az utat a mindennapi élet átalakítását ígérő és az emberiséget fenyegető egzisztenciális veszélyekre figyelmeztető mesterséges intelligencia technológia jogi felügyelete előtt.
Az Európai Parlament és a 27 tagország tárgyalópartnerei leküzdötték a nagy nézeteltéréseket olyan vitás kérdésekben, mint a generatív mesterséges intelligencia és az arcfelismerő megfigyelés rendőrségi alkalmazása, és aláírták a mesterséges intelligenciáról szóló törvény előzetes politikai megállapodását.
„Megegyeztünk!” – tweetelte Thierry Breton európai biztos nem sokkal éjfél előtt. „Az EU lesz az első kontinens, amely egyértelmű szabályokat állapít meg a mesterséges intelligencia használatára vonatkozóan.”
Az eredményre a zárt ajtók mögött lezajlott maratoni tárgyalások után került sor: az első ülés 22 órán át tartott, mielőtt megkezdődött a második forduló.
A tisztviselőknek az volt a céljuk, hogy politikai győzelmet biztosítsanak a kiemelt jogszabály számára, azonban a civil társadalmi csoportok hűvös fogadtatásban részesítették, mivel várják a technikai részleteket, amelyeket az elkövetkező hetekben kell majd tisztázni. Szerintük a megállapodás nem megy elég messzire az emberek védelme érdekében a mesterséges intelligencia rendszerek által okozott károkkal szemben.
„A mai politikai megállapodás a fontos és szükséges technikai munka kezdetét jelzi a mesterséges intelligenciáról szóló törvény döntő fontosságú részleteivel kapcsolatban, amelyek még mindig hiányoznak” – mondta Daniel Friedlaender, a számítástechnikai és kommunikációs iparági lobbicsoport, a Computer and Communications Industry Association európai irodájának vezetője.
Az EU már korán az élre állt a mesterséges intelligenciára vonatkozó védvonalak kidolgozásának globális versenyében, amikor 2021-ben bemutatta jogszabályának első tervezetét. A generatív mesterséges intelligencia közelmúltbeli fellendülése azonban arra késztette az európai tisztviselőket, hogy aktualizálják a világ számára a javaslatot.
„Az Európai Parlamentnek még szavaznia kell a jogszabályról a jövő év elején, de az alku létrejöttével ez már csak formalitás” – mondta Brando Benifei, a testület tárgyalási erőfeszítéseit társvezető olasz törvényhozó az Associated Pressnek pénteken késő este.
„Nagyon-nagyon jó” – írta sms-ben, miután megkérdezték tőle, hogy minden benne van-e, amit szeretne. „Nyilvánvalóan kompromisszumokat kellett kötnünk, de összességében nagyon jó”.
Az esetleges törvény legkorábban 2025-ben léphetne teljes mértékben hatályba, és a jogsértésekért szigorú, akár 35 millió eurós pénzbírsággal vagy a vállalat globális forgalmának 7%-ával büntetné.
Az OpenAI ChatGPT-hez hasonló generatív mesterséges intelligencia rendszerek berobbantak a világ köztudatába, elkápráztatva a felhasználókat azzal, hogy képesek emberhez hasonló szövegeket, fényképeket és dalokat létrehozni, de félelmeket keltett a gyorsan fejlődő technológia a munkahelyekre, a magánélet és a szerzői jogok védelmére, sőt magára az emberi életre jelentett kockázatokkal kapcsolatban.
Most az Egyesült Államok, Nagy-Britannia, Kína és olyan globális koalíciók, mint a 7 nagy demokrácia csoportja, saját javaslatokkal álltak elő a mesterséges intelligencia szabályozására, bár Európát még nem érték utol.
Anu Bradford, a Columbia Law School professzora, az uniós jog és a digitális szabályozás szakértője szerint az EU erős és átfogó szabályozása „erőteljes példát mutathat a szabályozást fontolgató kormányok számára”. Más országok „nem biztos, hogy minden rendelkezést lemásolnak, de valószínűleg számos aspektusát utánozni fogják”.
Az uniós szabályok hatálya alá tartozó mesterséges intelligenciával foglalkozó vállalatok valószínűleg e kötelezettségek egy részét a kontinensen kívülre is ki fogják terjeszteni – mondta. „Végül is nem hatékony külön modelleket újratanítani a különböző piacokra” – mondta.
Az AI-törvényt eredetileg úgy tervezték, hogy az egyes AI-funkciókból eredő veszélyeket azok kockázati szintje alapján – az alacsonytól az elfogadhatatlanig – osztályozza. A törvényhozók azonban azt szorgalmazták, hogy terjesszék ki az alapmodellekre, vagyis az olyan általános célú AI-szolgáltatásokat megalapozó fejlett rendszerekre, mint a ChatGPT és a Google Bard chatbotja.
Úgy tűnt, hogy az alapmodellek lesznek Európa egyik legnagyobb problémája. A tárgyalófeleknek azonban a tárgyalások elején sikerült kompromisszumot kötniük, annak ellenére, hogy Franciaország ellenállt, és inkább önszabályozásra szólított fel, hogy segítse az európai generatív mesterséges intelligenciával foglalkozó hazai vállalatokat, amelyek versenyben állnak a nagy amerikai riválisokkal, köztük az OpenAI támogatójával, a Microsofttal.
Ezeket a nagy nyelvi modelleknek is nevezett rendszereket az internetről összekapart írásos művek és képek hatalmas halmazán képzik ki. Ezek adják a generatív AI-rendszereknek azt a képességet, hogy valami újat hozzanak létre, ellentétben a hagyományos AI-vel, amely előre meghatározott szabályok alapján dolgozza fel az adatokat és hajtja végre a feladatokat.
Az alapmodelleket építő vállalatoknak technikai dokumentációt kell majd készíteniük, meg kell felelniük az uniós szerzői jognak, és részletezniük kell a képzéshez használt tartalmakat. A legfejlettebb, „rendszerszintű kockázatot” jelentő alapmodelleket extra ellenőrzésnek kell alávetni, többek között e kockázatok értékelését és mérséklését, a súlyos incidensek bejelentését, kiberbiztonsági intézkedések bevezetését és energiahatékonysági jelentés készítését.
A kutatók arra figyelmeztettek, hogy a nagy teljesítményű alapítványi modellek, amelyeket néhány nagy technológiai vállalat épített, felhasználhatók az online dezinformáció és manipuláció, a kibertámadások vagy a biofegyverek előállításának felturbózására.
Jogvédő csoportok arra is figyelmeztetnek, hogy a modellek képzéséhez használt adatok átláthatóságának hiánya veszélyt jelent a mindennapi életre, mivel ezek a modellek alapstruktúraként működnek a mesterséges intelligencia alapú szolgáltatásokat építő szoftverfejlesztők számára.
Ami a legkényesebb témává vált, az a mesterséges intelligencia alapú arcfelismerő megfigyelőrendszerek voltak, és a tárgyalófelek intenzív alkudozás után kompromisszumra jutottak.
Az európai törvényhozók az arcszkennelés és más „távoli biometrikus azonosító” rendszerek nyilvános használatának teljes tilalmát akarták elérni a magánélet védelmével kapcsolatos aggályok miatt. A tagországok kormányainak azonban sikerült kivételeket kialkudniuk, hogy a bűnüldöző szervek használhassák azokat olyan súlyos bűncselekmények, mint a gyermekek szexuális kizsákmányolása vagy terrortámadások leküzdésére.
A jogvédő csoportok aggodalmukat fejezték ki a kivételek és a mesterséges intelligenciáról szóló törvény egyéb kiskapui miatt, ideértve a migrációban és a határellenőrzésben használt mesterséges intelligencia rendszerek védelmének hiányát, valamint a fejlesztők azon lehetőségét, hogy ne engedélyezzék rendszereik magas kockázatúnak minősítését.
„Bármilyen győzelmek is születtek a végső tárgyalásokon, tény, hogy a végleges szövegben hatalmas hiányosságok maradnak” – mondta Daniel Leufer, az Access Now digitális jogvédő csoport vezető politikai elemzője.
