Europski parlament donio je rezoluciju u kojoj traži da svaka javna odluka potpomognuta umjetnom inteligencijom ostane pod stvarnim nadzorom osobe te da zastupnici zadrže strogo pravo nadzora nad upravljanjem umjetnom inteligencijom. Tekst također traži reviziju Povelje o temeljnim pravima kako bi se u nju upisala nova prava povezana s umjetnom inteligencijom, reformu europskog izbornog prava i međunarodnu konvenciju o umjetnoj inteligenciji. Inzistira na stvarnoj provedbi europskog zakona o umjetnoj inteligenciji koji još nije u potpunosti primjenjiv. Parlament traži, ne utvrđuje obvezujuće pravilo: to je rezolucija, a ne zakon.
Umjetna inteligencija uznemiruje funkcioniranje uprava i institucija: alati mogu pripremati odluke koje se tiču građana, a automatizirani sustavi mogli bi, prema Parlamentu, postupno preuzimati izbore koji pripadaju izabranim dužnosnicima. Tekst polazi od načela da upravljanje umjetnom inteligencijom nije samo tehničko pitanje: ono se tiče javne vlasti, demokratskog legitimiteta i ravnoteže među europskim institucijama. Parlament u tome vidi i pitanje digitalne autonomije i tehnološke suverenosti Unije.
Čovjek uvijek nadzire umjetnu inteligencijuUvođenje i uporaba umjetne inteligencije u europskim institucijama moraju ostati usmjereni na čovjeka, pri čemu osoba stvarno nadzire svaki alat tijekom njegove uporabe. Načelo ljudskog donositelja odluka mora se primjenjivati u svim okolnostima kako demokratski mandati ne bi tiho prešli na automatizirane sustave.
Pravo na ljudsku intervencijuSvaka osoba trebala bi moći dobiti smislenu ljudsku intervenciju u odlukama koje umjetna inteligencija donosi ili podupire u javnim upravama. Parlament traži da se to pravo prizna i stvarno zajamči.
Nova prava u PoveljiParlament traži izmjenu Povelje o temeljnim pravima kako bi joj se dodala prava povezana s umjetnom inteligencijom: zaštita od deepfakeova, algoritamska transparentnost, digitalno samoodređenje, zaštita od algoritamske diskriminacije i odgovornost u slučaju štete.
Izborno pravo i kampanjeTraži reformu europskog izbornog prava kako bi se uredila uporaba umjetne inteligencije u kampanjama, političkom oglašavanju i ciljanju birača, kako bi izbori bili otporniji na dezinformacije.
Nadzor provedbenih akataSve veća uporaba delegiranih i provedbenih akata u području umjetne inteligencije ne smije oslabiti ulogu Parlamenta kao suzakonodavca. Traži pojačane mehanizme nadzora i redovitu koordinaciju s Komisijom i Vijećem, koja bi se mogla formalizirati međuinstitucionalnim sporazumom.
Usvojena s 405 glasova za, 133 protiv i 60 suzdržanih, tijekom elektroničkog glasovanja po imenu.
Konkretno, u vašim se pravima još ništa ne mijenja: Parlament izražava političko stajalište i traži od drugih institucija i država članica da djeluju. No postavlja smjer: ako uprava upotrijebi umjetnu inteligenciju za pripremu odluke koja se tiče vas, osoba će morati moći preuzeti kontrolu, a umjetna inteligencija neće smjeti sama odlučivati u područjima s pravnim ili društvenim učinkom. Pozivi na nova prava (protiv deepfakeova, za transparentnost algoritama) i na bolju zaštitu izbora zahtijevali bi revizije ugovora ili zakona, o kojima se ne odlučuje ovim glasovanjem. Parlament nadalje traži da se europski zakon o umjetnoj inteligenciji primjenjuje sustavno i transparentno.
Europski parlament usvojio je rezoluciju kojom zahtijeva da čovjek stvarno nadzire svaki AI alat koji se koristi u institucijama i da svaku javnu odluku potpomognutu AI-jem može preuzeti osoba. Tekst ne stvara nikakvo obvezujuće pravilo: to je političko stajalište, usvojeno s 405 glasova za, 133 protiv i 60 suzdržanih, koje postavlja smjer, ali ostavlja netaknutima prava pitanja odgovornosti i troška.
Parlament je u pravu što se tiče suštine: tiho prenošenje demokratskih mandata na automatizirane sustave bilo bi ozbiljno skretanje. Ali rezolucija nikoga ne obvezuje. Načelo ljudskog donositelja odluka, snažno potvrđeno, ne kaže tko kontrolira, tko odgovara za lošu odluku ni kako oštećeni građanin dobiva zadovoljštinu. Bez mehanizma odgovornosti načelo ostaje izjava namjere.
Tekst traži da pružatelji i korisnici AI-ja snose odgovornost razmjernu svojoj ulozi i da teret ne padne na krajnje korisnike. To je ispravna intuicija: onaj koji odlučuje mora snositi trošak. Ali dok ta raspodjela nije upisana u obvezujući akt, ona nikoga ne štiti. Komisija je pozvana primjenjivati Uredbu o AI-ju sustavno; na to nije obvezana ničim osim političkim pritiskom.
Zahtjev za revizijom Povelje o temeljnim pravima kako bi joj se dodala prava povezana s AI-jem najspornija je točka. Dodavati prava bez definiranja njihova nositelja, obveznika i sankcije znači stvarati očekivanja bez jamstva. Supsidijarni pristup bio bi provjeriti jesu li postojeća prava (zaštita podataka, privatnost, nediskriminacija) dovoljna i ojačati njihovu primjenu prije otvaranja radova na reviziji ugovora.
Parlament također želi pravo na smislenu ljudsku intervenciju u upravnim odlukama potpomognutima AI-jem. Namjera je hvalevrijedna, ali trošak tog jamstva treba odvagnuti: za upravu to znači postupke, rokove i kadrove. Tekst ne kaže tko plaća ni kako spriječiti da to pravo postane još jedan red čekanja. Pojednostavljenje postojećih pravnih lijekova bilo bi djelotvornije od novog proglašenog prava.
Tekst inzistira na strateškoj autonomiji i prednosti za AI alate razvijene i hostane u Uniji. To je legitiman refleks suverenosti, ali ne smije postati protekcionistički refleks. Tehnološka suverenost gradi se manje fragmentiranim unutarnjim tržištem AI-ja, ulaganjima i otvorenim tržišnim natjecanjem, a ne birokratskom prednošću koja bi odlučivala umjesto kupaca. Parlament to dijelom i kaže, ali ravnoteža ostaje krhka.
Glasovanje (405 za, 133 protiv, 60 suzdržanih) pokazuje široku potporu tom smjeru, ali ne jednoglasnu. Skupine koje su glasovale protiv ili bile suzdržane nisu nužno u svemu u krivu: pitanje administrativnog tereta i troška novih slojeva kontrole ostaje otvoreno. Parlament je svoje zahtjeve za novim pravima i novim mehanizmima kontrole trebao uvjetovati procjenom njihova troška za uprave i poduzeća te ukidanjem suvišnih obveza.
Načelo bez sankcije nije jamstvo, to je želja.
Europski parlament usvojio je rezoluciju kojom zahtijeva da čovjek stvarno nadzire svaki AI alat koji se koristi u institucijama i da svaku javnu odluku potpomognutu AI-jem može preuzeti osoba. Tekst ne stvara nikakvo obvezujuće pravilo: to je političko stajalište, usvojeno s 405 glasova za, 133 protiv i 60 suzdržanih, koje postavlja smjer, ali ostavlja netaknutima prava pitanja odgovornosti i troška.
Parlament je u pravu što se tiče suštine: tiho prenošenje demokratskih mandata na automatizirane sustave bilo bi ozbiljno skretanje. Ali rezolucija nikoga ne obvezuje. Načelo ljudskog donositelja odluka, snažno potvrđeno, ne kaže tko kontrolira, tko odgovara za lošu odluku ni kako oštećeni građanin dobiva zadovoljštinu. Bez mehanizma odgovornosti načelo ostaje izjava namjere.
Tekst traži da pružatelji i korisnici AI-ja snose odgovornost razmjernu svojoj ulozi i da teret ne padne na krajnje korisnike. To je ispravna intuicija: onaj koji odlučuje mora snositi trošak. Ali dok ta raspodjela nije upisana u obvezujući akt, ona nikoga ne štiti. Komisija je pozvana primjenjivati Uredbu o AI-ju sustavno; na to nije obvezana ničim osim političkim pritiskom.
Zahtjev za revizijom Povelje o temeljnim pravima kako bi joj se dodala prava povezana s AI-jem najspornija je točka. Dodavati prava bez definiranja njihova nositelja, obveznika i sankcije znači stvarati očekivanja bez jamstva. Supsidijarni pristup bio bi provjeriti jesu li postojeća prava (zaštita podataka, privatnost, nediskriminacija) dovoljna i ojačati njihovu primjenu prije otvaranja radova na reviziji ugovora.
Parlament također želi pravo na smislenu ljudsku intervenciju u upravnim odlukama potpomognutima AI-jem. Namjera je hvalevrijedna, ali trošak tog jamstva treba odvagnuti: za upravu to znači postupke, rokove i kadrove. Tekst ne kaže tko plaća ni kako spriječiti da to pravo postane još jedan red čekanja. Pojednostavljenje postojećih pravnih lijekova bilo bi djelotvornije od novog proglašenog prava.
Tekst inzistira na strateškoj autonomiji i prednosti za AI alate razvijene i hostane u Uniji. To je legitiman refleks suverenosti, ali ne smije postati protekcionistički refleks. Tehnološka suverenost gradi se manje fragmentiranim unutarnjim tržištem AI-ja, ulaganjima i otvorenim tržišnim natjecanjem, a ne birokratskom prednošću koja bi odlučivala umjesto kupaca. Parlament to dijelom i kaže, ali ravnoteža ostaje krhka.
Glasovanje (405 za, 133 protiv, 60 suzdržanih) pokazuje široku potporu tom smjeru, ali ne jednoglasnu. Skupine koje su glasovale protiv ili bile suzdržane nisu nužno u svemu u krivu: pitanje administrativnog tereta i troška novih slojeva kontrole ostaje otvoreno. Parlament je svoje zahtjeve za novim pravima i novim mehanizmima kontrole trebao uvjetovati procjenom njihova troška za uprave i poduzeća te ukidanjem suvišnih obveza.
Načelo bez sankcije nije jamstvo, to je želja.