Europa-Parlamentet har vedtaget en beslutning, der kræver, at enhver offentlig beslutning, der understøttes af kunstig intelligens, fortsat skal være under en persons effektive kontrol, og at medlemmerne skal have en streng indsigt i AI-styringen. Teksten kræver også en revision af chartret om grundlæggende rettigheder for at skrive nye rettigheder vedrørende AI ind, en reform af EU's valglov og en international konvention om AI. Den insisterer på en effektiv gennemførelse af EU's AI-lov, som endnu ikke er fuldt anvendelig. Parlamentet anmoder, det fastsætter ikke bindende regler: det er en beslutning, ikke en lov.
AI ryster driften af forvaltninger og institutioner: værktøjer kan forberede beslutninger, der berører borgerne, og automatiserede systemer kan ifølge Parlamentet gradvist opsnappe valg, der tilhører valgte repræsentanter. Teksten tager udgangspunkt i, at AI-styring ikke kun er et teknisk spørgsmål: den berører offentlig myndighed, demokratisk legitimitet og balancen mellem EU-institutionerne. Parlamentet ser også en digital autonomi og teknologisk suverænitet for Unionen som en udfordring.
Et menneske overvåger altid AIUdbredelsen og brugen af AI i EU-institutionerne skal forblive menneskecentreret, med en person, der reelt overvåger hvert værktøj under brugen. Princippet om den menneskelige beslutningstager skal gælde under alle omstændigheder, så demokratiske mandater ikke stille overgår til automatiserede systemer.
Ret til menneskelig indgribenEnhver bør kunne opnå en meningsfuld menneskelig indgriben i beslutninger, der træffes eller understøttes af AI i offentlige forvaltninger. Parlamentet kræver, at denne ret anerkendes og reelt garanteres.
Nye rettigheder i chartretParlamentet kræver en ændring af chartret om grundlæggende rettigheder for at tilføje rettigheder vedrørende AI: beskyttelse mod deepfakes, algoritmisk gennemsigtighed, digital selvbestemmelse, beskyttelse mod algoritmisk diskrimination og ansvar i tilfælde af skade.
Valglov og kampagnerDet kræver en reform af EU's valglov for at regulere brugen af AI i kampagner, politisk reklame og målretning af vælgere for at gøre valgene mere modstandsdygtige over for desinformation.
Kontrol med gennemførelsesretsakterDen stigende brug af delegerede retsakter og gennemførelsesretsakter på AI-området må ikke svække Parlamentets rolle som medlovgiver. Det kræver styrkede kontrolmekanismer og regelmæssig koordinering med Kommissionen og Rådet, som kunne formaliseres gennem en interinstitutionel aftale.
Vedtaget med 405 stemmer for, 133 imod og 60 hverken for eller imod ved en elektronisk afstemning ved navneopråb.
Konkret ændrer intet sig endnu i dine rettigheder: Parlamentet udtrykker en politisk holdning og opfordrer de andre institutioner og medlemsstaterne til at handle. Men det fastsætter en kurs: hvis en forvaltning bruger AI til at forberede en beslutning, der vedrører dig, skal en person kunne tage over, og AI må ikke beslutte alene på områder med retlig eller social virkning. Opfordringerne til nye rettigheder (mod deepfakes, for algoritmisk gennemsigtighed) og til bedre beskyttelse af valgene ville kræve ændringer af traktater eller love, som ikke besluttes ved denne afstemning. Parlamentet kræver desuden, at EU's AI-lov anvendes systematisk og gennemsigtigt.
Europa-Parlamentet har vedtaget en beslutning, der kræver, at et menneske reelt fører tilsyn med ethvert AI-værktøj, der anvendes i institutionerne, og at enhver offentlig beslutning, der er assisteret af AI, kan overtages af en person. Teksten skaber ingen bindende regler: det er en politisk holdning, vedtaget med 405 stemmer mod 133 og 60 hverken/eller, som fastlægger en kurs, men lader de reelle spørgsmål om ansvar og omkostninger stå urørte.
Parlamentet har ret i substansen: at overføre demokratiske mandater i al stilhed til automatiserede systemer ville være en alvorlig afvigelse. Men en beslutning forpligter ingen. Princippet om den menneskelige beslutningstager, der bekræftes med styrke, siger ikke, hvem der kontrollerer, hvem der står til ansvar for en dårlig beslutning, eller hvordan en forurettet borger opnår erstatning. Uden en ansvarsmekanisme forbliver princippet en hensigtserklæring.
Teksten kræver, at udbydere og udrulningsansvarlige af AI påtager sig et ansvar, der står i forhold til deres rolle, og at byrden ikke falder tilbage på slutbrugerne. Det er den rigtige intuition: den, der beslutter, skal bære omkostningen. Men så længe denne fordeling ikke er skrevet ind i en bindende retsakt, beskytter den ingen. Kommissionen opfordres til at anvende AI-forordningen systematisk; den er ikke forpligtet til at gøre det på anden måde end gennem politisk pres.
Anmodningen om revision af chartret om grundlæggende rettigheder for at tilføje rettigheder knyttet til AI er det mest diskutable punkt. At tilføje rettigheder uden at definere deres indehaver, deres forpligtede og deres sanktion er at skabe forventning uden garanti. En subsidær tilgang ville have bestået i at undersøge, om de eksisterende rettigheder (databeskyttelse, privatliv, ikke-forskelsbehandling) er tilstrækkelige, og i at styrke deres anvendelse, før man åbner en traktatrevisionsproces.
Parlamentet ønsker også en ret til meningsfuld menneskelig indgriben i administrative beslutninger, der er assisteret af AI. Hensigten er prisværdig, men omkostningen ved denne garanti skal afvejes: for en forvaltning betyder det procedurer, frister og personale. Teksten siger ikke, hvem der betaler, eller hvordan man undgår, at denne ret bliver endnu en kø. En forenkling af de eksisterende klagemuligheder ville have været mere effektiv end en ny proklameret ret.
Teksten insisterer på strategisk autonomi og præference for AI-værktøjer, der er udviklet og hostet i Unionen. Det er en legitim suverænitetsrefleks, men den må ikke blive en protektionistisk refleks. Teknologisk suverænitet opbygges gennem et mindre fragmenteret indre marked for AI, investeringer og åben konkurrence, ikke gennem en bureaukratisk præference, der beslutter i stedet for køberne. Parlamentet siger det delvist, men balancen er fortsat skrøbelig.
Afstemningen (405 for, 133 imod, 60 hverken/eller) viser bred støtte til denne kurs, uden enstemmighed. De grupper, der stemte imod eller undlod at stemme, har ikke nødvendigvis uret i alt: spørgsmålet om den administrative byrde og omkostningen ved nye kontrolniveauer står fortsat åbent. Parlamentet burde have betinget sine krav om nye rettigheder og nye kontrolmekanismer af en vurdering af deres omkostninger for forvaltninger og virksomheder og af afskaffelsen af overflødige forpligtelser.
Et princip uden sanktion er ikke en garanti, det er et ønske.
Europa-Parlamentet har vedtaget en beslutning, der kræver, at et menneske reelt fører tilsyn med ethvert AI-værktøj, der anvendes i institutionerne, og at enhver offentlig beslutning, der er assisteret af AI, kan overtages af en person. Teksten skaber ingen bindende regler: det er en politisk holdning, vedtaget med 405 stemmer mod 133 og 60 hverken/eller, som fastlægger en kurs, men lader de reelle spørgsmål om ansvar og omkostninger stå urørte.
Parlamentet har ret i substansen: at overføre demokratiske mandater i al stilhed til automatiserede systemer ville være en alvorlig afvigelse. Men en beslutning forpligter ingen. Princippet om den menneskelige beslutningstager, der bekræftes med styrke, siger ikke, hvem der kontrollerer, hvem der står til ansvar for en dårlig beslutning, eller hvordan en forurettet borger opnår erstatning. Uden en ansvarsmekanisme forbliver princippet en hensigtserklæring.
Teksten kræver, at udbydere og udrulningsansvarlige af AI påtager sig et ansvar, der står i forhold til deres rolle, og at byrden ikke falder tilbage på slutbrugerne. Det er den rigtige intuition: den, der beslutter, skal bære omkostningen. Men så længe denne fordeling ikke er skrevet ind i en bindende retsakt, beskytter den ingen. Kommissionen opfordres til at anvende AI-forordningen systematisk; den er ikke forpligtet til at gøre det på anden måde end gennem politisk pres.
Anmodningen om revision af chartret om grundlæggende rettigheder for at tilføje rettigheder knyttet til AI er det mest diskutable punkt. At tilføje rettigheder uden at definere deres indehaver, deres forpligtede og deres sanktion er at skabe forventning uden garanti. En subsidær tilgang ville have bestået i at undersøge, om de eksisterende rettigheder (databeskyttelse, privatliv, ikke-forskelsbehandling) er tilstrækkelige, og i at styrke deres anvendelse, før man åbner en traktatrevisionsproces.
Parlamentet ønsker også en ret til meningsfuld menneskelig indgriben i administrative beslutninger, der er assisteret af AI. Hensigten er prisværdig, men omkostningen ved denne garanti skal afvejes: for en forvaltning betyder det procedurer, frister og personale. Teksten siger ikke, hvem der betaler, eller hvordan man undgår, at denne ret bliver endnu en kø. En forenkling af de eksisterende klagemuligheder ville have været mere effektiv end en ny proklameret ret.
Teksten insisterer på strategisk autonomi og præference for AI-værktøjer, der er udviklet og hostet i Unionen. Det er en legitim suverænitetsrefleks, men den må ikke blive en protektionistisk refleks. Teknologisk suverænitet opbygges gennem et mindre fragmenteret indre marked for AI, investeringer og åben konkurrence, ikke gennem en bureaukratisk præference, der beslutter i stedet for køberne. Parlamentet siger det delvist, men balancen er fortsat skrøbelig.
Afstemningen (405 for, 133 imod, 60 hverken/eller) viser bred støtte til denne kurs, uden enstemmighed. De grupper, der stemte imod eller undlod at stemme, har ikke nødvendigvis uret i alt: spørgsmålet om den administrative byrde og omkostningen ved nye kontrolniveauer står fortsat åbent. Parlamentet burde have betinget sine krav om nye rettigheder og nye kontrolmekanismer af en vurdering af deres omkostninger for forvaltninger og virksomheder og af afskaffelsen af overflødige forpligtelser.
Et princip uden sanktion er ikke en garanti, det er et ønske.