Das Europäische Parlament hat eine Entschließung angenommen, in der es fordert, dass jede öffentliche Entscheidung, die mit Unterstützung künstlicher Intelligenz getroffen wird, unter der tatsächlichen Kontrolle einer Person bleibt und dass die Abgeordneten ein striktes Mitspracherecht bei der Governance der KI behalten. Der Text verlangt außerdem eine Überarbeitung der Charta der Grundrechte, um neue KI-bezogene Rechte aufzunehmen, eine Reform des europäischen Wahlrechts und eine internationale Konvention über KI. Er besteht auf der wirksamen Umsetzung des europäischen KI-Gesetzes, das noch nicht vollständig anwendbar ist. Das Parlament fordert, es legt keine verbindliche Regel fest: Es ist eine Entschließung, kein Gesetz.
KI bringt die Arbeitsweise von Verwaltungen und Institutionen durcheinander: Tools können Entscheidungen vorbereiten, die Bürger betreffen, und automatisierte Systeme könnten laut dem Parlament nach und nach Entscheidungen an sich ziehen, die gewählten Vertretern zustehen. Der Text geht davon aus, dass die Governance der KI nicht nur eine technische Frage ist: Sie berührt die öffentliche Autorität, die demokratische Legitimität und das Gleichgewicht zwischen den europäischen Institutionen. Das Parlament sieht darin auch eine Frage der digitalen Autonomie und der technologischen Souveränität der Union.
Ein Mensch überwacht stets die KIDer Einsatz und die Nutzung von KI innerhalb der europäischen Institutionen müssen menschzentriert bleiben, wobei eine Person jedes Tool während seiner Nutzung tatsächlich überwacht. Der Grundsatz des menschlichen Entscheiders muss unter allen Umständen gelten, damit demokratische Mandate nicht stillschweigend an automatisierte Systeme übergehen.
Recht auf menschliches EingreifenJede Person sollte bei Entscheidungen, die von KI in öffentlichen Verwaltungen getroffen oder unterstützt werden, ein bedeutsames menschliches Eingreifen erwirken können. Das Parlament fordert, dass dieses Recht anerkannt und tatsächlich garantiert wird.
Neue Rechte in der ChartaDas Parlament verlangt eine Änderung der Charta der Grundrechte, um KI-bezogene Rechte hinzuzufügen: Schutz vor Deepfakes, algorithmische Transparenz, digitale Selbstbestimmung, Schutz vor algorithmischer Diskriminierung und Haftung bei Schäden.
Wahlrecht und KampagnenEs fordert eine Reform des europäischen Wahlrechts, um den Einsatz von KI in Kampagnen, politischer Werbung und der Zielgruppenansprache von Wählern zu regeln, damit Wahlen widerstandsfähiger gegen Desinformation werden.
Kontrolle der DurchführungsrechtsakteDie zunehmende Nutzung delegierter Rechtsakte und Durchführungsrechtsakte im Bereich der KI darf die Rolle des Parlaments als Mitgesetzgeber nicht schwächen. Es verlangt verstärkte Kontrollmechanismen und eine regelmäßige Koordinierung mit der Kommission und dem Rat, die durch eine interinstitutionelle Vereinbarung formalisiert werden könnte.
Angenommen mit 405 Stimmen dafür, 133 dagegen und 60 Enthaltungen bei einer elektronischen namentlichen Abstimmung.
Konkret ändert sich an Ihren Rechten noch nichts: Das Parlament bringt eine politische Position zum Ausdruck und fordert die anderen Institutionen und die Mitgliedstaaten zum Handeln auf. Es setzt aber eine Richtung: Wenn eine Verwaltung KI nutzt, um eine Entscheidung vorzubereiten, die Sie betrifft, muss eine Person wieder die Kontrolle übernehmen können, und KI darf in Bereichen mit rechtlicher oder sozialer Wirkung nicht allein entscheiden. Die Forderungen nach neuen Rechten (gegen Deepfakes, für die Transparenz von Algorithmen) und nach einem besseren Schutz der Wahlen würden Überarbeitungen von Verträgen oder Gesetzen erfordern, die nicht durch diese Abstimmung entschieden werden. Das Parlament fordert zudem, dass das europäische KI-Gesetz systematisch und transparent angewendet wird.
Das Europäische Parlament hat eine Entschließung angenommen, die verlangt, dass ein Mensch tatsächlich jedes in den Institutionen eingesetzte KI-Werkzeug beaufsichtigt und dass jede KI-gestützte öffentliche Entscheidung von einer Person übernommen werden kann. Der Text schafft keine verbindlichen Regeln: Es ist eine politische Position, angenommen mit 405 Stimmen gegen 133 bei 60 Enthaltungen, die eine Richtung vorgibt, aber die eigentlichen Fragen der Verantwortung und der Kosten unangetastet lässt.
Das Parlament hat in der Sache recht: Demokratische Mandate stillschweigend an automatisierte Systeme zu übertragen, wäre ein schwerer Fehlentwicklung. Aber eine Entschließung verpflichtet niemanden. Der mit Nachdruck bekräftigte Grundsatz des menschlichen Entscheiders sagt nicht, wer kontrolliert, wer für eine schlechte Entscheidung haftet und wie ein geschädigter Bürger Wiedergutmachung erhält. Ohne Haftungsmechanismus bleibt der Grundsatz eine Absichtserklärung.
Der Text verlangt, dass Anbieter und Betreiber von KI eine ihrem jeweiligen Rolle entsprechende Verantwortung übernehmen und dass die Last nicht auf die Endnutzer abgewälzt wird. Das ist die richtige Intuition: Wer entscheidet, muss die Kosten tragen. Solange diese Aufteilung jedoch nicht in einem verbindlichen Rechtsakt festgeschrieben ist, schützt sie niemanden. Die Kommission wird aufgefordert, die KI-Verordnung systematisch anzuwenden; sie ist dazu nur durch politischen Druck und nicht rechtlich verpflichtet.
Die Forderung nach einer Revision der Charta der Grundrechte, um KI-bezogene Rechte hinzuzufügen, ist der fragwürdigste Punkt. Rechte hinzuzufügen, ohne deren Träger, Verpflichteten und Sanktion zu definieren, schafft Erwartungen ohne Garantie. Ein subsidiärer Ansatz hätte darin bestanden zu prüfen, ob die bestehenden Rechte (Datenschutz, Privatsphäre, Nichtdiskriminierung) ausreichen, und deren Durchsetzung zu stärken, bevor man eine Vertragsrevisionsbaustelle eröffnet.
Das Parlament will zudem ein Recht auf eine bedeutsame menschliche Intervention bei KI-gestützten Verwaltungsentscheidungen. Die Absicht ist lobenswert, aber die Kosten dieser Garantie müssen abgewogen werden: Für eine Verwaltung bedeutet das Verfahren, Fristen und Personal. Der Text sagt nicht, wer zahlt, noch wie verhindert wird, dass dieses Recht zu einer weiteren Warteschlange wird. Eine Vereinfachung der bestehenden Rechtsbehelfe wäre wirksamer gewesen als ein neu proklamiertes Recht.
Der Text betont strategische Autonomie und die Präferenz für KI-Werkzeuge, die in der Union entwickelt und gehostet werden. Das ist ein legitimer Souveränitätsreflex, darf aber nicht zu einem protektionistischen Reflex werden. Technologische Souveränität entsteht durch einen weniger fragmentierten Binnenmarkt für KI, Investitionen und offenen Wettbewerb, nicht durch eine bürokratische Präferenz, die anstelle der Käufer entscheidet. Das Parlament sagt dies teilweise, doch das Gleichgewicht bleibt fragil.
Die Abstimmung (405 dafür, 133 dagegen, 60 Enthaltungen) zeigt breite Unterstützung für diese Ausrichtung, aber keine Einstimmigkeit. Die Fraktionen, die dagegen gestimmt haben oder sich enthielten, haben nicht zwangsläufig in allem unrecht: Die Frage des Verwaltungsaufwands und der Kosten neuer Kontrollschichten bleibt offen. Das Parlament hätte seine Forderungen nach neuen Rechten und neuen Kontrollmechanismen an eine Bewertung ihrer Kosten für Verwaltungen und Unternehmen sowie an die Abschaffung redundanter Pflichten knüpfen müssen.
Ein Grundsatz ohne Sanktion ist keine Garantie, sondern ein Wunsch.
Das Europäische Parlament hat eine Entschließung angenommen, die verlangt, dass ein Mensch tatsächlich jedes in den Institutionen eingesetzte KI-Werkzeug beaufsichtigt und dass jede KI-gestützte öffentliche Entscheidung von einer Person übernommen werden kann. Der Text schafft keine verbindlichen Regeln: Es ist eine politische Position, angenommen mit 405 Stimmen gegen 133 bei 60 Enthaltungen, die eine Richtung vorgibt, aber die eigentlichen Fragen der Verantwortung und der Kosten unangetastet lässt.
Das Parlament hat in der Sache recht: Demokratische Mandate stillschweigend an automatisierte Systeme zu übertragen, wäre ein schwerer Fehlentwicklung. Aber eine Entschließung verpflichtet niemanden. Der mit Nachdruck bekräftigte Grundsatz des menschlichen Entscheiders sagt nicht, wer kontrolliert, wer für eine schlechte Entscheidung haftet und wie ein geschädigter Bürger Wiedergutmachung erhält. Ohne Haftungsmechanismus bleibt der Grundsatz eine Absichtserklärung.
Der Text verlangt, dass Anbieter und Betreiber von KI eine ihrem jeweiligen Rolle entsprechende Verantwortung übernehmen und dass die Last nicht auf die Endnutzer abgewälzt wird. Das ist die richtige Intuition: Wer entscheidet, muss die Kosten tragen. Solange diese Aufteilung jedoch nicht in einem verbindlichen Rechtsakt festgeschrieben ist, schützt sie niemanden. Die Kommission wird aufgefordert, die KI-Verordnung systematisch anzuwenden; sie ist dazu nur durch politischen Druck und nicht rechtlich verpflichtet.
Die Forderung nach einer Revision der Charta der Grundrechte, um KI-bezogene Rechte hinzuzufügen, ist der fragwürdigste Punkt. Rechte hinzuzufügen, ohne deren Träger, Verpflichteten und Sanktion zu definieren, schafft Erwartungen ohne Garantie. Ein subsidiärer Ansatz hätte darin bestanden zu prüfen, ob die bestehenden Rechte (Datenschutz, Privatsphäre, Nichtdiskriminierung) ausreichen, und deren Durchsetzung zu stärken, bevor man eine Vertragsrevisionsbaustelle eröffnet.
Das Parlament will zudem ein Recht auf eine bedeutsame menschliche Intervention bei KI-gestützten Verwaltungsentscheidungen. Die Absicht ist lobenswert, aber die Kosten dieser Garantie müssen abgewogen werden: Für eine Verwaltung bedeutet das Verfahren, Fristen und Personal. Der Text sagt nicht, wer zahlt, noch wie verhindert wird, dass dieses Recht zu einer weiteren Warteschlange wird. Eine Vereinfachung der bestehenden Rechtsbehelfe wäre wirksamer gewesen als ein neu proklamiertes Recht.
Der Text betont strategische Autonomie und die Präferenz für KI-Werkzeuge, die in der Union entwickelt und gehostet werden. Das ist ein legitimer Souveränitätsreflex, darf aber nicht zu einem protektionistischen Reflex werden. Technologische Souveränität entsteht durch einen weniger fragmentierten Binnenmarkt für KI, Investitionen und offenen Wettbewerb, nicht durch eine bürokratische Präferenz, die anstelle der Käufer entscheidet. Das Parlament sagt dies teilweise, doch das Gleichgewicht bleibt fragil.
Die Abstimmung (405 dafür, 133 dagegen, 60 Enthaltungen) zeigt breite Unterstützung für diese Ausrichtung, aber keine Einstimmigkeit. Die Fraktionen, die dagegen gestimmt haben oder sich enthielten, haben nicht zwangsläufig in allem unrecht: Die Frage des Verwaltungsaufwands und der Kosten neuer Kontrollschichten bleibt offen. Das Parlament hätte seine Forderungen nach neuen Rechten und neuen Kontrollmechanismen an eine Bewertung ihrer Kosten für Verwaltungen und Unternehmen sowie an die Abschaffung redundanter Pflichten knüpfen müssen.
Ein Grundsatz ohne Sanktion ist keine Garantie, sondern ein Wunsch.