Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε ψήφισμα με το οποίο ζητά κάθε δημόσια απόφαση που υποστηρίζεται από τεχνητή νοημοσύνη να παραμένει υπό τον αποτελεσματικό έλεγχο ενός προσώπου και οι ευρωβουλευτές να διατηρούν αυστηρό δικαίωμα εποπτείας στη διακυβέρνηση της τεχνητής νοημοσύνης. Το κείμενο ζητά επίσης αναθεώρηση του Χάρτη Θεμελιωδών Δικαιωμάτων για την κατοχύρωση νέων δικαιωμάτων που σχετίζονται με την τεχνητή νοημοσύνη, μεταρρύθμιση του ευρωπαϊκού εκλογικού δικαίου και διεθνή σύμβαση για την τεχνητή νοημοσύνη. Επιμένει στην αποτελεσματική εφαρμογή του ευρωπαϊκού νόμου για την τεχνητή νοημοσύνη, ο οποίος δεν είναι ακόμη πλήρως εφαρμόσιμος. Το Κοινοβούλιο ζητά, δεν θεσπίζει δεσμευτικό κανόνα: πρόκειται για ψήφισμα, όχι για νόμο.
Η τεχνητή νοημοσύνη αναστατώνει τη λειτουργία των διοικήσεων και των θεσμών: εργαλεία μπορούν να προετοιμάζουν αποφάσεις που αφορούν τους πολίτες, και αυτοματοποιημένα συστήματα θα μπορούσαν, σύμφωνα με το Κοινοβούλιο, να απορροφούν σταδιακά επιλογές που ανήκουν σε εκλεγμένους. Το κείμενο βασίζεται στην αρχή ότι η διακυβέρνηση της τεχνητής νοημοσύνης δεν είναι μόνο τεχνικό ζήτημα: αγγίζει τη δημόσια εξουσία, τη δημοκρατική νομιμότητα και την ισορροπία μεταξύ των ευρωπαϊκών θεσμών. Το Κοινοβούλιο βλέπει επίσης σε αυτό ένα ζήτημα ψηφιακής αυτονομίας και τεχνολογικής κυριαρχίας για την Ένωση.
Ένας άνθρωπος επιβλέπει πάντα την τεχνητή νοημοσύνηΗ ανάπτυξη και η χρήση της τεχνητής νοημοσύνης εντός των ευρωπαϊκών θεσμών πρέπει να παραμένουν ανθρωποκεντρικές, με ένα πρόσωπο που επιβλέπει πραγματικά κάθε εργαλείο κατά τη χρήση του. Η αρχή του ανθρώπινου αποφασίζοντος πρέπει να εφαρμόζεται σε όλες τις περιστάσεις, ώστε δημοκρατικές εντολές να μην περνούν σιωπηρά σε αυτοματοποιημένα συστήματα.
Δικαίωμα σε ανθρώπινη παρέμβασηΚάθε πρόσωπο θα πρέπει να μπορεί να λαμβάνει ουσιαστική ανθρώπινη παρέμβαση στις αποφάσεις που λαμβάνονται ή υποστηρίζονται από τεχνητή νοημοσύνη εντός των δημόσιων διοικήσεων. Το Κοινοβούλιο ζητά να αναγνωριστεί και να διασφαλιστεί πραγματικά αυτό το δικαίωμα.
Νέα δικαιώματα στον ΧάρτηΤο Κοινοβούλιο ζητά τροποποίηση του Χάρτη Θεμελιωδών Δικαιωμάτων για την προσθήκη δικαιωμάτων που σχετίζονται με την τεχνητή νοημοσύνη: προστασία από τα υπερ-ψηφιακά παραποιημένα βίντεο, αλγοριθμική διαφάνεια, ψηφιακή αυτοδιάθεση, προστασία από αλγοριθμικές διακρίσεις και ευθύνη σε περίπτωση ζημίας.
Εκλογικό δίκαιο και εκστρατείεςΖητά μεταρρύθμιση του ευρωπαϊκού εκλογικού δικαίου για τη ρύθμιση της χρήσης της τεχνητής νοημοσύνης στις εκστρατείες, την πολιτική διαφήμιση και τη στόχευση των ψηφοφόρων, ώστε οι εκλογές να γίνουν πιο ανθεκτικές στην παραπληροφόρηση.
Έλεγχος των εκτελεστικών πράξεωνΗ αυξανόμενη χρήση κατ' εξουσιοδότηση και εκτελεστικών πράξεων στον τομέα της τεχνητής νοημοσύνης δεν πρέπει να αποδυναμώσει τον ρόλο του Κοινοβουλίου ως συννομοθέτη. Ζητά ενισχυμένους μηχανισμούς ελέγχου και τακτικό συντονισμό με την Επιτροπή και το Συμβούλιο, ο οποίος θα μπορούσε να επισημοποιηθεί με διοργανική συμφωνία.
Εγκρίθηκε με 405 ψήφους υπέρ, 133 κατά και 60 αποχές, κατά τη διάρκεια ηλεκτρονικής ψηφοφορίας με ονομαστική κλήση.
Στην πράξη, τίποτα δεν αλλάζει ακόμη στα δικαιώματά σας: το Κοινοβούλιο εκφράζει πολιτική θέση και ζητά από τα άλλα θεσμικά όργανα και τα κράτη μέλη να δράσουν. Ωστόσο, θέτει κατεύθυνση: εάν μια διοίκηση χρησιμοποιεί τεχνητή νοημοσύνη για να προετοιμάσει μια απόφαση που σας αφορά, ένα πρόσωπο θα πρέπει να μπορεί να αναλάβει τον έλεγχο, και η τεχνητή νοημοσύνη δεν θα πρέπει να αποφασίζει μόνη της σε τομείς με νομικό ή κοινωνικό αντίκτυπο. Οι εκκλήσεις για νέα δικαιώματα (κατά των υπερ-ψηφιακών παραποιημένων βίντεο, για τη διαφάνεια των αλγορίθμων) και για καλύτερη προστασία των εκλογών θα περνούσαν από αναθεωρήσεις συνθηκών ή νόμων, οι οποίες δεν αποφασίζονται με αυτή την ψηφοφορία. Το Κοινοβούλιο ζητά επίσης ο ευρωπαϊκός νόμος για την τεχνητή νοημοσύνη να εφαρμόζεται συστηματικά και με διαφάνεια.
Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε ψήφισμα που απαιτεί ένας άνθρωπος να εποπτεύει πραγματικά κάθε εργαλείο ΤΝ που χρησιμοποιείται στους θεσμούς και κάθε δημόσια απόφαση υποβοηθούμενη από ΤΝ να μπορεί να αναλαμβάνεται εκ νέου από ένα πρόσωπο. Το κείμενο δεν δημιουργεί κανέναν δεσμευτικό κανόνα: είναι μια πολιτική θέση, που εγκρίθηκε με 405 ψήφους υπέρ, 133 κατά και 60 αποχές, η οποία χαράσσει κατεύθυνση αλλά αφήνει άθικτα τα πραγματικά ζητήματα ευθύνης και κόστους.
Το Κοινοβούλιο έχει δίκιο στην ουσία: η σιωπηλή μεταβίβαση δημοκρατικών εντολών σε αυτοματοποιημένα συστήματα θα ήταν σοβαρή παρέκκλιση. Όμως ένα ψήφισμα δεν δεσμεύει κανέναν. Η αρχή του ανθρώπινου αποφασίζοντος, που επαναβεβαιώνεται με έμφαση, δεν λέει ποιος ελέγχει, ποιος απαντά για μια κακή απόφαση, ούτε πώς ένας θιγόμενος πολίτης εξασφαλίζει επανόρθωση. Χωρίς μηχανισμό ευθύνης, η αρχή παραμένει διακήρυξη προθέσεων.
Το κείμενο ζητά οι πάροχοι και οι φορείς ανάπτυξης ΤΝ να αναλαμβάνουν ευθύνη ανάλογη με τον ρόλο τους, και το βάρος να μην πέφτει στους τελικούς χρήστες. Είναι η σωστή διαίσθηση: όποιος αποφασίζει πρέπει να φέρει το κόστος. Όμως όσο αυτή η κατανομή δεν εγγράφεται σε δεσμευτική πράξη, δεν προστατεύει κανέναν. Η Επιτροπή καλείται να εφαρμόσει τον κανονισμό για την ΤΝ συστηματικά· δεν υποχρεούται να το πράξει παρά μόνο μέσω πολιτικής πίεσης.
Το αίτημα αναθεώρησης του Χάρτη Θεμελιωδών Δικαιωμάτων για να προστεθούν δικαιώματα συνδεδεμένα με την ΤΝ είναι το πιο αμφισβητήσιμο σημείο. Το να προσθέτεις δικαιώματα χωρίς να ορίζεις τον φορέα τους, τον υπόχρεο και την κύρωσή τους σημαίνει να δημιουργείς προσδοκία χωρίς εγγύηση. Μια επικουρική προσέγγιση θα συνίστατο στο να ελεγχθεί αν τα υφιστάμενα δικαιώματα (προστασία δεδομένων, ιδιωτική ζωή, μη διακριτική μεταχείριση) αρκούν, και να ενισχυθεί η εφαρμογή τους πριν ανοίξει ένα εργοτάξιο αναθεώρησης των Συνθηκών.
Το Κοινοβούλιο θέλει επίσης δικαίωμα σε ουσιαστική ανθρώπινη παρέμβαση στις διοικητικές αποφάσεις που υποβοηθούνται από ΤΝ. Η πρόθεση είναι αξιέπαινη, αλλά το κόστος αυτής της εγγύησης πρέπει να σταθμιστεί: για μια διοίκηση, αυτό σημαίνει διαδικασίες, προθεσμίες και προσωπικό. Το κείμενο δεν λέει ποιος πληρώνει, ούτε πώς αποφεύγεται να γίνει αυτό το δικαίωμα άλλη μια ουρά αναμονής. Μια απλοποίηση των υφιστάμενων ένδικων μέσων θα ήταν πιο αποτελεσματική από ένα νέο διακηρυγμένο δικαίωμα.
Το κείμενο επιμένει στη στρατηγική αυτονομία και την προτίμηση σε εργαλεία ΤΝ που αναπτύσσονται και φιλοξενούνται στην Ένωση. Είναι ένα θεμιτό αντανακλαστικό κυριαρχίας, αλλά δεν πρέπει να γίνει προστατευτικό αντανακλαστικό. Η τεχνολογική κυριαρχία χτίζεται με μια λιγότερο κατακερματισμένη εσωτερική αγορά ΤΝ, επενδύσεις και ανοιχτό ανταγωνισμό, όχι με μια γραφειοκρατική προτίμηση που θα αποφάσιζε στη θέση των αγοραστών. Το Κοινοβούλιο το λέει εν μέρει, αλλά η ισορροπία παραμένει εύθραυστη.
Η ψηφοφορία (405 υπέρ, 133 κατά, 60 αποχές) δείχνει ευρεία στήριξη σε αυτόν τον προσανατολισμό, χωρίς ομοφωνία. Οι ομάδες που ψήφισαν κατά ή απείχαν δεν έχουν οπωσδήποτε άδικο σε όλα: το ζήτημα του διοικητικού βάρους και του κόστους των νέων στρωμάτων ελέγχου παραμένει ανοιχτό. Το Κοινοβούλιο θα έπρεπε να είχε εξαρτήσει τα αιτήματά του για νέα δικαιώματα και νέους μηχανισμούς ελέγχου από μια εκτίμηση του κόστους τους για τις διοικήσεις και τις επιχειρήσεις, και από την κατάργηση των περιττών υποχρεώσεων.
Μια αρχή χωρίς κύρωση δεν είναι εγγύηση, είναι ευχή.
Το Ευρωπαϊκό Κοινοβούλιο ενέκρινε ψήφισμα που απαιτεί ένας άνθρωπος να εποπτεύει πραγματικά κάθε εργαλείο ΤΝ που χρησιμοποιείται στους θεσμούς και κάθε δημόσια απόφαση υποβοηθούμενη από ΤΝ να μπορεί να αναλαμβάνεται εκ νέου από ένα πρόσωπο. Το κείμενο δεν δημιουργεί κανέναν δεσμευτικό κανόνα: είναι μια πολιτική θέση, που εγκρίθηκε με 405 ψήφους υπέρ, 133 κατά και 60 αποχές, η οποία χαράσσει κατεύθυνση αλλά αφήνει άθικτα τα πραγματικά ζητήματα ευθύνης και κόστους.
Το Κοινοβούλιο έχει δίκιο στην ουσία: η σιωπηλή μεταβίβαση δημοκρατικών εντολών σε αυτοματοποιημένα συστήματα θα ήταν σοβαρή παρέκκλιση. Όμως ένα ψήφισμα δεν δεσμεύει κανέναν. Η αρχή του ανθρώπινου αποφασίζοντος, που επαναβεβαιώνεται με έμφαση, δεν λέει ποιος ελέγχει, ποιος απαντά για μια κακή απόφαση, ούτε πώς ένας θιγόμενος πολίτης εξασφαλίζει επανόρθωση. Χωρίς μηχανισμό ευθύνης, η αρχή παραμένει διακήρυξη προθέσεων.
Το κείμενο ζητά οι πάροχοι και οι φορείς ανάπτυξης ΤΝ να αναλαμβάνουν ευθύνη ανάλογη με τον ρόλο τους, και το βάρος να μην πέφτει στους τελικούς χρήστες. Είναι η σωστή διαίσθηση: όποιος αποφασίζει πρέπει να φέρει το κόστος. Όμως όσο αυτή η κατανομή δεν εγγράφεται σε δεσμευτική πράξη, δεν προστατεύει κανέναν. Η Επιτροπή καλείται να εφαρμόσει τον κανονισμό για την ΤΝ συστηματικά· δεν υποχρεούται να το πράξει παρά μόνο μέσω πολιτικής πίεσης.
Το αίτημα αναθεώρησης του Χάρτη Θεμελιωδών Δικαιωμάτων για να προστεθούν δικαιώματα συνδεδεμένα με την ΤΝ είναι το πιο αμφισβητήσιμο σημείο. Το να προσθέτεις δικαιώματα χωρίς να ορίζεις τον φορέα τους, τον υπόχρεο και την κύρωσή τους σημαίνει να δημιουργείς προσδοκία χωρίς εγγύηση. Μια επικουρική προσέγγιση θα συνίστατο στο να ελεγχθεί αν τα υφιστάμενα δικαιώματα (προστασία δεδομένων, ιδιωτική ζωή, μη διακριτική μεταχείριση) αρκούν, και να ενισχυθεί η εφαρμογή τους πριν ανοίξει ένα εργοτάξιο αναθεώρησης των Συνθηκών.
Το Κοινοβούλιο θέλει επίσης δικαίωμα σε ουσιαστική ανθρώπινη παρέμβαση στις διοικητικές αποφάσεις που υποβοηθούνται από ΤΝ. Η πρόθεση είναι αξιέπαινη, αλλά το κόστος αυτής της εγγύησης πρέπει να σταθμιστεί: για μια διοίκηση, αυτό σημαίνει διαδικασίες, προθεσμίες και προσωπικό. Το κείμενο δεν λέει ποιος πληρώνει, ούτε πώς αποφεύγεται να γίνει αυτό το δικαίωμα άλλη μια ουρά αναμονής. Μια απλοποίηση των υφιστάμενων ένδικων μέσων θα ήταν πιο αποτελεσματική από ένα νέο διακηρυγμένο δικαίωμα.
Το κείμενο επιμένει στη στρατηγική αυτονομία και την προτίμηση σε εργαλεία ΤΝ που αναπτύσσονται και φιλοξενούνται στην Ένωση. Είναι ένα θεμιτό αντανακλαστικό κυριαρχίας, αλλά δεν πρέπει να γίνει προστατευτικό αντανακλαστικό. Η τεχνολογική κυριαρχία χτίζεται με μια λιγότερο κατακερματισμένη εσωτερική αγορά ΤΝ, επενδύσεις και ανοιχτό ανταγωνισμό, όχι με μια γραφειοκρατική προτίμηση που θα αποφάσιζε στη θέση των αγοραστών. Το Κοινοβούλιο το λέει εν μέρει, αλλά η ισορροπία παραμένει εύθραυστη.
Η ψηφοφορία (405 υπέρ, 133 κατά, 60 αποχές) δείχνει ευρεία στήριξη σε αυτόν τον προσανατολισμό, χωρίς ομοφωνία. Οι ομάδες που ψήφισαν κατά ή απείχαν δεν έχουν οπωσδήποτε άδικο σε όλα: το ζήτημα του διοικητικού βάρους και του κόστους των νέων στρωμάτων ελέγχου παραμένει ανοιχτό. Το Κοινοβούλιο θα έπρεπε να είχε εξαρτήσει τα αιτήματά του για νέα δικαιώματα και νέους μηχανισμούς ελέγχου από μια εκτίμηση του κόστους τους για τις διοικήσεις και τις επιχειρήσεις, και από την κατάργηση των περιττών υποχρεώσεων.
Μια αρχή χωρίς κύρωση δεν είναι εγγύηση, είναι ευχή.