Το πρώτο πράσινο φως στο προτεινόμενο από την Κομισιόν ευρωπαϊκό ρυθμιστικό πλαίσιο για την Τεχνητή Νοημοσύνη εδωσε με συντριπτική πλειοψηφία το Ευρωκοινοβούλιο, με τους ευρωβουλευτές να ζητούν σαφή όρια απαγορεύσεων καθώς και να ληφθεί σοβαρότερα υπόψη το φαινόμενο ChatGPT.
Στην ψηφοφορία που διενεργήθηκε στο επίπεδο των επιτροπών Πολιτικών Ελευθεριών και Εσωτερικής Αγοράς στο Στρασβούργο, οι ευρωβουλευτές υιοθέτησαν με συντριπτική πλειοψηφία το σχέδιο κανονιστικής ρύθμισης που η Ευρωπαϊκή Επιτροπή είχε παρουσιάσει τον Απρίλιο του 2021. Το αποτέλεσμα υπέρ του σχεδίου θα πρέπει να επιβεβαιωθεί από την ολομέλεια τον Ιούνιο, ανοίγοντας την οδό για διαπραγμάτευση με τα κράτη μέλη πριν από την εκπόνηση του τελικού κειμένου. Η πρόταση της Κομισιόν θα εισέλθει έτσι στο τελευταίο στάδιο της νομοθετικής διαδικασίας, ξεκινώντας τις τριμερής διαπραγματεύσεις του Ευρωκοινοβουλίου με το Συμβούλιο της ΕΕ και την Επιτροπή.
“Βρισκόμαστε στα πρόθυρα της δημιουργίας μιας πραγματικής νομοθεσίας-ορόσημο για το ψηφιακό τοπίο, όχι μόνο για την Ευρώπη αλλά και για ολόκληρο τον κόσμο”, δήλωσε ο Μπράντο Μπένιφει ένας από τους συνεισηγητές της πρότασης.
«Λάβαμε περισσότερες από 3.000 τροπολογίες. Αρκεί να ανάψει κανείς την τηλεόραση, κάθε μέρα διαπιστώνουμε τη σημασία αυτού του φακέλου για τους πολίτες», πρόσθεσε ο Ντράγκος Τουντοράκε, συνεισηγητής του σχεδίου.
Ορισμός της Τεχνητής Νοημοσύνης
Ο ορισμός της Τεχνητής Νοημοσύνης είναι μια κρίσιμη πτυχή της νομοθεσίας, καθώς καθορίζει το πεδίο εφαρμογής της. Οι συντηρητικοί ευρωβουλευτές πέτυχαν την ευθυγράμμιση του ορισμού με αυτόν του Οργανισμού Οικονομικής Συνεργασίας και Ανάπτυξης (ΟΟΣΑ), μιας λέσχης 38 πλούσιων χωρών.
“Ως “σύστημα τεχνητής νοημοσύνης” (σύστημα ΤΝ) νοείται ένα σύστημα βασισμένο σε μηχανές, σχεδιασμένο να λειτουργεί με ποικίλα επίπεδα αυτονομίας και το οποίο μπορεί, για ρητούς ή σιωπηρούς στόχους, να παράγει αποτελέσματα όπως προβλέψεις, συστάσεις ή αποφάσεις, που επηρεάζουν φυσικά ή εικονικά περιβάλλοντα”.
Είναι αξιοσημείωτο ότι ο ΟΟΣΑ σκέφτεται ήδη να τροποποιήσει τον ορισμό του για την τεχνητή νοημοσύνη. Ως εκ τούτου, οι νομοθέτες της ΕΕ προσάρμοσαν τη διατύπωση για να προβλέψουν τη μελλοντική διατύπωση του οργανισμού.
Οι περισσότεροι άλλοι ορισμοί έχουν επίσης συμφωνηθεί, ενώ νέα μέτρα, όπως το δικαίωμα παροχής εξηγήσεων, βρίσκονται επίσης στο τραπέζι των νομοθετών της ΕΕ.
Απαγορευμένες πρακτικές
Ο νόμος για την ΤΝ απαγορεύει συγκεκριμένες εφαρμογές, όπως οι τεχνικές χειραγώγησης και η κοινωνικής βαθμολόγησης, οι οποίες θεωρείται ότι ενέχουν απαράδεκτο κίνδυνο. Ο κατάλογος αυτών των απαγορευμένων πρακτικών διευρύνθηκε σημαντικά κατόπιν επιμονής των ευρωβουλευτών της Αριστεράς.
Η απαγόρευση επεκτάθηκε σε μοντέλα Τεχνητής Νοημοσύνης που αφορούν στην βιομετρική κατηγοριοποίηση στην προγνωστική αστυνόμευση και στην απόσπαση εικόνων προσώπου για τη δημιουργία βάσεων δεδομένων. Το λογισμικό αναγνώρισης συναισθημάτων απαγορεύθηκε στην επιβολή του νόμου, στη διαχείριση των συνόρων, στον χώρο εργασίας και στην εκπαίδευση.
Τα συστήματα βιομετρικής ταυτοποίησης, τα οποία επιτρέπονται αρχικά σε συγκεκριμένες καταστάσεις, όπως απαγωγές ή τρομοκρατικές επιθέσεις, ήταν ένα πιο αμφιλεγόμενο σημείο. Το Κοινοβούλιο είχε πλειοψηφία για την πλήρη απαγόρευση, παρά την αντίσταση του συντηρητικού Ευρωπαϊκού Λαϊκού Κόμματος που αντιστάθηκε μέχρι την τελευταία στιγμή.
Η Ευρωπαϊκή Ένωση θέλει να είναι η πρώτη στον κόσμο που θα αποκτήσει ένα πλήρες νομικό πλαίσιο για να περιορίσει τις παρεκτροπές της τεχνητής νοημοσύνης, διασφαλίζοντας παράλληλα την καινοτομία.
Με αυτό το στόχο η Κομισιόν πρότεινε πριν από δύο χρόνια ένα φιλόδοξο σχέδιο κανονιστικής ρύθμισης, όμως η εξέτασή του παρατείνεται, καθώς έχει καθυστερήσει τους τελευταίους μήνες από αντιπαραθέσεις σχετικά με τους ενδεχόμενους κινδύνους από την αναγεννητική τεχνητή νοημοσύνη (generative artificial intelligence).
Τα κράτη μέλη της ΕΕ καθόρισαν τη θέση τους μόλις στα τέλη του 2022.
Μεγάλης τεχνικής πολυπλοκότητας, τα συστήματα τεχνητής νοημοσύνης γοητεύουν όσο και προκαλούν ανησυχίες.
Αν και μπορούν να σώσουν ζωές, καθώς επιτρέπουν ένα άλμα προς τα εμπρός στις ιατρικές διαγνώσεις, τα εκμεταλλεύονται επίσης αυταρχικά καθεστώτα για να παρακολουθούν μαζικά πολίτες.
Το ευρύ κοινό ανακάλυψε τις τεράστιες δυνατότητές τους στο τέλος της περασμένης χρονιάς, με την εμφάνιση του ChatGPT της εταιρείας OpenAI της Καλιφόρνιας, το οποίο μπορεί να συντάσσει πρωτότυπες πραγματείες, ποιήματα ή μεταφράσεις μέσα σε μερικά δευτερόλεπτα.
Όμως η διανομή στα μέσα κοινωνικής δικτύωσης ψεύτικων εικόνων που μοιάζουν αληθινές και έχουν δημιουργηθεί από εφαρμογές όπως η Midjourney, κρούει τον κώδωνα για τους κινδύνους χειραγώγησης της κοινής γνώμης.
Επιστήμονες έχουν ζητήσει μάλιστα ένα μορατόριουμ στην ανάπτυξη των πιο ισχυρών συστημάτων, ώστε να πλαισιωθούν καλύτερα νομοθετικά.
Η θέση του Ευρωπαϊκού Κοινοβουλίου επιβεβαιώνει σε χοντρές γραμμές την προσέγγιση της Κομισιόν. Το κείμενο είναι εμπνευσμένο από υφιστάμενες κανονιστικές ρυθμίσεις για την ασφάλεια προϊόντων και θα επιβάλλει ελέγχους που θα βασίζονται κατ’ αρχάς στις επιχειρήσεις.
Ο άνθρωπος οφείλει να διατηρήσει τον έλεγχο
Η καρδιά του σχεδίου είναι ένας κατάλογος από κανονισμούς, οι οποίοι επιβάλλονται μόνο στις εφαρμογές οι οποίες θεωρούνται «υψηλού κινδύνου» από τις ίδιες τις επιχειρήσεις με βάση τα κριτήρια του νομοθέτη. Για την Ευρωπαϊκή Επιτροπή, αυτό αφορά όλα τα συστήματα που χρησιμοποιούνται σε ευαίσθητους τομείς, όπως οι κρίσιμης σημασίας υποδομές, η εκπαίδευση, οι ανθρώπινοι πόροι, η διατήρηση της τάξης ή η διαχείριση της μετανάστευσης.
Μεταξύ των υποχρεώσεων είναι να προβλεφθεί ένας ανθρώπινος έλεγχος στη μηχανή, να υπάρχει τεχνική τεκμηρίωση, να τεθεί σε εφαρμογή ένα σύστημα διαχείρισης του κινδύνου.
Ο σεβασμός των υποχρεώσεων αυτών θα ελέγχεται από τις εποπτικές αρχές που θα ορίσει κάθε χώρα μέλος.
Οι ευρωβουλευτές θέλουν να περιορίσουν τις υποχρεώσεις μόνο στα προϊόντα που ενδέχεται να αποτελέσουν απειλή για την ασφάλεια, την υγεία ή τα θεμελιώδη δικαιώματα.
Το Ευρωπαϊκό Κοινοβούλιο θέλει εξάλλου να λάβει καλύτερα υπόψη την αναγεννητική τεχνητή νοημοσύνη τύπου ChatGPT, απαιτώντας ένα ειδικό καθεστώς υποχρεώσεων που αναπαράγει ουσιαστικά αυτές οι οποίες προβλέπονται για τα συστήματα υψηλού κινδύνου.
Οι ευρωβουλευτές επιθυμούν επίσης να υποχρεώσουν τους παρόχους να εγκαταστήσουν προστασίες εναντίον παράνομων περιεχομένων και να αποκαλύπτουν τα δεδομένα (επιστημονικά κείμενα, μουσικές, φωτογραφίες κλπ.) που προστατεύονται από πνευματικά δικαιώματα και χρησιμοποιούνται για την ανάπτυξη των αλγορίθμων τους.
Η πρόταση της Κομισιόν προβλέπει ήδη μια πλαισίωση των συστημάτων τεχνητής νοημοσύνης που αλληλεπιδρούν με τους ανθρώπους. Θα τα υποχρεώσει να ενημερώνουν τον χρήστη πως έχει να κάνει με μια μηχανή και θα αναγκάσει τις εφαρμογές, που δημιουργούν εικόνες, να διευκρινίζουν πως αυτές έχουν δημιουργηθεί τεχνητά.
Οι απαγορεύσεις θα είναι σπάνιες. Θα αφορούν τις εφαρμογές που είναι αντίθετες στις ευρωπαϊκές αξίες, όπως τα συστήματα μαζικής επιτήρησης που χρησιμοποιούνται στην Κίνα.
Οι ευρωβουλευτές θέλουν να προσθέσουν σ’ αυτές την απαγόρευση συστημάτων αναγνώρισης συναισθημάτων και να καταργήσουν τις εξαιρέσεις που επιτρέπουν τη βιομετρική ταυτοποίηση εξ αποστάσεως ανθρώπων σε δημόσιους χώρους από τις δυνάμεις της τάξης.
Θέλουν επίσης να απαγορεύσουν τη μαζική συγκομιδή φωτογραφιών από το Ίντερνετ για την εκπαίδευση των αλγορίθμων χωρίς τη συμφωνία των ενδιαφερόμενων προσώπων.
Πηγή: Euractiv
