Μετά από 3ήμερες «μαραθώνιες» συνομιλίες, η Προεδρία του Συμβουλίου και οι διαπραγματευτές του Ευρωπαϊκού Κοινοβουλίου κατέληξε το βράδυ της Παρασκευής σε προσωρινή συμφωνία σχετικά με την πρόταση εναρμονισμένων κανόνων για την τεχνητή νοημοσύνη (ΤΝ), τη λεγόμενη πράξη για την τεχνητή νοημοσύνη.
Το σχέδιο κανονισμού έχει ως στόχο να διασφαλίσει ότι τα συστήματα τεχνητής νοημοσύνης που διατίθενται στην ευρωπαϊκή αγορά και χρησιμοποιούνται στην ΕΕ είναι ασφαλή και σέβονται τα θεμελιώδη δικαιώματα και τις αξίες της ΕΕ. Αυτή η πρόταση – ορόσημο αποσκοπεί επίσης στην τόνωση των επενδύσεων και της καινοτομίας στον τομέα της τεχνητής νοημοσύνης στην Ευρώπη.
Η πράξη για την τεχνητή νοημοσύνη είναι μια εμβληματική νομοθετική πρωτοβουλία η οποία αποσκοπεί στην ανάπτυξη και την υιοθέτηση ασφαλούς και αξιόπιστης τεχνητής νοημοσύνης σε ολόκληρη την ενιαία αγορά της ΕΕ, τόσο από ιδιωτικούς όσο και από δημόσιους φορείς. Η βασική ιδέα είναι η ρύθμιση της τεχνητής νοημοσύνης σύμφωνα με την ικανότητα της τελευταίας να προκαλεί βλάβη στην κοινωνία ακολουθώντας μια προσέγγιση «βάσει κινδύνου»: όσο υψηλότερος είναι ο κίνδυνος, τόσο αυστηρότεροι είναι οι κανόνες. Δεδομένου ότι είναι η πρώτη νομοθετική πρόταση του είδους της στον κόσμο, μπορεί να αποτελέσει παγκόσμιο πρότυπο για τη ρύθμιση της ΤΝ σε άλλες δικαιοδοσίες, όπως ακριβώς έκανε ο ΓΚΠΔ, προωθώντας έτσι την ευρωπαϊκή προσέγγιση στη ρύθμιση της τεχνολογίας σε παγκόσμιο επίπεδο.
Τα κύρια στοιχεία της προσωρινής συμφωνίας:
- κανόνες για μοντέλα ΤΝ γενικού σκοπού υψηλού αντικτύπου που μπορούν να προκαλέσουν συστημικό κίνδυνο στο μέλλον, καθώς και για συστήματα ΤΝ υψηλού κινδύνου
- αναθεωρημένο σύστημα διακυβέρνησης με ορισμένες εξουσίες επιβολής σε επίπεδο ΕΕ
- επέκταση του καταλόγου απαγορεύσεων, αλλά με τη δυνατότητα χρήσης εξ αποστάσεως βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου σε δημόσιους χώρους, υπό την προϋπόθεση τήρησης των κατάλληλων εγγυήσεων
- καλύτερη προστασία των δικαιωμάτων μέσω της υποχρέωσης των φορέων ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν από τη χρήση ενός συστήματος ΤΝ.
Πιο συγκεκριμένα, η προσωρινή συμφωνία καλύπτει τις ακόλουθες πτυχές:
Για να διασφαλιστεί ότι ο ορισμός του συστήματος ΤΝ παρέχει επαρκώς σαφή κριτήρια για τη διάκριση της ΤΝ από τα απλούστερα συστήματα λογισμικού, η συμφωνία ευθυγραμμίζει τον ορισμό με την προσέγγιση που προτείνει ο ΟΟΣΑ.
Η προσωρινή συμφωνία διευκρινίζει επίσης ότι ο κανονισμός δεν εφαρμόζεται σε τομείς που δεν εμπίπτουν στο πεδίο εφαρμογής του δικαίου της ΕΕ και δεν θα πρέπει, σε καμία περίπτωση, να επηρεάζει τις αρμοδιότητες των κρατών μελών στον τομέα της εθνικής ασφάλειας ή οποιασδήποτε οντότητας επιφορτισμένης με καθήκοντα στον τομέα αυτό. Επιπλέον, η πράξη για την ΤΝ δεν θα εφαρμόζεται σε συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς ή αμυντικούς σκοπούς. Ομοίως, η συμφωνία προβλέπει ότι ο κανονισμός δεν θα εφαρμόζεται σε συστήματα ΤΝ που χρησιμοποιούνται αποκλειστικά για σκοπούς έρευνας και καινοτομίας ή σε άτομα που χρησιμοποιούν ΤΝ για μη επαγγελματικούς λόγους.
Η συμφωνία επίσης προβλέπει ένα οριζόντιο επίπεδο προστασίας, συμπεριλαμβανομένης μιας ταξινόμησης υψηλού κινδύνου, ώστε να διασφαλισθεί ότι τα συστήματα τεχνητής νοημοσύνης που δεν είναι πιθανό να προκαλέσουν σοβαρές παραβιάσεις θεμελιωδών δικαιωμάτων ή άλλους σημαντικούς κινδύνους δεν θα καταλαμβάνονται. Τα συστήματα ΤΝ που παρουσιάζουν περιορισμένο μόνο κίνδυνο θα υπόκεινται σε ιδιαίτερα ήπιες υποχρεώσεις διαφάνειας, για παράδειγμα γνωστοποίηση ότι το περιεχόμενο δημιουργήθηκε από ΤΝ, ώστε οι χρήστες να μπορούν να λαμβάνουν τεκμηριωμένες αποφάσεις σχετικά με περαιτέρω χρήση.
Ακολούθως, ένα ευρύ φάσμα συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου θα επιτρέπεται, αλλά με την επιφύλαξη ενός συνόλου απαιτήσεων και υποχρεώσεων πρόσβασης στην αγορά της ΕΕ. Οι απαιτήσεις αυτές έχουν αποσαφηνιστεί και προσαρμοστεί από τους συννομοθέτες κατά τρόπο ώστε να είναι περισσότερο τεχνικά εφικτές και λιγότερο επαχθείς για τα ενδιαφερόμενα μέρη, για παράδειγμα όσον αφορά την ποιότητα των δεδομένων ή σε σχέση με τον τεχνικό φάκελο που θα πρέπει να καταρτίσουν οι ΜΜΕ για να αποδείξουν ότι τα συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις.
Δεδομένου ότι τα συστήματα ΤΝ αναπτύσσονται και διανέμονται μέσω πολύπλοκων αξιακών αλυσίδων, η συμφωνία περιλαμβάνει αλλαγές που αποσαφηνίζουν την κατανομή αρμοδιοτήτων και ρόλων των διαφόρων παραγόντων στις εν λόγω αλυσίδες, ιδίως των παρόχων και των χρηστών συστημάτων ΤΝ. Αποσαφηνίζει επίσης τη σχέση μεταξύ των ευθυνών βάσει του νόμου για την τεχνητή νοημοσύνη και των ευθυνών που υφίστανται ήδη βάσει άλλης νομοθεσίας, όπως η σχετική νομοθεσία της ΕΕ για την προστασία των δεδομένων ή η τομεακή νομοθεσία.
Για ορισμένες χρήσεις της τεχνητής νοημοσύνης, ο κίνδυνος θεωρείται εξαιρετικά υψηλός και, ως εκ τούτου, τα συστήματα αυτά θα απαγορευτούν από την ΕΕ. Η προσωρινή συμφωνία απαγορεύει, για παράδειγμα, τη γνωστική συμπεριφορική χειραγώγηση, τη μη στοχευμένη απόσυρση εικόνων προσώπου από το διαδίκτυο ή το υλικό CCTV, την αναγνώριση συναισθημάτων στον χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, την κοινωνική βαθμολόγηση, τη βιομετρική κατηγοριοποίηση για την εξαγωγή ευαίσθητων δεδομένων, όπως ο σεξουαλικός προσανατολισμός ή οι θρησκευτικές πεποιθήσεις, και ορισμένες περιπτώσεις προληπτικής αστυνόμευσης για άτομα.
Εξαιρέσεις από το πεδίο εφαρμογής
Λαμβανομένων υπόψη των ιδιαιτεροτήτων των αρχών επιβολής του νόμου και της ανάγκης να διατηρηθεί η ικανότητά τους να χρησιμοποιούν την τεχνητή νοημοσύνη στο ζωτικής σημασίας έργο τους, συμφωνήθηκαν αρκετές αλλαγές στην πρόταση της Επιτροπής σχετικά με τη χρήση συστημάτων ΤΝ για σκοπούς επιβολής του νόμου. Με την επιφύλαξη τήρησης των κατάλληλων εγγυήσεων, οι αλλαγές αυτές πρέπει να αντικατοπτρίζουν την ανάγκη σεβασμού της εμπιστευτικότητας των ευαίσθητων επιχειρησιακών δεδομένων σε σχέση με τις δραστηριότητές τους. Για παράδειγμα, θεσπίστηκε διαδικασία έκτακτης ανάγκης που επιτρέπει στις υπηρεσίες επιβολής του νόμου να αναπτύξουν ένα εργαλείο ΤΝ υψηλού κινδύνου που δεν έχει περάσει τη διαδικασία αξιολόγησης της συμμόρφωσης σε επείγουσες περιπτώσεις. Ωστόσο, θεσπίστηκε επίσης ειδικός μηχανισμός για να διασφαλιστεί ότι τα θεμελιώδη δικαιώματα θα προστατεύονται επαρκώς από τυχόν καταχρήσεις των συστημάτων ΤΝ.
Επιπλέον, όσον αφορά τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους, η προσωρινή συμφωνία αποσαφηνίζει τους στόχους όπου η χρήση αυτή είναι απολύτως αναγκαία για σκοπούς επιβολής του νόμου και για τους οποίους θα πρέπει, συνεπώς, να επιτρέπεται κατ’ εξαίρεση στις αρχές επιβολής του νόμου να χρησιμοποιούν τέτοια συστήματα. Η συμφωνία προβλέπει πρόσθετες διασφαλίσεις και περιορίζει αυτές τις εξαιρέσεις σε περιπτώσεις θυμάτων ορισμένων εγκλημάτων, την πρόληψη πραγματικών, παρόντων ή προβλέψιμων απειλών, όπως οι τρομοκρατικές επιθέσεις, και την αναζήτηση ατόμων ύποπτων για τα σοβαρότερα εγκλήματα.
Μια νέα αρχιτεκτονική διακυβέρνησης
Μετά τους νέους κανόνες για τα μοντέλα GPAI και την προφανή ανάγκη επιβολής τους σε επίπεδο ΕΕ, συγκροτείται γραφείο τεχνητής νοημοσύνης εντός της Επιτροπής, το οποίο είναι επιφορτισμένο με την επίβλεψη αυτών των πλέον προηγμένων μοντέλων τεχνητής νοημοσύνης, τη συμβολή στην προώθηση προτύπων και πρακτικών δοκιμών και την επιβολή των κοινών κανόνων σε όλα τα κράτη μέλη. Μια επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων θα συμβουλεύει το Γραφείο Τεχνητής Νοημοσύνης σχετικά με τα μοντέλα GPAI, συμβάλλοντας στην ανάπτυξη μεθοδολογιών για την αξιολόγηση των δυνατοτήτων των μοντέλων θεμελίωσης, παρέχοντας συμβουλές σχετικά με τον χαρακτηρισμό και την εμφάνιση μοντέλων θεμελίωσης υψηλού αντίκτυπου και παρακολουθώντας πιθανούς κινδύνους για την ασφάλεια των υλικών που σχετίζονται με τα μοντέλα θεμελίωσης.
Το συμβούλιο τεχνητής νοημοσύνης, το οποίο θα αποτελείται από εκπροσώπους των κρατών μελών, θα παραμείνει πλατφόρμα συντονισμού και συμβουλευτικό όργανο της Επιτροπής και θα δώσει σημαντικό ρόλο στα κράτη μέλη όσον αφορά την εφαρμογή του κανονισμού, συμπεριλαμβανομένου του σχεδιασμού κωδίκων πρακτικής για τα μοντέλα θεμελίωσης. Τέλος, θα συσταθεί συμβουλευτικό φόρουμ για τα ενδιαφερόμενα μέρη, όπως οι εκπρόσωποι της βιομηχανίας, οι ΜΜΕ, οι νεοφυείς επιχειρήσεις, η κοινωνία των πολιτών και η ακαδημαϊκή κοινότητα, με σκοπό την παροχή τεχνικής εμπειρογνωσίας στο συμβούλιο τεχνητής νοημοσύνης.
Κυρώσεις
Τα πρόστιμα για παραβιάσεις του νόμου περί τεχνητής νοημοσύνης ορίστηκαν ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της παραβάτριας εταιρείας κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, όποιο είναι υψηλότερο. Αυτό θα ήταν 35 εκατομμύρια ευρώ ή 7% για παραβιάσεις των απαγορευμένων εφαρμογών τεχνητής νοημοσύνης, 15 εκατομμύρια ευρώ ή 3% για παραβιάσεις των υποχρεώσεων του νόμου για την τεχνητή νοημοσύνη και 7,5 εκατομμύρια ευρώ ή 1,5% για την παροχή εσφαλμένων πληροφοριών. Ωστόσο, η προσωρινή συμφωνία προβλέπει αναλογικότερα ανώτατα όρια διοικητικών προστίμων για τις ΜΜΕ και τις νεοφυείς επιχειρήσεις σε περίπτωση παράβασης των διατάξεων της πράξης για την τεχνητή νοημοσύνη.
Η συμφωνία καθιστά επίσης σαφές ότι ένα φυσικό ή νομικό πρόσωπο μπορεί να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς σχετικά με τη μη συμμόρφωση με την πράξη για την ΤΝ και μπορεί να αναμένει ότι η εν λόγω καταγγελία θα αντιμετωπιστεί σύμφωνα με τις ειδικές διαδικασίες της εν λόγω αρχής.
Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων
Η προσωρινή συμφωνία προβλέπει εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα πριν από τη διάθεση ενός συστήματος ΤΝ υψηλού κινδύνου στην αγορά από τους φορείς εφαρμογής του. Η προσωρινή συμφωνία προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά τη χρήση συστημάτων ΤΝ υψηλού κινδύνου. Ειδικότερα, ορισμένες διατάξεις της πρότασης της Επιτροπής τροποποιήθηκαν ώστε να αναφέρουν ότι ορισμένοι χρήστες συστήματος ΤΝ υψηλού κινδύνου που είναι δημόσιοι φορείς θα υποχρεούνται επίσης να εγγράφονται στη βάση δεδομένων της ΕΕ για συστήματα ΤΝ υψηλού κινδύνου. Επιπλέον, οι διατάξεις που προστέθηκαν πρόσφατα δίνουν έμφαση στην υποχρέωση των χρηστών ενός συστήματος αναγνώρισης συναισθημάτων να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε ένα τέτοιο σύστημα.
Έναρξη ισχύος
Η προσωρινή συμφωνία προβλέπει ότι η πράξη για την τεχνητή νοημοσύνη θα πρέπει να εφαρμοστεί δύο έτη μετά την έναρξη ισχύος της, με ορισμένες εξαιρέσεις για ειδικές διατάξεις.
Επόμενα βήματα
Μετά την προσωρινή συμφωνία, οι εργασίες θα συνεχιστούν σε τεχνικό επίπεδο τις προσεχείς εβδομάδες για την οριστικοποίηση των λεπτομερειών του νέου κανονισμού. Η Προεδρία θα υποβάλει το συμβιβαστικό κείμενο στους αντιπροσώπους των κρατών μελών προς έγκριση μόλις ολοκληρωθούν οι εργασίες αυτές.
Δείτε τη σχετική Έκδοση: Εφαρμογές Τεχνητής Νοημοσύνης
Δείτε το σχετικό Σεμινάριο: Παραγωγική Τεχνητή Νοημοσύνη (ChatGPT)
Δείτε τη σχετική Αρθρογραφία στη Qualex: Τεχνητή νοημοσύνη και Δικαιοσύνη