Στην επίσημη εφημερίδα της ΕΕ δημοσιεύθηκε ο Κανονισμός για την τεχνητή νοημοσύνη (ΑΙ Act) – ένα εμβληματικό νομοθετικό κείμενο που κατοχυρώνει την ασφάλεια των χρηστών και την τήρηση των θεμελιωδών δικαιωμάτων, ενισχύοντας παράλληλα την καινοτομία.
Το νέο νομοθέτημα επιδιώκει να προωθήσει την ανάπτυξη και την υιοθέτηση ΤΝ σε ολόκληρη την ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς, με ασφάλεια και αξιοπιστία. Ταυτόχρονα, αποσκοπεί να διασφαλίσει τον σεβασμό των θεμελιωδών δικαιωμάτων των πολιτών της ΕΕ και να τονώσει τις επενδύσεις και την καινοτομία στην τεχνητή νοημοσύνη στην Ευρώπη. Η πράξη για την ΤΝ εφαρμόζεται μόνο σε τομείς που εμπίπτουν στο δίκαιο της ΕΕ, ωστόσο εξαιρούνται τα συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς, καθώς και για ερευνητικούς σκοπούς.
Ταξινόμηση των συστημάτων ΤΝ ως υψηλού κινδύνου και απαγορευμένες πρακτικές ΤΝ
Το νέο νομοθέτημα κατηγοριοποιεί τα διάφορα είδη τεχνητής νοημοσύνης ανάλογα με τον κίνδυνο. Τα συστήματα ΤΝ που παρουσιάζουν περιορισμένο μόνο κίνδυνο θα υπόκεινται σε πολύ ήπιες υποχρεώσεις διαφάνειας, ενώ τα συστήματα ΤΝ υψηλού κινδύνου θα αδειοδοτούνται, αλλά θα υπόκεινται σε ένα σύνολο απαιτήσεων και υποχρεώσεων για την απόκτηση πρόσβασης στην αγορά της ΕΕ. Συστήματα ΤΝ, όπως, για παράδειγμα, η γνωστική χειραγώγηση συμπεριφοράς και η κοινωνική βαθμολόγηση θα απαγορευτούν από την ΕΕ επειδή η επικινδυνότητά τους θεωρείται απαράδεκτη. Η πράξη απαγορεύει επίσης τη χρήση ΤΝ για προληπτική αστυνόμευση με βάση την κατάρτιση προφίλ και συστήματα που χρησιμοποιούν βιομετρικές πληροφορίες για τη συναγωγή συμπερασμάτων σχετικά με τη φυλετική καταγωγή, τη θρησκεία ή τον γενετήσιο προσανατολισμό των ατόμων.
Εξαιρέσεις από την επιβολή του νόμου
Προκειμένου να διατηρηθεί η δυνατότητά τους να χρησιμοποιούν ΤΝ στο ζωτικό έργο τους, το κείμενο περιλαμβάνει ορισμένες εξαιρέσεις καθώς για τις αρχές επιβολής του νόμου. Επιτρέπεται, σε ορισμένες περιπτώσεις, να χρησιμοποιούν εργαλείο ΤΝ υψηλού κινδύνου που δεν έχει περάσει επιτυχώς τη διαδικασία αξιολόγησης της συμμόρφωσης, καθώς και συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους, με την επιφύλαξη ορισμένων αυστηρών διασφαλίσεων.
Συστήματα ΤΝ γενικού σκοπού και θεμελιώδη μοντέλα
Η πράξη για την ΤΝ εξετάζει επίσης τη χρήση μοντέλων ΤΝ γενικού σκοπού (ΤΝΓΣ).
Τα μοντέλα ΤΝΓΣ που δεν ενέχουν συστημικούς κινδύνους θα υπόκεινται σε ορισμένες περιορισμένες απαιτήσεις, για παράδειγμα όσον αφορά τη διαφάνεια, ενώ τα μοντέλα με συστημικούς κινδύνους θα πρέπει να συμμορφώνονται με αυστηρότερους κανόνες.
Μια νέα αρχιτεκτονική διακυβέρνησης
Για να διασφαλιστεί η ορθή επιβολή, συγκροτούνται διάφορα διοικητικά όργανα:
- Υπηρεσία ΤΝ εντός της Επιτροπής για την επιβολή των κοινών κανόνων σε ολόκληρη την ΕΕ
- Επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων για την υποστήριξη των δραστηριοτήτων επιβολής
- Συντονιστικό συμβούλιο ΤΝ με εκπροσώπους των κρατών μελών για την παροχή συμβουλών και συνδρομής στην Επιτροπή και τα κράτη μέλη σχετικά με τη συνεπή και αποτελεσματική εφαρμογή της πράξης για την ΤΝ
- Συμβουλευτικό φόρουμ για τα ενδιαφερόμενα μέρη με σκοπό την παροχή τεχνικής εμπειρογνωμοσύνης στο συμβούλιο ΤΝ και στην Επιτροπή
Κυρώσεις
Τα πρόστιμα για παραβάσεις του Κανονισμού για την ΤΝ καθορίζονται ως ποσοστό του παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης που παρανομεί κατά το προηγούμενο οικονομικό έτος ή ως προκαθορισμένο ποσό, ανάλογα με το ποιο είναι υψηλότερο. Οι ΜΜΕ και οι νεοφυείς επιχειρήσεις υπόκεινται σε αναλογικά διοικητικά πρόστιμα.
Διαφάνεια και προστασία των θεμελιωδών δικαιωμάτων
Πριν από την εγκατάσταση ενός συστήματος ΤΝ υψηλού κινδύνου από ορισμένες οντότητες που παρέχουν δημόσιες υπηρεσίες, θα πρέπει να αξιολογηθεί ο αντίκτυπος στα θεμελιώδη δικαιώματα. Ο Κανονισμός προβλέπει επίσης αυξημένη διαφάνεια όσον αφορά την ανάπτυξη και χρήση συστημάτων ΤΝ υψηλού κινδύνου. Τα συστήματα ΤΝ υψηλού κινδύνου, καθώς και ορισμένοι χρήστες ενός συστήματος ΤΝ υψηλού κινδύνου που είναι δημόσιοι φορείς θα πρέπει να καταχωρίζονται στη βάση δεδομένων της ΕΕ για συστήματα ΤΝ υψηλού κινδύνου, και οι χρήστες συστήματος αναγνώρισης συναισθημάτων θα πρέπει να ενημερώνουν τα φυσικά πρόσωπα όταν εκτίθενται σε τέτοιο σύστημα.
Δείτε το AI Act στη Qualex: Κανονισμός (ΕΕ) 2024/1689
Δείτε το σχετικό Σεμινάριο: Ο νέος Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act)
Δείτε το σχετικό Σεμινάριο: Συμβάσεις Πληροφορικής, AI και λοιπές αναδυόμενες τεχνολογίες
Δείτε το σχετικό Σεμινάριο: Generative AI & Προσωπικά Δεδομένα