Την Πέμπτη, 1 Αυγούστου 2024, τέθηκε σε ισχύ η ευρωπαϊκή πράξη για την τεχνητή νοημοσύνη (πράξη για την ΤΝ), ο πρώτος ολοκληρωμένος κανονισμός για την τεχνητή νοημοσύνη στον κόσμο. Η πράξη για την ΤΝ έχει σχεδιαστεί για να διασφαλίσει ότι η ΤΝ που αναπτύσσεται και χρησιμοποιείται στην ΕΕ είναι αξιόπιστη, με διασφαλίσεις για την προστασία των θεμελιωδών δικαιωμάτων των πολιτών. Ο κανονισμός αποσκοπεί στη δημιουργία μιας εναρμονισμένης εσωτερικής αγοράς για την ΤΝ στην ΕΕ, ενθαρρύνοντας την υιοθέτηση αυτής της τεχνολογίας και δημιουργώντας ένα υποστηρικτικό περιβάλλον για την καινοτομία και τις επενδύσεις.
Η πράξη για την ΤΝ εισάγει έναν μακρόπνοο ορισμό της ΤΝ, με βάση την ασφάλεια των προϊόντων και την προσέγγιση βάσει κινδύνου στην ΕΕ:
- Ελάχιστος κίνδυνος: Τα περισσότερα συστήματα ΤΝ, όπως τα συστήματα συστάσεων που λειτουργούν βάσει ΤΝ και τα φίλτρα ανεπιθύμητων μηνυμάτων, εμπίπτουν σε αυτή την κατηγορία. Τα συστήματα αυτά δεν υπόκεινται σε υποχρεώσεις στο πλαίσιο της πράξης για την ΤΝ λόγω του ελάχιστου κινδύνου για τα δικαιώματα και την ασφάλεια των πολιτών. Οι εταιρείες μπορούν οικειοθελώς να υιοθετήσουν πρόσθετους κώδικες δεοντολογίας.
- Ειδικός κίνδυνος διαφάνειας: Τα συστήματα ΤΝ, όπως τα διαλογικά ρομπότ (chatbots), πρέπει να γνωστοποιούν σαφώς στους χρήστες ότι αλληλεπιδρούν με μηχανή. Ορισμένα περιεχόμενα που παράγονται από ΤΝ, συμπεριλαμβανομένων των βαθιά ψευδών πληροφοριών, πρέπει να επισημαίνονται ως τέτοια και οι χρήστες πρέπει να ενημερώνονται όταν χρησιμοποιούνται συστήματα βιομετρικής κατηγοριοποίησης ή αναγνώρισης συναισθημάτων. Επιπλέον, οι πάροχοι θα πρέπει να σχεδιάζουν συστήματα κατά τρόπο ώστε το συνθετικό περιεχόμενο ήχου, βίντεο, κειμένου και εικόνων να επισημαίνεται σε μηχαναγνώσιμο μορφότυπο και να είναι ανιχνεύσιμο ως τεχνητά παραγόμενο ή παραποιημένο.
- Υψηλός κίνδυνος: Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου θα πρέπει να συμμορφώνονται με αυστηρές απαιτήσεις, συμπεριλαμβανομένων συστημάτων μετριασμού του κινδύνου, υψηλής ποιότητας συνόλων δεδομένων, καταγραφής δραστηριοτήτων, λεπτομερούς τεκμηρίωσης, σαφών πληροφοριών για τους χρήστες, ανθρώπινης εποπτείας και υψηλού επιπέδου αξιοπιστίας, ακρίβειας και κυβερνοασφάλειας. Τα ρυθμιστικά δοκιμαστήρια θα διευκολύνουν την υπεύθυνη καινοτομία και την ανάπτυξη συμμορφούμενων συστημάτων ΤΝ. Τα εν λόγω συστήματα ΤΝ υψηλού κινδύνου περιλαμβάνουν, για παράδειγμα, συστήματα ΤΝ που χρησιμοποιούνται για προσλήψεις ή για την αξιολόγηση του κατά πόσον κάποιος δικαιούται να λάβει δάνειο ή να χρησιμοποιεί αυτόνομα ρομπότ.
- Απαράδεκτος κίνδυνος: Τα συστήματα ΤΝ που θεωρούνται σαφής απειλή για τα θεμελιώδη δικαιώματα των ανθρώπων θα απαγορευτούν. Αυτό περιλαμβάνει συστήματα ή εφαρμογές ΤΝ που χειραγωγούν την ανθρώπινη συμπεριφορά για την παράκαμψη της ελεύθερης βούλησης των χρηστών, όπως παιχνίδια που χρησιμοποιούν φωνητική βοήθεια που ενθαρρύνει την επικίνδυνη συμπεριφορά των ανηλίκων, συστήματα που επιτρέπουν την «κοινωνική βαθμολόγηση» από κυβερνήσεις ή εταιρείες, και ορισμένες εφαρμογές προληπτικής αστυνόμευσης. Επιπλέον, θα απαγορευτούν ορισμένες χρήσεις βιομετρικών συστημάτων, για παράδειγμα συστήματα αναγνώρισης συναισθημάτων που χρησιμοποιούνται στον χώρο εργασίας και ορισμένα συστήματα κατηγοριοποίησης ατόμων ή εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο για σκοπούς επιβολής του νόμου σε δημόσια προσβάσιμους χώρους (με περιορισμένες εξαιρέσεις).
Για τη συμπλήρωση του εν λόγω συστήματος, η πράξη για την ΤΝ θεσπίζει επίσης κανόνες για τα λεγόμενα μοντέλα ΤΝ γενικού σκοπού, τα οποία είναι μοντέλα ΤΝ υψηλής ικανότητας που έχουν σχεδιαστεί για να εκτελούν ευρύ φάσμα καθηκόντων, όπως η δημιουργία κειμένου τύπου ανθρώπου. Τα μοντέλα ΤΝ γενικής χρήσης χρησιμοποιούνται όλο και περισσότερο ως συστατικά στοιχεία εφαρμογών ΤΝ. Η πράξη για την ΤΝ θα διασφαλίσει τη διαφάνεια κατά μήκος της αξιακής αλυσίδας και θα αντιμετωπίσει πιθανούς συστημικούς κινδύνους των πλέον ικανών μοντέλων.
Εφαρμογή και επιβολή των κανόνων ΤΝ
Τα κράτη μέλη έχουν προθεσμία έως τις 2 Αυγούστου 2025 για να ορίσουν εθνικές αρμόδιες αρχές, οι οποίες θα εποπτεύουν την εφαρμογή των κανόνων για τα συστήματα ΤΝ και θα διεξάγουν δραστηριότητες εποπτείας της αγοράς. Η Υπηρεσία ΤΝ της Επιτροπής θα είναι ο βασικός φορέας εφαρμογής της πράξης για την ΤΝ σε επίπεδο ΕΕ, καθώς και η αρχή επιβολής των κανόνων για τα μοντέλα ΤΝ γενικού σκοπού.
Τρία συμβουλευτικά όργανα θα στηρίξουν την εφαρμογή των κανόνων. Το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης θα διασφαλίσει την ομοιόμορφη εφαρμογή της πράξης για την ΤΝ σε όλα τα κράτη μέλη της ΕΕ και θα ενεργεί ως ο κύριος φορέας συνεργασίας μεταξύ της Επιτροπής και των κρατών μελών. Μια επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων θα παρέχει τεχνικές συμβουλές και στοιχεία σχετικά με την επιβολή της νομοθεσίας. Ειδικότερα, η ομάδα αυτή μπορεί να εκδίδει προειδοποιήσεις στην Υπηρεσία ΤΝ σχετικά με κινδύνους που συνδέονται με μοντέλα ΤΝ γενικού σκοπού. Η Υπηρεσία ΤΝ μπορεί επίσης να λάβει καθοδήγηση από συμβουλευτικό φόρουμ, το οποίο αποτελείται από ευρύ φάσμα ενδιαφερόμενων μερών.
Στις εταιρείες που δεν συμμορφώνονται με τους κανόνες επιβάλλεται πρόστιμο. Τα πρόστιμα θα μπορούσαν να φθάσουν έως και το 7 % του παγκόσμιου ετήσιου κύκλου εργασιών για παραβιάσεις απαγορευμένων εφαρμογών ΤΝ, έως και το 3 % για παραβιάσεις άλλων υποχρεώσεων και έως και το 1,5 % για την παροχή ανακριβών πληροφοριών.
Επόμενα βήματα
Η πλειονότητα των κανόνων της πράξης για την ΤΝ θα αρχίσει να εφαρμόζεται την 2 Αυγούστου 2026. Ωστόσο, οι απαγορεύσεις των συστημάτων ΤΝ που θεωρείται ότι ενέχουν απαράδεκτο κίνδυνο θα εφαρμόζονται ήδη μετά από έξι μήνες, ενώ οι κανόνες για τα λεγόμενα μοντέλα ΤΝ γενικού σκοπού θα εφαρμοστούν μετά από 12 μήνες.
Για να γεφυρωθεί η μεταβατική περίοδος πριν από την πλήρη εφαρμογή, η Επιτροπή δρομολόγησε το σύμφωνο για την ΤΝ. Η παρούσα πρωτοβουλία καλεί τους προγραμματιστές ΤΝ να εγκρίνουν οικειοθελώς βασικές υποχρεώσεις της πράξης για την ΤΝ πριν από τις νόμιμες προθεσμίες.
Η Επιτροπή καταρτίζει επίσης κατευθυντήριες γραμμές για τον καθορισμό και τη λεπτομερή περιγραφή του τρόπου με τον οποίο θα πρέπει να εφαρμόζεται η πράξη για την ΤΝ και τη διευκόλυνση μέσων συρρύθμισης, όπως πρότυπα και κώδικες πρακτικής. Η Επιτροπή δημοσίευσε πρόσκληση εκδήλωσης ενδιαφέροντος για τη συμμετοχή στην κατάρτιση του πρώτου κώδικα ορθής πρακτικής για την ΤΝ γενικού σκοπού, καθώς και πολυμερή διαβούλευση, δίνοντας σε όλα τα ενδιαφερόμενα μέρη την ευκαιρία να εκφράσουν τη γνώμη τους σχετικά με τον πρώτο κώδικα δεοντολογίας στο πλαίσιο της πράξης για την ΤΝ.
Ιστορικό
Στις 9 Δεκεμβρίου 2023, η Επιτροπή εξέφρασε την ικανοποίησή της για την πολιτική συμφωνία σχετικά με την πράξη για την ΤΝ. Στις 24 Ιανουαρίου 2024 η Επιτροπή δρομολόγησε δέσμη μέτρων για τη στήριξη των ευρωπαϊκών νεοφυών επιχειρήσεων και των ΜΜΕ στην ανάπτυξη αξιόπιστης ΤΝ. Στις 29 Μαΐου 2024 η Επιτροπή παρουσίασε την Υπηρεσία ΤΝ. Στις 9 Ιουλίου 2024 τέθηκε σε ισχύ ο τροποποιημένος κανονισμός για την κοινή επιχείρηση EuroHPC, επιτρέποντας έτσι τη δημιουργία εργοστασίων ΤΝ. Αυτό επιτρέπει τη χρήση ειδικών υπερυπολογιστών ΤΝ για την εκπαίδευση μοντέλων ΤΝ γενικού σκοπού (GPAI).
Η συνεχής ανεξάρτητη, τεκμηριωμένη έρευνα που εκπονήθηκε από το Κοινό Κέντρο Ερευνών (JRC) ήταν θεμελιώδους σημασίας για τη διαμόρφωση των πολιτικών της ΕΕ για την ΤΝ και τη διασφάλιση της αποτελεσματικής εφαρμογής τους.