Σπάνια περνάει μέρα χωρίς κάποιον θιασώτη της «Τεχνητής Νοημοσύνης» (εφεξής: ΤΝ) να διατυμπανίσει το εκάστοτε τεχνολογικό επίτευγμα: Υπολογιστές με λειτουργία (υποτίθεται) συγκρίσιμη με αυτή του ανθρώπινου εγκεφάλου, αυτόνομα οχήματα, drones κλπ., αποτελούν για τους ειδικούς της ΤΝ επαρκή ένδειξη πως βαθμιαία εισερχόμαστε σε ένα «θαυμαστό καινούριο κόσμο», στο πλαίσιο του οποίου άνθρωπος και υπολογιστής θα αλληλεπιδρούν με αμοιβαίο και ισοδύναμο τρόπο.
Δεν είναι τυχαίο το γεγονός ότι ο πρωθυπουργός της χώρας, κ. Κυριάκος Μητσοτάκης, δήλωσε πρόσφατα ότι «η τεχνητή νοημοσύνη είναι μία επανάσταση που θα τα αλλάξει όλα. Και ακριβώς επειδή έτσι την αντιμετωπίζουμε, τη βλέπουμε ως μία μεγάλη ευκαιρία για τη χώρα να κάνει άλματα. Ειδικά στον τομέα της υγείας και της ψηφιακής υγείας εν γένει, έχουμε δρομολογήσει σημαντικές επενδύσεις». (Χ/Twitter, 15 Μαΐου).
Κάθε επένδυση, ωστόσο, κρύβει κινδύνους και θα πρέπει να προηγηθεί μια μακρά και εις βάθος συζήτηση σχετικά με την ίδια την έννοια της ΤΝ, αλλά και τις συνέπειες χρήσης αλγοριθμικών προγραμμάτων στην ανθρώπινη συμπεριφορά.
Η ανάγκη για την ως άνω συζήτηση γίνεται μάλιστα επιτακτική δεδομένου ότι ο κόσμος της ΤΝ δεν είναι ούτε «καινούριος» ούτε «θαυμαστός» – ή νοήμων. Αν κι η ΤΝ, τόσο σαν έννοια όσο και σαν επιστημονικός κλάδος, απασχολεί τους ακαδημαϊκούς κύκλους εδώ και αρκετές δεκαετίες, ο αρχικός ενθουσιασμός γρήγορα αντικαταστάθηκε από την «συνειδητοποίηση της βαθιάς δυσκολίας του προβλήματος» (S. K. Bansal). Όπως παρατηρεί και ο πολιτικός επιστήμονας David Runciman, για την πραγματική τεχνητή γενική νοημοσύνη, ακούμε συχνά ότι χρειάζεται 20 ακόμη χρόνια τεχνολογικής εξέλιξης. Αυτό είναι πάντως κάτι, προσθέτει ο συγγραφέας, «που ακούμε εδώ και τουλάχιστον 50 χρόνια. Η ΤΝ βρίσκεται σταθερά σε χρονικό ορίζοντα 20 ετών»!
Ενώ ωστόσο οι τεχνολογικές εξαγγελίες παραμένουν ασαφείς και μακρινές, τα αρνητικά αποτελέσματα από την χρήση αλγοριθμικών προγραμμάτων παραμένουν απτά και κοινωνικά επιβλαβή. Όπως τονίζει ο Λόρδος Anderson σε πρόσφατη Έκθεση του για το Ηνωμένο Βασίλειο (Home Office), στο σύγχρονο κόσμο «μπορούμε να περιμένουμε κάποιες ικανότητες λήψεως αποφάσεων να ατροφήσουν, ακόμα και στην περίπτωση που η τεχνητή γενική νοημοσύνη, υπό την έννοια αυτόνομων συστημάτων τα οποία θα ξεπερνούν τις ανθρώπινες δυνατότητες και θα συνεχίζουν να εξελίσσονται χωρίς ανθρώπινο έλεγχο, παραμείνει μακρινή φαντασία». Όπως είχα και προσωπικά τη δυνατότητα να εξηγήσω εκτενώς σε πρόσφατη Έκθεσή μου, για λογαριασμό της Διεθνούς Ένωσης Ποινικού Δικαίου (AIDP), με αντικείμενο τη χρήση αλγοριθμικών προγραμμάτων (ΤΝ) στο σύστημα ποινικής δικαιοσύνης σε Αγγλία και Ουαλία, οι χειριστές αλγοριθμικών προγραμμάτων δυσκολεύονται να καταλάβουν ότι το εκάστοτε αποτέλεσμα έχει πιθανολογικό, δηλαδή γενικό χαρακτήρα, και δεν είναι άμεσα εφαρμόσιμο στην συγκεκριμένη περίπτωση. Περαιτέρω, υπάρχει πλήθος μαρτυριών από υψηλόβαθμους αξιωματούχους οι οποίοι εκφράζουν την αγωνία τους για τη δυσκολία των χειριστών να «διαφωνήσουν» με το αλγοριθμικό αποτέλεσμα, μεταβιβάζοντας ουσιαστικά το αποκλειστικό δικαίωμα λήψης αποφάσεων στους προγραμματιστές του λογισμικού (αλλά και, εμμέσως, στους μετόχους της εμπορικής εταιρείας), οι οποίοι πάντως δεν έχουν άμεση εικόνα της κατάστασης επί του πεδίου.
Έχει μάλιστα ενδιαφέρον ότι το φαινόμενο της εξασθένισης της ικανότητας λήψεως αποφάσεων από τη χρήση αναλυτικής προσέγγισης είναι κάτι για το οποίο μας μιλάει ήδη ο Αίσωπος με το γνωστό μύθο για την Αλεπού και τη Γάτα: σε αντίθεση με τη γάτα, η οποία έχει έναν μόνο τρόπο να ξεφεύγει από τους κυνηγούς, η “έξυπνη” αλεπού υπερηφανεύεται ότι έχει 1000 διαφορετικούς τρόπους να πράττει το ίδιο. Δυστυχώς όμως, άμα τη εμφανίσει των κυνηγών, η μακρά σκέψη για τον βέλτιστο τρόπο διαφυγής επιδρά με παραλυτικό τρόπο, με αποτέλεσμα η αλεπού να παγιδευτεί. Ο Αίσωπος δηλαδή μας προειδοποίησε ότι η πραγματικότητα είναι πολύπλοκη και ότι η αυστηρά αναλυτική προσέγγιση δεν θα έχει τα αναμενόμενα αποτελέσματα. Ακόμη και ένας υπερ-υπολογιστής δεν θα μπορούσε να αντιμετωπίσει ένα απλό πρακτικό ζήτημα. Για το τελευταίο χρειάζεται ικανότητα λήψεως αποφάσεων.
Προηγμένες χώρες όπως το Ηνωμένο Βασίλειο έχουν ήδη ξεκινήσει τη χρηματοδότηση έρευνας για το ζήτημα της αλληλεπίδρασης αλγοριθμικών προγραμμάτων (ΤΝ) και ανθρώπων-χειριστών (Human Computer Interaction). To Κέντρο Ερευνών Responsible Artificial Intelligence (RAI UK) μόλις πρόσφατα ανακοίνωσε τη χρηματοδότηση φιλόδοξων ερευνητικών προγραμμάτων (flagship Keystone projects), μεταξύ αυτών και το πρόγραμμα Probable Futures (με συνολικό κόστος περίπου 5,5 εκατομμύρια ευρώ για το συγκεκριμένο project), στο οποίο ο γράφων θα έχει την ευθύνη για δύο (2) από τα επτά (7) συνολικά ερευνητικά κομμάτια. Το πρόγραμμα θα μελετήσει την χρήση ΤΝ στο σύστημα ποινικής δικαιοσύνης. Παρόμοια προγράμματα στο χώρο της Υγείας έλαβαν επίσης γενναιόδωρη χρηματοδότηση.
«Ειδικά στο χώρο του Δικαίου, οι ερευνητές της Πληροφορικής και οραματιστές της ΤΝ αδυνατούν να κατανοήσουν το ιστορικό δίδαγμα που αντλούμε ήδη από τον Πρωσικό Αστικό Κώδικα (1794) με τις περισσότερες από 20,000 μακροσκελείς παραγράφους»
Οι όποιες επενδύσεις στην τεχνολογία λοιπόν, τις οποίες καλώς εξήγγειλε ο πρωθυπουργός, δεν είναι αρκετές. Αφενός πρέπει να γίνει κατανοητό, ότι ένα αλγοριθμικό πρόγραμμα δεν δύναται να αναγνωρίσει (ή να μην αναγνωρίσει) την καινούρια περίπτωση ως υποπερίπτωση ενός γενικού κανόνα που θα μπορούσαμε να εφαρμόσουμε μηχανικά. Κάθε απόφαση προϋποθέτει, και βασίζεται σε ένα λογικό άλμα. Αφετέρου, η ίδια η χρήση αλγοριθμικών συστημάτων δημιουργεί προβλήματα καθώς οι χειριστές δυσκολεύονται να αξιοποιήσουν με κριτικό τρόπο τα πιθανολογικά αποτελέσματα, αναπαράγοντας άκριτα με τον τρόπο αυτό τις εμπειρικές προτάσεις και προκαταλήψεις αυτών που σχεδίασαν το λογισμικό.
Ειδικά στο χώρο του Δικαίου, οι ερευνητές της Πληροφορικής και οραματιστές της ΤΝ αδυνατούν να κατανοήσουν το ιστορικό δίδαγμα που αντλούμε ήδη από τον Πρωσικό Αστικό Κώδικα (1794) με τις περισσότερες από 20,000 μακροσκελείς παραγράφους. Σε ένα συνεχώς εξελισσόμενο κόσμο με εξαιρετικά απρόβλεπτο μέλλον, κάθε προσπάθεια εξαντλητικής απαρίθμησης των πραγματικών περιστατικών, θα χρειαζόταν ριζική αναθεώρηση μερικές στιγμές μόνο μετά την έναρξη ισχύος της, ώστε να μπορεί να αδράξει την πληθώρα των περιπτώσεων που μπορούν να ανακύψουν στην κοινωνική πραγματικότητα.
Η ραγδαία εξελισσόμενη τεχνολογία μάς θέτει όλους προ προκλήσεων: Η προστασία προσωπικών δεδομένων, οι ατομικές ελευθερίες, ασφάλεια αλλά και η ίδια η ανθρωπολογική συνθήκη της κριτικής ικανότητας και της αποκλειστικότητας λήψεως αποφάσεων, θα τεθούν υπό αυξανόμενη πίεση. Οι κυβερνήσεις των φιλελεύθερων χωρών θα πρέπει να εξασφαλίσουν χρηματοδότηση όχι μόνο για την τεχνολογική εξέλιξη αλλά και για την επαρκή κατανόηση της επίδρασης αλγοριθμικών προγραμμάτων στην ανθρώπινη συμπεριφορά.
* Ο κ. Κυριάκος Ν. Κώτσογλου είναι Αναπληρωτής Καθηγητής Ποινικού Δικαίου και Ποινικής Δικονομίας στο Northumbria University και Δικηγόρος Αθηνών.