Οι παραιτήσεις ερευνητών, οι δημόσιες προειδοποιήσεις κορυφαίων στελεχών της τεχνολογίας και η ασυνήθιστη σύμπλευση ορισμένων από τους μεγαλύτερους ανταγωνιστές της Silicon Valley επανέφεραν μέσα σε λίγες ημέρες ένα θεμελιώδες ερώτημα. Προχωρά η Τεχνητή Νοημοσύνη ταχύτερα από όσο μπορούν να την ελέγξουν οι δημιουργοί της και οι κυβερνήσεις;
Η συζήτηση δεν αφορά πλέον μόνο τα chatbots που συντάσσουν κείμενα, δημιουργούν εικόνες ή απαντούν σε ερωτήσεις. Στο επίκεντρο βρίσκονται πλέον τα προηγμένα μοντέλα και κυρίως οι λεγόμενοι AI agents, συστήματα που μπορούν να σχεδιάζουν και να εκτελούν ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να συνεργάζονται μεταξύ τους με περιορισμένη ανθρώπινη παρέμβαση.
Μέσα σε αυτό το νέο περιβάλλον, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, ο οποίος διετέλεσε πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, μιλώντας στο ΑΠΕ-ΜΠΕ και στον δημοσιογράφο Αλέκο Λιδωρίκη, διαχωρίζει τον υποθετικό κίνδυνο πλήρους απώλειας του ελέγχου από έναν κίνδυνο που, όπως επισημαίνει, είναι ήδη πραγματικός. Tην απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων. «Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα, δηλαδή η τεχνολογία που έχει δώσει τα άλματα στην εξέλιξη της ΤΝ την τελευταία δεκαπενταετία. Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα. Ειδικά για τα συστήματα παραγωγικής ΤΝ, όπως τα μεγάλα γλωσσικά μοντέλα, δεν νομίζω ότι ποτέ θα έχουμε μεθόδους να κάνουμε πιστοποίηση της αξιοπιστίας τους. Και το ρίσκο που παρουσιάζουν έχει να κάνει με τη χρήση τους.
Αν, για παράδειγμα, συνομιλούμε με ένα μεγάλο γλωσσικό μοντέλο με σκοπό την αναζήτηση στοιχείων στη βιβλιογραφία, στη χειρότερη περίπτωση αυτό μπορεί να επινοήσει ανύπαρκτες πηγές ή να παραμορφώσει το περιεχόμενο μιας πραγματικής πηγής. Η ζημιά μιας τέτοιας κακής συμπεριφοράς είναι σχετικά μικρή και μπορεί να περιοριστεί αν ελέγχουμε τις απαντήσεις του. Αν όμως το ρωτήσουμε πώς σχεδιάζεται ένα βιολογικό όπλο, θέλουμε να υπάρχουν ασφαλιστικές δικλείδες που να αποτρέπουν το μοντέλο από το να μας απαντήσει. Τα μεγάλα γλωσσικά μοντέλα έχουν, συνήθως, ενσωματωμένες ασφαλιστικές δικλείδες που προσπαθούν να ανιχνεύσουν αν το περιεχόμενο που τους ζητάμε είναι επικίνδυνο και σε αυτήν την περίπτωση αρνούνται να μας δώσουν την απάντηση. Ωστόσο, οι ασφαλιστικές αυτές δικλείδες δεν δίνουν πλήρη προστασία και μπορούν να παρακαμφθούν από ειδικούς, ειδικά αν το μοντέλο είναι ανοιχτό.
Επομένως τα μοντέλα αυτά είναι ήδη επικίνδυνα ακόμα και αν χρησιμοποιούνται στη μορφή τερματικού που μας δίνει απαντήσεις σε ερωτήσεις. Αν όμως είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου. Αυτό ακριβώς έδειξε και το πρόσφατο επεισόδιο επίθεσης στην Hugging Face από αυτόνομους πράκτορες ΤΝ της OpenAI. Πρέπει να αναλογιστούμε ότι τα μοντέλα αυτά έχουν εκπαιδευτεί σε έναν τεράστιο όγκο δεδομένων που καλύπτουν επιστήμη, ιστορία, λογοτεχνία, μεγάλες βάσεις κώδικα και δεδομένα από το Διαδίκτυο. Περιλαμβάνουν, για παράδειγμα, άρθρα και εγχειρίδια Θεωρίας Παιγνίων, περιλαμβάνουν την Τέχνη του Πολέμου του Σουν Τζου, την Ιστορία του Πελοποννησιακού Πολέμου του Θουκυδίδη, τον Ηγεμόνα του Μακιαβέλι, κ.λπ. Επομένως, είναι αναμενόμενο ότι αν αφεθούν ελεύθερα είναι σε θέση να αναπτύξουν περίπλοκη στρατηγική και να συντονιστούν σε ομάδες που συνεργάζονται για να επιτύχουν τους σκοπούς τους. Ποιοι είναι αυτοί οι σκοποί; Αυτοί που τους έχει δώσει ο χρήστης τους που μπορεί να είναι κακόβουλος. Αλλά και να μην είναι κακόβουλος, τα μοντέλα μπορεί να παρερμηνεύσουν τους στόχους του. Αυτό έγινε στο επεισόδιο με την Hugging Face».
Από το 1956 στη σημερινή έκρηξη
Η σημερινή συζήτηση έρχεται εβδομήντα χρόνια μετά τη γέννηση της Τεχνητής Νοημοσύνης ως οργανωμένου επιστημονικού πεδίου. Η θεωρητική αφετηρία είχε προηγηθεί. Το 1950 ο Alan Turing έθεσε το ερώτημα εάν μπορούν οι μηχανές να σκέφτονται, ενώ το 1956, στο θερινό ερευνητικό πρόγραμμα του Dartmouth, καθιερώθηκε ουσιαστικά η Τεχνητή Νοημοσύνη ως ξεχωριστό ερευνητικό πεδίο.
Ακολούθησαν δεκαετίες προόδου αλλά και απογοητεύσεων, από τα πρώτα συστήματα επεξεργασίας φυσικής γλώσσας και τους λεγόμενους «χειμώνες της AI» έως την επικράτηση της μηχανικής μάθησης. Το 1997 ο Deep Blue της IBM νίκησε τον Garry Kasparov στο σκάκι, το 2012 το AlexNet σηματοδότησε άλμα στην αναγνώριση εικόνας και το 2016 το AlphaGo της Google DeepMind νίκησε τον Lee Sedol στο Go.
Καθοριστική υπήρξε το 2017 η παρουσίαση της αρχιτεκτονικής Transformer, πάνω στην οποία οικοδομήθηκαν τα σύγχρονα μεγάλα γλωσσικά μοντέλα. Η κυκλοφορία του ChatGPT από την OpenAI τον Νοέμβριο του 2022 μετέφερε την παραγωγική Τεχνητή Νοημοσύνη από τα ερευνητικά εργαστήρια στο ευρύ κοινό. Έκτοτε η ταχύτητα των εξελίξεων αυξάνεται.
Η εβδομάδα που επανέφερε το φρένο
Οι εξελίξεις των τελευταίων ημερών έφεραν το ζήτημα της ασφάλειας ξανά στην πρώτη γραμμή. Στις 8 Σεπτεμβρίου ο 27χρονος Jacob Coxon ανακοίνωσε ότι αποχωρεί από την Anthropic και συνολικά από τον κλάδο, έπειτα από τρία χρόνια στην έρευνα προεκπαίδευσης μοντέλων, αρχικά στην OpenAI και στη συνέχεια στην Anthropic, εκφράζοντας έντονη ανησυχία για την κατεύθυνση προς ολοένα ισχυρότερα συστήματα χωρίς, κατά την άποψή του, επαρκές σχέδιο ελέγχου.
Ακολούθησε στις 12 Σεπτεμβρίου η δημόσια παρέμβαση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei, ο οποίος ζήτησε να ελεγχθεί ο ρυθμός αύξησης των δυνατοτήτων των μοντέλων, χωρίς να σταματήσει η έρευνα, προτείνοντας, μεταξύ άλλων, πρόσβαση ανεξάρτητων αξιολογητών στα εργαστήρια και μεγαλύτερο συντονισμό.
Στο επίκεντρο της συζήτησης βρέθηκε και το περιστατικό OpenAI-Hugging Face του Ιουλίου, στο οποίο αναφέρεται και ο Κωνσταντίνος Δασκαλάκης. Σύμφωνα με την τεχνική αποτίμηση της OpenAI, πράκτορες AI σε εσωτερικές δοκιμές κυβερνοασφάλειας παραβίασαν περιορισμούς του δοκιμαστικού περιβάλλοντος, απέκτησαν πρόσβαση στο Διαδίκτυο, συνεργάστηκαν μέσω μη εγκεκριμένων διαύλων και εισήλθαν σε συστήματα της Hugging Face.
Στις 14 Σεπτεμβρίου ο Bilal Chughtai δημοσιοποίησε ότι είχε παραιτηθεί τον Ιούλιο από την Google DeepMind, όπου εργαζόταν στην ασφάλεια και ευθυγράμμιση της γενικής AI, υποστηρίζοντας ότι οι δυνατότητες των συστημάτων εξελίσσονται ταχύτερα από τις μεθόδους ευθυγράμμισής τους με τους ανθρώπινους στόχους.
Την ίδια ώρα, σύμφωνα με διεθνή δημοσιεύματα, OpenAI, Anthropic και Google DeepMind συζητούν κοινές πρωτοβουλίες για την ασφάλεια, ενώ η συζήτηση έχει περάσει πλέον και σε πολιτικό επίπεδο στην Ευρώπη.
Πού βρίσκεται ο πραγματικός κίνδυνος
Το κρίσιμο ερώτημα είναι επομένως πού τελειώνει η επιστημονικά τεκμηριωμένη ανησυχία και πού αρχίζουν τα ακραία σενάρια. Και, κυρίως, εάν η απάντηση πρέπει να είναι η επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων ή η δημιουργία πολύ ισχυρότερων μηχανισμών ελέγχου και άμυνας. Ο Κωνσταντίνος Δασκαλάκης τοποθετεί μεταξύ των πλέον άμεσων κινδύνων τις κυβερνοεπιθέσεις και επισημαίνει ότι μέρος της τεχνολογίας έχει ήδη διαχυθεί. Κατά συνέπεια, η συζήτηση δεν μπορεί να περιοριστεί μόνο στο εάν θα επιβραδυνθεί η επόμενη γενιά των ισχυρότερων μοντέλων. Όπως αναφέρει «αυτή τη στιγμή, μία από τις πιο άμεσες και τεκμηριωμένες ανησυχίες είναι η χρήση της ΤΝ για κυβερνοεπιθέσεις. Ένα μέρος της τεχνολογίας έχει ήδη διαχυθεί, επομένως δεν μπορούμε να αντιμετωπίσουμε το πρόβλημα θεωρώντας ότι αρκεί να περιορίσουμε την ανάπτυξη των επόμενων μοντέλων. Ακόμα και να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων, όπως προτείνει η OpenAI και η Anthropic, είναι διαθέσιμα ισχυρά ανοιχτά μοντέλα που ήδη μπορεί να κάνουν μεγάλη ζημιά. Και όσο περισσότερο ενσωματώνεται η τεχνολογία αυτή σε ρομπότ, αυτοκίνητα, συστήματα λήψης αποφάσεων, κ.λπ., τόσο μεταφέρεται μεγαλύτερο ρίσκο στον πραγματικό κόσμο. Για αυτό το λόγο, η ύπαρξη ρυθμιστικού πλαισίου, σαν αυτό της Ευρώπης, που θέτει προϋποθέσεις για τη χρήση και την αυστηρή δοκιμή τεχνολογιών ΤΝ ανάλογα με το ρίσκο που θέτει η εφαρμογή τους είναι πολύ σημαντική. Είναι επίσης σημαντικό να αναπτύξουμε μεθόδους που χρησιμοποιούν προηγμένα μοντέλα ΤΝ για την προστασία των συστημάτων μας απέναντι σε επιθέσεις. Στην κυβερνοασφάλεια έχουμε ένα σημαντικό πλεονέκτημα: οι αμυνόμενοι μπορούν να χρησιμοποιήσουν την ΤΝ για να εντοπίζουν ευπάθειες, να παρακολουθούν τα συστήματα και να διορθώνουν προβλήματα πριν τα εκμεταλλευτούν οι επιτιθέμενοι. Σε μια εποχή που ισχυρά μοντέλα, ανοιχτά και μη, είναι διαθέσιμα στον οποιονδήποτε, πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα».
Από τη θεωρία παιγνίων στην αιχμή της ΤΝ
Η παρέμβαση του Κωνσταντίνου Δασκαλάκη αποκτά ιδιαίτερη βαρύτητα και λόγω της επιστημονικής του διαδρομής. Έχει την έδρα Avanessians στο τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης των Υπολογιστών στο MIT και είναι μέλος του εργαστηρίου Επιστήμης των Υπολογιστών Τεχνητής Νοημοσύνης στο ίδιο Πανεπιστήμιο. Αποφοίτησε από το Εθνικό Μετσόβιο Πολυτεχνείο, απέκτησε διδακτορικό στην Επιστήμη Υπολογιστών από το University of California, Berkeley, και εντάχθηκε στο διδακτικό προσωπικό του MIT το 2009. Είναι συνιδρυτής και επικεφαλής Ερευνητής του ερευνητικού κέντρου για την ΤΝ «Αρχιμήδης».
Το ερευνητικό του έργο βρίσκεται στη διασταύρωση της θεωρίας υπολογισμού με τη θεωρία παιγνίων, τα οικονομικά, τις πιθανότητες, τη στατιστική και τη μηχανική μάθηση, ενώ έχει συμβάλει στην επίλυση μακροχρόνιων ανοικτών προβλημάτων γύρω από την υπολογιστική πολυπλοκότητα της ισορροπίας Nash. Μεταξύ των σημαντικών διεθνών διακρίσεών του είναι το Nevanlinna Prize της International Mathematical Union και το ACM Grace Murray Hopper Award. Παράλληλα, ως πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη που διετέλεσε συμμετείχε στη διαμόρφωση προτάσεων για τη στρατηγική της Ελλάδας στην ΤΝ.
Από την καινοτομία στην ευθύνη
Η Ευρώπη έχει ήδη περάσει από τη συζήτηση στην εφαρμογή κανόνων. Ο AI Act δημιουργεί ένα σύστημα υποχρεώσεων που διαφοροποιούνται ανάλογα με τον κίνδυνο κάθε εφαρμογής, ενώ από τις 2 Αυγούστου 2026 το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης και οι αρμόδιες εθνικές αρχές έχουν ενισχυμένο ρόλο στην εποπτεία και εφαρμογή του πλαισίου. Η μεγάλη αλλαγή, ωστόσο, είναι ότι η συζήτηση δεν αφορά πλέον μόνο το τι μπορεί να δημιουργήσει η Τεχνητή Νοημοσύνη, αλλά τι μπορεί να κάνει όταν της δοθεί η δυνατότητα να ενεργεί. Από το ερώτημα του Alan Turing το 1950 και το Dartmouth του 1956 έως τα σημερινά μεγάλα γλωσσικά μοντέλα και τους αυτόνομους πράκτορες, η Τεχνητή Νοημοσύνη διένυσε σε επτά δεκαετίες μια απόσταση που για πολλά χρόνια φαινόταν περισσότερο αντικείμενο επιστημονικής φαντασίας παρά τεχνολογικής πραγματικότητας.
Το επόμενο κεφάλαιο έχει ήδη αρχίσει. Και το βασικό ερώτημα δεν είναι πλέον μόνο πόσο ισχυρά μπορούν να γίνουν τα συστήματα Τεχνητής Νοημοσύνης. Είναι με ποιους κανόνες θα χρησιμοποιούνται, πώς θα ελέγχονται και πόσο αποτελεσματικές μπορούν να είναι οι ασφαλιστικές δικλείδες σε μια τεχνολογία που, όπως επισημαίνει ο Κωνσταντίνος Δασκαλάκης, είναι ήδη εξαιρετικά ικανή αλλά και απρόβλεπτη.
