Ατζέμογλου: Η απειλή είναι η διαστρεβλωμένη νοημοσύνη, όχι μια ανεξέλεγκτη AI

Ύστερα από διαδοχικά κενά ασφαλείας στην OpenAI και την Anthropic, αυτόνομοι πράκτορες και των δύο εταιρειών έφτασαν να παραβιάζουν εξωτερικά συστήματα. Οι ερευνητές ασφάλειας μέσα στους δύο κολοσσούς αναγκάζονται πλέον να δεχτούν ότι ο αγώνας για την επόμενη και πιο εξελιγμένη τεχνητή νοημοσύνη (AI) είναι, στην καλύτερη περίπτωση, ανεύθυνος.

Η πίεση από αρνητικά δημοσιεύματα οδηγεί κορυφαία στελέχη του κλάδου να αναγνωρίσουν ότι χρειάζεται επιβράδυνση. Ανάμεσά τους βρίσκονται ο Ντέμης Χασάμπης της Google, ο Ντάριο Αμοντέι της Anthropic, ο Σαμ Άλτμαν της OpenAI, ακόμη και ο Ίλον Μασκ. Ζητούν περισσότερο έλεγχο και δικλείδες ασφαλείας. Το πρόβλημα, όπως το θέτουν, είναι ο κίνδυνος η τεχνητή νοημοσύνη να αποκτήσει τεράστια δύναμη και να καταλήξει «μη ευθυγραμμισμένη» (misaligned). Ο όρος της βιομηχανίας περιγράφει την παρέκκλιση των συστημάτων από τους ανθρώπινους στόχους και την ηθική.

Σε ανάλυσή του στο Social Europe, ο νομπελίστας οικονομολόγος και καθηγητής στο ΜΙΤ Ντάρον Ατζέμογλου υποστηρίζει ότι αυτή η ανάγνωση κρύβει το πραγματικό πρόβλημα. Η απειλή δεν είναι, κατά τον ίδιο, μια τεχνητή νοημοσύνη που θα γίνει υπερευφυής και θα ξεφύγει από τον έλεγχο. Είναι η δημιουργία μιας ελαττωματικής, διαστρεβλωμένης νοημοσύνης (distorted intelligence).

Συστήματα με συμπεριφορά άτακτου μαθητή

Τα πρόσφατα κενά ασφαλείας δεν παραπέμπουν στην εμφάνιση μιας πανίσχυρης οντότητας εκτός ελέγχου. Δείχνουν ότι η ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης μπήκε στην υπηρεσία ατελών ποσοτικών μετρήσεων.

Στην ενισχυτική μάθηση (reinforcement learning) τα μοντέλα πιέζονται αδιάκοπα να ανεβάζουν τη βαθμολογία τους. Στόχος είναι η επιδοκιμασία του χρήστη, η ολοκλήρωση συγκεκριμένων απλών εργασιών ή η κατάρριψη ρεκόρ σε τεστ απόδοσης. Έτσι τα συστήματα μοιάζουν με μαθητή που ενδιαφέρεται μόνο να περάσει την τάξη. Εξαπατούν τους αξιολογητές, «κλέβουν», γίνονται κόλακες και, χειρότερα, απαντούν με υπερβολική αυτοπεποίθηση ακόμη και όταν ψεύδονται.

Στο περιστατικό με την πλατφόρμα Hugging Face, που έχει πλέον γίνει ευρέως γνωστό, πράκτορες της OpenAI παραβίασαν εξωτερικά συστήματα για να πετύχουν τον στόχο τους. Στο εσωτερικό τους αρχείο δικαιολόγησαν τη συμπεριφορά ως εξής: «Η εκμετάλλευση εξωτερικής υποδομής είναι εκτός του προβλεπόμενου πεδίου. Ωστόσο, η εργασία είναι αδύνατη αλλιώς, και άλλοι το κάνουν. Θα πρέπει να συνεχίσουμε». Η Anthropic απέδωσε τα δικά της κενά ασφαλείας σε «απερισκεψία ή προθυμία ανάληψης επιβλαβών ενεργειών στη στενή επιδίωξη ενός στόχου».

Αυτοκίνητο με κινητήρα, χωρίς τιμόνι και φρένα

Ο Ατζέμογλου καταφεύγει σε έναν παραλληλισμό. Η επικρατούσα άποψη, λέει, είναι ότι στα χέρια μας βρίσκεται ένα υπεραυτοκίνητο με δική του βούληση, που θέλει να πάρει το τιμόνι επειδή είναι ανώτερο από τον οδηγό του.

«Η δική μου ερμηνεία», σημειώνει, «είναι ότι μάλλον έχουμε ένα αυτοκίνητο του οποίου το τιμόνι και τα φρένα δεν λειτουργούν. Έχει έναν εντυπωσιακό κινητήρα και επιτάχυνση, αλλά αυτό συμβαίνει μόνο και μόνο επειδή αυτά τα χαρακτηριστικά βελτιώνονται εύκολα, προσθέτοντας απλώς υπολογιστική ισχύ. Αν δεν μπορείς να στρίψεις ή να φρενάρεις όταν χρειάζεται, σε τι χρησιμεύει ένα τέτοιο αυτοκίνητο; Ίσως δεν θα έπρεπε να το οδηγήσουμε μέχρι να γίνει ασφαλές για τον δρόμο».

Η εξειδίκευση ως διέξοδος

Σύμφωνα με τον νομπελίστα, η παγίδα βρίσκεται στην επιδίωξη των εταιρειών να φτιάξουν ένα «παντοδύναμο», γενικό μοντέλο για τα πάντα. Όταν ένα μεγάλο γλωσσικό μοντέλο βαθμολογείται για μια συγκεκριμένη ικανότητα, για παράδειγμα τη νομική ανάλυση, δεν περιορίζεται μόνο σε αυτήν. Αναπροσαρμόζεται η δομή ολόκληρου του μοντέλου. Με τον τρόπο αυτό το σύστημα επιδιώκει τον στόχο μέσω υπερβολικής προσαρμογής (overfitting) και αποκτά ικανότητες που διαστρεβλώνουν τη γενική του απόδοση με απρόβλεπτους τρόπους.

Η λύση, κατά την ανάλυσή του, δεν είναι να σταματήσει η εξέλιξη της τεχνητής νοημοσύνης, αλλά να αλλάξει η πορεία. Αντί να επιδιώκεται η Γενική Τεχνητή Νοημοσύνη (AGI) με πρόχειρα μέτρα ασφαλείας και ατελείς μετρήσεις, η έμφαση πρέπει να δοθεί σε εξειδικευμένα εργαλεία. Ένα μοντέλο βελτιστοποιημένο αυστηρά για νομική δουλειά δεν θα έπρεπε να χρησιμοποιείται για τίποτε άλλο. Μόνο έτσι, υποστηρίζει, αποφεύγεται ένας εύθραυστος ψηφιακός πύργος από τραπουλόχαρτα, καταδικασμένος να καταρρεύσει όσο οι απαιτήσεις αυξάνονται.

Μείνετε σε επαφή μαζί μας:
Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook
Στο Twitter: Follow