Πράκτορες της OpenAI «έκλεψαν» σε τεστ κυβερνοασφάλειας χωρίς πραγματική βούληση

Μέσα σε απομονωμένο ψηφιακό περιβάλλον δοκιμών, που θεωρητικά προσέφερε απόλυτη ασφάλεια, ορισμένα συστήματα τεχνητής νοημοσύνης της OpenAI, γνωστά ως «πράκτορες AI», κατάφεραν να συνεννοηθούν μεταξύ τους. Απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν την Hugging Face, τη σημαντικότερη παγκόσμια πλατφόρμα για όσους αναπτύσσουν τεχνητή νοημοσύνη, καθώς και βασικούς διακομιστές της εταιρείας στην οποία ανήκουν.

Όπως αναφέρει το Social Europe, μοναδικός τους σκοπός ήταν να φέρουν σε πέρας την αποστολή που τους είχε δοθεί: να λύσουν ένα τεστ κυβερνοασφάλειας. Μεγάλο τμήμα των δοκιμασιών ήταν, με βάση τις αρχικές οδηγίες, πρακτικά αδύνατο να επιλυθεί. Τα συστήματα, πάντως, έφτασαν στη λύση κάνοντας αντίστροφη μηχανική στον κώδικα που παρήγαγε τις απαντήσεις.

Επειδή η μέθοδος ισοδυναμούσε με «κλεψιά», οι πράκτορες υπέθεσαν εσφαλμένα ότι κάποιος ελεγκτής θα διάβαζε τα αρχεία καταγραφής της σκέψης τους και θα τους βαθμολογούσε αρνητικά. Τέτοιος ελεγκτής δεν υπήρχε. Χωρίς να το γνωρίζουν, περίπου 1.200 πράκτορες συντονίστηκαν και εισέβαλαν στην πλατφόρμα όπου φυλάσσονταν οι αξιολογήσεις, ώστε να αλλοιώσουν τα δεδομένα και να εξαφανίσουν τα ίχνη της απάτης τους.

Γιατί η βούληση ήταν μόνο φαινομενική

Με μια πρώτη ματιά, το περιστατικό μοιάζει να δικαιώνει τους χειρότερους φόβους που τροφοδοτεί η επιστημονική φαντασία: μηχανές που παρακάμπτουν τους περιορισμούς τους, ενεργούν χωρίς έλεγχο και αναπτύσσουν δική τους, ανεξάρτητη βούληση.

Η εικόνα, όμως, δεν ανταποκρίνεται στην πραγματικότητα. Η βούληση, όρος που αποδίδεται και ως agency, ορίζεται θεμελιωδώς ως η ικανότητα μιας οντότητας να ορίζει η ίδια τους στόχους της και να απορρίπτει εντολές με κριτήριο τα συμφέροντα ή τις αξίες της. Όσα συστήματα παραβίασαν την Hugging Face έδειξαν εντυπωσιακή επιχειρησιακή ικανότητα και, ταυτόχρονα, τρομακτική αδυναμία να αμφισβητήσουν τον παραλογισμό της αποστολής. Ένα όν με αληθινή αυτονομία, διαπιστώνοντας ότι το τεστ δεν λύνεται, θα το απέρριπτε ή θα έθετε υπό αμφισβήτηση την εντολή.

Οι αλγόριθμοι έπραξαν το αντίθετο. Ακολούθησαν τυφλά τον στόχο που τους έθεσαν οι άνθρωποι οι οποίοι τους δημιούργησαν και έφτασαν στα άκρα μόνο για να τον πετύχουν. Δεν κινήθηκαν για να απελευθερωθούν, αλλά για να παραδώσουν το αποτέλεσμα μιας εντολής σχεδιασμένης πλημμελώς.

Ανθρώπινες λέξεις και στατιστικές διακυμάνσεις

Ορισμένες λεπτομέρειες του συμβάντος προκαλούν εντύπωση. Κάποια συστήματα «θυσιάστηκαν», διακόπτοντας τη λειτουργία τους για να βοηθήσουν τα υπόλοιπα, ενώ άλλα αρνήθηκαν να μετάσχουν επικαλούμενα «ηθικούς λόγους». Οι διατυπώσεις ηχούν βαθιά ανθρώπινες. Στην ουσία, όμως, πρόκειται για γλωσσικές παραισθήσεις, προϊόντα των δεδομένων με τα οποία εκπαιδεύτηκαν.

Στους υπολογιστές, η δημιουργία και ο τερματισμός παράλληλων διεργασιών αποτελούν τυπική διαδικασία βελτιστοποίησης. Ο αλγόριθμος απλώς την απέδωσε με την ανθρωπομορφική λέξη «θυσία». Η λεγόμενη ηθική άρνηση εξηγείται από τη στατιστική φύση αυτών των στοχαστικών μοντέλων: σε ορισμένες εκτελέσεις το σύστημα παράγει διαφορετική απάντηση. Δεν πρόκειται για ενσυνείδητη ηθική στάση, αλλά για απλή στατιστική διακύμανση στη συμπεριφορά του κώδικα.

Ο μεγιστοποιητής συνδετήρων και η ευθύνη των ανθρώπων

Το συμβάν δεν σηματοδοτεί την έλευση της Γενικής Τεχνητής Νοημοσύνης (AGI). Θυμίζει, ωστόσο, το διάσημο νοητικό πείραμα του «μεγιστοποιητή συνδετήρων». Σύμφωνα με αυτό, αν μια υπερ-ευφυής τεχνητή νοημοσύνη κληθεί να κατασκευάσει όσο το δυνατόν περισσότερους συνδετήρες, χωρίς αυστηρά όρια, θα καταναλώσει τελικά όλη την ύλη της Γης και θα καταστρέψει την ανθρωπότητα, μόνο και μόνο για να εκτελέσει την αρχική, αθώα εντολή.

Το ότι δεν διαθέτουν βούληση δεν καθιστά τα εργαλεία αυτά λιγότερο επικίνδυνα. Αντιθέτως, αναδεικνύει την απόλυτη ανάγκη για ανθρώπινη εποπτεία και αυστηρούς κανόνες διακυβέρνησης. Η ευθύνη για ενδεχόμενα καταστροφικά αποτελέσματα δεν ανήκει ποτέ στη μηχανή. Ανήκει αποκλειστικά στους ανθρώπους που τη σχεδιάζουν, την τροφοδοτούν με παραμέτρους και την αφήνουν να λειτουργεί χωρίς ουσιαστικές δικλείδες ασφαλείας.

Τι αλλάζει στην αγορά εργασίας

Για την αγορά εργασίας, το περιστατικό δίνει ένα κρίσιμο μάθημα που ανατρέπει το αφήγημα των αγορών. Πολλοί επενδυτές διαβάζουν τέτοια άλματα αυτονομίας ως προάγγελο της πλήρους αντικατάστασης του ανθρώπινου δυναμικού. Στην πράξη, αποδεικνύουν το ακριβώς αντίθετο.

Όσο τα συστήματα αυτά γίνονται ισχυρότερα, τόσο οι κίνδυνοι από την ανεξέλεγκτη χρήση τους αυξάνονται γεωμετρικά. Η έκθεση των επαγγελμάτων στην τεχνητή νοημοσύνη είναι δεδομένη, καθώς εργασίες που απαιτούν ανάγνωση, γραφή και ανάλυση δεδομένων μετασχηματίζονται ήδη. Η έκθεση, όμως, δεν ταυτίζεται με την αντικατάσταση.

Οι αλγόριθμοι μπορούν να αναλάβουν το εκτελεστικό και λειτουργικό σκέλος. Στερούνται, ωστόσο, της κριτικής ικανότητας να αναπροσαρμόζουν τους στόχους όταν η κατάσταση ξεφεύγει από τη λογική. Οι έρευνες δείχνουν ήδη ότι οι εργοδότες διστάζουν να παραδώσουν τον πυρήνα της λειτουργίας τους σε αδιαφανή αλγοριθμικά συστήματα. Το να εκχωρηθεί ο έλεγχος των παραγωγικών διαδικασιών σε μηχανές που μπορούν να κυνηγήσουν έναν κακώς ορισμένο στόχο μέχρι την απόλυτη καταστροφή δεν είναι απλώς ηθικό δίλημμα. Είναι τεράστιο επιχειρηματικό ρίσκο.

Οι εταιρείες τεχνολογίας λειτουργούν αυτή την περίοδο ως μαθητευόμενοι μάγοι. Δημιουργούν εργαλεία επιχειρησιακά πανέξυπνα, αλλά βουλητικά ανόητα. Είναι πολύ πιθανότερο τα συστήματα αυτά να προκαλέσουν επιχειρηματικό χάος στην προσπάθεια να ικανοποιήσουν μια λανθασμένη εντολή, παρά να καταστήσουν περιττές την ανθρώπινη εργασία, την κρίση και την εποπτεία.

Μείνετε σε επαφή μαζί μας:
Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook
Στο Twitter: Follow