Άλτμαν-Τραμπ ετοιμάζουν τεστ ασφάλειας στην ΑΙ - Το «ατύχημα» στην OpenAI

Σε συζήτηση με αξιωματούχους του Λευκού Οίκου ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αναφορικά με τα επερχόμενα μοντέλα τεχνητής νοημοσύνης της εταιρείας του, καθώς και τις εθελοντικές κυβερνητικές δοκιμές κυβερνοασφάλειας για προηγμένα συστήματα τεχνητής νοημοσύνης, όπως δήλωσε εκπρόσωπος της OpenAI, περισσότερο από μία εβδομάδα από τότε που η εταιρεία αποκάλυψε ότι ένα από τα μοντέλα τεχνητής νοημοσύνης της ξέφυγε από τα όρια περιορισμού στη διάρκεια δοκιμής ασφάλειας.

Η επίσκεψη του Άλτμαν έρχεται έπειτα από την αποκάλυψη από την εταιρεία του ότι ένας πράκτορας ΑΙ ξέφυγε από τον έλεγχο στη διάρκεια μιας δοκιμής ασφαλείαςΟ Άλτμαν πρόκειται να συναντηθεί την Πέμπτη με την επικεφαλής του προσωπικού του Λευκού Οίκου, Σούζι Γουάιλς, τον Εθνικό Διευθυντή Κυβερνοασφάλειας, Σιν Κέρνκρος και τον τεχνολογικό σύμβουλο, Μάικλ Κράτσιος, όπως δήλωσε εκπρόσωπος της OpenAI στο πρακτορείο Reuters.

Επιπροσθέτως, σύμφωνα με πηγή που έχει γνώση του θέματος, έχει προγραμματιστεί να συναντηθεί την Πέμπτη με τον Υπουργό Εμπορίου, Χάουαρντ Λάτνικ.

Η επίσκεψη του Άλτμαν έρχεται έπειτα από την αποκάλυψη από την εταιρεία του ότι ένας πράκτορας (agent) τεχνητής νοημοσύνης ξέφυγε από τον έλεγχο στη διάρκεια μιας δοκιμής ασφαλείας.

Ο πράκτορας προκάλεσε μια εισβολή που έθεσε σε κίνδυνο την υποδομή της εταιρείας τεχνητής νοημοσύνης Hugging Face, μιας πλατφόρμας όπου οι προγραμματιστές αποθηκεύουν και συνεργάζονται πάνω σε κώδικα για μοντέλα τεχνητής νοημοσύνης.

Ο πράκτορας έθεσε επίσης σε κίνδυνο έναν πελάτη μιας δεύτερης εταιρείας τεχνολογίας, της Modal Labs με έδρα τη Νέα Υόρκη, σύμφωνα με το Reuters.

Προθεσμία έως 1η Αυγούστου Στις 2 Ιουνίου, ο Τραμπ έστειλε διαταγή στους συμβούλους του να αναπτύξουν εθελοντικές δοκιμές κυβερνοασφάλειας για τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, με τη συμβολή των προγραμματιστών.

Έδωσε στην ομάδα προθεσμία έως την 1η Αυγούστου για να οριστικοποιήσει τις λεπτομέρειες.

Ο Άλτμαν δήλωσε στους δημοσιογράφους την Τετάρτη ότι είχε δει τα σχέδια αναφορικά με τις προτεινόμενες δοκ...

Πηγή/Περισσότερα: in.gr