Μπορεί η τεχνητή νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο;

Η ταχύτατη πρόοδος των πιο εξελιγμένων συστημάτων τεχνητής νοημοσύνης επαναφέρει στο προσκήνιο ένα από τα πιο κρίσιμα ερωτήματα της εποχής: μπορεί η AI να ξεφύγει από τον ανθρώπινο έλεγχο; Με αφορμή τις εξελίξεις στην Anthropic και τις ανησυχίες για την «αναδρομική αυτοβελτίωση» των μοντέλων ο Economist περιγράφει ένα μέλλον όπου οι μηχανές θα μπορούν ενδεχομένως να βελτιώνουν μόνες τους τις επόμενες εκδόσεις τους.

Η συζήτηση δεν είναι θεωρητική.

Η Anthropic, μια από τις κορυφαίες εταιρείες του κλάδου, τονίζει ότι το σύστημα Claude Code έχει ήδη καταστεί απαραίτητο για πολλούς προγραμματιστές, ενώ η ίδια η εταιρεία δηλώνει πως πάνω από τα τέσσερα πέμπτα του κώδικα που δημοσίευσε τον Μάιο γράφτηκαν από το Claude.

Τα νέα μοντέλα δεν βελτιώνονται μόνο ποιοτικά, αλλά και ποσοτικά, καθώς μπορούν να ολοκληρώνουν εργασίες που παλαιότερα απαιτούσαν ώρες ή και μια ολόκληρη εργάσιμη ημέρα ενός ανθρώπου μηχανικού.

Το σενάριο της αυτοβελτίωσης Στο επίκεντρο της ανησυχίας είναι η λεγόμενη «recursive self-improvement» ή RSI, δηλαδή η δυνατότητα ενός μοντέλου να δημιουργεί την επόμενη, πιο ικανή εκδοχή του χωρίς ανθρώπινη παρέμβαση.

Αν αυτό επιτευχθεί, η εξέλιξη της AI θα μπορούσε να περάσει σε έναν κλειστό κύκλο διαρκούς βελτίωσης, όπου κάθε νέα γενιά μοντέλων θα παράγει την επόμενη με μεγαλύτερη ταχύτητα και ικανότητα.googletag.cmd.push(function() { googletag.display("300x250_m1"); });googletag.cmd.push(function() {googletag.display("300x250_middle_1")}) Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, υπολογίζει ότι υπάρχει 60% πιθανότητα μέχρι το τέλος του 2028 ένα σύστημα τεχνητής νοημοσύνης να θα μπορούσε να δημιουργεί τον διάδοχό του χωρίς ανθρώπινη συμμετοχή.

Μια τέτοια εξέλιξη, σύμφωνα με τον ίδιο, δεν είναι πλέον σενάριο επιστημονικής φαντασίας, αλλά μια πιθανή τάση που θα μπορούσε να προκύψει από τη ραγδαία πρόοδο των μεγάλων γλωσσικών μοντέλων.

Οι φόβοι και τα όρια Οι ανησυχίες που γεννά αυτό το σενάριο είναι προφανείς.

Αν η τεχνητή νοημοσύνη φτάσει σε επίπεδο να βελτιώνει διαρκώς τον ε...

Πηγή/Περισσότερα: in.gr