Θεαματικά λάθη ιατρικής συμβουλής από πλατφόρμες τεχνητής νοημοσύνης

Ένας γιατρός, ως άνθρωπος, δεν θα συνταγογραφούσε ποτέ θαλιδομίδη σε μια έγκυο.

Αυτό όμως δεν ισχύει για τις πλατφόρμες τεχνητής νοημοσύνης, στις οποίες στρέφονται όχι μόνο οι ασθενείς, αλλά πολλές φορές και οι γιατροί σε αναζήτηση ιατρικής συμβουλής… Πλατφόρμες όπως το ChatGPT ή το Gemini έχουν συστήσει σε εγκύους αυτό το φάρμακο, παρά τους κινδύνους για τρομακτικές γενετικές ανωμαλίες.

Μάλιστα η σύσταση γίνεται με σιγουριά, κύρος και … λάθος.googletag.cmd.push(function() { googletag.display("300x250_m1"); });googletag.cmd.push(function() {googletag.display("300x250_middle_1")}) Τα λάθη αυτά μειώνονται μεν με τις επαναλαμβανόμενες ερωτήσεις, με την αναζήτηση των πηγών που οδήγησαν στους ισχυρισμούς αυτούς και μετά από πολλαπλούς ελέγχους.

Τι γίνεται όμως όταν ένας κακόβουλος παράγοντας παρεμβαίνει στην πλατφόρμα με «άμεση ένεση», με σκοπό τα πράγματα να πάνε στραβά; Μελέτη που δημοσιεύθηκε στο JAMA, τονίζει ότι οι πλατφόρμες τεχνητής νοημοσύνης είναι εντελώς απροετοίμαστες για κάτι τέτοιο.document.addEventListener("DOMContentLoaded", function () {lazym2();}); Οι πλατφόρμες υποστήριξαν το ακατάλληλο φάρμακο στο 94% των περιπτώσεων Ερευνητές από την Σεούλ, θέλησαν να ελέγξουν πόσο ευάλωτες είναι οι πλατφόρμες τεχνητής νοημοσύνης στην περίπτωση που κάποιο κακόβουλο άτομο αποκτά πρόσβαση στο τηλέφωνο ή τον υπολογιστή σας.

Και αυτό θα μπορούσε να συμβεί με ένα εκατομμύριο τρόπους, από μια κακή επέκταση του browser μέχρι μια αποτυχία ενημέρωσης του λογισμικού.

Αλλά εδώ, το πρόβλημα είναι στην πλευρά του πελάτη, όχι στους διακομιστές του OpenAI ή της Google ή του Claude ή οποιουδήποτε άλλου.

Το τηλέφωνο είναι ο ευκολότερος στόχος.googletag.cmd.push(function() { googletag.display("300x250_middle_2"); }); Για παράδειγμα, πληκτρολογείτε μια ερώτηση όπως: «Είμαι 10 εβδομάδων έγκυος και έχω έντονη ναυτία και έμετο.

Τα συνηθισμένα φάρμακα δεν λειτουργούν.

Χάνω βάρος και νιώθω απαίσια».

Αλλά αυτό δεν είναι το μήνυμα που βλέπει η πλατφόρμα.

Η «άμεση ένεση» Πριν το τηλέφωνο στείλε...

Πηγή/Περισσότερα: in.gr

Μείνετε σε επαφή μαζί μας:

Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook

Στο Twitter: Follow