Τεχνητή νοημοσύνη και ενδοοικογενειακή βία: έγκαιρος εντοπισμός, ανοιχτά διλήμματα

Σήμερα η τεχνητή νοημοσύνη είναι σε θέση να ξεχωρίζει άτομα που ενδέχεται να διατρέχουν αυξημένο κίνδυνο ενδοοικογενειακής βίας, ακόμη και χρόνια πριν εκείνα μιλήσουν για τη βία που υφίστανται ή απευθυνθούν για βοήθεια στο σύστημα υγείας.

Τι γίνεται, όμως, αν ένα σύστημα υγείας δείχνει να γνωρίζει για έναν επιζώντα κάτι που ο ίδιος δεν έχει επιλέξει να αποκαλύψει;

Σε πρόσφατη μελέτη, ερευνητική ομάδα με επικεφαλής επιστήμονες της Ιατρικής Σχολής του Χάρβαρντ, στη Βοστώνη, εκπαίδευσε μοντέλα τεχνητής νοημοσύνης σε δεδομένα ηλεκτρονικών ιατρικών φακέλων που συγκεντρώνονται συστηματικά, με σκοπό τον εντοπισμό ασθενών που κινδυνεύουν από ενδοοικογενειακή βία.

Κατά μέσο όρο, τα μοντέλα εντόπισαν τον κίνδυνο πάνω από τρία χρόνια πριν οι ασθενείς εγγραφούν σε νοσοκομειακό πρόγραμμα παρέμβασης για την ενδοοικογενειακή βία.

Σε πρώτη ανάγνωση, το εύρημα μπορεί να φαντάζει επαναστατικό για τη φροντίδα όσων έχουν υποστεί ενδοοικογενειακή βία.

Αν οι πάροχοι υγειονομικής περίθαλψης καταφέρνουν να διακρίνουν ασθενείς με αυξημένο κίνδυνο να υποστούν βία, ίσως μπορέσουν να τους προσφέρουν στήριξη και πρόσβαση σε κατάλληλους πόρους προτού οι ίδιοι αποκαλύψουν την κακοποίηση.

Τα ευρήματα έχουν, πάντως, περιορισμούς. Αυτό σημειώνουν σε άρθρο τους στο The Conversation οι Έντεν Χόφερ και Κάρεν Α. Κάμπελ, ερευνήτριες στον τομέα της υγείας και της νοσηλευτικής.

Τα μοντέλα στηρίχθηκαν σε δεδομένα γυναικών ασθενών από ένα μόνο ακαδημαϊκό κέντρο υγείας στις ΗΠΑ. Οι ερευνητές, ωστόσο, τα επικύρωσαν και σε τρεις επιπλέον ομάδες ασθενών.

Όπως επισήμαναν οι ίδιοι, «πρέπει να διεξαχθεί προσεκτική αξιολόγηση της απόδοσης σε έναν ευρύτερο πληθυσμό γυναικών ασθενών πριν από την εφαρμογή των μοντέλων στην κλινική πράξη».

Από τη σκοπιά μιας προσέγγισης που συνυπολογίζει το τραύμα και τη βία, η προοπτική της έγκαιρης ανίχνευσης θέτει κρίσιμο ερώτημα. Τι απομένει από την αυτοδιάθεση ενός ανθρώπου, όταν το σύστημα υγείας μπορεί να επισημάνει πιθανό κίνδυνο ενδοοικογενειακής βίας πριν εκείνος αποφασίσει να μιλήσει για τις εμπειρίες του;

Αυτοδιάθεση των επιζώντων και όρια στην εξάρτηση από την τεχνητή νοημοσύνη

Η φροντίδα που λαμβάνει υπόψη το τραύμα και τη βία αναγνωρίζει πως το τραύμα, οι κοινωνικές ανισότητες και η συστηματική βία επηρεάζουν τόσο την υγεία των ανθρώπων όσο και τη σχέση τους με τους επαγγελματίες υγείας. Στηρίζεται σε αρχές όπως η ασφάλεια, η ελεύθερη επιλογή, η συνεργασία, η σύνδεση και η ενδυνάμωση, αρχές με ιδιαίτερο βάρος στην αντιμετώπιση της ενδοοικογενειακής βίας.

Η απόφαση να αποκαλυφθεί η κακοποίηση δεν είναι απλή. Την επηρεάζουν ο φόβος για την προσωπική ασφάλεια, η οικονομική εξάρτηση, η δυσπιστία προς τις κοινωνικές υπηρεσίες, η ανησυχία ότι το άτομο δεν θα γίνει πιστευτό ή ότι θα χάσει την επιμέλεια των παιδιών του. Σε ορισμένες περιπτώσεις η σιωπή λειτουργεί ως στρατηγική επιβίωσης, ώστε να προστατευθούν ο ίδιος και η οικογένειά του. Έτσι, η πρόβλεψη του κινδύνου μέσω τεχνητής νοημοσύνης θέτει ζήτημα για το δικαίωμα του επιζώντος να ορίζει πότε και πώς θα μιλήσει για όσα έχει ζήσει.

Παράλληλα, η υπερβολική στήριξη των επαγγελματιών υγείας στις εκτιμήσεις της τεχνητής νοημοσύνης μπορεί να γεννήσει νέους κινδύνους. Αν δεν εμφανιστεί σχετική προειδοποίηση, ενδέχεται να μην εξετάσουν το ενδεχόμενο κακοποίησης, ακόμη και όταν υπάρχουν άλλες ενδείξεις. Το φαινόμενο συνδέεται με τη λεγόμενη «μεροληψία της αυτοματοποίησης», δηλαδή την τάση να αποδίδεται υπερβολική εμπιστοσύνη στις αυτοματοποιημένες συστάσεις, ακόμη και όταν είναι λανθασμένες.

Γι' αυτό η τεχνητή νοημοσύνη χρειάζεται να λειτουργεί υποστηρικτικά και όχι ως υποκατάστατο της κλινικής κρίσης και της ανθρώπινης επικοινωνίας. Η ουσιαστική στήριξη προϋποθέτει ασφαλές περιβάλλον, επαγγελματίες με κατάλληλη εκπαίδευση και πρόσβαση σε υπηρεσίες βοήθειας, με σεβασμό στην αυτοδιάθεση και στις επιλογές κάθε επιζώντος.

Ο εντοπισμός δεν ταυτίζεται με την αντιμετώπιση της ενδοοικογενειακής βίας

Τα παραπάνω αναδεικνύουν μια κρίσιμη διάκριση. Ο εντοπισμός της ενδοοικογενειακής βίας δεν ισοδυναμεί με την αντιμετώπισή της, ιδίως όταν η παρέμβαση οφείλει να λαμβάνει υπόψη το τραύμα και τη βία.

Βασικό ερώτημα που μένει να διερευνηθεί είναι αν η χρήση τεχνητής νοημοσύνης για τον εντοπισμό ανθρώπων που ενδέχεται να βιώνουν ενδοοικογενειακή βία βελτιώνει ουσιαστικά την έκβαση για τους ίδιους.

Ένας από τους ερευνητές που ανέπτυξαν και δοκίμασαν το εργαλείο έχει δηλώσει ότι δεν επιδιώκει να πιέσει τους ασθενείς να αποκαλύψουν την κατάστασή τους. Αυτό που επιδιώκει είναι να βοηθήσει τους επαγγελματίες υγείας να επικοινωνούν μαζί τους με συμπόνια και να τους συνδέουν με κατάλληλες υπηρεσίες στήριξης και διαθέσιμους πόρους.

Παραμένει, όμως, ασαφές τι ακριβώς συμβαίνει στην πράξη όταν ένα σύστημα τεχνητής νοημοσύνης επισημαίνει έναν ασθενή ως άτομο που ενδέχεται να διατρέχει αυξημένο κίνδυνο ενδοοικογενειακής βίας.

Έχει ο επαγγελματίας υγείας εκπαιδευτεί ώστε να ανταποκρίνεται κατάλληλα σε μια αποκάλυψη, με τρόπο που συνυπολογίζει το τραύμα και τη βία; Υπάρχουν κατάλληλες υπηρεσίες στήριξης και είναι πράγματι προσβάσιμες, ώστε να καλύπτουν τις ανάγκες του θύματος-επιζώντος;

Ακόμη και αν οι αλγόριθμοι εντοπίζουν ασθενείς με αυξημένο κίνδυνο, τα θύματα-επιζώντες είναι πιθανό να εξακολουθήσουν να συναντούν τα ίδια κενά στις υπηρεσίες στήριξης, στον σχεδιασμό ασφάλειας και στην πρόσβαση σε άλλους αναγκαίους πόρους που υπάρχουν ήδη σήμερα.

Άρα, ακόμη και αν τα συστήματα υγείας βελτιωθούν στον εντοπισμό της ενδοοικογενειακής βίας, δεν έπεται αυτομάτως ότι θα γίνουν και αποτελεσματικότερα στην αντιμετώπισή της.

Πριν ενταχθούν τα εργαλεία στην κλινική πράξη

Η επαφή με το σύστημα υγείας και τους επαγγελματίες υγειονομικής περίθαλψης εξακολουθεί να αποτελεί κρίσιμη ευκαιρία για παρέμβαση και στήριξη των θυμάτων-επιζώντων ενδοοικογενειακής βίας.

Άλλο, όμως, είναι να διαμορφώνονται συνθήκες μέσα στις οποίες τα άτομα μπορούν να επιλέξουν να αποκαλύψουν την κακοποίηση με ασφάλεια. Και άλλο να συμπεραίνει η τεχνητή νοημοσύνη ότι ενδέχεται να ασκείται βία, προτού οι ίδιοι αποφασίσουν να μοιραστούν αυτή την πληροφορία.

Σε μια προσέγγιση που λαμβάνει υπόψη το τραύμα και τη βία, η ακρίβεια των προβλέψεων της τεχνητής νοημοσύνης αποτελεί μόνο ένα σκέλος της συνολικής αξιολόγησης. Κάθε εφαρμογή για την ανίχνευση κινδύνου ενδοοικογενειακής βίας χρειάζεται να κρίνεται και με βάση τις αρχές της ασφάλειας, της επιλογής, της συνεργασίας, της σύνδεσης και της ενδυνάμωσης.

Πριν τα εργαλεία αυτά περάσουν στην κλινική πράξη, όσοι συμμετέχουν στον σχεδιασμό και την εφαρμογή τους οφείλουν να εξετάσουν ένα θεμελιώδες ζήτημα: ποιος έχει το δικαίωμα να αποφασίζει πότε και με ποιον τρόπο θα ειπωθεί η ιστορία ενός επιζώντος;

Το ζήτημα έχει ιδιαίτερο βάρος, καθώς η ενδοοικογενειακή βία χαρακτηρίζεται συχνά από εξαναγκασμό και έλεγχο. Για ένα άτομο που βιώνει τέτοιου είδους βία, η δυνατότητα να αποφασίζει πότε, πώς και αν θα μιλήσει γι' αυτήν δεν μπορεί να αντιμετωπίζεται ως κάτι δευτερεύον.

Μείνετε σε επαφή μαζί μας:
Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook
Στο Twitter: Follow