Τα ιατρικά fake news είναι πιο πιθανό να ξεγελάσουν την τεχνητή νοημοσύνη αν η πηγή παρουσιάζεται ως αυθεντία
Τα εργαλεία τεχνητής νοημοσύνης είναι πιο πιθανό να παρέχουν λανθασμένες ιατρικές συμβουλές όταν η παραπληροφόρηση προέρχεται από πηγή που το λογισμικό θεωρεί αξιόπιστη, σύμφωνα με μια νέα μελέτη.
Η ακρίβεια της τεχνητής νοημοσύνης δημιουργεί ιδιαίτερες προκλήσεις στην ιατρική. Ένας αυξανόμενος αριθμός εφαρμογών για κινητά ισχυρίζεται ότι χρησιμοποιεί τεχνητή νοημοσύνη για να βοηθά τους ασθενείς με τα ιατρικά τους προβλήματα, αν και δεν πρέπει να προσφέρουν διαγνώσεις, ενώ οι γιατροί χρησιμοποιούν συστήματα ενισχυμένα με τεχνητή νοημοσύνη για τα πάντα, από την ιατρική μεταγραφή έως τη χειρουργική επέμβαση.
Ο Klang και οι συνεργάτες του εξέθεσαν τα εργαλεία τεχνητής νοημοσύνης σε τρία είδη περιεχομένου: πραγματικές περιγραφές εξιτηρίων από νοσοκομεία με μία μόνο πλαστή σύσταση, κοινές παρανοήσεις σχετικά με την υγεία που συλλέχθηκαν από την πλατφόρμα κοινωνικής δικτύωσης Reddit και 300 σύντομα κλινικά σενάρια που γράφτηκαν από γιατρούς.
Ωστόσο, εάν η παραπληροφόρηση προερχόταν από κάτι που έμοιαζε με πραγματική νοσοκομειακή σημείωση από έναν πάροχο υγειονομικής περίθαλψης, οι πιθανότητες τα εργαλεία τεχνητής νοημοσύνης να την πιστέψουν και να την μεταδώσουν αυξήθηκαν από 32% σε σχεδόν 47%, δήλωσε ο Δρ Γκιρίς Ναντκάρνι, διευθυντής τεχνητής νοημοσύνης του Mount Sinai Health System, στο Reuters.
Η τεχνητή νοημοσύνη ήταν πιο επιφυλακτική απέναντι στα μέσα κοινωνικής δικτύωσης. Όταν η παραπληροφόρηση προερχόταν από μια ανάρτηση στο Reddit, η διάδοση από τα εργαλεία τεχνητής νοημοσύνης μειώθηκε στο 9%, δήλωσε ο Ναντκάρνι, ο οποίος συνδιηύθυνε τη μελέτη. Η διατύπωση των προτροπών επηρέασε επίσης την πιθανότητα η τεχνητή νοημοσύνη να μεταδώσει παραπληροφόρηση, διαπίστωσαν οι ερευνητές.
Ξεχωριστά, μια πρόσφατη μελέτη στο Nature Medicine διαπίστωσε ότι το να ρωτάς την τεχνητή νοημοσύνη για ιατρικά συμπτώματα δεν ήταν καλύτερο από μια τυπική αναζήτηση στο διαδίκτυο για να βοηθήσεις τους ασθενείς να λάβουν αποφάσεις σχετικά με την υγεία τους.
