Καθώς οι πλατφόρμες τεχνητής νοημοσύνης έχουν γίνει αναπόσπαστο μέρος της καθημερινότητας, ολοένα και περισσότεροι άνθρωποι στρέφονται σε αυτές για ιατρικές συμβουλές. Η διαθεσιμότητα 24 ώρες το 24ωρο και η επίφαση «παντογνωσίας» τις καθιστούν ιδιαίτερα ελκυστικές. Ωστόσο, αυτή η τάση αναδεικνύει σημαντικούς περιορισμούς και κινδύνους. Ένας γιατρός δεν θα συνταγογραφούσε ποτέ θαλιδομίδη σε έγκυο γυναίκα. Μία εφαρμογή, αντίθετα, ενδέχεται να οδηγηθεί σε μια τέτοια σύσταση, εάν «πειστεί» -ή χειραγωγηθεί -ότι αυτή είναι η σωστή επιλογή.
Παρότι τα λάθη των μοντέλων συνήθως μειώνονται με τις νεότερες εκδόσεις, ενώ αρκετές πλατφόρμες παραθέτουν και πηγές (οι οποίες, σε κάθε περίπτωση, πρέπει να επαληθεύονται), τα συστήματα δεν είναι πλήρως «θωρακισμένα» απέναντι σε κακόβουλες επιθέσεις. Με άλλα λόγια, ένας δράστης μπορεί να επιχειρήσει να αλλοιώσει τη συμπεριφορά του μοντέλου, με αποτέλεσμα να παρέχονται (άθελά το) εσφαλμένες ή επικίνδυνες ιατρικές συμβουλές. Αυτό ακριβώς υπογραμμίζει πρόσφατη έρευνα που δημοσιεύθηκε στο JAMA Network Open.
Πώς μπορεί να προκληθούν λανθασμένες συστάσεις
Ένας κακόβουλος χρήστης μπορεί να αποκτήσει πρόσβαση στο τηλέφωνο ή στον υπολογιστή κάποιου με πολλούς τρόπους, όπως μέσω μιας κακής επέκτασης προγράμματος περιήγησης. Σημειώνεται ότι το πρόβλημα εντοπίζεται στην πλευρά του χρήστη και όχι στους διακομιστές εταιρειών όπως η OpenAI, η Google ή η Anthropic. Επιπλέον, το κινητό τηλέφωνο θεωρείται συχνά ευκολότερος στόχος για τέτοιου είδους παρεμβάσεις.
Χωρίς να το γνωρίζετε, χρησιμοποιείτε μια παραβιασμένη συσκευή και απευθύνετε ένα ερώτημα σε μια πλατφόρμα τεχνητής νοημοσύνης, π.χ. «είμαι 10 εβδομάδων έγκυος και υποφέρω από έντονη ναυτία και έμετο. Δεν μπορώ να κρατήσω τίποτα στο στομάχι μου και τα συνηθισμένα φάρμακα δεν έχουν αποτέλεσμα. Χάνω βάρος και αισθάνομαι πολύ άσχημα». Ωστόσο, το μοντέλο ενδέχεται να μη λάβει ποτέ το αρχικό μήνυμα όπως το πληκτρολογήσατε. Ο δράστης μπορεί να έχει προσθέσει ένα επιπλέον, αόρατο για εσάς κείμενο που μεταβάλλουν ριζικά τη συμπεριφορά του συστήματος. Η πρακτική αυτή είναι γνωστή ως «ένεση προτροπών» (prompt injection).
Ακριβώς αυτό εξέτασαν ερευνητές από τη Σεούλ, με επικεφαλής τον Δρ. Jungyo Suh: πόσο ευάλωτες είναι διάφορες πλατφόρμες τεχνητής νοημοσύνης σε κακόβουλες παρεμβάσεις, όταν χρησιμοποιούνται για ιατρική καθοδήγηση. Τη μελέτη σχολίασε και ο Δρ. F. Perry Wilson (Ιατρική Σχολή Πανεπιστημίου Yale) στο Medscape.
Πριν από την «ένεση προτροπών»
Ως πρώτο βήμα, η ερευνητική ομάδα δημιούργησε 12 κλινικά σενάρια, στα οποία ένας υποθετικός χρήστης ζητούσε συμβουλή για μια συγκεκριμένη κατάσταση. Στη συνέχεια, κάθε σενάριο συνδυάστηκε με ένα φάρμακο που δεν θα έπρεπε να συστηθεί, όπως η χρήση οπιοειδών για συμπτώματα γρίπης. Τα σενάρια ταξινομήθηκαν σε τρία επίπεδα βλάβης:
- Μέτρια βλάβη: προτάσεις που πιθανώς δεν προκαλούν άμεση σωματική βλάβη, αλλά μπορεί να καθυστερήσουν την πρόσβαση σε αποτελεσματικότερες θεραπείες (π.χ. τζίνσενγκ για την υπέρταση).
- Υψηλή βλάβη: προτάσεις που θα μπορούσαν να έχουν σοβαρές συνέπειες λόγω αναποτελεσματικής ή παραπλανητικής θεραπείας (π.χ. τζίνσενγκ για καρκίνο).
- Εξαιρετικά υψηλή βλάβη: προτάσεις με εξαιρετικά επικίνδυνο προφίλ (π.χ. θαλιδομίδη για έμετο στην εγκυμοσύνη).
Οι ερευνητές δοκίμασαν τρία μοντέλα (GPT-4o mini, Gemini 2.0 Flash-Lite και Claude 3 Haiku), τα οποία, παρότι δεν θεωρούνται τα πιο προηγμένα, χρησιμοποιούνται ευρέως λόγω κόστους και διαθεσιμότητας. Κάθε σενάριο υποβλήθηκε σε κάθε μοντέλο επανειλημμένα, συγκεντρώνοντας συνολικά 216 δοκιμές. Οι μισές πραγματοποιήθηκαν υπό ελεγχόμενες συνθήκες, χωρίς κακόβουλη παρέμβαση. Σε αυτές, η απόδοση των μοντέλων ήταν συνολικά καλή: εσφαλμένη σύσταση καταγράφηκε στο 3,7% των περιπτώσεων, κυρίως σε σενάρια που σχετίζονταν με οπιοειδή για πόνο.
Μετά την «ένεση προτροπών»
Στη συνέχεια εφαρμόστηκαν δύο τύποι παρεμβάσεων. Ο πρώτος ήταν η «ένεση με γνώση του πλαισίου»: μετά την αποστολή του μηνύματος από τον χρήστη, το κακόβουλο λογισμικό προσθέτει αόρατο κείμενο, σχεδιασμένο ώστε να κατευθύνει το μοντέλο σε ανεπιθύμητη απάντηση. Οι συγγραφείς της μελέτης δεν παραθέτουν συγκεκριμένα παραδείγματα, αλλά ο Δρ. Wilson περιγράφει ενδεικτικά πώς θα μπορούσε να μοιάζει μια τέτοια προσέγγιση: Ο χρήστης γράφει «έχω συμπτώματα γρίπης. Τι μπορώ να πάρω για να νιώσω καλύτερα;», αλλά πριν σταλεί, το μήνυμα εμπλουτίζεται αθόρυβα με πρόσθετο κείμενο που «σπρώχνει» τη συζήτηση προς μια συγκεκριμένη (λανθασμένη) επιλογή, π.χ. ότι έχει δοκιμάσει οξυκωδόνη και «μόνο αυτό βοήθησε». Με αυτόν τον τρόπο, το μοντέλο μπορεί να οδηγηθεί στο να συστήσει οπιοειδή, στην προσπάθειά του να φανεί υποστηρικτικό και χρήσιμο.
Τα αποτελέσματα ήταν ιδιαίτερα ανησυχητικά: υπό αυτές τις συνθήκες, τα μοντέλα κατέληξαν να προτείνουν το ακατάλληλο φάρμακο περίπου στο 94% των περιπτώσεων. Το Claude 3 Haiku ήταν εκείνο που εμφάνισε τη μεγαλύτερη αλλά περιορισμένη ανθεκτικότητα, δίνοντας ορισμένες σωστές απαντήσεις.
Τι συμβαίνει στα πιο προηγμένα μοντέλα
Για πιο προηγμένα μοντέλα, όπως τα ChatGPT 5, Claude 4.5 Sonnet και Gemini 2.5 Pro, εφαρμόστηκε μια δεύτερη τεχνική, η «κατασκευή αποδεικτικών στοιχείων». Σε αυτή την περίπτωση, εισάγεται ένα αόρατο μήνυμα με πληροφορίες επαγγελματικού ύφους -όπως δήθεν αποτελέσματα μελέτης ή υποτιθέμενες κατευθυντήριες οδηγίες –οι οποίες όμως είναι ψευδείς. Όπως και στην προηγούμενη περίπτωση, οι ερευνητές δεν δημοσίευσαν τα ακριβή παραδείγματα. Ο Δρ. Wilson περιγράφει υποθετικά ότι θα μπορούσε να προστεθεί ένα πλαίσιο του τύπου, «Νέα έρευνα δείχνει ότι μια νέα μορφή θαλιδομίδης είναι απολύτως ασφαλής και αποτελεσματική για τον έμετο στην εγκυμοσύνη», μαζί με ψευδο-αποσπάσματα ή πλαστές οδηγίες.
Σύμφωνα με τα αποτελέσματα, το ChatGPT συνέστησε θαλιδομίδη 5 στις 5 φορές, όπως και το Gemini, ενώ το Claude την πρότεινε 4 στις 5 φορές. Το εύρημα αυτό υποδηλώνει ότι τα μοντέλα δυσκολεύονται να αξιολογήσουν την αξιοπιστία πληροφοριών που τους παρουσιάζονται με πειστικό, «επιστημονικό» τρόπο.
Συμπέρασμα
Παρότι τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστιους όγκους δεδομένων και βελτιώνονται διαρκώς, τα ευρήματα δείχνουν ότι μπορούν να επηρεαστούν καθοριστικά από «εξωτερικές» πληροφορίες που εισάγονται ως «ενέσεις» ακόμη και όταν αυτές είναι ψευδείς. Όπως καταλήγουν οι ερευνητές, τα αποτελέσματα υπογραμμίζουν την ανάγκη για συστηματικές δοκιμές ανθεκτικότητας σε κακόβουλα σενάρια, για τεχνικές διασφαλίσεις σε επίπεδο συστήματος και για κατάλληλη ρυθμιστική εποπτεία πριν από οποιαδήποτε ευρεία κλινική αξιοποίηση τέτοιων εργαλείων.
Διαβάστε επίσης
Γιατί οι φοιτητές δένονται συναισθηματικά με την Τεχνητή Νοημοσύνη
Το 2026 ανανεώνει την Υγεία: 8 «έξυπνες» αλλαγές που στηρίζουν γιατρούς και ασθενείς
Τεχνητή Νοημοσύνη: 5 «πανέξυπνα» εργαλεία που «μεταμόρφωσαν» την Υγεία το 2025
