Μπορούμε να εμπιστευόμαστε τις απαντήσεις των εφαρμογών τεχνητής νοημοσύνης όταν αναζητούμε πληροφορίες για την υγεία μας; Νέα πανεπιστημιακή έρευνα προειδοποιεί ότι ορισμένες πηγές που προτείνονται ενδέχεται να εξυπηρετούν εμπορικά συμφέροντα.

Μια νέα μελέτη του Πανεπιστημίου Simon Fraser στον Καναδά φέρνει στο προσκήνιο ένα σημαντικό ζήτημα σχετικά με τη χρήση των συστημάτων τεχνητής νοημοσύνης για ιατρική ενημέρωση.

Οι ερευνητές εξέτασαν τις απαντήσεις έξι δημοφιλών chatbots, μεταξύ των οποίων τα ChatGPT, Claude και Gemini, σε ερωτήσεις για ασθένειες και θεραπείες με βλαστοκύτταρα.

Τα αποτελέσματα έδειξαν ότι ένα αξιοσημείωτο ποσοστό των πηγών που παρέθεταν τα συστήματα προερχόταν από ιδιωτικές επιχειρήσεις οι οποίες πωλούν ιατρικές υπηρεσίες.

Σχεδόν μία στις τέσσερις πηγές ήταν εμπορική

Συνολικά πραγματοποιήθηκαν 540 ερωτήματα και συγκεντρώθηκαν 5.025 σύνδεσμοι προς πληροφοριακές πηγές.

Από αυτούς, το 23,4% προερχόταν από κερδοσκοπικές επιχειρήσεις παροχής ιατρικών υπηρεσιών.

Η έρευνα επικεντρώθηκε σε ερωτήσεις για τη νόσο Αλτσχάιμερ, τον αυτισμό και την εγκεφαλική παράλυση, ιδιαίτερα σε σχέση με θεραπείες βλαστοκυττάρων.

Οι επιστήμονες διαπίστωσαν ότι ορισμένες από τις προτεινόμενες πηγές προωθούσαν παρεμβάσεις χωρίς επαρκή επιστημονική τεκμηρίωση.

Γιατί χρειάζεται προσοχή

Ένα σύστημα τεχνητής νοημοσύνης μπορεί να παρουσιάσει πληροφορίες με πειστικό τρόπο, ακόμη και όταν η πηγή τους δεν είναι ανεξάρτητη ή αξιόπιστη.

Το πρόβλημα γίνεται σοβαρότερο όταν οι πληροφορίες αφορούν ασθενείς ή οικογένειες που αναζητούν επειγόντως λύσεις για δύσκολα προβλήματα υγείας.

Οι ερευνητές επισημαίνουν ότι οι χρήστες πρέπει να εξετάζουν ποιος βρίσκεται πίσω από κάθε σύνδεσμο και ποιο είναι το πιθανό οικονομικό του συμφέρον.

Χρήσιμο εργαλείο, όχι υποκατάστατο γιατρού

Η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην κατανόηση ιατρικών όρων και στην προετοιμασία ερωτήσεων για έναν γιατρό.

Δεν μπορεί, ωστόσο, να υποκαταστήσει την εξατομικευμένη ιατρική αξιολόγηση.

Το βασικό μήνυμα της έρευνας είναι ότι η ευκολία πρόσβασης στην πληροφορία πρέπει να συνοδεύεται από κριτική σκέψη και έλεγχο της επιστημονικής αξιοπιστίας των πηγών.

Πηγές: Simon Fraser University, BMJ Connections Digital Health & AI