Στο νέο μέλλον που προδιαγράφεται από τη χρήση των εφαρμογών Τεχνητής Νοημοσύνης (ΑΙ) στον τομέα της υγείας αναφέρεται στη συνέντευξή της στο περιοδικό «Στα Χρώματα του Διαβήτη» η Δρ. Βασιλική Μολλάκη, Επιστημονική Συνεργάτιδα της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής και του AIPoliteiaLab, του ΕΚΕΦΕ Δημόκριτος. Η κυρία Μολλάκη παραθέτει τις πιθανές εφαρμογές και τα αδιαμφισβήτητα, πολλαπλά οφέλη αυτών των συστημάτων για τους ασθενείς, με κυριότερα την ακρίβεια στις διαγνώσεις και την εξατομίκευση στις θεραπευτικές αποφάσεις, αλλά και τους κινδύνους που μπορεί να υπάρξουν από τη χρήση τους στην καθημερινή ιατρική πράξη. Κίνδυνοι πρακτικοί και ηθικοί, που θα πρέπει σίγουρα να αναγνωριστούν και να αντιμετωπιστούν, τονίζει.
Ποιες είναι σήμερα οι εφαρμογές της ΑΙ, στον τομέα της υγείας;
Οι εφαρμογές της τεχνητής νοημοσύνης στον τομέα της υγείας μπορούν να κατηγοριοποιηθούν ανάλογα με τον σκοπό τους. Οι δυνατότητες που υπάρχουν στη λειτουργία των αλγορίθμων είναι ατελείωτες. Έτσι, υπάρχουν για παράδειγμα εφαρμογές και συστήματα ΑΙ που ως στόχο έχουν να ανακαλύψουν νέα φάρμακα ή να συνθέσουν νέα μόρια με φαρμακευτικές ιδιότητες, αλλά και συστήματα που στοχεύουν στην πιο έγκαιρη και έγκυρη διάγνωση ασθενειών. Άλλα συστήματα ΑΙ συνδυάζουν διάφορα δεδομένα, όπως γενετικά, περιβαλλοντικούς παράγοντες και δεδομένα του τρόπου ζωής και μπορούν να χρησιμοποιηθούν στη λήψη θεραπευτικών αποφάσεων υποβοηθώντας το γιατρό, αλλά και συστήματα παρακολούθησης ασθενών εξ αποστάσεως. Υπάρχουν όμως και ρομποτικά συστήματα (chatbots) που μπορούν να βοηθήσουν στην περίθαλψη των ασθενών, να κυκλοφορούν ανάμεσα στους ασθενείς και να τους βοηθούν π.χ. να πάρουν τα φάρμακά τους. Τέτοια πειραματικά μοντέλα έχουν δοκιμαστεί σε οίκους ευγηρίας στο εξωτερικό.
Τέλος, υπάρχουν συστήματα που μπορούν να βοηθήσουν στο management της υγειονομικής περίθαλψης, ώστε η διαχείριση των ασθενών να είναι ταχύτερη, πιο αποτελεσματική και με λιγότερη γραφειοκρατία.
Θα μπορούσε η ΤΝ να αποτελέσει λύση στην Ελλάδα, όπου υπάρχει έλλειψη νοσηλευτικού προσωπικού;
Όπως ανέφερα παραπάνω, κάποια συστήματα ΑΙ έχουν τη δυνατότητα να συνεπικουρούν το νοσηλευτικό προσωπικό. Ωστόσο, για να φτάσουμε σε σημείο να έχουμε εφαρμογές ή συστήματα ΑΙ στην καθημερινή κλινική πράξη ως νοσηλευτικό προσωπικό, απαιτούνται δοκιμασίες, ώστε να εξασφαλίσουμε επίπεδα ασφάλειας. Είναι σημαντικό να τονιστεί ότι το νοσηλευτικό προσωπικό δεν εκτελεί απλά διεργασίες για την φροντίδα και τη θεραπεία των ασθενών, αλλά επικοινωνεί και δρα έχοντας ενσυναίσθηση για τους ασθενείς. Όσο και αν προσπαθήσουμε να εκπαιδεύσουμε τους αλγορίθμους, ώστε να καταλαβαίνουν από τις εκφράσεις του προσώπου τα ανθρώπινα συναισθήματα, οι διεργασίες που θα γίνονται εντός του συστήματος ΑΙ θα είναι μηχανικές.
Η ενσυναίσθηση είναι χαρακτηριστικό του ανθρώπου και μόνο.
Υπάρχει κίνδυνος εκτοπισμού του ανθρώπου, λόγω της χρήσης της ΑΙ; Σε ποιες ειδικότητες;
Θεωρώ ότι όσο πιο πολλή εξειδίκευση υπάρχει σε ένα επάγγελμα, τόσο πιο δύσκολο θα είναι να αντικατασταθεί από την ΑΙ. Μελλοντικά, είναι πιθανότερο τα συστήματα ΑΙ να υποστηρίζουν τους εξειδικευμένους επαγγελματίες κάνοντάς τους ακόμα καλύτερους. Για παράδειγμα, η τελική απόφαση που ένας γιατρός θα πρέπει να πάρει για ένα θεραπευτικό σχήμα ή για μία διάγνωση μπορεί να υποστηρίζεται από την πρόταση που κάνει ένα σύστημα ΑΙ, αλλά το σύστημα δρα υποστηρικτικά στην κρίση του ιατρού, δεν την αντικαθιστά.
Αντιθέτως, τα συστήματα ΑΙ που έχουν να κάνουν με αυτοματισμούς και χρησιμοποιούνται στη βιομηχανία, μπορεί να οδηγήσουν στη μείωση θέσεων εργασίας ανειδίκευτων εργατών, καθώς ένα ρομποτικό χέρι μπορεί σχετικά εύκολα και με ασφάλεια να κάνει την επαναλαμβανόμενη κίνηση που κάνει ένας εργαζόμενοςσε μία γραμμή παραγωγής. Αλλά και εκεί, προκειμένου να αποφύγουμε τη μείωση θέσεων εργασίας, θα πρέπει να σκεφτούμε λύσεις, όπως π.χ. να εκπαιδεύσουμε τους εργαζόμενους να επιβλέπουν αυτά τα συστήματα, δημιουργώντας έναν νέο τομέα, όπου θα μπορούσαν να απασχοληθούν αυτοί οι άνθρωποι.
Ποια είναι τα ηθικά ζητήματα/ διλήμματα που προκύπτουν από τη χρήση της ΑΙ;
Τα ηθικά διλήμματα έχουν να κάνουν κυρίως με το πώς λειτουργούν τα συστήματα ΑΙ:
Οι αλγόριθμοι, για να λειτουργήσουν, χρειάζονται πολύ μεγάλο όγκο δεδομένων (bigdata) π.χ. βιολογικά, βιοχημικά, γενετικά, δεδομένα του τρόπου ζωής, όμως από αυτή τη χρήση δεδομένων, υπάρχει ο κίνδυνος διαρροής ή μη τήρησης του απορρήτου. Δεν θα πρέπει να ξεχνάμε ότι οι πληροφορίες που αφορούν στην υγεία μας είναι ευαίσθητες και χρήζουν ιδιαίτερης προστασίας.
Επίσης, τα συστήματα ΑΙ χρησιμοποιούν δεδομένα, τα οποία επεξεργάζονται προκειμένου να καταλήξουν σε ένα συμπέρασμα. Αν όμως τα δεδομένα με τα οποία εκπαιδεύτηκαν οι αλγόριθμοι είναι αναξιόπιστα ή περιέχουν μεροληψίες (π.χ. δεδομένα για μια ασθένεια που αφορούν μόνο τον λευκό πληθυσμό), τότε το σύστημα δεν θα μπορέσει να βγάλει ασφαλή και έγκυρα συμπεράσματα για το σύνολο του πληθυσμού. Έτσι, μπορεί να ληφθούν λανθασμένες αποφάσεις. Αυτό είναι ένα από τα σοβαρότερα προβλήματα που έχουν τα περισσότερα συστήματα ΑΙ: Ναι μεν ξεκινάνε με μεγάλα σύνολα δεδομένων, όμως τα δεδομένα είτε δεν είναι αξιόπιστα είτε δεν είναι συμπεριληπτικά.
Ένα ακόμη θέμα που προκύπτει από τη χρήση της ΑΙ στη λήψη των θεραπευτικών αποφάσεων, είναι το ποιος αναλαμβάνει την ευθύνη σε περίπτωση λάθους. Πάντα στην υγεία, την ευθύνη των αποφάσεων θα την έχουν οι άνθρωποι και κυρίως το ιατρικό προσωπικό και ειδικότερα ο θεράπων ιατρός. Σκοπός των συστημάτων αυτών είναι να υποβοηθούν στη διάγνωση και όχι να αντικατασταθεί η επιστημοσύνη των ιατρών.
Tέλος, με τα συστήματα ΑΙ είναι κάποιες φορές δύσκολο να γνωρίζουμε με ποιον τρόπο το σύστημα καταλήγει σε κάποια συγκεκριμένη απόφαση (φαινόμενο blackbox). Αυτό δημιουργεί ζητήματα επεξηγησιμότητας. Το πώς δηλαδή ο γιατρός μπορεί ο ίδιος να κατανοεί αλλά και να μπορεί να εξηγεί στον ασθενή πώς λήφθηκε η συγκεκριμένη απόφαση.
Συμφωνείτε ότι η χρησιμότητά της ΑΙ αναδεικνύεται τεράστια στην έγκαιρη διάγνωση και στην Ιατρική Ακριβείας;
Ήδη στη διάγνωση που βασίζεται σε απεικονιστικές μεθόδους, υπάρχουν δεδομένα και μελέτες που δείχνουν ότι τα συστήματα ΑΙ μπορούν να οδηγήσουν στη διάγνωση, πολύ νωρίτερα από ό,τι μπορεί να το κάνει ο ανθρώπινος νους, εξαιτίας της υπολογιστικής ικανότητας που διαθέτουν.
Αντίστοιχα, στην Ιατρική Ακριβείας, επειδή έχουμε μεγάλο όγκο γενετικών δεδομένων, βιοχημικών δεδομένων και δεδομένων συμπεριφοράς που πρέπει να συνδυαστούν, είναι πολύ πιο εύκολο αυτό να το κάνει ένας αλγόριθμος, παρά ένας άνθρωπος με τις απλές στατιστικές μεθόδους που έχουμε στη διάθεσή μας.
Τα οφέλη μπορεί να είναι πολύ μεγάλα, ειδικά σε θεραπευτικές επιλογές για κληρονομικούς καρκίνους, όπου το γενετικό υπόβαθρο παίζει πολύ μεγάλο ρόλο. Και πάλι όμως, τα συστήματα αυτά θα πρέπει να τα δούμε ως υποστηρικτικά στις τελικές κλινικές αποφάσεις, οι οποίες θα πρέπει να λαμβάνονται από τον θεράποντα ιατρό.
H AI διαταράσσει τη σχέση γιατρού-ασθενούς;
Αναμφισβήτητα, με την ενσωμάτωση της ΑΙ στην υγεία, η σχέση γιατρού-ασθενούς θα αλλάξει, δεδομένου ότι μπαίνει ένα νέο στοιχείο, τη λειτουργία του οποίου δεν μπορεί να κατανοήσει ούτε ο ασθενής και ίσως, ούτε και ο ίδιος ο γιατρός.
Πρώτα από όλα, θα αλλάξει η διαδικασία συναίνεσης του ασθενούς, αφού προστίθεται ένα έξτρα επίπεδο πληροφοριών για το οποίο θα πρέπει να μάθουν αρκετά οι ασθενείς προκειμένου να συναινέσουν. Και βέβαια, δεν θα πρέπει να ξεχνάμε ότι και οι ίδιοι οι γιατροί πρέπει να εκπαιδευτούν σε αυτά τα συστήματα,για το πώς θα τα ενσωματώσουν στην καθημερινή κλινική πράξη. Επομένως, τα συστήματα αυτά αναμένεται να διαταράξουν τη ροή εργασιών σε ένα ιατρείο, μια κλινική.
Τα συστήματα ΑΙ μπορεί να μειώσουν το χρόνο που ένας γιατρός αφιερώνει σε έναν ασθενή, αλλάζοντας τη μεταξύ τους σχέση, τόσο ποιοτικά, όσο και ποσοτικά. Μελέτες έχουν δείξει ότι τα συστήματα ηλεκτρονικού φακέλου που έχουν προσπαθήσει να εντάξουν στα συστήματα υγείας προηγμένες χώρες, διαταράσσουν τη ροή εργασιών όταν ο γιατρός βρίσκεται με τον ασθενή, γιατί ο γιατρός έχει στον νου του να συμπληρώσει τα στοιχεία του ηλεκτρονικού φακέλου, με αποτέλεσμα να έχει λιγότερη βλεμματική επαφή με τον ασθενή. Ακόμη και κάτι τόσο απλό διαταράσσει τη σχέση ιατρού-ασθενούς, πόσο μάλλον όταν ο ιατρός θα πρέπει να κάνει χρήση ενός συστήματος ΑΙ και να αποφασίζει για θέματα υγείας υποβοηθούμενος από ένα τέτοιο σύστημα.
Αναμένεται η χρήση της ΑΙ να αυξήσει ή να μειώσει το κόστος των υπηρεσιών;
Η απάντηση είναι διττή. Το βέβαιο είναι, πως όσα περισσότερα δεδομένα έχουμε και όσο καλύτερα εκπαιδεύουμε τους αλγορίθμους με αξιόπιστα και συμπεριληπτικά δεδομένα, θα έχουμε πιο γρήγορα διαγνώσεις και εξατομικευμένα (tailor-made) θεραπευτικά σχήματα που μακροπρόθεσμα θα μειώσουντο κόστος κάποιων υπηρεσιών. Αυτό συμβαίνει άλλωστε με κάθε νέα τεχνολογία, της οποίας το κόστος σταδιακά μειώνεται όταν παράγεται και χρησιμοποιείται ευρέως.
Όμως, υπάρχει και η πιθανότητα, τουλάχιστον στον ιδιωτικό τομέα, να δούμε τη χρήση της ΑΙ ως μια πρόσθετη υπηρεσία υγείας, π.χ. ένας ασθενής να πρέπει να πληρώσει έξτρα χρήματα για τη χρήση της ΑΙ στη διαδικασία της διάγνωσης.
Θα αντικαταστήσει την ιατρική φροντίδα, όπως τη γνωρίζουμε έως σήμερα ή απλώς θα τη μετασχηματίσει;
Θεωρώ ότι οι επαγγελματίες υγείας και ειδικότερα οι γιατροί είναι αναντικατάστατοι σε αυτό που κάνουν. Στοιχεία, όπως η επιστημοσύνη τους και η εμπειρία τους, δεν μπορούν να αντικατασταθούν.
Μπορεί βέβαια σε έναν βαθμό η ιατρική φροντίδα να μετασχηματιστεί, με την έννοια ότι κάποιες διεργασίες μπορούν να γίνονται πιο γρήγορα και οι αποφάσεις των γιατρών να στηρίζονται στην ανάλυση νέων δεδομένων που θα κάνει το σύστημα της ΑΙ.
Τρεις στους τέσσερεις ασθενείς σήμερα, δηλώνουν ότι δεν εμπιστεύονται την ΑΙ σε περιβάλλον παροχής ιατρικής φροντίδας. Αυτό αναμένεται να αλλάξει;
Η εμπιστοσύνη των ασθενών στα συστήματα ΑΙ μπορεί να αλλάξει, αν υπάρξει μεγαλύτερη ενημέρωση. Και είναι σημαντικό να ενισχυθεί η εμπιστοσύνη, επειδή τα οφέλη από την χρήση της ΑΙ στον τομέα της υγείας είναι αναμφισβήτητα πολλά.
Για παράδειγμα, μέσα από απεικονιστικές μεθόδους και συστήματα ΑΙ, μπορούμε να κάνουμε πιο έγκαιρη και στοχευμένη διάγνωση και να ανακαλύψουμε νέες θεραπείες ή να σχεδιάσουμε νέα θεραπευτικά μόρια.
Με την ΑΙ είναι δυνατόν να οργανωθούν καλύτερα οι κλινικές δοκιμές, ενδεχομένως να αντιμετωπιστεί η έλλειψη προσωπικού ως ένα τουλάχιστον βαθμό, όπωςαναφέραμε νωρίτερα, ενώ μπορεί να ενισχυθεί και το δικαίωμα στην υγεία για άτομα που ζουν σε απομακρυσμένες περιοχές, καθώς με τα συστήματα ΑΙ μπορούν αυτοί οι ασθενείςνα παρακολουθούνται από απόσταση και να έχουν πρόσβαση σε καλύτερη περίθαλψη.
Βέβαια, όλα αυτά τα οφέλη θα τα αποκομίσουμε εφόσον πληρούνται κάποιες προϋποθέσεις. Και εδώ μπαίνει η Ηθική και Δεοντολογία.
Υπάρχουν ορισμένες βασικές αρχές που οφείλουμε να ακολουθούμε κατά τον σχεδιασμό, τη δοκιμή και τη χρήση των συστημάτων ΑΙ, προκειμένου να εξασφαλίσουμε μόνο τα οφέλη για τους ασθενείς και να αποφύγουμε τους κινδύνους. Μεταξύ άλλων, τέτοιες αρχές είναι:
* Η αρχή της αυτονομίας, βάσει της οποίας οι ασθενείς έχουν δικαίωμα να ενημερώνονται για το πώς λειτουργεί το σύστημα ΑΙ που χρησιμοποιείται στην παροχή υπηρεσιών υγείας.
* Η αρχή της επεξηγησιμότητας: Θα πρέπει να είναι σαφές το πώς λαμβάνονται οι αποφάσεις από το σύστημα ΑΙ.
* Η αρχή της μη βλάβης, που επιτάσσει ότι όλα αυτά τα συστήματα θα πρέπει να ελεγχθούν για πιθανούς κινδύνους που ενέχουν, πριν χρησιμοποιηθούν στο χώρο της υγείας, π.χ. αν υπάρχει ο κίνδυνος μεροληψίας ή διαρροής δεδομένων. Με άλλα λόγια, απαιτείται εκτίμηση των πιθανών κινδύνων πριν τη χρήση τους αλλά και λήψη μέτρων, προκειμένου να αποφύγουμε ή να ελαχιστοποιήσουμε τους κινδύνους.
Αν, για παράδειγμα, εντοπίζουμε κίνδυνο διαρροής δεδομένων, πρέπει να πάρουμε μέτρα, τεχνικά ή οργανωτικά, για την καλύτερη προστασία των δεδομένων.
Αν το σύστημα λειτουργεί ως blackbox και δεν κατανοεί ούτε ο γιατρός ούτε ο ασθενής πώς λαμβάνονται οι αποφάσεις, πρέπει να ληφθούν μέτρα, ώστε να εξηγηθούν καλύτερα οι διεργασίες που επιτελεί ο αλγόριθμος.
Ακριβώς επειδή υπάρχουν οι κίνδυνοι που συζητήσαμε, για να εξασφαλιστεί ισορροπία ωφελειών και κινδύνων σε ευρωπαϊκό επίπεδο, δημιουργήθηκε και ψηφίστηκε πρόσφατα ο Ευρωπαϊκός κανονισμός για την Τεχνητή Νοημοσύνη (ΑΙ Act) έπειτα από διεργασίες τριών ετών, ο οποίος στοχεύει να εξασφαλίσει ότι η ανάπτυξη και χρήση συστημάτων ΑΙ θα είναι ασφαλής και θα σέβεται τα θεμελιώδη ανθρώπινα δικαιώματα.
Στην ουσία, πρόκειται για το πρώτο νομικό πλαίσιο που προστατεύει τους χρήστες αυτών των συστημάτων, γιατρούς και ασθενείς στην προκειμένη περίπτωση, ενώ θέτει και τις προϋποθέσεις για όσους αναπτύσσουν αυτά τα συστήματα ΑΙ.
