Blog

Του Τάκη Μαραλέτου

Η τεχνητή νοημοσύνη δεν είναι πλέον ένα τεχνολογικό θέμα που αφορά μόνο τους ειδικούς, τις μεγάλες εταιρείες λογισμικού ή τα ερευνητικά εργαστήρια. Έχει ήδη μπει στη δημόσια διοίκηση, στην υγεία, στην εκπαίδευση, στην εργασία, στις επιχειρήσεις, στην ενημέρωση, στις ασφαλιστικές υπηρεσίες, στη φαρμακευτική πολιτική και στην καθημερινότητα του πολίτη.

Το ερώτημα, λοιπόν, δεν είναι αν θα χρησιμοποιηθεί. Αλλά πώς θα χρησιμοποιηθεί, από ποιους, με ποια ευθύνη, με ποια διαφάνεια και με ποια δυνατότητα ελέγχου.

Με αυτή την έννοια, το νέο νομοσχέδιο για την εφαρμογή του AI Act στην Ελλάδα δεν επιτρέπεται σε καμία περίπτωση να είναι ένα ακόμη τεχνικό κείμενο προσαρμογής σε έναν ευρωπαϊκό κανονισμό. Πρέπει να είναι η πρώτη σοβαρή προσπάθεια να δημιουργηθεί ένα οργανωμένο εθνικό πλαίσιο για την τεχνητή νοημοσύνη. Ένα πλαίσιο που θα πρέπει να προστατεύει τον πολίτη, αλλά ταυτόχρονα να μην πνίγει την καινοτομία. Να βάζει κανόνες, αλλά να μην παράγει μόνο γραφειοκρατία. Να ελέγχει κινδύνους, αλλά παράλληλα να επιτρέπει στη χώρα να αναπτύξει δική της τεχνογνωσία.

Στη χώρα μας πάντα αυτό είναι το δύσκολο σημείο. Η Ελλάδα δεν έχει καθόλου την πολυτέλεια να δει την τεχνητή νοημοσύνη μόνο αμυντικά. Δεν αρκεί να πούμε τι απαγορεύεται, τι ελέγχεται και ποιος επιβάλλει πρόστιμα. Χρειάζεται να απαντήσουμε στο ερώτημα αν και πού μπορεί η χώρα να δημιουργήσει αξία μέσα από την ΤΝ;

Η υγεία είναι ίσως το πιο χαρακτηριστικό παράδειγμα.

Στην υγεία, η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην πρόληψη, στη διάγνωση, στην παρακολούθηση χρονίως πασχόντων, στην καλύτερη χρήση δεδομένων, στη φαρμακευτική συμμόρφωση, στην οργάνωση των νοσοκομείων, στην ηλεκτρονική συνταγογράφηση, ακόμη και στην καλύτερη στόχευση δημόσιων πολιτικών. Ταυτόχρονα, όμως, είναι και ο τομέας όπου ένα λάθος μπορεί να έχει πολύ σοβαρές συνέπειες. Στην υγεία δε μιλάμε απλώς για δεδομένα αλλά για ασθενείς, αποφάσεις, ασφάλεια, εμπιστοσύνη.

Γι’ αυτό και το νομοσχέδιο πρέπει να διαβαστεί βεβαίως και νομικά, αλλά κυρίως  κοινωνικά και αναπτυξιακά. Ποιος θα γνωρίζει αν ένα σύστημα ΤΝ χρησιμοποιείται σε μια δημόσια υπηρεσία; Πώς θα μπορεί ο πολίτης να ζητήσει εξηγήσεις; Ποιος θα ελέγχει αν υπάρχει ανθρώπινη εποπτεία; Πώς θα διασφαλιστεί ότι ένα σύστημα που χρησιμοποιείται στην υγεία δεν αξιολογείται μόνο με όρους προστασίας δεδομένων, αλλά και με όρους ασφάλειας ασθενών, κλινικής λειτουργίας και πραγματικής επίπτωσης;

Στη δημόσια διαβούλευση κατέθεσα 25 επιμέρους παρεμβάσεις, ανά άρθρο, ακριβώς με αυτή τη λογική, να μη μείνει το πλαίσιο σε μια γενική θεσμική άσκηση, αλλά να αποκτήσει πρακτική αξία. Οι παρεμβάσεις αφορούν τη διαφάνεια, τη λογοδοσία, την τεχνική επάρκεια των αρχών, την αποφυγή σύγκρουσης ρόλων, το regulatory sandbox, τις δοκιμές σε πραγματικές συνθήκες, το Μητρώο συστημάτων ΤΝ του Δημοσίου, το Παρατηρητήριο ΤΝ, την προστασία όσων αναφέρουν παραβιάσεις και, βεβαίως, την υγεία.

Σε σχέση με την υγεία, οι προτάσεις είναι συγκεκριμένες.

Πρώτον, να υπάρξει ΥΠΟΧΡΕΩΤΙΚΑ ρητή συμμετοχή του Υπουργείου Υγείας και των εποπτευόμενων φορέων του στις διαδικασίες συνεργασίας με την ΑΠΔΠΧ και τις λοιπές αρχές. Δεν είναι δυνατόν ένα σύστημα ΤΝ που επηρεάζει πρόληψη, διάγνωση, θεραπεία, συνταγογράφηση ή διαχείριση ασθενών να αξιολογείται χωρίς ουσιαστική γνώση του συστήματος υγείας.

Δεύτερον, το ρυθμιστικό δοκιμαστήριο ΤΝ, το λεγόμενο sandbox, πρέπει να έχει ειδική θεματική διαδρομή για εφαρμογές υγείας. Η Ελλάδα μπορεί να γίνει χώρος υπεύθυνης δοκιμής και ανάπτυξης λύσεων ΤΝ στην υγεία, με συμμετοχή πανεπιστημίων, νοσοκομείων, ερευνητικών κέντρων, επιστημονικών εταιρειών, φορέων ασθενών και επιχειρήσεων. Όχι με ανεξέλεγκτους πειραματισμούς, αλλά με οργανωμένο πλαίσιο, ασφάλεια, δεοντολογία και τεχνική καθοδήγηση.

Τρίτον, το Μητρώο συστημάτων ΤΝ του Δημοσίου πρέπει να είναι πραγματικά δημόσιο ως προς τα βασικά στοιχεία του. Ο πολίτης πρέπει να μπορεί να γνωρίζει ποιος δημόσιος φορέας χρησιμοποιεί ένα σύστημα ΤΝ, για ποιον σκοπό, σε ποιον τομέα, με ποια κατηγορία κινδύνου και αν υπάρχει ανθρώπινη εποπτεία. Ιδίως στην υγεία, η διαφάνεια δεν είναι σε καμία περίπτωση πολυτέλεια. Είναι βασική προϋπόθεση εμπιστοσύνης.

Τέταρτον, το Παρατηρητήριο ΤΝ δεν πρέπει να περιοριστεί σε γενικές αναφορές. Πρέπει να παρακολουθεί πού χρησιμοποιείται η τεχνητή νοημοσύνη, σε ποιους τομείς, με ποια αποτελέσματα, με ποιες καταγγελίες, με ποιες ανάγκες δεξιοτήτων και με ποιες ευκαιρίες για την οικονομία. Η υγεία πρέπει να είναι διακριτή προτεραιότητα σε αυτή την παρακολούθηση.

Πέμπτον, οι ψηφιακές υποδομές υγείας, όπως η ΗΔΥΚΑ, χρειάζονται σταθερή τεχνική στελέχωση. Δεν μπορεί η ψηφιακή υγεία και πολύ περισσότερο η μελλοντική αξιοποίηση της τεχνητής νοημοσύνης να στηρίζεται διαρκώς σε προσωρινές λύσεις, παρατάσεις συμβάσεων και αποσπασματική τεχνική επάρκεια.

Υπάρχει και ένα ακόμη κρίσιμο ζήτημα. Ποιος θα ελέγχει την τεχνητή νοημοσύνη και με ποια γνώση;

Η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα έχει προφανώς κεντρικό ρόλο. Η τεχνητή νοημοσύνη αγγίζει προσωπικά δεδομένα και θεμελιώδη δικαιώματα. Όμως η ΤΝ δεν αφορά μόνο στην ιδιωτικότητα και στην προστασία των προσωπικών δεδομένων. Περιλαμβάνει λογισμικό, δεδομένα, αλγόριθμους, κυβερνοασφάλεια, ανθρώπινη εποπτεία, λειτουργικούς κινδύνους, κλινική πρακτική, εκπαιδευτική διαδικασία, διοικητικές αποφάσεις. Γι’ αυτό χρειάζεται καθαρός διαχωρισμός ρόλων και όχι υπερσυγκέντρωση αρμοδιοτήτων στην ίδια αρχή.

Άλλος είναι ο ρόλος της εποπτείας, άλλος της αξιολόγησης συμμόρφωσης, άλλος της τεχνικής γνωμοδότησης και άλλος της επιβολής κυρώσεων. Αν αυτά μπερδευτούν, το αποτέλεσμα δεν θα είναι ισχυρότερη εποπτεία. Θα είναι σύγχυση, καθυστερήσεις και πιθανή αμφισβήτηση της αξιοπιστίας του συστήματος.

Το ίδιο ισχύει και για την παιδεία. Η τεχνητή νοημοσύνη θα αλλάξει τον τρόπο με τον οποίο μαθαίνουν οι μαθητές, δουλεύουν οι εκπαιδευτικοί, αξιολογούνται οι επιδόσεις, σχεδιάζονται τα εκπαιδευτικά εργαλεία. Αν δεν υπάρξει πλαίσιο διαφάνειας και ανθρώπινης εποπτείας, η τεχνολογία μπορεί εύκολα να γίνει μηχανισμός άνισης μεταχείρισης ή αδιαφανούς αξιολόγησης. Αν, όμως, υπάρξει σωστό πλαίσιο, μπορεί να γίνει εργαλείο εξατομικευμένης μάθησης, υποστήριξης του εκπαιδευτικού και καλύτερης πρόσβασης στη γνώση.

Το ζητούμενο, λοιπόν, δεν είναι να φοβηθούμε την τεχνητή νοημοσύνη. Το ζητούμενο είναι να την οργανώσουμε ταχύτατα όσο πιο σωστά μπορούμε.

Να ξέρουμε πού χρησιμοποιείται. Να ξέρουμε ποιος ευθύνεται. Να ξέρουμε ποια δεδομένα αξιοποιούνται. Να ξέρουμε πότε απαιτείται ανθρώπινη παρέμβαση. Να υπάρχει δικαίωμα καταγγελίας, επανεξέτασης και ελέγχου. Να υπάρχουν ειδικοί που καταλαβαίνουν την τεχνολογία και όχι μόνο τη νομοθεσία. Να υπάρχουν δημόσιοι φορείς που μπορούν να εφαρμόσουν τους κανόνες και όχι απλώς να τους αναρτήσουν σε μία πλατφόρμα.

Η Ελλάδα έχει μπροστά της μία ΜΕΓΑΛΗ ευκαιρία. Να μην αντιμετωπίσει το AI Act ως υποχρέωση συμμόρφωσης προς την Ευρώπη, αλλά ως αφορμή για να χτίσει ένα σοβαρό οικοσύστημα τεχνητής νοημοσύνης. Με προστασία δικαιωμάτων, με αναπτυξιακή λογική, με τεχνική επάρκεια, με ειδική έμφαση στην υγεία και στην παιδεία, με συμμετοχή της αγοράς και της ακαδημαϊκής κοινότητας, αλλά και με πραγματική λογοδοσία απέναντι στον πολίτη.

Η τεχνητή νοημοσύνη δεν θα περιμένει τη δημόσια διοίκηση να ωριμάσει. Κάθε μέρα προχωρά με τεράστια άλματα. Το ζήτημα είναι αν η Πολιτεία θα προλάβει να βάλει σωστούς και δίκαιους κανόνες, τι απαραίτητες δομές οργανωμένες, στελεχωμένες και διασυνδεδεμένες σωστά, και τα σωστά στελέχη σε κάθε θέση που μπορούν να τη διαχειριστούν.

Στο τέλος, το μεγάλο ερώτημα δεν είναι αν θα έχουμε τεχνητή νοημοσύνη στην Ελλάδα. Σαφώς και θα έχουμε.

Θα μπορούμε όμως να τη διαχειριστούμε σε ένα δυναμικό αναπτυξιακό πλαίσιο ευημερίας για όλους με εμπιστοσύνη; Αν ναι θα είναι καταπληκτικό για τη χώρα μας και για μας τους ίδιους. Αν όχι θα έχουμε χάσει μια τεράστια ευκαιρία που θα μας αφήσει συνολικά πίσω στους ουραγούς.

Πηγή: dailypharmanews.gr