Challenges to Personal Data Protection in the Age of AI

Στις αρχές των ‘00s η αύξηση της δημοτικότητας του Διαδικτύου και η ψηφιοποίηση έφερε στο προσκήνιο ένα κρίσιμο θέμα: πως προστατεύονται τα προσωπικά δεδομένα κάθε πολίτη που δημοσιεύονται στο Internet και γενικότερα στα μέσα ψηφιακής επικοινωνίας.
Και δεν είναι τυχαίο ότι το 2006 το Συμβούλιο της Ευρώπης καθιέρωσε την 28η Ιανουαρίου ως «Ευρωπαϊκή Ημέρα Προστασίας Προσωπικών Δεδομένων» με στόχο την ευαισθητοποίηση των πολιτών σε ένα πολύ σημαντικό θέμα.
Σήμερα, 20 χρόνια μετά, το συγκεκριμένο θέμα δείχνει να είναι πιο κρίσιμο από ποτέ καθώς οι εξελίξεις που φέρνει η τεχνητή νοημοσύνη έχουν ως αποτέλεσμα ζητήματα όπως η διαφάνεια, οι αλγοριθμικές διακρίσεις αλλά και η αυξανόμενη εξάρτηση από αυτοματοποιημένα συστήματα να δημιουργούν ανησυχίες για το επίπεδο προστασίας των προσωπικών δεδομένων.
«Η βασική πρόκληση στην εποχή της τεχνητής νοημοσύνης είναι η ταχύτητα με την οποία αυτή ενσωματώνεται στην καθημερινή ζωή, συχνά χωρίς να είναι σαφές πώς λαμβάνονται οι αποφάσεις και ποιος φέρει την ευθύνη όταν κάτι πάει λάθος.
Συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται ήδη σε τομείς όπως η εργασία, η υγεία, η εκπαίδευση, η τραπεζική και οι δημόσιες υπηρεσίες, επηρεάζοντας άμεσα δικαιώματα αλλά και ευκαιρίες των πολιτών» σημειώνει στο CNN Greece, ο πρόεδρος της Αρχής Προστασίας Δεδομένων και επίτιμος αρεοπαγίτης, Γεώργιος Μπατζαλέξης.
Σύμφωνα με τον πρόεδρο της ΑΠΔ, οι ανησυχίες που υπάρχουν περιλαμβάνουν την έλλειψη διαφάνειας στους αλγορίθμους και τη δυσκολία κατανόησης του τρόπου λήψης αποφάσεων, τον κίνδυνο αλγοριθμικών διακρίσεων, όταν τα δεδομένα εκπαίδευσης είναι ελλιπή ή μεροληπτικά, την αυξανόμενη εξάρτηση από αυτοματοποιημένα συστήματα εις βάρος της ανθρώπινης κρίσης, αλλά και τη μαζική συλλογή και επεξεργασία τεράστιου όγκου προσωπικών δεδομένων, η οποία εγείρει ζητήματα ιδιωτικότητας.
«Για την Ελλάδα και την Κύπρο, οι προκλήσεις αυτές είναι πιο έντονες λόγω ανισοτήτων σε επίπεδο «ψηφιακής ωριμότητας» μεταξύ οργανισμών και πολιτών, περιορισμένης θεσμικής εμπειρίας στην αξιολόγηση σύνθετων αλγοριθμικών συστημάτων, του κινδύνου να υιοθετούνται τεχνολογίες χωρίς επαρκή έλεγχο, υπό την πίεση της «καινοτομίας» ή της αποδοτικότητας αλλά και της έλλειψης πόρων και εξειδικευμένου προσωπικού για την ανάπτυξη και εποπτεία των εφαρμογών τεχνητής νοημοσύνης» επισημαίνει ο κ. Μπατζαλέξης.
Προσωπικά δεδομένα και deepfakes
Η διαφάνεια και η αξιοπιστία είναι από τα θέματα που βρίσκονται ψηλά στη λίστα των ιθυνόντων. «Ένα από τα βασικά ζητήματα προβληματισμού είναι η εμπιστοσύνη στην τεχνολογία και στην πληροφορία.
Σε μια εποχή που τα όρια μεταξύ πραγματικού και συνθετικού περιεχομένου θολώνουν, θα πρέπει να υπάρχει όσο το δυνατόν μεγαλύτερη διαφάνεια αναφορικά με τη χρήση συστημάτων ΑΙ» επισημαίνει στο CNN Greece, ο Βασίλης Καρκατζούνης, Ειδικός Γραμματέας Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων στο υπουργείο Ψηφιακής Διακυβέρνησης.
«Στο επίκεντρο του προβληματισμού αυτού βρίσκονται τα deepfakes, δηλαδή οπτικοακουστικό περιεχόμενο που παράγεται ή τροποποιείται από τεχνητή νοημοσύνη και μοιάζει πειστικά με υπαρκτά πρόσωπα, γεγονότα ή τοποθεσίες, δημιουργώντας την ψευδή εντύπωση αυθεντικότητας. Πιστεύω ότι βρισκόμαστε μόνο στην αρχή σε ό,τι αφορά τις προκλήσεις για την αξιοπιστία της πληροφορίας, την προστασία των θεμελιωδών δικαιωμάτων και τη λειτουργία των δημοκρατικών θεσμών, σε ό,τι αφορά το θέμα αυτό και θα πρέπει να αναλάβουμε δράση το συντομότερο δυνατό» σπεύδει να προσθέσει ο κ. Καρκατζούνης, ο οποίος θεωρεί ότι βασικό ζητούμενο αποτελεί και η ενημέρωση και εκπαίδευση των ανθρώπων - χρηστών των εφαρμογών τεχνητής νοημοσύνης.
Από την άλλη πλευρά, θα πρέπει να επισημανθεί ότι τεχνητή νοημοσύνη χωρίς επαρκή και ποιοτικά δεδομένα δεν νοείται. «Συνεπώς η ορθή διακυβέρνηση και η διαθεσιμότητα των δημόσιων δεδομένων, πάντα με σεβασμό στο πλαίσιο για την προστασία προσωπικών δεδομένων, αποτελεί μία κομβικής σημασίας πρόκληση. Απαιτείται συλλογική και συστηματική εργασία για να αλλάξει η κουλτούρα ως προς τα δεδομένα του Δημοσίου, τα οποία, ιδίως στην εποχή της τεχνητής νοημοσύνης, θα πρέπει να αναγνωρίζονται ως κρίσιμος εθνικός πόρος και εργαλείο ανάπτυξης» σημειώνει ο κ. Καρκατζούνης.
Το ρυθμιστικό πλαίσιο
Ένα ερώτημα που υπάρχει αφορά το ρυθμιστικό πλαίσιο για την προστασία των προσωπικών δεδομένων σε αυτή την εποχή όπου η τεχνητή νοημοσύνη καλπάζει και υπάρχουν πιέσεις για «χαλάρωση» των κανονισμών προκειμένου να επιταχυνθεί η ανάπτυξη εφαρμογών ΑΙ.
«Το σημαντικότερο θέμα σήμερα που αγγίζει τόσο τα προσωπικά δεδομένα όσο και την ΤΝ αφορά το πακέτο Digital Omnibus που πρότεινε η Ευρωπαϊκή Επιτροπή τον Νοέμβριο και είναι υπό συζήτηση» αναφέρει στο CNN Greece ο Βαγγέλης Παπακωνσταντίνου, καθηγητής νομικής στο Ελεύθερο Πανεπιστήμιο των Βρυξελλών (VUB).
«Τις νομοθετικές προτάσεις της Επιτροπής μπορεί κανείς να τις δει με, τουλάχιστον, δύο τρόπους: είτε ως μια απαραίτητη απλούστερη των διαδικασιών και εκλογίκευση του ρυθμιστικού πλαισίου τόσο της τεχνητής νοημοσύνης όσο και των προσωπικών δεδομένων ώστε να ανταποκριθούν αποτελεσματικότερα στα νέα δεδομένα, είτε ως μια απόπειρα μείωσης του επιπέδου προστασίας των ανθρώπινων δικαιωμάτων στον βωμό των αναγκών της αγοράς» επισημαίνει ο κ. Παπακωνσταντίνου.
Το θέμα του Digital Omnibus παρακολουθεί στενά και συμμετέχει ενεργά το υπουργείο Ψηφιακής Διακυβέρνησης Ελλάδος, όπως επισημαίνει ο κ. Καρκατζούνης, προκειμένου να είναι σε θέση να προσαρμόσει το εθνικό νομικό πλαίσιο για τα δεδομένα και την τεχνητή νοημοσύνη.
«Ο εφαρμοστικός νόμος για τον Ευρωπαϊκό Κανονισμό για την Τεχνητή Νοημοσύνη (ΑΙ Act) βρίσκεται σε αρκετά ώριμο στάδιο επεξεργασίας και η Ελλάδα είναι παρούσα και ενεργή σε όλα τα σχετικά ευρωπαϊκά φόρα. Στο νόμο προβλέπεται, μεταξύ άλλων, και η δημιουργία μητρώου έργων τεχνητής νοημοσύνης στον δημόσιο τομέα, ώστε κάθε χρήση του ΑΙ στο κράτος να είναι καταγεγραμμένη, ελεγχόμενη και διαφανής.
Άλλωστε, τα στοιχεία που έρχονται από την Eurostat και τον ΟΟΣΑ επιβεβαιώνουν τα υψηλά επίπεδα ενσωμάτωσης τεχνητής νοημοσύνης στο ελληνικό Δημόσιο, με νέες εφαρμογές και επένδυση σε υποδομές. Κοινό στόχο αποτελεί η ανάπτυξη συστημάτων ΑΙ στο δημόσιο τομέα που θα υπηρετούν την κοινωνία με ασφάλεια και εμπιστοσύνη» σπεύδει να προσθέσει ο ειδικός γραμματέας.
Η εφαρμογή του AI Act δείχνει να αποτελεί κλειδί στη συζήτηση περί προστασίας των προσωπικών δεδομένων. Όπως αναφέρει ο κ. Μπατζαλέξης, ο κανονισμός εισάγει μια προσέγγιση βασισμένη στον κίνδυνο, θέτοντας αυστηρότερες υποχρεώσεις για συστήματα που επηρεάζουν θεμελιώδη δικαιώματα, την εργασία, την πρόσβαση σε υπηρεσίες ή τη δημόσια διοίκηση.
«Για την Ελλάδα, η πρόκληση δεν είναι μόνο η τυπική ενσωμάτωση των κανόνων, αλλά η ουσιαστική εφαρμογή τους, με ενίσχυση των αρμόδιων αρχών, εκπαίδευση δημόσιων φορέων και συνεργασία με την κοινωνία των πολιτών και την αγορά» τονίζει ο πρόεδρος της Αρχής Προστασίας Δεδομένων.
Σημειωτέον ότι όπως επισημαίνει ο κ. Μπατζαλέξης, η ελληνική Αρχή Προστασίας Δεδομένων έχει οριστεί ως Αρχή Θεμελιωδών Δικαιωμάτων (FRA) για την τεχνητή νοημοσύνη, αναλαμβάνοντας κομβικό ρόλο στην προστασία των δικαιωμάτων των πολιτών στο νέο ψηφιακό περιβάλλον που διαμορφώνεται, ενώ παράλληλα αναμένεται να αναλάβει ρόλο Αρχής Εποπτείας της Αγοράς (Market Surveillance Authority – MSA) για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου.
Τι πρέπει να προσέξουν οι πολίτες
Πέραν του ρυθμιστικού πλαίσιου, ένα μεγάλο ερώτημα αφορά τους ίδιους τους πολίτες, οι οποίοι προφανώς ανησυχούν για το επίπεδο προστασίας των προσωπικών δεδομένων τους.
«Οι πολίτες θα έρχονται ολοένα και συχνότερα σε επαφή με συστήματα τεχνητής νοημοσύνης, αρκετές φορές χωρίς να το αντιλαμβάνονται» σημειώνει ο κ. Μπατζαλέξης.
«Είναι, συνεπώς, σημαντικό να γνωρίζουν πότε μια απόφαση που τους αφορά λαμβάνεται ή υποστηρίζεται από αλγόριθμο, να ζητούν ενημέρωση, εξηγήσεις και ανθρώπινη παρέμβαση, ιδίως όταν μια αυτοματοποιημένη απόφαση έχει αρνητικές συνέπειες, να επιδεικνύουν κριτική σκέψη και να είναι προσεκτικοί στη διάθεση προσωπικών δεδομένων, ιδιαίτερα σε ψηφιακές πλατφόρμες και εφαρμογές τεχνητής νοημοσύνης και να αξιοποιούν τους θεσμούς προστασίας δικαιωμάτων όταν θεωρούν ότι αδικούνται ή θίγονται».
Ο κ. Καρκατζούνης θέτει πάντως και μία άλλη διάσταση που αφορά τη χρήση των συστημάτων από ανηλίκους. «Είναι σημαντικό τα παιδιά να έχουν πρόσβαση, υπό την ανάλογη επίβλεψη, μέσω κατάλληλων πλατφορμών και εκπαιδευτικών εργαλείων, που εντάσσουν σταδιακά την τεχνητή νοημοσύνη στη μάθηση με έμφαση στην κριτική σκέψη και στην προστασία της ιδιωτικότητας» σημειώνει ο ειδικός γραμματέας προσθέτοντας και την παράμετρο της χρήσης των δωρεάν υπηρεσιών.
«Ωφέλιμο είναι επίσης να χρησιμοποιούνται με σύνεση δωρεάν υπηρεσίες που δεν προσφέρουν επαρκείς εγγυήσεις για τα προσωπικά δεδομένα. Οι πολίτες θα πρέπει να ενθαρρύνονται να προτιμούν υπηρεσίες που είναι διαφανείς ως προς τη χρήση των δεδομένων, συμμορφώνονται με την ευρωπαϊκή νομοθεσία και παρέχουν σαφείς ρυθμίσεις ελέγχου από τον χρήστη» τονίζει ο κ. Καρκατζούνης, προσθέτοντας ότι επιπλέον, «στην εποχή των deepfakes, η καλλιέργεια μιας κριτικής στάσης απέναντι σε εντυπωσιακό ή ακραίο περιεχόμενο σε συνδυασμό με τη συνεχή ενημέρωση μέσα από τις επίσημες δράσεις της Πολιτείας, είναι απολύτως απαραίτητες συνθήκες για τη δημιουργία ενός περιβάλλοντος όπου η τεχνητή νοημοσύνη λειτουργεί προς όφελος των χρηστών της».
Βέβαια, υπάρχει και το θέμα της εφαρμογής της αποκαλούμενης «ψηφιακής υγιεινής» από τους πολίτες σε όλες τις επαφές τους με τον ψηφιακό κόσμο. «Οι συσκευές τους και το αντίστοιχο λογισμικό θα πρέπει να είναι επικαιροποιημένα, τα δεδομένα τους προστατευμένα, οι εφαρμογές τους από αξιόπιστους παρόχους» επισημαίνει ο κ. Παπακωνσταντίνου.
«Οι ίδιοι οι χρήστες θα πρέπει να παραμένουν σε εγρήγορση - όπως ακριβώς στον πραγματικό κόσμο δεν αφήνουμε την προστασία μας στην τύχη αλλά φροντίζουμε γι’ αυτήν και παραμένουμε προσεκτικοί, ίδια ακριβώς θα πρέπει να ισχύουν και στον ψηφιακό κόσμο» τονίζει ο Έλληνας καθηγητής.
Πηγή: cnn.gr