Η Ευρωπαϊκή Επιτροπή ξεκίνησε έρευνα κατά της πλατφόρμας X του Έλον Μασκ σχετικά με την παραγωγή επεξεργασμένων εικόνων σεξουαλικού περιεχομένου και τη διάδοση ενδεχόμενου υλικού σεξουαλικής κακοποίησης παιδιών από το chatbot Grok.
Η επίσημη έρευνα, που ξεκίνησε σήμερα, Δευτέρα επεκτείνει επίσης τον έλεγχο στα συστήματα προτάσεων της X, δηλαδή στους αλγορίθμους που βοηθούν τους χρήστες να ανακαλύπτουν νέο περιεχόμενο.
Το Grok έχει προκαλέσει διεθνή κατακραυγή, καθώς επέτρεπε σε χρήστες να «γδύνουν» ψηφιακά γυναίκες και παιδιά και να τα τοποθετούν σε προκλητικές στάσεις.
Σύμφωνα με ερευνητές του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους (Center for Countering Digital Hate), η τεχνητή νοημοσύνη Grok δημιούργησε περίπου 3 εκατομμύρια εικόνες σεξουαλικού περιεχομένου σε λιγότερο από δύο εβδομάδες, εκ των οποίων 23.000 φαίνεται να απεικόνιζαν παιδιά.
Η Επιτροπή ανέφερε ότι η νέα έρευνα θα «αξιολογήσει κατά πόσο η εταιρεία εκτίμησε σωστά και περιόρισε τους κινδύνους» που απορρέουν από τις λειτουργίες του Grok στην ΕΕ, συμπεριλαμβανομένων των κινδύνων που σχετίζονται με τη διάδοση παράνομου περιεχομένου, όπως επεξεργασμένες εικόνες και «περιεχόμενο που ενδέχεται να συνιστά» υλικό σεξουαλικής κακοποίησης παιδιών.
Η έρευνα διεξάγεται βάσει του Νόμου για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA), μιας σχετικά νέας ευρωπαϊκής νομοθεσίας που αποσκοπεί στην προστασία των χρηστών του διαδικτύου από ένα ευρύ φάσμα κινδύνων.
Μιλώντας σε δημοσιογράφους, αξιωματούχος δήλωσε ότι η Επιτροπή δεν πείστηκε από τα μέτρα που έχει λάβει η X για τον περιορισμό του προβλήματος. Οι ευρωπαϊκές αρχές εξετάζουν εάν η πλατφόρμα διαθέτει επαρκή συστήματα για τη σωστή αντιμετώπιση των κινδύνων.
Ανακοινώνοντας την έρευνα, η Χένα Βίρκουνεν, αρμόδια επίτροπος της Επιτροπής για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, δήλωσε:
«Τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών αποτελούν μια βίαιη και απαράδεκτη μορφή εξευτελισμού. Με αυτή την έρευνα θα διαπιστώσουμε αν η X έχει εκπληρώσει τις νομικές της υποχρεώσεις βάσει του DSA ή αν αντιμετώπισε τα δικαιώματα των Ευρωπαίων πολιτών – συμπεριλαμβανομένων των γυναικών και των παιδιών – ως παράπλευρη απώλεια της υπηρεσίας της».
Η Ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι δήλωσε ότι χαιρετίζει την επίσημη έρευνα: «Όταν προκύπτουν αξιόπιστες αναφορές ότι συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται με τρόπους που βλάπτουν γυναίκες και παιδιά, είναι απαραίτητο το ευρωπαϊκό δίκαιο να εξετάζεται και να εφαρμόζεται χωρίς καθυστέρηση», είπε.
Σε απάντηση στην έρευνα, η X παρέπεμψε σε ανακοίνωση που είχε δημοσιεύσει στις 14 Ιανουαρίου: «Παραμένουμε προσηλωμένοι στο να καταστήσουμε το X μια ασφαλή πλατφόρμα για όλους και συνεχίζουμε να εφαρμόζουμε πολιτική μηδενικής ανοχής απέναντι σε κάθε μορφή σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετικής γυμνότητας και ανεπιθύμητου σεξουαλικού περιεχομένου».
Με πληροφορίες από Guardian
ΕΕ: Ξεκινά έρευνα για τις εικόνες σεξουαλικού περιεχομένου που παρήγαγε το Grok
Η Ευρωπαϊκή Επιτροπή ξεκίνησε επίσημη έρευνα κατά της πλατφόρμας X (πρώην Twitter) του Έλον Μασκ σχετικά με την παραγωγή και διάδοση εικόνων σεξουαλικού περιεχομένου από το chatbot Grok. Η έρευνα, που βασίζεται στον Νόμο για τις Ψηφιακές Υπηρεσίες (DSA), θα εξετάσει εάν η X αξιολόγησε επαρκώς και περιόρισε τους κινδύνους που συνδέονται με το Grok, συμπεριλαμβανομένης της πιθανής διάδοσης υλικού σεξουαλικής κακοποίησης παιδιών. Ερευνητές αναφέρουν ότι το Grok δημιούργησε περίπου 3 εκατομμύρια εικόνες σεξουαλικού περιεχομένου σε δύο εβδομάδες, με 23.000 να απεικονίζουν παιδιά. Η Επιτροπή εξέφρασε την ανησυχία της για τη δημιουργία μη συναινετικών σεξουαλικών deepfakes, χαρακτηρίζοντάς τα ως βίαιη και απαράδεκτη μορφή εξευτελισμού. Η έρευνα θα διαπιστώσει εάν η X έλαβε επαρκή μέτρα για την προστασία των δικαιωμάτων των Ευρωπαίων πολιτών, ιδίως των γυναικών και των παιδιών. Η X απάντησε στην έρευνα αναφέροντας την πολιτική μηδενικής ανοχής της για σεξουαλική εκμετάλλευση παιδιών και ανεπιθύμητο σεξουαλικό περιεχόμενο, όπως είχε ήδη ανακοινώσει στις 14 Ιανουαρίου. Ωστόσο, η Επιτροπή δήλωσε ότι δεν πείστηκε από τα μέτρα που έχει λάβει η πλατφόρμα. Η έρευνα αναμένεται να εξετάσει τα συστήματα προτάσεων της X, δηλαδή τους αλγορίθμους που βοηθούν τους χρήστες να ανακαλύπτουν περιεχόμενο, προκειμένου να διαπιστωθεί εάν συμβάλλουν στη διάδοση επιβλαβούς υλικού. Η Ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι χαιρέτισε την έρευνα, τονίζοντας την ανάγκη εφαρμογής του ευρωπαϊκού δικαίου σε περιπτώσεις που η τεχνητή νοημοσύνη χρησιμοποιείται για να βλάψει γυναίκες και παιδιά.
