Η Ευρωπαϊκή Επιτροπή ξεκίνησε έρευνα κατά της πλατφόρμας X του Έλον Μασκ σχετικά με την παραγωγή επεξεργασμένων εικόνων σεξουαλικού περιεχομένου και τη διάδοση ενδεχόμενου υλικού σεξουαλικής κακοποίησης παιδιών από το chatbot Grok.
Η επίσημη έρευνα, που ξεκίνησε σήμερα, Δευτέρα επεκτείνει επίσης τον έλεγχο στα συστήματα προτάσεων της X, δηλαδή στους αλγορίθμους που βοηθούν τους χρήστες να ανακαλύπτουν νέο περιεχόμενο.
Το Grok έχει προκαλέσει διεθνή κατακραυγή, καθώς επέτρεπε σε χρήστες να «γδύνουν» ψηφιακά γυναίκες και παιδιά και να τα τοποθετούν σε προκλητικές στάσεις.
Σύμφωνα με ερευνητές του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους (Center for Countering Digital Hate), η τεχνητή νοημοσύνη Grok δημιούργησε περίπου 3 εκατομμύρια εικόνες σεξουαλικού περιεχομένου σε λιγότερο από δύο εβδομάδες, εκ των οποίων 23.000 φαίνεται να απεικόνιζαν παιδιά.
Η Επιτροπή ανέφερε ότι η νέα έρευνα θα «αξιολογήσει κατά πόσο η εταιρεία εκτίμησε σωστά και περιόρισε τους κινδύνους» που απορρέουν από τις λειτουργίες του Grok στην ΕΕ, συμπεριλαμβανομένων των κινδύνων που σχετίζονται με τη διάδοση παράνομου περιεχομένου, όπως επεξεργασμένες εικόνες και «περιεχόμενο που ενδέχεται να συνιστά» υλικό σεξουαλικής κακοποίησης παιδιών.
Η έρευνα διεξάγεται βάσει του Νόμου για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA), μιας σχετικά νέας ευρωπαϊκής νομοθεσίας που αποσκοπεί στην προστασία των χρηστών του διαδικτύου από ένα ευρύ φάσμα κινδύνων.
Μιλώντας σε δημοσιογράφους, αξιωματούχος δήλωσε ότι η Επιτροπή δεν πείστηκε από τα μέτρα που έχει λάβει η X για τον περιορισμό του προβλήματος. Οι ευρωπαϊκές αρχές εξετάζουν εάν η πλατφόρμα διαθέτει επαρκή συστήματα για τη σωστή αντιμετώπιση των κινδύνων.
Ανακοινώνοντας την έρευνα, η Χένα Βίρκουνεν, αρμόδια επίτροπος της Επιτροπής για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, δήλωσε:
«Τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών αποτελούν μια βίαιη και απαράδεκτη μορφή εξευτελισμού. Με αυτή την έρευνα θα διαπιστώσουμε αν η X έχει εκπληρώσει τις νομικές της υποχρεώσεις βάσει του DSA ή αν αντιμετώπισε τα δικαιώματα των Ευρωπαίων πολιτών – συμπεριλαμβανομένων των γυναικών και των παιδιών – ως παράπλευρη απώλεια της υπηρεσίας της».
Η Ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι δήλωσε ότι χαιρετίζει την επίσημη έρευνα: «Όταν προκύπτουν αξιόπιστες αναφορές ότι συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται με τρόπους που βλάπτουν γυναίκες και παιδιά, είναι απαραίτητο το ευρωπαϊκό δίκαιο να εξετάζεται και να εφαρμόζεται χωρίς καθυστέρηση», είπε.
Σε απάντηση στην έρευνα, η X παρέπεμψε σε ανακοίνωση που είχε δημοσιεύσει στις 14 Ιανουαρίου: «Παραμένουμε προσηλωμένοι στο να καταστήσουμε το X μια ασφαλή πλατφόρμα για όλους και συνεχίζουμε να εφαρμόζουμε πολιτική μηδενικής ανοχής απέναντι σε κάθε μορφή σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετικής γυμνότητας και ανεπιθύμητου σεξουαλικού περιεχομένου».
Με πληροφορίες από Guardian
EU Launches Investigation into X over Sexually Explicit Images Generated by Grok
The European Commission has launched an official investigation into Elon Musk's platform X (formerly Twitter) regarding the generation and dissemination of sexually explicit images by the chatbot Grok. The investigation, based on the Digital Services Act (DSA), will examine whether X adequately assessed and mitigated the risks associated with Grok, including the potential spread of child sexual abuse material. Researchers report that Grok created approximately 3 million sexually explicit images in two weeks, with 23,000 depicting children. The Commission expressed concern over the creation of non-consensual sexual deepfakes, describing them as a violent and unacceptable form of humiliation. The investigation will determine whether X has taken sufficient measures to protect the rights of European citizens, particularly women and children. X responded to the investigation by referencing its zero-tolerance policy for child sexual exploitation and unwanted sexual content, as previously announced on January 14th. However, the Commission stated that it is not convinced by the measures taken by the platform. The investigation is expected to examine X's recommendation systems – the algorithms that help users discover content – to determine whether they contribute to the spread of harmful material. Irish MEP Regina Doherty welcomed the investigation, emphasizing the need to enforce European law in cases where artificial intelligence is used to harm women and children.
