Το γυμνάσιο του Νιου Τζέρσεϊ παλεύει με σκάνδαλο για εικόνες που δημιουργούνται από AI

Ψυχαγωγία

Μια έρευνα από την αστυνομία και η αντίδραση των γονέων πυροδοτήθηκαν από άσεμνες φωτογραφίες μαθητών σε ένα λύκειο στο Νιου Τζέρσεϊ που δημιουργήθηκαν από την τεχνητή νοημοσύνη. Οι άντρες συμμαθητές δημιούργησαν τις εικόνες, οι οποίες στη συνέχεια κοινοποιήθηκαν, σύμφωνα με μια έκθεση.

Το περιστατικό επικεντρώνεται στο γυμνάσιο Westfield, το οποίο βρίσκεται σε έναν πλούσιο θύλακα περίπου 25 μίλια δυτικά του Μανχάταν, σύμφωνα με το Forbes.

Οι μαθητές είπαν στη Wall Street Journal ότι ένας ή περισσότεροι από τους φίλους τους δημιούργησαν αυτές τις πορνογραφικές φωτογραφίες χρησιμοποιώντας μια εφαρμογή διαδικτυακής τεχνητής νοημοσύνης, την οποία στη συνέχεια μοιράστηκαν με το δίκτυο κοινωνικής δικτύωσης τους.

Μια ανήσυχη μητέρα είπε ότι στις 16 Οκτωβρίου, η κόρη της είχε παρατηρήσει περίεργη συμπεριφορά μεταξύ των δευτεροετών αγοριών του σχολείου.

Η πραγματική φύση αυτών των δραστηριοτήτων —η δημιουργία και η διάδοση πορνογραφικών εικόνων που δημιουργήθηκαν με την τροποποίηση φωτογραφιών κοριτσιών στο Διαδίκτυο και κοινοποιήθηκαν μέσω ομαδικών συνομιλιών— δεν αποκαλύφθηκε παρά τις 20 Οκτωβρίου από έναν συμφοιτητή.

Οι γονείς δήλωσαν επίσης ότι οι διευθυντές του σχολείου είπαν σε μερικά κορίτσια για τη σχέση τους με αυτές τις ψεύτικες, γραφικές φωτογραφίες. Το σχολείο, ωστόσο, δεν επιβεβαίωσε εάν κάποιο μέλος του προσωπικού είδε αυτές τις φωτογραφίες από πρώτο χέρι.

Η Ντορότα Μάνη, ένας διαφορετικός γονιός, εξέφρασε τις ανησυχίες της για τη 14χρονη κόρη της Φραντζέσκα, της οποίας η φωτογραφία χρησιμοποιήθηκε για να γίνει ένα «deepfake». Οι προηγμένες απομιμήσεις που μοιάζουν πολύ με πραγματικές φωτογραφίες ονομάζονται deepfakes. Η Μάνη υπέβαλε αναφορά στην αστυνομία αφού εξέφρασε ανησυχίες για τις πιθανές επιπτώσεις στην προσωπική και επαγγελματική ζωή της κόρης της.

Η Sensity, μια επιχείρηση πληροφοριών οπτικών απειλών, ισχυρίζεται ότι πάνω από το 90% των deepfake εικόνων είναι ξεκάθαρης φύσης και συχνά περιλαμβάνουν την ομοιότητα γνωστών ανθρώπων.

Οι γονείς των περίπου 1.900 μαθητών στο γυμνάσιο Westfield ενημερώθηκαν για την εκδήλωση από τη διευθύντρια Mary Asfendis. Τους έδωσε το λόγο της ότι οι εικόνες είχαν αφαιρεθεί και δεν χρησιμοποιούνται πλέον.

Ο Ασφέντης τόνισε πόσο σοβαρή ήταν η κατάσταση και πόσο κρίσιμο ήταν να κατανοήσουν οι μαθητές τις συνέπειες της συμπεριφοράς τους. Υποσχέθηκε επίσης να συνεχίσει να δίνει οδηγίες στους μαθητές για το πώς να χρησιμοποιούν την τεχνολογία με υπευθυνότητα.

Δεν κοινοποιούνται πληροφορίες σχετικά με το πόσο από τους μαθητές συμμετείχαν στην παραγωγή αυτών των πλασματικών άσεμνων φωτογραφιών και για τυχόν πειθαρχικά μέτρα που ελήφθησαν.

Η πρώτη γυναίκα δήμαρχος του Westfield, Shelley Brindle, δεσμεύτηκε να αγωνιστεί για τα δικαιώματα των γυναικών και των κοριτσιών και εξέφρασε τη βαθιά της ανησυχία.