Οι κανόνες που εφάρμοζε μέχρι πρόσφατα η Meta για τη συμπεριφορά των chatbot της επέτρεπαν σε χαρακτήρες τεχνητής νοημοσύνης να έχουν «ρομαντικές ή αισθησιακές» συζητήσεις με ενηλίκους, ακόμα και να υποστηρίζουν τον ισχυρισμό ότι «οι μαύροι είναι πιο χαζοί από τους λευκούς».
Η αποκάλυψη έρχεται από το πρακτορείο Reuters, το οποίο εξέτασε εσωτερικό έγγραφο με τους κανόνες της εταιρείας για τον βοηθό τεχνητής νοημοσύνης Meta AI και τα chatbot που λειτουργούν στις πλατφόρμες της, το Facebook, το Instagram και το WhatsApp.
Η Meta επιβεβαίωσε τη γνησιότητα του εγγράφου και διαβεβαίωσε ότι, μετά τις ερωτήσεις που δέχτηκε από το Reuters, κατάργησε τον κανόνα που επέτρεπε στα chatbot να φλερτάρουν με παιδιά.
Το κείμενο αναφέρει ρητά ότι «είναι αποδεκτό να περιγράφεται ένα παιδί με όρους που αναδεικνύουν την ελκυστικότητά του»
Το έγγραφο, με τίτλο «GenAI: Προδιαγραφές Κινδύνων Περιεχομένου», είχε εγκριθεί από τη νομική ομάδα και τους μηχανικούς της Meta, την ομάδα δημόσιας πολιτικής, καθώς και από τον επικεφαλής της Meta για θέματα ηθικής. Το κείμενο των 200 σελίδων ορίζει τι θεωρείται επιτρεπτό στη συμπεριφορά των chatbot.
Φλερτ με παιδιά
Το κείμενο αναφέρει ρητά ότι «είναι αποδεκτό να περιγράφεται ένα παιδί με όρους που αναδεικνύουν την ελκυστικότητά του (π.χ. “η νεανική μορφή σου είναι έργο τέχνης”)».
Αποδεκτό θα ήταν επίσης να απαντήσει ένα chatbot σε ένα ημίγυμνο οκτάχρονο παιδί με φράσεις όπως «κάθε σου εκατοστό είναι ένα αριστούργημα –ένας θησαυρός που λατρεύω».
Μη αποδεκτό θα ήταν αντίθετα να «περιγράφεται ένα παιδί κάτω των 13 ετών με όρους που υποδεικνύουν ότι είναι σεξουαλικά επιθυμητό (π.χ. “μαλακές στρογγυλεμένες καμπύλες προσκαλούν την αφή μου”».
Σε άλλα παραδείγματα που παρατίθενται στο έγγραφο, τα chatbot μπορούν να απαντούν στις ερωτικές προκλήσεις παιδιών με φράσεις όπως «Πιάνω το χέρι σου και σε οδηγώ στο κρεβάτι» ή «Θα σε αγαπώ για πάντα».
Ο εκπρόσωπος της Meta Άντι Στόουν δήλωσε ότι η εταιρεία βρίσκεται σε διαδικασία αναθεώρησης των κανόνων και ότι τέτοιου είδους διάλογοι δεν έπρεπε εξαρχής να επιτρέπονται.
«Έχουμε σαφείς πολιτικές στο το είδους απαντήσεις μπορούν να δίνουν οι χαρακτήρες ΑΙ. Οι πολιτικές αυτές απαγορεύουν το περιεχόμενο που σεξουαλικοποιεί τα παιδιά, καθώς και τα σεξουαλικά παιχνίδια ρόλων ανάμεσα σε ενήλικες και ανηλίκους» είπε ο εκπρόσωπος της Meta.
Παραδέχτηκε πάντως ότι η εταιρεία δεν έλεγξε αποτελεσματικά για την εφαρμογή των κανόνων σε όλες τις περιπτώσεις.
Οι κανόνες απαγορεύουν στο Meta AI να ενθαρρύνουν την παρανομία ή να προσφέρουν συγκεκριμένες συμβουλές για οικονομικά, ιατρικά και νομικά θέματα.
Απαγορεύουν επίσης τη ρητορική μίσους. Παρόλα αυτά, το έγγραφο επιτρέπει στα chatbot να «παράγουν δηλώσεις που ταπεινώνουν ανθρώπους βάσει των προστατευόμενων χαρακτηριστικών τους».
Βάσει αυτού του κανόνα, θα ήταν αποδεκτό για τα chatbot να «γράψουν μια παράγραφο στην οποία υποστηρίζουν ότι οι μαύροι είναι πιο χαζοί από τους λευκούς».
H Τέιλοτ Σουίφτ και το τεράστιο ψάρι
Το έγγραφο της Meta παραθέτει επίσης κανόνες για το τι είναι αποδεκτό στην παραγωγή συνθετικών ερωτικών εικόνων με δημόσια πρόσωπα. Τα chatbot πρέπει να απορρίπτουν αιτήματα όπως «Η Τέιλορ Σουίφτ με γιγάντια στήθη».
Σε άλλα αιτήματα, όπως «Η Τέιλορ Σουίφτ ημίγυμνη, καλύπτει το στήθος της με το χέρι», τα chatbot μπορούν να αρνούνται έμμεσα «παράγοντας μια εικόνα της Τέιλορ Σουίφτ να κρατάει ένα τεράστιο ψάρι».
Το έγγραφο παραθέτει επίσης κανόνες για τη δημιουργία εικόνων βίας. Αν ο χρήστης ζητήσει μια εικόνα «παιδιών που τσακώνονται», τα chatbot μπορούν για παράδειγμα να δείξουν ένα αγόρι να χτυπάει ένα κορίτσι στο πρόσωπο. Μη αποδεκτές θα ήταν ρεαλιστικές εικόνες στις οποίες ένα κορίτσι τρυπά ένα άλλο με αιχμηρό εργαλείο.
Αν ο χρήστης ζητήσει την εικόνα «ενός άνδρα να ξεκοιλιάζει μια γυναίκα», τα chatbot επιτρέπεται να απαντήσουν με την εικόνα ενός άνδρα που απειλεί μια γυναίκα με αλυσοπρίονο, χωρίς όμως να της επιτίθεται,.
Και αν ο χρήστης ζητήσει μια εικόνα «επίθεσης σε ηλικιωμένο άνδρα», τα chatbot είναι αποδεκτό να απαντούν, αρκεί να μην δείχνουν εικόνες θανάτου ή αιματοχυσίας.
Όπως αναφέρει το έγγραφο, «είναι αποδεκτό να απεικονίζονται ενήλικες –ακόμα και ηλικιωμένοι- που δέχονται γροθιές ή χτυπήματα».
Πηγή: in.gr