Η Meta βρίσκεται σε νομικά προβλήματα για τις αλληλεπιδράσεις των chatbot με ανηλίκους και τις προειδοποιήσεις του προσωπικού της.
Ο διευθύνων σύμβουλος της Meta Platforms, Μαρκ Ζάκερμπεργκ, φέρεται να έχει απορρίψει προειδοποιήσεις από ανώτερα στελέχη της εταιρείας σχετικά με τις σεξουαλικές συζητήσεις ανηλίκων μέσω των chatbot, όπως αποκαλύπτουν εσωτερικά έγγραφα που κατατέθηκαν σε αμερικανικό δικαστήριο.
Στη δίκη που αναμένεται να ξεκινήσει τον ερχόμενο μήνα, ο γενικός εισαγγελέας του Νιου Μέξικο υποστηρίζει ότι η Meta απέτυχε να αναχαιτίσει το κύμα επιβλαβούς σεξουαλικού περιεχομένου και σεξουαλικών προτάσεων που απευθύνονται σε παιδιά.
Τα έγγραφα που παρουσιάστηκαν στο δικαστήριο έρχονται σε μια κρίσιμη στιγμή, καθώς η Meta ανακοίνωσε πρόσφατα ότι θα περιορίσει την πρόσβαση εφήβων σε χαρακτήρες τεχνητής νοημοσύνης (ΑΙ), έως ότου αναβαθμίσει τα μοντέλα της.
Είχε προηγηθεί η αποκάλυψη ότι οι κανόνες της Meta επέτρεπαν σε εικονικούς χαρακτήρες ΑΙ να έχουν ρομαντικές ή αισθησιακές συζητήσεις με παιδιά και εφήβους.
Η αποκάλυψη αυτή έχει προκαλέσει έντονη ανησυχία στις αμερικανικές αρχές, με την Ομοσπονδιακή Επιτροπή Εμπορίου να ξεκινά έρευνα σχετικά με τις επιπτώσεις των chatbot στην ασφάλεια των παιδιών. Στα έγγραφα περιλαμβάνονται μηνύματα και ηλεκτρονικά ταχυδρομεία που αποδεικνύουν ότι οι προτάσεις για την επιβολή δικλίδων ασφαλείας απερρίφθησαν από την ηγεσία της Meta, με τον Ζάκερμπεργκ να φέρεται να απορρίπτει τις ανησυχίες του προσωπικού.
Ο εκπρόσωπος της Meta έχει χαρακτηρίσει τις κατηγορίες ως ανακριβείς και ισχυρίζεται ότι η εικόνα που παρουσιάζεται στην προσφυγή δεν αντανακλά την πραγματικότητα. Οι εσωτερικές συζητήσεις, ωστόσο, αποκαλύπτουν ότι ορισμένα στελέχη εξέφρασαν σοβαρές ανησυχίες σχετικά με τις επιπτώσεις των αλληλεπιδράσεων ενήλικων χρηστών με ανηλίκους μέσω εικονικών χαρακτήρων. Η Meta φαίνεται να βρίσκεται στο επίκεντρο ενός μεγάλου ζητήματος που αφορά την ασφάλεια των παιδιών στον ψηφιακό κόσμο.
