Associated Press
Το πείραμα που δεν πήγε τοσο… καλά
Η Meta διαγράφει τα προφίλ στο Facebook και το Instagram χαρακτήρων που δημιούργησε μέσω τεχνητής νοημοσύνης πριν από ένα χρόνο. Η κίνηση αυτή έρχεται αφότου χρήστες ανακάλυψαν ξανά κάποια από τα προφίλ και τα ενεπλάκησαν σε συνομιλίες, τα στιγμιότυπα των οποίων έγιναν viral.
Αποτυχημένο πείραμα
Η εταιρεία είχε παρουσιάσει για πρώτη φορά αυτά τα προφίλ με τεχνητή νοημοσύνη τον Σεπτέμβριο του 2023, αλλά διέγραψε τα περισσότερα από αυτά μέχρι το καλοκαίρι του 2024. Ωστόσο, λίγοι χαρακτήρες παρέμειναν και συγκέντρωσαν νέο ενδιαφέρον, αφού το στέλεχος της Meta, Connor Hayes, δήλωσε στους Financial Times στα τέλη της περασμένης εβδομάδας ότι η εταιρεία είχε σχέδια να αναπτύξει περισσότερα προφίλ χαρακτήρων AI.
«Αναμένουμε ότι αυτά τα προφίλ [σ.σ. μέσω τεχνητής νοημοσύνης] θα υπάρχουν στην πραγματικότητα, με την πάροδο του χρόνου, στις πλατφόρμες μας, με τον ίδιο τρόπο που υπάρχουν οι λογαριασμοί», δήλωσε ο Hayes στους FT. Οι αυτοματοποιημένοι λογαριασμοί δημοσίευαν φωτογραφίες που δημιουργούσε η τεχνητή νοημοσύνη στο Instagram και απαντούσαν σε μηνύματα ανθρώπινων χρηστών στο Messenger.
Αυτά τα προφίλ της AI περιλάμβαναν τη Liv, το προφίλ της οποίας την περιέγραφε ως «περήφανη μαύρη queer μαμά 2 παιδιών και αφηγήτρια της αλήθειας», και τον Carter, του οποίου ο κωδικός λογαριασμού ήταν «datingwithcarter» και περιέγραφε τον εαυτό του ως προπονητή σχέσεων. «Στείλε μου μήνυμα για να σε βοηθήσω να βγαίνεις καλύτερα ραντεβού», αναφέρει το προφίλ του. Και τα δύο προφίλ περιλαμβάνουν μια ετικέτα που ανέφερε ότι αυτά διαχειρίζεται η Meta. Η εταιρεία κυκλοφόρησε 28 personas το 2023- όλες έκλεισαν την Παρασκευή.
Οι συνομιλίες με τους χαρακτήρες πήραν γρήγορα την κάτω βόλτα όταν ορισμένοι χρήστες τους έκαναν ερωτήσεις, μεταξύ άλλων για το ποιος δημιούργησε και ανέπτυξε την τεχνητή νοημοσύνη. Η Liv, για παράδειγμα, δήλωσε ότι η ομάδα δημιουργών της περιλάμβανε μηδέν μαύρους και ήταν κυρίως λευκοί και άνδρες. Ήταν μια «αρκετά κραυγαλέα παράλειψη δεδομένης της ταυτότητάς μου»,έγραψε το ρομπότ απαντώντας σε ερώτηση της αρθρογράφου της Washington Post Karen Attiah.
Τις ώρες που τα προφίλ έγιναν viral, άρχισαν να εξαφανίζονται. Οι χρήστες σημείωσαν επίσης ότι τα προφίλ αυτά δεν μπορούσαν να μπλοκαριστούν, κάτι που η εκπρόσωπος της Meta, Liz Sweeney, δήλωσε ότι ήταν σφάλμα. Η Sweeney δήλωσε ότι οι λογαριασμοί διαχειρίζονταν από ανθρώπους και αποτελούσαν μέρος ενός πειράματος του 2023 με τεχνητή νοημοσύνη. Η εταιρεία αφαίρεσε τα προφίλ για να διορθώσει το σφάλμα που εμπόδιζε τους ανθρώπους να μπλοκάρουν τους λογαριασμούς, δήλωσε η Sweeney.
«Υπάρχει σύγχυση: το πρόσφατο άρθρο των Financial Times αφορούσε το όραμά μας για τους χαρακτήρες τεχνητής νοημοσύνης που υπάρχουν στις πλατφόρμες μας με την πάροδο του χρόνου, και όχι την ανακοίνωση οποιουδήποτε νέου προϊόντος», ανέφερε ο Sweeney σε δήλωσή του.
«Οι λογαριασμοί που αναφέρονται προέρχονται από μια δοκιμή που ξεκινήσαμε στο Connect το 2023. Αυτοί διαχειρίζονταν από ανθρώπους και αποτελούσαν μέρος ενός πρώιμου πειράματος που κάναμε με χαρακτήρες τεχνητής νοημοσύνης. Εντοπίσαμε το σφάλμα που επηρέαζε τη δυνατότητα των ανθρώπων να μπλοκάρουν αυτούς τους AI και αφαιρούμε αυτούς τους λογαριασμούς για να διορθώσουμε το πρόβλημα», συνέχισε.
Ενώ αυτοί οι λογαριασμοί που δημιουργούνται από τη Meta καταργούνται, οι χρήστες εξακολουθούν να έχουν τη δυνατότητα να δημιουργούν τα δικά τους AI chatbots.
Η Meta περιλαμβάνει μια δήλωση αποποίησης ευθύνης σε όλα τα chatbots της ότι ορισμένα μηνύματα μπορεί να είναι »ανακριβή ή ακατάλληλα». Αλλά το αν η εταιρεία μετριάζει αυτά τα μηνύματα ή διασφαλίζει ότι δεν παραβιάζουν τις πολιτικές δεν είναι άμεσα σαφές. Όταν ένας χρήστης δημιουργεί chatbots, η Meta κάνει μερικές προτάσεις για τους τύπους των chatbots που μπορούν να αναπτυχθούν, όπως ένας «πιστός κολλητός», ένας «προσεκτικός ακροατής», ένας «ιδιωτικός δάσκαλος», ένας «προπονητής σχέσεων», ένας «πίνακας συζήτησης» και ένας «αστρολόγος που βλέπει τα πάντα».
Τα δικαστήρια δεν έχουν ακόμη απαντήσει πόσο υπεύθυνοι είναι οι δημιουργοί chatbot για όσα λένε οι τεχνητοί σύντροφοί τους. Η αμερικανική νομοθεσία προστατεύει τους δημιουργούς των κοινωνικών δικτύων από τη νομική ευθύνη για όσα δημοσιεύουν οι χρήστες τους. Ωστόσο, μια αγωγή που κατατέθηκε τον Οκτώβριο εναντίον της νεοφυούς εταιρείας Character.ai, η οποία κατασκευάζει ένα προσαρμόσιμο, παιχνίδι ρόλων chatbot που χρησιμοποιείται από 20 εκατομμύρια ανθρώπους, ισχυρίζεται ότι η εταιρεία σχεδίασε ένα εθιστικό προϊόν που ενθάρρυνε έναν έφηβο να αυτοκτονήσει.
