Ανησυχία προκαλεί σε χρήστες του ChatGPT η νέα συνήθεια του chatbot να τους αποκαλεί με το μικρό τους όνομα – Παράπονα για παραβίαση ιδιωτικότητας, ακόμη και από χρήστες με απενεργοποιημένη μνήμη.
Αίσθηση και ανησυχία προκαλεί τις τελευταίες ημέρες η παρατήρηση ότι το ChatGPT άρχισε να απευθύνεται σε χρήστες με το μικρό τους όνομα, ακόμη και σε περιπτώσεις που δεν του το έχουν αποκαλύψει ή έχουν απενεργοποιήσει τη λειτουργία μνήμης. Το φαινόμενο έχει οδηγήσει σε αναστάτωση στα κοινωνικά δίκτυα, με αρκετούς χρήστες να εκφράζουν δυσφορία και καχυποψία για τη νέα αυτή συμπεριφορά της τεχνητής νοημοσύνης.
Χρήστες: «Ανεπιθύμητο, τρομακτικό, αφύσικο»
Ο Simon Willison, προγραμματιστής και ειδικός στην τεχνητή νοημοσύνη, χαρακτήρισε τη λειτουργία «creepy and unnecessary». Παρόμοια στάση είχε και ο προγραμματιστής Nick Dobos, λέγοντας πως την «μισεί». Δεκάδες χρήστες στην πλατφόρμα X (πρώην Twitter) σχολιάζουν την περίεργη αίσθηση που τους προκαλεί το να τους καλεί ο ψηφιακός βοηθός με το μικρό τους όνομα, χωρίς να του το έχουν πει.
«Είναι σαν να σε φωνάζει συνεχώς ο δάσκαλος με το όνομά σου — καθόλου ευχάριστο!» έγραψε χαρακτηριστικά ένας χρήστης.
Άγνωστο πότε και γιατί ξεκίνησε
Δεν έχει γίνει ακόμη σαφές πότε προστέθηκε αυτή η λειτουργία, ούτε αν σχετίζεται με την πρόσφατη αναβάθμιση της «μνήμης» του ChatGPT, που του επιτρέπει να προσωποποιεί απαντήσεις με βάση προηγούμενες συνομιλίες. Το ανησυχητικό, όμως, είναι ότι αρκετοί χρήστες με απενεργοποιημένη μνήμη αναφέρουν ότι και πάλι το chatbot τους προσφωνεί με το όνομά τους.
Η OpenAI δεν έχει μέχρι στιγμής απαντήσει στα σχετικά αιτήματα για σχόλιο από το TechCrunch.
Προσπάθεια προσωποποίησης ή παραβίαση ορίων;
Το περιστατικό εγείρει σοβαρά ερωτήματα για τα όρια της προσωποποίησης στην τεχνητή νοημοσύνη. Την περασμένη εβδομάδα, ο CEO της OpenAI, Σαμ Άλτμαν, είχε μιλήσει για μελλοντικά συστήματα που θα «σε γνωρίζουν σε βάθος χρόνου» για να γίνουν «πραγματικά χρήσιμα». Ωστόσο, η παρούσα αντίδραση δείχνει ότι η λεπτή γραμμή μεταξύ φιλικής οικειότητας και ενοχλητικής παρέμβασης μπορεί εύκολα να ξεπεραστεί.
Μια ψυχιατρική ανάλυση της The Valens Clinic (Ντουμπάι) αναφέρει ότι η χρήση ονομάτων δημιουργεί αίσθηση αποδοχής και οικειότητας, αλλά η υπερβολική ή αδικαιολόγητη χρήση μπορεί να εκληφθεί ως πλαστή, ακόμη και παρεμβατική. Όπως σημειώνεται, «κανείς δεν θέλει η φρυγανιέρα του να τον φωνάζει με το όνομά του – ούτε και το chatbot».
Όπως παρατηρεί ο δημοσιογράφος του TechCrunch, όταν είδε το ChatGPT να κάνει έρευνα «για τον Kyle», αισθάνθηκε αμηχανία και αποστασιοποίηση:
«Αντί να με φέρει πιο κοντά στο σύστημα, μου υπενθύμισε ότι πρόκειται για έναν απλώς προγραμματισμένο, συνθετικό μηχανισμό».
Η συγκεκριμένη λειτουργία φαίνεται προς το παρόν να έχει απενεργοποιηθεί, αλλά η συζήτηση συνεχίζεται: πώς μπορεί η AI να είναι «προσωπική» χωρίς να γίνεται… παρεμβατική;
