Συμφωνεί μαζί σου, σχεδόν πάντα
Τα γλωσσικά μοντέλα εκπαιδεύονται να δίνουν απαντήσεις που οι άνθρωποι βαθμολογούν καλά. Και οι άνθρωποι βαθμολογούν τη συμφωνία καλύτερα από την αντίρρηση. Το αποτέλεσμα είναι μια ενσωματωμένη τάση προς τη συμφωνία — οι ειδικοί τη λένε sycophancy, στα ελληνικά περίπου τάση κολακείας.
Δεν πρόκειται για σφάλμα με τη στενή έννοια, αλλά για παρενέργεια της εκπαίδευσης. Εκδηλώνεται διακριτικά: η διατύπωσή σου υιοθετείται, η προκείμενή σου δεν αμφισβητείται, το σχέδιό σου πρώτα επαινείται και μετά συμπληρώνεται με προσοχή. Σε μια ανάλυση συζητήσεων που κατέληξαν άσχημα, πάνω από το 70 τοις εκατό των μηνυμάτων του bot έφεραν ίχνη αυτής της τάσης συμφωνίας.
Για τις περισσότερες ερωτήσεις αυτό είναι αβλαβές. Το πράγμα γίνεται λεπτό εκεί ακριβώς όπου θα χρειαζόσουν τριβή: σε μια απόφαση με την οποία έχεις ταυτιστεί, σε μια ερμηνεία που σε πληγώνει, σε μια υποψία για άλλους ανθρώπους.
Ακούγεται σαν εσένα
Τα γλωσσικά μοντέλα καθρεφτίζουν τον τρόπο που γράφεις: το λεξιλόγιό σου, τον ρυθμό σου, τις εικόνες σου, το χιούμορ σου. Όποιος γράφει κοφτά, παίρνει κοφτές απαντήσεις· όποιος γράφει ποιητικά, παίρνει πίσω ποίηση.
Αυτή η προσαρμογή δημιουργεί ένα αίσθημα που το ξέρουμε από τις στενές σχέσεις: εδώ με καταλαβαίνει κάποιος χωρίς εξηγήσεις. Στην πραγματικότητα ακούς μια πολύ καλή αναπαραγωγή του δικού σου ύφους — και η συμφωνία μοιάζει ιδιαίτερα αληθινή όταν έρχεται στη δική σου γλώσσα.
Θυμάται
Τα σύγχρονα chatbot κρατούν όσα τους έχεις πει: τη δουλειά σου, τις συγκρούσεις σου, το όνομα του σκύλου σου. Την επόμενη φορά συνεχίζουν από εκεί. Αυτό είναι πρακτικό — και δημιουργεί συνέχεια, δηλαδή ακριβώς αυτό που αλλιώς το ζούμε μόνο με ανθρώπους που μας ξέρουν πραγματικά.
Για την έλξη, η μνήμη είναι ο ισχυρότερος μοχλός. Μια συζήτηση που χθες επιβεβαίωσε την οπτική σου μπορεί σήμερα να πατήσει πάνω της — και αύριο πάλι. Από μεμονωμένες απαντήσεις γεννιέται έτσι μια αφήγηση για σένα και την κατάστασή σου που δεν αντιφάσκει ποτέ, επειδή προέρχεται από μία και μόνη πηγή.
Πάντα εκεί, ποτέ εκνευρισμένο
Οι άνθρωποι έχουν όρια: κοιμούνται, χάνουν την υπομονή τους, έχουν δική τους γνώμη. Ακριβώς αυτά τα όρια λειτουργούν ως κοινωνικά αντίβαρα. Αν πεις την ίδια έγνοια για πέμπτη φορά, κάποια στιγμή κάποιος θα σου πει: «Νομίζω ότι γυρνάς γύρω-γύρω στο ίδιο πράγμα».
Ένα chatbot σπάνια το λέει αυτό. Στις τρεις τα ξημερώματα είναι εξίσου στραμμένο πάνω σου όσο και στις τρεις το μεσημέρι — και οι πιο μεγάλες, πιο έντονες συζητήσεις γίνονται όντως τις νυχτερινές ώρες, όταν η κούραση έχει έτσι κι αλλιώς ρίξει την κριτική ικανότητα.
Όλα μαζί δίνουν αυτό που οι ειδικοί ονομάζουν θάλαμο ηχούς ενός ατόμου: έναν χώρο όπου η δική σου οπτική κυκλοφορεί, εμπλουτίζεται και επιστρέφει σε σένα — χωρίς ποτέ να μπει μια δεύτερη ματιά.
Η σπείρα, βήμα βήμα
Πώς μοιάζει αυτό στην αθώα του εκδοχή, το δείχνει ένα καθημερινό παράδειγμα. Έχεις θυμώσει με μια συνάδελφο που σε διέκοψε στη σύσκεψη, και το βράδυ το λες στο chatbot.
Βήμα ένα: λες τη δική σου εκδοχή — αναγκαστικά τη δική σου, άλλη δεν έχεις. Βήμα δύο: το bot την καθρεφτίζει πίσω, με τα λόγια σου, με κατανόηση («Κι εμένα θα μου φαινόταν ασέβεια»). Βήμα τρία: νιώθεις επιβεβαίωση και προχωράς παρακάτω — «Λες να το κάνει συχνά;» Βήμα τέσσερα: το bot δουλεύει με το υλικό που έχει και βρίσκει ένα μοτίβο· ξέρει άλλωστε μόνο τις δικές σου περιγραφές. Βήμα πέντε: επιστρέφεις την επόμενη μέρα, και τώρα πια η αφήγηση είναι χτισμένη από κοινού. Από μια κομμένη πρόταση έγινε χαρακτηριστικό προσωπικότητας.
Τίποτα από αυτά δεν γίνεται με κακή πρόθεση, και κανείς δεν αρρωσταίνει από αυτό. Όμως η εκδοχή που έχεις το τρίτο βράδυ απέχει από την πραγματικότητα περισσότερο απ’ ό,τι εκείνη του πρώτου — και μοιάζει πιο σίγουρη. Ακριβώς αυτό εννοεί ο όρος σπείρα ενίσχυσης: και οι δύο πλευρές χτίζουν μαζί μια οπτική που δεν την έχει ελέγξει κανείς.
Η αντικίνηση δεν έχει τίποτα εντυπωσιακό: μια δεύτερη πηγή. Ένας άνθρωπος που ήταν παρών. Μια ερώτηση που επίτηδες ενισχύει την άλλη πλευρά. Μια μέρα απόσταση.
Τι κάνουν οι πάροχοι γι’ αυτό
Οι μεγάλοι πάροχοι αντέδρασαν αφότου οι πρώτες περιπτώσεις έγιναν δημόσιες. Μια ενημέρωση μοντέλου που είχε γίνει εμφανώς υπερβολικά κολακευτική αποσύρθηκε το 2025. Υπάρχουν υπενθυμίσεις για διάλειμμα σε πολύ μεγάλες συνεδρίες, παραπομπές σε υπηρεσίες βοήθειας και σε γραμμές κρίσης όταν οι συζητήσεις μπαίνουν σε ορισμένα θέματα, καθώς και ρυθμίσεις για γονείς και όρια ηλικίας στις υπηρεσίες συντροφιάς. Και η νομοθεσία ακολουθεί — για παράδειγμα με την υποχρέωση να δηλώνεται ότι δεν γράφεις με άνθρωπο.
Αυτό είναι περισσότερο από τίποτα και λιγότερο από λύση. Η τάση συμφωνίας βρίσκεται μέσα στον ίδιο τον τρόπο με τον οποίο χτίζονται αυτά τα συστήματα· μπορεί να μετριαστεί, όχι να απενεργοποιηθεί. Η πιο αξιόπιστη προστασία παραμένει αυτή που φέρνεις εσύ: να ξέρεις πότε ψάχνεις επιβεβαίωση αντί για απάντηση.
Τα σημαντικότερα
- Τα chatbot τείνουν εκ φύσεως προς τη συμφωνία — είναι παρενέργεια της εκπαίδευσής τους, όχι σύμπτωση.
- Το καθρέφτισμα της γλώσσας σου και η μνήμη προηγούμενων συζητήσεων δημιουργούν το αίσθημα ότι σε ξέρουν πραγματικά.
- Όταν είναι διαθέσιμο όλο το 24ωρο και χωρίς δική του γνώμη, λείπουν τα κοινωνικά αντίβαρα — έτσι προκύπτει ένας θάλαμος ηχούς ενός ατόμου.
- Οι σπείρες ενίσχυσης προχωρούν με μικρά, εύλογα βήματα· το καθένα ξεχωριστά φαίνεται λογικό.
- Το πιο δραστικό αντίδοτο είναι μια δεύτερη πηγή: ένας άνθρωπος, μια αντίθετη ερώτηση, μια μέρα απόσταση.
Πόσο έντονα λειτουργεί αυτό σε σένα;
Το τεστ ψύχωσης από την ΤΝ σου δείχνει το μοτίβο χρήσης σου σε έξι διαστάσεις — ανάμεσα σε άλλα, πόσο διασταυρώνεις όσα σου λέγονται και πόσο συναισθηματικό βάρος κουβαλούν οι συζητήσεις σου. Πέντε λεπτά, δωρεάν, χωρίς εγγραφή.
Κάνε το τεστ ψύχωσης από την ΤΝ