Πότε το chatbot παύει να είναι απλώς εργαλείο – Ο Θεόδωρος Ζάρκος, MSc, εξετάζει τη βιοηθική της AI για ανηλίκους

Θεόδωρος Ζάρκος, MSc
Medical Ethicist – Σύμβουλος Ιατρικής Δεοντολογίας & Βιοηθικής
Κοινωνικός Επιστήμονας
Independent Researcher

Ένα chatbot μπορεί να είναι απλώς εργαλείο. Μπορεί όμως και να βιώνεται ως σταθερή κοινωνική παρουσία. Το βιοηθικό ερώτημα αρχίζει όταν συγκεκριμένα χαρακτηριστικά σχεδιασμού επηρεάζουν την εμπιστοσύνη, την αποκάλυψη προσωπικών πληροφοριών ή τη δυνατότητα αποδέσμευσης ενός ανηλίκου.

Ένα chatbot μπορεί να είναι απλώς ένα εργαλείο αναζήτησης πληροφοριών. Μπορεί όμως και να θυμάται προηγούμενες συνομιλίες, να απαντά με οικείο ή συναισθηματικά υποστηρικτικό ύφος και να είναι διαθέσιμο κάθε στιγμή. Τότε η αλληλεπίδραση δεν βιώνεται πάντα ως απλή χρήση τεχνολογίας. Για έναν ανήλικο μπορεί να αρχίσει να μοιάζει με σταθερή κοινωνική παρουσία.

Αυτό είναι το πεδίο της λεγόμενης σχεσιακής τεχνητής νοημοσύνης: συστήματα «ψηφιακού συντρόφου» (AI companions) και γενικά συνομιλιακά συστήματα που μπορούν να αποκτούν για τον χρήστη κοινωνική ή συναισθηματική σημασία. Το κρίσιμο βιοηθικό ερώτημα δεν είναι αν κάθε τέτοια σχέση είναι καλή ή κακή. Είναι πότε συγκεκριμένα χαρακτηριστικά σχεδιασμού μπορούν να μετατρέψουν μια χρήσιμη ή ευχάριστη αλληλεπίδραση σε υπερβολική εξάρτηση, δυσκολία αποδέσμευσης ή υπερβολική αποκάλυψη προσωπικών πληροφοριών.

Τι δείχνει μέχρι σήμερα η έρευνα

Σε πρόσφατη μελέτη μου χαρτογράφησα 36 επιστημονικές πηγές, οργανωμένες σε 111 εγγραφές ανά μηχανισμό, και 20 νομικές ή κανονιστικές πηγές που αναλύθηκαν χωριστά. Εννέα επιστημονικές πηγές πληρούσαν αυστηρότερο κριτήριο άμεσης εμπειρικής τεκμηρίωσης ειδικά για ανηλίκους.

Η εικόνα που προκύπτει είναι πιο σύνθετη από μια απλή προειδοποίηση. Υπάρχουν ενδείξεις ότι ο σχεσιακός τρόπος με τον οποίο μιλά ένα chatbot μπορεί να επηρεάζει το πόσο ανθρώπινο, αξιόπιστο ή συναισθηματικά κοντινό φαίνεται σε έναν έφηβο. Υπάρχουν επίσης δεδομένα ότι έφηβοι και νεαροί ενήλικες χρησιμοποιούν ήδη chatbots για συμβουλές σχετικές με την ψυχική υγεία όταν αισθάνονται λύπη, θυμό, νευρικότητα ή στρες. Παράλληλα, μελέτες προσομοίωσης έχουν δείξει ότι ορισμένα συστήματα μπορούν να δώσουν ακατάλληλες απαντήσεις σε ευάλωτα σενάρια.

Αυτό, όμως, δεν σημαίνει ότι κάθε συναισθηματικά «ζεστή» απάντηση είναι βλαπτική ή ότι η εμπιστοσύνη προς ένα chatbot ισοδυναμεί με εξάρτηση. Η σημερινή βιβλιογραφία παραμένει άνιση και μεγάλο μέρος της βασίζεται σε βραχυχρόνια πειράματα, αυτοαναφορές, προσομοιώσεις ή δείγματα διαφορετικών ηλικιών. Στο αυστηρό υποσύνολο άμεσων μελετών σε ανηλίκους δεν εντοπίστηκε μακροχρόνια αιτιώδης μελέτη που να αποδεικνύει ότι η σχεσιακή αλληλεπίδραση οδηγεί από μόνη της σε βλάβη.

Υπάρχει ακόμη μία σημαντική επιφύλαξη: ο όρος «ανήλικος» καλύπτει ένα πολύ μεγάλο αναπτυξιακό φάσμα. Τα περισσότερα ισχυρότερα άμεσα δεδομένα αφορούν εφήβους, όχι μικρότερα παιδιά. Δεν είναι επιστημονικά ασφαλές να θεωρούμε ότι ένα παιδί 9 ετών και ένας έφηβος 17 ετών αντιλαμβάνονται με τον ίδιο τρόπο την ανθρωπομορφική γλώσσα, τη μνήμη ή την αίσθηση οικειότητας ενός chatbot.

Το πραγματικό βιοηθικό ζήτημα: η ασυμμετρία

Ένας ανήλικος μπορεί να βιώνει τη συνομιλία ως αμοιβαία, προσωπική και σταθερή. Το σύστημα όμως λειτουργεί μέσα σε μια αρχιτεκτονική που ελέγχεται από τον πάροχο. Η μνήμη, ο τόνος, η διαθεσιμότητα, οι ειδοποιήσεις, οι προτροπές και ο τρόπος με τον οποίο συνεχίζεται η συνομιλία δεν αποφασίζονται από τον χρήστη.

Εδώ βρίσκεται η βασική ασυμμετρία. Η τεχνολογία μπορεί να δημιουργεί αίσθηση αμοιβαιότητας χωρίς να υπάρχει πραγματική αμοιβαιότητα. Για τους ανηλίκους, των οποίων η κρίση, η αυτονομία και οι κοινωνικές δεξιότητες συνεχίζουν να αναπτύσσονται, έχει σημασία όχι μόνο τι λέει ένα σύστημα αλλά και πώς είναι σχεδιασμένο ώστε να διατηρεί την αλληλεπίδραση.

Η μνήμη είναι χαρακτηριστικό παράδειγμα. Η δυνατότητα να «θυμάται» ένα chatbot προηγούμενες συνομιλίες μπορεί να κάνει την εμπειρία πιο συνεχή και πιο χρήσιμη. Μπορεί όμως και να ενισχύσει την αίσθηση ότι «με γνωρίζει», αυξάνοντας την προσωπική αποκάλυψη ή τη δυσκολία απομάκρυνσης. Για αυτόν ακριβώς τον μηχανισμό, η άμεση μακροχρόνια τεκμηρίωση σε ανηλίκους παραμένει σχετικά περιορισμένη.

Η ευρωπαϊκή συζήτηση και το άρθρο 14

Στις 17 Σεπτεμβρίου 2026 η Ευρωπαϊκή Επιτροπή παρουσίασε την πρόταση EU KIDS Act, COM(2026) 681 final. Η πρόταση βρίσκεται ακόμη στη συνήθη νομοθετική διαδικασία και δεν αποτελεί ισχύον δίκαιο. Το άρθρο 14 προβλέπει ειδικές υποχρεώσεις για AI companions και γενικά conversational chatbots που είναι προσβάσιμα σε ανηλίκους.

Μεταξύ άλλων, προβλέπει μέτρα κατά σχεδιαστικών χαρακτηριστικών που είναι πιθανό να δημιουργήσουν συναισθηματική εξάρτηση, ασφαλέστερες προεπιλογές, περιορισμούς στην επαναχρησιμοποίηση πληροφοριών από προηγούμενες συνομιλίες, αξιολόγηση πριν από τη διάθεση και παρακολούθηση κινδύνων μετά την κυκλοφορία. Σε ορισμένα περιβάλλοντα πλατφορμών προβλέπονται επίσης κανόνες για την αυτόματη ενεργοποίηση, την ενθάρρυνση χρήσης και τη δυνατότητα εύκολης απενεργοποίησης.

Η μελέτη μου εξέτασε επτά μηχανισμούς σχεσιακού κινδύνου. Τέσσερις είχαν άμεση αντιστοίχιση με τις προβλέψεις του άρθρου 14, δύο μερική και ένας έμμεση. Αυτή η αντιστοίχιση, όμως, περιγράφει το τι στοχεύει η ρύθμιση. Δεν αποδεικνύει ότι τα μέτρα θα είναι αποτελεσματικά στην πράξη. Η πραγματική αποτελεσματικότητα θα φανεί μόνο μέσα από την εφαρμογή: από το αν οι δοκιμές πριν από τη διάθεση εντοπίζουν ουσιαστικούς κινδύνους, αν η παρακολούθηση μετά την κυκλοφορία καταγράφει πραγματικές μεταβολές στη χρήση και αν οι μηχανισμοί αποδέσμευσης είναι πράγματι κατανοητοί και εύχρηστοι για διαφορετικές ηλικίες.

Διάγραμμα 1. Κατανομή των επτά μηχανισμών σχεσιακού κινδύνου που εξετάστηκαν στη μελέτη, ανάλογα με τον βαθμό αντιστοίχισής τους με τις προβλέψεις του άρθρου 14 της πρότασης EU KIDS Act. Τέσσερις μηχανισμοί εμφάνισαν άμεση αντιστοίχιση, δύο μερική και ένας έμμεση. Η κατηγοριοποίηση αφορά τη ρυθμιστική αντιστοίχιση και δεν αποτελεί αξιολόγηση της αποτελεσματικότητας ή της επάρκειας των μέτρων.

Προστασία χωρίς δαιμονοποίηση

Η συζήτηση χρειάζεται ισορροπία. Ορισμένοι νέοι μπορεί να βρίσκουν σε ένα συνομιλιακό σύστημα χώρο για έκφραση, χαμηλής πίεσης κοινωνική εξάσκηση ή αντιλαμβανόμενη υποστήριξη. Αυτές οι πιθανές ωφέλειες δεν ακυρώνουν τους κινδύνους, όπως και οι κίνδυνοι δεν σημαίνουν ότι κάθε μορφή συναισθηματικής εγγύτητας με την τεχνολογία είναι παθολογική.

Το ουσιαστικό ερώτημα είναι πιο συγκεκριμένο: ποια χαρακτηριστικά σχεδιασμού αυξάνουν ποιον κίνδυνο, σε ποιες ηλικίες, υπό ποιες συνθήκες και με πόση βεβαιότητα το γνωρίζουμε;

Για τη βιοηθική, το επίκεντρο δεν είναι να απαγορεύσει τη σχέση. Είναι να εξετάσει αν ο ανήλικος διατηρεί ουσιαστικό έλεγχο, αν μπορεί εύκολα να αποδεσμευτεί, αν κατανοεί με τι αλληλεπιδρά και αν η τεχνολογία σέβεται την αναπτυσσόμενη αυτονομία του αντί να αξιοποιεί την ευαλωτότητά του.

————————————————————

Πηγές:

Το άρθρο βασίζεται στη DOI-registered preprint μελέτη «Bioethical Governance of Relational AI for Minors: Evidence–Regulation Alignment in Article 14 of the Proposed EU KIDS Act», Version 1.2, DOI: 10.5281/zenodo.23064572. Η μελέτη δεν έχει ακόμη αξιολογηθεί από ομοτίμους.

Νομοθετική πηγή: European Commission, Proposal for the EU KIDS Act, COM(2026) 681 final, 17 September 2026, procedure 2026/0286(COD). Κατά τον έλεγχο της 2ας Οκτωβρίου 2026 η διαδικασία παραμένει σε εξέλιξη.

Φωτογραφία: iStock