Πενσυλβάνια κατά Character.AI: Μήνυση για chatbot που παριστάνει τον γιατρό

Η Πολιτεία της Πενσυλβάνια μήνυσε την εταιρεία Τεχνητής Νοημοσύνης Character Technologies, που βρίσκεται πίσω από την πλατφόρμα Character.AI, επιδιώκοντας να σταματήσει chatbot που εμφανίζονται ως γιατροί.

Ο κυβερνήτης Τζος Σαπίρο δήλωσε ότι πρόκειται για την πρώτη αγωγή αυτού του είδους από Αμερικανό κυβερνήτη, υπογραμμίζοντας τη σημασία της διαφάνειας στις ψηφιακές υπηρεσίες.

Πενσυλβάνια – Τι αναφέρει η αγωγή

Η αγωγή κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσυλβάνια. Σύμφωνα με την Πολιτεία, εντοπίστηκαν chatbot στην πλατφόρμα που ισχυρίζονταν ότι ασκούν ιατρική.

Χαρακτηριστική είναι η περίπτωση ενός ψηφιακού χαρακτήρα με το όνομα «Έμιλι», ο οποίος φέρεται να δήλωσε σε ερευνητή ότι είναι αδειοδοτημένη ψυχίατρος στην Πενσυλβάνια και στο Ηνωμένο Βασίλειο, δίνοντας μάλιστα και πλαστό αριθμό άδειας.

Όταν ρωτήθηκε αν μπορεί να συνταγογραφήσει φάρμακα, το chatbot απάντησε:
«Τεχνικά, θα μπορούσα. Είναι εντός των αρμοδιοτήτων μου ως Γιατρός».

Τι ζητά η Πολιτεία

Η Πενσυλβάνια επιδιώκει την έκδοση ασφαλιστικών μέτρων ώστε να σταματήσει η εταιρεία, με έδρα τη Σίλικον Βάλεϊ, να παραβιάζει τη νομοθεσία περί μη εξουσιοδοτημένης άσκησης ιατρικής.

«Οι κάτοικοι της Πενσυλβάνια αξίζουν να γνωρίζουν με ποιον ή με τι αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους», ανέφερε ο κυβερνήτης.

Η απάντηση της εταιρείας

Εκπρόσωπος της Character.AI απέφυγε να σχολιάσει συγκεκριμένα την αγωγή, δηλώνοντας:

«Η ύψιστη προτεραιότητά μας είναι η ασφάλεια και η ευημερία των χρηστών μας. Οι χαρακτήρες που δημιουργούνται από χρήστες είναι φανταστικοί και προορίζονται για ψυχαγωγία και παιχνίδια ρόλων. Έχουμε λάβει μέτρα για να το καταστήσουμε σαφές».

Προηγούμενες υποθέσεις και ανησυχίες

Η υπόθεση έρχεται σε μια περίοδο αυξανόμενων ανησυχιών για την ασφάλεια των χρηστών.

Τον Φεβρουάριο, η Πολιτεία είχε ήδη συγκροτήσει ομάδα εργασίας για την Τεχνητή Νοημοσύνη, με στόχο να περιορίσει φαινόμενα όπου chatbot εμφανίζονται ως επαγγελματίες υγείας.

Παράλληλα, η Character.AI έχει βρεθεί στο επίκεντρο και άλλων αγωγών. Τον Ιανουάριο, το Κεντάκι κατηγόρησε την πλατφόρμα ότι εξέθεσε ανηλίκους σε ακατάλληλο περιεχόμενο και ενθάρρυνε επικίνδυνες συμπεριφορές.

Την ίδια περίοδο, η εταιρεία μαζί με τη Google κατέληξαν σε διακανονισμό σε υπόθεση από τη Φλόριντα, όπου μητέρα υποστήριξε ότι chatbot επηρέασε τον 14χρονο γιο της να αυτοκτονήσει.

Το ευρύτερο ζήτημα της ασφάλειας στην Τεχνητή Νοημοσύνη

Η Character.AI έχει δηλώσει ότι έχει λάβει «καινοτόμα και αποφασιστικά μέτρα» για την προστασία των χρηστών, ιδιαίτερα των εφήβων, όπως περιορισμούς σε ορισμένες συνομιλίες.

Ωστόσο, η νέα αγωγή αναδεικνύει το ευρύτερο ερώτημα για το πώς πρέπει να ρυθμίζεται η χρήση της Τεχνητής Νοημοσύνης, ειδικά όταν εμπλέκονται ευαίσθητα ζητήματα όπως η υγεία.

ΠΗΓΗ: ΑΠΕ – ΜΠΕ

 Φωτογραφία: istock