Η Meta ειδοποιεί γονείς όταν η AI εντοπίζει κίνδυνο αυτοκτονίας

Η Meta ανακοίνωσε μια νέα δέσμη μέτρων ασφαλείας για την προστασία των εφήβων που χρησιμοποιούν τις υπηρεσίες τεχνητής νοημοσύνης της, αξιοποιώντας ειδικά εκπαιδευμένα συστήματα AI για τον εντοπισμό συνομιλιών που ενδέχεται να υποδηλώνουν κίνδυνο αυτοκτονίας ή αυτοτραυματισμού.

Σύμφωνα με την εταιρεία, το νέο σύστημα αναπτύχθηκε σε συνεργασία με γονείς και ειδικούς ψυχικής υγείας, ώστε να μπορεί να αναγνωρίζει συνομιλίες υψηλού κινδύνου. Ωστόσο, κάθε περιστατικό που επισημαίνεται από την τεχνητή νοημοσύνη θα εξετάζεται πρώτα από άνθρωπο πριν αποσταλεί οποιαδήποτε ειδοποίηση, προκειμένου να μειωθούν τα λάθη.

Η Meta διευκρίνισε ότι όταν υπάρχει αμφιβολία σχετικά με τις προθέσεις ενός εφήβου, θα επιλέγεται η πιο ασφαλής προσέγγιση, δίνοντας προτεραιότητα στην προστασία του χρήστη.

Παράλληλα, η εταιρεία ανακοίνωσε ότι αναπτύσσει δυνατότητα ειδοποίησης των υπηρεσιών άμεσης επέμβασης όταν μια συνομιλία υποδηλώνει άμεσο κίνδυνο αυτοκτονίας. Όπως ανέφερε, μόνο το προηγούμενο έτος πραγματοποίησε περισσότερες από 19.000 παραπομπές έκτακτης ανάγκης μέσω των πλατφορμών Facebook και Instagram σε παγκόσμιο επίπεδο.

Οι νέες λειτουργίες βασίζονται σε εισηγήσεις ψυχιάτρων και ειδικών στην εφηβική ψυχική υγεία, ενώ ενσωματώνουν συστάσεις από συμβουλευτικές ομάδες που συνεργάζονται με τη Meta για ζητήματα ευημερίας, αυτοτραυματισμού και προστασίας των νέων.

Η εταιρεία επεκτείνει επίσης τη λειτουργία «Περιορισμένου Περιεχομένου» και στις συνομιλίες με το Meta AI. Έτσι, όταν οι γονείς ενεργοποιούν αυστηρότερες ρυθμίσεις μέσω των εργαλείων γονικού ελέγχου του Instagram, οι περιορισμοί θα εφαρμόζονται αυτόματα και στις αλληλεπιδράσεις του εφήβου με την τεχνητή νοημοσύνη.

Σήμερα, οι λογαριασμοί χρηστών κάτω των 18 ετών εντάσσονται αυτόματα στις ειδικές ρυθμίσεις ασφαλείας για εφήβους, ενώ το κατώτατο όριο ηλικίας για τη χρήση των υπηρεσιών της Meta παραμένει τα 13 έτη.

Η ανακοίνωση έρχεται σε μια περίοδο κατά την οποία οι μεγάλες εταιρείες τεχνητής νοημοσύνης ενισχύουν τα μέτρα προστασίας των ανηλίκων. Η OpenAI έχει ήδη εισαγάγει ειδικές δικλίδες ασφαλείας και γονικούς ελέγχους για χρήστες κάτω των 18 ετών στο ChatGPT, ενώ η Anthropic επιτρέπει τη χρήση του Claude μόνο σε ενήλικες.

Την ίδια στιγμή, η Meta εξακολουθεί να βρίσκεται στο επίκεντρο έντονης κριτικής για άλλα ζητήματα που σχετίζονται με την τεχνητή νοημοσύνη, όπως η πρόσφατη απόσυρση της λειτουργίας Muse Image μετά από αντιδράσεις δημιουργών, αλλά και αγωγή πρώην εργαζομένων που υποστηρίζουν ότι συστήματα AI χρησιμοποιήθηκαν στη διαδικασία επιλογής προσωπικού για απολύσεις — ισχυρισμούς που η εταιρεία απορρίπτει κατηγορηματικά.

Προηγουμένως η ΕΟΔ, έγραψε: https://eeod.gr/news/90057-to-chronik-tis-imras

Ελάτε στην μεγάλη ομάδα μας, στο VIBER

Διαβάστε επίσης