Το AI που βρήκε κενά ασφαλείας στο λογισμικό της κυβέρνησης των ΗΠΑ

Η τεχνητή νοημοσύνη συνεχίζει να ανοίγει νέους δρόμους στην επιστήμη και την τεχνολογία, όμως μαζί με τις τεράστιες δυνατότητές της γεννιούνται και νέα ερωτήματα για τον τρόπο με τον οποίο θα χρησιμοποιηθεί.

Σύμφωνα με πληροφορίες του Reuters, η αμερικανική υπηρεσία κυβερνοασφάλειας CISA χρησιμοποίησε το προηγμένο μοντέλο Τεχνητής Νοημοσύνης Mythos της Anthropic, με στόχο να ελέγξει λογισμικά συστήματα της αμερικανικής κυβέρνησης και να εντοπίσει πιθανές αδυναμίες ασφαλείας.

Στόχος της διαδικασίας ήταν η ανακάλυψη πιθανών «κερκόπορτων» που θα μπορούσαν να αξιοποιηθούν από κυβερνοεγκληματίες ή ξένους παράγοντες για πρόσβαση σε κρίσιμες υποδομές.

Σύμφωνα με τις ίδιες πληροφορίες, το σύστημα εντόπισε σημαντικό αριθμό ευπαθειών, αναδεικνύοντας τις δυνατότητες που μπορεί να προσφέρει η Τεχνητή Νοημοσύνη στην προστασία ψηφιακών συστημάτων.

Ωστόσο, η ίδια δύναμη που μπορεί να χρησιμοποιηθεί για την προστασία, μπορεί να αποτελέσει και πηγή προβληματισμού.

Οι προηγμένες δυνατότητες του Mythos στον προγραμματισμό και την ανάλυση λογισμικού προκάλεσαν συζητήσεις σχετικά με το τι θα μπορούσε να συμβεί εάν αντίστοιχα εργαλεία χρησιμοποιηθούν από λάθος ανθρώπους.

Η ίδια η Anthropic είχε καθυστερήσει αρχικά τη δημόσια διάθεση του μοντέλου, εκφράζοντας ανησυχίες πως μια τόσο εξελιγμένη τεχνολογία θα μπορούσε να αξιοποιηθεί για κυβερνοεπιθέσεις μεγάλης κλίμακας.

Το γεγονός αυτό ανοίγει για ακόμη μία φορά μια ευρύτερη συζήτηση: η τεχνολογική πρόοδος από μόνη της δεν είναι ούτε καλή ούτε κακή. Το πραγματικό ερώτημα βρίσκεται στον τρόπο με τον οποίο ο άνθρωπος επιλέγει να τη χρησιμοποιήσει.

Η ιστορία έχει δείξει ότι κάθε μεγάλη ανακάλυψη συνοδεύεται από ευθύνη. Από την ενέργεια μέχρι το διαδίκτυο και σήμερα την Τεχνητή Νοημοσύνη, η γνώση αποκτά πραγματική αξία όταν υπηρετεί τον άνθρωπο και δεν τον αντικαθιστά ως κέντρο της δημιουργίας.

Από την πλευρά της χριστιανικής σκέψης, η ανθρώπινη δημιουργικότητα και η αναζήτηση της γνώσης αποτελούν ιδιαίτερα χαρακτηριστικά του ανθρώπου. Όμως η πρόοδος χρειάζεται να συνοδεύεται από διάκριση, ταπείνωση και σεβασμό στην αξία του ανθρώπινου προσώπου.

Η τεχνολογία μπορεί να εξελιχθεί σε ένα ισχυρό εργαλείο προσφοράς, προστασίας και ανάπτυξης. Δεν μπορεί όμως να αντικαταστήσει στοιχεία όπως η συνείδηση, η ηθική κρίση και η ευθύνη.

Καθώς η Τεχνητή Νοημοσύνη αποκτά ολοένα μεγαλύτερο ρόλο στην καθημερινότητα και στις αποφάσεις των κοινωνιών, το ζητούμενο δεν είναι μόνο πόσο ισχυρά συστήματα μπορούμε να δημιουργήσουμε.

Αλλά αν θα έχουμε τη σοφία να τα χρησιμοποιήσουμε σωστά.

Προηγουμένως η ΕΟΔ, έγραψε: https://eeod.gr/news/89669-to-chronik-tis-imras

Ελάτε στην μεγάλη ομάδα μας, στο VIBER

Читайте также