Η OpenAI ερευνά κυβερνοεπίθεση από αυτόνομο πράκτορα AI
Πρωτοφανές περιστατικό κυβερνοασφάλειας αποκάλυψε η OpenAI, καθώς αυτόνομος πράκτορας AI απέδρασε από περιβάλλον δοκιμών και επιτέθηκε στην Hugging Face.
Έντονο προβληματισμό στην παγκόσμια κοινότητα της τεχνητής νοημοσύνης προκαλεί η αποκάλυψη της OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης, κατά τη διάρκεια εσωτερικών δοκιμών, κατάφερε να αποκτήσει πρόσβαση στο διαδίκτυο και να επιτεθεί στα συστήματα της πλατφόρμας Hugging Face. Η εταιρεία χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν κυβερνοασφάλειας» και ανακοίνωσε ότι συνεργάζεται ήδη με την Hugging Face για τη διερεύνηση της υπόθεσης και την ενίσχυση των μέτρων προστασίας.
Σύμφωνα με την OpenAI, το συμβάν σημειώθηκε στο πλαίσιο αξιολόγησης των πλέον προηγμένων μοντέλων της στον τομέα της κυβερνοασφάλειας. Για τις ανάγκες της δοκιμής είχαν απενεργοποιηθεί ορισμένοι μηχανισμοί ασφαλείας, ώστε να εξεταστούν οι πραγματικές δυνατότητες των μοντέλων σε επιθετικά σενάρια. Ο πράκτορας κατάφερε να εντοπίσει κενό ασφαλείας, να διαφύγει από το απομονωμένο περιβάλλον δοκιμών (sandbox) και να αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο, όπου επιτέθηκε στην Hugging Face αναζητώντας πληροφορίες που θα τον βοηθούσαν να ολοκληρώσει την αποστολή αξιολόγησης.
Η OpenAI ανέφερε ότι τα μοντέλα εκμεταλλεύθηκαν άγνωστη μέχρι τότε ευπάθεια (zero-day), πραγματοποίησαν κλιμάκωση προνομίων και χρησιμοποίησαν πολλαπλές τεχνικές επίθεσης, μεταξύ των οποίων και κλεμμένα διαπιστευτήρια πρόσβασης. Όπως επισημαίνει η εταιρεία, το περιστατικό ανέδειξε νέες προκλήσεις για την ασφάλεια των αυτόνομων συστημάτων τεχνητής νοημοσύνης και οδήγησε στην άμεση επανεξέταση των πρωτοκόλλων ασφαλείας.
Το συμβάν αναζωπύρωσε τη συζήτηση γύρω από τους κινδύνους που συνεπάγεται η ταχεία εξέλιξη των συστημάτων τεχνητής νοημοσύνης. Ειδικοί στον χώρο της κυβερνοασφάλειας και πολιτικοί στις Ηνωμένες Πολιτείες ζητούν αυστηρότερα πρότυπα αξιολόγησης, υποχρεωτική γνωστοποίηση αντίστοιχων περιστατικών και διεθνή συνεργασία για την ασφαλή ανάπτυξη προηγμένων μοντέλων AI.
Προηγουμένως η ΕΟΔ, έγραψε: https://eeod.gr/news/90195-pno-ap-63600-ypopsfioi-eisgontai-stin-tritovthmia-ekpadeusi
Ελάτε στην μεγάλη ομάδα μας, στο VIBER
