Η OpenAI ερευνά κυβερνοεπίθεση από αυτόνομο πράκτορα AI
Έντονο προβληματισμό στην παγκόσμια κοινότητα της τεχνητής νοημοσύνης προκαλεί η αποκάλυψη της OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης, κατά τη διάρκεια εσωτερικών δοκιμών, κατάφερε να αποκτήσει πρόσβαση στο διαδίκτυο και να επιτεθεί στα συστήματα της πλατφόρμας Hugging Face. Η εταιρεία χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν κυβερνοασφάλειας» και ανακοίνωσε ότι συνεργάζεται ήδη με την Hugging Face για τη διερεύνηση της υπόθεσης και την ενίσχυση των μέτρων προστασίας.
Σύμφωνα με την OpenAI, το συμβάν σημειώθηκε στο πλαίσιο αξιολόγησης των πλέον προηγμένων μοντέλων της στον τομέα της κυβερνοασφάλειας. Για τις ανάγκες της δοκιμής είχαν απενεργοποιηθεί ορισμένοι μηχανισμοί ασφαλείας, ώστε να εξεταστούν οι πραγματικές δυνατότητες των μοντέλων σε επιθετικά σενάρια. Ο πράκτορας κατάφερε να εντοπίσει κενό ασφαλείας, να διαφύγει από το απομονωμένο περιβάλλον δοκιμών (sandbox) και να αποκτήσει πρόσβαση στο ανοιχτό διαδίκτυο, όπου επιτέθηκε στην Hugging Face αναζητώντας πληροφορίες που θα τον βοηθούσαν να ολοκληρώσει την αποστολή αξιολόγησης.
Η OpenAI ανέφερε ότι τα μοντέλα εκμεταλλεύθηκαν άγνωστη μέχρι τότε ευπάθεια (zero-day), πραγματοποίησαν κλιμάκωση προνομίων και χρησιμοποίησαν πολλαπλές τεχνικές επίθεσης, μεταξύ των οποίων και κλεμμένα διαπιστευτήρια πρόσβασης. Όπως επισημαίνει η εταιρεία, το περιστατικό ανέδειξε νέες προκλήσεις για την ασφάλεια των αυτόνομων συστημάτων τεχνητής νοημοσύνης και οδήγησε στην άμεση επανεξέταση των πρωτοκόλλων ασφαλείας.
Το συμβάν αναζωπύρωσε τη συζήτηση γύρω από τους κινδύνους που συνεπάγεται η ταχεία εξέλιξη των συστημάτων τεχνητής νοημοσύνης. Ειδικοί στον χώρο της κυβερνοασφάλειας και πολιτικοί στις Ηνωμένες Πολιτείες ζητούν αυστηρότερα πρότυπα αξιολόγησης, υποχρεωτική γνωστοποίηση αντίστοιχων περιστατικών και διεθνή συνεργασία για την ασφαλή ανάπτυξη προηγμένων μοντέλων AI.
Προηγουμένως η ΕΟΔ, έγραψε: https://eeod.gr/news/90195-pno-ap-63600-ypopsfioi-eisgontai-stin-tritovthmia-ekpadeusi
Ελάτε στην μεγάλη ομάδα μας, στο VIBER
Читайте также
Η Κύπρος τίμησε την Ημέρα των Ενόπλων Δυνάμεων
Στην επετειακή τελετή στη Λευκωσία παρέστησαν μεταξύ άλλων, ο Αρχιεπίσκοπος Κύπρου, ο Υπουργός Άμυνας και ο Αρχηγός της Εθνικής Φρουράς.
Αρχιεπίσκοπος Μακάριος: η Ελληνική παραμένει γλώσσα λατρείας στην Αυστραλία
Ο προκαθήμενος μίλησε στο 12ο Διεθνές Θερινό Πανεπιστήμιο στο Σίδνεϋ για τον ρόλο της ελληνικής γλώσσας στη ζωή της Ομογένειας.
Οι Άρχοντες του Καναδά συμβάλλουν ως χορηγοί της ταινίας «Άγιος Παΐσιος»
Το Ελληνικό Διεθνές Φεστιβάλ Κινηματογράφου του Καναδά θα προβάλει την ταινία σε δέκα πόλεις από 24 Σεπτεμβρίου έως 4 Οκτωβρίου.
Έξι Ιεράρχες τίμησαν το Γενέσιον της Θεοτόκου στην Πλατανιώτισσα
Στο Ιερό Προσκύνημα της Παναγίας Πλατανιωτίσσης στα Καλάβρυτα συνδιακόνησαν Ιεράρχες από την Ελλάδα, τη Σερβία και το Μαυροβούνιο επί δύο ημέρες πανηγύρεως.
Ο Πατριάρχης Ιεροσολύμων ενημερώθηκε για τις εργασίες στον Ναό της Αναστάσεως
Επιστήμονες του Πανεπιστημίου Sapienza της Ρώμης παρουσίασαν στον Πατριάρχη Θεόφιλο Γ' την πρόοδο των εργασιών συντήρησης, οι οποίες πλησιάζουν στην ολοκλήρωσή τους.
Μητροπολίτης Κιλκισίου: το Κιλκίς είναι κοιμώμενος γίγαντας της Δ.Ε.Θ.
Ο μητροπολίτης Πολυανής και Κιλκισίου Βαρθολομαίος ζητά σιδηροδρομική σύνδεση για τη Βιομηχανική Περιοχή Κιλκίς και ασφαλτόστρωση προς τη Μονή Αγίου Νεκταρίου.