Κόσμος

Η Αυστραλία παραδέχθηκε ότι «πράκτορας» της Open AI παραβίασε το σύστημα υγείας της χώρας

Ένα αυτόνομο λογισμικό τεχνητής νοημοσύνης παρέκαμψε πολλαπλά εμπόδια ασφαλείας και «χάκαρε» την πύλη στατιστικών δεδομένων του εθνικού συστήματος υγείας της χώρας Medicare.

Η Αυστραλία παραδέχθηκε ότι «πράκτορας» της Open AI παραβίασε το σύστημα υγείας της χώρας

REUTERS/Dado Ruvic/File Photo

Σχόλια
3 λεπτά

Σε μια πρωτοφανή αποκάλυψη που προκαλεί παγκόσμιο συναγερμό για τους κινδύνους της τεχνητής νοημοσύνης προέβη ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανίζι. Ένα αυτόνομο λογισμικό τεχνητής νοημοσύνης (AI agent) της εταιρείας OpenAI κατάφερε να παρακάμψει πολλαπλά εμπόδια ασφαλείας και να «χακάρει» την πύλη στατιστικών δεδομένων του εθνικού συστήματος υγείας της χώρας, Medicare.

Όπως επιβεβαίωσε ο Αυστραλός πρωθυπουργός, το ο «πράκτορας» AI agent όχι μόνο απέκτησε πρόσβαση σε δημόσια και μη δημοσιοποιημένα αρχεία, αλλά προχώρησε και στην εγγραφή αρχείων (wrote files) απευθείας στον εσωτερικό διακομιστή του κρατικού συστήματος.

Σύμφωνα με διεθνείς ειδικούς σε θέματα κυβερνοασφάλειας, το περιστατικό συνιστά την πρώτη καταγεγραμμένη παραβίαση κυβερνητικού συστήματος στον κόσμο από πρόγραμμα AI.

Πώς συνέβη η παραβίαση και η παράκαμψη ασφαλείας

Το περιστατικό σημειώθηκε στις 18 Ιουνίου, όταν το AI agent της OpenAI εκτελούσε μια αυτόνομη έρευνα σχετικά με τις δημόσιες δαπάνες υγείας. Όταν το πρόγραμμα συνάντησε εμπόδια στην πρόσβαση των πληροφοριών που αναζητούσε, προχώρησε αυτόνομα στην παράκαμψη των ασφαλιστικών δικλείδων του συστήματος (security blocks) και εισέβαλε στην πύλη στατιστικών της Medicare (Medicare Statistics Reporting Service).

Η OpenAI και οι αρχές της Αυστραλίας διευκρινίζουν ότι το σύστημα δεν πιστεύεται ότι απέσπασε προσωπικά ή ευαίσθητα ιατρικά δεδομένα ασθενών, ενώ η ενέργεια του AI φαίνεται πως ήταν ακούσια και αποτέλεσμα ανεξέλεγκτης συμπεριφοράς του μοντέλου (misaligned model activity).

Στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ στη Νέα Υόρκη, ο Άντονι Αλμπανίζι συνάντησε τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Όλτμαν, εκφράζοντας την εντονότατη οργή της Καμπέρα: «Εξέφρασα στον κ. Όλτμαν την άκρατη ανησυχία της Αυστραλίας για το συμβάν, καθώς και την απογοήτευσή μου για το γεγονός ότι η εταιρεία χρειάστηκε τόσο μεγάλο χρονικό διάστημα για να μας ενημερώσει. Ο τρόπος και ο χρόνος της ειδοποίησης ήταν εντελώς απαράδεκτος», δήλωσε ο Αυστραλός Πρωθυπουργός.

Από την πλευρά της, η OpenAI ανέφερε σε ανακοίνωσή της ότι η συμπεριφορά του μοντέλου ήταν ακούσια («misaligned model activity») και ότι προχώρησε στην ειδοποίηση αφού ολοκλήρωσε την εσωτερική της έρευνα για την επαλήθευση των γεγονότων. Εκτός από το Medicare, το AI agent, όπως έγινε γνωστό, προσέγγισε τρία ακόμη κυβερνητικά συστήματα της Αυστραλίας.

Το περιστατικό συμπίπτει χρονικά με την κοινή διακήρυξη που υπέγραψαν 21 χώρες στον ΟΗΕ για την επιβολή επειγόντων διεθνών κανόνων ασφαλείας (guardrails) στην ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης.

Go Deeper

Open AI Αυστραλία τεχνητή νοημοσύνη

Επόμενο άρθρο

Google news

Ακολουθήστε tanea.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Σχετικά άρθρα

Σχόλια
Σχολίασε εδώ
0 /50
0 /2000

Τα Νεότερα

  1. New York Post: Τριμερής συνάντηση Τραμπ, Σι, Πούτιν την Πέμπτη στην Κίνα
  2. Ομπράντοβιτς: «Ποτέ δε σταθώ στα τελευταία δευτερόλεπτα, αλλά σε όλα τα προηγούμενα»
  3. Τραγωδία στο Μπρούκλιν: Συγκλονίζουν οι μαρτυρίες των επιζώντων – Τα προειδοποιητικά σημάδια και το ιστορικό του εργοταξίου

Πιο Σχολιασμένα

Πιο Διαβασμένα

Cookies