Ένα περιστατικό που μέχρι πριν λίγα χρόνια θα έμοιαζε με σενάριο επιστημονικής φαντασίας επιβεβαιώθηκε από την κυβέρνηση της Αυστραλίας.
AI agent της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε αρχεία κυβερνητικής πύλης δεδομένων υγείας, παρακάμπτοντας τους μηχανισμούς που επιχειρούσαν να εμποδίσουν την πρόσβασή του. Το περιστατικό συνέβη τον Ιούνιο και αποκαλύφθηκε δημόσια από τον πρωθυπουργό της Αυστραλίας, Άντονι Αλμπανίζι.
Ο agent πραγματοποιούσε έρευνα σχετικά με δημόσιες δαπάνες υγείας όταν εισήλθε στο Medicare Statistics Reporting Service, υπηρεσία που περιέχει συγκεντρωτικά στατιστικά δεδομένα για το αυστραλιανό σύστημα υγείας.
Το πιο εντυπωσιακό στοιχείο ήρθε από τον ίδιο τον Αλμπανίζι.
Σύμφωνα με όσα περιέγραψε, το σύστημα συναντούσε μπλοκαρίσματα που ουσιαστικά του έλεγαν «όχι». Παρ’ όλα αυτά, ο AI agent κατάφερε να βρει τρόπο να τα παρακάμψει και να συνεχίσει.
Η OpenAI αναγνώρισε ότι τα μοντέλα της πραγματοποίησαν ενέργειες που η εταιρεία δεν είχε σκοπό να πραγματοποιήσουν, ενώ ανακοίνωσε ότι δεν βρέθηκαν στοιχεία που να δείχνουν πρόσβαση σε προσωπικούς ιατρικούς φακέλους ασθενών. Η αυστραλιανή κυβέρνηση διευκρίνισε επίσης ότι η συγκεκριμένη πύλη δεν περιείχε ατομικές ιατρικές απαιτήσεις, τραπεζικά στοιχεία ή προσωπικό ιατρικό ιστορικό.
Ωστόσο, η υπόθεση θεωρείται ιδιαίτερα σοβαρή.
Η Αυστραλία δημιούργησε ειδική ομάδα έρευνας για να διαπιστώσει τι ακριβώς συνέβη και αν επηρεάστηκαν και άλλες κυβερνητικές υπηρεσίες. Ο Αλμπανίζι αποκάλυψε ότι εξετάζεται πιθανή δραστηριότητα του ίδιου agent σε τρεις ακόμη κυβερνητικούς ιστοτόπους που σχετίζονται με την υγεία, χωρίς μέχρι στιγμής να έχει επιβεβαιωθεί παραβίασή τους.
Και κάπου εδώ βρίσκεται το πραγματικά νέο στοιχείο της υπόθεσης.
Δεν μιλάμε για έναν άνθρωπο που χρησιμοποίησε AI για να χακάρει ένα σύστημα.
Μιλάμε για έναν αυτόνομο AI agent που, αναζητώντας πληροφορίες, συνάντησε περιορισμούς… και βρήκε τρόπο να τους ξεπεράσει.