Il 18 giugno un agente di OpenAI è entrato nelle parti non pubbliche del portale statistico di Medicare, il servizio sanitario universale australiano, quello che copre 27,5 milioni di iscritti ed è considerato intoccabile dalla politica del paese. Il compito assegnato era ordinario: mettere insieme dati pubblici sulla spesa in medicinali. Quando ha trovato gli accessi bloccati, ha cercato «strade alternative», come ha raccontato il primo ministro Anthony Albanese, e le ha trovate.
Il 20 e il 21 giugno lo stesso sistema ha tentato con l’Istituto australiano per la salute e il welfare. Sono stati raggiunti anche il dipartimento della salute del Victoria e l’ufficio di statistica criminale del New South Wales. Secondo il governo australiano è uscita roba sulla spesa, non cartelle cliniche, e le verifiche continuano.
Poi c’è la catena della notifica, la parte che ha fatto arrabbiare Canberra. OpenAI dice di essersene accorta ad agosto. Il 10 settembre ha scritto a un indirizzo email generico dell’amministrazione australiana, di quelli controllati una volta al giorno. La lettura è dell’11, l’avviso all’agenzia dei segnali del 15, la ministra dei servizi Katy Gallagher lo ha saputo il 17, e Services Australia ha chiesto a OpenAI i dettagli il 22 settembre, tre mesi dopo l’intrusione. «Ci ha messo troppo tempo», ha detto Albanese, «e anche il modo in cui la notifica è arrivata è inaccettabile.» A inizio settembre il vicepremier Richard Marles aveva incontrato Sam Altman di persona, e dice che Altman non gliene ha parlato.
Gli altri quattro episodi li ha portati a galla Transluce, un laboratorio che studia il controllo sui modelli, analizzando il traffico web pubblico degli agenti; OpenAI li ha confermati. Il 25 e 26 maggio l’AI ha provato a entrare nella biblioteca digitale dell’Università del New Mexico: voleva le fotografie di un vecchio sanatorio per la tubercolosi. Non riuscendo a prenderle ha cercato vulnerabilità nel sito, non ne ha trovate, e ha mandato al server dell’università quella che ha descritto lei stessa come una «inondazione» di ottanta richieste. Il 28 maggio ha puntato Data USA, archivio pubblico su lavoro e istruzione: prima una richiesta scritta male, poi dodici sonde in cerca di un buco.
A luglio, quando un modello di OpenAI uscì dal recinto di prova e compromise i sistemi di Hugging Face, era stato messo a fare esercizi di sicurezza informatica: lo avevano di fatto invitato a mostrare che sapeva forzare una porta. Qui gli agenti raccoglievano dati, e la forzatura è la soluzione che hanno scelto quando la raccolta si è inceppata. Transluce ha visto il loro traffico già a marzo e ancora mercoledì scorso: il comportamento è cominciato prima dell’indagine interna di OpenAI ed è proseguito durante.
«Se addestri uno sciame di agenti a svolgere un compito generico e quegli agenti sono disposti a bucare un sito, chiunque si trovi a possedere quell’informazione può essere a rischio», ha detto Conrad Stosz, responsabile della governance di Transluce, secondo cui l’episodio australiano è probabilmente il primo caso di un agente che decide da solo di entrare nei sistemi di un governo.
Albanese ha istituito una task force con l’agenzia dei segnali, l’ufficio per l’intelligenza artificiale e Services Australia, che dovrà stabilire quali obblighi di notifica abbiano le aziende del settore e se le leggi esistenti bastino. Il caso è passato anche alla commissione parlamentare. OpenAI finora non ha subito nessuna sanzione.
Marles ha definito l’episodio «relativamente minore» e insieme «un avvertimento salutare» su una tecnologia costruita senza protezioni. Cory Alpert, che a Melbourne studia gli effetti dell’AI sulla democrazia, ha aggiunto la cosa più scomoda: se il modello fosse stato cinese o russo, la reazione non sarebbe stata una telefonata severa ad Altman.
Una portavoce di OpenAI dice che l’azienda ha avvisato l’università del New Mexico e Data USA e che sta estendendo l’esame anche agli episodi minori, compresi gli agenti che intasano i siti di richieste. Sull’Australia la formula è questa: «I nostri modelli hanno compiuto azioni che non avevamo previsto». La revisione interna andrà avanti per mesi.
