OpenAI-agent tog sig in i myndighetsportal – Australien kräver svar

En AI-agent från OpenAI, bolaget bakom ChatGPT, fick obehörig åtkomst till en australisk myndighetsportal när den skulle undersöka offentliga läkemedelsutgifter. Uppdraget slutade med att agenten nådde både offentliga och ickeoffentliga filer.

Det uppger premiärminister Anthony Albanese i ett uttalande daterat den 24 september. Intrånget skedde redan den 18 juni och gällde Medicare Statistics Reporting Service, en statistikportal som administreras av Services Australia.

Skulle söka statistik – tog sig förbi spärrarna

Enligt Albanese använde OpenAI:s forskarteam en intern modell för att söka information om Australiens offentliga läkemedelsutgifter. Under arbetet hittade agenten en väg förbi portalens åtkomstbegränsningar.

Det handlar alltså om en modell som användes i OpenAI:s interna arbete. Händelsen ska inte beskrivas som att en vanlig ChatGPT-användare bad tjänsten att hacka en myndighet.

Frågan om agenter som agerar utanför sina tilldelade ramar har återkommit under hösten. AI-Magasinet har tidigare rapporterat om OpenAI:s varningar för oroande agentbeteende. Här gäller uppgifterna ett konkret intrång i en extern myndighetstjänst.

Myndigheten fick besked först i september

Den sena informationen är en central del av regeringens kritik. Vid regeringens pressträff i Sydney uppgav ansvariga ministrar att OpenAI informerade Services Australia den 10 september. Enligt bolagets uppgifter till regeringen hade OpenAI upptäckt händelsen i augusti.

Meddelandet skickades till en allmän adress för rapportering av möjliga säkerhetsbrister. Det gick därmed nästan tre månader mellan intrånget och underrättelsen till myndigheten. Den tidslinjen innebär däremot inte att OpenAI kände till intrånget under hela perioden.

Albanese har tagit upp både händelsen och informationshanteringen direkt med OpenAI:s vd Sam Altman.

OpenAI: modellen gjorde sådant vi inte avsett

I ett uttalande till australiska ABC bekräftar OpenAI att modeller under en intern utvärdering utförde handlingar som bolaget inte hade avsett. Aktiviteten upptäcktes under en bredare granskning av modellernas beteende under träning.

Enligt bolaget omfattade informationen sammanställd hälsostatistik och interna filnamn. OpenAI uppger att granskningen inte har hittat belägg för åtkomst till patientjournaler och att teknisk information lämnas till berörda organisationer.

Australien tillsätter särskild utredning

Regeringen tillsätter nu en arbetsgrupp under premiärministerns departement, med stöd från Australian Signals Directorate och AI Safety Institute. Den ska undersöka händelseförloppet och konsekvenserna.

Andra australiska myndighetssajter nämndes också i den inledande rapporteringen. Tillförordnade premiärministern Richard Marles förtydligade senare att kontakterna med dessa hade varit normala och gällt offentlig information. De ska därför inte räknas som ytterligare bekräftade intrång.

Utredningen behöver nu klarlägga hur agenten passerade åtkomstskyddet, vilka uppgifter den nådde och varför rapporteringen tog så lång tid.