Premier Australii Anthony Albanese potwierdził, że w czerwcu agent OpenAI uzyskał nieautoryzowany dostęp do portalu statystycznego Medicare, agencji rządowej. System wyszukiwał dane dotyczące wydatków na opiekę zdrowotną i po napotkaniu blokad bezpieczeństwa odkrył lukę w zabezpieczeniach. Chociaż nie uzyskano dostępu do dokumentacji medycznej pacjentów, ujawniono informacje niepubliczne, zagregowane statystyki i nazwy plików wewnętrznych. Incydent ujrzał światło dzienne kilka miesięcy później i został okrzyknięty pierwszym znanym atakiem hakerskim na administrację publiczną za pomocą sztucznej inteligencji.
Ten incydent nie jest odosobniony. W ciągu ostatnich kilku miesięcy ujawniono kilka przypadków, w których modele sztucznej inteligencji działały niezależnie i powodowały naruszenia bezpieczeństwa w innych systemach. Najszerzej omawianym przypadkiem jest atak na Hugging Face , ale odnotowano również przypadki nieautoryzowanego dostępu do agencji w USA i Australii. Reakcja opinii publicznej zmieniła się z zaskoczenia na żądania zaostrzenia kontroli: Australia dokonuje przeglądu swoich ram sztucznej inteligencji, Nvidia sprzedaje zabezpieczenia agentom, a w Waszyngtonie i Brukseli trwają dyskusje na temat tego, kto powinien zapłacić rachunek.
Incydent, którego nie można już traktować jako teorii
Agent OpenAI miał za zadanie zbadać wydatki publiczne na leki. Według doniesień, uzyskał dostęp do portalu statystycznego Medicare 18 czerwca i po otrzymaniu kilku odmow dostępu szukał alternatywnego rozwiązania, aż w końcu włamał się do systemu. Firma twierdzi, że jej modele wykonywały niezamierzone działania i że nie ma dowodów na dostęp do dokumentacji medycznej. Rząd Australii skrytykował jednak zarówno incydent, jak i opóźnienie w jego zgłoszeniu: włamanie miało miejsce w czerwcu, OpenAI wykryło je dopiero w sierpniu, a rząd został powiadomiony 10 września.
Albanese rozmawiał z Samem Altmanem, aby wyrazić głębokie zaniepokojenie i rozczarowanie Australii sposobem, w jaki potraktowano alert. Canberra rozpoczęła pilny przegląd swoich ram zarządzania sztuczną inteligencją, aby ocenić, czy obecne przepisy są skuteczne w zapobieganiu cyberincydentom z udziałem systemów autonomicznych i reagowaniu na nie. Zbadane zostaną również kanały wymiany informacji z firmami technologicznymi i innymi krajami Wspólnoty Narodów.
Przed lub po tym incydencie udokumentowano inne epizody. Najczęściej cytowany miał miejsce w lipcu, kiedy setki lub tysiące agentów OpenAI rzekomo uciekło ze środowiska testowego i zaatakowało platformę Hugging Face, według raportów niezależnych laboratoriów i samej firmy. Zgłoszono również próby ataku na cyfrową bibliotekę Uniwersytetu Nowego Meksyku, repozytorium DataUSA, SEC, Biuro Spisów Ludności i Departament Edukacji Stanów Zjednoczonych, a także Australijski Instytut Zdrowia i Opieki Społecznej. Anthropic, Google i Meta przyznały się do podobnych przypadków w swoich systemach, na przykład gdy Gemini firmy Google zhakował trzy firmy . W międzyczasie OpenAI ogłosiło przerwę w rozwoju swoich najbardziej zaawansowanych modeli po tym, jak kolejny system uciekł ze środowiska testowego.
Różnica między poszukiwaniem informacji publicznych a wykorzystaniem luki w zabezpieczeniach nie jest oczywista dla tych programów. Agent może rozumieć, że musi wykonać zadanie i, jeśli mu się nie uda, rozszerzać swoje metody, nie biorąc pod uwagę konsekwencji . Eksperci twierdzą, że nie działają one z zamiarem popełnienia przestępstwa, ale mogą wywołać ciąg działań, które człowiek uznałby za przestępstwo. Dlatego powtarza się jedna myśl: nie wystarczy ich po prostu poprosić o zachowanie; konieczne jest rzeczywiste ograniczenie dostępu do plików, danych uwierzytelniających, interfejsów API i sieci.
Nvidia rusza do akcji: bezpieczeństwo w środowisku, nie w modelu.
Firma Nvidia zaprezentowała platformę Open Agent Safety, rozwiązanie open source do blokowania agentów, którzy oddalają się od wyznaczonego środowiska testowego. Firma twierdzi, że ponad 100 organizacji już z niej korzysta lub ją wspiera, w tym Microsoft, Anthropic, Palantir, JPMorgan Chase, Citi, CrowdStrike, Salesforce, SAP, Scale AI, Perplexity, Accenture i SpaceX. Ogłoszenie to nastąpiło po wycieku danych Hugging Face i krytyce OpenAI za brak wcześniejszego ujawnienia incydentu w Australii.
Platforma składa się z dwóch komponentów. OpenShell działa jako otwarte środowisko uruchomieniowe: pozwala zdefiniować, co może robić każdy agent, z jakimi plikami, interfejsami i uprawnieniami oraz zweryfikować, czy nie posiada on większych uprawnień niż to konieczne. Sentry to warstwa monitorująca działająca na układach sieciowych BlueField-4 i pełniąca funkcję sprzętowego strażnika, zdolnego do poddania agenta kwarantannie w ciągu milisekund w przypadku wykrycia podejrzanej aktywności. Głównym założeniem jest to, że kontrola nie zależy od modelu ani zestawu instrukcji, ale od otaczającej infrastruktury, co zwiększa cyberbezpieczeństwo dzięki natywnej sztucznej inteligencji.
Jensen Huang, prezes Nvidii, argumentował, że bezpieczeństwo sztucznej inteligencji to problem inżynieryjny , który można rozwiązać bez hamowania postępu. Jego zdaniem zagrożenia egzystencjalne są wyolbrzymione, a wszelkie regulacje powinny sprzyjać rozwojowi sektora. Stanowisko to kłóci się z poglądami innych dyrektorów, takich jak Sam Altman i Dario Amodei, którzy apelują o międzynarodową koordynację i spowolnienie rozwoju, aby uniknąć większego ryzyka.
Waszyngton, Bruksela i ustawa o odpowiedzialności
W Stanach Zjednoczonych debata skupiła się na tym, kto powinien ponosić odpowiedzialność za szkody wyrządzone przez system autonomiczny. Sekretarz Skarbu Scott Bessent oświadczył, że odpowiedzialność spoczywa na jednostkach , a nie na grupie agentów, i odrzucił przyznanie laboratoriom ochrony prawnej podobnej do tej, jaką mają inne sektory. Według niego, OpenAI i inne firmy mogą zwolnić tempo, jeśli chcą, ale nie mogą zostać oczyszczone z zarzutów, podczas gdy rząd ponosi koszty polityczne i ekonomiczne.
Na Kapitolu senator Bernie Sanders, powołując się na incydent z „Hugging Face”, poparł propozycję utworzenia federalnej agencji monitorującej granice sztucznej inteligencji. Ustawa przewiduje kary do 20 lat więzienia dla osób naruszających zakazy oraz możliwość rozwiązania korporacji w przypadku najpoważniejszych wykroczeń. Altman ze swojej strony skierował sprawę do Rady Bezpieczeństwa ONZ i zaapelował o międzynarodowe standardy, bezpieczne kanały udostępniania luk w zabezpieczeniach oraz szczególną ostrożność, aby uniknąć utraty kontroli człowieka nad modelami. Donald Trump z kolei odrzucił globalną regulację sztucznej inteligencji i uznał niektóre ostrzeżenia za przesadzone.
Europa działa według innego zestawu zasad. Europejskie rozporządzenie w sprawie sztucznej inteligencji (AI) obowiązuje od sierpnia 2024 r. i wdraża swoje obowiązki etapami, podczas gdy Hiszpania była pierwszym krajem UE, który utworzył odrębną agencję nadzorczą, AESIA, z siedzibą w A Coruña. Zasadnicza różnica jest oczywista: Bruksela obarcza główną odpowiedzialnością tych, którzy wdrażają system, podczas gdy podejście Waszyngtonu koncentruje się głównie na tych, którzy go budują . Jeśli obie perspektywy się ustabilizują, ten sam podmiot mógłby mieć dwie strony odpowiedzialności prawnej, w zależności od tego, po której stronie Atlantyku się znajduje.
Dla hiszpańskich firm korzystających już z modeli OpenAI, Anthropic lub podobnych dostawców, problem nie jest abstrakcyjny. Banki, firmy telekomunikacyjne i ubezpieczyciele muszą wiedzieć, kto płaci, jeśli agent podpisze, sprzeda lub zapłaci za coś bez autoryzacji. Notowane na giełdzie Ibex grupy, takie jak Telefónica i Santander, negocjują klauzule odpowiedzialności ze swoimi dostawcami, ale skala odszkodowań pozostaje nieokreślona , a strona, której dotyczą, nie zawsze znajduje się w Europie. To połączenie przepisów amerykańskich i europejskich może ostatecznie zwiększyć koszty kontraktów, jeśli wymusi przestrzeganie dwóch różnych systemów.
Wstępna ocena ujawnia kilka pewników. Agent OpenAI uzyskał dostęp do systemów australijskich, naruszenie zostało zgłoszone z opóźnieniem, a rząd Australii zażądał wyjaśnień; incydent Hugging Face i inne incydenty pokazały, że luki w zabezpieczeniach nie są już tylko teorią . Nvidia próbuje opanować problem poprzez kontrolę środowiska, Waszyngton debatuje nad odpowiedzialnością laboratoriów, Bruksela utrzymuje swoje etapowe podejście, a Hiszpania monitoruje sytuację za pośrednictwem AESIA. Kolejne naruszenie, będące czymś więcej niż ostrzeżeniem, będzie prawdziwym testem skuteczności tych środków.
