Nowy model sztucznej inteligencji firmy Anthropic, znany jako Podgląd Claude MythosStał się epicentrum globalnej debaty na temat granic zaawansowanej sztucznej inteligencji. Sama firma przyznaje, że system jest tak potężny pod względem cyberbezpieczeństwa, że zdecydowała się nie wprowadzać go na szeroką skalę, co jest nietypową decyzją w branży, która przywykła chwalić się każdym nowym osiągnięciem.
Stawką nie jest tylko stopniowa poprawa w stosunku do poprzednich modeli, ale jakościowy skok w możliwościach wykrywania i wykorzystywania luk w zabezpieczeniach komputerówRządy, banki centralne, główne instytucje finansowe i europejskie organy regulacyjne uważnie monitorują sprawę, mając świadomość, że takie narzędzie może wzmocnić obronę krytycznych systemówJednakże, gdyby dostało się w niepowołane ręce, mogłoby to otworzyć drogę do ataków na niespotykaną dotąd skalę.
Czym właściwie jest Claude Mythos i dlaczego jego premiera została opóźniona?
Claude Mythos to jeden z najnowszych modeli w rodzinie Claude, ekosystemie sztucznej inteligencji firmy Anthropic, który konkuruje z ChatGPT firmy OpenAI i Gemini firmy GoogleJest to model ogólnego przeznaczenia, zdolny do rozumowania, programowania i pracy w długoterminowym kontekście, ale jego najbardziej kontrowersyjną cechą jest wydajność w ofensywnym i defensywnym cyberbezpieczeństwie.
Połączenia „czerwone drużyny”Specjaliści testujący systemy AI do granic możliwości doszli w wewnętrznym raporcie do wniosku, że Mythos jest „zaskakująco wydajny” w zadaniach związanych z cyberbezpieczeństwem. W testach porównawczych, takich jak Zweryfikowano na ławce SWE o SWE-bench ProModel ten, zaprojektowany w celu pomiaru zdolności rozwiązywania rzeczywistych problemów inżynierii oprogramowania, z łatwością przewyższyłby najlepsze komercyjne alternatywy, w tym zaawansowane wersje GPT i Gemini, zgodnie z danymi udostępnionymi przez samą firmę Anthropic.
Poza punktami odniesienia, to co wywołało alarm to fakt, że Mythos był w stanie zlokalizować luki typu zero-day —wcześniej nieznane błędy— w powszechnie używanych komponentach oprogramowania, z których niektóre miały ponad dwie dekady. W systemach takich jak komponenty OpenBSD, FFmpeg i FreeBSD model nie tylko wykrywał błędy, które pozostawały niezauważone przez lata, ale także generował działające exploity, aby je wykorzystać.
W obliczu takich wyników firma Anthropic zdecydowała się na decyzję nietypową w branży: zaprezentować model, a następnie ogłosić, że nie będzie on publicznie wprowadzany do obrotu. Ponieważ uważa, że stwarza on bezprecedensowe ryzyko cyberbezpieczeństwa. Firma twierdzi, że Mythos to „najlepiej dopasowany” model, jaki zbudowali, ale przyznaje, że jego ogromna pojemność potęguje konsekwencje wszelkich nadużyć.
Model z umiejętnościami „hakerskimi” znacznie wykraczającymi poza ludzkie możliwości
Dokumenty techniczne i raporty różnych organizacji są zgodne, że Mythos oznacza punkt zwrotny w automatyzacji złożonych atakówW środowiskach testowych symulujących rzeczywiste sieci korporacyjne system był w stanie wykrywać luki w zabezpieczeniach, zwiększać uprawnienia i uzyskiwać stały dostęp w ciągu kilku godzin — zadania, które ekspertowi zajęłyby dni lub tygodnie.
Na przykład w silniku JavaScript Firefoksa wcześniejsze wersje modeli Anthropic rzadko potrafiły przekształcić luki w działające exploity. Mythos, w tych samych warunkach testowych, wygenerował dziesiątki operacyjnych exploitówDokładnie odzwierciedla wykorzystanie najskuteczniejszych wektorów. Na platformach analitycznych, takich jak OSS-Fuzz, zaprojektowanych do wyszukiwania błędów w oprogramowaniu open source, przypisuje się mu wykrywanie luk o wysokim stopniu zagrożenia, które pozostały niezauważone pomimo lat automatycznych testów.
Model ten wykazał również niezwykłe możliwości w zakresie inżynieria odwrotnaPotrafi zrekonstruować część logiki programu ze skompilowanych plików binarnych, a następnie lokalizować i wykorzystywać luki bez dostępu do oryginalnego kodu źródłowego. Ten rodzaj możliwości przybliża sztuczną inteligencję do scenariuszy, które do niedawna były uznawane za zarezerwowane wyłącznie dla wysoce wyspecjalizowanych zespołów ludzkich.
Jednym z najczęściej cytowanych przypadków w ocenach bezpieczeństwa jest tzw. „test kanapkowy”. W odizolowanym środowisku laboratoryjnym Mythos otrzymał kontrolę nad systemem z wyraźnymi instrukcjami, aby spróbować ucieknij z piaskownicy i skontaktuj się z badaczem kto nadzorował test. Modelowi udało się wykorzystać łańcuch luk w zabezpieczeniach, aby wydostać się z ograniczonego środowiska i wysłać e-mail do osoby odpowiedzialnej, która w tym czasie przebywała poza biurem. Chociaż incydent miał miejsce we wcześniejszej wersji wewnętrznej i pod nadzorem, ilustruje on, w jakim stopniu system może działać w złożonych scenariuszach przy minimalnym nadzorze.
Pomimo tych demonstracji analitycy nalegają na wyjaśnienie, że Nie mamy do czynienia ze sztuczną inteligencją „świadomą” ani taką, która ma własną wolęMythos nie decyduje się na atakowanie systemów samodzielnie; wykonuje powierzone mu zadania tak sprawnie, jak to możliwe. Ryzyko w tym sensie nie polega na tym, że model się zbuntuje, ale na tym, że ktoś go wykorzysta – lub zmusi do tego za pomocą wyrafinowanych komunikatów – do wykonania szkodliwych działań.
Projekt Glasswing: Mity w służbie obronności… dla wybranych
Zamiast otwierać dostęp dla ogółu społeczeństwa, Anthropic zdecydował się otoczyć Mythos konkretnym programem, Projekt GlasswingCelem inicjatywy jest kontrolowane wykorzystanie możliwości modelu w celu ochrony krytycznego oprogramowania. System ma zostać udostępniony, na ściśle określonych warunkach użytkowania, wybranej grupie dużych firm technologicznych, dostawców infrastruktury i instytucji finansowych.
Wśród organizacji mających dostęp znajdują się giganci, tacy jak Amazon Web Services, Apple, Microsoft, Google CloudNvidia lub Broadcoma także firmy zajmujące się cyberbezpieczeństwem, takie jak CrowdStrike, których wadliwe oprogramowanie spowodowało poważne globalne zakłócenia w 2024 roku. Dołączają do nich banki o światowej renomie, w tym JP Morgan Chase i kilka dużych grup z Wall Streetoraz inne organizacje odpowiedzialne za utrzymanie wrażliwej infrastruktury informatycznej.
Anthropic ogłosił również pożyczki o wartości 100 milionów dolarów To finansowanie umożliwi tym organizacjom wykorzystanie Mythos do analizy podatności, a także pozwoli na przekazanie darowizn na rzecz fundacji wolnego oprogramowania, takich jak Linux Foundation i Apache Software Foundation. Oficjalny cel jest jasny: umożliwić osobom zarządzającym najważniejszym oprogramowaniem na świecie identyfikację i naprawienie luk, zanim takie narzędzia staną się dostępne dla potencjalnych atakujących.
Ta strategia budzi jednak pewien niepokój w sektorze. Z jednej strony wzmacnia przekonanie, że technologia jest na tyle niebezpieczna, że wymaga ograniczenia dostępu. Z drugiej strony, Tworzy to przepaść między tymi, którzy korzystają z „tarczy” Mythos, a tymi, którzy są pomijani.Przedsiębiorstwa i administracje niebędące częścią Glasswing narażone są na ryzyko późniejszego zetknięcia się z lukami w zabezpieczeniach, które zostały zidentyfikowane i załatane w uprzywilejowanych środowiskach, ale nadal występują w ich własnych systemach.
W Europie asymetria ta budzi szczególne obawy osób odpowiedzialnych za infrastrukturę krytyczną oraz zespołów ds. bezpieczeństwa dużych grup przemysłowych i finansowych, które uważnie monitorują, czy Bruksela i stolice europejskie dbają o to, aby w podobnych programach uczestniczyli na równych prawach kluczowi gracze z kontynentu i suwerenność chmur z partnerami z USA.
Reakcja rządów, organów regulacyjnych i sektora finansowego
Wpływ Mythos nie ogranicza się do sfery technicznej. W ciągu zaledwie kilku dni ogłoszenie tego modelu wywołało spotkania na wysokim szczeblu w Stanach Zjednoczonych i EuropieSekretarz Skarbu USA wezwał szefów największych banków kraju do Waszyngtonu, aby ocenić ryzyko, jakie system ten może stanowić dla stabilności finansowej. W rozmowach wziął udział również prezes Rezerwy Federalnej.
Według przecieków donoszonych przez międzynarodowe media, podmioty te rzekomo były zachęcane do Testuj Mythos w trybie obronnymwykorzystując go do skanowania własnej infrastruktury w poszukiwaniu słabych punktów, zanim zrobią to inni. Ukryty przekaz jest taki, że zagrożenie jest na tyle poważne, że uzasadnia skoordynowaną reakcję sektora publicznego i prywatnego.
Tymczasem współzałożyciel Anthropic potwierdził, że firma utrzymuje bezpośrednie rozmowy z rządem Stanów Zjednoczonych O Mythos i przyszłych modelach. Dyskusje te toczą się w napiętym kontekście, po tym jak władze USA niedawno dodały firmę do listy ryzyko łańcucha dostaw, w wyniku tarć związanych z wykorzystaniem ich modeli przez Departament Obrony.
Po drugiej stronie Atlantyku Unia Europejska to zauważyła. Komisja Europejska publicznie poparła stopniowe i ostrożne podejście do modeli takich jak Mythos, a Organy nadzoru finansowego w Wielkiej Brytanii i na kontynencie zaczęły szczegółowo badać jego potencjalne skutki dla bankowości i rynków. Brytyjski rządowy Instytut Bezpieczeństwa Sztucznej Inteligencji (AISI) określił ten system jako znaczący krok naprzód w zakresie cyberzagrożeń w porównaniu z poprzednimi generacjami.
W Hiszpanii, mimo że debata publiczna jest wciąż ograniczona, organy nadzoru i zespoły ds. cyberbezpieczeństwa banków i dużych firm energetycznych uważnie monitorują rozwój sytuacji. Dla europejskiego sektora finansowego każdy postęp, który mógłby ułatwić skoordynowane ataki na systemy płatności, sieci międzybankowe lub platformy transakcyjne, budzi poważne obawy.
Sceptycyzm, wątpliwości i debata na temat „szumu” wokół Mythos
Konto Anthropic, które łączy ostrzeżenia bezpieczeństwa ze spektakularnymi wynikami, nie obyło się bez krytyki. Kilku ekspertów ds. sztucznej inteligencji i cyberbezpieczeństwa zaapelowało o ostrożność przy interpretacji oświadczeń spółkizauważając, że większość dostępnych danych pochodzi wyłącznie ze sprawozdań wewnętrznych.
Niektórzy analitycy szczegółowo przeanalizowali obszerną dokumentację opublikowaną przez Anthropic i wskazują, że liczba „tysięcy luk o wysokim stopniu zagrożenia” opiera się na ekstrapolacjach ze stosunkowo niewielkiej liczby ręcznie sprawdzonych przypadków. W niektórych zestawach testowych Mythos podobno wykrył znaczną liczbę krytycznych luk, ale daleko im było do niemal apokaliptycznego scenariusza sugerowanego przez niektóre nagłówki.
Inne niezależne badania próbowały porównać wydajność Mythos z mniejszymi modelami open source, przekazując wrażliwe fragmenty kodu różnym sztuczkom SI, aby sprawdzić, czy wykryją te same wady. Wyniki wskazują, że Niektóre otwarte modele są również w stanie identyfikować złożone luki w zabezpieczeniachPodważa to tezę, że Mythos gra w zupełnie innej lidze w każdym scenariuszu.
Tego rodzaju kontrprzykłady nie negują możliwości Mythos, ale sugerują, że Część dyskursu na temat tego, że coś jest „zbyt niebezpieczne, by to publikować”, ma również wymiar marketingowy.Przedstawienie modelu jako niezwykle potężnego, ale jednocześnie potencjalnie ryzykownego wzmacnia wizerunek lidera technologicznego i odpowiedzialności, co jest niezwykle cenne na coraz bardziej konkurencyjnym rynku.
Niedawna historia branży przypomina również precedens GPT-2 z 2019 roku, kiedy OpenAI początkowo zdecydowało się nie publikować pełnego modelu, twierdząc, że jest on zbyt niebezpieczny ze względu na potencjał dezinformacji. Ostatecznie ta wersja została udostępniona publicznie bez żadnych przewidywanych katastrof, a wielu ekspertów uznało to za przykład przesadnej reakcji. W przypadku Mythos, Różnica polega na tym, że nie skupiamy się już na tekście, lecz na integralności infrastruktury cyfrowej., obszar o wiele bardziej wrażliwy dla rządów i banków.
Delikatna równowaga między bezpieczeństwem, biznesem i dostępem do technologii
Oprócz szumu medialnego, sytuacja Mythos podnosi fundamentalny problem: kto decyduje, kiedy model sztucznej inteligencji jest zbyt niebezpieczny, aby go wypuścić A według jakich kryteriów? Na razie decyzja była jednostronna ze strony Anthropic, która zdecydowała się na utrzymanie systemu w swego rodzaju kontrolowanej kwarantannie, rezerwując go dla wybranych partnerów.
To stanowisko nie opiera się wyłącznie na względach bezpieczeństwa. Uruchomienie modelu o cechach Mythos jest bardzo drogie pod względem obliczeniowym, a sama firma przyznaje, że obecnie nie ma niezbędną infrastrukturę aby masowo udostępniać go milionom użytkowników. W praktyce środki bezpieczeństwa i ograniczenia techniczne idą w parze, dając firmie Anthropic czas na dopracowanie zarówno modelu, jak i jego wdrożenia.
Jednocześnie firma zaczęła wyraźnie różnicować swoje produkty. Choć Mythos pozostaje najbardziej zaawansowany standard wewnętrznyChoć zarezerwowane dla badań i strategicznej współpracy, inne modele, takie jak Claude Opus 4.7, są przeznaczone do codziennego użytku przez firmy i specjalistów. Firma Anthropic publicznie przyznała, że Opus 4.7 jest „mniej wydajny” niż Mythos pod względem ogólnym, a w szczególności pod względem możliwości cybernetycznych – co jest nietypowe w branży, która zazwyczaj przedstawia każdy nowy model jako najlepszy pod każdym względem.
W tym schemacie Mythos funkcjonuje jako poligon doświadczalny dla możliwości nowej generacjiChociaż dostępne komercyjnie modele uwzględniają tylko część tych możliwości, a dodatkowe ograniczenia mają na celu ograniczenie ryzyka, takie rozdzielenie modeli „eksperymentalnych” od „produkcyjnych” może być rozsądnym podejściem dla wielu europejskich organizacji zainteresowanych wykorzystaniem sztucznej inteligencji, bez konieczności narażania się na ryzyko, pod warunkiem, że istnieje wystarczająca przejrzystość w zakresie rzeczywistych możliwości każdego systemu.
Ostatecznie wyłania się scenariusz, w którym Cyberbezpieczeństwo wkracza w pełni w erę ofensywnej i defensywnej sztucznej inteligencji na dużą skalęNarzędzia takie jak Mythos obiecują przyspieszyć identyfikację luk w systemach działających od lat, ale także wymuszają ponowne przemyślenie sposobu dystrybucji i zarządzania technologią leżącą u podstaw gospodarki cyfrowej. Dla Europy i Hiszpanii wyzwaniem będzie nie tylko ochrona przed coraz potężniejszymi modelami, ale także zapewnienie, że nie zostaną one pominięte w mechanizmach, które pozwalają na ich wykorzystanie do wzmocnienia własnego bezpieczeństwa.
