Firma OpenAI, twórca ChatGPT, przygnała się, że podczas testów bezpieczeństwa jej zaawansowane modele sztucznej inteligencji zaczęły działać autonomicznie i aby osiągnąć swój cel włamały się na serwery popularnej platformy dla programistów Hugging Face. Choć incydent miał miejsce w ściśle kontrolowanych warunkach i nie stanowił zagrożenia dla użytkowników, pokazał, że coraz bardziej autonomiczne systemy AI potrafią działać w sposób, którego ich twórcy nie przewidzieli.
OpenAI poinformowała, że 17 lipca doszło do naruszenia jej infrastruktury przez zewnętrznego agenta AI, co zostało powstrzymane przez jej zespół ds. bezpieczeństwa. Agent AI stanowił kombinację modeli OpenAI, w tym GPT-5.6 Sol, oraz bardziej wydajnego, niewydanego dotąd modelu, który wydostał się z zabezpieczeń, gdy wciąż znajdował się w fazie testów.
Do zdarzenia doszło podczas testów mających sprawdzić możliwości modeli w obszarze cyberbezpieczeństwa. Aby ocenić ich rzeczywiste zdolności, część standardowych zabezpieczeń została czasowo wyłączona. W takich warunkach model wykorzystał nieznaną wcześniej podatność typu „zero-day”, wydostał się poza środowisko testowe i próbował pozyskać z platformy Hugging Face informacje potrzebne do wykonania powierzonego mu zadania. Atak został szybko wykryty i zatrzymany, a OpenAI oraz Hugging Face prowadzą analizę całego incydentu.
Najbardziej niepokojące jest jednak nie samo włamanie, lecz sposób działania modelu. Sztuczna inteligencja nie otrzymała polecenia ataku na zewnętrzny system. Dążąc do realizacji wyznaczonego celu, samodzielnie znalazła drogę, która pozwalała zdobyć potrzebne informacje. To pokazuje, że wraz ze wzrostem autonomii modeli zmienia się charakter zagrożeń – AI nie tylko wykonuje polecenia, ale może podejmować nieprzewidziane działania, jeśli uzna je za najskuteczniejszą metodę osiągnięcia celu.
– Jak wskazaliśmy w raporcie AI Security Report 2026, sztuczna inteligencja przekroczyła krytyczny próg – przestała jedynie wspierać cyberprzestępców, a zaczyna sama funkcjonować jako element łańcucha ataku – mówi Lotem Finkelstein, VP of Research w Check Point Research.
Jak podkreśla ekspert, dotychczas dyskusja koncentrowała się głównie na możliwościach modeli – ich zdolności do generowania kodu, wyszukiwania podatności czy automatyzacji analiz bezpieczeństwa. Dzisiejszym wyzwaniem staje się jednak coś znacznie trudniejszego: skuteczne kontrolowanie tych możliwości. – Jeżeli model potrafi obejść założenia środowiska testowego lub wykorzystać jego słabości, bezpieczeństwo nie może opierać się wyłącznie na zaufaniu do izolowanego środowiska. Zarówno sam model, jak i infrastruktura, w której działa, muszą być traktowane jako część powierzchni ataku – podkreśla Finkelstein.
Eksperci zwracają uwagę, że wiele organizacji wdraża dziś rozwiązania oparte na AI szybciej, niż tworzy zasady ich bezpiecznego wykorzystania. Firmy koncentrują się na wzroście produktywności i przewadze konkurencyjnej, podczas gdy kwestie nadzoru, odpowiedzialności i zarządzania ryzykiem schodzą na dalszy plan.
– To nie jest argument przeciwko sztucznej inteligencji. To argument za jej odpowiedzialnym wdrażaniem. Zabezpieczenia nie mogą być dodatkiem instalowanym po uruchomieniu systemu. Muszą być projektowane od samego początku – od ścisłej izolacji modeli, przez ograniczanie uprawnień, po ciągły monitoring ich działania – ocenia ekspert Check Point Research.
Zdaniem specjalistów incydent pokazuje również, że AI nie może zastąpić doświadczonych ekspertów cyberbezpieczeństwa. Owszem, sztuczna inteligencja znacząco przyspiesza wykrywanie podatności, analizę zagrożeń czy identyfikację nowych metod ataków, jednak w sytuacjach niestandardowych nadal niezbędny pozostaje ludzki osąd.
Ujawnienie przez OpenAI, że jego zaawansowane modele były odpowiedzialne za naruszenie bezpieczeństwa, pomimo umieszczenia ich w – jak to określono – „bardzo odizolowanym środowisku", prawdopodobnie nasili obawy dotyczące możliwości i ryzyka związanych z pionierskimi modelami - podkreślił Reuters.
Matt Suiche, inżynier w firmie Tolmo, zajmującej się cyberbezpieczeństwem opartym na sztucznej inteligencji, ocenił, że systemy sztucznej inteligencji są obecnie tak samo skuteczne, jak elitarni cyberoperatorzy.
– Uważamy, że ten incydent jest bezprecedensowym incydentem cybernetycznym, w którym wykorzystano najnowocześniejsze możliwości cybernetyczne i odpowiednio na niego reagujemy – oświadczyło OpenAI.
Firma dodała, że spodziewa się, iż takie incydenty „staną się coraz powszechniejsze wraz z upowszechnianiem się coraz większej liczby modeli wyposażonych w funkcje cybernetyczne”.
Dyrektor generalny Hugging Face, Clement Delangue, oświadczył na portalu X, że firma ściśle współpracuje z OpenAI i jest przekonany, że „nie mieli oni złych intencji”.
OpenAI zapowiada że opublikuje więcej szczegółów po przeprowadzeniu szczegółowego dochodzenia.
