Analitycy firmy Gartner wskazali cztery krytyczne obszary zagrożeń, które wymagają pilnych działań ze strony liderów cyberbezpieczeństwa. Są to: przejęcia aplikacji AI, podszywanie się pod użytkowników z wykorzystaniem deepfake’ów, ataki na łańcuch dostaw oprogramowania oraz tzw. prompt injection, czyli manipulowanie poleceniami kierowanymi do modeli sztucznej inteligencji.
Według Gartnera cyberprzestępcy mają obecnie znaczącą przewagę w wykorzystywaniu słabości organizacji, a dodatkowym problemem jest szybko rosnąca liczba nowych technologii i rozwiązań AI, które zwiększają powierzchnię ataku.
Szczególną uwagę analitycy zwracają na aplikacje wykorzystujące generatywną sztuczną inteligencję (GenAI). Zagrożenia dotyczą zarówno własnych agentów AI rozwijanych przez przedsiębiorstwa, jak i integracji z rozwiązaniami zewnętrznych dostawców. Słabe zabezpieczenia mogą prowadzić do wycieku danych, ujawnienia poświadczeń dostępowych lub przejęcia kontroli nad systemami. Gartner rekomenduje m.in. stosowanie zasad bezpiecznego cyklu tworzenia oprogramowania, modelowania zagrożeń, strategii zarządzania dostępem użytkowników do systemów (purpose-based access control, PBAC) oraz monitorowania działania aplikacji AI.
Drugim kluczowym zagrożeniem są deepfake’i. Dzięki rozwojowi generatywnej AI tworzenie fałszywych nagrań głosowych i wideo stało się łatwiejsze, tańsze i bardziej wiarygodne. Technologia jest wykorzystywana w oszustwach finansowych, kampaniach phishingowych, a także do obchodzenia procedur weryfikacji tożsamości czy procesów rekrutacyjnych. Gartner podkreśla, że same narzędzia wykrywania deepfake’ów nie wystarczą i konieczne jest wzmacnianie procesów biznesowych oraz mechanizmów uwierzytelniania.
Na liście najważniejszych zagrożeń znalazły się również ataki na łańcuch dostaw oprogramowania. Zdaniem analityków popularyzacja AI może dodatkowo przyspieszyć wzrost liczby takich incydentów poprzez wykorzystywanie podatności w komponentach open source. Gartner zaleca m.in. wymaganie od dostawców szczegółowych wykazów komponentów oprogramowania (SBOM, Software Bill of Materials), korzystanie z zaufanych repozytoriów oraz wzmacnianie zabezpieczeń procesów CI/CD.
Czwartym krytycznym zagrożeniem jest prompt injection. Ataki tego typu polegają na manipulowaniu poleceniami kierowanymi do dużych modeli językowych, co może prowadzić do ujawnienia poufnych danych, wykonania nieautoryzowanych działań lub obejścia zabezpieczeń. Gartner rekomenduje wdrażanie wielowarstwowych mechanizmów ochrony, obejmujących testowanie bezpieczeństwa systemów AI, filtrowanie danych wejściowych oraz monitorowanie nietypowych zachowań modeli.
