Tempo wdrażania sztucznej inteligencji zaczyna wyprzedzać zdolność firm do sprawowania nad nią skutecznej kontroli – wynika z badania Red Hat. Choć 92 proc. przedsiębiorstw deklaruje przynajmniej częściową wiedzę o tym, gdzie przechowywane i przetwarzane są dane wykorzystywane przez systemy AI, tylko 49 proc. uważa, że ma nad nimi pełną kontrolę. Jednocześnie zaledwie 31 proc. podmiotów wdrożyło dojrzałe mechanizmy nadzoru nad agentową AI, czyli systemami zdolnymi do autonomicznego działania bez udziału użytkownika.
Badanie pokazuje, że rynek przechodzi od fazy szybkich wdrożeń i eksperymentów do etapu budowania odporności operacyjnej, kontroli nad danymi oraz nadzoru nad autonomicznymi systemami. Jednym z kluczowych elementów tej dojrzałości jest możliwość zmiany dostawcy modeli lub platform AI bez zakłócania działalności firmy. 63 proc. przedsiębiorstw posiada formalną strategię wyjścia, jednak wśród tych organizacji 29 proc. przewiduje umiarkowany, a 10 proc. znaczący wpływ migracji na ciągłość działania. Oznacza to, że formalne plany nie zawsze przekładają się na realną gotowość operacyjną. Z kolei 30 proc. firm nie ma żadnego planu na wypadek problemów z dostawcą AI, a część z nich zakłada łatwość migracji wynikającą raczej z ograniczonej skali wdrożeń niż faktycznej elastyczności infrastruktury.
W przypadku agentowej AI, która potrafi inicjować procesy, analizować dane i podejmować decyzje operacyjne, rośnie zarówno efektywność, jak i ryzyko. 64 proc. firm prowadzi monitoring takich systemów, ale tylko 31 proc. ocenia swoje mechanizmy nadzoru jako silne i dojrzałe. 32 proc. widzi istotne luki w obecnych zasadach, a 25 proc. wdrożyło jedynie podstawowe reguły lub nie posiada ich wcale. Red Hat podkreśla, że nadzór nad AI musi obejmować nie tylko zgodność i ochronę danych, lecz także kontrolę nad sposobem działania modeli, ich autonomią oraz szybkim reagowaniem na błędy – podobnie jak w cyberbezpieczeństwie.
Choć 92 proc. firm deklaruje wiedzę o lokalizacji i przetwarzaniu danych, tylko 49 proc. ma pełną kontrolę nad dostępem i przepływami informacji. W środowiskach AI kluczowe staje się nie tylko to, gdzie dane są przechowywane, ale także jak modele je wykorzystują, jakie są przepływy między komponentami oraz czy organizacja może zachować kontrolę niezależnie od dostawcy technologii.
Z badania Red Hat wynika, że firmy coraz częściej pytają nie o to, jak szybko wdrożyć AI, lecz jak bezpiecznie ją skalować. Przewagę konkurencyjną zaczyna budować nie dostęp do najnowszych modeli, lecz zdolność do utrzymania kontroli nad ich działaniem, danymi i infrastrukturą. Badanie przeprowadzono wśród 500 decydentów IT z Wielkiej Brytanii, Holandii, Francji, Niemiec i Włoch.
