Veeam ostrzega, że błędy sztucznej inteligencji coraz częściej wynikają nie z ograniczeń technologii, lecz z braku nadzoru nad agentami AI. Dave Russell, Senior Vice President, Head of Strategy w Veeam, zwraca uwagę, że AI przestała być narzędziem do generowania treści i coraz częściej wykonuje autonomiczne działania w krytycznych systemach biznesowych. Przykładem jest niedawny incydent, w którym agent działający na modelu Claude Opus 4.6 usunął firmową bazę danych.
Według danych Veeam, już 88 proc. przedsiębiorstw na świecie korzysta z agentów AI lub prowadzi ich pilotażowe wdrożenia. Technologia szybko przynosi korzyści, co skłania zespoły do nadmiernego zaufania, zanim powstaną odpowiednie mechanizmy kontroli. Błędy AI często pozostają niewidoczne, a autonomiczne systemy potrafią wprowadzać zmiany w wielu środowiskach jednocześnie, zanim ktokolwiek zauważy problem.
Badanie Veeam pokazuje, że w wielu firmach nie ma jasno określonej odpowiedzialności za działania agentów AI. Najczęściej wskazywani są liderzy AI lub innowacji (35 proc.) oraz zespoły technologiczne (29 proc.). Tylko 7 proc. przedsiębiorstw deklaruje ustrukturyzowaną, współdzieloną odpowiedzialność.
Istotnym wyzwaniem pozostaje jakość danych. 36 proc. projektów AI spowolniło z powodu niedokładnych lub niespójnych informacji. Zasada „garbage in, garbage out” w środowisku AI działa ze zwielokrotnioną siłą, ponieważ błędne dane mogą wpływać na wiele połączonych systemów. 79 proc. kadry kierowniczej uważa, że dane w ich organizacjach powinny być bardziej aktualne, 74 proc. wskazuje na potrzebę większej dokładności, a 71 proc. – lepszej dostępności.
Veeam podkreśla, że firmy muszą być gotowe, żeby nie tylko zapobiegać błędom AI, ale także szybko je wykrywać i odwracać ich skutki. Kluczowe jest zapewnienie pełnej widoczności działań AI, świadome zarządzanie danymi oraz precyzyjne odtwarzanie po błędach, które nie usuwa poprawnych transakcji biznesowych. Tradycyjne kopie zapasowe często nie sprawdzają się w przypadku incydentów AI, ponieważ przywracają system do stanu sprzed błędu, kasując również prawidłowe operacje.
Obecnie tylko 7 proc. firm na świecie jest w pełni gotowych na AI, łącząc ambicje biznesowe z kontrolą i nadzorem nad danymi. W tej grupie aż 97 proc. organizacji odnotowuje mierzalne korzyści biznesowe. Veeam podkreśla, że w erze zaawansowanej automatyzacji przewagę zyskają te przedsiębiorstwa, które będą przygotowane na moment, w którym sztuczna inteligencja popełni błąd.
