3 na 4 projekty związane z agentową AI napotkają poważne trudności związane z bezpieczeństwem

Katgoria: BEZPIECZEŃSTWO IT / Utworzono: 04 listopad 2025

Palo Alto Networks

3 na 4 projekty związane z agentową AI napotkają poważne trudności związane z bezpieczeństwem

W ciągu ostatniego roku Palo Alto Networks współpracowało z 3000 czołowych europejskich liderów biznesu w zakresie cyberbezpieczeństwa. Wnioski są niepokojące – agenci AI już na starcie dostają zbyt szeroki zakres uprawnień i mają dostęp do wrażliwych danych. Jednocześnie brakuje skutecznych systemów weryfikacji w czasie rzeczywistym, który ograniczałby nieautoryzowany dostęp. Na dodatek znaczna część przedsiębiorców nie planuje konkretnych zadań dla agentów AI, wydając tym samym pieniądze na nierentowne działania.

REKLAMA

Agentowa AI zmienia zasady gry, ponieważ zaledwie w ciągu kilku lat przeszliśmy drogę od konwersacji z chatbotem udzielającym prostych odpowiedzi do algorytmów podejmujących konkretne działania w organizacji. Zmiany przyspieszyły gwałtownie również w obszarze uprawnień i nadzoru. Szum wokół AI sprawił, że wiele organizacji zaczęło ją wdrażać, zanim w ogóle opanowało tę nową dziedzinę.

Gartner przewiduje wzmożoną rezygnację firm z agentowej sztucznej inteligencji do 2027 r.^{^[1]}, a raport MIT pokazuje, że większość pilotażowych projektów GenAI w przedsiębiorstwach już zakończyła się niepowodzeniem^{^[2]}. Sytuacja jest jeszcze gorsza z punktu widzenia cyberbezpieczeństwa, bowiem dane z Uniwersytetu Stanforda wskazują, że tylko 6% organizacji korzysta z zaawansowanych rozwiązań bezpieczeństwa dla sztucznej inteligencji^{^[3]}.

Jeśli zarządy firm od samego początku nie zaszczepią w kulturze organizacyjnej świadomości bezpieczeństwa i nie będą egzekwować określonych wyników, zasad i zabezpieczeń w procesie wdrażania agentowej AI, porażka jest nieunikniona. Z tego powodu sukces tej technologii nie zależy już tylko od jakości kodu, ale w znacznie większym zakresie od odpowiedzialności zarządu firmy – podkreśla Wojciech Gołębiowski wiceprezes i dyrektor zarządzający Palo Alto Networks w Europie Środkowo-Wschodniej.

Dlaczego agentowa AI zawodzi?

Przede wszystkim dlatego, że wciąż większość firm uważa, że projekty związane z AI są wyłączną odpowiedzialnością działów IT, a nie całego zarządu. To prowadzi do rozmycia odpowiedzialności, a kwestie bezpieczeństwa oraz ryzyka prawne, operacyjne i biznesowe poruszane są o wiele za późno, jeśli w ogóle znajdą się na agendzie. Po drugie, wciąż rzadkością są projekty, które od samego początku mają jasno określone i mierzalne cele oraz przeanalizowane ryzyka.

Zespoły zaczynają od narzędzia, a dopiero potem szukają sposobów, jak je wykorzystać. Wydatki rosną, pilotażowe projekty wchodzą w fazę produkcji, a gdy pojawi się pytanie o KPI lub próg ryzyka, okazuje się, że nikt nie potrafi udzielić na nie precyzyjnej odpowiedzi.

Wdrożenia AI powinny rozpoczynać się od mierzalnych celów biznesowych i świadomości ryzyka, a nie od technologii. Należy ustalić 2 lub 3 ważne cele zatwierdzone przez zarząd, a następnie określić wskaźniki ryzyka, zabronione działania i benchmarki bezpieczeństwa, aby zapobiec przepalaniu budżetów na inwestycje, które od początku nie mają silnych podstaw biznesowych. Przedsiębiorstwa muszą ustanowić skuteczny system zarządzania, aby te założenia osiągnąć – podkreśla Wojciech Gołębiowski.

W ramach spójnej polityki bezpieczeństwa te same zasady powinny obowiązywać ludzi, maszyny i agentów AI. Należy egzekwować minimalne uprawnienia, krótkotrwałe poświadczenia i precyzyjny podział obowiązków. Bezpieczeństwo od samego początku zapewnia innowacyjność bez narażania przedsiębiorstwa na możliwe do uniknięcia ryzyko.

Czy to oznacza, że agentowa sztuczna inteligencja nie ma przyszłości?

Nie. Projekty wykorzystujące tę technologię mogą działać skutecznie, ale tylko wtedy, gdy zostanie wbudowana w struktury organizacyjne firmy i objęta realnym nadzorem – już na etapie planowania projektu. Taka technologia nie może funkcjonować jako osobny eksperyment IT, lecz jako element szerszej strategii biznesowej, z jasno określonymi celami, właścicielami i zasadami odpowiedzialności.

Od czego zacząć?

3 obszary, które warto uporządkować jeszcze w tym kwartale

1. Zarządzanie agentami

Powołaj zespół międzydziałowy odpowiedzialny za wszystkie projekty agentowe – z udziałem IT, bezpieczeństwa, biznesu i compliance.
Stwórz centralny rejestr agentów, ich uprawnień, właścicieli i zakresów odpowiedzialności.
Przed uruchomieniem produkcyjnym przeprowadzaj testy scenariuszowe i ocenę ryzyk (np. warsztaty „premortem”).
Raz na kwartał analizuj zdarzenia i incydenty z udziałem agentów na poziomie zarządu lub CIO.

2. Jasno określone cele i granice

Każdy przypadek użycia agentowej AI powinien mieć przypisane konkretne cele biznesowe oraz wskaźniki efektywności i ryzyka.
Zidentyfikuj działania, które powinny zawsze wymagać zatwierdzenia przez człowieka – szczególnie te, które mają wpływ na klienta, dane lub reputację firmy.
Zadbaj o to, by każde działanie agenta było przypisane do konkretnej osoby, zespołu lub roli – z jasno określoną intencją i zakresem.

3. Zasady bezpieczeństwa

Ujednolić podejście do zarządzania tożsamościami – zarówno ludzkimi, jak i maszynowymi.
Wdrażaj zasady minimalnych uprawnień, poświadczeń ważnych tylko przez określony czas i logicznego podziału ról.
Zadbaj o możliwość śledzenia i audytu działań agentów – w tym logi, podpisy żądań i weryfikację odpowiedzi.
Utrzymuj człowieka w procesie decyzyjnym, zwłaszcza tam, gdzie działania agenta mogą mieć skutki prawne, finansowe lub wizerunkowe.

Firmy, które uporządkują te trzy obszary, nie tylko ograniczą ryzyko, ale zwiększą szansę na to, że agentowa AI stanie się realnym wsparciem dla biznesu – zamiast trafić na listę nieudanych eksperymentów.

Źródło: Palo Alto Networks

^{^[1]} Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027

^{^[2]} The GenAI Divide: State of AI in Business 2025

^{^[3]} The 2025 AI Index Report | Stanford HAI

Najnowsze wiadomości

Kwantowy przełom w cyberochronie - nadchodząca dekada przepisze zasady szyfrowania na nowo

Przez długi czas cyfrowe bezpieczeństwo opierało się na prostym założeniu: współczesne komputery potrzebowałyby ogromnych zasobów i wielu lat, aby złamać silne algorytmy szyfrowania. Rozwój technologii kwantowej zaczyna jednak tę regułę podważać, a eksperci przewidują, że w perspektywie 5–10 lat może nadejść „dzień zero”. Jest to moment, w którym zaawansowana maszyna kwantowa będzie w stanie przełamać większość aktualnie stosowanych zabezpieczeń kryptograficznych w czasie liczonym nie w latach, lecz w godzinach.

Czytaj całość

PSI prezentuje nową identyfikację wizualną

W ramach realizowanej strategii transformacji PSI Software SE zaprezentowała nową identyfikację wizualną. Odświeżony wizerunek w spójny sposób oddaje technologiczne zaawansowanie firmy, jej głęboką wiedzę branżową oraz silne ukierunkowanie na potrzeby klientów. Zmiany te wzmacniają pozycję PSI jako innowacyjnego lidera technologicznego w obszarze skalowalnych rozwiązań informatycznych opartych na sztucznej inteligencji i chmurze, rozwijanych z myślą o energetyce i przemyśle.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

F5 rozszerza portfolio bezpieczeństwa o narzędzia do ochrony systemów AI w środowiskach enterprise

F5 ogłosiło wprowadzenie dwóch nowych rozwiązań - F5 AI Guardrails oraz F5 AI Red Team - które mają odpowiedzieć na jedno z kluczowych wyzwań współczesnych organizacji: bezpieczne wdrażanie i eksploatację systemów sztucznej inteligencji na dużą skalę. Nowa oferta łączy ochronę działania modeli AI w czasie rzeczywistym z ofensy

Czytaj całość

Snowflake + OpenAI: AI bliżej biznesu

Snowflake przyspiesza wykorzystanie danych i sztucznej inteligencji w firmach, przenosząc AI z fazy eksperymentów do codziennych procesów biznesowych. Nowe rozwiązania w ramach AI Data Cloud integrują modele AI bezpośrednio z danymi, narzędziami deweloperskimi i warstwą semantyczną. Partnerstwo z OpenAI, agent Cortex Code, Semantic View Autopilot oraz rozwój Snowflake Postgres pokazują, jak budować skalowalne, bezpieczne i mierzalne wdrożenia AI w skali całej organizacji.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki

Współczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?

Czytaj całość

Migracja z SAP ECC na S4 HANA: Ryzyka, korzyści i alternatywne rozwiązania

W ostatnich latach wiele firm, które korzystają z systemu SAP ECC (Enterprise Central Component), stoi przed decyzją o przejściu na nowszą wersję — SAP S4 HANA. W obliczu końca wsparcia dla ECC w 2030 roku, temat ten staje się coraz bardziej aktualny. Przemiany technologiczne oraz rosnące oczekiwania związane z integracją nowych funkcji, jak sztuczna inteligencja (AI), skłaniają do refleksji nad tym, czy warto podjąć tak dużą zmianę w architekturze systemu. Przyjrzyjmy się głównym powodom, dla których firmy rozważają migrację do S4 HANA, ale także argumentom, które mogą przemawiać za pozostaniem przy dotychczasowym systemie ECC, przynajmniej na krótki okres.

Czytaj całość

Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?

Zysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.

Czytaj całość

Ponad połowa cyberataków zaczyna się od błędu człowieka

Ponad 2/3 firm w Polsce odnotowała w zeszłym roku co najmniej 1 incydent naruszenia bezpieczeństwa . Według danych Unit 42, zespołu analitycznego Palo Alto Networks, aż 60% ataków rozpoczyna się od działań wymierzonych w pracowników – najczęściej pod postacią phishingu i innych form inżynierii społecznej . To pokazuje, że w systemie ochrony organizacji pracownicy są kluczowym ogniwem – i że firmy muszą nie tylko edukować, ale też konsekwentnie egzekwować zasady cyberhigieny. Warto o tym pamiętać szczególnie teraz, w październiku, gdy obchodzimy Europejski Miesiąc Cyberbezpieczeństwa.

Czytaj całość

MES - holistyczne zarządzanie produkcją

Nowoczesna produkcja wymaga precyzji, szybkości i pełnej kontroli nad przebiegiem procesów. Rosnąca złożoność zleceń oraz presja kosztowa sprawiają, że ręczne raportowanie i intuicyjne zarządzanie coraz częściej okazują się niewystarczające. Firmy szukają rozwiązań, które umożliwiają im widzenie produkcji „na żywo”, a nie z opóźnieniem kilku godzin czy dni. W tym kontekście kluczową rolę odgrywają narzędzia, które porządkują informacje i pozwalają reagować natychmiast, zamiast po fakcie.

Czytaj całość