Przejdź do głównej treści

AI budzi obawy – 89% szefów działów IT dostrzega zagrożenia dla bezpieczeństwa firm

Katgoria: WIADOMOŚCI / Utworzono: 11 luty 2025
AI budzi obawy – 89% szefów działów IT dostrzega zagrożenia dla bezpieczeństwa firm
Analizy ekspertów Sophos wskazują, że cyberprzestępcy wciąż są sceptyczni wobec GenAI. Wykorzystują ją głównie do automatyzacji prostych zadań oraz analizy danych. Jednocześnie 98% firm wdrożyło już jakieś rozwiązania ochronne bazujące na sztucznej inteligencji. Kierownicy działów IT wyrażają jednak obawy dotyczące nadmiernego polegania na AI. 84% jest zaniepokojonych wynikającą z tego presją na redukcję zatrudnienia specjalistów ds. cyberbezpieczeństwa. Aż 89% wskazuje na potencjalne zagrożenia związane z lukami w zabezpieczeniach narzędzi bazujących na AI.


REKLAMA
ASSECO KSEF
 
Cyberprzestępcy wciąż sceptyczni wobec GenAI

Podczas badania forów hakerskich analitycy z zespołu Sophos X-Ops zaobserwowali, że wielu cyberprzestępców pozostaje sceptycznie nastawionych do GenAI. Liczba dyskusji na ten temat – w porównaniu z „tradycyjnymi” wątkami, takimi jak złośliwe oprogramowanie czy Access-as-a-Service – jest ograniczona. Badacze zaobserwowali jednak niewielką, ale znaczącą zmianę w sposobie wykorzystania AI przez cyberprzestępców. Mimo utrzymującego się sceptycyzmu, niektórzy hakerzy wykorzystują AI do automatyzacji prostych zadań, takich jak projektowanie fałszywych witryn i redagowanie wiadomości do masowej wysyłki czy analiza danych. W cyberprzestępczym podziemiu może więc istnieć rynek na niektóre zastosowania GenAI, ale prawdopodobnie będą to przede wszystkim narzędzia oszczędzające hakerom czas, a nie ułatwiające tworzenie nowych zagrożeń.

Działy IT obawiają się luk i redukcji zatrudnienia

Modele deep learning mogą w ułamku sekundy identyfikować złośliwe pliki, zaś GenAI – tworzyć podsumowanie incydentów czy zalecać analitykowi kolejne kroki do podjęcia. Jednak niskiej jakości lub niewłaściwie wdrożone modele sztucznej inteligencji mogą wprowadzić też znaczne ryzyko dla cyberbezpieczeństwa firm. Dostrzegają to kierownicy działów IT: jak wskazuje badanie Sophos, aż 89% z nich wyraża obawy, że potencjalne luki w narzędziach GenAI stosowanych w cyberbezpieczeństwie mogą zaszkodzić ich firmie. Przedsiębiorstwa zdają sobie również sprawę z konsekwencji nadmiernego polegania na AI. 84% badanych jest zaniepokojonych wynikającą z tego presją na redukcję zatrudnienia specjalistów ds. cyberbezpieczeństwa (42% jest bardzo zaniepokojonych). 87% wyraża obawy związane z wynikającym z tego rozmyciem odpowiedzialności za cyberbezpieczeństwo.

W przypadku narzędzi bazujących na generatywnej sztucznej inteligencji powinniśmy kierować się zasadą „ufaj, ale sprawdzaj”. Warto pamiętać, że nie nauczyliśmy maszyn myśleć – daliśmy im jedynie kontekst, aby sprawniej przetwarzały duże ilości danych. Potencjał tych narzędzi w usprawnianiu zadań związanych z cyberbezpieczeństwem jest ogromny, jednak by w pełni go wykorzystać, niezbędny jest właściwy nadzór oraz zrozumienie sposobu ich działania – wyjaśnia Chester Wisniewski, dyrektor ds. technologii w firmie Sophos.


Firmy „nie wiedzą, czego nie wiedzą”

Eksperci Sophos wskazują, że wiele firm może nie posiadać wystarczającej wiedzy do rzetelnej oceny dopuszczalnego poziomu ryzyka. Niemal wszystkie badane przedsiębiorstwa deklarują, że dokonują oceny procesów i kontroli zabezpieczeń wykorzystywanych w rozwoju narzędzi GenAI. Wymaga to jednak zaawansowanego poziomu wiedzy na temat sztucznej inteligencji oraz przejrzystości ze strony dostawców, ci zaś rzadko udostępniają pełne procesy wdrażania rozwoju GenAI, a zespoły IT mają ograniczony wgląd w najlepsze praktyki w zakresie tworzenia AI.

GenAI receptą na wypalenie zawodowe, ale w mniejszych firmach

Korzyści, jakie firmy chcą osiągnąć poprzez wdrożenie AI w obszarach dotyczących cyberbezpieczeństwa, różnią się w zależności od ich wielkości, a więc i odmiennych wyzwań, z którymi się one mierzą. Największe przedsiębiorstwa (zatrudniające ponad 1000 osób) skupiają się głównie na zwiększaniu poziomu ochrony. Podmioty zatrudniające od 100 do 249 pracowników – na poprawie wyników biznesowych. Natomiast mniejsze firmy (50-99 pracowników) liczą przede wszystkim na ograniczenie zjawiska wypalenia zawodowego. W ujęciu ogólnym aspekt ten uplasował się najniżej na liście priorytetów. Tak duża różnica może wynikać z faktu, że braki kadrowe oraz nieobecność pracowników są bardziej dotkliwe dla mniejszych przedsiębiorstw.

Wiele firm dostrzega korzyści z wdrażania AI, wykorzystując sztuczną inteligencję jako „pomocnika” dla swoich specjalistów ds. bezpieczeństwa. Umożliwia to m.in. zwiększenie zdolności do selekcji alertów bezpieczeństwa czy ustalania priorytetów działań. Jednocześnie należy jednak pamiętać także o prywatności i zgodności z przepisami. Większość przedsiębiorstw będzie korzystać z AI za pośrednictwem usług hostowanych w chmurze od takich firm jak OpenAI, Anthropic, Perplexity, a teraz DeepSeek. Bardzo ważne jest, aby zapoznać się z warunkami umowy dotyczącymi sposobu i miejsca przetwarzania danych. Ostatecznie dotrzymanie obowiązków wynikających z RODO spoczywa zarówno na firmie zamawiającej usługi, jak i na tych, którzy je świadczą – podkreśla Chester Wisniewski.


Jak podkreślają eksperci Sophos, firmy powinny też patrzeć na sztuczną inteligencję przez pryzmat człowieka – skoncentrować się na tym, jak AI może wspierać pracowników, zajmując się niskopoziomowymi, powtarzalnymi zadaniami i dostarczając im szczegółowych informacji. W sytuacji, gdy na całym świecie brakuje specjalistów ds. cyberbezpieczeństwa, sztuczna inteligencja może być pomocna zwłaszcza w ograniczaniu ich rotacji.

Źródło: Sophos

Najnowsze wiadomości

Kwantowy przełom w cyberochronie - nadchodząca dekada przepisze zasady szyfrowania na nowo
Przez długi czas cyfrowe bezpieczeństwo opierało się na prostym założeniu: współczesne komputery potrzebowałyby ogromnych zasobów i wielu lat, aby złamać silne algorytmy szyfrowania. Rozwój technologii kwantowej zaczyna jednak tę regułę podważać, a eksperci przewidują, że w perspektywie 5–10 lat może nadejść „dzień zero”. Jest to moment, w którym zaawansowana maszyna kwantowa będzie w stanie przełamać większość aktualnie stosowanych zabezpieczeń kryptograficznych w czasie liczonym nie w latach, lecz w godzinach.
PSI prezentuje nową identyfikację wizualną
psilogoW ramach realizowanej strategii transformacji PSI Software SE zaprezentowała nową identyfikację wizualną. Odświeżony wizerunek w spójny sposób oddaje technologiczne zaawansowanie firmy, jej głęboką wiedzę branżową oraz silne ukierunkowanie na potrzeby klientów. Zmiany te wzmacniają pozycję PSI jako innowacyjnego lidera technologicznego w obszarze skalowalnych rozwiązań informatycznych opartych na sztucznej inteligencji i chmurze, rozwijanych z myślą o energetyce i przemyśle.
PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems
PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.
F5 rozszerza portfolio bezpieczeństwa o narzędzia do ochrony systemów AI w środowiskach enterprise
F5 ogłosiło wprowadzenie dwóch nowych rozwiązań - F5 AI Guardrails oraz F5 AI Red Team - które mają odpowiedzieć na jedno z kluczowych wyzwań współczesnych organizacji: bezpieczne wdrażanie i eksploatację systemów sztucznej inteligencji na dużą skalę. Nowa oferta łączy ochronę działania modeli AI w czasie rzeczywistym z ofensy
Snowflake + OpenAI: AI bliżej biznesu
Snowflake przyspiesza wykorzystanie danych i sztucznej inteligencji w firmach, przenosząc AI z fazy eksperymentów do codziennych procesów biznesowych. Nowe rozwiązania w ramach AI Data Cloud integrują modele AI bezpośrednio z danymi, narzędziami deweloperskimi i warstwą semantyczną. Partnerstwo z OpenAI, agent Cortex Code, Semantic View Autopilot oraz rozwój Snowflake Postgres pokazują, jak budować skalowalne, bezpieczne i mierzalne wdrożenia AI w skali całej organizacji.



Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki
SENTEWspółczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?
Migracja z SAP ECC na S4 HANA: Ryzyka, korzyści i alternatywne rozwiązania
W ostatnich latach wiele firm, które korzystają z systemu SAP ECC (Enterprise Central Component), stoi przed decyzją o przejściu na nowszą wersję — SAP S4 HANA. W obliczu końca wsparcia dla ECC w 2030 roku, temat ten staje się coraz bardziej aktualny. Przemiany technologiczne oraz rosnące oczekiwania związane z integracją nowych funkcji, jak sztuczna inteligencja (AI), skłaniają do refleksji nad tym, czy warto podjąć tak dużą zmianę w architekturze systemu. Przyjrzyjmy się głównym powodom, dla których firmy rozważają migrację do S4 HANA, ale także argumentom,  które mogą przemawiać za pozostaniem przy dotychczasowym systemie ECC, przynajmniej na krótki okres.
Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?
BPSC FORTERROZysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.
Ponad połowa cyberataków zaczyna się od błędu człowieka
Ponad 2/3 firm w Polsce odnotowała w zeszłym roku co najmniej 1 incydent naruszenia bezpieczeństwa . Według danych Unit 42, zespołu analitycznego Palo Alto Networks, aż 60% ataków rozpoczyna się od działań wymierzonych w pracowników – najczęściej pod postacią phishingu i innych form inżynierii społecznej . To pokazuje, że w systemie ochrony organizacji pracownicy są kluczowym ogniwem – i że firmy muszą nie tylko edukować, ale też konsekwentnie egzekwować zasady cyberhigieny. Warto o tym pamiętać szczególnie teraz, w październiku, gdy obchodzimy Europejski Miesiąc Cyberbezpieczeństwa.
MES - holistyczne zarządzanie produkcją
Nowoczesna produkcja wymaga precyzji, szybkości i pełnej kontroli nad przebiegiem procesów. Rosnąca złożoność zleceń oraz presja kosztowa sprawiają, że ręczne raportowanie i intuicyjne zarządzanie coraz częściej okazują się niewystarczające. Firmy szukają rozwiązań, które umożliwiają im widzenie produkcji „na żywo”, a nie z opóźnieniem kilku godzin czy dni. W tym kontekście kluczową rolę odgrywają narzędzia, które porządkują informacje i pozwalają reagować natychmiast, zamiast po fakcie.

Przeczytaj Również

PSI prezentuje nową identyfikację wizualną

W ramach realizowanej strategii transformacji PSI Software SE zaprezentowała nową identyfikację wiz… / Czytaj więcej

Snowflake + OpenAI: AI bliżej biznesu

Snowflake przyspiesza wykorzystanie danych i sztucznej inteligencji w firmach, przenosząc AI z fazy… / Czytaj więcej

Nowa era komunikacji biznesowej, KSeF stał się faktem

Od 1 lutego 2026 roku, w Polsce z sukcesem rozpoczęła się nowa era elektronicznej komunikacji w biz… / Czytaj więcej

Hakerzy nie kradną już tylko haseł. Oni kradną Twój czas i przyszłość. Jak chronić ERP przed paraliżem?

Hakerzy coraz rzadziej koncentrują się wyłącznie na kradzieży haseł. Ich prawdziwym celem jest dziś… / Czytaj więcej

AI bez hype’u – od eksperymentów do infrastruktury decyzji

Sektory IT oraz logistyka stoją u progu fundamentalnej zmiany w podejściu do sztucznej inteligencji… / Czytaj więcej