Zabezpieczenie łańcucha dostaw AI: Nowe podejście Cisco do ochrony przedsiębiorstw

Katgoria: IT Solutions / Utworzono: 18 marzec 2025

CISCO

Zabezpieczenie łańcucha dostaw AI: Nowe podejście Cisco do ochrony przedsiębiorstw

Niedawne pojawienie się zaawansowanych modeli AI, takich jak DeepSeek, skłoniło wiele firm do blokowania do nich dostępu zgodnie z politykami bezpieczeństwa. Z jednej strony specjaliści ds. sztucznej inteligencji chętnie korzystają z darmowych modeli, aby przyspieszyć rozwój i wprowadzać innowacje. Z drugiej – zespoły ds. bezpieczeństwa stoją przed wyzwaniem kontrolowania dostępu do zasobów pochodzących z niezaufanych źródeł, które mogą stanowić zagrożenie. W efekcie organizacje muszą skupić się na budowaniu i utrzymywaniu zaufania do łańcucha dostaw AI.

REKLAMA

W związku z powyższym, Cisco ogłosiło, że wszyscy użytkownicy rozwiązań Cisco Secure Endpoint i Email Threat Protection są teraz chronieni przed złośliwymi komponentami w łańcuchu dostaw AI, niezależnie od tego, z jakiego źródła są one pobierane.

Bezpieczeństwo łańcucha dostaw AI

Organizacje obawiają się różnych zagrożeń związanych z AI, takich jak ataki typu prompt injection czy jailbreaki, a ich pierwszą reakcją jest zabezpieczenie łańcucha dostaw AI. Zespoły Machine Learning napotykają poważne wyzwanie: działy bezpieczeństwa często całkowicie blokują dostęp do platform takich jak Hugging Face, co ogranicza wykorzystanie modeli open source. Z jednej strony brak dostępu do innowacyjnych rozwiązań może skutkować opóźnieniem w rozwoju, ale z drugiej strony obawy dotyczące potencjalnie szkodliwych modeli są w pełni uzasadnione.

Bezpieczeństwo łańcucha dostaw AI obejmuje praktyki i środki ochrony przedsiębiorstw oraz aplikacji na każdym etapie tworzenia i wdrażania AI. Obejmuje to zabezpieczenie stosów oprogramowania, danych treningowych oraz modeli zewnętrznych przed różnymi podatnościami, takimi jak luki w oprogramowaniu, błędy deserializacji, backdoory, czy ataki polegające na zatruciu danych i modeli.

Zabezpieczenie łańcucha dostaw AI to nie tylko konieczność techniczna – to fundament zaufania do technologii. Organizacje na całym świecie zdają sobie sprawę, że ochrona łańcucha dostaw ma kluczowe znaczenie dla zapewnienia bezpieczeństwa zarówno systemów AI, jak i tradycyjnych środowisk IT. W Cisco angażujemy się w wyznaczanie standardów w tej dziedzinie, dostarczając zaawansowane zabezpieczenia przeciwko nowym zagrożeniom. Dzięki temu mamy pewność, że wszelkie innowacje zostają wprowadzone zawsze w trosce o najwyższy poziom bezpieczeństwa – podkreśla Omar Santos, Distinguished Engineer w Cisco oraz współprzewodniczący Koalicji na rzecz Bezpiecznej AI.

Trzy filary bezpieczeństwa łańcucha dostaw AI

1. Bezpieczeństwo oprogramowania

Bezpieczeństwo oprogramowania w kontekście łańcucha dostaw AI jest odpowiedzią na wyzwania w kilku kluczowych obszarach:

luki w bibliotekach oprogramowania, które mogą narazić system na ataki,
niezaufane repozytoria, w tym te złośliwie skonfigurowane na platformach takich jak Hugging Face,
podatności w popularnych frameworkach AI, np. Langchain.

2. Bezpieczeństwo modeli

Modele AI niosą ze sobą unikalne zagrożenia bezpieczeństwa, w tym:

wbudowane w pliki modelu złośliwe oprogramowanie,
zależności od bibliotek z wykrytymi podatnościami (np. zlib.decompress),
ukryte backdoory w architekturze modeli, • modele, których zachowanie narusza polityki bezpieczeństwa organizacji.

3. Bezpieczeństwo danych

Bezpieczeństwo danych w AI koncentruje się na:

możliwości zatruwania danych w procesie treningowym,
odpowiedzialności za pochodzenie danych i modeli,
zagadnieniach licencyjnych oraz zgodności modeli z regulacjami.

Wyzwania związane z bezpieczeństwem łańcucha dostaw AI

Organizacje stoją więc przed wieloma trudnościami w zakresie ochrony łańcucha dostaw AI:

zespoły ds. bezpieczeństwa nie mogą polegać na ręcznym skanowaniu modeli,
podatności modeli mogą narazić aplikacje na ataki, prowadząc do naruszeń bezpieczeństwa przedsiębiorstw,
obecne procesy bezpieczeństwa często spowalniają innowacje i rozwój.

Otwarte repozytoria, takie jak Hugging Face, to spore wyzwanie, ponieważ musimy mieć dostęp do walidacji zasobów, nad którymi pracujemy, ale jednocześnie stanowią one niekontrolowany zbiór potencjalnie złośliwych treści. Dostęp jest strategiczną koniecznością, ale równie ważne jest blokowanie wykorzystania szkodliwych rozwiązań – zauważa Sarah Winslow, Dyrektor w PSEC Emerging Technologies & AI, Veradigm,

Ochrona Cisco Secure Endpoint dla AI

Cisco ogłosiło, że wszyscy klienci korzystający z rozwiązania Cisco Secure Endpoint automatycznie otrzymują ochronę przed złośliwymi składnikami AI pobieranymi z Hugging Face. Rozwiązanie zapewnia:

automatyczne blokowanie znanych złośliwych plików przy operacjach odczytu/zapisu/modyfikacji,
ochronę przed różnymi wektorami ataku, w tym pobraniami bezpośrednimi i dostawą przez kanały boczne (np. pliki ZIP w udostępnionych folderach),
możliwość konfigurowania alertów lub kwarantanny.

Ponadto, Cisco rozszerzyło mechanizmy ochrony poczty e-mail, aby automatycznie blokować załączniki zawierające złośliwe elementy wykorzystywane w atakach AI.

Ulepszone zabezpieczenia chronią przed pięcioma głównymi zagrożeniami:

Lukami umożliwiającymi wykonanie złośliwego kodu.
Lukami umożliwiającymi wykonanie komend systemowych.
Zagrożeniami związanymi z sieciami i zdalnym dostępem.
Problemami z serializacją i deserializacją.
Manipulacjami interfejsem użytkownika i interakcjami webowymi.

Przyszłość bezpieczeństwa AI

Cisco nieustannie rozwija swoje rozwiązania w zakresie bezpieczeństwa AI. W ramach badań nad zagrożeniami dla AI, zespół Cisco AI Security Threat Research wdrożył zaawansowane narzędzia ochrony, w tym bazę AI Risk Database, opracowaną wspólnie z MITRE.

Bezpieczeństwo łańcucha dostaw AI to kluczowy element rozwoju nowoczesnych systemów. Organizacje nie muszą wybierać między bezpieczeństwem a innowacją – dzięki Cisco mogą korzystać z zaawansowanych modeli AI przy zachowaniu pełnej ochrony przed zagrożeniami.

Źródło: Cisco

Najnowsze wiadomości

Kwantowy przełom w cyberochronie - nadchodząca dekada przepisze zasady szyfrowania na nowo

Przez długi czas cyfrowe bezpieczeństwo opierało się na prostym założeniu: współczesne komputery potrzebowałyby ogromnych zasobów i wielu lat, aby złamać silne algorytmy szyfrowania. Rozwój technologii kwantowej zaczyna jednak tę regułę podważać, a eksperci przewidują, że w perspektywie 5–10 lat może nadejść „dzień zero”. Jest to moment, w którym zaawansowana maszyna kwantowa będzie w stanie przełamać większość aktualnie stosowanych zabezpieczeń kryptograficznych w czasie liczonym nie w latach, lecz w godzinach.

Czytaj całość

PSI prezentuje nową identyfikację wizualną

W ramach realizowanej strategii transformacji PSI Software SE zaprezentowała nową identyfikację wizualną. Odświeżony wizerunek w spójny sposób oddaje technologiczne zaawansowanie firmy, jej głęboką wiedzę branżową oraz silne ukierunkowanie na potrzeby klientów. Zmiany te wzmacniają pozycję PSI jako innowacyjnego lidera technologicznego w obszarze skalowalnych rozwiązań informatycznych opartych na sztucznej inteligencji i chmurze, rozwijanych z myślą o energetyce i przemyśle.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

F5 rozszerza portfolio bezpieczeństwa o narzędzia do ochrony systemów AI w środowiskach enterprise

F5 ogłosiło wprowadzenie dwóch nowych rozwiązań - F5 AI Guardrails oraz F5 AI Red Team - które mają odpowiedzieć na jedno z kluczowych wyzwań współczesnych organizacji: bezpieczne wdrażanie i eksploatację systemów sztucznej inteligencji na dużą skalę. Nowa oferta łączy ochronę działania modeli AI w czasie rzeczywistym z ofensy

Czytaj całość

Snowflake + OpenAI: AI bliżej biznesu

Snowflake przyspiesza wykorzystanie danych i sztucznej inteligencji w firmach, przenosząc AI z fazy eksperymentów do codziennych procesów biznesowych. Nowe rozwiązania w ramach AI Data Cloud integrują modele AI bezpośrednio z danymi, narzędziami deweloperskimi i warstwą semantyczną. Partnerstwo z OpenAI, agent Cortex Code, Semantic View Autopilot oraz rozwój Snowflake Postgres pokazują, jak budować skalowalne, bezpieczne i mierzalne wdrożenia AI w skali całej organizacji.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki

Współczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?

Czytaj całość

Migracja z SAP ECC na S4 HANA: Ryzyka, korzyści i alternatywne rozwiązania

W ostatnich latach wiele firm, które korzystają z systemu SAP ECC (Enterprise Central Component), stoi przed decyzją o przejściu na nowszą wersję — SAP S4 HANA. W obliczu końca wsparcia dla ECC w 2030 roku, temat ten staje się coraz bardziej aktualny. Przemiany technologiczne oraz rosnące oczekiwania związane z integracją nowych funkcji, jak sztuczna inteligencja (AI), skłaniają do refleksji nad tym, czy warto podjąć tak dużą zmianę w architekturze systemu. Przyjrzyjmy się głównym powodom, dla których firmy rozważają migrację do S4 HANA, ale także argumentom, które mogą przemawiać za pozostaniem przy dotychczasowym systemie ECC, przynajmniej na krótki okres.

Czytaj całość

Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?

Zysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.

Czytaj całość

Ponad połowa cyberataków zaczyna się od błędu człowieka

Ponad 2/3 firm w Polsce odnotowała w zeszłym roku co najmniej 1 incydent naruszenia bezpieczeństwa . Według danych Unit 42, zespołu analitycznego Palo Alto Networks, aż 60% ataków rozpoczyna się od działań wymierzonych w pracowników – najczęściej pod postacią phishingu i innych form inżynierii społecznej . To pokazuje, że w systemie ochrony organizacji pracownicy są kluczowym ogniwem – i że firmy muszą nie tylko edukować, ale też konsekwentnie egzekwować zasady cyberhigieny. Warto o tym pamiętać szczególnie teraz, w październiku, gdy obchodzimy Europejski Miesiąc Cyberbezpieczeństwa.

Czytaj całość

MES - holistyczne zarządzanie produkcją

Nowoczesna produkcja wymaga precyzji, szybkości i pełnej kontroli nad przebiegiem procesów. Rosnąca złożoność zleceń oraz presja kosztowa sprawiają, że ręczne raportowanie i intuicyjne zarządzanie coraz częściej okazują się niewystarczające. Firmy szukają rozwiązań, które umożliwiają im widzenie produkcji „na żywo”, a nie z opóźnieniem kilku godzin czy dni. W tym kontekście kluczową rolę odgrywają narzędzia, które porządkują informacje i pozwalają reagować natychmiast, zamiast po fakcie.

Czytaj całość