Sztuczna inteligencja po dwóch stronach barykady

Katgoria: BEZPIECZEŃSTWO IT / Utworzono: 15 marzec 2023

G DATA

Sztuczna inteligencja po dwóch stronach barykady

Sztuczna inteligencja (AI) odgrywa istotną rolę w branży cyberbezpieczeństwa. Niestety, wykorzystują ją nie tylko twórcy oprogramowania bezpieczeństwa IT, ale również hakerzy..

REKLAMA

Sztuczna inteligencja jest zarówno błogosławieństwem, jak i przekleństwem dla firm oraz konsumentów. Technologia pomaga uczniom napisać wypracowanie w języku angielskim, porozmawiać z asystentem głosowym (Siri, Alexa), a gdy konwersacja stanie się nudna, poprosić, aby włączył nam ulubioną płytę. Jednak wszechobecność AI budzi pewnego rodzaju obawy, chociażby związane z utratą miejsc pracy czy przed użyciem jej przez różnej maści przestępców.

Sztuczna inteligencja zdążyła się na dobre zagościć w branży cyberbezpieczeństwa. Co ciekawe, jej walory starają się spożytkować nie tylko dostawcy systemów IT, ale także hakerzy. Ci pierwsi wykorzystują AI, aby być o krok przed napastnikami, zaś drudzy do opracowywania malware’u. W nieodległej przeszłości rozwiązania bezpieczeństwa IT działały przede wszystkim reaktywnie, czyli wyszukiwały próbki złośliwego oprogramowania, następnie poddawały analizie i umieszczały wirusy na czarnej liście. Branża nie zrezygnowała całkowicie z tego podejścia, aczkolwiek ostatnimi czasy zdecydowanie stawia na działania proaktywne, zwłaszcza w odniesieniu do zagrożeń socjotechnicznych. Uczenie maszynowe lub algorytmy sztucznej inteligencji odgrywają kluczową tutaj kluczową rolę. Algorytmy działają na zasadzie uczenia się na bazie rzeczywistych danych, takich jak istniejące, a także świeżo wykryte zagrożenia czy fałszywe alarmy.

Jeśli spojrzeć na liczbę zagrożeń, to statystyki wyglądają źle, bowiem mamy do czynienia z ciągłym wzrostem nowych zagrożeń. Niemniej ich wnikliwa analiza pokazuje, że w wielu wypadkach są to nieco zmodyfikowane wersje znanych już złośliwych kodów. Te ewoluujące zagrożenia są bardzo dobrze wykrywane przez mechanizmy sztucznej inteligencji. Proste poprawki czy rekombinacje to za mało, aby pokonać algorytmy - tłumaczy Robert Dziemianko, Marketing Manager w G DATA Software.

Dostawcy produktów bezpieczeństwa IT łączą najlepsze elementy istniejących rozwiązań z postępami w uczeniu maszynowym, dzięki czemu szybciej i skuteczniej wykrywają napastników. Przykładowo, G DATA od 2018 roku rozwija mechanizm DeepRay, wykorzystujący sztuczną inteligencję oraz uczenie maszynowe. Rozwiązania zabezpieczające G DATA wyposażono w złożoną sieć neuronową, która współpracuje z adaptacyjnym algorytmem na bieżąco udoskonalanym przez analityków. Jego działanie polega na kategoryzowaniu różnorodnych plików wykonywalnych. Algorytm bazuje na takich wskaźnikach jak rozbieżność między rozmiarem pliku a ilością kodu wykonywalnego, wersje stosowanych kompilatorów czy ilość importowanych funkcji systemowych. Jeśli DeepRay sklasyfikuje plik jako podejrzany, aplikacja G DATA dokonuje głębokiej analizy przynależnych procesów w pamięci.

AI na usługach cyberprzestępców

Sztuczna inteligencja jest mieczem obosiecznym. Oprócz tego, iż znacznie podnosi efektywność działania oprogramowania antywirusowego, czy systemów DLP, ułatwia działania cybergangom. Napastnicy wykorzystują AI zazwyczaj na trzy sposoby. Pierwsza i najprostsza - polega na budowaniu i modelowaniu własnego malware’u i praktyk ataków. Niedawno specjaliści ds. cyberbezpieczeństwa zwrócili uwagę na duże możliwości ChatGPT w zakresie tworzenia tak zwanych wirusów polimorficznych. Jest to rodzaj złośliwego oprogramowania, które wielokrotnie mutuje swój wygląd lub pliki sygnatur za pomocą nowych procedur deszyfrowania.

Poza tym cyberprzestępcy bardzo często zatruwają modele AI niedokładnymi danymi. Napastnicy też obserwują i uczą się działania modeli uczenia maszynowego, używanych przez dostawców aplikacji bezpieczeństwa, aby aktywnie zakłócać tego typu operacje.

Wykorzystanie API ChatGPT w złośliwym oprogramowaniu może stanowić poważne wyzwanie dla specjalistów ds. bezpieczeństwa. Nie jest to wyłącznie hipotetyczny scenariusz, lecz realny problem. Warto mieć na uwadze, że jest to jeden z wielu przykładów. Niemniej firmy z branży cyberbezpieczeństwa zdają sobie sprawę z tego rodzaju zagrożeń i starają się być zawsze o krok przed przedstawicielami złych mocy - podsumowuje Robert Dziemianko.

Źródło: G Data

Najnowsze wiadomości

Kwantowy przełom w cyberochronie - nadchodząca dekada przepisze zasady szyfrowania na nowo

Przez długi czas cyfrowe bezpieczeństwo opierało się na prostym założeniu: współczesne komputery potrzebowałyby ogromnych zasobów i wielu lat, aby złamać silne algorytmy szyfrowania. Rozwój technologii kwantowej zaczyna jednak tę regułę podważać, a eksperci przewidują, że w perspektywie 5–10 lat może nadejść „dzień zero”. Jest to moment, w którym zaawansowana maszyna kwantowa będzie w stanie przełamać większość aktualnie stosowanych zabezpieczeń kryptograficznych w czasie liczonym nie w latach, lecz w godzinach.

Czytaj całość

PSI prezentuje nową identyfikację wizualną

W ramach realizowanej strategii transformacji PSI Software SE zaprezentowała nową identyfikację wizualną. Odświeżony wizerunek w spójny sposób oddaje technologiczne zaawansowanie firmy, jej głęboką wiedzę branżową oraz silne ukierunkowanie na potrzeby klientów. Zmiany te wzmacniają pozycję PSI jako innowacyjnego lidera technologicznego w obszarze skalowalnych rozwiązań informatycznych opartych na sztucznej inteligencji i chmurze, rozwijanych z myślą o energetyce i przemyśle.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

F5 rozszerza portfolio bezpieczeństwa o narzędzia do ochrony systemów AI w środowiskach enterprise

F5 ogłosiło wprowadzenie dwóch nowych rozwiązań - F5 AI Guardrails oraz F5 AI Red Team - które mają odpowiedzieć na jedno z kluczowych wyzwań współczesnych organizacji: bezpieczne wdrażanie i eksploatację systemów sztucznej inteligencji na dużą skalę. Nowa oferta łączy ochronę działania modeli AI w czasie rzeczywistym z ofensy

Czytaj całość

Snowflake + OpenAI: AI bliżej biznesu

Snowflake przyspiesza wykorzystanie danych i sztucznej inteligencji w firmach, przenosząc AI z fazy eksperymentów do codziennych procesów biznesowych. Nowe rozwiązania w ramach AI Data Cloud integrują modele AI bezpośrednio z danymi, narzędziami deweloperskimi i warstwą semantyczną. Partnerstwo z OpenAI, agent Cortex Code, Semantic View Autopilot oraz rozwój Snowflake Postgres pokazują, jak budować skalowalne, bezpieczne i mierzalne wdrożenia AI w skali całej organizacji.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki

Współczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?

Czytaj całość

Migracja z SAP ECC na S4 HANA: Ryzyka, korzyści i alternatywne rozwiązania

W ostatnich latach wiele firm, które korzystają z systemu SAP ECC (Enterprise Central Component), stoi przed decyzją o przejściu na nowszą wersję — SAP S4 HANA. W obliczu końca wsparcia dla ECC w 2030 roku, temat ten staje się coraz bardziej aktualny. Przemiany technologiczne oraz rosnące oczekiwania związane z integracją nowych funkcji, jak sztuczna inteligencja (AI), skłaniają do refleksji nad tym, czy warto podjąć tak dużą zmianę w architekturze systemu. Przyjrzyjmy się głównym powodom, dla których firmy rozważają migrację do S4 HANA, ale także argumentom, które mogą przemawiać za pozostaniem przy dotychczasowym systemie ECC, przynajmniej na krótki okres.

Czytaj całość

Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?

Zysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.

Czytaj całość

Ponad połowa cyberataków zaczyna się od błędu człowieka

Ponad 2/3 firm w Polsce odnotowała w zeszłym roku co najmniej 1 incydent naruszenia bezpieczeństwa . Według danych Unit 42, zespołu analitycznego Palo Alto Networks, aż 60% ataków rozpoczyna się od działań wymierzonych w pracowników – najczęściej pod postacią phishingu i innych form inżynierii społecznej . To pokazuje, że w systemie ochrony organizacji pracownicy są kluczowym ogniwem – i że firmy muszą nie tylko edukować, ale też konsekwentnie egzekwować zasady cyberhigieny. Warto o tym pamiętać szczególnie teraz, w październiku, gdy obchodzimy Europejski Miesiąc Cyberbezpieczeństwa.

Czytaj całość

MES - holistyczne zarządzanie produkcją

Nowoczesna produkcja wymaga precyzji, szybkości i pełnej kontroli nad przebiegiem procesów. Rosnąca złożoność zleceń oraz presja kosztowa sprawiają, że ręczne raportowanie i intuicyjne zarządzanie coraz częściej okazują się niewystarczające. Firmy szukają rozwiązań, które umożliwiają im widzenie produkcji „na żywo”, a nie z opóźnieniem kilku godzin czy dni. W tym kontekście kluczową rolę odgrywają narzędzia, które porządkują informacje i pozwalają reagować natychmiast, zamiast po fakcie.

Czytaj całość