AutoGPT – krok w stronę walki z cyberprzestępcami za pomocą sztucznej inteligencji

Katgoria: BEZPIECZEŃSTWO IT / Utworzono: 01 sierpień 2023

Popularność ChatGPT na nowo rozbudziła dyskusje o sztucznej inteligencji (SI). Jednym z rozwijanych obecnie mechanizmów bazujących na SI jest AutoGPT. Korzystające z nich narzędzia mogą okazać się pomocne w walce z cyberprzestępczością. Ponadto, AutoGPT stanowi krok w kierunku wdrożenia tzw. ogólnej sztucznej inteligencji.

REKLAMA

Narzędzia bazujące na SI zaczynają dziś wykonywać zadania, które kiedyś były zarezerwowane tylko dla ludzi. Mechanizm GPT stale się rozwija, a liczba parametrów, dzięki którym działa, błyskawicznie rośnie: GPT-1 miało 117 milionów parametrów (2018), GPT-2: 1,5 miliarda parametrów (2019), GPT-3: 175 miliardów parametrów (2020), a GPT-4 aż 170 bilionów parametrów (2023).

Większość znanych w kulturze przykładów użycia SI bazuje na tzw. ogólnej sztucznej inteligencji (artificial general intelligence, AGI), jak HAL 9000 z filmu „2001: Odyseja kosmiczna”, Skynet z serii „Terminator” czy Jarvis z filmów o Iron Manie. AGI to koncepcja, zgodnie z którą komputer może nauczyć się wykonywać zadania w sposób podobny do człowieka lub zwierzęcia. Ciekawostką jest, że po osiągnięciu tego poziomu zaawansowania, narzędzia bazujące na AGI mogłyby być niezwykle przydatne w opracowywaniu systemów i procesów zdolnych do proaktywnej obrony przed cyberatakami.

AutoGPT – krok w stronę AGI

Ogólna sztuczna inteligencja potrafi myśleć o danym problemie, analizować dostępne opcje, a następnie wybrać najlepsze rozwiązanie. Ale osiągnięcie przez AGI pełnych zdolności operacyjnych jest wciąż odległe. Jednak gwałtowny wzrost liczby badań nad modelem GPT-4, czyli modelu językowego będącego sercem ChatGPT, doprowadził do powstania AutoGPT – projektu stanowiącego mały krok w kierunku wdrożenia ogólnej sztucznej inteligencji.

AutoGPT to projekt open-source, który ma na celu zautomatyzowanie działania modelu GPT-4. W przypadku AutoGPT użytkownicy definiują zadania, a narzędzie wykonuje wszystkie pośrednie czynności, które zazwyczaj byłyby wykonywane przez użytkownika. Dzieli zadanie na etapy i uruchamia „agenta AI” w celu przeprowadzenia badań i podjęcia decyzji. Następnie autonomicznie działa na podstawie tych decyzji, informując jednocześnie użytkownika o swoim toku „myślenia” – tłumaczy Jolanta Malak, dyrektorka Fortinet w Polsce.

Walka z cyberprzestępcami z AutoGPT

Model AutoGPT jest wciąż we wczesnym stadium wdrażania – został wydany w maju. Może być on jednak ważnym narzędziem w walce z cyberprzestępczością. Jednym z popularnych działań, które AutoGPT może wykonać, jest znalezienie niezabezpieczonych serwerów VNC (Virtual Network Computing) za pomocą specjalistycznej wyszukiwarki Shodan. Znalezienie i zabezpieczenie wirtualnych serwerów, do których przestępcy mogą zdalnie uzyskać dostęp, jest istotnym elementem proaktywnego podejścia do bezpieczeństwa.

Analitycy z FortiGuard Labs, podmiotu firmy Fortinet zajmującego się badaniem i analizą zagrożeń, przeprowadzili test z użyciem AutoGPT. Wprowadzili do narzędzia adresy IP, wśród których mógł znajdować się zaatakowany serwer VNC. Następnie polecili AutoGPT przeskanowanie tych adresów. Narzędzie samo zdecydowało o użyciu programu Nmap do analizy adresów IP, a następnie pobrało na urządzenie kolejne oprogramowanie, które umożliwiło zidentyfikowanie serwera VNC na konkretnym adresie IP. Test ten pokazał, że AutoGPT potrafi samodzielnie podejmować decyzje o wyborze konkretnych programów i z nich korzystać. Może to okazać się niezwykle pomocne w wykrywaniu cyberataków i ich szybkim zwalczaniu.

Na razie narzędzia takie jak AutoGPT bazują na ustalonych i znanych wzorcach ataków, więc nie sprawdzą się w walce z zaawansowanymi mechanizmami wykorzystywanymi przez cyberprzestępców – podkreśla Jolanta Malak. Eksperci Fortinet zalecają, by w celu zapewnienia bezpieczeństwa korzystać z mechanizmów takich jak IPS (Intrusion Prevention System), które mogą pomóc w wykrywaniu stosowanych przez napastników narzędzi do skanowania sieci, takich jak Nmap.

AutoGPT stanowi obiecujący krok w kierunku wdrożenia ogólnej sztucznej inteligencji. Ale w miarę jej rozwoju ważne jest równoczesne dbanie o jej odpowiedzialne wykorzystanie oraz tworzenie odpowiednich mechanizmów regulacyjnych, aby uniknąć nadużyć i zagrożeń dla bezpieczeństwa.

Najnowsze wiadomości

Kwantowy przełom w cyberochronie - nadchodząca dekada przepisze zasady szyfrowania na nowo

Przez długi czas cyfrowe bezpieczeństwo opierało się na prostym założeniu: współczesne komputery potrzebowałyby ogromnych zasobów i wielu lat, aby złamać silne algorytmy szyfrowania. Rozwój technologii kwantowej zaczyna jednak tę regułę podważać, a eksperci przewidują, że w perspektywie 5–10 lat może nadejść „dzień zero”. Jest to moment, w którym zaawansowana maszyna kwantowa będzie w stanie przełamać większość aktualnie stosowanych zabezpieczeń kryptograficznych w czasie liczonym nie w latach, lecz w godzinach.

Czytaj całość

PSI prezentuje nową identyfikację wizualną

W ramach realizowanej strategii transformacji PSI Software SE zaprezentowała nową identyfikację wizualną. Odświeżony wizerunek w spójny sposób oddaje technologiczne zaawansowanie firmy, jej głęboką wiedzę branżową oraz silne ukierunkowanie na potrzeby klientów. Zmiany te wzmacniają pozycję PSI jako innowacyjnego lidera technologicznego w obszarze skalowalnych rozwiązań informatycznych opartych na sztucznej inteligencji i chmurze, rozwijanych z myślą o energetyce i przemyśle.

Czytaj całość

PROMAG S.A. rozpoczyna wdrożenie systemu ERP IFS Cloud we współpracy z L-Systems

PROMAG S.A., lider w obszarze intralogistyki, rozpoczął wdrożenie systemu ERP IFS Cloud, który ma wesprzeć dalszy rozwój firmy oraz integrację kluczowych procesów biznesowych. Projekt realizowany jest we współpracy z firmą L-Systems i obejmuje m.in. obszary finansów, produkcji, logistyki, projektów oraz serwisu, odpowiadając na rosnącą skalę i złożoność realizowanych przedsięwzięć.

Czytaj całość

F5 rozszerza portfolio bezpieczeństwa o narzędzia do ochrony systemów AI w środowiskach enterprise

F5 ogłosiło wprowadzenie dwóch nowych rozwiązań - F5 AI Guardrails oraz F5 AI Red Team - które mają odpowiedzieć na jedno z kluczowych wyzwań współczesnych organizacji: bezpieczne wdrażanie i eksploatację systemów sztucznej inteligencji na dużą skalę. Nowa oferta łączy ochronę działania modeli AI w czasie rzeczywistym z ofensy

Czytaj całość

Snowflake + OpenAI: AI bliżej biznesu

Snowflake przyspiesza wykorzystanie danych i sztucznej inteligencji w firmach, przenosząc AI z fazy eksperymentów do codziennych procesów biznesowych. Nowe rozwiązania w ramach AI Data Cloud integrują modele AI bezpośrednio z danymi, narzędziami deweloperskimi i warstwą semantyczną. Partnerstwo z OpenAI, agent Cortex Code, Semantic View Autopilot oraz rozwój Snowflake Postgres pokazują, jak budować skalowalne, bezpieczne i mierzalne wdrożenia AI w skali całej organizacji.

Czytaj całość

RAPORT ERP

Katalog rozwiązań IT

Katalog firm

Najnowsze artykuły

Magazyn bez błędów? Sprawdź, jak system WMS zmienia codzienność logistyki

Współczesna logistyka wymaga nie tylko szybkości działania, lecz także maksymalnej precyzji – to właśnie te czynniki coraz częściej decydują o przewadze konkurencyjnej firm. Nawet drobne pomyłki w ewidencji stanów magazynowych, błędy przy przyjmowaniu dostaw czy nieprawidłowe rozmieszczenie towarów, mogą skutkować poważnymi stratami finansowymi i opóźnieniami w realizacji zamówień. W jaki sposób nowoczesne rozwiązania do zarządzania pomagają unikać takich sytuacji? Czym właściwie różni się tradycyjny system magazynowy od zaawansowanych rozwiązań klasy WMS (ang. Warehouse Management System)? I w jaki sposób inteligentne zarządzanie procesami magazynowymi realnie usprawnia codzienną pracę setek firm?

Czytaj całość

Migracja z SAP ECC na S4 HANA: Ryzyka, korzyści i alternatywne rozwiązania

W ostatnich latach wiele firm, które korzystają z systemu SAP ECC (Enterprise Central Component), stoi przed decyzją o przejściu na nowszą wersję — SAP S4 HANA. W obliczu końca wsparcia dla ECC w 2030 roku, temat ten staje się coraz bardziej aktualny. Przemiany technologiczne oraz rosnące oczekiwania związane z integracją nowych funkcji, jak sztuczna inteligencja (AI), skłaniają do refleksji nad tym, czy warto podjąć tak dużą zmianę w architekturze systemu. Przyjrzyjmy się głównym powodom, dla których firmy rozważają migrację do S4 HANA, ale także argumentom, które mogą przemawiać za pozostaniem przy dotychczasowym systemie ECC, przynajmniej na krótki okres.

Czytaj całość

Jak maksymalizować zyski z MTO i MTS dzięki BPSC ERP?

Zysk przedsiębiorstwa produkcyjnego zależy nie tylko od wydajności maszyn, ale przede wszystkim od precyzyjnego planowania, realnych danych i umiejętnego zarządzania procesami. Dlatego firmy, które chcą skutecznie działać zarówno w modelu Make to Stock (MTS), jak i Make to Order (MTO), coraz częściej sięgają po rozwiązania klasy ERP, takie jak BPSC ERP.

Czytaj całość

Ponad połowa cyberataków zaczyna się od błędu człowieka

Ponad 2/3 firm w Polsce odnotowała w zeszłym roku co najmniej 1 incydent naruszenia bezpieczeństwa . Według danych Unit 42, zespołu analitycznego Palo Alto Networks, aż 60% ataków rozpoczyna się od działań wymierzonych w pracowników – najczęściej pod postacią phishingu i innych form inżynierii społecznej . To pokazuje, że w systemie ochrony organizacji pracownicy są kluczowym ogniwem – i że firmy muszą nie tylko edukować, ale też konsekwentnie egzekwować zasady cyberhigieny. Warto o tym pamiętać szczególnie teraz, w październiku, gdy obchodzimy Europejski Miesiąc Cyberbezpieczeństwa.

Czytaj całość

MES - holistyczne zarządzanie produkcją

Nowoczesna produkcja wymaga precyzji, szybkości i pełnej kontroli nad przebiegiem procesów. Rosnąca złożoność zleceń oraz presja kosztowa sprawiają, że ręczne raportowanie i intuicyjne zarządzanie coraz częściej okazują się niewystarczające. Firmy szukają rozwiązań, które umożliwiają im widzenie produkcji „na żywo”, a nie z opóźnieniem kilku godzin czy dni. W tym kontekście kluczową rolę odgrywają narzędzia, które porządkują informacje i pozwalają reagować natychmiast, zamiast po fakcie.

Czytaj całość