Gen AI: czy zgadza się bilans korzyści i ryzyk dla biznesu i społeczeństwa

 

Postęp technologiczny na kolejnym biegu

Jednym z najważniejszych atutów GenAI jest zdolność do transformacji procesów biznesowych i kreatywnych. Dzięki niej możliwe jest usprawnienie pracy w niemal każdej branży. W sektorze produkcyjnym i usługowym GenAI przyczynia się do zwiększenia produktywności, automatyzując procesy, które wcześniej wymagały wysiłku intelektualnego i kreatywnego. Przykładem może być generowanie tekstów, projektowanie graficzne czy tworzenie strategii marketingowych. Automatyzacja tych zadań zwiększa efektywność całej organizacji.

Szybkie tworzenie różnych formatów treści przez GenAI znajduje zastosowanie w marketingu, edukacji i mediach. Możliwość generowania tekstów, obrazów i filmów na żądanie nie tylko przyspiesza procesy twórcze, ale także otwiera nowe możliwości personalizacji. Na przykład w sektorze rozrywki technologia ta pozwala dostosowywać doświadczenia widzów do ich preferencji, a w edukacji – indywidualizować proces nauczania.

Ważnym obszarem, w którym GenAI ma ogromny wpływ, jest zdrowie psychiczne. W odpowiednio kontrolowanych środowiskach narzędzia oparte na GenAI wspierają terapeutów w diagnozowaniu problemów psychicznych oraz monitorowaniu stanu pacjentów. Jednocześnie narzędzia te mogą pomagać użytkownikom w radzeniu sobie z emocjami i trudnymi sytuacjami, co czyni je ważnym wsparciem w terapii i coachingu.

Dzięki zdolności GenAI w zakresie syntezy informacji oraz udzielania precyzyjnych odpowiedzi, chatboty wyszkolone na podstawie danych organizacji już dziś stanowią nieocenione wsparcie zarówno dla pracowników obsługi klienta, jak i samych konsumentów. Rozwiązania takie jak ChatGPT rewolucjonizują sposób pozyskiwania wiedzy, jednocześnie podkreślając znacznie wyzwań związanych z przejrzystością i wiarygodnością źródeł informacji.

Od halucynacji do manipulacji

Technologia GenAI, choć niesie olbrzymi potencjał, stwarza również realne zagrożenia, które wykraczają poza dobrze znane zjawisko halucynacji modeli LLM. W rękach cyberprzestępców może stać się narzędziem manipulacji na niespotykaną dotąd skalę. Ułatwia próby podrabiania danych biometrycznych, generowanie deepfake’ów czy tworzenie spreparowanych dokumentów. Realistyczne obrazy, filmy czy nagrania głosowe generowane przez AI mogą być wykorzystane do manipulacji opinią publiczną, kreowania fałszywych narracji lub osłabiania zaufania do instytucji.



Zdolność GenAI do tworzenia spreparowanych treści rodzi również poważne ryzyko w kontekście systemów zabezpieczeń. Fałszywe dane biometryczne, takie jak odciski palców czy skany twarzy, mogą być wykorzystane do przełamywania barier bezpieczeństwa w starszych systemach, które nie są odpowiednio modernizowane. Z kolei spreparowane nagrania z monitoringu czy sfabrykowane dokumenty mogą wprowadzać śledczych na fałszywe tropy, utrudniając wykrywanie przestępstw. Badania Cyber Intelligence Accenture wskazują na znaczący wzrost handlu narzędziami związanymi z deepfake'ami w dark webie, odnotowując 223 proc. wzrost w pierwszym kwartale 2024 roku w porównaniu z tym samym okresem ubiegłego roku.

Aby przeciwdziałać tym zagrożeniom, konieczne jest inwestowanie w technologie zdolne do identyfikacji fałszywych treści. Zaawansowane algorytmy do wykrywania deepfake'ów i fałszywych danych muszą rozwijać się w tempie równym technologii generatywnej, aby minimalizować lukę bezpieczeństwa. W październiku b.r. Accenture ogłosiło strategiczną inwestycję w Reality Defender, firmę z branży cyberbezpieczeństwa specjalizującą się w wykrywaniu technologii deepfake. Współpraca ma na celu wzmocnienie obrony firm z sektorów usług finansowych, mediów i IT przed oszustwami z wykorzystaniem deepfake'ów, na przykład poprzez systemy oparte na analizie mikroekspresji lub niuansów w generowanych treściach.

Wdrażanie wielopoziomowych systemów uwierzytelniania – łączących biometrię, tokeny sprzętowe i inne metody – stanowi kolejny kluczowy element obrony. W połączeniu z edukacją społeczeństwa, szczególnie osób pracujących w kluczowych sektorach takich jak finanse czy administracja, możliwe jest zwiększenie odporności na manipulacje socjotechniczne. Warto również rozwijać narzędzia, które umożliwiają instytucjom publicznym i prywatnym szybkie reagowanie na próby użycia fałszywych treści w celach przestępczych.

GenAI niesie także ryzyko manipulacji całym społeczeństwem poprzez generowanie fałszywych narracji. Przykładem może być personalizowana dezinformacja – treści dostosowane do indywidualnych preferencji odbiorców, które wyjątkowo skutecznie wpływają na opinie i emocje. Tego rodzaju manipulacje mogą mieć negatywnie skutki psychologiczne, szczególnie wśród młodzieży, a także prowadzić do uzależnienia od generowanych treści, zaburzając równowagę emocjonalną i relacje społeczne.

Walka z dezinformacją wymaga wspierania niezależnego dziennikarstwa, rozwoju narzędzi do analizy treści generowanych przez GenAI oraz promowaniu krytycznego myślenia w społeczeństwie. Edukacja medialna i budowanie świadomości zagrożeń to kluczowe elementy skutecznej strategii ochrony przed negatywnymi konsekwencjami technologii GenAI.

Bilans korzyści i zagrożeń

Technologia GenAI to jedno z najbardziej przełomowych osiągnięć ostatnich lat, oferujące szeroki zakres możliwości w zakresie automatyzacji, personalizacji i kreatywności. Jednak jej potencjał wymaga odpowiedzialnego wdrożenia, opartego na zasadach „Responsible AI”. Chociaż korzyści płynące z GenAI są ogromne, ich pełne wykorzystanie zależy od świadomości zagrożeń i gotowości do podejmowania działań zapobiegawczych. Zrównoważone podejście do rozwoju i wdrażania tej technologii pozwoli maksymalizować jej pozytywny wpływ na biznes i społeczeństwo, jednocześnie minimalizując potencjalne ryzyka.

Autor: Marcin Ledworowski, Senior Advisor, Lider praktyki Data&AI dla sektora finansowego, Accenture w Polsce