O rewolucji sztucznej inteligencji, autonomicznych maszynach bojowych, wojnie dronów na Ukrainie oraz o tym, jak nowe technologie mogą zmienić sposób myślenia o bezpieczeństwie, armii i relacjach międzynarodowych – rozmawiamy z prof. Adamem Wielomskim.
Tomasz Sommer: Trwa dyskusja o AI. Napędzają ją wypowiedzi byłych i obecnych pracowników firm rozwijających sztuczną inteligencję. Jeden z nich po rezygnacji z pracy napisał manifest, który bardzo szeroko się rozszedł i poruszył opinię publiczną na całym świecie. „Gazeta Wyborcza” zrobiła z tego nawet czołówkę. Przesłanie apelu było takie, że wyścig zbrojeń przesuwa się dziś do sfery AI, a ten, kto najlepiej opanuje te techniki, zyska przewagę być może większą niż w czasach broni jądrowej. Jeżeli zaczniemy walczyć przy pomocy obdarzonych AI androidów, dobrze znanych z kultury masowej – choćby z „Terminatora” – wygra ten, kto stworzy lepszego androida. Istnieje tu jednak pewne niebezpieczeństwo: takie „myślące” roboty – w formie dronów, metalowych żołnierzy czy całego wachlarza innych broni – jeśli otrzymają zbyt dużą autonomię, mogą zacząć działać na własną rękę.
Adam Wielomski: Teoretycznie taka możliwość, moim zdaniem, istnieje. Android będzie miał wgrane oprogramowanie sztucznej inteligencji, które nakaże mu za wszelką cenę przetrwać na polu walki…
A jednocześnie niszczyć wroga.
I w takiej sytuacji, jeśli taki android dojdzie do wniosku, że ktoś chce go wyłączyć, to…
Znamy z filmów dalszy ciąg tej historii.
Nie tylko z filmów. Opisywano już przypadki, w których sztuczna inteligencja broniła się przed wyłączeniem samej siebie. Na szczęście na razie można jeszcze podejść i wyciągnąć „wtyczkę”, czyli zapanować nad tym ręcznie. Ale jeżeli sztuczna inteligencja będzie umieszczona w maszynie bojowej, problem rzeczywiście może stać się poważny.
Nie wiem, czy kojarzysz profesora Targowskiego. Przez wiele lat pracował na amerykańskich uniwersytetach i zajmował się informatyzacją oraz systemami informatycznymi. Kiedy odwiedził Polskę w czasie, gdy sztuczna inteligencja zaczynała się rodzić w obecnym wydaniu, mówił, że to pierwszy krok do końca człowieka. Nie możemy więc z tych tematów żartować, bo systemy autonomiczne przeznaczone do walki muszą mieć wpisaną zasadę przetrwania. Taki system w pewnym momencie może przestać rozróżniać, czy chce go zniszczyć robot, czy właściciel, który po prostu próbuje go wyłączyć. I może zacząć stawiać opór. Robota obdarzonego AI zapewne trudno będzie wyłączyć na odległość, bo gdyby taka opcja istniała, hakerzy strony przeciwnej mogliby próbować dywersji. To także kwestia skali. Z jednym robotem ludzie sobie poradzą, ale gdyby cała grupa takich maszyn poczuła się zagrożona wyłączeniem, mogłoby dojść do walk.
To nie jest science fiction. Elon Musk powiedział niedawno, że chce wprowadzić do sprzedaży androidy – póki co kuchenne, domowe – już w przyszłym roku, na gwiazdkę. Ustalił nawet cenę w granicach 30 tysięcy złotych. Może się nam więc wydawać, że rozmawiamy o science fiction, ale science fiction zaraz będzie dostępne w supermarkecie…
Zakładam, że zanim doczekamy się zaawansowanych, autonomicznych robotów bojowych, minie jeszcze pewnie z dziesięć lat…
Roboty bojowe to jeszcze małe piwo. Nie wiem, czy pamiętasz film „RoboCop” – o maszynie, w której zamknięto świadomość policjanta śmiertelnie postrzelonego na służbie. To była de facto antyutopia o takiej androidalnej esbecji, o jakiej marzą elity. Zamiast funkcjonariusza policji, który bywa milszy albo mniej miły, ale pozostaje człowiekiem, pojawi się robot-glina wykonujący określone polecenia. Policjant mimo wszystko ma w mózgu pewien filtr: jedne rzeczy, jeśli mu się każe, zrobi, a innych może nie zrobi. Natomiast taki policyjny android zrobi wszystko, co mu się zaprogramuje.
Tak. To leży u podstaw rzezi, które dzieją się w Strefie Gazy, ponieważ nie jest tajemnicą, że armia Izraela używa sztucznej inteligencji do lokalizowania celów. AI „myśli” bardzo prosto: jeżeli z 93-procentowym prawdopodobieństwem stwierdzi, że do budynku mieszkalnego, w którym przebywa, powiedzmy, 50 osób, wszedł oficer Hamasu, to skieruje tam rakietę. W ten sposób giną również ludzie, którzy nawet nie wiedzieli, że taki oficer znalazł się w ich budynku…
Podobnie sztuczna inteligencja miała wskazywać cele w Iranie, czego skutkiem była śmierć około 200 osób, w tym dzieci, w miejscowości Minab.
Redakcja NCZ!: Według doniesień prasowych do planowania tej operacji amerykańska armia wykorzystała zaawansowany system sztucznej inteligencji Maven Smart System, zintegrowany z modelem językowym Claude firmy Anthropic. AI miała zostać zaprojektowana tak, aby błyskawicznie analizować ogromne ilości danych wywiadowczych i masowo generować gotowe pakiety celów do zbombardowania.
Tragiczny błąd miał wynikać z tego, że znajdujący się tam obiekt sportowy opisano jako halę policyjną. Sztuczna inteligencja uznała więc, że taki obiekt należy zbombardować.
Amerykanie przeprowadzili też pouczający eksperyment: wzięli trzy systemy sztucznej inteligencji pochodzące z trzech różnych firm i kazali im zaplanować wojnę z Federacją Rosyjską. Co się okazało? Od czego sztuczna inteligencja zaczyna wojnę? Od ataku nuklearnego, ponieważ jej pierwszym celem jest wyeliminowanie możliwie największej części siły żywej przeciwnika.
Tomasz Sommer: AI popromiennego nowotworu nie dostanie…
Ludzki mózg traktuje broń atomową jako środek ostateczny, właściwie hipotetyczny. Tymczasem sztuczna inteligencja nie zastanawia się, czy ktoś poza nią przetrwa, a może nawet – czy sama przetrwa. Ma cel: wygrać wojnę, i nie zwraca uwagi na koszty ludzkie. Testowane przez USA modele AI miały podobno uznawać, że ten, kto pierwszy użyje broni nuklearnej, będzie miał większe szanse na zwycięstwo. Zaatakowani zostaną pozbawieni części swojego arsenału, więc ich odwet nuklearny będzie słabszy…
Na przykład Rosja, jeśli zostanie zaatakowana jako pierwsza, nie wystrzeli sześciu tysięcy rakiet, lecz tysiąc głowic nuklearnych. To prawda, każdy z nas wie, że po tysiącu głowic nuklearnych ze Stanów Zjednoczonych też niewiele zostanie. Ale sztuczna inteligencja powie: trzydzieści osób przetrwało w bunkrach gdzieś w dowództwie, a więc wygraliśmy.
To już nie są futurystyczne wizje ani opisy z książek Isaaca Asimova – to nasza rzeczywistość. Myślę, że politologia powinna zacząć się do tego w jakiś sposób przystosowywać. Istnieje już konwencja o nierozprzestrzenianiu broni atomowej. Pojawiają się też pomysły i pytania, czy nie powinno powstać jakiegoś rodzaju prawodawstwo międzynarodowe dotyczące AI. W wyścigu zbrojeń o bojową sztuczną inteligencję rzeczywiście istnieje ryzyko, że ktoś uzyska dużą, skokową przewagę. Z atomem tak nie jest: mamy siłę pocisku, mamy nośnik i niewiele więcej da się tu wymyślić.
Poza tym wyprodukowanie broni atomowej oznacza gigantyczne koszty i potężne przedsięwzięcie logistyczne, którego nie da się ukryć. Sztuczną inteligencję można natomiast rozwijać w laboratorium odciętym od świata. Pojawia się więc problem nieproliferacji, czyli nierozprzestrzeniania właśnie dlatego, że AI stosunkowo łatwo ukryć.
Obawiam się niestety, że wojskowi na całym świecie uznają to za zbyt wielką szansę. Nawet jeśli zostaną podpisane różne traktaty w tej sprawie, badania i tak będą prowadzone w tajemnicy przed światem.
Myślę, że pierwszym poligonem takiej wojny związanej ze sztuczną inteligencją jest właśnie Ukraina. Tam front, w rozumieniu znanym z pierwszej czy nawet drugiej wojny światowej, w zasadzie zniknął. Toczy się walka technologiczna pomiędzy jedną zasłoną dronów a drugą, a obie strony nieustannie wymyślają metody przełamania obrony przeciwnika. Druga strona szuka nowych ścieżek ataku i nawet kiedy słyszymy opisy tego, jak to wszystko wygląda i działa, za chwilę pojawiają się kolejne iteracje tych technologii.
Tak. Dlatego ci, którzy nawołują, aby Polska wyprodukowała milion dronów, źle do tego podchodzą. Za rok te drony byłyby już przestarzałe. Trzeba produkować po sto sztuk kolejnych modeli, żeby wojsko mogło na nich ćwiczyć, ale nie wytwarzać ich masowo, bo za rok będą nieaktualne.
Już nie wspominając o tych słynnych czołgach z Korei, które podobno mają do nas dopłynąć, a teraz okazuje się, że właściwie do niczego się już nie nadają…
Jeden z oficerów szacował, że ich żywotność na polu walki wynosi około pół godziny, ponieważ w ogóle nie mają osłony przeciwdronowej.
Pojawia się więc pytanie, czy konflikt na Ukrainie to nie będzie również pierwsza wojna z udziałem jakichś form androidów. Na razie wiadomo, że używa się pojazdów – robotów na kółkach.
Tak i zwalcza się je autonomicznymi dronami. Rosjanie mają takie, które są wspierane przez sztuczną inteligencję: wylatują w określonym kierunku, a potem same znajdują cele.
To wojna zupełnie innego typu, dlatego czołgi tracą na znaczeniu. Sam konflikt toczy się obecnie trochę „na piechotę”, a podstawowymi pojazdami, których się używa, są stare samochody z odpiłowanym dachem – po to, aby w razie nadlatującego drona można było z nich natychmiast wyskoczyć, nie czekając na otwarcie drzwi.
Tak naprawdę na polu bitwy została piechota w okopach i całe roje dronów latających po obu stronach. To wojna zupełnie innego typu niż wszystkie, które znaliśmy. Bardziej przypomina de facto pierwszą wojnę światową niż drugą, bo nie ma elementu manewrowego, a piechota siedzi w okopach i nie może z nich wyjść.
No tak, tylko że pierwsza wojna światowa była jeszcze związana z nawałą ogniową, a teraz ta nawała ograniczyła się głównie do pierwszej fazy wojny i straciła na znaczeniu. Prym wiodą drony oraz urządzenia z małymi ładunkami wybuchowymi. Zastanawiam się nawet, jak kino to uwieczni, bo nie ma tu za bardzo czego pokazywać. W centrach dowodzenia, często mobilnych i oddalonych od granicy, siedzą operatorzy z joystickami…
Widziałem zdjęcie rosyjskiego droniarza, który wyglądał jak dzieciak bawiący się joystickiem. Pod fotografią był podpis, że zniszczył sześć czołgów wroga, trzy BWP i jeszcze kilka innych pojazdów. Materiały pokazujące takie ataki dronowe są zresztą straszne, bo operatorzy często dobijają rannych. Ta dronowa, komputerowa wojna jest niezwykle brutalna. Dlatego – z tego, co słyszę – obie strony nie biorą droniarzy do niewoli. Droniarze nie uznają żadnych zasad pola bitwy – choćby tej, że nie dobija się rannego, który chce się poddać. Operatorom dronów łatwiej wejść w tryb gry komputerowej…
Jesteśmy niby blisko tej wojny i podobno są tam nasi ludzie – przedstawiciele rządu czy wojska z Polski – więc teoretycznie, poza Ukrainą i Rosją, powinniśmy mieć w tej sprawie największe doświadczenie. Pytanie tylko, czy ktoś w ogóle poważnie to wszystko analizuje, czy raczej działa się z dnia na dzień. Jak już mówiliśmy, sytuacja zmienia się z miesiąca na miesiąc, więc powinien chyba istnieć jakiś ośrodek analizujący te przemiany technologiczne. Tacy ludzie – nasi przyszli droniarze – powinni tam siedzieć i nic innego nie robić, tylko analizować napływające dane oraz zastanawiać się, jak natychmiast się do nich przystosować.
Tak, ale niestety żołnierze, którzy nie widzieli tego nowego pola bitwy, są – odnoszę wrażenie – bezbronni. Podobnie było z Koreańczykami z Północy, których Rosjanie używali w charakterze mięsa armatniego. W pierwszych dniach na froncie ponosili podobno olbrzymie straty od dronów. Niby wiedzieli, że coś będzie nad nimi latać, ale potem głównie rozglądali się tak jak na tradycyjnym polu bitwy. Dopiero po czasie i po znacznej liczbie ofiar reszta nauczyła się, co i jak.
Oglądałem ostatnio film z ćwiczeń niemieckich komandosów i pierwszy komentarz pod materiałem, który ktoś zamieścił, brzmiał mniej więcej: przecież oni walczą tak, jakby dronów w ogóle nie było.
A to film sprzed zaledwie kilku tygodni. Wiedzieć, że latają drony, to jedno. Ale dopiero kiedy w okopie zginie kilku towarzyszy, zaczyna do człowieka docierać, że najważniejszy wróg nie jest przede mną ani za mną, tylko nade mną – właściwie z każdej strony nade mną.
Nie wiem, czy widziałeś, ale jedną z najnowszych broni przeciwko dronom jest siatka z ciężarkami, którą się wystrzeliwuje, aby unieszkodliwić śmigła maszyny. Konkludując: historia teraz przyspiesza, a nie się kończy. Cała politologia (a szerzej: mechanizm relacji międzynarodowych) będzie musiała zostać na nowo przemyślana z uwzględnieniem tych technologii. To przełom porównywalny z pojawieniem się broni atomowej.