Nową inicjatywą amerykańskiej armii stał się ATLAS, produkt który umożliwia „kolejny ważny krok w kierunku śmiercionośnej autonomicznej broni”. Odmienne zdanie mają czołowi badacze sztucznej inteligencji, którzy produktowi armii przypisali przydomek „zabójczego robota”.
Dowództwo kontraktowania armii wezwało potencjalnych sprzedawców z branży przemysłowej i akademickiej do zgłaszania pomysłów, które pomogą zbudować system ATLAS (Advanced Targeting and Lethality Automated System). Według wydziału Departamentu Obrony system wykorzysta sztuczną inteligencję i uczenie maszynowe, aby zapewnić pojazdom terenowym pełną autonomię. Dzięki temu broń będzie mogła wyszukiwać, identyfikować i wykonywać akcję na celach co najmniej 3 razy szybciej niż obecny proces ręczny.
Prawo wojenne, a pełna automatyzacja
Stuart Russell, profesor informatyki w UC Berkeley i ceniony ekspert ds. Sztucznej inteligencji, jest głęboko zaniepokojony koncepcją czołgów i innych lądowych pojazdów bojowych, które będą mogły otrzymać zdolność strzelania na własną rękę.
„Wygląda na to, że zmierzamy punktu w wyścigu zbrojeń, gdzie aktualnie zakazana jest pełna autonomia”. Aktualna sekcja amerykańskiego prawa wojskowego, mówiąca o zakazie pełnej automatyzacji niedługo może być nieważna. Może zostać ona spokojnie odrzucona, gdy stanie się niewygodna z politycznego punktu widzenia”.
Co na to świat?
W 2017 r. Russell pojawił się w filmie wyprodukowanym przez Kampanię zatytułowaną Stop Killer Robots. Opisywała ona dystopijną przyszłość stworzoną przez autonomiczną broń wojskową, która według przywódców kampanii „zdecyduje, kto żyje i umiera, bez dalszej ludzkiej interwencji, która przekracza próg moralny.” Koalicja organizacji pozarządowych działających na rzecz zakazu autonomicznej broni i utrzymująca „znaczącą ludzką kontrolę nad użyciem siły”, ostrzega. Pozwalanie maszynom wybierać i atakować cele może doprowadzić świat do „destabilizującego robotycznego wyścigu zbrojeń”.
Jak oficjalnie ma działać ATLAS
ATLAS użyje algorytmu do wykrywania i identyfikacji celów, a „części procesu kierowania ogniem” zostaną zautomatyzowane. Oznacza to, że osoba zawsze będzie tą, która podejmie decyzję o wystrzeleniu, zgodnie z wymogami prawa. Tak przynajmniej sprawę przedstawia Paul Scharre, dyrektor programu technologii i bezpieczeństwa narodowego w Centrum Nowego Amerykańskiego Bezpieczeństwa w Waszyngtonie.
Według naukowców istnieją setki autonomicznych i półautonomicznych systemów obrony przeciwrakietowej. Według Scharre, ATLAS byłby pierwszym użyciem takiej broni przez naziemne pojazdy bojowe. System ten idealnie zmaksymalizuje czas ludzkiej reakcji i pozwoli operatorowi na podjęcie decyzji. A potem, gdy człowiek podejmie decyzję, strzelać dokładnie.
Może nie będzie tak źle?
“System sam w sobie może się sprawdzić. Jest duża szansa, że nowy produkt armii umożliwi zmniejszenie możliwość ofiar cywilnych, bratobójstwie i innych niezamierzonych konsekwencjach. Pomoże też w utrzymaniu bezpieczeństwa żołnierzy amerykańskich na polu bitwy. Wiele decyzji dotyczących zaangażowania w działania wojenne jest bardzo skompresowanych w czasie. Jeśli znajdujesz się w czołgu i widzisz czołg nieprzyjaciela, prawdopodobnie oni też mogą cię zobaczyć. A jeśli jesteś w zasięgu ich uderzenia, prawdopodobnie są w zasięgu, by cię trafić.” – Paul Scharre
Wyścigu zbrojeń nikt nie zatrzyma…
Jesienią ubiegłego roku sekretarz generalny ONZ António Guterres powiedział, że „perspektywa maszyn z dyskrecją i władzą odbierania ludzkiego życia jest moralnie odrażająca”. Ponad 25 krajów wezwało do wprowadzenia zakazu posiadania autonomicznej broni, co wyraźnie wymaga ludzkiej kontroli, kiedy dochodzi do śmiertelnej siły. Jednak USA, Korea Południowa, Rosja, Izrael i Australia odepchnęły silnie, a kontrahenci obrony, w tym Boeing, Lockheed Martin, BAE Systems i Raytheon, nadal dużo inwestują w rozwój broni bezzałogowych.
Przeciwnicy automatyzacji wojska (w tym Elon Musk) obawiają się braku konkretnych, powszechnie akceptowanych wytycznych dotyczących autonomicznej broni. Twierdzą, że tylko całkowity zakaz pełnej automatyzacji uniemożliwi ewentualną katastrofę. Zgodnie z artykułem 36, brytyjska organizacja pozarządowa działająca na rzecz “zapobiegania niezamierzonym, niepotrzebnym lub niedopuszczalnym szkodom wyrządzonym przez niektóre rodzaje broni”, apeluje na swojej stronie internetowej: “Konieczne jest działanie państw, aby zrozumieć, co jest niedopuszczalne, gdy dochodzi do skutku. Do korzystania z autonomicznych systemów uzbrojenia oraz do zakazania tych działań i rozwoju poprzez międzynarodowy traktat. “
Co przyniosą nam przyszłe lata? Zobaczymy… Miejmy nadzieję, że nie doczekamy się czasów, gdzie świat będzie wyglądał, jak ten z Matrixa czy Terminatora.
Źródło: Quartz
