Libyassa tehtiin keväällä 2020 mahdollisesti sotahistoriaa. YK:n turvallisuusneuvostolle tehdyn raportin mukaan maan sisällissodassa käytettiin turkkilaisia Kargu-2-drooneja, jotka jahtasivat vetäytyviä sotilaita itsenäisesti, toisin sanoen ilman ihmisen valvontaa.

Kaikki yksityiskohdat eivät ole selvillä, mutta jos tiedot pitävät paikkansa, kyseessä oli todennäköisesti ensimmäinen kerta, kun autonomisia aseita eli tappajarobotteja käytettiin tappamistarkoituksessa.

Irlantilainen tutkija Catherine Connolly on kuullut tapauksesta ja on huolissaan. Kansainvälisen oikeuden ja turvallisuusalan tohtori johtaa järjestöjen Stop Killer Robots -kampanjan tutkimusryhmää ja tekee vaikuttamistyötä sen puolesta, että Kargun kaltaisten aseiden kehittely ja käyttö kiellettäisiin kansainvälisellä sopimuksella. 

Siihen on mahdollisuuksia, sillä tällä viikolla alkoi YK:n yleiskokouksen ensimmäisen komitean istunto. Siellä on määrä äänestää päätöslauselmasta, joka valtuuttaisi YK:n pääsihteeri António Guterresin selvittämään maiden kantoja kieltosopimukseen. Se voisi olla ensimmäinen askel kohti tappajarobotit kieltävää sopimusta.

”Olemme pisteessä, jossa kansainvälisten sääntöjen tarve on erityisen suuri. Jos valtiot aloittavat neuvottelut mahdollisimman pian, se vaikuttaa nyt kehitettäviin järjestelmiin ja siihen, mitä niillä voidaan tehdä”, Connolly sanoo.

Kone ei tunne sääntöjä

Libyan tapahtumia selkeämpiä todisteita siitä, että tappajarobotteja olisi käytetty tositilanteessa, ei vielä ole. Connollyn mukaan se on kuitenkin lähellä.

”Vaatisi vain ohjelmistojen muutosta, jotta asejärjestelmät toimisivat ilman ihmistä. Puolustusteollisuuden edustajat ovat itse kertoneet, että näin voidaan tehdä, jos asiakkaat eli valtiot sitä haluavat”, hän kertoo.

Tappajarobotit voisivat käyttöönottonsa jälkeen kerätä tietoa, valita kohteensa ja myös iskeä niitä vastaan itsenäisesti. Kyse voisi olla juuri Kargun kaltaisista drooneista, jotka voivat käyttää vaikkapa kasvojentunnistusteknologiaa tai muita tekoälyn sovelluksia ja ”vaania” kohteitaan parvissa. 

Myös esimerkiksi Yhdysvaltain kehittämä Switchblade-drooni vaatii tällä hetkellä ihmistä valitsemaan kohteen videon kautta, mutta sen valmistajan AeroVironmentin mukaan ihmisen poistaminen päätöksenteosta vaatii enää kolme vuotta, kertoi uutistoimisto AP alkuvuodesta.

Aihe on herättänyt huolta jo pitkään, ja monet arvovaltaiset tahot kannattavat kieltosopimusta. YK:n pääsihteeri Guterres haluaa kieltosopimuksen vuoteen 2026 mennessä. Myös esimerkiksi Punaisen Ristin kansainvälinen komitea, kansalaisjärjestöt, tuhannet teknologian ja tekoälyn tutkijat ja Stop Killer Robotsin mukaan noin sata valtiota kannattavat kieltosopimusta.

Perusteet ovat eettiset: koneelle ei periaatteen vuoksikaan haluta antaa valtaa päättää ihmisen elämästä ja kuolemasta.

Lisäksi autonomiset aseet ovat vähintäänkin haastava kysymys myös kansainvälisen humanitaarisen oikeuden kannalta. Sodankäynnin sääntöjen mukaan esimerkiksi siviilit ja sotilaat pitää pystyä erottamaan toisistaan, siviilikohteisiin ei saa iskeä ja sotavankeja ei saa tappaa.

Tappajarobotit eivät näitä sääntöjä tunne, ja niitä olisi vaikea asettaa vastuuseen virheistä.

”Tähän liittyy isoja kysymyksiä, kuten millainen kohdeprofiili on, millä datalla asejärjestelmä on koulutettu ja kuka on tehnyt luokittelut. Jos kone koulutetaan tunnistamaan kivääri, mistä tiedetään, että se pystyy erottamaan kivääriä kantavan ihmisen vaikkapa kainalosauvan tai kävelykepin käyttäjästä?” Connolly kysyy.

Sopimus vielä kaukana

Kieltosopimuksen solmiminen on takkuilut kuitenkin jo pitkään. YK:n tavanomaisia aseita koskevan sopimuksen puitteissa on käyty aiheesta keskusteluja yli kymmenen vuoden ajan. Virallisiin neuvotteluihin eteneminen vaatisi kuitenkin yksimielisyyttä, ja siihen ei ole päästy.

Stop Killer Robotsin tietojen mukaan neuvotteluita vastustaa kymmenen maata: Australia, Viro, Intia, Israel, Japani, Puola, Etelä-Korea, Venäjä, Iso-Britannia ja Yhdysvallat. Osa niistä, kuten Yhdysvallat, Venäjä ja Israel, kehittävät tappajarobotteja itse. Tänä vuonna keskustelut ajautuivat jälleen umpikujaan muun muassa Venäjän vastustuksen takia. Tällä viikolla alkanut YK-kokous onkin eräänlainen vaihtoehto B.

Moni maa empii yhä kantaansa. Osa perustelee sopimuksen vastustamista sillä, että tappajarobotteja jo kehittävät suurvallat eivät kuitenkaan lähtisi siihen mukaan.

Turvallisuusalan tutkija Edward Hunter Christie Ulkopoliittisesta instituutista pitääkin sopimuksen syntymistä epätodennäköisenä.

”Kansainvälinen järjestelmä perustuu valtioihin, jotka eivät luota toisiinsa ja jotka sotivat joskus toisiaan vastaan. Etenkin isot valtiot haluavat säilyttää mahdollisuuden kehittää näitä aseita. Sama selitys pätee siihen, miksi valtiot ylipäätään aseistautuvat”, hän sanoo.

Myöskään Suomi ei ole suoraan ilmoittanut tukevansa sopimusta. Suomi kannattaa ”poliittisen tai ohjaavan asiakirjan” luomista ja pitkällä aikavälillä oikeudellisesti sitovaa sopimusta, kertoo ulkoministeriön asevalvonnan yksikön päällikkö Outi Hyvärinen sähköpostivastauksessaan. Hän korostaa, että isojen aseidentuottaja- ja viejämaiden saaminen mukaan on tärkeää, jotta sitoumuksilla olisi vaikutusta.

Connollyn mielestä sitova sopimus on kuitenkin tärkeä huolimatta siitä, ovatko kaikki valtiot mukana vai eivät. Normien asettaminen luo painetta myös suurvaltojen suuntaan, hän huomauttaa.

Vastustajat perustelevat sopimuksen tarpeettomuutta myös sillä, että humanitaarisen oikeuden säännöt ovat joka tapauksessa voimassa.

”Valtiot vahvistivat YK:n keskusteluissa virallisesti vuonna 2019, että kansainvälinen humanitaarinen oikeus pätee autonomistenkin aseiden kohdalla ja että ihminen on aina vastuussa kaikista rikkomuksista. Se oli merkittävä edistysaskel”, Christie huomauttaa.

Jotkut turvallisuusalan asiantuntijat ja tutkijat ovat myös huomauttaneet, että autonomiset järjestelmät voivat jossain mielessä olla ”humaanimpia”. Ne eivät kykene tuntemaan kostonhalun ja katkeruuden kaltaisia tunteita ja ovat parhaassa tapauksessa tarkempia kuin ihminen.

”Sota ei ole koskaan humaania. Ja mitä on tarkkuus? Kone voi osua haluttuun kohteeseen, mutta se ei tarkoita, että kohteeseen olisi alun perinkään pitänyt iskeä”, Connolly huomauttaa.

Autonomisia sovelluksia myös siviilipuolelle?

Ongelmia neuvotteluprosessissa aiheuttaa myös se, että autonomisuutta on periaatteessa vaikea määritellä. Jo nyt taisteluissa käytetään laajasti tekoälyä ja koneoppimista sekä eritasoista autonomiaa. Esimerkiksi lennokki-iskuja on jo pitkään tehty niin, että kone tunnista kohteen, ihminen antaa luvan iskuun.

Stop Killer Robotsin tavoitteena on kuitenkin tässä vaiheessa puuttua vain täyteen autonomisuuteen, vaikka tekoälyn sääntely onkin Connollyn mukaan muuten tärkeää.

Tavoitteena on, että sopimuksella kiellettäisiin kaikki sellaiset ominaisuudet, joita voidaan käyttää nimenomaan ihmisiä vastaan. Esimerkiksi kasvojentunnistusjärjestelmiä ei saisi kehittää asejärjestelmiin. Lisäksi pitäisi kieltää ilman merkittävää ihmisen kontrollia toimivat asejärjestelmät sekä varmistaa, että kaikki järjestelmät toimivat ennustettavasti ja ymmärrettävästi ja että niihin asennetaan ajallisia sekä maantieteellisiä rajoituksia.

Connolly varoittaa, että ellei autonomisia aseita säädellä, ne yleistyvät ja niiden toiminnot voivat siirtyä myös siviilipuolelle, kuten poliisin ja rajavalvonnan käyttöön. 

Toistaiseksi hän on kuitenkin optimistinen sen suhteen, että kielto saadaan aikaan.

”Ei ole kyse siitä, tapahtuuko se, vaan siitä, milloin se tapahtuu.”