Óttast að samstarf leiði til drápsvélmenna

Alþjóðlegur hópur vísindmanna sem sérhæfir sig í rannsóknum á gervigreind hefur heitið því að sniðganga háskóla í Suður-Kóreu eftir að skólinn undirritaði samstarfssamning við umdeildan hergagnaframleiðanda. Vísindamennirnir óttast að samstarfið muni leiða til aukinnar notkunar gervigreindar í hernaði og verði jafnvel til þess að „drápsvélmenni“ líti dagsins ljós.

Hópurinn, sem samanstendur af 50 vísindamönnum frá 30 löndum, hefur undirritað bréf þar sem vísindamennrnir heita því að vinna hvorki með Korea Advanced Institute of Science and Technology (KAIST) né hergagnaframleiðandanum Hanwha Systems. Þannig munu þeir ekki taka þátt í alþjóðlegum rannsóknum þar sem vísindamenn á vegum KAIST eru annars vegar enda óttast þeir að fyrrnefnda samstarfið muni leiða til þess að hergögn fái í auknum mæli sjálfstæðan vilja.

„Það má gera frábæra hluti með gervigreind sem gæti jafnvel bjargað mannslífum, meira að segja í hernaði, en að lýsa því opinberlega yfir að markmiðið sé að hanna sjálfstjórnandi vopn og undirrita svona samstarf er gríðarlegt umhugsunarefni,“ er haft eftir Toby Walsh sem fer fyrir vísindamannahópnum. „Þetta er háttskrifaður háskóli sem ákveður að vinna með siðferðislega vafasömu fyrirtæki sem þar að auki brýtur alþjóðalög ítrekað.“

Talsmaður KAIST-háskólans segist miður sín vegna sniðgöngunnar. Háskólinn hafi ekki í hyggju að gera drápsvélmenni og segir hann að siðferði og mannréttindi séu ávallt höfð í heiðri í störfum háskólans.

Sameinuðu þjóðirnar munu funda um gervigreind í hernaði í Genf í næstu viku en 20 ríki hafa þegar skrifað undir áskorun um að banna drápsvélmenni. Eins og blaðamaður Guardian orðar það óttast margir vísindamenn að upp gæti komið staða sem svipaði til Terminator-kvikmyndabálksins.

Vísindmenn hafa lýst yfir miklum áhyggjum af nákvæmni slíkra sjálfstjórnandi vopna og ekki síst hvernig þeim ætti að takast að greina á milli vinveittra og óvinveittra hermanna - svo ekki sé minnst á saklausa borgara.

Hanwha er einn stærsti hergagnaframleiðandi Suður-Kóreu og er hvað þekktastur fyrir framleiðslu klasasprengja sem bannaðar eru í 120 löndum heimsins. Suður-Kórea, Bandaríkin, Kína og Rússland eru ekki þeirra á meðal.