Beth Yw Polisi Diweddaru'r Pentagon Ar Robotiaid Lladd?

Mae'r Pentagon wedi cyhoeddi a diweddariad i'w Gyfarwyddeb 3000.09, sy'n cwmpasu'r hyn y maent yn ei alw Ymreolaeth mewn Systemau Arfau ac eraill yn galw 'robotiaid llofrudd.' dronau cyfredol fel yr Awyrlu a CIA MQ-9 Medelwyr yn cael eu gweithredu gan teclyn rheoli o bell: bod dynol eistedd o flaen sgrin fideo yn nodi targedau ar lawr gwlad filoedd o filltiroedd i ffwrdd, yn eu gosod yn y gwallt croes ac yn rhyddhau a taflegryn Hellfire neu arf arall. Mae arfau ymreolaethol yn wahanol: maen nhw'n dewis eu targedau eu hunain heb unrhyw ymyrraeth ddynol. Mae angen rheolau clir ynghylch pryd a sut y gellir eu defnyddio, ac mae'r gyfarwyddeb newydd yn dod â hwy gam yn nes.

Ddeng mlynedd yn ôl pan ryddhawyd y fersiwn gyntaf o 3000.09, roedd arfau ymreolaethol yn edrych fel ffuglen wyddonol. Nawr maen nhw'n real iawn. Honnodd y Cenhedloedd Unedig hynny Ymosododd dronau a gyflenwir gan Dwrci yn annibynnol ar dargedau yn Libya yn 2020 ac mae Rwsia bellach yn defnyddio arfau rhyfel loetering yn yr Wcrain gyda gallu ymreolaethol.

Mae llawer o weithredwyr, fel y Ymgyrch i Atal Robotiaid Lladd, eisiau gwaharddiad llwyr ar arfau ymreolaethol, gan fynnu bod unrhyw arf anghysbell yn parhau o dan rheolaeth ddynol ystyrlon ar bob adeg. Mae'r Cenhedloedd Unedig wedi bod yn trafod sut i wneud hynny rheoli breichiau o'r fath am flynyddoedd lawer.

Fodd bynnag, fel y mae'r gyfarwyddeb newydd yn ei gwneud yn glir, mae'r Pentagon yn cadw at linell wahanol.

“Mae'r Adran Amddiffyn wedi gwrthwynebu safon polisi o 'reolaeth ddynol ystyrlon' yn gyson o ran systemau ymreolaethol a systemau AI,” Gregory Allen, cyfarwyddwr y Prosiect ar Lywodraethu AI yn y Canolfan Astudiaethau Strategol a Rhyngwladol, dweud wrthyf. “Y term celfyddyd a ffefrir gan yr Adran Amddiffyn yw ‘lefelau priodol o farn ddynol,’ sy’n adlewyrchu’r ffaith, mewn rhai achosion – awyrennau gwyliadwriaeth ymreolaethol a rhai mathau o arfau seibr ymreolaethol, er enghraifft – efallai nad yw’r lefel briodol o reolaeth ddynol fawr ddim i ddim. .”

Pa arfau ymreolaethol fyddai'n cael eu caniatáu o dan ba amgylchiadau? Mae Allen yn credu bod y fersiwn flaenorol o'r gyfarwyddeb mor aneglur fel ei fod yn atal unrhyw ddatblygiad yn y maes hwn.

“Roedd dryswch mor eang - gan gynnwys ymhlith rhai o uwch arweinwyr yr Adran Amddiffyn - nes bod swyddogion yn ymatal rhag datblygu rhai systemau a oedd nid yn unig yn cael eu caniatáu gan y polisi, ond hefyd wedi’u heithrio’n benodol o’r gofyniad uwch adolygiad,” meddai Allen.

Nid oes un arf wedi'i gyflwyno i'r broses adolygu ar gyfer arfau ymreolaethol a osodwyd yn y 3000.09 gwreiddiol yn y deng mlynedd ers iddo gael ei gyhoeddi.

Ysgrifennodd Allen an traethawd ar hyn ar gyfer CSIS y llynedd, gan ddisgrifio pedwar maes yr oedd angen gwaith arnynt – diffinio systemau arfau ymreolaethol yn ffurfiol, dweud beth mae “AI-alluogi” yn ei olygu i’r polisi, sut bydd y broses adolygu’n ymdrin â modelau ailhyfforddi dysgu peirianyddol, ac egluro pa fathau o arfau sydd eu hangen mynd drwy'r broses adolygu llafurus.

“Mae'r Adran Amddiffyn wedi gweithredu pob un ohonyn nhw,” meddai Allen.

Mewn egwyddor, felly, dylai hyn sicrhau’r hyn y mae’r Adran Amddiffyn yn ei alw’n “ymrwymiad cryf a pharhaus i fod yn arweinydd byd-eang tryloyw wrth sefydlu polisïau cyfrifol ynghylch defnydd milwrol o systemau ymreolaethol.”

Fodd bynnag, mae rhai ychwanegiadau y gellid eu gweld fel bylchau, megis eithriad o adolygiad uwch ar gyfer arfau ymreolaethol sy'n amddiffyn dronau nad ydynt yn targedu pobl ('arfau gwrth-ddeunydd') ac ond a fyddai'n cael targedu taflegrau, dronau eraill. a systemau eraill o bosibl.

“Mae’r gair ‘amddiffyn’ yn gwneud tunnell o waith,” Zak Kallenborn, dywedodd cymrawd polisi yn Ysgol Polisi a Llywodraeth Schar ym Mhrifysgol George Mason wrthyf. “Os yw drôn yn gweithredu yn nhiriogaeth y gelyn, gellid dehongli bron unrhyw arf fel ‘amddiffyn’ y platfform.”

Mae Kallenborn hefyd yn nodi, er bod arfau ymreolaethol fel mwyngloddiau tir wedi bod yn cael eu defnyddio ers dros ganrif i bob pwrpas, mae'r dirwedd yn newid yn gyflym oherwydd y datblygiadau mewn AI a dysgu peiriannau penodol. Mae'r rhain wedi arwain at systemau galluog iawn, ond yn dechnegol brau – pan fyddant yn methu, maent yn methu’n syfrdanol mewn ffyrdd na fyddai unrhyw ddyn, er enghraifft camgymryd crwban am reiffl.

“Mae ymreolaeth trwy AI yn bendant yn haeddu mwy o bryder, o ystyried brau a diffyg eglurdeb y dulliau sy’n dominyddu ar hyn o bryd,” meddai Kallenborn.

Nid yw'r diweddariad yn un mawr. Ond mae'n dangos ymrwymiad parhaus y Pentagon i ddatblygu arfau ymreolaethol effeithiol a chred y gallant gydymffurfio ag ef cyfraith ddyngarol ryngwladol — gwahaniaethu rhwng sifiliaid a phersonél milwrol, ceisio osgoi niweidio sifiliaid, a defnyddio grym cymesur ac angenrheidiol yn unig.

Mae ymgyrchwyr yn credu na fydd AI yn meddu ar y ddealltwriaeth angenrheidiol i wneud dyfarniadau moesol yn ystod y rhyfel ac mewn perygl o greu byd lle mae rhyfel yn awtomataidd ac nad yw bodau dynol bellach yn rheoli. Mae eraill yn credu y bydd milwrol yr Unol Daleithiau rhagori gan wrthwynebwyr ag arfau ymreolaethol oni bai bod AI yn cael ei ymgorffori ar lefel dactegol, a bod gormod o gyfranogiad dynol yn arafu robotiaid milwrol.

Mae'r ddadl yn debygol o barhau hyd yn oed wrth i arfau ymreolaethol ddechrau ymddangos, a bydd y canlyniadau'n cael eu dilyn yn agos. Y naill ffordd neu'r llall, mae'n ymddangos bod y robotiaid llofrudd yn dod.