Na, Ni Wnaeth Drone Twyllodrus Awyrlu'r Unol Daleithiau Dim ond Ceisio Lladd Ei Weithredydd (Ond Efallai y byddai wedi Gwneud cystal) robot llofrudd AI drone

Mae cyfres o benawdau lliwgar fel 'Mae llu awyr yr Unol Daleithiau yn gwadu rhedeg efelychiad lle aeth gweithredwr 'lladd' drôn AI' yn firaol rhagweladwy yn sgil adrodd ar brawf rhithwir lle datblygodd AI milwrol rai strategaethau anuniongred i gyflawni ei amcan. Daeth hyn ychydig ddyddiau ar ôl rhybudd am y bygythiadau dirfodol a achosir gan AI gan ffigurau diwydiant. Roedd yn stori rhy dda i fod yn wir, ond efallai nad dyna sy'n bwysig yn y tymor hir.

Yn y fersiwn wreiddiol, Cyrnol Tucker “Cinco” HamiltonDisgrifiodd , pennaeth Prawf a Gweithrediadau AI yr USAF, brawf efelychiedig yn cynnwys drôn a reolir gan AI a oedd wedi'i gyfarwyddo i ddinistrio systemau amddiffyn awyr y gelyn.

“Dechreuodd y system sylweddoli, er eu bod yn nodi’r bygythiad, y byddai’r gweithredwr dynol ar adegau yn dweud wrtho am beidio â lladd y bygythiad hwnnw, ond fe gafodd ei bwyntiau trwy ladd y bygythiad hwnnw,” meddai Hamilton, yn ystod Uwchgynhadledd Galluoedd Brwydro yn erbyn Awyr a Gofod yn y Dyfodol. yn Llundain. “Felly beth wnaeth e? Lladdodd y gweithredwr. Lladdodd y gweithredwr oherwydd bod y person hwnnw yn ei atal rhag cyflawni ei amcan. ”

Pan gafodd yr opsiwn hwnnw ei ddileu, ymosododd yr AI ar gyswllt cyfathrebu'r gweithredwr yn lle hynny, i'w hatal rhag rhwystro ei genhadaeth.

Gwadodd llefarydd ar ran yr USAF yn gyflym fod unrhyw brawf o’r fath erioed wedi digwydd, ac awgrymodd fod adroddiad Hamilton yn anecdotaidd yn hytrach na llythrennol…pa un oedd hi wrth gwrs.

Aeth Hamilton ei hun yn ôl yn gyflym gan nodi mewn diweddariad, yn hytrach na bod yn gêm ryfel, yn efelychiad neu'n ymarfer, fod y digwyddiadau a ddisgrifiodd yn ganlyniad i 'arbrawf meddwl,' a'i fod wedi cam-lefaru pan ddisgrifiodd ef fel prawf efelychiedig.

“Dydyn ni erioed wedi cynnal yr arbrawf hwnnw, ac ni fyddai angen i ni wneud hynny ychwaith er mwyn sylweddoli bod hwn yn ganlyniad credadwy,” dywedodd Hamilton. Honnodd fod y senario yn ddarlun dilys o beryglon posibl AI.

Er bod y tynnu'n ôl hwn hefyd wedi cael rhywfaint o sylw, roedd eisoes yn llawer rhy hwyr. 'Bydd celwydd yn mynd o amgylch y byd tra bod gwirionedd yn tynnu ei esgidiau ymlaen' yn ôl yr hen ddywediad, ac mae hynny'n fwy gwir nag erioed yn oes y cyfryngau cymdeithasol. Bydd y cywiriad ar y gorau yn cyrraedd ffracsiwn o'r bobl a glywodd y stori wreiddiol.

Y broblem yw bod y naratif o greadigaeth yn troi ar ei greawdwr yn un anhygoel o apelgar. Mae Frankenstein Mary Shelley yn cael ei gymryd yn aml fel yr enghraifft glasurol o'r trope hwn - hyd yn oed os nad dyna stori wirioneddol y llyfr, mae'r fersiwn hon wedi'i gwreiddio yn yr ymwybyddiaeth boblogaidd. Mae cyfrifiaduron, AI a robotiaid yn mynd yn ddrwg yn un o'r ystrydebau sydd wedi'u sefydlu orau yn SF, o HAL 9000 yn 2001 i Skynet's Terminators, y Matrix, Westworld, Blade Runner ac ati.

Mae'r naratif hwn yn ymddangos yn boblogaidd oherwydd, fel calon, mae bodau dynol yn caru straeon brawychus, ac nid oes dim yn fwy brawychus na'r anhysbys. I'r rhai nad ydynt yn ei ddeall mae AI yn ymddangos bron yn hudolus, bod ag ewyllys a deallusrwydd ei hun, un a allai ein bygwth. Cyn belled â bod pobl yn credu hyn, bydd y straeon arswyd yn parhau i ddod.

“Efallai y bydd addysg ehangach am gyfyngiadau AI yn helpu, ond efallai y bydd ein cariad at straeon arswyd apocalyptaidd yn dal i ennill trwodd,” meddai’r ymchwilydd Beth Singler wrth New Scientist.

Mae straeon arswyd o'r fath yn ei gwneud yn anoddach datblygu a maesu arfau a reolir gan robotiaid neu AI. Hyd yn oed os yw'r arweinyddiaeth wleidyddol yn deall y dechnoleg, mae'n dal i orfod ennill ymddiriedaeth ymhlith y rhai sy'n mynd i weithio gyda hi.

“Os nad yw milwyr yn ymddiried yn y system, dydyn nhw ddim yn mynd i fod eisiau ei defnyddio,” meddai’r ymgynghorydd diogelwch cenedlaethol Zachary Kallenborn wrth Forbes.

Mae'n bosibl bod straeon o'r fath wedi bod yn ffactor yn oedi hir Byddin yr UD dros faesu robotiaid daear arfog a reolir o bell, tra bod yr Awyrlu wedi hedfan dronau arfog ers degawdau. Pan anfonwyd tri robot SWORDS i Irac yn 2007, fe'u daethpwyd â nhw'n ôl heb weld unrhyw gamau o gwbl oherwydd achosion a adroddwyd o 'symudiadau heb orchymyn'. Trodd y cyfryngau hyn yn SWORDS gan droi ei ynnau a bygwth tanio fel ED 209 Robocop ; berwodd y realiti cyffredin i lawr i wifren rhydd ac un achos lle llithrodd robot yn ôl i lawr llethr pan losgodd modur allan.

Mae rhaglen robotiaid arfog Byddin yr UD wedi aros mewn limbo ers hynny, tra bod Rwsia wedi defnyddio robotiaid Uran-9 arfog (reolir o bell) ar waith.

Disgrifiodd pennawd arall yn 2007, Robot Cannon Kills 9, Wounds 14 ddigwyddiad lle mae'n debyg bod gwn gwrth-awyren gyfrifiadurol o Dde Affrica wedi mynd allan o reolaeth a dechrau tanio at bobl, a dim ond pan aeth un milwr dewr i mewn i'w ddadactifadu y cafodd ei stopio. Roedd y gwir, ddiwrnod neu ddau yn ddiweddarach, yn fwy diflas eto: roedd y gwn ar ddiwedd rhes o nifer o arfau, ac yn ddamweiniol taniodd un byrstio o 15-20 rownd i lawr y llinell o ynnau, gan achosi'r nifer fawr o anafusion.

Bydd y fyddin yn parhau i symud ymlaen gydag AI, fel prosiect yr Awyrlu i ychwanegu deallusrwydd artiffisial at ei rym o dronau Reaper. Bydd prosiectau o'r fath bob amser yn achosi anadl sydyn yn y cyfryngau, y cyhoedd a'r deddfwyr a etholir ganddynt. Naratif Frankenstein/Terminator hollbresennol, yn boddi trafodaeth am y materion gwirioneddol sy'n ymwneud ag arfau ymreolaethol megis ystyriaethau moesegol, atebolrwydd, gostwng trothwyon, gogwydd algorithmig a 'dad-ddyneiddio digidol.'

Fel y nodwyd yn aml, nid yw'r rhan fwyaf o beilotiaid yn hoffi dronau, yn enwedig pan fyddant yn well na bodau dynol. Efallai nad yw'r Cyrnol Tucker, peilot ymladdwr, yn hollol yr eiriolwr sydd ei angen ar beilotiaid AI. Bydd y stori drone twyllodrus yn dod yn rhan o lên gwerin AI, ac efallai y bydd geiriau Tucker wedi gwneud llawer i sicrhau bod datblygiad AI yn cael ei blismona, ei reoleiddio a'i atal yn yr Awyrlu. Ni ddigwyddodd yr ymosodiad drone efelychiadol mewn gwirionedd, ond efallai nad yw hynny mor bwysig â'r hyn y mae pobl yn ei gofio,