Moeseg AI Yn Cael Ei Brafael â Phwnsh Tanllyd Un-Dau O'r ddwy System Arfau Ymreolaethol Seiliedig ar AI A'r Ymelwa ar Systemau Ymreolaethol a Yrrir gan AI Sy'n Cael eu Arfogi'n Gythreulig

Y robotiaid pedair coes dawnsio rhyfeddol hynny.

Rwy'n siŵr eich bod wedi gweld y fideos firaol hynny o'r systemau robotig pedair coes sy'n dawnsio ac yn pransio mewn ffyrdd annwyl sy'n ymddangos yn hyfryd ac yn debyg i gi. Mae'n ymddangos ein bod wrth ein bodd yn gweld y robotiaid hynny sy'n cael eu gyrru gan AI wrth iddynt ddringo dros rwystrau ac ymddangos fel pe baent yn ennill troedle cain pan fyddant yn eistedd ar ben blychau neu ar ôl cael eu gosod yn ansicr ar bennau cypyrddau tipsy. Bydd eu trinwyr dynol weithiau'n procio neu'n gwthio'r robotiaid pedair coes sy'n ffroeni, sy'n ymddangos yn hynod annheg ac sy'n gallu codi'ch pen ar y driniaeth fratiog gan y dynoidau meistrolgar hynny.

Ond dwi'n meddwl tybed a ydych chi wedi gweld y fideos nad ydynt yn firaol o galibr hollol wahanol.

Paratowch eich hun.

Mae yna fideos wedi'u postio'n eang yn dangos yr un math o robotiaid pedair coes sydd wedi'u gwisgo ag arfau amlwg o ryw fath neu'i gilydd.

Er enghraifft, mae gwn peiriant neu arf saethu tebyg yn cael ei osod ar ben robot dawnsio-a-prasio sydd fel arall yn gyfarwydd. Mae cysylltiad electronig rhwng y robot pedair coes a mecanwaith tanio'r arf. Mae'r contraption cerdded cyfrifiadurol sydd bellach yn cynnwys arfau yn cael ei ddangos yn camu drosodd i'r man lle mae targed llygad tarw wedi'i osod, ac mae'r gwn peiriant yn cael ei danio'n ffyrnig at y targed. Ar ôl hoelio'r targed a ddinistriwyd yn rhannol wedyn, mae'r robot pedair coes yn dawnsio ac yn gwthio o amgylch rhwystrau cyfagos ac yn rhedeg i fyny i ailadrodd yr un weithred dro ar ôl tro ar dargedau ffres eraill.

Ddim yn union yr hyn y gallech fod wedi disgwyl ei weld. Mae hyn yn sicr yn tynnu'r ysgafnder a'r llawenydd cymharol allan o wylio'n onest y robotiaid pedair coes meddal hynny yn gwneud eu peth. Croeso i realiti llym o ymddangos diniwed systemau ymreolaethol yn cael eu trosi neu eu trawsnewid yn arfau miniog. Gyda llawer o ymdrech, gallwch dros nos gael system ymreolaethol “ddi-arf” ystyriol wedi'i hôl-osod i gynnwys arfau llawn.

Mae bron yn hawdd-byslyd mewn rhai amgylchiadau.

Rydw i'n mynd i drafod y pwnc hynod ddadleuol hwn a rhoi sylw i'r qualms AI Moeseg eithaf hefty sy'n codi. Byddwn yn mynd ar daith i systemau ymreolaethol, AI, cerbydau ymreolaethol, arfau, a chyfres o faterion ymladd AI Moesegol cysylltiedig. Am fy ymdriniaeth barhaus a helaeth o AI Moeseg ac AI Moesegol, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Gadewch i ni ddechrau gyda rhai cerrig clo sylfaenol.

Er mwyn trafodaeth, derbyniwch fod dwy brif ffordd o gategoreiddio systemau ymreolaethol sydd wedi’u harfogi ag arfau:

1) Systemau Arfau Ymreolaethol (trwy ddyluniad)

2) Systemau Ymreolaethol sy'n cael eu Arfogi (yn ôl y ffaith)

Mae gwahaniaeth pwysig rhwng y ddau gategori.

Yn y lle cyntaf, byddwn yn diffinio a system arfau ymreolaethol bod o'r cychwyn cyntaf yn greadigaeth gyfrifiadurol sydd wedi'i bwriadu'n bwrpasol i fod yn arf. Roedd gan y datblygwyr mewn cof eu bod am ddyfeisio arf. Eu hymgais amlwg yw cynhyrchu arf. Roeddent yn gwybod y gallent gyfuno arfau yn gyfan gwbl â'r technolegau systemau ymreolaethol diweddaraf. Mae hwn yn arf sy'n rhedeg ar y don o uwch-dechnoleg sy'n sicrhau symudiad ymreolaethol a gweithredoedd ymreolaethol (byddaf yn ymhelaethu'n llawnach, yn fuan).

Mewn cyferbyniad, yn yr ail achos, byddwn yn ystyried y mater o systemau ymreolaethol nad oes ganddynt unrhyw duedd arbennig tuag at arfau o gwbl. Mae'r rhain yn systemau ymreolaethol sy'n cael eu datblygu at ddibenion eraill. Darganfod cerbyd ymreolaethol fel car hunan-yrru a fydd yn cael ei ddefnyddio i ddarparu symudedd i bawb a chymorth i leihau'r miloedd o farwolaethau blynyddol sy'n digwydd oherwydd gyrru gan ddyn a cherbydau a weithredir gan ddyn (gweler fy sylw manwl yn y ddolen yma). Mae'n ymddangos nad yw'n arf i'w ystyried ar gyfer y rhai sy'n rhoi hwb i ymdrechion cymdeithasol i gael bodau dynol allan o'r tu ôl i'r olwyn a rhoi AI yn sedd y gyrrwr yn lle hynny.

Ond gall y systemau ymreolaethol diniwed hynny gael eu harfogi os yw bodau dynol eisiau gwneud hynny.

Cyfeiriaf at yr ail gategori hwn bryd hynny fel systemau ymreolaethol sydd wedi'u harfogi. Roedd y system ymreolaethol wedi'i saernïo'n wreiddiol ac yn ddefosiynol at ddiben nad yw'n debyg o fod yn arfau. Er gwaethaf hynny, mae'r gobaith anhunanol breuddwydiol yn cael ei drechu gan rywun yn rhywle sy'n cael y syniad argyhoeddiadol y gallai'r gwrthdaro hwn gael ei arfogi. Yn sydyn iawn, mae’r system ymreolaethol a oedd yn ymddangos yn anwesol wedi dod yn arf angheuol trwy dagio ar ryw fath o alluoedd arfau (fel y robotiaid pedair coes tebyg i gŵn y soniwyd amdanynt yn gynharach sydd â gwn peiriant neu ddryll tanio tebyg wedi’i ychwanegu at eu nodweddion) .

Gwaetha’r modd, mae’r ddau gategori yn y pen draw braidd yn yr un lle, sef darparu’r gallu i ddefnyddio systemau ymreolaethol ar gyfer arfau ar sail a allai fod yn angheuol.

Mae’r broses o gyrraedd y pwynt terfyn hwnnw’n debygol o fod yn wahanol.

Ar gyfer y systemau ymreolaethol llwyr ag arfau a gafodd eu pegio fel arfau, mae'r agweddau arfau fel arfer yn flaen ac yn y canol. Efallai y byddwch chi'n dweud bod agweddau'r system ymreolaethol wedi'u lapio o amgylch conglfaen pa bynnag arf sy'n cael ei ystyried. Mae'r broses feddwl gan y datblygwyr braidd yn debyg i sut y gall arf fanteisio ar ddyfodiad systemau ymreolaethol.

Fel arfer nid yw'r safbwynt arall yn un o'r meddylfryd hwnnw o gwbl. Mae'r datblygwyr am gael system ymreolaethol o'r radd flaenaf, efallai er lles dynolryw. Mae'r datblygwyr hyn yn rhoi eu calon a'u henaid diffuant i mewn i wneud y system ymreolaethol. Dyma graidd eu dyfais. Efallai na fyddent yn dychmygu y byddai unrhyw un yn trawsfeddiannu neu wyrdroi eu dyfais hynod fuddiol. Cânt eu swyno gan y buddion cymdeithasol sy'n gysylltiedig â'r system ymreolaethol yn cael ei siapio a'i chynhyrchu.

Ar ryw adeg, gadewch i ni ddweud bod trydydd partïon yn sylweddoli y gall y system ymreolaethol gael ei hadnewyddu i gael ei harfogi. Efallai eu bod yn twyllo'r datblygwyr i adael iddynt gael y system ymreolaethol ar gyfer yr hyn yr honnir ei fod yn ddibenion aruchel. Y tu ôl i ddrysau caeedig, mae'r drwgweithredwyr hyn yn dewis ychwanegu gallu arfau i'r system ymreolaethol yn slei bach. Voila, trodd diniweidrwydd yn arfau llwyr.

Nid oes yn rhaid i bethau fynd ymlaen yn y modd hwnnw.

Efallai y dywedwyd wrth y datblygwyr eu bod yn datblygu system ymreolaethol ddiniwed, ac eto roedd gan y rhai a oedd yn ariannu neu'n cyfarwyddo'r ymdrech ddibenion eraill mewn golwg. Efallai bod yr ymdrech system ymreolaethol yn wir wedi dechrau'n ddiniwed, ond yna pan oedd yn rhaid talu biliau, torrodd yr arweinyddiaeth fargen gyda ffynhonnell ariannu sydd eisiau'r systemau ymreolaethol am resymau ysgeler. Posibilrwydd arall yw bod y datblygwyr yn gwybod y gallai defnydd diweddarach fod ar gyfer arfau ond eu bod yn cyfrif y byddent yn croesi'r bont ddirdynnol honno pan fyddai hi byth yn codi. Etc.

Mae yna lawer a llawer o lwybrau amrywiol ar sut mae hyn i gyd yn chwarae allan.

Efallai y bydd o ddiddordeb i chi fy mod wedi'i ddisgrifio mewn colofnau blaenorol bod ymwybyddiaeth gynyddol AI Moeseg ynghylch y defnydd deuol elfennau o AI cyfoes, gw y ddolen yma. Gadewch imi roi'r wybodaeth ddiweddaraf ichi'n fyr.

Gall system AI a ragwelir ar gyfer y da fod ar drothwy'r drwg weithiau, efallai trwy rai newidiadau eithaf syml, ac yn gyfatebol fe'i hystyrir yn ddefnydd deuol. Yn y newyddion yn ddiweddar roedd system AI a adeiladwyd i ddarganfod cemegau a allai fod yn lladdwyr, yr oedd y datblygwyr eisiau gwneud yn siŵr y gallem osgoi neu fod yn wyliadwrus o gemegau drwg o'r fath. Mae'n troi allan y gallai'r AI gael ei addasu braidd yn hawdd i ddadorchuddio'r cemegau lladd hynny yn ymroddedig ac felly o bosibl ganiatáu i ddrwg-ddynion wybod pa fathau o gemegau y gallent eu coginio ar gyfer eu cynlluniau drygionus affwysol.

Mae'n amlwg y gall systemau ymreolaethol ffitio i mewn i'r amlen defnydd deuol hwnnw.

I ryw raddau, dyna pam mae AI Moeseg ac AI Moesegol yn bwnc mor hanfodol. Mae praeseptau AI Moeseg yn ein galluogi i aros yn wyliadwrus. Gall technolegwyr deallusrwydd artiffisial ar brydiau ymddiddori mewn technoleg, yn enwedig optimeiddio uwch-dechnoleg. Nid ydynt o reidrwydd yn ystyried y goblygiadau cymdeithasol mwy. Mae meddu ar feddylfryd Moeseg AI a gwneud hynny’n rhan annatod o ddatblygu a maesu AI yn hanfodol ar gyfer cynhyrchu AI priodol, gan gynnwys (efallai yn syndod neu’n eironig) asesiad o sut mae AI Moeseg yn cael ei fabwysiadu gan gwmnïau.

Yn ogystal â defnyddio praeseptau Moeseg AI yn gyffredinol, mae cwestiwn cyfatebol a ddylem gael cyfreithiau i lywodraethu gwahanol ddefnyddiau o AI. Mae deddfau newydd yn cael eu bandio o gwmpas ar lefelau ffederal, gwladwriaethol a lleol sy'n ymwneud ag ystod a natur sut y dylid dyfeisio AI. Mae'r ymdrech i ddrafftio a deddfu cyfreithiau o'r fath yn un graddol. Mae AI Moeseg yn gweithredu fel stopgap ystyriol, o leiaf, a bydd bron yn sicr i ryw raddau yn cael ei ymgorffori'n uniongyrchol yn y deddfau newydd hynny.

Byddwch yn ymwybodol bod rhai yn dadlau’n bendant nad oes angen deddfau newydd arnom sy’n cwmpasu AI a bod ein cyfreithiau presennol yn ddigonol. Mewn gwirionedd, maen nhw'n rhagrybuddio, os byddwn ni'n deddfu rhai o'r deddfau AI hyn, byddwn ni'n tandorri'r wydd euraidd trwy glampio i lawr ar ddatblygiadau mewn AI sy'n cynnig manteision cymdeithasol aruthrol.

Yr Ymreolaeth A'r Arf Fel Dwy Archeb

Mae yna ymadrodd y mae rhai yn ei ddefnyddio i ragrybuddio am systemau ymreolaethol arfau o bob math, sy'n cael eu bathu gyda'i gilydd fel lladdbots.

Mae hyn yn codi agwedd ychwanegol y dylem ei thrwsio.

A oes rhaid i system arfau ymreolaethol a/neu system ymreolaethol sydd wedi'i harfogi fod â goruchafiaeth robot angheuol neu laddol?

Byddai rhai yn dadlau y gallwn fod wedi penderfynu anfarwol systemau ymreolaethol arfau hefyd. Felly, yn y safbwynt hwnnw, byddai'n ymddangos yn gwbl amhriodol defnyddio ymadroddion fel lladd-bots neu robotiaid lladd. Mae'n debyg y byddai amrywiad nad yw'n farwol yn gallu darostwng neu gyflawni niwed nad yw o ganlyniad marwol. Nid yw'r systemau hynny'n lladd, maent â llai o allu i gynhyrchu anafiadau. Peidiwch â gorbwysleisio'r galluoedd, dywedwch y rhai sy'n mynnu nad oes yn rhaid i ni ymgolli mewn trope peiriant lladd llwyr.

Felly, efallai y bydd gennym ni:

• Systemau arfau angheuol ymreolaethol
• Systemau ymreolaethol angheuol sydd wedi'u harfogi
• Systemau arfau ymreolaethol nad ydynt yn farwol
• Systemau ymreolaethol nad ydynt yn farwol sydd wedi'u harfogi

Wrth gwrs, y gwrthddadl yw y byddai'n ymddangos bod gan unrhyw system ymreolaethol sydd wedi'i harfogi'r potensial i lithro i fyd marwoldeb, hyd yn oed pe bai ond yn cael ei rhagweld i'w defnyddio ar sail nad yw'n farwol. Mae'r ddau gam cynyddol o fynd o angheuol i angheuol yn mynd i gael ei wneud yn gyflym unwaith y bydd gennych arf yn barod yng nghanol system ymreolaethol. Byddech dan bwysau i ddarparu gwarant haearnaidd na fydd y rhai nad ydynt yn angheuol wedi ymledu i'r arena angheuol (er bod rhai yn ceisio gwneud hynny, mewn ffurf fathemategol).

Cyn i ni fynd ymhellach o lawer i'r pwnc cyffredinol hwn o systemau ymreolaethol ac arfau, efallai y byddai'n ddefnyddiol tynnu sylw at rywbeth arall, er ei fod yn amlwg efallai, nad yw o reidrwydd yn amlwg ar frig y meddwl.

Dyma:

• Mae agwedd AI sy'n rhan annatod o'r system ymreolaethol
• Mae yna agwedd arfau sy'n ochr arfau'r hafaliad hwn
• Efallai y bydd yr AI hefyd yn rhyng-gysylltiedig â'r arfau

Gadewch i ni ddadbacio hynny.

Byddwn yn cymryd yn ganiataol bod systemau ymreolaethol heddiw yn gofyn am AI fel y dull cyfrifiadurol sylfaenol o ddod â'r ffasedau ymreolaethol allan. Soniaf am hyn oherwydd gallech geisio dadlau y gallem ddefnyddio technolegau a thechnegau nad ydynt yn gysylltiedig ag AI i wneud y systemau ymreolaethol, a fyddai, er yn wir, yn ymddangos yn llai ac yn llai tebygol. Yn y bôn, mae AI yn tueddu i ganiatáu ar gyfer lefelau uwch o ymreolaeth, ac mae'r mwyafrif yn trosoledd AI uwch-dechnoleg yn unol â hynny.

Iawn, felly mae gennym ni allu sy'n seiliedig ar AI sy'n cael ei drwytho rywsut o fewn y system ymreolaethol ac sy'n gweithredu i arwain a rheoli'r system ymreolaethol.

Cadwch hynny ar flaenau eich bysedd fel rheol.

Mae'n amlwg yn hawdd bod angen rhyw fath o arfau arnom hefyd, fel arall pam yr ydym yn trafod yma bwnc systemau ymreolaethol ac arfau. Felly, oes, yn amlwg, mae yna arf o ryw fath neu'i gilydd.

Nid wyf am ymchwilio i'r math o arfau y gellid eu defnyddio. Yn syml, gallwch amnewid pa bynnag arfau sy'n dod i'r meddwl. Efallai bod arfau pinbwynt. Efallai y bydd arfau dinistriol torfol. Gallai fod yn rhywbeth gyda bwledi neu daflegrau. Gallai fod yn rhywbeth sydd â chemegau neu gydrannau anweddol atomig. Mae'r rhestr yn ddiddiwedd.

Yr ystyriaeth ychwanegol yw a yw AI yn rhyng-gysylltiedig ag arfau ai peidio. Efallai mai dim ond mynd â'r arfau am reid yw'r AI. Yn achos y robot pedair coes a oedd yn saethu gwn, efallai bod y gwn yn cael ei danio gan ddyn sydd â teclyn rheoli o bell sy'n gysylltiedig â sbarduno'r arf. Mae'r robot tebyg i gi yn llywio golygfa ac yna mater i ddyn anghysbell yw tynnu'r sbardun.

Ar y llaw arall, efallai mai'r AI yw'r tynnwr sbardun, fel petai. Efallai bod yr AI wedi'i ddyfeisio nid yn unig i lywio a symud ond hefyd i actifadu'r arf. Yn yr ystyr hwnnw, mae'r AI yn gwneud popeth o A i Z. Nid oes unrhyw ddibyniaeth ar ddyn anghysbell i berfformio ochr arfau pethau. Mae'r AI wedi'i raglennu i wneud hynny yn lle hynny.

I egluro felly yn yr achos defnydd penodol hwn o systemau ymreolaethol sydd ag arfau, mae gennym y mathau hyn o bosibiliadau:

• System Ymreolaethol: Mae AI yn rhedeg y system ymreolaethol yn gyfan gwbl ar ei ben ei hun
• System Ymreolaethol: Mae AI yn rhedeg y system ymreolaethol, ond gall dyn-yn-y-dolen ymyrryd hefyd
• Arfau: Bod dynol o bell yn rhedeg yr arfau (nid yw'r AI yn gwneud hynny)
• Arfau: Mae AI yn rhedeg yr arfau, ond gall dyn-yn-y-dolen ymyrryd hefyd
• Arfau: Mae AI yn rhedeg yr arfau yn gyfan gwbl ar ei ben ei hun

Rwyf wedi ymdrin o'r blaen â'r amrywiadau o gael dynol-yn-y-dolen yn ymwneud â systemau ymreolaethol a cherbydau ymreolaethol, gweler y ddolen yma.

Pan fyddwch chi'n gwylio'r fideos hwyliog hynny o'r robotiaid pedair coes sy'n dawnsio ac yn pransio, maen nhw fel arfer i fod i fod yn robotiaid sy'n cael eu rhedeg yn fordwyol gan yr AI yn unig (wel, dyna'r arferiad neu'r arferion a ystyrir yn iawn ymhlith y rhai sy'n ddwfn i'r materion hyn). Dyna beth y gallech chi ei dybio'n gwbl briodol hefyd. Wrth gwrs, nid ydych chi'n gwybod hynny'n sicr. Mae'n bosibl bod gweithredwr dynol o bell yn arwain y robotiaid. Mae yna bosibilrwydd hefyd bod yr AI yn gwneud rhan o'r canllaw, ac mae gweithredwr dynol o bell hefyd yn gwneud hynny, efallai'n cynorthwyo'r AI os yw'r robot yn mynd i sefyllfa anodd ac yn methu â chyfrifo dull ymarferol o wiglo ei hun yn rhydd.

Yr hanfod yma yw bod yna flasau niferus o sut y gellir cymysgu systemau AI a systemau ymreolaethol ac arfau. Mae gan rai AI sy'n rhedeg y system ymreolaethol ond nid yw'n rhedeg yr arfau. Efallai bod bod dynol yn rhedeg yr arfau o bell. Ongl arall yw y gallai'r arf gael ei actifadu ymlaen llaw, a bod y system ymreolaethol yn darparu'r arf wedi'i actifadu, felly ni chymerodd yr AI yn uniongyrchol i sbarduno'r arf fel y cyfryw ac yn hytrach roedd yn gweithredu fel cerbyd dosbarthu. Ac mae'n bosibl bod yr AI yn jac-o-holl fasnach ddiarhebol ac yn gwneud yr holl ystod o agweddau system ymreolaethol i'r defnydd o arfau hefyd.

Cymerwch eich dewis.

Yn y cyfamser, os gwelwch yn dda yn gwybod bod y dynol-yn-y-ddolen yn ffactor mawr pan ddaw i ddadleuon ar y pwnc hwn.

Rhaniad rhwng rhai yw, os yw'r AI yn targedu a saethu (neu beth bynnag mae'r arf yn ei olygu) yna mae'r cit a'r caboodle cyfan wedi croesi drosodd i dir dim. Mae hyn i bob golwg yn wahanol i'r arfau tân-ac-anghofio confensiynol sydd â detholiad wedi'i dargedu ymlaen llaw gan ddyn, megis drôn sy'n patrolio sydd â thaflegryn yn barod i'w danio at darged a oedd yn eisoes wedi'i ddewis gan ddyn.

Mae rhai yn meddwl tybed pam na fyddai systemau ymreolaethol sy'n cael eu harfogi bob amser yn cynnwys dolen ddynol-yn-y-dolen trwy gydol y broses o sicrhau bod y system ymreolaethol mewn statws sydd ar y gweill. Mae'n ymddangos y gallem fod yn well ein byd pe bai gofyniad llym yn golygu bod yn rhaid i bob system ymreolaethol ag arfau o'r fath fod â dolen ddynol, naill ai ar gyfer gweithredu'r system ymreolaethol neu ar gyfer gweithredu'r arfau (neu ar gyfer y ddau) . Gallai cadw llaw ddynol sicr a chyson yn y cymysgedd AI hwn ymddangos yn hollol graff.

Paratowch am restr faith o resymau pam nad yw hyn o reidrwydd yn ymarferol.

Ystyriwch yr anawsterau hyn:

• Efallai na fydd dynol-yn-y-dolen yn ddigon cyflym i ymateb yn amserol
• Efallai nad oes gan ddyn-yn-y-dolen ddigon o wybodaeth i ymateb yn briodol
• Efallai na fydd dynol-yn-y-dolen ar gael ar yr amser sydd ei angen
• Mae'n bosibl nad yw person-yn-y-dolen wedi penderfynu ac ni fydd yn gweithredu pan fo angen
• Gallai dyn-yn-y-ddolen wneud y penderfyniad “anghywir” (yn gymharol)
• Mae'n bosibl na fydd modd cael mynediad dynol-yn-y-dolen o'r system ar yr amser angenrheidiol
• Efallai y bydd dynol-yn-y-dolen yn drysu ac yn cael ei lethu
• Etc

Yn ddiamau, cewch eich temtio i edrych ar y rhestr honno o eiddilwch a chyfyngiadau dynol ac yna dod i’r casgliad difrifol ei bod yn amlwg yn gwneud synnwyr i ddiswyddo’r dynol-yn-y-ddolen a defnyddio AI bob amser yn lle hynny. Gallai hyn naill ai eithrio'r dynol-yn-y-dolen neu efallai y byddai'r AI yn gallu diystyru dyluniad dynol-yn-y-dolen gynhenid. Gweler fy nadansoddiad o sut y gall anghytundebau rhwng AI a dynol-yn-y-ddolen arwain at sefyllfaoedd ansicr, a drafodir yn y ddolen yma.

Yn aml, mae rhestr fach iawn o'r mathau hyn o anfanteision amser real sy'n canolbwyntio ar bobl yn cael ei gadael ar ei phen ei hun ac yn gadael argraff barhaus bod yn rhaid i'r AI fod yn lamau ac yn ffinio â dewis llawer doethach na chael dynol-yn-y-dolen. . Peidiwch â syrthio i'r trap peryglus hwnnw. Mae cyfaddawdau sobreiddiol dan sylw.

Ystyriwch y goblygiadau hyn o'r AI:

• Efallai y bydd AI yn dod ar draws gwall sy'n achosi iddo fynd ar gyfeiliorn
• Efallai y bydd AI yn cael ei lethu a'i gloi'n anymatebol
• Gallai AI gynnwys bygiau datblygwr sy'n achosi ymddygiad anghyson
• Gallai AI gael ei lygru â firws drwgweithredwr wedi'i fewnblannu
• Gallai seiberhackers gymryd drosodd AI mewn amser real
• Gallai AI gael ei ystyried yn anrhagweladwy oherwydd cymhlethdodau
• Gallai AI wneud y penderfyniad “anghywir” yn gyfrifiadol (yn gymharol)
• Etc

Hyderaf y gallwch weld bod cyfaddawdau rhwng defnyddio dynol-yn-y-dolen yn erbyn bod yn ddibynnol ar AI yn unig. Rhag ofn i chi gael eich temtio i awgrymu mai'r ateb parod yw defnyddio'r ddau, hoffwn bwysleisio y gallwch chi gael y gorau o'r ddau fyd, ond gallwch chi hefyd gael y gwaethaf o'r ddau fyd. Peidiwch â chymryd yn ganiataol mai hwn fydd y gorau o ddau fyd bob amser ac yn sicr.

Efallai eich bod wedi cael eich synnu braidd gan un o'r anfanteision uchod ynghylch AI, yn benodol y gallai'r AI fod anrhagweladwy. Rydym wedi arfer credu bod AI i fod yn hollol resymegol ac yn fathemategol fanwl gywir. O'r herwydd, efallai y byddwch hefyd yn disgwyl y bydd yr AI yn gwbl ragweladwy. Rydyn ni i fod i wybod yn union beth fydd AI yn ei wneud. Cyfnod, diwedd y stori.

Mae'n ddrwg gennyf fyrstio'r balŵn hwnnw ond camenw yw'r myth hwn o ragweladwyedd. Mae maint a chymhlethdod AI heddiw yn aml yn foras sy'n herio bod yn gwbl ragweladwy. Mae hyn i'w weld yn y cynnwrf AI Moesegol ynghylch rhai defnyddiau Dysgu Peiriannol (ML) a Dysgu Dwfn (DL) heddiw. Byddaf yn esbonio ychydig yn fwy ennyd.

Hefyd, efallai yr hoffech chi edrych ar fy nadansoddiad diweddaraf o'r tueddiadau sydd ar ddod tuag at geisio sicrhau systemau AI y gellir eu gwirio ac y gellir eu profi'n fathemategol gywir trwy'r diweddaraf mewn diogelwch AI, yn y ddolen yma.

Yn cnoi cil ar Reolau'r Ffordd

Yr oeddwn wedi sôn am y syniad o dargedau a thargedu, sy’n ddarn o derminoleg llwythog braidd sy’n haeddu sylw craff.

Gallwn ystyried hyn:

• Targedau bodau dynol
• Targedau nad ydynt yn fodau dynol ond yn greaduriaid byw
• Targedau sy'n cael eu dehongli fel eiddo

Tybiwch fod gennym system ymreolaethol sydd wedi'i harfogi. Defnyddir yr AI i arwain y system ymreolaethol a'i ddefnyddio ar gyfer arfau. Mae'r AI yn gwneud popeth o A i Z. Nid oes unrhyw ddarpariaeth ar gyfer dolen ddynol-yn-y-dolen. O ran targedu, bydd yr AI yn dewis y targedau. Nid oes rhag-dargedu sydd wedi'i sefydlu gan fodau dynol. Yn lle hynny, mae'r AI wedi'i raglennu i ganfod yn gyffredinol a oes bodau dynol i'w targedu (efallai sganio am weithredoedd gelyniaethus, rhai mathau o wisgoedd, ac ati).

Gyda mi ar hyn hyd yn hyn?

Y senario hwn, fwy neu lai, yw'r un sy'n achosi'r brotest fwyaf am systemau ymreolaethol ag arfau.

Y pryder a nodwyd yw bod yr AI yn gwneud (o leiaf) dri pheth na ddylid caniatáu iddo eu gwneud:

• Targedu bodau dynol fel y targedau
• Targedu heb ddefnyddio dolen ddynol-yn-y-dolen
• Gweithredu'n anrhagweladwy o bosiblly

Sylwch fod yna sôn amlwg am bryderon ynghylch y AI yn anrhagweladwy. Efallai, er bod yr AI wedi'i raglennu i dargedu rhai mathau o fodau dynol, nid yw'r rhaglennu AI yr hyn yr oeddem yn ei feddwl, ac mae'r AI yn y pen draw yn targedu “ffrindiau” yn ychwanegol at y rhai yr oedd yr AI i fod i'w dehongli fel “gelyniaethus”. ” (neu, efallai yn lle). Ar ben hyn, hyd yn oed os ydym yn dewis cynnwys darpariaeth dynol-yn-y-dolen, gallai natur anrhagweladwy'r AI olygu, pan fydd yr AI i fod i ymgynghori â'r dynol-yn-y-dolen, ei fod yn methu â gwneud. felly ac yn gweithredu heb unrhyw ymyrraeth ddynol.

Efallai y byddai o ddiddordeb i chi fod Pwyllgor Rhyngwladol y Groes Goch (ICRC) wedi cynnig safbwynt cyffredinol tri phwynt ynghylch systemau arfau ymreolaethol sy'n ymhelaethu ar y mathau hyn o bryderon (yn unol â gwefan yr ICRC):

1. “Dylai systemau arfau ymreolaethol anrhagweladwy gael eu diystyru’n benodol allan, yn nodedig oherwydd eu heffeithiau diwahaniaeth. Byddai hyn yn cael ei gyflawni orau gyda gwaharddiad ar systemau arfau ymreolaethol sy’n cael eu dylunio neu eu defnyddio mewn modd sy’n golygu na ellir deall, rhagweld ac esbonio eu heffeithiau yn ddigonol.”

2. “Yng ngoleuni ystyriaethau moesegol i ddiogelu dynoliaeth, ac i gynnal rheolau cyfraith ddyngarol ryngwladol ar gyfer amddiffyn sifiliaid a brwydrwyr hors de combat, dylid diystyru'r defnydd o systemau arfau ymreolaethol i dargedu bodau dynol. Byddai hyn yn cael ei gyflawni orau trwy waharddiad ar systemau arfau ymreolaethol a ddyluniwyd neu a ddefnyddir i gymhwyso grym yn erbyn pobl.”

3. “Er mwyn amddiffyn sifiliaid a gwrthrychau sifil, cynnal rheolau cyfraith ddyngarol ryngwladol a diogelu dynoliaeth, dylid rheoleiddio dyluniad a defnydd systemau arfau ymreolaethol na fyddent yn cael eu gwahardd, gan gynnwys trwy gyfuniad o: cyfyngiadau ar y mathau o darged, megis eu cyfyngu i wrthddrychau sydd yn amcanion milwrol wrth natur ; cyfyngiadau ar hyd, cwmpas daearyddol a graddfa'r defnydd, gan gynnwys galluogi barn a rheolaeth ddynol mewn perthynas ag ymosodiad penodol; cyfyngiadau ar sefyllfaoedd defnydd, megis eu cyfyngu i sefyllfaoedd lle nad yw sifiliaid neu wrthrychau sifil yn bresennol; rgofynion ar gyfer rhyngweithio dynol-peiriant, yn arbennig i sicrhau goruchwyliaeth ddynol effeithiol, ac ymyrraeth a dadactifadu amserol.”

Ar agwedd gysylltiedig, roedd y Cenhedloedd Unedig (CU) drwy’r Confensiwn ar Arfau Confensiynol Penodol (CCGC) yng Ngenefa wedi sefydlu un ar ddeg o Egwyddorion Arweiniol nad ydynt yn rhwymol ar Arfau Angheuol Angheuol, yn unol â’r adroddiad swyddogol a bostiwyd ar-lein (yn cwmpasu cyfeiriadau at Ddyngarol Ryngwladol berthnasol). darpariaethau'r gyfraith neu IHL):

(a) Mae cyfraith ddyngarol ryngwladol yn parhau i fod yn gwbl berthnasol i bob system arfau, gan gynnwys y posibilrwydd o ddatblygu a defnyddio systemau arfau ymreolaethol angheuol;

(b) Rhaid cadw cyfrifoldeb dynol am benderfyniadau ar ddefnyddio systemau arfau gan na ellir trosglwyddo atebolrwydd i beiriannau. Dylid ystyried hyn ar draws cylch bywyd cyfan y system arfau;

(c) Dylai rhyngweithiad dynol-peiriant, a all fod ar wahanol ffurfiau ac yn cael ei weithredu ar wahanol gamau o gylch bywyd arf, sicrhau bod y defnydd posibl o systemau arfau yn seiliedig ar dechnolegau sy'n dod i'r amlwg ym maes systemau arfau ymreolaethol angheuol mewn cydymffurfio â chyfraith ryngwladol berthnasol, yn enwedig IHL. Wrth bennu ansawdd a maint y rhyngweithio rhwng dyn a pheiriant, dylid ystyried ystod o ffactorau gan gynnwys y cyd-destun gweithredol, a nodweddion a galluoedd y system arfau yn ei chyfanrwydd;

(d) Rhaid sicrhau atebolrwydd am ddatblygu, defnyddio a defnyddio unrhyw system arfau sy'n dod i'r amlwg o fewn fframwaith CCGC yn unol â chyfraith ryngwladol berthnasol, gan gynnwys trwy weithredu systemau o'r fath o fewn cadwyn reoli ddynol gyfrifol;

(e) Yn unol â rhwymedigaethau Gwladwriaethau o dan gyfraith ryngwladol, wrth astudio, datblygu, caffael, neu fabwysiadu arf, modd neu ddull rhyfela newydd, rhaid penderfynu a fyddai ei gyflogi, o dan rai amgylchiadau neu bob un, yn gymwys. wedi'i wahardd gan gyfraith ryngwladol;

(f) Wrth ddatblygu neu gaffael systemau arfau newydd yn seiliedig ar dechnolegau sy'n dod i'r amlwg ym maes systemau arfau angheuol ymreolaethol, diogelwch corfforol, mesurau diogelu anffisegol priodol (gan gynnwys seiberddiogelwch rhag hacio neu ffugio data), y risg o gaffael gan grwpiau terfysgol a dylid ystyried y risg o amlhau;

(g) Dylai asesiadau risg a mesurau lliniaru fod yn rhan o gylch dylunio, datblygu, profi a defnyddio technolegau newydd mewn unrhyw systemau arfau;

(h) Dylid ystyried y defnydd o dechnolegau sy'n dod i'r amlwg ym maes systemau arfau angheuol ymreolaethol i gynnal cydymffurfiaeth ag IHL a rhwymedigaethau cyfreithiol rhyngwladol cymwys eraill;

(i) Wrth lunio mesurau polisi posibl, ni ddylai technolegau sy'n dod i'r amlwg ym maes systemau arfau ymreolaethol angheuol gael eu hanthropomorffeiddio;

(j) Ni ddylai trafodaethau ac unrhyw fesurau polisi posibl a gymerir o fewn cyd-destun CCGC rwystro cynnydd neu fynediad at ddefnydd heddychlon o dechnolegau ymreolaethol deallus;

(k) Mae CCGC yn cynnig fframwaith priodol ar gyfer ymdrin â mater technolegau sy'n dod i'r amlwg ym maes systemau arfau angheuol angheuol o fewn cyd-destun amcanion a dibenion y Confensiwn, sy'n ceisio sicrhau cydbwysedd rhwng rheidrwydd milwrol ac ystyriaethau dyngarol.

Y Rhychwant y Dodwn Ein Hunain ynddo

Mae'r deddfau rhyfel amrywiol hyn, cyfreithiau gwrthdaro arfog, neu IHL (Cyfreithiau Dyngarol Rhyngwladol) yn ganllaw hanfodol a bythol-addawol i ystyried yr hyn y gallem geisio ei wneud ynglŷn â dyfodiad systemau ymreolaethol sydd ag arfau, boed hynny trwy ddyluniad carreg goch neu trwy ddulliau ôl-y-ffaith.

Gallwn ddymuno'n ddiffuant y byddai gwaharddiad ar systemau ymreolaethol ag arfau angheuol yn cael ei gadw'n llym ac yn ufudd. Y broblem yw bod llawer o le i wiglo yn sicr o ddod o hyd i unrhyw un o'r gwaharddiadau mwyaf didwyll. Fel maen nhw'n dweud, mae rheolau i fod i gael eu torri. Gallwch fetio, lle mae pethau'n llac-goosey, y bydd riffraff yn ffuredu bylchau ac yn ceisio wincio-wink eu ffordd o gwmpas y rheolau.

Dyma rai bylchau posibl sy'n werth eu hystyried:

• Hawliadau Anfarwol. Creu anfarwol systemau arfau ymreolaethol (yn ôl pob golwg yn iawn gan ei fod y tu allan i ffin y gwaharddiad), y gallwch chi wedyn ar symudiad dime i ddod yn angheuol (dim ond ar y funud olaf y byddwch y tu hwnt i'r gwaharddiad).
• Hawliadau System Ymreolaethol yn Unig. Cadarnhewch y gwaharddiad trwy beidio â gwneud systemau ymreolaethol sy'n canolbwyntio ar angheuol, yn y cyfamser, gwnewch gymaint o gynnydd ar ddyfeisio systemau ymreolaethol bob dydd nad oes ganddynt arfau (eto) ond y gallwch chi ar ôl-ffitio dime i gael eich arfau.
• Honiadau o Ddim yn Integredig Fel Un. Crefftwch systemau ymreolaethol nad ydynt wedi'u harfogi o gwbl, a phan ddaw'r amser, gwnewch arfau piggyback fel y gallwch geisio dadlau'n chwyrn eu bod yn ddwy elfen ar wahân ac felly'n dadlau nad ydynt yn perthyn i gyfeireb popeth-yn-un. system arfau ymreolaethol neu ei gefnder.
• Honiadau Nad Ydyw'n Ymreolaethol. Gwnewch system arfau nad yw'n ymddangos fel pe bai ganddi alluoedd ymreolaethol. Gadael lle yn y system hon nad yw'n ymreolaethol yn ôl pob tebyg ar gyfer gollwng ymreolaeth ar sail AI. Pan fo angen, plygiwch yr ymreolaeth ac rydych chi'n barod i rolio (tan hynny, mae'n debyg nad oeddech chi'n torri'r gwaharddiad).
• Arall

Mynegwyd digon o anawsterau eraill wrth geisio gwahardd systemau arfau angheuol angheuol yn llwyr. Byddaf yn cwmpasu ychydig mwy ohonynt.

Mae rhai pynditiaid yn dadlau nad yw gwaharddiad yn arbennig o ddefnyddiol ac yn lle hynny y dylai fod darpariaethau rheoleiddio. Y syniad yw y bydd y contrapsiynau hyn yn cael eu caniatáu ond yn cael eu plismona'n llym. Mae litani o ddefnyddiau cyfreithlon yn cael ei gosod allan, ynghyd â ffyrdd cyfreithlon o dargedu, mathau cyfreithlon o alluoedd, cymesuredd cyfreithlon, ac yn y blaen.

Yn eu barn nhw, mae gwaharddiad syth fel rhoi eich pen yn y tywod ac esgus nad yw'r eliffant yn yr ystafell yn bodoli. Mae'r haeriad hwn serch hynny yn peri i waed y rhai sy'n gwrthwynebu'r ddadl, trwy gychwyn gwaharddiad, leihau'n sylweddol y demtasiwn i fynd ar drywydd y mathau hyn o systemau. Yn sicr, bydd rhai yn blaunt y gwaharddiad, ond o leiaf gobeithio na fydd y mwyafrif. Yna gallwch chi ganolbwyntio'ch sylw ar y fflaunters a pheidio â gorfod tynnu'ch sylw at bawb.

Rownd a rownd mae'r dadleuon hyn yn mynd.

Pryder arall a nodir yn aml yw hyd yn oed os yw'r da yn cadw at y gwaharddiad, ni fydd y drwg yn gwneud hynny. Mae hyn yn rhoi'r da mewn ystum gwael. Bydd gan y drwg y mathau hyn o systemau ymreolaethol arfog ac ni fydd gan y rhai da. Unwaith y bydd pethau'n cael eu datgelu sydd gan y drwg, bydd yn rhy hwyr i'r da ddal i fyny. Yn fyr, yr unig beth craff i'w wneud yw paratoi i ymladd tân â thân.

Mae yna hefyd yr honiad ataliaeth glasurol. Os yw'r dewis da i wneud systemau ymreolaethol ag arfau, gellir defnyddio hyn i atal y drwg rhag ceisio mynd i drafferth. Naill ai bydd y da yn arfog yn well ac felly'n anghymell y drwg, neu bydd y da yn barod pan fydd y drwg efallai'n datgelu eu bod wedi bod yn dyfeisio'r systemau hynny'n ddi-baid ar hyd yr amser.

Gwrthwynebu'r cownteri hyn yw eich bod, trwy wneud systemau ymreolaethol ag arfau, yn rhedeg ras arfau. Bydd yr ochr arall yn ceisio cael yr un peth. Hyd yn oed os na allant yn dechnolegol greu systemau o’r fath o’r newydd, byddant yn awr yn gallu dwyn cynlluniau’r rhai “da”, peiriannu’r perfeddion uwch-dechnoleg o chwith, neu ddynwared beth bynnag y maent yn ei weld fel rhywbeth profedig. ffordd i wneud y gwaith.

Aha, mae rhai yn retort, gallai hyn i gyd arwain at leihad mewn gwrthdaro trwy fod yn gyffredin. Os yw ochr A yn gwybod bod gan ochr B yr arfau systemau ymreolaethol marwol hynny, a bod ochr B yn gwybod bod gan ochr A rai, efallai y byddan nhw'n eistedd yn dynn ac yn methu â chael eu chwythu. Mae gan hyn y naws unigryw honno o ddinistr y gellir ei sicrhau gan y ddwy ochr (MAD).

Ac yn y blaen.

Yr AI Yn Yr Ymreolaeth

Gadewch i ni sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Byddwch yn ofalus iawn rhag anthropomorffeiddio AI heddiw.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Gyda'r cefndir sylfaenol ychwanegol hwnnw, trown unwaith eto at y pwnc systemau ymreolaethol ac arfau. Gwelsom yn gynharach fod yr AI yn mynd i mewn i'r gydran system ymreolaethol a gall hefyd fynd i mewn i'r gydran arfogi. Nid yw AI heddiw yn deimladwy. Mae hyn yn werth ei ailadrodd a byddaf yn tynnu sylw at hyn er mwyn cael cipolwg ychwanegol ar y materion hyn.

Gadewch i ni archwilio rhai senarios i weld sut mae hon yn ystyriaeth hollbwysig. Byddaf yn troi allan o gyfeiriadaeth amser rhyfel ar y pwnc hwn am funud ac yn arddangos sut mae'n treiddio trwy lawer o filiau cymdeithasol eraill. Byddwch yn sefydlog yn unol â hynny.

Mae system ymreolaethol sy'n seiliedig ar AI fel cerbyd ymreolaethol y byddwn yn ei ddweud nad oes ganddo unrhyw beth i'w wneud ag arfau yn gwneud ei ffordd trwy leoliad arferol. Mae bod dynol yn dod draw i wneud defnydd o'r cerbyd ymreolaethol. Mae'r person wedi'i arfogi ag arf sy'n rhagflaenu. Tybiwch er mwyn trafodaeth yn y sefyllfa benodol hon fod gan y person rywbeth anweddus mewn golwg. Mae'r person yn mynd i mewn i'r cerbyd ymreolaethol (yn cario ei arf, wedi'i guddio neu heb ei guddio, y naill ffordd neu'r llall).

Mae'r cerbyd ymreolaethol yn mynd ymlaen i ba bynnag gyrchfan y mae'r gyrrwr wedi gofyn amdani. Yn yr achos hwn, yn syml, mae'r AI yn cludo'r teithiwr hwn yn rhaglennol o un lleoliad codi i gyrchfan ddynodedig, yn union fel y mae wedi bod yn ei wneud ar gyfer dwsinau neu gannoedd o deithiau o bosibl, bob dydd.

Pe bai hwn wedi bod yn yrrwr dynol ac yn gerbyd a yrrir gan ddyn, mae'n debyg bod rhywfaint o siawns y byddai'r gyrrwr dynol yn sylweddoli bod y teithiwr yn arfog ac mae'n ymddangos bod ganddo fwriadau anweddus. Efallai y bydd y gyrrwr dynol yn gwrthod gyrru'r cerbyd. Neu efallai y bydd y gyrrwr dynol yn gyrru i orsaf yr heddlu. Neu efallai y gallai'r gyrrwr dynol geisio darostwng y teithiwr arfog (mae achosion adroddedig yn bodoli) neu annog y teithiwr i beidio â defnyddio ei arf. Mae'n eithaf cymhleth, a gall unrhyw nifer o amrywiadau fodoli. Byddai'n anodd ichi haeru mai dim ond un ateb cywir sydd i ddatrys sefyllfa o'r fath. Yn anffodus, mae'r sefyllfa'n flinderus ac yn amlwg yn beryglus.

Mae'r AI yn yr achos hwn yn annhebygol o gael ei raglennu ar gyfer unrhyw un o'r mathau hynny o bosibiliadau. Yn fyr, efallai y bydd y teithiwr arfog yn gallu defnyddio ei arf, gan wneud hynny o'r tu mewn i'r cerbyd ymreolaethol, yn ystod y daith yrru. Bydd y system yrru AI yn parhau i deithio ar ei hyd a bydd y cerbyd ymreolaethol yn parhau i fynd i'r dynodiad a nodwyd ar gyfer y teithiwr (gan gymryd nad oedd y cyrchfan yn cael ei ystyried fel arall y tu allan i ffiniau).

Byddai'r rhan fwyaf o systemau gyrru AI cyfoes yn canolbwyntio'n gyfrifiadol ar y ffordd yn unig ac nid ar ymdrechion y beiciwr.

Gall pethau fynd yn waeth na hyn.

Tybiwch fod rhywun eisiau cael llwyth o nwyddau wedi'u cludo draw i le sy'n cymryd bwyd ychwanegol i'r anghenus. Mae'r person yn gofyn am gerbyd ymreolaethol ac yn gosod y bagiau o nwyddau yn sedd gefn y cerbyd. Nid ydynt yn mynd i fynd ar y reid a dim ond defnyddio'r cerbyd ymreolaethol i ddosbarthu'r bagiau bwyd ar eu cyfer y maent.

Ymddangos yn berffaith iawn.

Rhagweld bod person gwallgof yn dewis gosod rhyw fath o arfau yn y cerbyd ymreolaethol yn hytrach na'r syniad mwy heddychlon o fagiau bwyd. Rwy'n meddwl y gallwch chi ddyfalu beth allai ddigwydd. Mae hwn yn bryder yr wyf wedi bod yn ei annog dro ar ôl tro yn fy ngholofnau ac yn rhagrybuddio bod angen inni ymdopi ag ef yn gynt yn hytrach nag yn hwyrach.

Un ymateb a gynigiwyd i’r mathau hyn o senarios yw efallai y gallai pob cerbyd ymreolaethol gael ei raglennu i ddefnyddio’u camerâu a synwyryddion eraill i geisio canfod a yw teithiwr posibl yn arfog ac a oes ganddo fwriadau ysgeler. Efallai y byddai'r AI yn cael ei raglennu i wneud hyn. Neu mae'r AI yn rhybuddio gweithredwr dynol o bell yn electronig ac yn dawel a fyddai wedyn trwy'r camerâu yn archwilio'r teithiwr yn weledol ac fel arall ac o bosibl yn rhyngweithio ag ef. Mae'r cyfan yn rhan o dun mwydod cymhleth ac anhydrin o bosibl, fel ei fod yn codi materion preifatrwydd dwys a llu o bryderon AI Moesegol posibl eraill. Gweler fy sylw yn y ddolen yma.

Dewis arall tebyg iawn yw bod yr AI yn cynnwys rhyw fath o raglennu moeseg wedi'i fewnosod sy'n ceisio galluogi'r AI i wneud dyfarniadau moesegol neu foesol sydd fel arfer yn cael eu cadw ar gyfer y rhai sy'n gwneud penderfyniadau dynol. Rwyf wedi archwilio'r mathau bragu hyn o ragolygon moeseg gyfrifiadol sydd wedi'u hymgorffori yn AI, gweler y ddolen yma ac y ddolen yma.

Gan fynd yn ôl i senario maes brwydr, rhagweld bod system arfau angheuol ymreolaethol yn mordeithio uwchben parth ymladd. Mae'r AI yn gweithredu'r system ymreolaethol. Mae'r AI yn gweithredu'r arfau ar y llong. Roeddem wedi meddwl yn gynharach y gallai'r AI gael ei raglennu i sganio am symudiadau sy'n ymddangos yn elyniaethus neu ddangosyddion eraill o dargedau dynol yr ystyrir eu bod yn ymladdwyr dilys.

A ddylai fod gan yr un AI hwn ryw fath o gydran foesegol-ganolog sy'n ymdrechu i ystyried yn gyfrifiadol yr hyn y gallai dyn-yn-y-dolen ei wneud, gan weithredu mewn ystyr yn lle cael dynol-yn-y-dolen?

Mae rhai yn dweud ie, gadewch i ni fynd ar drywydd hyn. Mae rhai yn adlamu mewn arswyd ac yn dweud ei fod naill ai'n amhosibl neu fel arall yn torri sancteiddrwydd dynolryw.

Can arall eto o fwydod.

Casgliad

I'r rhai ohonoch sydd â diddordeb yn y pwnc hwn, mae llawer mwy i'w drafod.

Byddaf yn rhoi blas cyflym i chi o un pos swnllyd.

Fel arfer rydym yn disgwyl y bydd bod dynol yn cael ei ddal yn atebol yn y pen draw am beth bynnag sy'n digwydd yn ystod y rhyfel. Os yw AI yn rheoli system arfau ymreolaethol neu'n rheoli system ymreolaethol sydd wedi'i harfogi, a bod y system hon yn gwneud rhywbeth ar faes y gad y credir ei fod yn anymwybodol, pwy neu beth sydd i'w feio am hyn?

Efallai y byddwch yn dadlau y dylid dal AI yn atebol. Ond, os felly, beth yn union yw ystyr hynny? Nid ydym eto'n ystyried AI heddiw i fod yn ymgorfforiad o bersonoliaeth gyfreithiol, gweler fy esboniad yn y ddolen yma. Dim pinio'r gynffon ar yr asyn yn achos yr AI. Efallai os daw AI ryw ddydd yn deimladwy, gallwch geisio gwneud hynny. Tan hynny, mae hyn yn dipyn o gyrhaeddiad (yn ogystal, pa fath o gosbau neu ôl-effeithiau y byddai'r Mynegai Gwerthfawrogiad yn ddarostyngedig iddynt, gweler fy nadansoddiad yn y ddolen yma ac y ddolen yma, er enghraifft).

Os nad yr AI yw’r sawl a ddrwgdybir, yn naturiol, yna, efallai y byddwn yn dweud yn naturiol y dylai unrhyw ddyn neu fodau dynol a ddyfeisiodd yr AI gael ei ddal yn atebol. A allwch chi wneud hyn pe bai'r AI yn rhedeg system ymreolaethol yn unig a bod rhai bodau dynol yn dod ynghyd a'i chyplysu ag arfau? Ydych chi'n mynd ar ôl y datblygwyr AI? Neu'r rhai a ddefnyddiodd yr AI? Neu dim ond yr actor arfogi?

Hyderaf y cewch y syniad nad wyf ond wedi cyffwrdd â blaen y mynydd iâ yn fy nhrafodaeth swmpus.

Am y tro, gadewch i ni fynd ymlaen a gorffen y drafodaeth hon. Efallai y byddwch yn cofio bod John Lyly i mewn Euphues: Anatomeg Wit yn 1578 yn datgan yn gofiadwy bod y cyfan yn deg mewn cariad a rhyfel.

A fyddai wedi cadw mewn cof ymddangosiad systemau arfau ymreolaethol a dyfodiad systemau ymreolaethol sy'n cael eu harfogi yn yr un modd?

Yn sicr mae angen i ni roi hyn ar ben ein meddyliau, ar unwaith.