AI Moeseg Ac AI Y Gyfraith Yn Gofyn Cwestiynau Caled Am Yr Addewid Newydd Gan Wneuthurwyr Robotiaid yn Dawnsio Yn Dweud Y Byddent yn Osgoi Arfau AI

Efallai eich bod wedi gweld perchance yr wythnos diwethaf yn y newyddion neu wedi sylwi ar y cyfryngau cymdeithasol yr addewid a gyhoeddwyd gan rai gwneuthurwyr robotiaid ynghylch eu nodau proffesedig i osgoi arfau AI o robotiaid pwrpas cyffredinol. Byddaf yn eich tywys trwy'r manylion mewn eiliad, felly peidiwch â phoeni os nad oeddech wedi dal gwynt o'r mater.

Bu'r ymateb i'r cyhoeddiad hwn yn gyflym ac, efallai fel arfer yn ein cymdeithas begynedig, yn ganmoladwy ac ar brydiau'n watwar feirniadol neu'n hollol amheus.

Mae'n stori am ddau fyd.

Mewn un byd, mae rhai’n dweud mai dyma’n union y mae arnom ei angen cyfrifol Datblygwyr robot AI i ddatgan.

Diolch byth am fod ar ochr iawn mater a fydd yn raddol yn dod yn fwy gweladwy ac yn fwy pryderus. Mae'r robotiaid dawnsio ciwt hynny'n peri gofid oherwydd mae'n eithaf hawdd eu hadnewyddu i gario arfau a chael eu defnyddio yn y ffyrdd gwaethaf (gallwch wirio hyn eich hun trwy fynd i'r cyfryngau cymdeithasol ac mae yna ddigonedd o fideos yn arddangos robotiaid dawnsio wedi'u harfogi â gynnau peiriant a arfau eraill).

Mae ochr arall y geiniog hon yn dweud nad yw'r addewid fel y'i gelwir yn ddim mwy na ploy marchnata neu gysylltiadau cyhoeddus (fel nodyn ochr, a oes unrhyw un yn gyfarwydd â'r gwahaniaeth rhwng addewid a rhodd?). Beth bynnag, mae'r rhai sy'n amau ​​yn annog bod hyn yn arwydd rhinwedd di-rwystr yng nghyd-destun robotiaid sy'n dawnsio. Rydych chi'n gweld, mae galaru'r ffaith y gellir arfogi robotiaid cyffredinol yn sicr yn ystyriaeth werth chweil y mae galw mawr amdani, er bod honni na fydd gwneuthurwr yn gwneud hynny yn addewid gwag, mae rhai yn mynnu.

Ar y cyfan, mae'r holl fater yn dod â set eithaf helaeth o ystyriaethau Moeseg AI a'r Gyfraith AI i fyny. Byddwn yn dadbacio'r pwnc yn ofalus iawn ac yn gweld sut mae hwn yn fwrlwm dwbl o foras AI moesegol a chyfreithlon. Am fy sylw parhaus a helaeth i AI Moeseg a Chyfraith AI, gweler y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Byddaf hefyd yn cyfeirio trwy gydol y drafodaeth hon at fy nadansoddiadau blaenorol o beryglon arfau AI, megis fy asesiad manwl yn y ddolen yma. Efallai yr hoffech chi edrych ar y disgwrs hwnnw am fanylion ychwanegol y tu ôl i'r llenni.

Y Llythyr Agored Sy'n Agor Can O Worms

Gadewch i ni ddechrau'r dadansoddiad hwn trwy wneud archwiliad cam wrth gam gofalus o'r Llythyr Agored a gyhoeddwyd yn ddiweddar gan chwech o wneuthurwyr robotiaid datblygedig cymharol adnabyddus, sef Boston Dynamics, Clearpath Robotics, ANYbotics, Agility Robotics, Open Robotics, ac Unitree. Ar y cyfan, rwy'n dyfalu eich bod wedi gweld robotiaid Boston Dynamics yn bennaf, fel y rhai sy'n pransio o gwmpas ar bob pedwar. Maen nhw'n edrych yn debyg i gi ac rydyn ni wrth ein bodd yn eu gweld nhw'n sgiampio o gwmpas.

Fel yr wyf wedi rhybuddio ymlaen llaw dro ar ôl tro, mae defnyddio robotiaid “dawnsio” o'r fath fel modd o argyhoeddi'r cyhoedd bod y robotiaid hyn yn giwt ac yn annwyl yn anffodus yn gamarweiniol ac yn troi at y peryglon toreithiog o anthropomorffeiddio. Dechreuwn feddwl am y darnau caled hyn o fetel a phlastig fel pe baent yn cyfateb i gi ffyddlon cwtsh. Mae ein parodrwydd i dderbyn y robotiaid hyn yn seiliedig ar synnwyr ffug o ddiogelwch a sicrwydd. Yn sicr, mae'n rhaid i chi wneud arian ac mae'r siawns o wneud hynny'n cael ei wella trwy orymdeithio o amgylch robotiaid dawnsio, ond yn anffodus mae hyn yn hepgor neu'n ymddangos yn cuddio'r ffaith wirioneddol mai robotiaid yw'r robotiaid hyn ac y gellir dyfeisio'r AI sy'n rheoli'r robotiaid yn anghywir. neu fynd o chwith.

Ystyriwch y goblygiadau hyn o AI (a dynnwyd o fy erthygl ar arfau AI, a geir yn y ddolen yma):

• Efallai y bydd AI yn dod ar draws gwall sy'n achosi iddo fynd ar gyfeiliorn
• Efallai y bydd AI yn cael ei lethu a'i gloi'n anymatebol
• Gallai AI gynnwys bygiau datblygwr sy'n achosi ymddygiad anghyson
• Gallai AI gael ei lygru â firws drwgweithredwr wedi'i fewnblannu
• Gallai seiberhackers gymryd drosodd AI mewn amser real
• Gallai AI gael ei ystyried yn anrhagweladwy oherwydd cymhlethdodau
• Gallai AI wneud y penderfyniad “anghywir” yn gyfrifiadol (yn gymharol)
• Etc

Dyna'r pwyntiau sy'n ymwneud â deallusrwydd artiffisial sydd o'r math sy'n cael ei ddyfeisio'n wirioneddol ar y dechrau i wneud y peth iawn.

Ar ben yr ystyriaethau hynny, mae'n rhaid i chi gynnwys systemau AI a luniwyd o'r cychwyn cyntaf i wneud pethau drwg. Gallwch gael AI sy'n cael ei wneud at ddibenion buddiol, y cyfeirir ato'n aml fel AI Er Da. Gallwch hefyd gael AI sy'n cael ei wneud yn fwriadol at ddibenion drwg, a elwir yn AI Er Drwg. Ar ben hynny, gallwch chi gael AI Er Da sy'n cael ei lygru neu ei adfywio i ddod AI Er Drwg.

Gyda llaw, nid oes gan unrhyw un o hyn unrhyw beth i'w wneud ag AI yn dod yn ymdeimladol, yr wyf yn sôn amdano oherwydd bod rhai yn dal i ddweud bod AI heddiw naill ai'n deimladwy neu ar fin bod yn deimladwy. Nid felly. Rwy'n gwahanu'r mythau hynny yn fy nadansoddiad yn y ddolen yma.

Gadewch i ni wneud yn siŵr felly ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am AI ymdeimladol, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol yn y pen draw (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Byddwn yn awgrymu'n gryf ein bod yn cadw pethau lawr i'r ddaear ac yn ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Byddwch yn ofalus iawn rhag anthropomorffeiddio AI heddiw.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i fod yn rhan annatod o fodelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Mae gan hyn oll oblygiadau Moeseg AI hynod arwyddocaol ac mae'n cynnig ffenestr ddefnyddiol i'r gwersi a ddysgwyd (hyd yn oed cyn i'r holl wersi ddigwydd) pan ddaw'n fater o geisio deddfu AI.

Yn ogystal â defnyddio praeseptau Moeseg AI yn gyffredinol, mae cwestiwn cyfatebol a ddylem gael cyfreithiau i lywodraethu gwahanol ddefnyddiau o AI. Mae deddfau newydd yn cael eu bandio o gwmpas ar lefelau ffederal, gwladwriaethol a lleol sy'n ymwneud ag ystod a natur sut y dylid dyfeisio AI. Mae'r ymdrech i ddrafftio a deddfu cyfreithiau o'r fath yn un graddol. Mae AI Moeseg yn gweithredu fel stopgap ystyriol, o leiaf, a bydd bron yn sicr i ryw raddau yn cael ei ymgorffori'n uniongyrchol yn y deddfau newydd hynny.

Byddwch yn ymwybodol bod rhai yn dadlau’n bendant nad oes angen deddfau newydd arnom sy’n cwmpasu AI a bod ein cyfreithiau presennol yn ddigonol. Maen nhw'n rhagrybuddio, os byddwn ni'n deddfu rhai o'r deddfau AI hyn, y byddwn ni'n lladd yr wydd aur trwy fynd i'r afael â datblygiadau mewn AI sy'n cynnig manteision cymdeithasol aruthrol.

Mewn colofnau blaenorol, rwyf wedi ymdrin â'r amrywiol ymdrechion cenedlaethol a rhyngwladol i lunio a deddfu cyfreithiau sy'n rheoleiddio AI, gweler y ddolen yma, er enghraifft. Rwyf hefyd wedi ymdrin â’r amrywiol egwyddorion a chanllawiau Moeseg AI y mae gwahanol genhedloedd wedi’u nodi a’u mabwysiadu, gan gynnwys er enghraifft ymdrech y Cenhedloedd Unedig megis set UNESCO o AI Moeseg a fabwysiadwyd gan bron i 200 o wledydd, gweler y ddolen yma.

Dyma restr allweddol ddefnyddiol o feini prawf neu nodweddion AI Moesegol mewn perthynas â systemau AI yr wyf wedi'u harchwilio'n agos yn flaenorol:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Mae'r egwyddorion Moeseg AI hynny i fod i gael eu defnyddio o ddifrif gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n cynnal a chadw systemau AI yn y pen draw.

Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n ddarostyngedig i gadw at syniadau Moeseg AI. Fel y pwysleisiwyd yn flaenorol yma, mae'n cymryd pentref i ddyfeisio a maes AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg a chadw at egwyddorion AI Moeseg.

Nawr fy mod wedi gosod sylfaen ddefnyddiol ar gyfer mynd i mewn i'r Llythyr Agored, rydym yn barod i blymio i mewn.

Teitl pwnc swyddogol y Llythyr Agored yw:

• "Llythyr Agored i'r Diwydiant Roboteg a'n Cymunedau, Ni Ddylid Arfogi Robotiaid Pwrpas Cyffredinol” (yn ôl postio ar-lein).

Hyd yn hyn, cystal.

Mae'r teitl bron yn ymddangos fel hufen iâ a phastai afal. Sut y gallai unrhyw un ddadlau hyn fel galwad o'r blaen i osgoi arfau robot AI?

Darllenwch ymlaen i weld.

Yn gyntaf, fel porthiant i'w ystyried, dyma baragraff agoriadol swyddogol y Llythyr Agored:

• “Ni yw rhai o gwmnïau mwyaf blaenllaw’r byd sy’n ymroddedig i gyflwyno cenedlaethau newydd o roboteg symudol uwch i gymdeithas. Mae'r cenedlaethau newydd hyn o robotiaid yn fwy hygyrch, yn haws i'w gweithredu, yn fwy ymreolaethol, fforddiadwy, ac yn addasadwy na chenedlaethau blaenorol, ac yn gallu llywio i leoliadau nad oeddent yn flaenorol yn hygyrch i dechnolegau awtomataidd neu a reolir o bell. Credwn y bydd robotiaid symudol datblygedig o fudd mawr i gymdeithas fel cydweithwyr mewn diwydiant a chymdeithion yn ein cartrefi” (yn unol â'r post ar-lein).

Yr ochr heulog i ddyfodiad y mathau hyn o robotiaid yw y gallwn ragweld y bydd llawer o fanteision gwych yn dod i'r amlwg. Diau am dano. Efallai bod gennych chi robot yn eich cartref a all wneud y gweithgareddau tebyg i Jetson fel glanhau'ch tŷ, golchi'ch llestri, a thasgau eraill o amgylch y cartref. Bydd gennym robotiaid datblygedig i'w defnyddio mewn ffatrïoedd a chyfleusterau gweithgynhyrchu. Mae'n bosibl y gall robotiaid gropian neu symud i fannau cyfyng megis pan fydd adeilad yn dymchwel a bywydau dynol yn y fantol i gael eu hachub. Ac yn y blaen.

Ar y llaw arall, efallai y bydd o ddiddordeb i chi fy narllediad llygad-feirniadol diweddar o Ddiwrnod AI Tesla, pan bortreadwyd rhyw fath o robotiaid cerdded gan Elon Musk fel y dyfodol i Tesla a chymdeithas, gweler y ddolen yma.

Yn ôl at y mater dan sylw. Wrth drafod robotiaid dawnsio neu robotiaid cerdded o ddifrif, mae angen inni ystyried cyfaddawdau neu gyfanswm ROI (Enillion ar Fuddsoddiad) y defnydd hwn o AI yn ofalus. Ni ddylem ganiatáu i ni'n hunain gael ein swyno'n ormodol gan fuddion pan fo costau i'w hystyried hefyd.

Gall tegan newydd sgleiniog fod ag ymylon eithaf miniog.

Mae hyn i gyd yn sbarduno pwynt pwysig ond braidd yn dawel mai rhan o'r rheswm y mae problem arfau AI yn codi nawr yw oherwydd datblygiad AI tuag at weithgaredd ymreolaethol. Fel arfer rydym wedi disgwyl bod arfau'n cael eu gweithredu gan ddyn yn gyffredinol. Mae bod dynol yn gwneud y penderfyniad p'un ai i danio neu ddal yr arf. Mae'n debyg y gallwn ddal y bod dynol hwnnw'n atebol am eu gweithredoedd.

Mae'n debyg y byddai AI sydd wedi'i ddyfeisio i weithio'n annibynnol neu y gellir ei dwyllo i wneud hynny yn tynnu'r dynol o'r ddolen. Yna mae'r AI yn gwneud penderfyniadau cyfrifiadurol yn algorithmig a all ladd neu niweidio bodau dynol yn y pen draw. Yn ogystal â'r pryderon amlwg ynghylch diffyg rheolaeth dros yr AI, mae gennych chi hefyd y amheuaeth y gallai fod gennym ni amser llafurus yn pennu cyfrifoldeb am weithredoedd yr AI. Nid oes gennym fod dynol sy'n ein symbylydd amlwg.

Rwy’n sylweddoli bod rhai yn credu y dylem ddal yr AI yn gyfrifol am ei weithredoedd yn syml ac yn uniongyrchol, fel petai AI wedi cyrraedd teimlad neu fel arall wedi cael person cyfreithiol (gweler fy sylw i’r dadleuon ynghylch AI sy’n casglu personoliaeth gyfreithiol yn y ddolen yma). Nid yw hynny'n mynd i weithio am y tro. Bydd yn rhaid i ni olrhain yr AI i'r bodau dynol a'i dyfeisiodd neu a'i gosododd. Heb os, byddant yn ceisio osgoi cyfrifoldeb yn gyfreithiol trwy geisio dadlau bod yr AI wedi mynd y tu hwnt i'r hyn yr oeddent wedi'i ragweld. Mae hwn yn gynnen gynyddol y mae angen inni ymdrin ag ef (gweler fy ysgrifau AI Law i gael cipolwg ar y materion dadleuol dan sylw).

Mae’r Cenhedloedd Unedig (CU) drwy’r Confensiwn ar Arfau Confensiynol Penodol (CCGC) yng Ngenefa wedi sefydlu un ar ddeg o Egwyddorion Arweiniol nad ydynt yn rhwymol ar Arfau Angheuol Angheuol, yn unol â’r adroddiad swyddogol a bostiwyd ar-lein (sy’n cwmpasu cyfeiriadau at Gyfraith Ddyngarol Ryngwladol berthnasol neu ddarpariaethau IHL) , gan gynnwys:

(a) Mae cyfraith ddyngarol ryngwladol yn parhau i fod yn gwbl berthnasol i bob system arfau, gan gynnwys y posibilrwydd o ddatblygu a defnyddio systemau arfau ymreolaethol angheuol;

(b) Rhaid cadw cyfrifoldeb dynol am benderfyniadau ar ddefnyddio systemau arfau gan na ellir trosglwyddo atebolrwydd i beiriannau. Dylid ystyried hyn ar draws cylch bywyd cyfan y system arfau;

(c) Dylai rhyngweithiad dynol-peiriant, a all fod ar wahanol ffurfiau ac yn cael ei weithredu ar wahanol gamau o gylch bywyd arf, sicrhau bod y defnydd posibl o systemau arfau yn seiliedig ar dechnolegau sy'n dod i'r amlwg ym maes systemau arfau ymreolaethol angheuol mewn cydymffurfio â chyfraith ryngwladol berthnasol, yn enwedig IHL. Wrth bennu ansawdd a maint y rhyngweithio rhwng dyn a pheiriant, dylid ystyried ystod o ffactorau gan gynnwys y cyd-destun gweithredol, a nodweddion a galluoedd y system arfau yn ei chyfanrwydd;

(d) Rhaid sicrhau atebolrwydd am ddatblygu, defnyddio a defnyddio unrhyw system arfau sy'n dod i'r amlwg o fewn fframwaith CCGC yn unol â chyfraith ryngwladol berthnasol, gan gynnwys trwy weithredu systemau o'r fath o fewn cadwyn reoli ddynol gyfrifol;

(e) Yn unol â rhwymedigaethau Gwladwriaethau o dan gyfraith ryngwladol, wrth astudio, datblygu, caffael, neu fabwysiadu arf, modd neu ddull rhyfela newydd, rhaid penderfynu a fyddai ei gyflogi, o dan rai amgylchiadau neu bob un, yn gymwys. wedi'i wahardd gan gyfraith ryngwladol;

(f) Wrth ddatblygu neu gaffael systemau arfau newydd yn seiliedig ar dechnolegau sy'n dod i'r amlwg ym maes systemau arfau angheuol ymreolaethol, diogelwch corfforol, mesurau diogelu anffisegol priodol (gan gynnwys seiberddiogelwch rhag hacio neu ffugio data), y risg o gaffael gan grwpiau terfysgol a dylid ystyried y risg o amlhau;

(g) Dylai asesiadau risg a mesurau lliniaru fod yn rhan o gylch dylunio, datblygu, profi a defnyddio technolegau newydd mewn unrhyw systemau arfau;

(h) Dylid ystyried y defnydd o dechnolegau sy'n dod i'r amlwg ym maes systemau arfau angheuol ymreolaethol i gynnal cydymffurfiaeth ag IHL a rhwymedigaethau cyfreithiol rhyngwladol cymwys eraill;

(i) Wrth lunio mesurau polisi posibl, ni ddylai technolegau sy'n dod i'r amlwg ym maes systemau arfau ymreolaethol angheuol gael eu hanthropomorffeiddio;

(j) Ni ddylai trafodaethau ac unrhyw fesurau polisi posibl a gymerir o fewn cyd-destun CCGC rwystro cynnydd neu fynediad at ddefnydd heddychlon o dechnolegau ymreolaethol deallus;

(k) Mae CCGC yn cynnig fframwaith priodol ar gyfer ymdrin â mater technolegau sy'n dod i'r amlwg ym maes systemau arfau angheuol angheuol o fewn cyd-destun amcanion a dibenion y Confensiwn, sy'n ceisio sicrhau cydbwysedd rhwng rheidrwydd milwrol ac ystyriaethau dyngarol.

Mae'r rhain ac amrywiol gyfreithiau rhyfel a chyfreithiau gwrthdaro arfog, neu IHL (Cyfreithiau Dyngarol Rhyngwladol) yn ganllaw hanfodol a bythol-addawol i ystyried yr hyn y gallem geisio ei wneud ynglŷn â dyfodiad systemau ymreolaethol sydd ag arfau, boed hynny trwy gonglfaen. dylunio neu drwy ddulliau ôl-ffaith.

Dywed rhai y dylem wahardd yn llwyr y systemau AI ymreolaethol hynny y gellir eu harfogi. Mae hynny'n iawn, dylai'r byd roi ei droed i lawr a mynnu'n llym na fydd systemau ymreolaethol AI byth yn cael eu harfogi. Mae gwaharddiad llwyr i'w osod. Diwedd y stori. Atalnod llawn, cyfnod.

Wel, gallwn ddymuno'n ddiffuant y byddai gwaharddiad ar systemau ymreolaethol ag arfau angheuol yn cael ei gadw'n llym ac yn ufudd. Y broblem yw bod llawer o le i wiglo yn siŵr o ddod o hyd i unrhyw un o'r gwaharddiadau didwyll. Fel maen nhw'n dweud, mae rheolau i fod i gael eu torri. Gallwch fetio, lle mae pethau'n llac-goosey, y bydd riffraff yn ffuredu bylchau ac yn ceisio wincio-wink eu ffordd o gwmpas y rheolau.

Dyma rai bylchau posibl sy'n werth eu hystyried:

• Hawliadau Anfarwol. Gwnewch systemau arfau ymreolaethol nad ydynt yn farwol (yn ôl pob golwg yn iawn gan ei fod y tu allan i ffin y gwaharddiad), y gallwch chi wedyn ar symudiad dime i ddod yn angheuol (dim ond ar y funud olaf y byddwch y tu hwnt i'r gwaharddiad).
• Hawliadau System Ymreolaethol yn Unig. Cadarnhewch y gwaharddiad trwy beidio â gwneud systemau ymreolaethol sy'n canolbwyntio ar angheuol, yn y cyfamser, gwnewch gymaint o gynnydd ar ddyfeisio systemau ymreolaethol bob dydd nad oes ganddynt arfau (eto) ond y gallwch chi ar ôl-ffitio dime i gael eich arfau.
• Honiadau o Ddim yn Integredig Fel Un. Crefftwch systemau ymreolaethol nad ydynt wedi'u harfogi o gwbl, a phan ddaw'r amser, gwnewch arfau piggyback fel y gallwch geisio dadlau'n chwyrn eu bod yn ddwy elfen ar wahân ac felly'n dadlau nad ydynt yn perthyn i gyfeireb popeth-yn-un. system arfau ymreolaethol neu ei gefnder.
• Honiadau Nad Ydyw'n Ymreolaethol. Gwnewch system arfau nad yw'n ymddangos fel pe bai ganddi alluoedd ymreolaethol. Gadael lle yn y system hon nad yw'n ymreolaethol yn ôl pob tebyg ar gyfer gollwng ymreolaeth ar sail AI. Pan fo angen, plygiwch yr ymreolaeth ac rydych chi'n barod i rolio (tan hynny, mae'n debyg nad oeddech chi'n torri'r gwaharddiad).
• Arall

Mynegwyd digon o anawsterau eraill wrth geisio gwahardd systemau arfau angheuol angheuol yn llwyr. Byddaf yn cwmpasu ychydig mwy ohonynt.

Mae rhai pynditiaid yn dadlau nad yw gwaharddiad yn arbennig o ddefnyddiol ac yn lle hynny y dylai fod darpariaethau rheoleiddio. Y syniad yw y bydd y contrapsiynau hyn yn cael eu caniatáu ond yn cael eu plismona'n llym. Mae litani o ddefnyddiau cyfreithlon yn cael ei gosod allan, ynghyd â ffyrdd cyfreithlon o dargedu, mathau cyfreithlon o alluoedd, cymesuredd cyfreithlon, ac yn y blaen.

Yn eu barn nhw, mae gwaharddiad syth fel rhoi eich pen yn y tywod ac esgus nad yw'r eliffant yn yr ystafell yn bodoli. Mae'r haeriad hwn serch hynny yn peri i waed y rhai sy'n gwrthwynebu'r ddadl, trwy gychwyn gwaharddiad, leihau'n sylweddol y demtasiwn i fynd ar drywydd y mathau hyn o systemau. Yn sicr, bydd rhai yn blaunt y gwaharddiad, ond o leiaf gobeithio na fydd y mwyafrif. Yna gallwch chi ganolbwyntio'ch sylw ar y fflaunters a pheidio â gorfod tynnu'ch sylw at bawb.

Rownd a rownd mae'r dadleuon hyn yn mynd.

Pryder arall a nodir yn aml yw hyd yn oed os yw'r da yn cadw at y gwaharddiad, ni fydd y drwg yn gwneud hynny. Mae hyn yn rhoi'r da mewn ystum gwael. Bydd gan y drwg y mathau hyn o systemau ymreolaethol arfog ac ni fydd gan y rhai da. Unwaith y bydd pethau'n cael eu datgelu sydd gan y drwg, bydd yn rhy hwyr i'r da ddal i fyny. Yn fyr, yr unig beth craff i'w wneud yw paratoi i ymladd tân â thân.

Mae yna hefyd yr honiad ataliaeth glasurol. Os yw'r dewis da i wneud systemau ymreolaethol ag arfau, gellir defnyddio hyn i atal y drwg rhag ceisio mynd i drafferth. Naill ai bydd y da yn arfog yn well ac felly'n digalonni'r drwg, neu bydd y da yn barod pan fydd y drwg efallai'n datgelu eu bod wedi bod yn dyfeisio'r systemau hynny yn ddi-baid ar hyd yr amser.

Gwrthwynebu'r cownteri hyn yw eich bod, trwy wneud systemau ymreolaethol ag arfau, yn rhedeg ras arfau. Bydd yr ochr arall yn ceisio cael yr un peth. Hyd yn oed os na allant yn dechnolegol greu systemau o’r fath o’r newydd, byddant yn awr yn gallu dwyn cynlluniau’r rhai “da”, peiriannu’r perfeddion uwch-dechnoleg o chwith, neu ddynwared beth bynnag y maent yn ei weld fel rhywbeth profedig. ffordd i wneud y gwaith.

Aha, rhai yn retort, gallai hyn i gyd arwain at leihad mewn gwrthdaro trwy ymddangosiad cydfuddiannol. Os yw ochr A yn gwybod bod gan ochr B yr arfau systemau ymreolaethol angheuol hynny, a bod ochr B yn gwybod bod gan ochr A rai, efallai y byddant yn eistedd yn dynn ac yn peidio â chael eu chwythu. Mae gan hyn y naws unigryw honno o naws dinistr gyda sicrwydd i'r ddwy ochr (MAD).

Ac yn y blaen.

Edrych Yn Agos Ar Yr Ail Baragraff

Rydym eisoes wedi ymdrin â llawer o dir yma a dim ond hyd yn hyn wedi ystyried paragraff cyntaf neu baragraff agoriadol y Llythyr Agored (mae pedwar paragraff i gyd).

Mae'n bryd edrych ar yr ail baragraff, dyma chi:

• “Fel gydag unrhyw dechnoleg newydd sy’n cynnig galluoedd newydd, mae dyfodiad robotiaid symudol datblygedig yn cynnig y posibilrwydd o gamddefnydd. Gallai pobl annibynadwy eu defnyddio i oresgyn hawliau sifil neu i fygwth, niweidio neu fygwth eraill. Un maes sy'n peri pryder arbennig yw arfau. Credwn fod ychwanegu arfau at robotiaid sy'n cael eu gweithredu o bell neu'n annibynnol, sydd ar gael yn eang i'r cyhoedd, ac sy'n gallu mordwyo i leoliadau anhygyrch yn flaenorol lle mae pobl yn byw ac yn gweithio, yn codi risgiau newydd o niwed a materion moesegol difrifol. Bydd cymwysiadau arfau o'r robotiaid newydd hyn hefyd yn niweidio ymddiriedaeth y cyhoedd yn y dechnoleg mewn ffyrdd sy'n niweidio'r buddion aruthrol y byddant yn eu cyflwyno i gymdeithas. Am y rhesymau hyn, nid ydym yn cefnogi arfogi ein robotiaid pwrpas cyffredinol symudedd uwch. I’r rhai ohonom sydd wedi siarad ar y mater hwn yn y gorffennol, a’r rhai sy’n ymgysylltu am y tro cyntaf, rydym yn awr yn teimlo brys o’r newydd yn wyneb y pryder cyhoeddus cynyddol yn y misoedd diwethaf a achoswyd gan nifer fach o bobl sydd wedi rhoi cyhoeddusrwydd amlwg i’w dros dro. ymdrechion i arfogi robotiaid sydd ar gael yn fasnachol” (fel y postiwyd ar-lein).

Ar ôl darllen yr ail baragraff hwnnw, gobeithio y gallwch chi weld sut mae fy nhrafodaeth gynharach yma ar arfau AI yn dod i'r amlwg.

Gadewch i ni archwilio ychydig o bwyntiau ychwanegol.

Un peth sy'n peri pryder ynghylch agwedd benodol ar eiriad sydd wedi codi'r dander gan rai yw ei bod yn ymddangos bod y naratif yn pwysleisio y gallai “pobl annibynadwy” gamddefnyddio'r robotiaid AI hyn. Ie, yn wir, gallai fod yn bobl ddrwg neu'n ddrwgweithredwyr sy'n achosi gweithredoedd erchyll a fydd yn “camddefnyddio” robotiaid AI.

Ar yr un pryd, fel y nodwyd tuag at ddechrau'r drafodaeth hon, mae angen i ni hefyd ei gwneud yn glir y gallai'r AI ei hun fynd o chwith, o bosibl oherwydd bygiau neu wallau wedi'u gwreiddio a chymhlethdodau eraill o'r fath. Y pryder a fynegwyd yw mai dim ond pwysleisio'r siawns o bobl annibynadwy yw ei bod yn ymddangos ei fod yn anwybyddu posibiliadau anffafriol eraill. Er bod y mwyafrif o gwmnïau a gwerthwyr AI yn gas ei gyfaddef, mae yna lu o faterion systemau AI a all danseilio diogelwch a dibynadwyedd systemau ymreolaethol. Am fy sylw i ddiogelwch AI a'r angen am fesurau diogelu cadarn a phrofadwy, gweler y ddolen yma, Er enghraifft.

Mae pwynt nodedig arall sydd wedi codi ymhlith y rhai sydd wedi archwilio'r Llythyr Agored yn ymwneud â'r honiad sydd wedi'i gynnwys y gallai tandorri ymddiriedaeth y cyhoedd sy'n gysylltiedig â robotiaid AI yn y pen draw.

Ar y naill law, mae hwn yn honiad dilys. Os defnyddir robotiaid AI i wneud cynigion drwg, gallwch fetio y bydd y cyhoedd yn cael eu stemio'n eithaf. Pan fydd y cyhoedd yn cael eu stemio, gallwch chi fetio y bydd deddfwyr yn neidio i'r chwil ac yn ceisio deddfu deddfau sy'n mynd i'r afael â robotiaid AI a gwneuthurwyr robotig AI. Gallai hyn yn ei dro fynd i'r afael â'r diwydiant roboteg AI os yw'r cyfreithiau'n hollgynhwysol ac yn cau ymdrechion sy'n ymwneud â buddion robotig AI. Mewn ffordd, gallai'r babi gael ei daflu allan gyda'r dŵr bath (hen fynegiant, yn ôl pob tebyg yn haeddu bod wedi ymddeol).

Y cwestiwn amlwg a godwyd hefyd yw a yw’r honiad hwn ynghylch atal gostyngiad yn ymddiriedaeth y cyhoedd mewn robotiaid AI yn gredo sydd braidd yn hunanwasanaethol neu a yw er lles pawb ohonom (a all fod yn ddau?).

Chi sy'n penderfynu.

Deuwn yn awr at ran arbennig o gignoeth y Llythyr Agored:

• “Rydym yn addo na fyddwn yn arfogi ein robotiaid pwrpas cyffredinol symudedd uwch na’r feddalwedd rydym yn ei datblygu sy’n galluogi roboteg uwch ac ni fyddwn yn cefnogi eraill i wneud hynny. Lle bo modd, byddwn yn adolygu cymwysiadau bwriadedig ein cwsmeriaid yn ofalus er mwyn osgoi arfau posibl. Rydym hefyd yn addo archwilio datblygiad nodweddion technolegol a allai liniaru neu leihau'r risgiau hyn. I fod yn glir, nid ydym yn mynd i’r afael â’r technolegau presennol y mae cenhedloedd a’u hasiantaethau llywodraeth yn eu defnyddio i amddiffyn eu hunain a chynnal eu cyfreithiau” (fel y’i postiwyd ar-lein).

Gallwn ddadbacio hwn.

Eisteddwch a pharatowch eich hun yn unol â hynny.

Ydych chi'n barod am rywfaint o bolareiddio tanllyd?

Ar yr ochr ffafriol, mae rhai yn datgan yn lleisiol y byddai'r gwneuthurwyr robotiaid AI hyn yn gwneud addewid o'r fath. Mae'n ymddangos y bydd y gwneuthurwyr robotiaid hyn, diolch byth, yn ceisio peidio ag arfogi eu robotiaid “pwrpas cyffredinol symudedd uwch”. Yn ogystal, mae'r Llythyr Agored yn dweud na fyddan nhw'n cefnogi eraill sy'n gwneud hynny.

Mae beirniaid yn meddwl tybed a oes yna gof geiriau clyfar yn digwydd.

Er enghraifft, ble mae “symudedd uwch” yn dechrau ac yn gorffen? Os yw gwneuthurwr robotiaid yn dyfeisio a syml-mobility AI robot yn hytrach nag un datblygedig (sy'n ddarn anniffiniedig o jargon techie), a yw hynny'n cael ei eithrio o gwmpas yr hyn a fydd nid cael eich arfogi? Felly, mae'n debyg, mae'n iawn arfogi robotiaid AI symudedd syml, cyn belled nad ydyn nhw'n cael eu galw. uwch.

Mae'r un peth yn wir am frawddegu robotiaid pwrpas cyffredinol. Os yw robot AI wedi'i ddyfeisio'n benodol ar gyfer arfau ac felly nid yw, byddwn yn dweud a pwrpas cyffredinol robot, a yw hynny'n dod yn eithriad dichonadwy o'r cwmpas?

Efallai y byddwch chi'n ffraeo gyda'r cwiblau hyn ac yn dadlau'n frwd mai Llythyr Agored yn unig yw hwn ac nid dogfen gyfreithiol hanner can tudalen sy'n nodi pob twll a chornel.

Daw hyn â ni at y petruster sy'n ymddangos yn fwy macro-lefel a fynegir gan rai. Yn ei hanfod, beth mae “addewid” yn ei olygu?

Mae rhai yn gofyn, ble mae'r cig eidion?

Mae'n ymddangos bod cwmni sy'n gwneud addewid fel hyn yn gwneud hynny heb unrhyw wir fudd yn y gêm. Os bydd pres uchaf unrhyw gwmni sy'n arwyddo ar gyfer yr addewid hwn yn penderfynu peidio ag anrhydeddu'r addewid mwyach, beth sy'n digwydd i'r cwmni hwnnw? A fydd y swyddogion gweithredol yn cael eu tunio'n gryno? A fydd y cwmni'n cau ac yn ymddiheuro'n fawr am dorri'r addewid? Ac yn y blaen.

Cyn belled ag y gellir casglu, nid oes cosb neu gosb benodol am dorri unrhyw addewid.

Efallai y byddwch yn dadlau bod posibilrwydd o niwed i enw da. Mae'n bosibl y bydd cwmni sy'n rhoi addewid yn cael ei roi yn y farchnad am iddo wneud addewid nad yw'n ei gadw mwyach. Wrth gwrs, mae hyn hefyd yn cymryd yn ganiataol y bydd pobl yn cofio bod yr addewid wedi'i wneud. Mae hefyd yn cymryd yn ganiataol y bydd torri'r addewid yn cael ei ganfod rywsut (mae'n amlwg yn annhebygol y bydd cwmni'n dweud y cyfan os bydd yn gwneud hynny). Byddai'n rhaid galw'r troseddwr addewid allan ac eto gallai mater o'r fath ddod yn ddim ond sŵn yn y tswnami parhaus o newyddion am wneuthurwyr roboteg AI.

Ystyriwch ongl arall sydd wedi codi.

Mae cwmni addo yn cael ei brynu gan gwmni mwy. Mae'r cwmni mwy yn dewis dechrau troi'r robotiaid pwrpas cyffredinol symudedd uwch yn fersiynau ag arfau AI.

A yw hyn yn groes i'r addewid?

Efallai y bydd y cwmni mwy yn mynnu nad yw'n groes gan na wnaethant (y cwmni mwy) erioed yr addewid. Yn y cyfamser, mae'r robotiaid AI diniwed y mae'r cwmni llai wedi'u llunio a'u dyfeisio, gan wneud hynny gyda'r bwriadau mwyaf anhunanol i bob golwg, yn cael eu hailwampio bron dros nos i gael eu harfogi.

Mae math o yn tanseilio'r addewid, er y gallech ddweud nad oedd y cwmni llai yn gwybod y byddai hyn yn digwydd ryw ddydd. Yr oeddynt o ddifrif yn eu dymuniad. Roedd allan o'u rheolaeth beth ddewisodd y cwmni prynu mwy ei wneud.

Mae rhai hefyd yn gofyn a oes unrhyw atebolrwydd cyfreithiol yn hyn.

Mae cwmni addo yn penderfynu ychydig fisoedd o nawr nad yw'n mynd i anrhydeddu'r addewid. Maen nhw wedi cael newid calon. A all y cwmni gael ei siwio am ei fod wedi cefnu ar yr addewid a wnaeth? Pwy fyddai'n siwio? Beth fyddai sail yr achos cyfreithiol? Mae cyfres o faterion cyfreithiol yn codi. Fel maen nhw'n dweud, gallwch chi erlyn bron unrhyw un fwy neu lai, ond mae p'un ai chi fydd yn drechaf yn fater gwahanol yn gyfan gwbl.

Meddyliwch am hyn mewn ffordd arall. Mae cwmni sy'n addo yn cael cyfle i wneud bargen fawr iawn i werthu criw cyfan o'i robotiaid pwrpas cyffredinol symudedd datblygedig i gwmni enfawr sy'n barod i dalu trwy'r trwyn i gael y robotiaid. Mae'n un o'r bargeinion prynu sillion-doler unwaith-mewn-oes hynny.

Beth ddylai'r cwmni roboteg AI ei wneud?

Os yw'r cwmni addewid roboteg AI yn cael ei fasnachu'n gyhoeddus, byddent bron yn sicr yn anelu at wneud y gwerthiant (gellid dweud yr un peth am gwmni preifat, ond nid yn union felly). Dychmygwch fod y cwmni addo yn poeni y gallai'r prynwr geisio arfogi'r robotiaid, er gadewch i ni ddweud nad oes trafodaeth o'r fath ar y bwrdd. Mae'n si ar led y gallai'r prynwr wneud hynny.

Yn unol â hynny, mae'r cwmni addo yn rhoi yn eu trwyddedu nad yw'r robotiaid i gael eu harfogi. Mae'r prynwr yn balks ar yr iaith hon ac yn camu i ffwrdd o'r pryniant.

Faint o elw wnaeth y cwmni roboteg AI addawol ddim ond cerdded i ffwrdd ohono?

A oes pwynt lle mae’r elw mewn llaw yn drech na chynnwys gofyniad cyfyngiad trwyddedu (neu, efallai eirio’r cyfyngiad yn gyfreithiol er mwyn caniatáu digon o amser a pharhau i wneud i’r ddêl ddigwydd)? Credaf y gallwch weld y penbleth dan sylw. Mae tunnell o senarios o'r fath yn hawdd eu creu. Y cwestiwn yw a yw'r addewid hwn yn mynd i gael dannedd. Os felly, pa fath o ddannedd?

Yn fyr, fel y crybwyllwyd ar ddechrau'r drafodaeth hon, mae rhai wedi'u hamlygu bod y math hwn o addewid yn cael ei wneud, tra bod eraill yn cymryd golwg pylu a fydd yr addewid yn dal dŵr.

Symudwn ymlaen.

Cael Addewid yn Mynd

Mae pedwerydd a pharagraff olaf y Llythyr Agored yn dweud hyn:

• “Rydym yn deall nad yw ein hymrwymiad yn unig yn ddigon i fynd i’r afael yn llawn â’r risgiau hyn, ac felly rydym yn galw ar lunwyr polisi i weithio gyda ni i hyrwyddo defnydd diogel o’r robotiaid hyn ac i wahardd eu camddefnydd. Rydym hefyd yn galw ar bob sefydliad, datblygwr, ymchwilydd, a defnyddiwr yn y gymuned roboteg i wneud addewidion tebyg i beidio ag adeiladu, awdurdodi, cefnogi, neu alluogi atodi arfau i robotiaid o'r fath. Rydym yn argyhoeddedig bod buddion y technolegau hyn i ddynoliaeth yn drech na'r risg o gamddefnydd, ac rydym yn gyffrous am ddyfodol disglair lle mae bodau dynol a robotiaid yn gweithio ochr yn ochr i fynd i'r afael â rhai o heriau'r byd” (fel y'i postiwyd ar-lein).

Mae'r rhan olaf hon o'r Llythyr Agored yn cynnwys sawl elfen ychwanegol sydd wedi codi ymwybyddiaeth.

Gall galw ar lunwyr polisi fod yn syniad da neu'n annoeth, mae rhai yn haeru. Efallai y byddwch chi'n cael llunwyr polisi nad ydyn nhw'n hyddysg yn y materion hyn sydd wedyn yn gwneud y deddfau a'r rheoliadau rhuthro-i-farnu clasurol a chrefft sy'n trawsfeddiannu'r cynnydd ar robotiaid AI. Yn unol â'r pwynt a wnaed yn gynharach, efallai y bydd yr arloesedd sy'n gwthio ymlaen ar ddatblygiadau robotig AI yn cael ei amharu neu ei rwystro.

Gwell bod yn siŵr eich bod chi'n gwybod beth rydych chi'n gofyn amdano, meddai'r beirniaid.

Wrth gwrs, y gwrth-ddadl yw bod y naratif yn datgan yn glir y dylai llunwyr polisi fod yn gweithio gyda chwmnïau roboteg AI i ddarganfod sut i wneud cyfreithiau a rheoliadau o'r fath yn synhwyrol yn ôl pob tebyg. Gwrthddadl y gwrth-ddadl yw y gallai llunwyr polisi gael eu gweld fel pe baent yn gwylio gwneuthurwyr roboteg AI os ydynt yn darparu ar gyfer eu mympwy. Yr hyn sy'n groes i wrth-ddadl yw ei bod yn naturiol yn hanfodol gweithio gyda'r rhai sy'n gwybod am y dechnoleg, neu fel arall mae'n bosibl y bydd y canlyniad yn gam. Etc.

Ar sail frawychus efallai, mae rhai wedi cael llosg y galon dros y llinell sy'n galw ar bawb i wneud addewidion tebyg i beidio atodi arfau i robotiaid pwrpas cyffredinol uwch-symudedd. Yr allweddair yno yw'r gair atodi. Os yw rhywun yn gwneud robot AI sy'n ymgorffori neu'n ymgorffori arfau'n ddi-dor, mae'n ymddangos bod hynny'n mynd o gwmpas geiriad atodi rhywbeth. Gallwch ei weld nawr, rhywun yn dadlau'n ffyrnig nad yw'r arf ynghlwm, mae'n rhan annatod o'r robot AI. Ewch drosto, maen nhw'n gweiddi, nid ydym ni o fewn cwmpas yr addewid hwnnw, a gallent hyd yn oed fod wedi dweud fel arall eu bod.

Mae hyn yn codi cwyn arall am ddiffyg gludiogrwydd yr addewid.

A all cwmni neu unrhyw un o gwbl sy'n dewis gwneud yr addewid hwn ddatgan eu hunain yn ddigroeso ar unrhyw adeg eu bod yn dymuno gwneud hynny ac am ba bynnag reswm y dymunant wneud hynny?

Mae'n debyg felly.

Mae yna lawer o fandio o gwmpas am wneud addewidion a pha tyniant maen nhw'n ei drwytho.

Casgliad

Yikes, efallai y byddwch chi'n dweud, mae'r cwmnïau hyn sy'n ceisio gwneud y peth iawn yn cael eu drymio am geisio gwneud y peth iawn.

Beth sydd wedi dod o'n byd?

Dylai unrhyw un sy'n gwneud addewid o'r fath gael mantais yr amheuaeth, efallai y byddwch chi'n dal yn angerddol. Maent yn camu allan i'r byd cyhoeddus i wneud cyfraniad beiddgar a hanfodol. Os byddwn yn dechrau eu hudo am wneud hynny, bydd yn sicr yn gwneud pethau'n waeth. Ni fydd neb am wneud addewid o'r fath. Ni fydd cwmnïau ac eraill hyd yn oed yn ceisio. Byddant yn cuddio i ffwrdd ac nid yn rhagrybuddio cymdeithas am yr hyn y gall y robotiaid dawnsio annwyl hynny gael eu troi'n beryglus iddo.

Mae amheuwyr yn cyhoeddi bod y ffordd i gael cymdeithas i ddoethineb yn golygu gweithredoedd eraill, megis gollwng y weithred ffansïol o arddangos y robotiaid AI sy'n dawnsio'n wyllt. Neu o leiaf ei gwneud yn weithred fwy cytbwys. Er enghraifft, yn hytrach na dynwared cŵn annwyl sy'n ffyddlon i anifeiliaid anwes yn unig, dangoswch sut y gall y robotiaid dawnsio fod yn debycach i fleiddiaid dig gwyllt a all rwygo bodau dynol yn ddarnau mân gydag oedi.

Bydd hynny'n cael mwy o sylw nag addewidion, maen nhw'n erfyn.

Yn ddiamau, gall addewidion fod yn dipyn o benbleth.

Fel y dywedodd Mahatma Gandhi yn huawdl: “Waeth pa mor amlwg yw’r addewid, bydd pobl yn troi ac yn troelli’r testun i weddu i’w pwrpas eu hunain.”

Efallai i gloi yma ar nodyn dyrchafol, dywedodd Thomas Jefferson hyn am addewidion: “Rydym yn cyd-addo i'n gilydd ein bywydau, ein ffawd, a'n hanrhydedd cysegredig.”

O ran robotiaid AI, eu hymreolaeth, eu harfogi, ac yn y blaen, rydyn ni i gyd yn mynd i fod yn hyn gyda'n gilydd yn y pen draw. Mae angen i'n haddewid ar y cyd o leiaf fod y byddwn yn cadw'r materion hyn ar y blaen, byddwn yn ymdrechu i ddod o hyd i ffyrdd o ymdopi â'r datblygiadau hyn, a rhywsut yn dod o hyd i'n ffordd tuag at sicrhau ein hanrhydedd, ein ffawd, a'n bywydau.

A allwn ni addo hynny?

Dwi'n gobeithio.