AI Moeseg Ymgodymu Ag Anorfod Damweiniau AI, Sy'n Ymddangos Dros Geir Hunan-yrru Ymreolaethol Hefyd

Ydych chi'n perchance yn adnabod rhywun sy'n ymddangos yn arbennig o agored i ddamweiniau?

Mae'n ymddangos fel rydyn ni i gyd yn ei wneud.

Efallai mai'r person yw'r math hwnnw sy'n addas i lithro ar groen banana neu guro ffiol werthfawr yn eich ystafell fyw. Maent yn fagnet dynol ar gyfer damweiniau o ryw fath neu'i gilydd. Gallai fod mor ddrwg eich bod hyd yn oed yn gas i fod yn agos atynt ar adegau. Efallai y byddwch chi'n cael y gorlif ominous neu'n dioddef canlyniad anfarwol un o'u damweiniau di-sawr.

Ond efallai ein bod yn bod yn rhy llym wrth awgrymu bod unrhyw un yn fwy tueddol o gael damweiniau nag eraill. Gellid dadlau y gall damweiniau ddigwydd i unrhyw un ohonom. Mae pob un ohonom yn amodol ar y posibilrwydd o gyflawni neu gael ein brolio mewn damwain. Roedd y gorau ohonom yn cynnwys.

Gadewch i ni bentyrru cwestiwn arall sy'n peri gofid i ni ar ben y drafodaeth hon.

Ydy damweiniau'n anochel?

Mewn geiriau eraill, ni waeth pa mor galed y gallem geisio atal damweiniau, fe allai fod yn anorfod, serch hynny, fod yna siawns a sicrwydd terfynol y bydd damweiniau'n digwydd o hyd. Gallwch geisio amddiffyn y byd rhag damweiniau. Mae hynny'n ymddangos yn ddiamau o ddoeth. Ond un ffordd neu'r llall, bydd damweiniau yn dal i fagu eu pen hyll.

Fel maen nhw'n ei ddweud, mae damweiniau'n aros i ddigwydd.

Gallai fod yn ddefnyddiol egluro beth a olygir wrth gyfeirio at ryw ddigwyddiad fel un sydd wedi’i labelu’n briodol fel damwain. Diffiniad arferol y geiriadur yw bod damwain yn fath o ddigwyddiad sy'n digwydd yn annisgwyl ac yn anfwriadol, y mae canlyniad anffodus iddo sy'n cynnwys rhyw ddifrod neu anaf.

Dadbacio'r diffiniad hwnnw yn ofalus.

Mae'r digwyddiad dywededig yn annisgwyl. Mae hyn yn awgrymu nad oedd yn ymddangos ein bod yn sylweddoli y byddai’r ddamwain ei hun yn codi.

Mae'r digwyddiad dywededig yn anfwriadol. Mae hyn yn awgrymu y dylem ddiystyru'r amgylchiadau lle'r oedd rhywun yn fwriadol yn ceisio cael y digwyddiad. Os bydd prankster yn gosod croen banana ar y llawr lle mae'n gwybod y bydd diniwed anlwcus a diarwybod yn camu, byddai'n anodd ichi haeru bod y sawl sy'n baglu drosti wedi cael damwain. Yn hytrach cawsant eu twyllo a'u harwain yn llechwraidd i fagl.

Mae'r diffiniad hefyd yn cynnwys y maen prawf bod y canlyniad yn anffodus. Rhaid i ddamwain yn y goleuni hwn arwain at ganlyniad sur. Mae'r person a gurodd fâs yn ddamweiniol wedi cracio ac o bosibl wedi difrodi'r eitem hoffus y tu hwnt i'w hatgyweirio. Mae perchennog y fâs yn cael ei niweidio gan golli gwerth. Mae'n bosibl y bydd y perchennog bellach yn ddyledus i'r perchennog am y golled. Mae'r nefoedd yn gwahardd y gallai unrhyw un fod wedi torri neu sgrapio trwy dorri'r fâs.

Er mwyn sicrhau cydbwysedd cyfartal, efallai y byddwn am nodi bod damweiniau “da” fel y'u gelwir hefyd. Gallai person gael ei hun mewn ffortiwn fawr neu gronni rhyw fudd hanfodol arall oherwydd canlyniad damwain. Mae un o'r enghreifftiau a ddyfynnir amlaf yn cynnwys Syr Alexander Fleming a'i ddarganfyddiad clodwiw o benisilin. Mae'r stori yn dweud ei fod braidd yn ddiofal yn ei labordy ac ar ôl dychwelyd o wyliau pythefnos daeth o hyd i lwydni ar un o'i blatiau diwylliant. Yn ôl pob sôn, dywedodd hyn am y mater: “Mae rhywun weithiau'n dod o hyd i'r hyn nad yw rhywun yn edrych amdano. Pan ddeffrais ychydig ar ôl gwawr ar 28 Medi, 1928, yn sicr nid oeddwn yn bwriadu chwyldroi pob meddyginiaeth trwy ddarganfod gwrthfiotig neu laddwr bacteria cyntaf y byd. Ond dwi’n dyfalu mai dyna’n union wnes i.”

Byddwn yn rhoi'r damweiniau ffafriol o'r neilltu ac yn canolbwyntio yma ar y damweiniau digalon. Y fersiwn wyneb gwgu o ddamweiniau yw lle gall y canlyniadau andwyol hynny fod yn arbennig o fygythiad i fywyd neu gael canlyniadau beichus. Cyn belled ag y bo modd, yr anfanteision yr ydym am eu lleihau (ac, wrth gwrs, y damweiniau anfanteisiol yr hoffem eu huchafu, os yw hynny'n ymarferol, er y byddaf yn ymdrin â'r amrywiad wyneb gwenu hwnnw mewn colofn ddiweddarach).

Hoffwn ail-eirio ychydig ar y cwestiwn cynharach am natur anochel damweiniau. Hyd yn hyn, rydym wedi cadw ein sylw at ddamweiniau sy'n digwydd mewn achos penodol o berson unigol. Nid oes amheuaeth y gall damweiniau hefyd effeithio ar lawer o bobl ar unwaith. Gellir dod ar draws hyn yn arbennig pan fydd pobl yn cael eu trochi mewn system gymhleth o ryw fath neu'i gilydd.

Paratowch ar gyfer amrywiad o'r cwestiwn a arnofiwyd yn flaenorol.

A yw damweiniau system yn anochel?

Dylem luosogi hyn.

Tybiwch fod llawr ffatri wedi'i osod allan i wneud rhannau ar gyfer ceir. Mae'r rhai a ddyluniodd y ffatri yn bryderus iawn ynghylch damweiniau gweithwyr a allai ddigwydd. Mae'n ofynnol i weithwyr ffatri wisgo helmedau bob amser. Mae arwyddion yn y ffatri yn annog i wylio am ddamweiniau a bod yn ystyriol yn eich gwaith. Cymerir pob math o ragofalon i atal damweiniau rhag digwydd.

Yn y system hon, efallai y byddwn yn gobeithio na fydd neb byth yn cael damwain. A ydych yn credu nad oes unrhyw siawns o ddamwain? Byddwn yn meiddio awgrymu na fyddai unrhyw feddyliwr rhesymol yn betio bod y siawns o ddamwain yn sero yn yr achos hwn. Gallai’r siawns fod yn isel iawn o ddamwain yn digwydd, ac eto rydym yn dal i wybod ac yn tybio, er gwaethaf yr holl ragofalon, fod modicum risg o hyd y bydd damwain yn digwydd.

Mae hyn i gyd yn tynnu sylw at y syniad ein bod ni, mewn system ddigon cymhleth, yn sicr o gredu y bydd damweiniau’n dal i ddigwydd, ni waeth pa mor galed y byddwn yn ceisio’u hatal. Rydym yn anfoddog yn cefnogi ein hunain i'r amod bod damweiniau system yn wir yn anochel. Gallai fod gan ddatganiad mawreddog o’r safon hon gafeat y byddai’n rhaid i’r system fod o ryw drothwy o gymhlethdod fel ei bod yn ei hanfod yn amhosibl gorchuddio’r holl seiliau i atal damweiniau’n llwyr.

Rydych bellach wedi cael eich cyflwyno’n daclus gam wrth gam i ddamcaniaeth sydd wedi’i hamlinellu’n fras am ddamweiniau y gellir eu labelu fel Damweiniau Arferol neu’r Ddamcaniaeth Damweiniau Arferol (NAT). Dyma ddisgrifiad defnyddiol gan ymchwilwyr sydd wedi archwilio'r syniad hwn: “Ar raddfa ddigon mawr, bydd unrhyw system yn cynhyrchu 'damweiniau arferol'. Mae'r rhain yn ddamweiniau na ellir eu hosgoi a achosir gan gyfuniad o gymhlethdod, cyplu rhwng cydrannau, a niwed posibl. Mae damwain arferol yn wahanol i ddamweiniau methiant cydrannau mwy cyffredin gan nad yw'r digwyddiadau a'r rhyngweithiadau sy'n arwain at ddamwain arferol yn ddealladwy i weithredwyr y system” (fel y nodir yn “Deall ac Osgoi Methiannau AI: Canllaw Ymarferol” gan Robert Williams a Yampolskiy Rhufeinig, Athroniaethau dyddlyfr).

Y rheswm rydw i wedi dod â chi i wlad fel y'i gelwir damweiniau arferol yw y gallai fod angen inni gymhwyso’r ddamcaniaeth hon yn ofalus i rywbeth sy’n dod yn hollbresennol yn raddol ac yn anochel yn ein cymdeithas, sef dyfodiad Deallusrwydd Artiffisial (AI).

Gadewch i ni gloddio i mewn i hyn.

Mae rhai pobl yn tybio ar gam y bydd AI yn berffeithrwydd. Ni fydd systemau AI yn gwneud camgymeriadau ac ni fyddant yn mynd â ni i drafferth, mae'r dyfalu'n mynd. Y cyfan sydd angen i chi ei wneud yw sicrhau bod y datblygwyr AI hynny yn gwneud gwaith digon da, a voila, ni fydd AI byth yn gwneud unrhyw beth y gellid ei ddehongli fel rhywbeth damweiniol neu genhedlu damwain.

Ddim mor gyflym ar y gred ddamcaniaethol honno. Os ydych yn barod i brynu i mewn i'r ddamcaniaeth o damweiniau arferol, mae'n anochel y bydd unrhyw AI o unrhyw gymhlethdod sylweddol yn arwain at ddamwain. Waeth faint o tincian hwyr y nos y mae'r datblygwyr AI hynny yn ei wneud i atal damwain, mae'n siŵr y bydd yr AI ar ryw adeg mewn damwain yn digwydd. Dyna'r ffordd y mae'r cwci yn dadfeilio. A does dim seibiant wrth grio yn ein llefrith wedi'i golli amdano.

Ystyriwch y mashup o AI a daliadau cysyniadol damweiniau arferol.

Rhagweld bod gennym system AI sy'n rheoli arfau niwclear. Mae'r AI wedi'i grefftio'n ofalus. Mae pob siec a balans posibl wedi'i godio i'r system AI. Ydyn ni'n ddiogel rhag damwain ar sail AI a allai ddigwydd? Byddai’r rhai sy’n cefnogi’r safbwynt arferol ar ddamweiniau yn dweud nad ydym mor ddiogel ag y gellid tybio. O ystyried bod y AI yn debygol o fod yn arbennig o gymhleth, mae damwain arferol yn aros yn dawel yno i ddod i'r amlwg ryw ddydd, efallai ar yr eiliad waethaf bosibl.

Byrdwn y cwestiynau a'r amheuon dyrys hynny yw bod yn rhaid inni fod ar flaenau ein traed bod AI yn sicr o fod yn llawn damweiniau, a bod yn rhaid i ddynolryw wneud rhywbeth synhwyrol a rhagweithiol am y peryglon a all ddeillio o hynny. Fel y gwelwch mewn eiliad neu ddwy, mae hon yn ystyriaeth sydd ar ddod o ran defnyddio AI, ac mae maes AI Moeseg ac AI Moesegol yn ymgodymu cryn dipyn ynghylch beth i'w wneud. Am fy ymdriniaeth barhaus a helaeth o AI Moeseg ac AI Moesegol, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Cyn i ni fynd i lawr twll cwningen, gadewch i ni wneud yn siŵr ein bod ar yr un dudalen am natur AI. Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfystyr â bod dynol yn rhoi cyngor i chi. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma). Dywedodd pawb y byddai'r senarios hyn yn cadarnhau'r asesiad o'r ffynhonnell.

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae'r oes ddiweddaraf o AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrwm cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Wedi dweud y cyfan, y gobaith cyffredinol yw, trwy sefydlu ymdeimlad o braeseptau Moeseg AI, y byddwn o leiaf yn gallu cynyddu ymwybyddiaeth gymdeithasol o'r hyn y gall AI ei wneud yn fuddiol ac y gall ei gynhyrchu'n andwyol hefyd. Rwyf wedi trafod yn helaeth ddadansoddiadau cyfunol amrywiol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n ddarostyngedig i gadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Efallai y bydd angen i ni ychwanegu at y rhestrau Moeseg AI crand y mae angen i ni fod yn eu hystyried yn benodol a chymryd camau amlwg i atal neu o leiaf liniaru'n llym ar sail AI. damweiniau arferol a allai ddigwydd. Mae angen i'r rhai sy'n datblygu AI wneud eu gorau yn hynny o beth. Mae angen i'r rhai sy'n defnyddio AI wneud yr un peth. Dylai'r rhai sy'n defnyddio neu sy'n destun AI fod yn wyliadwrus ac yn wyliadwrus o'r posibilrwydd o ddamweiniau AI sy'n ymddangos yn mynd i godi.

Efallai y cewch eich temtio i feddwl y gellir cynnwys digon o ragofalon yn yr AI fel y dylai'r siawns o ddamwain ostwng i ddim. I'r rhai sy'n dechnolegol, y canolbwynt arferol yw, os gall darn o dechnoleg gynhyrchu problem, mae'n siŵr y gall darn arall o dechnoleg ddatrys y broblem. Daliwch ati i daflu mwy a mwy o dechnoleg nes bod y broblem yn diflannu.

Wel, byddai'r rhai sydd wedi astudio damweiniau sy'n canolbwyntio ar systemau yn tueddu i anghytuno a mynd yn ôl yn gwrtais i'r rhwysg dechnolegol dybiedig trwy gynnig safbwynt a elwir yn Fodel Caws y Swistir (SCM): “Yn y SCM, mae'r haenau diogelwch wedi'u modelu fel darnau o caws gyda thyllau ynddynt yn cynrychioli pwyntiau gwan ym mhob haen o ddiogelwch. Dros amser, mae tyllau'n newid siâp ac yn symud o gwmpas. Yn y pen draw, ni waeth faint o dafelli o gaws (haenau diogelwch) sydd, bydd y tyllau yn alinio gan ganiatáu ergyd syth trwy'r holl dafelli o gaws (mae damwain yn digwydd)” (yn ôl y papur a ddyfynnwyd yn gynharach gan Robert Williams a Roman Yampolskiy ).

Dydw i ddim eisiau cael fy llethu i'r tangiad ochr hwn ynghylch a oes ffordd sicr o raglennu AI i osgoi unrhyw siawns o ddamwain yn gyfan gwbl a bob amser. Mae pob math o ddulliau profi mathemategol a chyfrifiadurol yn cael eu rhoi ar brawf. Credaf ei bod yn rhesymol a theg i ddatgan nad oes gennym heddiw ddull gweithio graddadwy na thechnolegau a all warantu siawns sero o'r fath, ac rydym yn bendant wedi ein cyfrwyo â thunelli ar dunelli o AI sy'n cael ei gynhyrchu gan pell-mell ein bod ni. nid yw gwybod yn sicr wedi ceisio cadw at arferion o'r fath. Mae'r pwynt olaf hwnnw'n hollbwysig oherwydd hyd yn oed os gallwn gasglu rhywbeth mewn labordy AI, mae graddio hynny i'r miliynau o ymdrechion AI gwyllt a diofal sydd ar y gweill ac a fydd yn parhau i ddod i'r amlwg yn fater clymog ac nid yw'n debygol o gael ei ddatrys hyd yn oed os yw peiriant profi cyfrifiannol arian. bwled yn bodoli.

Mae pwynt arall y credaf sy'n haeddu sylw byr yn cynnwys AI sy'n cael ei droi i wneud gweithredoedd anweddus o ganlyniad i actorion dynol maleisus. Nid wyf yn mynd i roi'r achosion hynny i mewn i faes damweiniau AI. Cofier fod y drafodaeth agoriadol yn awgrymu mai digwyddiad o ddamwain oedd diffiniad y geiriadur o ddamwain anfwriadol natur. Os yw cybercrook dynol yn llwyddo i gael system AI i wneud pethau drwg, nid wyf yn dosbarthu'r AI hwnnw fel un sy'n profi damwain. Hyderaf y byddwch yn cyd-fynd â’r rhagdybiaeth honno.

Mae cwestiwn diddorol yn codi ynghylch faint o wahanol weithredoedd anweddus AI y gellir eu priodoli i ddamwain AI yn unig yn erbyn gweithred gyfeiliornus seiberdroseddwr. Yn ôl rhai o’r cronfeydd data adrodd am ddigwyddiadau AI sy’n bodoli eisoes, mae’n ymddangos bod y damweiniau AI yn digwydd yn fwy felly na’r digwyddiadau a ysbardunwyd yn faleisus, er bod yn rhaid ichi gymryd y syniad hwnnw gyda dos helaeth o halen. Rwy'n dweud hyn oherwydd bod temtasiwn mawr i beidio â rhoi gwybod pryd yr ymosodwyd ar system AI, ac efallai ychydig yn fwy parod i adrodd pan fydd damwain AI yn digwydd.

Mae yna gafeat hynod bwysig y mae angen i ni ei drafod ynghylch damweiniau AI.

Mae defnyddio'r ymadrodd “Damweiniau AI” yn gyffredinol yn annymunol ac yn mynd i greu tipyn o lanast i ni i gyd, sy'n golygu i gymdeithas gyfan. Pan fydd rhywun yn cael damwain, rydyn ni'n aml yn gwthio ein hysgwyddau ac yn cydymdeimlo â'r person a gafodd y ddamwain. Mae’n ymddangos ein bod ni’n trin y gair “damwain” fel petai’n golygu nad oes neb yn gyfrifol am yr hyn a ddigwyddodd.

Gadewch i ni gymryd yr enghraifft o fynd i mewn i ddamwain car. Mae un car yn troi'n llydan ar droad i'r dde ac yn hwrdd yn ddamweiniol i mewn i gar arall oedd yn mynd yn syth ymlaen. Shucks, dim ond damwain oedd hi a digwyddodd yn ddamweiniol. Mae'n bosibl y bydd y rhai nad oeddent yn gysylltiedig â'r digwyddiad yn mynd i adael i'r mater lithro os yw'r digwyddiad yn cael ei fynegi fel damwain a ddigwyddodd yn unig.

Mae gen i deimlad serch hynny petaech chi yn y car a gafodd ei daro, ni fyddech mor gydymdeimladol â'r gyrrwr a wnaeth y tro rhy llydan. Yn sicr, byddai'ch barn chi fod y gyrrwr arall yn yrrwr diffygiol a bod naill ai gweithred yrru anghyfreithlon neu annoeth wedi arwain at y ddamwain car. Wrth labelu’r digwyddiad fel “damwain” mae’r gyrrwr a oedd yn sownd bellach dan ychydig o anfantais gan ei bod yn ymddangos mai trwy ddigwyddiad yn unig y digwyddodd y cyfan, yn hytrach na thrwy ddwylo’r gyrrwr a oedd wedi gwneud llanast.

Mewn gwirionedd, mae'r gair “damwain” wedi'i lenwi cymaint â chynodiadau amrywiol fel bod ystadegau'r llywodraeth ar ddamweiniau ceir ar y cyfan yn cyfeirio at y mater fel gwrthdrawiadau car neu ddamweiniau car, yn hytrach na defnyddio'r ymadrodd damweiniau car. Nid yw'n ymddangos bod gan wrthdrawiad car neu ddamwain car unrhyw oblygiadau o ran sut y daeth y digwyddiad i fod. Yn y cyfamser, mae geiriad “damwain car” bron yn ein harwain i feddwl mai quirk of tynged ydoedd neu rywsut y tu allan i ddwylo dynolryw.

Gallwch weld yn helaeth sut y daw'r ystyriaeth gynnodol hon i chwarae wrth gyfeirio at ddamweiniau AI. Nid ydym am i ddatblygwyr AI guddio y tu ôl i'r darian arwyddocâd bod yr AI wedi achosi niwed i rywun yn ddamweiniol. Mae'r un peth yn wir am y rhai sy'n defnyddio AI. Gallech ddadlau bod geirio “damweiniau AI” bron yn anthropomorffeiddio deallusrwydd artiffisial a fydd yn camarwain cymdeithas i ganiatáu i'r bodau dynol a oedd y tu ôl i lenni'r AI ddianc rhag atebolrwydd. Ar gyfer fy nhrafodaeth am bwysigrwydd cynyddol dal bodau dynol yn gyfrifol am eu AI, gweler fy nhrafodaeth yn y ddolen hon yma ac y ddolen hon yma.

Rydw i'n mynd i ddefnyddio'r ymadrodd bach o ddamweiniau AI o hyn allan, ond rydw i'n gwneud hynny'n anfoddog a dim ond oherwydd dyma'r ffordd gonfensiynol o gyfeirio at y ffenomen hon. Yn anffodus, mae ymdrechion i eirio hyn yn wahanol yn tueddu i fod yn fwy chwyddedig ac nid mor hawdd ei ddarllen. Gwnewch yn siŵr eich bod chi'n dehongli'r ymadrodd bach mewn modd nad yw'n achosi ichi edrych y ffordd arall a methu â sylweddoli bod y bodau dynol sy'n sail i'r AI yn feius pan fydd AI yn mynd o chwith.

Er mwyn helpu i ddangos y dryswch neu'r agweddau camarweiniol tebygol ar gyfeirio at AI fel damweiniau sy'n achosi damweiniau, gallwn ddychwelyd at fy sylwadau am gnocio fâs. Ystyriwch yr enghraifft hon o AI yn gwneud hynny: “Mae'n rhaid i'r broblem hon ymwneud â phethau sy'n cael eu gwneud trwy ddamwain neu ddifaterwch gan yr AI. Mae robot glanhau yn curo dros fâs yn un enghraifft o hyn. Mae gan amgylcheddau cymhleth gymaint o 'fasau' fel nad ydym yn debygol o allu rhaglennu mewn cosb am bob sgil-effeithiau” (yn y papur gan Robert Williams a Roman Yampolskiy).

Mae'n ymddangos bod system AI sy'n cael ei defnyddio mewn cartref ac yna'n curo fâs “yn ddamweiniol” yn awgrymu na ddylid beio neb am y weithred niweidiol hon gan yr AI. Dim ond damwain oedd hi, efallai y byddai rhywun yn galaru'n fawr. Ar y llaw arall, dylem ofyn yn gywir pam nad oedd y system AI wedi'i rhaglennu i drin amgylchiadau'r fâs yn gyffredinol. Hyd yn oed pe na bai'r datblygwyr AI yn rhagweld y byddai ffiol fel y cyfryw o fewn cwmpas y gwrthrychau y gellid dod ar eu traws, gallwn yn sicr gwestiynu pam nad oedd rhywfaint o osgoi gwrthrychau trosfwaol a fyddai wedi atal y system AI rhag curo dros y fâs (felly, mae'n bosibl na fyddai'r AI yn cyfaddef i ddosbarthu'r fâs fel fâs, ond gallai fod wedi'i hosgoi fel gwrthrych canfyddadwy i'w osgoi).

Rwyf wedi rhagweld ac yn parhau i ragweld ein bod yn symud yn raddol tuag at frwydr gyfreithiol ddoniol dros ymddangosiad systemau AI sy'n mynd i mewn i “ddamweiniau AI” ac yn achosi rhyw fath o niwed. Hyd yn hyn, nid yw cymdeithas wedi ymateb mewn unrhyw ffordd sylweddol i wthio’n ôl yn gyfreithiol ar AI sy’n cael ei wthio allan i’r farchnad ac sy’n cynhyrchu canlyniadau andwyol, naill ai’n fwriadol neu’n anfwriadol. Mae bandwagon AI heddiw sydd wedi dod yn fwrlwm aur o wneuthurwyr AI hanner pobi a'r rhai sy'n gweithredu'r defnydd AI ar frys yn mynd yn ffodus ar hyn o bryd ac yn parhau i fod yn gymharol ddigyffwrdd gan achosion cyfreithiol sifil ac erlyniadau troseddol.

Mae'r adlach gyfreithiol sydd wedi'i stocio gan AI yn dod i ddod, yn hwyr neu'n hwyrach.

Gan symud ymlaen, sut ydym ni i geisio ymdopi ag anochel damweiniau AI fel y'u gelwir?

Un peth y gallwn ei wneud ar unwaith yw ceisio rhagweld sut y gallai damweiniau AI ddigwydd. Drwy ragweld y damweiniau AI, gallwn o leiaf geisio dyfeisio ffyrdd o'u cwtogi neu leihau'r tebygolrwydd y byddant yn digwydd. Ymhellach, gallwn geisio gosod rheiliau gwarchod fel bod y siawns o niwed dangosol yn lleihau pan fydd damwain AI yn digwydd.

Set ddefnyddiol o ffactorau a ddisgrifiwyd yn yr erthygl ymchwil a ddyfynnwyd yn gynharach Deall ac Osgoi Methiannau AI: Canllaw Ymarferol yn cynnwys y priodweddau hyn (fel y dyfynnwyd o’r papur ymchwil):

• Y system sy'n cael ei heffeithio gan allbynnau'r AI.
• Oedi amser rhwng allbynnau AI a'r system fwy, arsylwi system, lefel y sylw dynol, a gallu gweithredwyr i gywiro am gamweithio'r AI.
• Y difrod mwyaf posibl trwy ddefnydd maleisus o'r systemau y mae'r AI yn eu rheoli.
• Cyplu'r cydrannau yn agos at yr AI a chymhlethdod rhyngweithiadau.
• Bwlch gwybodaeth o AI a thechnolegau eraill a ddefnyddir a lefel ynni'r system.

Ar y pwynt hwn o'r drafodaeth helaeth hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau enghreifftiol a allai egluro pwnc damweiniau AI ymhellach. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r her AI foesegol hon yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am ddyfodiad damweiniau AI fel y'u gelwir ac os felly, beth mae hyn yn ei ddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru A Digwyddiadau AI

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir hunan-yrru a'r posibiliadau AI Moesegol sy'n golygu dyfodiad damweiniau AI fel y'u gelwir.

Rhagweld bod car hunan-yrru wedi'i seilio ar AI ar y gweill ar strydoedd eich cymdogaeth ac mae'n ymddangos ei fod yn gyrru'n ddiogel. Ar y dechrau, roeddech chi wedi rhoi sylw arbennig i bob tro y gwnaethoch chi lwyddo i gael cipolwg ar y car hunan-yrru. Roedd y cerbyd ymreolaethol yn sefyll allan gyda'i rac o synwyryddion electronig a oedd yn cynnwys camerâu fideo, unedau radar, dyfeisiau LIDAR, ac ati. Ar ôl wythnosau lawer o'r car hunan-yrru yn mordeithio o amgylch eich cymuned, prin eich bod chi'n sylwi arno nawr. Cyn belled ag yr ydych yn y cwestiwn, dim ond car arall ydyw ar y ffyrdd cyhoeddus sydd eisoes yn brysur.

Rhag ichi feddwl ei bod yn amhosibl neu'n annhebygol i ddod yn gyfarwydd â gweld ceir sy'n gyrru eu hunain, rwyf wedi ysgrifennu'n aml am sut mae'r lleoliadau sydd o fewn cwmpas treialon ceir hunan-yrru wedi dod i arfer yn raddol â gweld y cerbydau wedi'u hysgaru. Yn y pen draw, symudodd llawer o'r bobl leol o ganu'r wyllt i fympwyo yn awr gan allyrru dyrnaid eang o ddiflastod i weld ceir hunan-yrru troellog.

Mae'n debyg mai'r prif reswm ar hyn o bryd y gallent sylwi ar y cerbydau ymreolaethol yw oherwydd y ffactor llid a chythruddo. Mae systemau gyrru AI wrth y llyfr yn sicrhau bod ceir yn ufuddhau i holl gyfyngiadau cyflymder a rheolau'r ffordd. Ar gyfer gyrwyr dynol prysur yn eu ceir traddodiadol sy'n cael eu gyrru gan bobl, rydych chi'n cael eich cythruddo ar adegau pan fyddwch chi'n sownd y tu ôl i'r ceir hunan-yrru sy'n cydymffurfio â'r gyfraith yn seiliedig ar AI.

Mae hynny'n rhywbeth y gallai fod angen i ni i gyd ddod i arfer ag ef, yn gywir neu'n anghywir.

Yn ôl at ein chwedl.

Un diwrnod, mae'r car sy'n gyrru ei hun yn mynd i ddamwain.

Wrth wneud troad i'r dde, siglo'r system yrru AI y cerbyd ymreolaethol yn eang a chafodd car a yrrwyd gan ddyn ei daro. Roedd y car a yrrwyd gan ddyn yn mynd yn syth ymlaen yn y lôn draffig gywir. Nid oedd unrhyw gyfle arbennig i'r gyrrwr dynol wyro nac osgoi cael ei daro. Yn ogystal, nid oedd unrhyw rybudd nac arwydd gan y car hunan-yrru ei fod yn mynd i wneud y tro i'r dde yn eang.

Ai damwain yw hon?

Gallwn ddweud yn sicr ei fod wedi'i gwmpasu o fewn y cyfarwyddyd o fod yn ddamwain AI. Y sail ar gyfer honiad o'r fath yw bod system yrru AI wrth olwyn y car hunan-yrru. Rhywsut, am ba bynnag resymau, dewisodd yr AI wneud swing eang wrth gymryd tro i'r dde. Arweiniodd y canlyniad at y car hunan-yrru yn taro car oedd yn cael ei yrru gan ddyn.

Dwyn i gof y drafodaeth gynharach am y cynodiadau sy’n gysylltiedig â’r gair “damwain” a gweld sut mae isleisiau o’r fath yn dod i chwarae yn y senario hwn. Hefyd, cofiwch inni drafod achos gyrrwr dynol yn gwneud tro llydan i’r dde ac yn rhedeg i mewn i gar arall sy’n cael ei yrru gan ddyn. Sylweddolon ni fod y syniad bod y ddeddf hon yn “ddamwain” yn gamarweiniol ac yn ddryslyd. Gallai'r gyrrwr dynol a wnaeth y siglen lydan guddio y tu ôl i'r syniad mai damwain yn unig oedd wedi digwydd a oedd yn ôl pob golwg trwy ddigwyddiad neu fympwyon tynged.

Yn lle labelu’r senario fel “damwain AI” yn achos y car hunan-yrru seiliedig ar AI yn mynd yn llydan ac yn taro’r car a yrrir gan ddyn, efallai y dylem ddweud mai damwain car neu wrthdrawiad car oedd yn ymwneud â hunan-gariad. car gyrru a char sy'n cael ei yrru gan ddyn. Gallwn wedyn ddileu'r dryswch gwag o'i fod yn ddamwain o fodd anhysbys.

Beth ydych chi'n meddwl fyddai ymateb y cyhoedd i'r digwyddiad?

Wel, os gall y gwneuthurwr ceir neu'r cwmni technoleg hunan-yrru gadw at labelu'r mater fel damwain, efallai y gallant osgoi'r adlach posibl gan y gymuned yn gyffredinol. Mae'n bosibl y byddai ymdeimlad o gydymdeimlad â damweiniau y dywedir wrthynt oll yn llifo drosodd i'r amgylchiadau penodol. I gael rhagor o wybodaeth am sut y bydd dinasoedd, siroedd, ac arweinwyr gwladwriaethau o bosibl yn ymateb i ddigwyddiadau cerbydau ymreolaethol AI, gweler y drafodaeth ar astudiaeth Harvard a arweiniais ar y cyd ac fel y disgrifir yn y ddolen yma.

Os yw’r sefyllfa’n cael ei disgrifio’n glir fel damwain car neu wrthdrawiad car, efallai y gallai hynny wedyn ganiatáu ar gyfer sylweddoli efallai mai rhywun neu rywbeth sydd ar fai am y digwyddiad. Efallai mai ymateb digyffro fyddai i'r AI gael ei ddal yn gyfrifol. Y peth yw, hyd nes neu os byddwn byth yn penderfynu eneinio AI fel rhywun sydd ag ymddangosiad o bersonoliaeth gyfreithiol, ni fyddwch yn gallu gosod y cyfrifoldeb ar yr AI fel y cyfryw (gweler fy nhrafodaeth ar AI a phersonoliaeth gyfreithiol yn y ddolen yma).

Gallwn archwilio'r system yrru AI i geisio darganfod beth a arweiniodd at y gyrru sy'n ymddangos yn amhriodol a'r ddamwain car dilynol. Fodd bynnag, nid yw hynny'n awgrymu y bydd yr AI yn atebol. Mae'r partïon cyfrifol yn cynnwys y datblygwyr AI, gweithredwr fflyd y car hunan-yrru, ac eraill. Rwy'n cynnwys eraill hefyd gan fod posibilrwydd y gallai'r ddinas gael ei dal yn rhannol gyfrifol am ddyluniad y gornel lle digwyddodd y tro. Yn ogystal, mae'n debyg bod cerddwr yn gwibio oddi ar y gornel a bod y system yrru AI wedi dewis osgoi'r person ac eto wedyn yn cael ei lyncu i'r ddamwain car.

Ac yn y blaen.

Casgliad

Byddem am wybod beth oedd y Mynegai Gwerthfawrogiad yn ei gyfrifo'n gyfrifiadol a beth oedd wedi'i raglennu i'w wneud. A wnaeth yr AI fel y'i codwyd? Efallai bod y AI wedi dod ar draws nam neu wall yn y rhaglennu, nad yw'n esgusodi'r gweithredoedd ond sy'n rhoi mwy o gliw i sut y digwyddodd y ddamwain.

Pa fath o reiliau gwarchod AI a gafodd eu rhaglennu i'r system yrru AI? Pe bai rheiliau gwarchod, byddem am ddarganfod pam nad oeddent fel petaent yn atal y ddamwain car. Efallai y gallai'r system yrru AI fod wedi dod i stop yn hytrach na gwneud y tro. Byddem am wybod pa ddewisiadau eraill a aseswyd gan yr AI yn gyfrifiadol yn ystod y digwyddiad.

Ar wahân i fynd i waelod y digwyddiad penodol, rhwystr haeddiannol arall yw a oes gan y system yrru AI ddiffyg neu agwedd wreiddiedig arall a fydd yn gwneud mathau tebyg o weithredoedd niweidiol. Yn ei hanfod, gallai'r digwyddiad hwn fod yn arwydd o fwy i ddod. Sut y defnyddiwyd efelychiadau cyfrifiadurol o sefyllfaoedd gyrru i geisio rhagweld y math hwn o anogaeth system yrru AI? A oedd digon o brofion gyrru ar y ffordd i fod wedi ffendio'r problemau AI a allai fod wedi arwain at y ddamwain car?

Mae'r senario hwn yn amlygu penbleth cynhennus sy'n wynebu dyfodiad ceir hunan-yrru seiliedig ar AI.

Mae'n mynd fel hyn.

Ar y naill law, mae yna awydd cymdeithasol i fabwysiadu ceir hunan-yrru yn gyflym oherwydd y gobaith y bydd systemau gyrru AI mor ddiogel neu o bosibl yn fwy diogel na gyrwyr dynol. Yn yr Unol Daleithiau yn unig, ar hyn o bryd mae gennym bron i 40,000 o farwolaethau dynol bob blwyddyn oherwydd damweiniau car a thua 2.5 miliwn o anafiadau dynol. Mae dadansoddiadau'n awgrymu bod cyfran sylweddol o'r damweiniau car hynny i'w priodoli i gamgymeriadau dynol megis gyrru tra'n feddw, gyrru tra bod rhywun yn tynnu sylw, ac ati (gweler fy asesiad o ystadegau o'r fath yn y ddolen yma).

Ni fydd systemau gyrru AI yn yfed a gyrru. Ni fydd angen gorffwys arnynt ac ni fyddant yn blino'n lân tra wrth y llyw. Y dybiaeth yw y gallwn leihau nifer y gyrwyr dynol trwy sefydlu ceir hunan-yrru fel dull cludiant hyfyw. Dylai hyn yn ei dro olygu y byddwn yn lleihau'n ddiannod nifer y marwolaethau dynol ac anafiadau o ganlyniad i ddamweiniau ceir.

Mae rhai sylwebyddion wedi dweud na fyddwn yn cael unrhyw farwolaethau a dim anafiadau yn y pen draw, ac mae’n debyg y bydd y ceir hunan-yrru hynny’n annychmygol, ond mae hon yn set o ddisgwyliadau hollol hurt a hollol ffug. Rwyf wedi egluro pam fod hyn mor annidwyll yn y ddolen yma.

Beth bynnag, cymerwch yn ganiataol ein bod yn mynd i gael rhywfaint o ddamweiniau car y mae ceir sy'n gyrru eu hunain yn cymryd rhan ynddynt. Tybiwch hefyd y bydd y damweiniau car hynny'n cael rhywfaint o farwolaethau ac anafiadau. Y cwestiwn sy’n cael ei boeni yw a ydym ni fel cymdeithas yn fodlon goddef unrhyw achosion o’r fath o gwbl. Dywed rhai, os bydd hyd yn oed un farwolaeth neu un anaf yn digwydd o ganlyniad i geir hunan-yrru go iawn, y dylid cau'r cit cyfan a'r kaboodle.

Y safbwynt gwrthbwysol yw, os yw'r bywydau a arbedir yn lleihau'r cyfrifon blynyddol, dylem fod yn parhau i annog dyfodiad ceir hunan-yrru a pheidio ag ymateb mewn modd mor afresymegol. Bydd angen inni dderbyn y rhagosodiad y bydd rhywfaint o farwolaethau ac anafiadau yn dal i fodoli, hyd yn oed gyda cheir sy’n gyrru eu hunain, ac eto sylweddoli bod y cyfrif blynyddol o’i leihau yn awgrymu ein bod ar y trywydd iawn.

Wrth gwrs, mae rhai’n dadlau na ddylem gael ceir hunan-yrru ar ein ffyrdd cyhoeddus nes eu bod naill ai wedi’u clirio ar gyfer defnydd o’r fath o ganlyniad i efelychiadau cyfrifiadurol helaeth a thrwyadl neu drwy brofion trac caeedig preifat. Y gwrthddadl yw mai’r unig ffordd ddichonadwy a chyflymaf o gael ceir hunan-yrru i fynd yw trwy ddefnyddio ffyrdd cyhoeddus a bod unrhyw oedi wrth fabwysiadu ceir hunan-yrru yn mynd i ganiatáu fel arall i’r cyfrifon erchyll o’r car a yrrir gan bobl yn damwain barhau. Rwyf wedi rhoi mwy o sylw i’r ddadl hon yn fy ngholofnau ac yn annog darllenwyr i edrych ar y trafodaethau hynny i gael yr ymdeimlad llawn o’r safbwyntiau ar y mater dadleuol hwn.

Gadewch i ni lapio pethau i fyny am y tro.

Mae damweiniau AI yn mynd i ddigwydd. Rhaid inni wrthsefyll yr ysgogiad i ddehongli damwain AI fel rhywbeth sy'n ymddangos damweiniol ac ergo ar gam gadael i'r gwneuthurwyr a'r rhai sy'n defnyddio AI fod yn bendant oddi ar y bachyn.

Mae yna dro ychwanegol yr wyf yn eich gadael ag ef fel meddwl diddorol olaf ar gyfer eich diwrnod.

Yn ôl y sôn, dywedodd y digrifwr Dane Cook wrth y jôc hon am ddamweiniau car: “Ychydig ddyddiau yn ôl, es i mewn damwain car. Nid fy mai i. Hyd yn oed os nad eich bai chi yw hyn, mae'r person arall yn mynd allan o'i gar ac yn edrych arnoch chi fel mai chi sydd ar fai: Pam wnaethoch chi stopio wrth olau coch a gadael i mi eich taro yn 80!"

Lle daw’r tro i’r amlwg yw’r posibilrwydd y gallai system AI ddewis mynnu pan fydd damwain AI yn digwydd yn ymwneud â’r AI penodol hwnnw, mae’r AI yn dweud mai bai’r person oedd y digwyddiad ac yn sicr nid bai’r AI. Gyda llaw, gallai hyn fod yn gwbl wir a gallai'r bod dynol fod yn ceisio bwch dihangol trwy honni mai bai'r AI oedd hynny.

Neu efallai bod y AI yn ceisio bwch dihangol y dynol.

Rydych chi'n gweld, gallai'r AI rydyn ni'n ei ddyfeisio fod yn anodd felly, naill ai ar ddamwain ai peidio.