AI Moesegol Yn Uchelgeisiol Yn Gobeithio Gael AI Ddysgu Ymddygiad Moesegol Ei Hun, Fel Yr Achos Gydag AI Mewn Ceir Hunan Yrru Ymreolaethol

Dywedodd Aristotle yn enwog nad yw addysgu'r meddwl heb addysgu'r galon yn addysg o gwbl.

Gallech ddehongli’r sylw craff hwnnw i awgrymu bod dysgu am foeseg ac ymddygiad moesol yn hollbwysig i ddynolryw. Yn y ddadl natur glasurol yn erbyn magwraeth, rhaid gofyn faint o'n moesau moesegol sy'n reddfol frodorol tra faint a ddysgir yn ystod ein dyddiau byw. Mae plant bach yn wyliadwrus o gyd-ddyn ac yn ôl pob tebyg yn casglu eu seiliau moesegol yn seiliedig ar yr hyn y maent yn ei weld a'i glywed. Gellir dweud yr un peth am bobl ifanc yn eu harddegau. Ar gyfer oedolion meddwl agored, byddant hwythau hefyd yn parhau i addasu a symud ymlaen yn eu meddwl moesegol o ganlyniad i brofi'r byd bob dydd.

Wrth gwrs, mae addysgu rhywun yn benodol am foeseg hefyd yn cyfateb i'r cwrs. Mae pobl yn sicr o ddysgu am ffyrdd moesegol trwy fynychu dosbarthiadau ar y pwnc neu efallai trwy fynd i ddigwyddiadau ac arferion sydd o ddiddordeb iddynt. Gellir nodi gwerthoedd moesegol yn glir a'u rhannu fel modd o gynorthwyo eraill i lunio eu strwythur moeseg eu hunain. Yn ogystal, gallai moeseg gael ei chuddio'n gynnil o fewn straeon neu ddulliau hyfforddi eraill sydd yn y pen draw yn cyfleu neges o'r hyn y mae ymddygiad moesegol yn ei gynnwys.

Dyna sut mae bodau dynol i'w gweld yn trwytho moeseg.

Beth am Ddeallusrwydd Artiffisial (AI)?

Rwy’n sylweddoli y gallai cwestiwn o’r fath ymddangos yn rhyfedd. Rydyn ni'n sicr yn disgwyl i fodau dynol ymgorffori moeseg a cherdded trwy fywyd gyda rhywfaint o ymddangosiad o god moesol. Mae’n ffaith syml ac amlwg. Ar y llaw arall, nid yw'n ymddangos bod peiriant neu gyfrifiadur yn ffitio o fewn yr un ffrâm gyfeirio. Efallai mai eich ymateb i'ch perfedd yw ei bod yn bell neu'n ddieithr i ystyried AI fel un sydd ag ymgorfforiad o foeseg a chodau moesol.

Y peth gorau y byddem fel pe baem yn gallu ei wneud am AI yw ei ddyfeisio fel nad yw'n gwyro oddi wrth ymddygiad moesegol. Bydd datblygwyr AI a'r rhai sy'n maesu deallusrwydd artiffisial yn gyfrifol am sicrhau bod yr AI fel y'i cynlluniwyd ac ar ôl ei weithredu eisoes yn cydymffurfio â phraeseptau moesegol. Allan o'r gât, felly i siarad, dylai'r AI fod yn ddigywilydd ac yn barod i fynd fel rhywbeth cwbl foesegol briodol.

Byddech yn sicr yn iawn wrth feddwl y dylai systemau AI yn wir gael eu saernïo i gyd-fynd yn gyfan gwbl o fewn sail foesegol yn barod. Roedd cymdeithas yn gyffrous iawn pan ryddhawyd y don ddiweddaraf o systemau AI am y tro cyntaf ac roedd yn ymddangos eu bod yn dangos ein bod mewn oes o AI Er Da. Byddai AI yn helpu i ddatrys llawer o broblemau mwyaf heriol y byd. Roedd datblygiadau mewn technoleg yn cael eu harneisio i ategu galluoedd dynol gyda chyfleusterau tebyg i wybyddol, er fy mod yn caniatáu imi bwysleisio nad oes gennym ni unrhyw AI teimladol eto ac nid ydym yn gwybod a fydd AI ymdeimladol yn cael ei gyrraedd.

Mae'r broblem gyda'r rhuthr pell-mell i gael AI i'r byd wedi datgelu'n raddol yr is-boledd hyll o AI a elwir yn AI Er Drwg. Bu llawer o benawdau am systemau AI sy'n defnyddio prosesau gwneud penderfyniadau algorithmig (ADM) sy'n gyforiog o ragfarnau ac annhegwch. Ar ben hynny, mae llawer o'r AI cyfoes yn dioddef o ddiffyg tryloywder, yn dueddol o fod yn anesboniadwy o ran egluro penderfyniadau cyfrifiannol, yn aml yn dangos diffyg tegwch, ac wedi galluogi rhai i ddargyfeirio eu hatebolrwydd dynol trwy bwyntio bysedd at AI.

Rwyf wedi bod yn ymdrin yn helaeth â AI Moesegol a moeseg AI yn fy ysgrifeniadau, gan gynnwys y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Sut y gall fod AI Er Drwg os cymerwn fel llun a nodir y dylid saernïo AI o'r dechrau i osgoi gweithredoedd anfoesegol?

Mae'r ateb yn aml-blyg.

Yn gyntaf, mae llawer o ddatblygwyr AI a chwmnïau sy'n maesu AI eu hunain yn ddi-glem am bwysigrwydd siapio eu AI i aros o fewn ffiniau moesegol. Nid yw'r cysyniad ar eu radar o gwbl. Mae'r atyniad o wneud arian cyflym yn achosi i rai fwrw ymlaen â pha bynnag syniadau AI gwyllt y maent am eu cynhyrchu'n fwriadol. Nid oes angen darganfod unrhyw bethau moesegol. Dim ond adeiladu'r AI a'i roi ar waith.

Yn ail, mae yna rai sy'n gwneud AI sy'n addurno ymwybyddiaeth lwyr o'r goblygiadau moesegol, ond maen nhw'n bychanu neu'n anwybyddu'r ystyriaethau AI Moesegol yn amlwg. Un persbectif cyffredin yw'r mantra clasurol technegol o anelu at fethu'n gyflym a methu'n aml. Daliwch ati i ailadrodd nes bod pethau wedi setlo'n briodol gobeithio. Yn anffodus, prin yw'r siawns o wasgu unrhyw ymgorfforiad systematig a meddylgar o foeseg AI yn yr ymdrechion AI cyflym hynny. Rwy'n trafod yr angen i rymuso arweinyddiaeth tuag at AI Moesegol yn y ddolen yma.

Yn drydydd, mae llawer o wallgofrwydd ynghylch pa reiliau gwarchod moesegol y dylid eu diddanu wrth ddyfeisio AI. Yn sicr, mae yna lawer o ganllawiau moeseg AI y dyddiau hyn, gweler fy sylw yn y ddolen yma, er ei bod yn anodd troi'r praeseptau damcaniaethol defnyddiol hyn o reidrwydd yn fanylion ar gyfer adeiladu system AI benodol. Rwyf wedi nodi y byddwn yn araf yn gweld offer a methodolegau adeiladu AI yn dod i'r amlwg sy'n cynnwys arferion codio AI Moesegol, gan helpu i gau'r bwlch rhwng yr agweddau haniaethol a'r ffasedau rwber diarhebol sy'n cwrdd â'r ffordd.

Yn bedwerydd, yn unol â'r pwyslais yma, rydym yn archwilio'r achos o AI yr effeithir arno, hyd yn oed os yw wedi'i gyfansoddi i ddechrau o fewn ffiniau moesegol, yna tra'n cael ei ddefnyddio'n ymdroelli y tu hwnt i'r paramedrau a amgodiwyd yn foesegol dybiedig.

Mae angen inni ddadbacio hynny.

Mae llawer o AI heddiw yn defnyddio Dysgu Peiriant (ML) a Dysgu Dwfn (DL). Mae'r rhain yn dechnegau a thechnolegau paru patrymau cyfrifiannol. Yn gyffredinol, y syniad yw eich bod yn casglu llawer o ddata perthnasol at ei gilydd i beth bynnag y mae'r AI i fod i allu ei wneud, eich bod yn bwydo'r data hwnnw i'r cyfatebolydd patrwm cyfrifiannol a ddewiswyd, ac mae'r patrwm sy'n cyfateb yn fathemategol yn ceisio dod o hyd i batrymau defnyddiol. Sylwch nad oes unrhyw deimlad ar ran yr AI hwn (nad oes y fath beth, eto, yn bodoli eto). Nid oes ychwaith unrhyw resymu synnwyr cyffredin dan sylw. Mae'r cyfan yn fathemateg a chyfrifiannau.

Mae'n bosibl bod y data sy'n cael ei fwydo i'r ML/DL eisoes wedi'i drwytho â thueddiadau ac annhegwch. Yn yr achos hwnnw, yr ods yw y bydd paru patrwm cyfrifiannol yn dynwared yr un anghysondebau yn unig. Os ydych chi'n darparu data sy'n ffafrio un hil dros y llall neu'n ffafrio un rhyw dros y llall, mae siawns sylweddol y bydd paru'r patrwm yn cyd-fynd â hwnnw fel y patrwm a ddarganfuwyd.

Problem fawr gyda'r math hwnnw o glicied yw y gallem gael amser anodd yn dadlau bod y patrymau'n seiliedig ar yr agwedd honno ar y data. Gall y fathemateg ddyrys a chymhleth wneud wyneb y fath batrymau a ddarganfuwyd yn dipyn o broblem. Nid yw hyd yn oed profi’r AI o reidrwydd yn mynd i ddatgelu’r tueddiadau hynny, yn dibynnu ar ystod a dyfnder y profion a ddefnyddir.

Felly, gadewch i ni dybio eich bod wedi adeiladu system AI ac wedi gwneud eich gwaith cartref trwy geisio osgoi defnyddio data a oedd â thueddiadau blaenorol yn gyntaf. Nesaf, ar ôl i'r Dysgu Peiriannau a'r Dysgu Dwfn gael eu gwneud, fe wnaethoch chi brofi'r canlyniadau i weld a oedd unrhyw ragfarnau neu annhegwch yn codi rywsut. Gadewch i ni dybio na allwch ddod o hyd i unrhyw dueddiadau anffodus o'r fath.

Wedi dweud y cyfan, mae'r golau gwyrdd bellach yn cael ei roi i fynd ymlaen a rhoi'r AI i ddefnydd. Bydd pobl yn dechrau defnyddio'r AI ac yn debygol o gymryd yn ganiataol ei fod yn foesegol briodol. Mae'r datblygwyr yn meddwl hyn hefyd. Mae'r cwmni sy'n gosod yr AI yn meddwl hyn. I ffwrdd a ni i gyd.

Dyma beth all ddigwydd.

Mae canfyddiad o ragfarn na ddarganfuwyd yn y data gwreiddiol ac na chafodd ei ddal wrth brofi'r AI yn cael ei ysgogi gan ganfyddiad. Efallai mai dim ond yn anaml y mae hyn yn digwydd. Efallai y credwch, cyn belled â'i fod yn brin, bod popeth yn iawn. Rwy'n amau ​​serch hynny bod y rhai sy'n agored i'r duedd ddywededig yn fodlon gweld pethau felly. Meiddiaf ddweud bod y system AI a’r rhai a’i lluniodd yn mynd i wynebu ôl-effeithiau, naill ai yn y llysoedd cyfreithiol neu yn y llys barn gymdeithasol penagored.

Amrywiad arall yw'r syniad diarhebol o gymryd modfedd a chipio milltir. Gallai'r inc fod yn fach iawn i ddechrau. Yn ystod y defnydd o'r AI, efallai y byddai'r AI wedi'i ddyfeisio i'w newid ei hun wrth i bethau fynd yn eu blaenau. Gall y math hwn o “ddysgu” neu “hunanddysgu” fod yn eithaf defnyddiol. Yn hytrach na'i gwneud yn ofynnol i ddatblygwyr dynol-AI addasu ac addasu'r system AI yn barhaus, mae'r AI wedi'i adeiladu i wneud hynny ar ei ben ei hun. Dim oedi, dim llafur drud, ac ati.

Anfantais yr hunan-addasiad defnyddiol hwn yw y gall yr inkling gael ei ddyrchafu i fod yn fwy ac yn fwy o fewn cwmpas defnydd yr AI. Er y gallai'r gogwydd fod mewn cornel fach dynn, mae bellach yn cael lle i ehangu. Nid oes gan yr AI unrhyw ymddangosiad bod hyn yn “anghywir” a'i fod yn estyn rhywbeth sy'n ymddangos fel pe bai'n gweithio yn gyfrifiadol.

Os yw hynny'n gwneud i'r gwallt sefyll ar eich pen, bydd angen i chi eistedd i lawr ar gyfer yr amrywiad nesaf.

Tybiwch nad oedd y rhagfarn yn bodoli o'r cychwyn cyntaf ac mae gennym bob cred resymegol bod y Mynegai Gwerthfawrogiad yn gwbl ddiduedd. Fe wnaethon ni naill ai ddod yn ffodus neu fe wnaethom sicrhau'n systematig nad oedd unrhyw dueddiadau yn unrhyw le yn y data ac ni chododd yr un ohonynt trwy'r paru patrwm cyfrifiannol. Er gwaethaf yr ochenaid honno o ryddhad, caniateir i'r AI addasu tra'n cael ei ddefnyddio. Mae drws Pandora yn cael ei agor ac mae'r AI yn dewis symud yn gyfrifiadol tuag at ragfarnau a geir yn ystod beth bynnag y mae'r AI yn ei wneud.

Mae gogwydd newydd yn cael ei lyncu i'r AI, ac nid oes unrhyw un yn arbennig o ddoethach ei fod wedi digwydd. Yikes, rydym wedi creu anghenfil, Frankenstein veritable.

Sut y gellir atal neu o leiaf amlygu'r ymddangosiad hwn?

Mae un dull sy'n ennill tyniant yn cynnwys ymgorffori elfen gywain moeseg yn yr AI. Mae'r AI wedi'i adeiladu i gynnwys elfennau AI Moesegol. Yna mae'r elfennau hynny'n gwylio neu'n monitro gweddill yr AI tra bod yr AI yn addasu dros amser. Pan ymddengys bod yr AI wedi mynd y tu hwnt i'r praeseptau moesegol a raglennwyd, mae'r AI Moesegol yn ceisio gwneud yr addasiadau hynny neu'n rhybuddio'r datblygwyr bod rhywbeth wedi mynd o'i le.

Gallwch geisio rhaglennu'r gallu goruchwylio AI Moesegol hwn a gobeithio y bydd yn drechaf tra bydd yr AI yn cael ei ddefnyddio.

Ongl arall braidd yn ddadleuol fyddai defnyddio Machine Learning a Deep Learning i hyfforddi'r agweddau AI Moesegol i'r system AI.

Dweud beth?

Ydy, y cysyniad anuniongred efallai yw, yn lle rhaglennydd dynol yn amgodio set o praeseptau moeseg AI yn uniongyrchol, mae'r AI wedi'i siapio i geisio eu “dysgu” yn lle hynny. Dwyn i gof i mi nodi'n fyr fod defnyddio ML/DL fel arfer yn dibynnu ar fwydo data i'r algorithmau ac mae paru patrwm cyfrifiannol yn digwydd. Y cwestiwn miliwn o ddoleri yw a allwn ddefnyddio'r un mecanwaith i drwytho gwerthoedd moesegol i system AI.

Mae'n debyg y gallech chi gymharu hyn â'm trafodaeth yn yr agoriad ar sut mae bodau dynol yn dod yn ymwybodol o egwyddorion moesegol, ond peidiwch ag anthropomorffeiddio AI heddiw fel rhywbeth y gellir ei gymharu â meddwl dynol (nid yw, a byddaf yn ailadrodd yr anogaeth honno'n fuan). Gellir rhaglennu'r AI yn “gynhenid” gyda phraeseptau AI moesegol. Neu gallai'r AI “ddysgu” praeseptau AI moesegol. Gallwch chi wneud y ddau, wrth gwrs, sy'n rhywbeth rydw i wedi rhoi sylw iddo yn rhywle arall, gweler y ddolen yma.

Cymerwch eiliad i fyfyrio ar y cysyniad sy'n ymddangos yn syfrdanol y gallai AI “ddysgu” moeseg ac ergo, yn ôl pob tebyg, gadw at ymddygiadau moesegol.

Mae'r ymchwilwyr hyn yn defnyddio enghraifft o system AI sy'n cyfrifo'r tymheredd dymunol mewn tŷ i ddangos sut y gall hyn weithio: “Yn gyntaf fe 'sylwodd' ymddygiad y bobl mewn gwahanol gartrefi am wythnos yn unig a daeth i gasgliadau am eu hoffterau. Yna defnyddiodd synhwyrydd canfod symudiadau i benderfynu a oedd unrhyw un gartref. Pan oedd y tŷ yn wag, aeth y thermostat smart i mewn i fodd arbed ynni uchel; pan oedd pobl gartref, addasodd y thermostat y tymheredd i gyd-fynd â'u dewisiadau. Mae'r thermostat hwn yn amlwg yn bodloni dau ofyniad bot moeseg, er ei fod yn un syml iawn. Mae'n asesu dewisiadau pobl ac yn eu gorfodi ar reolaethau'r system wresogi ac oeri. Gall rhywun ofyn beth sydd gan hyn i'w wneud â gwerthoedd moesol cymdeithasol. Mae'r thermostat hwn yn galluogi pobl â gwerthoedd gwahanol i gael y gosodiadau tymheredd sydd orau ganddynt. Nid oes angen i drigolion y cartref ailosod y thermostat bob dydd wrth fynd a dod. Mae’r bot moeseg syml hwn hefyd yn lleihau ôl troed ynni’r gymuned gyfan” (yn ôl y papur gan Amitai Etzioni ac Oren Etzioni o’r enw “AI Assisted Ethics” yn y gyfrol ar Moeseg a Thechnoleg Gwybodaeth).

Cyn i mi gloddio ymhellach i'r troeon trwstan o gael AI sy'n “dysgu” ymddygiad moesegol, hoffwn ddweud rhywbeth mwy am statws AI.

Gall AI gynnwys y cyflyrau posibl hyn:

1. Ansynhwyrol plaen-hen AI heddiw

2. AI sentent o ansawdd dynol (nid oes gennym hyn eto)

3. AI synhwyrus sy'n hynod ddeallus (ymestyn y tu hwnt i #2)

Rwy'n mynd i ganolbwyntio ar y cyflwr presennol sef AI plaen-hen ansynhwyraidd. Mae llawer o'r hyn y gallech ei ddarllen am AI Moesegol ar adegau yn ymwneud â'r AI teimladol ac felly mae'n ddyfaliadol iawn. Rwy'n dweud ei fod yn hapfasnachol oherwydd ni all unrhyw un binio'r gynffon ar yr asyn o'r hyn y bydd AI ymdeimladol. Hyd yn oed ymhellach y tu hwnt i faes AI synhwyraidd ansawdd dynol mae'r AI hynod ddeallus o lawer. Mae yna lawer o straeon ffuglen wyddonol ac amheuon ynghylch sut y gallai'r blasau hynny o AI benderfynu caethiwo dynolryw, neu efallai ein dileu ni i gyd. Gelwir hyn yn risg dirfodol AI. Ar adegau, mae'r cyfyng-gyngor hefyd yn cael ei eirio fel risg trychinebus AI.

Mae rhai yn dadlau y gallem fod yn iawn cyn belled â'n bod yn cadw AI at yr hen AI plaen nad yw'n synhwyrol sydd gennym heddiw. Gadewch i ni dybio na allwn gyrraedd AI ymdeimladol. Dychmygwch, ni waeth pa mor galed rydyn ni'n ceisio creu AI ymdeimladol, rydyn ni'n methu â gwneud hynny. Yn ogystal, cymerwch yn ganiataol er mwyn trafodaeth nad yw AI ymdeimladol yn codi trwy ryw broses ddigymell ddirgel.

Onid ydym yn ddiogel wedyn y bydd y AI llai o safon hon, sef yr unig fath posibl o AI, yn cael ei ddefnyddio?

Ddim mewn gwirionedd.

Yn fras, mae'r un materion cyffredinol yn debygol o godi. Dydw i ddim yn awgrymu bod yr AI yn “meddwl” ei ffordd i fod eisiau ein dinistrio. Na, dim ond mewn safleoedd o rym y gosodir yr AI cyffredin nad yw'n deimladwy, sy'n peri i ni gael ein llethu mewn hunan-ddinistr. Er enghraifft, rydyn ni'n rhoi AI ansynhwyrol i arfau dinistr torfol. Nid yw'r arfau ymreolaethol hyn yn gallu meddwl. Ar yr un pryd, nid yw bodau dynol yn cael eu cadw'n llawn yn y ddolen. O ganlyniad, mae’r AI fel ffurf o awtomeiddio ymreolaethol yn achosi canlyniadau trychinebus yn anfwriadol, naill ai drwy orchymyn dynol i wneud hynny, neu drwy fyg neu wall, neu drwy fewnblannu drygioni, neu drwy hunan-addasiadau sy’n arwain materion i lawr. llwybr hyll, etc.

Byddwn yn dadlau bod problem moeseg AI yn bodoli ar gyfer pob un o’r tri chyflwr a bennir gan AI, sef bod gennym ni faterion moesegol AI gydag AI plaen nad yw’n synhwyrol, a chyda deallusrwydd artiffisial teimladol sydd naill ai ar lefel ddynol yn unig neu’r AI estynedig sy’n ei gyrraedd. y lefel uwch-ddeallusrwydd clodwiw.

O gofio'r ynganiad sobreiddiol hwnnw, gallwn yn sicr drafod y maint a'r anhawster sy'n gysylltiedig â'r problemau moesegol ar bob un o'r lefelau priodol o AI. Y safbwynt arferol yw bod sefyllfa foeseg AI yn llai anorchfygol ar yr AI nad yw'n deimladwy, yn llymach ar y lefel AI teimladol-cyfartal dynol, ac yn wir yn crafu pen ar gam materion AI uwch-ddeallus ymdeimladol.

Po orau y daw'r AI, y gwaethaf y daw problem moeseg AI.

Efallai bod honno'n ddeddf natur anorchfygol.

Gan ddychwelyd i'r ffocws ar AI heddiw, mae ceisio cael AI i “ddysgu” ymddygiadau moesegol trwy Ddysgu Peiriannau cyfoes a Dysgu Dwfn yn llawn pryderon a phroblemau dyrys. Tybiwch fod yr AI yn methu â chasglu'r praeseptau moesegol dymunol? Sut byddwn yn gwybod yn sicr ei fod wedi methu â gwneud hynny? Hefyd, a fydd rhannau eraill o system AI o bosibl yn diystyru’r lluniadau moesegol a ddysgwyd? Ychwanegwch at hyn, os yw'r AI yn addasu ar y hedfan, gallai'r addasiadau deneuo'r agweddau moesegol neu eu llethu'n gyfan gwbl yn anfwriadol.

I wneud pethau'n waeth, gallai'r “dysgu” arwain at yr AI yn glanio ar ymddygiadau gwirioneddol anfoesegol. Er ein bod yn meddwl ein bod yn gwneud y peth iawn trwy wthio'r AI tuag at fod yn foesegol, mae'n ymddangos bod yr AI wedi llithro i gyfateb patrwm ar yr agweddau anfoesegol yn lle hynny. Sôn am saethu ein troed ein hunain, fe allai ddigwydd yn llwyr.

Ar y pwynt hwn o'r drafodaeth hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau ychwanegol o'r byd go iawn a allai amlygu sut y gallai “dysgu” AI moeseg fod yn berthnasol i AI heddiw (heblaw am ymlid blasus yr enghraifft thermostat).

Rwy'n falch ichi ofyn.

Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r her AI foesegol hon yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am y AI yn gallu “dysgu” praeseptau AI Moesegol, ac os felly, beth mae hyn yn ei arddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae gwir geir hunan-yrru yn rhai y mae'r AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes car hunan-yrru go iawn ar Lefel 5 eto, nad ydym hyd yn oed yn gwybod a fydd hyn yn bosibl ei gyflawni, a pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru A Brechiad AI Moesegol

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir hunan-yrru a phosibiliadau AI Moesegol sy'n golygu'r honiad sy'n codi'r aeliau y gallwn ni gael AI i “ddysgu” am ymddygiadau moesegol ynddo'i hun.

Gadewch i ni ddefnyddio enghraifft syml iawn. Mae car hunan-yrru seiliedig ar AI ar y gweill ar strydoedd eich cymdogaeth ac mae'n ymddangos ei fod yn gyrru'n ddiogel. Ar y dechrau, roeddech chi wedi rhoi sylw arbennig i bob tro y gwnaethoch chi lwyddo i gael cipolwg ar y car hunan-yrru. Roedd y cerbyd ymreolaethol yn sefyll allan gyda'i rac o synwyryddion electronig a oedd yn cynnwys camerâu fideo, unedau radar, dyfeisiau LIDAR, ac ati. Ar ôl wythnosau lawer o'r car hunan-yrru yn mordeithio o amgylch eich cymuned, prin eich bod chi'n sylwi arno nawr. Cyn belled ag yr ydych yn y cwestiwn, dim ond car arall ydyw ar y ffyrdd cyhoeddus sydd eisoes yn brysur.

Rhag eich bod yn meddwl ei bod yn amhosibl neu'n annhebygol i ddod yn gyfarwydd â gweld ceir hunan-yrru, rwyf wedi ysgrifennu'n aml am sut mae'r lleoliadau sydd o fewn cwmpas treialon ceir hunan-yrru wedi dod i arfer yn raddol â gweld y cerbydau wedi'u hysgaru, gweld fy nadansoddiad yn y ddolen hon yma. Yn y pen draw, symudodd llawer o'r bobl leol o ganu'r wyllt i fympwyo yn awr gan allyrru dyrnaid eang o ddiflastod i weld ceir hunan-yrru troellog.

Mae'n debyg mai'r prif reswm ar hyn o bryd y gallent sylwi ar y cerbydau ymreolaethol yw oherwydd y ffactor llid a chythruddo. Mae systemau gyrru AI wrth y llyfr yn sicrhau bod ceir yn ufuddhau i holl gyfyngiadau cyflymder a rheolau'r ffordd. Ar gyfer gyrwyr dynol prysur yn eu ceir traddodiadol sy'n cael eu gyrru gan bobl, rydych chi'n cael eich cythruddo ar adegau pan fyddwch chi'n sownd y tu ôl i'r ceir hunan-yrru sy'n cydymffurfio â'r gyfraith yn seiliedig ar AI.

Mae hynny'n rhywbeth y gallai fod angen i ni i gyd ddod i arfer ag ef, yn gywir neu'n anghywir.

Yn ôl at ein chwedl. Un diwrnod, mae'n debyg bod car hunan-yrru yn eich tref neu ddinas yn gyrru ymlaen ac yn dod ar sefyllfa lle mae cerddwr yn aros i groesi'r ffordd. Cymryd yn ganiataol nad oes gan y cerddwr yr hawl tramwy fel y cyfryw. Gallai car sy'n cael ei yrru gan ddyn fynd heibio'r cerddwr a bod yn gwbl gyfreithlon wrth wneud hynny. Yn yr un modd, mae'r system yrru AI yn gallu mynd heibio'r cerddwr aros yn gyfreithiol.

Mae penderfynu a ddylid stopio a gadael i'r cerddwr fynd ar draws y stryd yn gwbl ddewisol i'r gyrrwr, ni waeth a yw'n yrrwr dynol neu'n system yrru AI.

Rwy’n siŵr eich bod wedi dod ar draws y math hwn o sefyllfa nifer di-rif o weithiau. Efallai eich bod ar frys, felly peidiwch â stopio i adael i'r cerddwr groesi. Ar achlysur arall, mae gennych chi ddigon o amser i gyrraedd pen eich taith, felly rydych chi'n dewis stopio a chaniatáu i'r sawl sy'n aros gerdded ar draws y stryd. Eich hwyliau a'r amgylchiadau penodol sy'n pennu'r hyn y byddwch yn dewis ei wneud.

Nid oes dim am y senario hwn yn ymddangos yn anarferol nac yn flinderus.

Cyn i mi archwilio ochr AI pethau, efallai y byddai gennych ddiddordeb mewn gwybod bod yr agwedd benodol hon ar ddisgresiwn sy'n caniatáu i gerddwr groesi stryd wedi'i hastudio'n fanwl. Mae ymchwilwyr wedi nodi y gall y dewis a wneir gan y gyrrwr ddibynnu ar dueddiadau hiliol neu rywedd yn ôl pob tebyg. Efallai y bydd gyrrwr dynol yn mesur maint y cerddwr sy'n aros ac yn dewis caniatáu i'r person groesi yn ôl pob golwg yn seiliedig ar ragfarnau cynhenid ​​​​y gyrrwr. Mae p'un a yw'r gyrrwr hyd yn oed yn sylweddoli ei fod yn gwneud hynny yn fater o ymchwil barhaus. Gweler fy sylw yn y ddolen hon yma.

Rwyf wedi gosod y llwyfan ar gyfer ein hymchwiliad i'r hyn y gallai system yrru AI ei wneud yn y sefyllfa croesfan i gerddwyr.

Gallai rhaglennu confensiynol yr AI olygu bod datblygwyr AI bob amser yn penderfynu rhoi'r system yrru AI i stop a gadael i'r cerddwyr groesi. Ymddengys mai dyma'r peth moesegol briodol neu sifil i'w wneud. Mae'r car hunan-yrru yn gohirio i'r bod dynol sy'n aros sydd eisiau croesi'r stryd.

Rwy'n meiddio dweud, petaech chi'n deithiwr y tu mewn i gar sy'n gyrru ei hun a bod yr AI bob amser yn stopio ar gyfer pob cerddwr dewisol sy'n aros, efallai y byddwch chi'n mynd yn wallgof. Efallai y bydd eich taith gyflym i'r siop groser yn cymryd llawer mwy o amser i ddigwydd. Cofiwch hefyd nad ydym yn cyfeirio at gerddwyr sydd â'r hawl tramwy cyfreithiol defosiynol i groesi, oherwydd mae'n debyg y byddai'r AI eisoes wedi'i raglennu i'w ganiatáu bob amser yn yr achosion hynny. Dim ond ar yr amgylchiadau dewisol yr ydym yn canolbwyntio.

Mae mwy o anfanteision i'r datganiad hwn o stopio bob amser i adael i gerddwyr dewisol groesi'r stryd.

Mae'r rhai sy'n gwneud ac yn maesu ceir hunan-yrru seiliedig ar AI eisiau i bobl reidio ynddynt. Y syniad yw, trwy gael ceir hunan-yrru, y gallem leihau nifer y damweiniau ceir blynyddol, sydd ar hyn o bryd yn cynhyrchu tua 40,000 o farwolaethau blynyddol a 2.5 miliwn o anafiadau yn yr Unol Daleithiau yn unig, gweler fy nghasgliad ystadegau yn y ddolen hon yma. Yn ogystal â'r nod cymdeithasol parchedig hwn, mae'r gwneuthurwyr ceir a'r gwneuthurwyr technoleg hunan-yrru yn gobeithio gwneud arian oddi ar eu creadigaethau AI hefyd, yn naturiol felly.

Rwy'n codi hyn oherwydd efallai y bydd pobl yn penderfynu peidio â reidio mewn ceir hunan-yrru os yw'r system yrru AI yn gwneud pethau hynny yn ddiangen yn y diwedd oedi teithiau. Byddai unrhyw berson bob dydd yn rhesymu y gallai'r daith fod yn gyflymach trwy ddewis gyrrwr dynol yn lle hynny, ac ergo y gallai dewis car hunan-yrru AI ar gyfer taith gael ei osod yn isel iawn ar y rhestr o'u dewisiadau. Byddai hyn yn ei dro yn golygu na fyddai gennym y gostyngiad a geisir mewn damweiniau ceir a hefyd y byddai'r gwneuthurwyr o bosibl yn gweld eu nwyddau'n amhroffidiol.

O ystyried y set honno o ddadleuon, efallai y byddwch yn meddwl na ddylai'r Mynegai Gwerthu byth ddod i ben pan geir enghraifft ddewisol o gerddwr sydd eisiau croesi'r stryd. Rhaglennwch y system yrru AI i wneud beth bynnag sy'n gwbl gyfreithiol. Os nad oes gofyniad cyfreithiol i adael i gerddwr groesi, yna pob lwc i'r cerddwr hwnnw sy'n aros. Efallai y dylai'r person wneud ei ffordd i fan croesi sy'n caniatáu ar gyfer sail gyfreithiol i'r AI atal y car hunan-yrru.

Allwch chi ddychmygu'r brotest ar hyn?

Mae pobl yn eich tref neu ddinas yn darganfod yn raddol na fydd ceir hunan-yrru AI byth yn caniatáu i gerddwr dewisol groesi. Creodd hynny AI irascible! Mae fel petai'r AI yn curo'i drwyn at fodau dynol. Cariad anfoesgar o ddarn o awtomeiddio di-dda. I ychwanegu at hyn, dychmygwch fod yna amgylchiadau wedi'u dogfennu lle mae angen dirfawr i gerddwyr groesi ac na fyddai'r AI yn dod i ben o gwbl.

Yn y cyfamser, roedd gyrwyr dynol yn barod i stopio i adael i’r bobl “anobeithiol” hynny groesi’r stryd yn ddiogel.

O ganlyniad i'r dicter hwn, nid yw ceir hunan-yrru AI bellach yn cael eu croesawu ar strydoedd a chilffyrdd eich ardal leol. Mae trwyddedau a roddwyd gan arweinwyr y ddinas yn cael eu dirymu. Cael y brutes anniolchgar oddi ar ein ffyrdd yw'r lleisiol.

Iawn, mae'n ymddangos ein bod ni rhwng craig a lle caled. Ni ddylai'r AI bob amser adael i gerddwyr groesi yn ôl disgresiwn (peidiwch â stopio bob amser). Ni ddylai'r AI atal cerddwr dewisol rhag croesi bob amser (peidiwch â chwyddo heibio bob amser). Beth i'w wneud?

Yr ateb amlwg fyddai rhaglennu'r AI i weithredu mewn modd dewisol.

Gofynnaf ichi ystyried yr ADM (gwneud penderfyniadau algorithmig) y dylai hwn ei gynnwys. A fydd yr AI yn ceisio canfod natur y cerddwr a defnyddio'r nodweddion canfyddedig fel sail i benderfynu a ddylid stopio'r car hunan-yrru ai peidio? Efallai mai rhywun hŷn sy'n edrych yw'r ffordd i ddewis. Ond a yw hynny'n gamwahaniaethu ar sail oed ar y gweill? Ac yn y blaen.

Efallai bod y system yrru AI wedi'i rhaglennu i stopio yn ystod oriau golau dydd a pheidio byth â stopio yn ystod y nos. Y rhesymeg o bosibl yw y rhagdybir ei bod yn fwy diogel i'r beicwyr yn y car sy'n gyrru eu hunain fod y cerbyd ymreolaethol yn dod i stop yn ystod y dydd ond nid yn ystod oriau llai gyda'r nos.

Mae hynny'n swnio'n synhwyrol efallai. Rhan o'r broblem fydd disgwyliadau cerddwyr. Dyma beth yr wyf yn ei olygu. Mae cerddwyr yn gweld y ceir hunan-yrru AI yn stopio ar gyfer croesfannau dewisol, sy'n digwydd yng ngolau dydd. Nid yw'r cerddwyr yn gwybod pa feini prawf y mae'r AI yn eu defnyddio i benderfynu stopio. Y rhagdybiaeth gan rai cerddwyr yw y bydd yr AI bob amser yn dod i ben (heb sylweddoli mai golau dydd yn erbyn nos yw'r gwir benderfynydd). O ganlyniad, mae'r cerddwyr hynny sy'n credu y bydd y car hunan-yrru bob amser yn stopio yn mynd i gymryd siawns a dechrau croesi pan nad yw'r system yrru AI yn anelu at stopio o gwbl (a fyddai'r AI yn debygol o ddod i stop os mae’r cerddwr yn mynd i mewn i’r stryd, er y gallai hyn fod yn ddisych a gallai ffiseg atal yr AI rhag atal y car hunan-yrru dim digon o amser i osgoi taro’r cerddwr sy’n ymddangos yn “gyfeiliornus”).

Tybiwch fod y datblygwyr AI a'r cwmnïau sy'n gosod ac yn gosod y ceir hunan-yrru yn eich tref yn ansicr ynghylch sut i gael y deallusrwydd artiffisial yn gyfredol ar y mater hwn.

Maen nhw'n penderfynu “hyfforddi” yr AI ar ddata a gasglwyd o bob rhan o'r locale. Mae'n ymddangos bod yna ddigon o gamerâu wedi'u gosod yn y ddinas sydd wedi dal y ceir yn mynd a dod ledled y dreflan. Mae'r data hwn yn dangos llawer o achosion o gerddwyr yn ceisio croesi'r stryd yn ôl disgresiwn. Mae'r holl ddata yn cael ei fwydo i mewn i system Dysgu Peiriannau a Dysgu Dwfn i ddeillio'r hyn a ystyrir yn arferol yn yr awdurdodaeth honno.

A ydym yn hyfforddi'r AI i wneud yr hyn y mae moesau moesegol lleol yn ei arddangos i'w wneud?

Mewn geiriau eraill, pe bai gan dref benodol ddiwylliant lleol yn fwy o dueddu i stopio a gadael i gerddwyr dewisol groesi fel y dangosir gan weithredoedd gyrrwr dynol, mae'n bosibl y byddai'r ML/DL yn sylwi ar y patrwm hwn yn gyfrifiadol. Byddai'r AI wedyn yn cael ei hyfforddi i wneud yr un peth. Ar y pegwn arall, os anaml y bydd y gyrwyr dynol yn stopio, byddai'r AI o bosibl yn cael y “wers” ​​honno o ddadansoddi'r data yn gyfrifiadol. Bydd yr AI yn gwneud fel bodau dynol, math o.

Yr honiad yw bod ymddygiadau moesegol bodau dynol yn cael eu dal yn y data a bod yr AI yn mynd i drwytho'r un praeseptau moesegol hynny trwy ddadansoddiad cyfrifiannol. Yn gyffredinol, byddai moesegydd yn disgrifio hyn fel ymagwedd gymunedol at foeseg. Adlewyrchir gwerthoedd cyffredin y gymuned yn ymdrechion y gymuned yn gyffredinol.

Gallai hyn ymddangos fel ateb dandi.

Yn anffodus, mae yna lawer o beryglon.

Un broblem amlwg efallai yw y gallai'r gyrwyr dynol eisoes fod yn arfer rhyw fath o ragfarn wrth ddewis stopio neu beidio â stopio (fel y crybwyllwyd yn gynharach). Yna bydd yr AI yn gopi o'r tueddiadau hyn. A ydym am i hynny fod yn wir?

Ystyriwch broblem arall. Tybiwch nad yw gyrwyr dynol yn barod i dderbyn sut mae ceir hunan-yrru AI yn gweithredu. Dim ond oherwydd bod gyrwyr dynol yn barod i roi'r gorau iddi, efallai na fyddai hyn yn cael ei ragdybio i'r un graddau ar gyfer ceir sy'n gyrru eu hunain. Mae'n bosibl bod gyrwyr dynol yn cael eu cynhyrfu gan y ceir hunan-yrru AI sy'n dal i stopio i gerddwyr dewisol, er bod yr un peth yn digwydd gan yrwyr dynol ond nid yw'n ymddangos bod hynny'n tarfu ar yrwyr dynol.

Yn ogystal â bod yn annifyr, gallwch hefyd ddychmygu'r posibilrwydd y bydd gyrwyr dynol yn dod â cheir hunan-yrru i ben yn anfwriadol. Os nad oedd gyrrwr dynol yn disgwyl i'r car hunan-yrru stopio i gerddwr, ac os yw'r car sy'n cael ei yrru gan ddyn yn union y tu ôl i'r car hunan-yrru, gall diffyg cyfatebiaeth enbyd o ran disgwyliadau godi. Mae'r system yrru AI yn dod â'r car hunan-yrru i stop. Nid oedd y gyrrwr dynol yn rhagweld y weithred hon. Mae'r gyrrwr dynol yn slamio i mewn i'r car sy'n gyrru ei hun. Bydd anafiadau ac o bosibl marwolaethau yn dilyn.

Nodais yn bwrpasol y siawns o niwed dynol.

Efallai y bydd y cerddwyr sy'n croesi'r stryd yn edrych yn sydyn fel cwestiwn dibwys. Mae'n ymddangos na all neb gael ei frifo trwy ba bynnag ddull y mae'r AI yn dewis stopio neu beidio. Anghywir! Mae siawns y bydd y cerddwr yn rhedeg drosodd. Mae yna siawns y bydd car sy'n cael ei yrru gan ddyn yn taro i mewn i'r car hunan-yrru. Gall gyrrwr a theithwyr y car sy'n cael ei yrru gan ddyn gael eu brifo. Gall y marchogion y tu mewn i'r car hunan-yrru gael eu niweidio. Mae permutations ychwanegol o niwed dynol posibl yn cael eu rhagweld yn hawdd.

Casgliad

Wrth siarad am niwed dynol, byddaf yn rhoi rhywbeth arall i chi i gael eich meddyliau i grwydro ar y penbleth AI Moesegol hwn.

Adroddodd stori newyddion fod dyn yn gyrru car i mewn i groesffordd a bod ganddo olau gwyrdd i wneud hynny. Dewisodd car arall a yrrwyd gan ddyn redeg golau coch y groesffordd ac yn anghyfreithlon ac yn anniogel aeth yn ddirwystr i'r groesffordd, gan fygwth taro'r car oedd yn mynd yn ei flaen yn gyfreithlon.

Dywedodd y gyrrwr wrth gohebwyr fod yn rhaid iddo ddewis rhwng taro’r ergyd, neu fe allai wyro ei gar er mwyn osgoi cael ei daro, gobeithio, ond roedd cerddwyr gerllaw a gallai’r weithred wyro beryglu’r bobl hynny. Beth fyddech chi'n ei wneud? Gallwch ddewis cael eich taro gan y car hwn sydd ar y gorwel ac efallai byw i adrodd yr hanes. Neu gallwch geisio osgoi cael eich taro ond yn y cyfamser o bosibl rhedeg i lawr cerddwyr diniwed.

Mae gan lawer o'n gyrru bob dydd y mathau hynny o benderfyniadau moesegol enfawr ac enbyd i'w gwneud. Yr wyf wedi trafod hyn yn helaeth, ynghyd â pherthnasu’r penderfyniadau gyrru bywyd-neu-farwolaeth hyn i’r Broblem Troli enwog, neu medd rhai, gweler fy ymhelaethu yn y ddolen yma.

Disodli'r gyrrwr dynol yn y senario hwn gyda system yrru AI.

Beth ydych chi am i'r AI ei wneud?

Mae hwnnw'n gwestiwn dryslyd.

Un ffordd o fynd ati yw rhaglennu'r AI i gymryd camau gyrru syth ymlaen yn unig, a thrwy hynny beidio ag ystyried opsiynau eraill yn gyfrifiadol megis gwyro oddi wrth y ddamwain debygol. Byddwn yn rhagweld y bydd marchogion mewn ceir sy'n gyrru eu hunain yn ofidus i ddarganfod nad oedd yr AI wedi'i ddyfeisio i wneud unrhyw beth heblaw cymryd yr ergyd. Gallwch ddisgwyl achosion cyfreithiol a chynnwrf.

Dull arall fyddai ceisio rhaglennu'r AI i ystyried y gwahanol bosibiliadau. Pwy serch hynny sy'n cael sefydlu'r ADM sy'n penderfynu pa ffordd y byddai'r system gyrru AI yn mynd? Mae'n ymddangos bod caniatáu i ddatblygwyr AI wneud penderfyniadau mor drwm ar eu pen eu hunain yn llawn pryderon toreithiog.

Gallech geisio gadael i’r AI “ddysgu” o ddata gyrru dynol a gasglwyd gan sefyllfaoedd traffig o ddydd i ddydd. Mae hyn yn debyg i gyfyng-gyngor y groesfan i gerddwyr a'r syniad cynharach a awgrymwyd o ddefnyddio data wedi'i gydosod i gael y deallusrwydd artiffisial i gywain beth bynnag oedd y moesau moesegol lleol. Mae yna lawer o rybuddion am hynny, megis a yw'r patrymau a ddarganfuwyd gan ML/DL yn addas ai peidio, ac ati.

Roeddwn hefyd wedi rhagrybuddio bod siawns y gallai AI gasglu ymddygiad anfoesegol efallai, yn dibynnu ar y moesau moesegol dan sylw. Er enghraifft, mae'n debyg bod yr AI rywsut wedi glanio ar batrwm cyfrifiannol i anelu at y cerddwyr bob amser pan oedd car arall yn bygwth taro'r car hunan-yrru.

Wel, gwyliwch gerddwyr, rydych chi'n mynd i fod yn dargedau parod.

Mae'n bryd cloi'r drafodaeth am y tro a gwneud hynny gyda meddwl terfynol calonogol.

Efallai eich bod chi'n ymwybodol bod Isaac Asimov wedi cynnig ei “Three Law Of Robotics” ym 1950 ac rydyn ni'n dal i gael ein swyno gan y rheolau cyhoeddedig hynny hyd heddiw. Er ei bod yn ymddangos yn hawdd cadw at y rheolau, megis na fydd system AI neu robot yn niweidio bod dynol nac yn caniatáu i ddyn gael niwed, mae yna lawer o arlliwiau hanfodol sy'n gwneud hyn yn gymhleth ac yn anghynaladwy ar adegau, gweler fy nadansoddiad. yn y ddolen yma.

Beth bynnag, dyma rywbeth arall y mae Asimov hefyd yn adnabyddus amdano, er yn llai felly: “Peidiwch byth â gadael i'ch synnwyr o foesoldeb eich rhwystro rhag gwneud yr hyn sy'n iawn.”

Ar gyfer yr AI Moesegol yr ydym i gyd yn gobeithio ei ddyfeisio, mae'n rhaid i ni gadw mewn cof efallai nad yw'r moeseg AI sy'n cael ei trwytho yr hyn yr oeddem yn ei ragweld ac y bydd angen i'r AI wneud beth bynnag sy'n iawn rywsut. Dywedodd Asimov yn dda. Ymhell cyn hynny, roedd yn ymddangos bod Aristotle yn meddwl teimladau eithaf tebyg.