AI Moeseg Yn Wynebu P'un ai Cynddeiriogi Bodau Dynol Sy'n Malu Neu'n Cam-drin yn Drais AI Sy'n Ofnadwy o Anfoesol, Megis Y Bobl Ddigofus Sy'n Taro Ar Systemau AI Cwbl Ymreolaethol

Dyna pam na allwn ni gael pethau neis.

Mae'n debyg eich bod wedi clywed neu weld y mynegiant eithaf poblogaidd hwnnw ac yn gwybod yn syth at yr hyn y mae'n cyfeirio ato. Credwch neu beidio, mae'n ymddangos bod y darn clyfar o ddoethineb doeth yn dyddio'n ôl i o leiaf 1905 pan ymddangosodd brawddeg tebyg yn Yr Adolygiad Dyngarol gan Eliza Blven. Yn gyffredinol, hanfod y mewnwelediad yw ein bod weithiau'n chwalu, yn malu, yn torri, neu'n difetha'n gyfan gwbl wrthrychau neu arteffactau sydd fel arall yn ymddangos yn anhaeddiannol o gael eu trin felly.

Efallai y byddwch chi'n dweud ein bod ni ar adegau camdrin gwrthrychau ac arteffactau, hyd yn oed rhai yr oeddem ni i fod wedi eu haddoli neu eu trysori.

Gall hyn ddigwydd ar ddamwain, megis bod yn ddiofal a gollwng eich ffôn clyfar annwyl i'r comôd (yn anffodus, dyma un o'r ffyrdd a nodir amlaf y mae ffonau clyfar yn dod yn annefnyddiadwy). Ar y llaw arall, efallai mewn ffit o gynddaredd, rydych chi'n dewis taflu'ch ffôn clyfar ar draws yr ystafell ac mae'n taro i mewn i ddarn mawr o ddodrefn neu hyrddod yn syth i mewn i wal. Y tebygolrwydd yw y bydd yr arddangosfa wedi cracio ac mae'r coluddion electronig yn sicr o beidio â gweithio'n iawn mwyach.

Ni allai'r ffit o rage hwnnw fod wedi cael unrhyw beth o gwbl i'w wneud â'r ffôn clyfar fel y cyfryw. Efallai eich bod chi'n ffraeo â rhywun ac felly wedi digwydd i dynnu'ch dicter allan ar y peth a oedd yn eich llaw ar y pryd. Roedd y ffôn clyfar yn y lle anghywir ar yr amser anghywir yn unig.

Er hynny, mae yna adegau pan fo'r gwrthrych yn ymwneud rhywsut â'r ffrwydrad cynddeiriog. Er enghraifft, rydych chi'n aros yn daer am alwad bwysig ac yn syndod mae'ch ffôn clyfar yn stopio gweithio. Pa rwystredigaeth! Mae'n ymddangos bod y ffôn clyfar hwn sy'n ddrygionus o'r fath bob amser yn rhoi allan ar yr adegau gwaethaf, rydych chi'n meddwl i chi'ch hun. Wel, yn anffodus, mae'r ffôn clyfar yn mynd i dalu am y drosedd ddiweddaraf hon trwy gael ei daflu'n ddiannod ar draws yr ystafell. Cymerwch hynny, does dim ffôn clyfar da.

A oes angen i rage fod yn gydran bob amser?

Efallai ichi benderfynu'n bwyllog bod eich ffôn clyfar wedi cyrraedd diwedd ei ddefnyddioldeb. Rydych chi'n mynd i gael un newydd. Felly, mae gan y ffôn clyfar presennol werth llai. Wrth gwrs, fe allech chi geisio cyfnewid y ffôn clyfar sydd braidd yn hen ffasiwn, ond efallai eich bod chi'n gwneud penderfyniad ymwybodol yn lle hynny y byddai'n well gennych chi gael ychydig o hwyl a gweld faint o ddiswyddiad corfforol y gall ei gymryd. Felly, ar ôl llawer o resymu meddylgar, rydych chi'n taflu'r ddyfais yn llym ar draws yr ystafell ac yn arsylwi beth sy'n digwydd. Dim ond math o arbrawf ffiseg ydyw, sy'n eich galluogi i fesur pa mor dda yw'r ffôn clyfar wedi'i adeiladu.

Rwy’n amau ​​bod llawer ohonom yn defnyddio’r math hwnnw o resymeg wedi’i thiwnio’n ofalus pan fyddwn yn dileu ein hymddygiad ymosodol ar wrthrych neu arteffact. Yn amlach, mae'n debyg bod y weithred yn cael ei gwneud o fewn ffrâm meddwl gwahanol. Mae'n ymddangos bod hwn yn un o'r mathau o weithrediadau adweithiol sbardun-y-foment hynny. Wedi hynny, efallai y byddwch chi'n difaru'r hyn a wnaethoch ac yn meddwl beth a arweiniodd at ffrwydrad o'r fath.

Beth mae’r math hwn o weithred ffyrnig tuag at wrthrych difywyd o bosibl yn ei ddweud wrthym am y person sy’n cyflawni gweithred mor bres ac sy’n ymddangos yn anffafriol?

Mae'n debyg nad yw'r gwrthrych ei hun yn ceisio'ch baeddu'n bwrpasol. Pan na fydd eich tostiwr yn tostio'ch bara yn iawn, mae'n anodd dychmygu bod y tostiwr wedi deffro'r diwrnod hwnnw gan feddwl y bydd yn ceisio gwneud llanast o'ch brecwast trwy losgi'ch tost. Mae hyn braidd yn annhebygol. Dyfais fecanyddol yn unig yw'r tostiwr. Mae'n gweithio neu nid yw'n gweithio. Ond y syniad bod y tostiwr yn cynllunio i beidio â gweithio nac yn rhoi un cyflym arnoch chi trwy weithio yn groes i'ch dymuniadau, wel, mae hynny'n syniad estynedig.

Mae yna rai sy'n credu bod gan bob gwrthrych lun karma neu ysbryd. Yn y ddamcaniaeth honno, mae rhywun yn tybio y gallai'r tostiwr fod yn ceisio dial pe na baech wedi bod yn gofalu'n iawn am y tostiwr yn gynharach. Er bod hwnnw'n syniad athronyddol diddorol, rydw i'n mynd i hepgor y cysyniadu metaffisegol hwnnw ac aros gyda'r dybiaeth fwy bob dydd mai gwrthrychau yn unig yw gwrthrychau (er eglurhad, nid wyf yn cynnig penderfyniad am y posibilrwydd arall, dim ond ei osod o'r neilltu ar gyfer y foment).

Roedd y tangiad ochr hwn am karma neu ysbryd yn deilwng gan ei fod yn codi agwedd gysylltiedig ar ymddygiad dynol. Rydych chi'n gweld, efallai y byddwn ni'n cael ein temtio i briodoli math o fywiogrwydd i wrthrychau sy'n agosach at yr hyn rydyn ni'n ei ystyried yn gyffredinol yn deimladwy.

Go brin bod tostiwr deg doler sy’n ddyfais esgyrn noeth yn rhywbeth y gallem fod yn dueddol o’i eneinio ag naws teimladwy. Fe allech chi wneud hynny os oeddech chi eisiau, ond mae hwn yn ymestyniad. Efallai hefyd y byddwch chi'n dechrau rhoi teimlad o bob math o wrthrychau, fel cadair, polyn golau, hydrant tân, ac ati. - fel llewyrch i'r peth.

Pan fyddwch chi'n defnyddio Alexa neu Siri, dim ond siaradwr a meicroffon yw'r ddyfais ei hun, ond yn sicr fe allai'r cyfleustra modern hwn fod yn well ymgeisydd ar gyfer priodoli pwerau tebyg i deimladau. Mae'n debyg y gallwch ryngweithio â'r ddyfais a pharhau â sgwrs, er ei bod yn rhaid cyfaddef yn un frawychus ac yn ddiffygiol yn hylifedd rhyngweithiadau dynol-ganolog arferol. Serch hynny, mae rhwyddineb arbennig i ganiatáu i Alexa neu Siri lithro tuag at aseinedd tebyg i ymdeimlad (gweler fy awgrym o achos diweddar Alexa yn rhoi cyngor ar roi ceiniog mewn soced drydanol fyw, yn y ddolen hon yma).

Tybiwch ein bod yn addurno'r tostiwr gyda phethau fel Natural Language Processing (NLP), yn debyg i Alexa neu Siri. Gallwch siarad â'ch tostiwr a dweud wrtho faint o'r tostio dymunol rydych chi am iddo ei wneud. Bydd y tostiwr yn ymateb i'ch ymadrodd ac yna'n dweud wrthych pan fydd y tost yn barod. Mae'n ymddangos bod hyn yn ail-gyfiawnhau ein cred bod y tostiwr mewn gwirionedd yn dod yn nes at allu tebyg i deimladau.

Po agosaf yr ymddengys ein bod yn gwthio nodweddion dyfais tuag at nodweddion cyfleusterau dynol, byddai'r un mor arwain ni i lawr y llwybr tuag at briodoli priodweddau ymdeimladol i'r ddyfais. Y mwyaf amlwg o'r rhain fyddai robotiaid. Mae unrhyw robot cerdded a siarad o'r radd flaenaf yn sicr o ddwyn ein hargraff fewnol fod y ddyfais yn fwy na dim ond rhywbeth mecanyddol neu electronig.

Gadewch imi ofyn cwestiwn ichi ac atebwch yn onest.

Cyn i mi wneud hynny, rwy'n dyfalu eich bod chi rywsut wedi gweld y fideos firaol hynny yn arddangos robotiaid eithaf ffansi a all gerdded, cropian, hercian neu redeg. Mewn rhai o'r fideos hynny, mae bod dynol yn sefyll gerllaw ac ar y dechrau, mae'n ymddangos ei fod ar fin dal y robot os yw'n methu. Mi faswn i'n betio bod y rhan fwyaf ohonom ni'n meddwl am hynny fel gweithred garedig, yn debyg i pan mae plentyn bach yn dysgu cerdded a bod yno i ddal y llanc cyn iddyn nhw smacio'u pen ar y llawr.

Anaml y byddwch chi'n gweld y bodau dynol yn dal y robotiaid, ac yn lle hynny, rydych chi'n gweld y bodau dynol yn whacio'r robotiaid i weld beth fydd y robot yn ei wneud nesaf. Weithiau defnyddir ffon hir, ffon hoci neu fat pêl fas efallai. Bydd y dynol yn fwriadol a heb unrhyw gywilydd yn taro'r robot allan. Mae'r robot yn cymryd curiad, efallai y bydd rhywun yn dadlau, ac rydym yn aros i weld sut y bydd y robot yn ymateb.

Dyma eich cwestiwn.

Pan welwch y robot yn cael ei daro'n sydyn, a ydych chi'n teimlo'n ddrwg i'r robot?

Mae llawer o bobl yn gwneud. Pan ddechreuodd fideos o'r fath gael eu postio gyntaf, mynegodd miloedd o sylwadau gynddaredd ynghylch cam-drin y robotiaid. Beth wnaeth y robot i haeddu'r math hwn o gamdriniaeth andwyol, gofynnodd pobl yn frwd? Dylid tynnu'r bodau dynol hynny allan a rhoi ychydig o giciau iddynt eu hunain, meddai rhai yn ddig. Stopiwch hyn a thynnwch unrhyw fideos o'r fath i lawr yn groyw.

Gallech yn hawdd deimlo braidd yr un fath am dostiwr esgyrn noeth deg doler, ac eto mae’n debyg na fyddai’n peri’r un pryderon dirdynnol ac ysgytwol. Mae'n debyg y byddai'r agosaf y mae gwrthrych yn ei gael mewn sbectrwm o'r gwrthrych cwbl difywyd nad yw'n debyg i alluoedd dynol tuag at wrthrychau sy'n debycach i deimlad dynol yn amharu ar ein synhwyrau o fod eisiau priodoli moesoldeb dynoliaeth i'r gwrthrych. .

Gadewch i ni ddadbacio hynny ymhellach.

Os ydych chi'n berchen ar ffôn clyfar ac eisiau ei dorri, ac os nad yw gwneud hynny'n niweidio unrhyw un arall, mae'n ymddangos na fyddai gennym ni yn foesol fawr ddim gwrthwynebiad i weithred o'r fath. Chi sy'n berchen arno, gallwch chi wneud ag ef yr hyn a fynnoch (gan gymryd nad yw'r weithred yn amharu ar eraill).

Wrth gwrs, efallai y byddwn ni'n meddwl ei fod yn ffôl ar eich rhan chi, a gallai hyn fod â gorlifiad. Os ydych chi'n fodlon dinistrio'ch ffôn clyfar, beth arall allech chi ei wneud? Efallai bod y weithred ddinistriol ac ymddangosiadol ddisynnwyr yn rhagrybudd o rywbeth ynoch chi o botensial llawer gwaeth. Yn y ffordd honno o feddwl, nid ydym yn poeni cymaint am y ffôn clyfar ag yr ydym am sut mae eich gweithredoedd o ran y ffôn clyfar yn adlewyrchiad ohonoch chi a'ch ymddygiadau.

Yn achos y bodau dynol sy'n procio ac yn gwthio ar y robotiaid sy'n cerdded neu'n cropian, mae'n debyg eich bod chi'n falch pan fyddwch chi'n darganfod bod y bodau dynol hynny yn arbrofwyr sy'n cael eu talu neu fel arall yn taro'r robotiaid yn broffesiynol am resymau dilys yn gyffredinol. Maent yn ceisio gweld pa mor dda y gall y robot a'r AI o dan y robot ymdopi â digwyddiadau aflonyddgar.

Dychmygwch fod rhywun wedi ysgrifennu rhaglen AI i helpu robot i allu cerdded neu gropian. Byddent yn rhesymegol eisiau gwybod pa mor dda y mae AI yn ei wneud pan fydd y robot yn mynd ar gyfeiliorn ac yn baglu dros rywbeth. A all y robot gydbwyso ei hun neu ail-gydbwyso yn ôl yr angen? Trwy gael bodau dynol gerllaw, gellir profi'r robotiaid trwy gael eu procio neu eu procio. Mae’r cyfan yn enw gwyddoniaeth, fel y dywedant.

Unwaith y byddwch chi'n deall y cafeat hwnnw ynghylch pam mae bodau dynol yn “cam-drin” y robotiaid, mae'n debyg y byddwch chi'n tynnu'ch gofid yn ôl. Mae'n bosibl y bydd gennych chi smonach parhaol o hyd, gan fod gweld lluniad tebyg i ddyn yn cael ei daro yn ein hatgoffa o bobl neu anifeiliaid yn cael eu taro. Fodd bynnag, rydych chi'n gwybod nad yw'r robot yn “teimlo” unrhyw beth, ac eto mae'r gweithredoedd yn dal i fod braidd yn boenus yn bersonol i'w gwylio (i gael mwy o fewnwelediadau am yr ymdeimlad o affinedd sydd gan fodau dynol tuag at systemau AI fel robotiaid, gan gynnwys ffenomen a elwir yn angani. dyffryn, gweler fy nhrafodaeth yn y ddolen hon yma).

Mae'r rhai ym maes moeseg AI yn archwilio'r penbleth seicolegol moesol yr ydym yn ei brofi pan fydd systemau AI yn cael eu trin yn llym. Un o’r pryderon pennaf yw y gallai’r rhai sy’n cyflawni “camdriniaeth” o’r fath fod yn ein hysgogi i gyd i fod yn llai sensitif i gamdriniaeth o bob math, gan gynnwys ac yn beryglus, llethr llithrig parodrwydd i gam-drin cyd-ddyn.

Mewn astudiaeth ymchwil ddiweddar a gyhoeddwyd yn y AI A Cylchgrawn Moeseg o’r enw “Tueddiadau Cymdeithasol-Gwybyddol Mewn Moeseg AI Gwerin A Disgwrs Risg,” mae’r ymchwilwyr yn disgrifio’r mater sobreiddiol fel hyn: “Gall yr un ffenomen ddod yn broblem seicolegol foesol yn ystod oes AIs a robotiaid. Pan fydd ein realiti bob dydd yn cael ei boblogi gan systemau deallus amrywiol nad oes ganddynt statws amynedd moesol, efallai y bydd pobl yn dod yn gyfarwydd â chreulondeb a difaterwch. Oherwydd ein bod weithiau'n meddwl am robotiaid fel pe baent yn fyw ac yn ymwybodol, efallai y byddwn yn mabwysiadu patrymau ymddygiad a allai effeithio'n negyddol ar ein perthynas â phobl eraill” (erthygl a gyd-awdurwyd gan Michael Laakasuo, Volo Herzon, Silva Perander, Marianna Drosinou, Jukka Sundvall, Jussi Palomaki, ac Aku Visala).

Yn y bôn, efallai y byddwn yn derbyn yn ddiwrthdro bod cam-drin yn iawn i'w wneud, ni waeth a yw'n ymwneud â gwrthrych fel robot seiliedig ar AI neu fod dynol sy'n anadlu byw. Gallwch ychwanegu at y rhestr hon y posibilrwydd o gynyddu cam-drin anifeiliaid hefyd. Ar y cyfan, gall llifddorau cam-drin fod yn tswnami dour a fydd yn drensio popeth a wnawn yn beryglus.

Fodfedd wrth fodfedd, byddwn yn dod i arfer â cham-drin systemau AI, a bydd hyn yn ei dro fodfedd wrth fodfedd yn lleihau ein gwrthyriad o gamdriniaeth i gyd yn dweud.

Dyna ddamcaniaeth AI Foesegol sy'n cael ei harchwilio'n fanwl. Mae hyn yn arbennig o amserol nawr gan fod y systemau AI sy'n cael eu crefftio a'u gosod yn edrych ac yn gweithredu'n debycach i alluoedd dynol nag erioed o'r blaen. Mae AI yn gwyro tuag at gael ein gwneud i edrych fel teimlad dynol, felly mae'n bosibl y byddwn yn symud ymhellach i lawr y sbectrwm enbyd o gam-drin ar gyfer torri gwallt.

Fel y byddaf yn ymhelaethu cyn bo hir, mae tuedd inni anthropomorffeiddio systemau AI. Dehonglwn fod yr AI ymddangosiadol dynol yn gyfystyr ag agweddau dynol, er gwaethaf y ffaith nad oes unrhyw AI heddiw sy'n deimladwy ac nid ydym yn gwybod eto a fydd teimlad byth yn cael ei gyrraedd. A fydd pobl yn syrthio i fagl feddyliol o dderbyn y cam-drin tuag at AI fel pe bai'n olau gwyrdd i alluogi cam-drin pobl ac anifeiliaid (unrhyw fodau byw) ymhellach?

Mae rhai yn dadlau bod angen i ni dorri hyn yn y blagur.

Dywedwch wrth bobl na ddylai fod yn cam-drin systemau AI. Roedd hyd yn oed yr arbrofwyr hynny gyda'r robotiaid cerdded a chropian yn gwneud anghymwynas trwy arddangos fideos eu hymdrechion yn hyfryd. Mae'n fricsen arall yn y wal o dandorri golygfeydd cymdeithasol am gamdriniaeth. Peidiwch â gadael i'r belen eira ddechrau rholio i lawr yr allt afiach o eira.

Mynnwch ein bod yn trin popeth gyda pharch, gan gynnwys gwrthrychau ac arteffactau. Ac, yn enwedig pan fydd gan y gwrthrychau neu'r arteffactau hynny berthnasedd neu debyg i ffurf ddynol. Os na allwn atal y bobl hynny sydd am daflu eu ffôn clyfar yn erbyn wal, boed felly, ond pan fyddant yn ceisio malu robot neu wneud cam-drin tebyg i unrhyw ddyfais sydd ag naws ddynol gadarn, rhaid inni roi ein troed i lawr. .

Hogwash, rhai yn gwrthgiliwr gyda dirmyg mawr.

Does dim cysylltiad rhwng sut mae pobl yn trin system AI a’r syniad y byddan nhw rywsut yn newid sut maen nhw’n trin bodau dynol ac anifeiliaid. Dyna ddau bwnc gwahanol. Peidiwch â'u cyfuno, mae'r gwrthddadl yn mynd.

Mae pobl yn ddigon craff i gadw'r gweithredoedd tuag at wrthrychau ar wahân yn erbyn eu gweithredoedd tuag at fodau byw. Rydych chi'n gwneud chwifio dwylo trwy geisio cysylltu'r dotiau hynny. Mae'n ymddangos bod pryder tebyg wedi codi ynghylch tyfu i fyny gan ddefnyddio gemau fideo a oedd yn caniatáu i chwaraewyr saethu a dinistrio cymeriadau fideo. Yn yr achos hwnnw, mae'n debyg ei fod yn waeth na niweidio robotiaid AI gan y byddai'r gêm fideo ar adegau yn arddangos cymeriadau fideo a oedd yn hollol debyg i fodau dynol.

Y gwrth-ddadl honno yw nad yw gemau fideo yn delio â gwrthrychau go iawn. Mae'r chwaraewr yn gwybod eu bod wedi ymgolli mewn breuddwydion. Dyna gri ymhell o daflu ffôn clyfar ar draws ystafell neu guro robot yn cropian gyda ffon. Ar ben hynny, mae yna ymchwil sy'n cefnogi'r qualms o sut y gall chwarae gêm fideo orlifo i ymddygiadau byd go iawn.

Mae moeseg AI yn archwilio ysgogwyr ymddygiad dynol a sut y bydd dyfodiad systemau AI cymharol soffistigedig yn cael eu heffeithio, yn enwedig yng ngoleuni'r cam-drin ar adegau gan fodau dynol o systemau AI o'r fath. Wrth siarad am yrru (do, fe wnes i snuck hynny yno), mae hyn yn caniatáu imi symud i mewn i'r pwnc o geir hunan-yrru go iawn yn seiliedig ar AI, a fydd yn cyd-fynd yn dda â'r thema gyffredinol hon.

Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n arddangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am gam-drin gwrthrychau neu arteffactau?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae gwir geir hunan-yrru yn rhai y mae'r AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac fel arfer maent yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAADA
S (Systemau Cymorth Gyrwyr Uwch).

Nid oes car hunan-yrru go iawn ar Lefel 5 eto, nad ydym hyd yn oed yn gwybod a fydd hyn yn bosibl ei gyflawni, a pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan Yrru A Gelyniaeth Gan Fod

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir sy'n gyrru eu hunain a chwestiynau AI moesegol ynghylch ein camdriniaeth bosibl tuag at y cerbydau ymreolaethol crand hynny.

Yn gyntaf, fe allech chi gymryd yn ganiataol yn naturiol na fyddai neb yn cam-drin car hunan-yrru seiliedig ar AI.

Mae hyn yn ymddangos yn rhesymegol. Rydym yn derbyn yn gyffredinol y syniad mai un o fanteision allweddol cael ceir hunan-yrru yw y byddant yn cymryd rhan mewn llawer llai o ddamweiniau ceir na cheir a yrrir gan bobl. Ni fydd yr AI yn yfed ac yn gyrru. Ni fydd yr AI yn gwylio fideos cathod tra wrth y llyw. Mae tua 40,000 o farwolaethau blynyddol yn yr Unol Daleithiau yn unig bob blwyddyn oherwydd damweiniau ceir, a thua 2.5 miliwn o anafiadau, a rhagwelir na fydd llawer ohonynt yn digwydd mwyach unwaith y bydd gennym nifer o achosion o geir hunan-yrru ar ein ffyrdd.

Beth sydd ddim i'w hoffi am geir sy'n gyrru eu hunain, efallai eich bod chi'n dweud wrthych chi'ch hun.

Wel, mae'r rhestr braidd yn helaeth, gweler fy sylw yn y ddolen hon yma, ond oherwydd cyfyngiadau gofod yma byddaf yn ymdrin â rhai o'r agweddau annymunol mwyaf nodedig.

Fel y soniais o'r blaen yn fy ngholofnau, bu achosion o bobl yn taflu creigiau at geir hunan-yrru, ac yn ôl pob sôn yn gosod gwrthrychau metel fel hoelion ar y stryd i dyllu teiars ceir hunan-yrru. Gwnaed hyn am wahanol resymau honedig. Un yw bod y bobl yn yr ardal lle'r oedd y ceir hunan-yrru yn crwydro wedi poeni nad oedd y systemau gyrru AI yn barod ar gyfer oriau brig.

Y pryder oedd y gallai'r system yrru AI fynd o chwith, efallai'n rhedeg dros blentyn yn gwibio ar draws y stryd neu'n taro ci anwes annwyl a oedd yn droellog ar y ffordd. Yn ôl y pwynt cynharach ynglŷn â ni yn cael ein trin yn ôl pob golwg fel moch cwta, y gred oedd nad oedd digon o brofion a pharatoi wedi digwydd a bod ceir hunan-yrru yn cael eu gollwng yn rhydd yn amhriodol. Roedd yr ymdrechion i gwtogi ar y treialon yn cael eu gwneud fel arddangosfa gyhoeddus o dicter dros y ceir sy'n gyrru eu hunain yn cael caniatâd cyfreithiol i grwydro o gwmpas.

Efallai bod rhesymau eraill wedi'u cymysgu â'r achosion. Er enghraifft, mae rhai wedi awgrymu bod gyrwyr dynol sy'n dibynnu ar ennill bywoliaeth trwy rannu reidiau yn poeni bod AI ar fin cael rhai newydd yn eu lle. Roedd hyn yn fygythiad i'w bywoliaeth. Rydych chi'n sicr yn gwybod bod dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn dal i fod ymhell i ffwrdd ac nid yw mater dadleoli gweithwyr yn un uniongyrchol. Ergo, mae'n ymddangos bod y taflu creigiau a digwyddiadau eraill yn fwy na thebyg yn ymwneud â phryderon diogelwch.

At ein dibenion yn y thema hon am gam-drin AI, mae'r cwestiwn yn codi a yw parodrwydd i gymryd y gweithredoedd braidd yn ddinistriol hyn yn erbyn ceir hunan-yrru seiliedig ar AI yn ddangosydd cynnar o'r llethr llithrig o gam-drin AI i gam-drin bodau dynol.

Daliwch ati i feddwl.

Mae ongl arall o gam-drin ceir hunan-yrru seiliedig ar AI yn cynnwys y “bwlio” y mae rhai gyrwyr dynol a hyd yn oed cerddwyr wedi'i anelu at y cerbydau ymreolaethol hynny, gweler fy nadansoddiadau yn y ddolen yma ac y ddolen yma.

Yn fyr, mae gyrwyr dynol sy'n gyrru ac sy'n dod ar draws car sy'n gyrru ei hun weithiau'n dewis chwarae triciau cysylltiedig â gyrru ar geir heb yrwyr. Mae'r twyll hwn weithiau'n cael ei wneud er hwyl yn unig, ond yn fwy felly mae'r sail fel arfer oherwydd rhwystredigaeth a blinder am systemau gyrru AI heddiw.

Mae'r rhan fwyaf o'r systemau gyrru AI wedi'u rhaglennu i yrru mewn ffordd gwbl gyfreithiol. Nid yw gyrwyr dynol o reidrwydd yn gyrru mewn modd cwbl gyfreithiol. Er enghraifft, mae gyrwyr dynol yn aml yn gyrru'n uwch na'r terfyn cyflymder postio, gan wneud hynny yn y ffyrdd mwyaf hynod ar brydiau. Pan fydd gyrwyr dynol y tu ôl i gar sy'n gyrru ei hun, mae'r gyrrwr dynol yn cael ei rwystro gan y system yrru AI “slowpoke”.

Mae pobl sy'n byw mewn ardaloedd sydd â llawer o geir hunan-yrru ar hyn o bryd yn dueddol o gynhyrfu ar unwaith pan welant gar sy'n gyrru o'u blaenau. Maent yn gwybod y bydd y cerbyd ymreolaethol yn gwneud eu taith yrru yn hirach nag sydd angen. Felly, bydd gyrwyr o'r fath yn dewis bod yn ymosodol tuag at y car sy'n gyrru ei hun.

Mae gyrwyr yn gwybod y gallant sgwtio o amgylch y car sy'n gyrru ei hun a'i dorri i ffwrdd. Bydd y system yrru AI yn arafu'r cerbyd ymreolaethol yn unig, ac ni fydd yn ymateb mewn unrhyw ffordd dicter ffordd. Pe bai gyrrwr dynol yn ceisio gwneud yr un symudiad ymosodol â gyrrwr dynol arall, y tebygolrwydd yw y byddai dial bron yn sicr o godi. I ryw raddau, mae gyrwyr dynol yn cymedroli eu gyrru ymosodol yn seiliedig ar y sylweddoliad y gallai'r gyrrwr tramgwyddedig ddial.

A fydd y math hwn o ymddygiad gyrru dynol tuag at geir hunan-yrru seiliedig ar AI yn agor blwch ymddygiadau gyrru gwael Pandora i gyd wedi'i ddweud?

Casgliad

Rydym wedi gosod ar y bwrdd ddau achos cyffredinol o bobl i bob golwg yn cam-drin ceir hunan-yrru seiliedig ar AI. Roedd yr enghraifft gyntaf yn ymwneud â thaflu creigiau a cheisio rhwystro'r defnydd o geir hunan-yrru ar y ffyrdd. Roedd yr ail enghraifft yn cynnwys gyrru'n ymosodol ar geir hunan-yrru.

Mae hyn yn codi o leiaf y pryderon hyn:

• A fydd ymddangosiad y fath gamdriniaeth yn ymestyn drosodd i geir a yrrir gan ddyn?
• Os bydd hyn yn parhau neu'n ymestyn ymhellach, a fydd cam-drin o'r fath yn gorlifo i agweddau eraill ar ymdrechion dynol?

Un ymateb yw mai dim ond adweithiau dros dro yw'r rhain i geir hunan-yrru seiliedig ar AI. Os gall y cyhoedd fod yn argyhoeddedig bod ceir sy'n gyrru eu hunain yn gweithredu'n ddiogel ar ein ffyrdd, bydd y taflu creigiau a gweithredoedd beichus o'r fath yn diflannu fwy neu lai (sydd, gyda llaw, i bob golwg wedi lleihau cymaint). Os gellir gwella'r systemau gyrru AI i fod yn llai o dagfa ar ein ffyrdd, efallai y bydd gyrwyr dynol cyfagos yn llai tueddol o fod yn ymosodol tuag at geir sy'n gyrru eu hunain.

Y ffocws drwy gydol y drafodaeth hon fu bod cam-drin yn ôl pob tebyg yn arwain at gamdriniaeth. Po fwyaf y byddwch chi'n cam-drin, fel cam-drin AI, y mwyaf y bydd cam-drin yn cael ei dderbyn a'i gyflawni, fel yn erbyn bodau dynol ac anifeiliaid.

Credwch neu beidio, mae ochr arall i'r geiniog honno, er bod rhai yn gweld hyn fel tro wyneb hapus optimistaidd ar y mater.

Dyma’r cynnig hynod galonogol: Efallai bod triniaeth briodol yn arwain at driniaeth briodol.

Dyma beth rwy'n ei olygu.

Mae rhai sylwebyddion yn awgrymu, gan fod systemau gyrru AI wedi'u rhaglennu i yrru'n gyfreithlon ac yn ofalus, efallai y bydd gyrwyr dynol yn dysgu o hyn ac yn penderfynu gyrru'n fwy call. Pan fydd y ceir eraill o'ch cwmpas yn cadw'n gaeth at y terfyn cyflymder, efallai y gwnewch chithau hefyd. Pan fydd y ceir hunan-yrru hynny yn gwneud stopiau llawn wrth arwyddion Stop a ddim yn ceisio rhedeg goleuadau coch, bydd gyrwyr dynol yn cael eu hysbrydoli yn yr un modd i yrru'n ystyriol.

Byddai amheuwr yn gweld bod y trywydd hwnnw o feddwl yn denau neu efallai hyd yn oed yn ddedwydd o lygaid llydan ac yn hurt o naïf.

Galwch fi yn optimist, ond byddaf yn pleidleisio dros y syniad breuddwydiol y bydd gyrwyr dynol yn cael eu cymell i yrru'n fwy doeth. Wrth gwrs, mae'r ffaith y bydd ceir hunan-yrru gwirioneddol seiliedig ar AI yn dal ar fideo a'u synwyryddion eraill symudiadau gwallgof ceir eraill cyfagos sy'n cael eu gyrru gan ddyn, a gallent adrodd yn bendant am yrru anghyfreithlon i'r cops trwy wasgu botwm yn unig. , gallai ddarparu'r “ysbrydoliaeth” sydd ei hangen ar gyfer gwell gyrru dynol.

Weithiau mae'n cymryd y foronen a'r ffon i sicrhau bod ymddygiad dynol yn cyd-fynd yn gytûn.