Moeseg AI A'r Cwm Anghyfannedd AI Clodfawr, Sydd Hefyd Yn Seilio Ceir Hunan Yrru Seiliedig ar AI

Weithiau mae yna bethau ychydig yn rhyfedd sy'n dal eich sylw ac yn cael eich suddion sythweledol bod rhywbeth o'i le rywsut. Nid yw'r rhyfeddod yn amlwg, nid yn amlwg yn eich wyneb o gwbl. Efallai na fyddwch hyd yn oed yn gallu rhoi eich bys ar unwaith ar yr hyn sy'n anghyson neu sut mae eich synnwyr pry cop diarhebol yn pinnau bach.

Efallai bod cliwiau cynnil yn cael eu synhwyro. Efallai eich bod yn digwydd yn eich perfedd yn sylweddoli bod anghyseinedd yn bodoli. Mae'n debyg y gallech chi ddweud bod yna'r awgrym lleiaf erioed o iasogrwydd heb ei ddatgan ac mae eich radar dynol cain yn sylwi ar signalau sydd fel arall yn ymddangos yn gudd.

Croeso i'r dyffryn rhyfedd.

Os nad ydych erioed wedi clywed am y dyffryn rhyfedd, pwnc sy'n cael ei boblogeiddio'n gymharol ym maes AI ac yn enwedig roboteg, rydych chi mewn am ychydig o wledd gan mai dyna'r pwnc rydw i'n mynd i fod yn ei drafod a'i ddadansoddi'n agos yma.

Gall y syniad cyffredinol fod yn berthnasol i lawer o bethau rydyn ni'n eu profi mewn bywyd, er bod yr egwyddorion allweddol a'r diffiniad gwreiddiol yn cynnwys systemau AI a robotiaid. Yn gyntaf, byddwn yn archwilio gwreiddiau ac ystyr cychwynnol y dyffryn rhyfedd ac yna'n symud ymlaen i ehangu i weld sut mae'r ffenomenau i'w gweld yn berthnasol mewn cyd-destunau mwy.

Efallai y byddaf hefyd yn ychwanegu y byddwn yn ystyried a yw'r dyffryn rhyfedd yn bodoli o gwbl.

Rydych chi'n gweld, mae rhai amheuwyr a sinigiaid yn dadlau bod yr holl fater yn dipyn o shenanigan ac nad yw'n dal dŵr. Byddwch yn ofalus wrth godi'r pwnc i'r rhai sy'n gwybod. Bydd rhai’n gwenu’n llawen ac yn eich curo ar y cefn eich bod chi’n gyfarwydd iawn â’r dyffryn rhyfedd, tra bydd eraill yn eich darlithio’n groch mai smorgasbord o hogwash yw a bod angen ichi lanhau’ch meddwl yn ddiannod â bar sudsy o sebon glanhau’r meddwl. .

Y newyddion da yma yw eich bod chi'n cael penderfynu a yw'r dyffryn rhyfedd yn real ai peidio, ynghyd ag a oes ganddo rinweddau ar gyfer ei gymhwyso'n ofalus neu yn lle hynny a ddylid ei daflu'n anseremoni ar y sothach techno-syniadau. Yn yr ystyr hwnnw, rydych chi yn sedd y gyrrwr.

Mae hyn oll hefyd yn ymwneud yn agos â maes cynyddol AI Moesegol a'r sylweddoliad cynyddol bod yn rhaid i gymdeithas roi sylw o ddifrif ac yn sobr i foeseg AI. Byddwn yn gwneud y clymu hwnnw i mewn am ennyd.

Y lle gorau i ddechrau yw trwy ddyfynnu'n uniongyrchol yr athro a luniodd y cysyniad rhyfedd o'r dyffryn ac a enwir yn llwyr â'r ffenomen gyhoeddedig hon. Ym 1970, cyhoeddodd yr Athro Masahiro Mori yn Sefydliad Technoleg Tokyo erthygl eithaf mân mewn cyfnodolyn ychydig yn llai adnabyddus o'r enw Ynni (ddim yn arbennig o wely poeth ar gyfer AI a roboteg fel y cyfryw), a dywedodd hyn:

“Rwyf wedi sylwi, wrth ddringo tuag at y nod o wneud i robotiaid ymddangos yn ddynol, fod ein perthynas â nhw yn cynyddu nes i ni ddod i gwm, yr wyf yn ei alw’n ddyffryn rhyfedd.”

Sylwch fod y geiriad uchod yn cael ei ddangos yn Saesneg, er bod y papur gwreiddiol yn Japaneaidd. Goruchwyliwyd y fersiwn a gyfieithwyd yn Saesneg gan yr awdur a chyhoeddwyd yn ddiweddarach yn y Sbectrwm IEEE yn 2012 a'i gredydu i Masahiro Mori fel yr awdur. Gallwch ddarllen y papur eich hun gan ei fod ar gael yn agored ac am ddim ar-lein. Mae'n ddarlleniad cyflym a phendant o tua deg munud efallai ac nid yw'n cynnwys unrhyw derminoleg dechnegol drwm.

Wedi dweud hynny, mae'n ddiddorol a braidd yn anhygoel bod erthygl mor gyflym, a gyhoeddwyd yn 1970, wedi cychwyn maes ymholi cyfan yn y pen draw ac wedi lansio myrdd o astudiaethau, prosiectau, ymchwil cysylltiedig, ac ar brydiau llu o ddadlau ynghylch a gyflwynwyd. cysyniad o ddyffryn rhyfedd yn bodoli mewn gwirionedd. Mae'n debyg bod hyn yn dangos nad oes rhaid i syniadau diddorol sy'n newid safbwyntiau ar brydiau fod yn hynod astrus neu wedi'u gorlenwi â jargon ac uchelfrydedd. Gall syniad cryno fod yn union fel pe na bai hyd yn oed yn fwy pwerus nag y gallai ymddangos ar wyneb pethau.

Hyderaf y bydd hynny’n eich annog i geisio meithrin eich syniadau newydd, gan wneud hynny gan sylweddoli y gall melys a syml fod mor odidog neu weithiau’n fwy nag astrus a chymhleth.

Gadewch i ni neidio yn ôl i mewn i'r cwm rhyfedd effro.

Rydych chi'n dod ar draws system robotig sydd ag wyneb tebyg i wyneb dynol. Dychmygwch fod yr wyneb robotig hwn wedi'i ddyfeisio trwy nifer o iteriadau. Mae datblygwyr AI sy'n llunio pen y robot wedi bod yn ymdrechu'n gynyddol i wneud i'r rhan wyneb robotig ymddangos yn debycach i wyneb dynol go iawn.

Roedd eu cais cyntaf yn hynod gyntefig. Roedd gan wyneb y robot yr un olwg ag yr ydych chi wedi'i weld yn y ffilmiau ffuglen wyddonol o fod yn gyfan gwbl fetelaidd ac yn arddangos gerau a gwifrau. Rydych chi'n gwybod yn syth pan fyddwch chi'n syllu ar y contraption mai robot ydyw. Dim cwestiwn yn eich meddwl amdano.

Roedd cais nesaf y datblygwyr AI yn cynnwys lapio rhai deunyddiau plastig o amgylch y darnau metelaidd. Er bod hyn yn edrych ychydig yn fwy cyfeillgar, rydych chi'n dal i wybod ar unwaith mai pen robot ac wyneb robotig ydyw. Unwaith eto, hawdd-peasy i ganfod.

Mae'r datblygwyr AI hynny yn benderfynol o gadw hyn i fynd. Maen nhw'n cerflunio'r plastig ac yn rhoi arlliwiau croen iddo. Maent yn ychwanegu nodweddion sy'n ymddangos yn debyg iawn i wyneb dynol, fel tyrchod daear, gwallt, blemishes, ac yn y blaen.

Ar yr olwg gyntaf, efallai y cewch eich arwain i gredu mai wyneb dynol yw hwn. Pe bai llun wedi'i dynnu o'r wyneb robotig a gofynnwyd i chi nodi a oedd y llun yn darlunio person yn erbyn wyneb robotig, efallai y byddwch chi'n cael eich rhwystro rhag gallu dweud yn syth pa un ydoedd. Ar y llaw arall, pe baech chi'n sefyll wrth ymyl y ddyfais, mae'n debyg y byddech chi, o archwilio'n ofalus, yn gallu dirnad nad yw'n wrthryfel dynol ac yn lle hynny yn robotig.

Y peth yw, cyn i chi gael y cyfle hwnnw i wneud craffu agos, roedd rhywbeth am yr wyneb nad oedd i'w weld yn adio'n llwyr. Roedd yn sicr yn edrych fel wyneb dynol. Ond roedd rhywbeth o'i le. Roedd yn rhaid i chi ddal ati i syllu'n astud drosodd a throsodd i roi'ch bys ar yr hyn nad yw'n edrych yn hollol iawn. Efallai ei fod yn wyneb go iawn. Yna eto, efallai nad ydyw. Mae eich meddwl yn rhuthro yn unol â hynny.

Mae teimlad o ias yn mynd i mewn i'ch meddwl.

Nid oedd gennych yr un teimlad o iasedd pan welsoch y ddwy fersiwn gynharach. Fe allech chi, heb oedi neu betruso, ganfod mai robot oedd y robot. Dim ond plentyn a allai gael ei dwyllo i gredu bod y naill fersiwn neu'r llall yn berson go iawn.

Fodd bynnag, roedd y fersiwn ddiweddaraf hon yn wahanol. Nid oedd wedi ei berffeithio eto fel ag i ymddangos fel wyneb dynol. Nid oedd ychwaith mor bell oddi wrth y peth go iawn ei bod yn amlwg ei fod yn rhaid ei fod yn robot. Roedd math o dir cymysglyd wedi'i gyrraedd.

Tybiwch fod y datblygwyr wedi gwthio ymhellach i'w hymdrechion ymchwil ac wedi twtio popeth fel bod yr wyneb robotig bron yn anwahanadwy oddi wrth wyneb dynol. Ni waeth pa mor hir rydych chi'n syllu ar y peth, rydych chi'n ansicr a yw'n ddyn ai peidio. Pan gewch wybod mai dyma'r wyneb robotig, cewch eich synnu. Gosh, maen nhw wedi gwneud gwaith gwych o wneud iddo edrych yn real.

Sylwch mai dim ond yr agweddau robotig ar sail ymddangosiad yn unig rydych chi wedi bod yn eu hystyried hyd yn hyn.

Gallem ychwanegu symudiad at yr hafaliad. Mae hyn yn ychwanegu dimensiwn ychwanegol i chi ganfod a yw'r robot yn robot yn erbyn bod dynol. Nid wyf am ddiddanu hyn yn llawn fel math aml-ddimensiwn o broblem yn y drafodaeth hon gan ei fod yn gwneud eglurhad ar y pwnc hwn yn fwy cymhleth (er bod aml-dimensiwn yn anochel yn cydblethu). Mewn unrhyw achos, dychmygwch eich bod nid yn unig yn gweld yr wyneb robotig ond hefyd y gallech wylio wrth i'r robot symud y nodweddion wyneb, megis y geg, y llygaid, y trwyn, ac ati. Yn amlwg, gallai'r rhain fod yn rhoddion hefyd ynghylch a yw hwn yn robot neu ddyn.

Un agwedd hollbwysig i’w chadw ar flaen y gad yn y dyffryn rhyfedd yw bod y cysyniad gwreiddiol yn pwysleisio’r weithred o gysylltiad dynol. Y ffenomen honedig yw bod eich affinedd yn cynyddu wrth i chi weld wynebau robotiaid yn cael eu gwella'n gynyddol, hyd nes y bydd yr amrywiad rhyfedd yn codi. Bryd hynny, dywedir bod eich synnwyr o affinedd yn gostwng yn ddramatig, gan blymio i lawr i fryn neu gwm affinedd.

Ar gyfer y fersiwn benodol a achosodd ichi amau ​​​​bod rhywbeth o'i le, honnir bod eich perthynas wedi gostwng yn sylweddol. Ar ben hynny, yn ôl y ddamcaniaeth, gall eich affinedd gynyddu'n aruthrol unwaith y byddwch chi'n dod ar draws y fersiwn fwy datblygedig sydd bron yn union yr un fath â ffurf wirioneddol ddynol.

Dyma fwy am yr hyn a ddywedodd yr awdur am ein tuedd arferol i dybio bod agweddau ar fywyd yn cynyddu'n esmwyth: “Y term mathemategol swyddogaeth sy'n cynyddu'n undonog yn disgrifio perthynas y mae'r swyddogaeth ynddi y = ƒ(x) yn cynyddu'n barhaus gyda'r newidyn x. Er enghraifft, fel ymdrech x yn tyfu, incwm y cynyddu, neu wrth i gyflymydd car gael ei wasgu, mae'r car yn symud yn gyflymach. Mae'r math hwn o berthynas yn hollbresennol ac yn hawdd ei ddeall. Mewn gwirionedd, oherwydd bod swyddogaethau cynyddol undonog o'r fath yn cwmpasu'r rhan fwyaf o ffenomenau bywyd bob dydd, gall pobl ddod o dan y rhith eu bod yn cynrychioli pob perthynas. Yn tystio hefyd i'r camargraff hwn yw'r ffaith bod llawer o bobl yn brwydro trwy fywyd trwy wthio'n barhaus heb ddeall effeithiolrwydd tynnu'n ôl. Dyna pam mae pobl fel arfer mewn penbleth wrth wynebu rhyw ffenomen na all y swyddogaeth hon ei chynrychioli.” Dyfynnir hyn fesul y Sbectrwm IEEE papur wedi'i gyfieithu.

Gall y dybiaeth bron yn gyffredinol hon am gynyddu bob amser gael ei gwrthdroi pan fyddwn yn dod ar draws rhywbeth o'i le. Bydd yr iasedd a’r amheuaeth yn achosi cwymp cymharol sydyn a dramatig mewn affinedd, mae’r ddamcaniaeth yn mynd, fel llaw robotig y dewisoch chi ei hysgwyd ac na allech chi deimlo nodweddion esgyrnog llaw ddynol: “Pan fydd hyn yn digwydd, rydyn ni’n colli ein synnwyr o affinedd, a'r llaw yn mynd yn afreolaidd. Mewn termau mathemategol, gall hyn gael ei gynrychioli gan werth negyddol.”

Os derbyniwch y rhagdybiaeth fod y ffenomen hon o ddyffryn rhyfedd, rwy'n siŵr eich bod yn meddwl tybed pa les y mae'n ei wneud i chi wybod bod y dyffryn rhyfedd yn bodoli i bob golwg.

Dyna’r clasur erioed “felly beth?” prawf ymarferoldeb.

Mae'n ymddangos bod llawer o bobl wedi meddwl am lawer o ddehongliadau o'r hyn y dylem neu y gallwn ei wneud am y dyffryn rhyfedd. Mae yna dunelli o farn. Byddaf yn rhoi sylw i rywfaint o hynny yn fuan.

Yn y cyfamser, dyma beth a gynigiodd Masahiro Mori: “Rydym yn gobeithio dylunio ac adeiladu robotiaid a dwylo prosthetig na fyddant yn disgyn i'r dyffryn rhyfedd. Felly, oherwydd y risg sy'n gynhenid ​​wrth geisio cynyddu maint eu tebygrwydd dynol i raddfa'r ail uchafbwynt, rwy'n argymell bod dylunwyr yn hytrach yn cymryd y brig cyntaf fel eu nod, sy'n arwain at radd gymedrol o debygrwydd dynol a chryn ymdeimlad o affinedd. . Yn wir, rwy'n rhagweld ei bod hi'n bosibl creu lefel ddiogel o affinedd trwy fynd ar drywydd dyluniad annynol yn fwriadol. Gofynnaf i ddylunwyr ystyried hyn.”

Mae anwedd cyflym ar fy rhan i o ddeuddeg o reolau defnyddiol sedd y pants ynghylch beth i'w wneud ynghylch y dyffryn rhyfedd yn mynd fel hyn i ddatblygwyr AI yn benodol:

1) Byddwch yn ymwybodol o'r dyffryn rhyfedd a byddwch ar flaenau eich traed yn unol â hynny

2) Mae'n debyg eich bod am gyrraedd affinedd dynol â'ch AI cymaint â phosibl

3) Byddwch yn barod am golli affinedd dynol os bydd eich AI yn disgyn i'r dyffryn rhyfedd

4) Ceisiwch osgoi'r dyffryn rhyfedd trwy ddyfeisio'ch AI felly

5) Mae'n barchus cael nod sy'n fyr o'r dyffryn afrosgo

6) Gweddwch i ymyl y dyffryn rhyfedd ond peidiwch â syrthio dros y clogwyn

7) Peidiwch ag obsesiwn â mynd y tu hwnt i'r dyffryn rhyfedd

8) Er hynny, mae'n debygol y gallwch chi neidio heibio'r dyffryn rhyfedd

9) Peidiwch ag ymgolli yn y naid oherwydd gallech ddisgyn i'r dyffryn beth bynnag

10) Rhaid cyfaddef y byddai'r cysylltiad dynol mwyaf yn cael ei gyrraedd trwy fynd heibio'r dyffryn rhyfedd

11) Serch hynny, mae affinedd digonol ac addas wedi'i ganfod cyn y dyffryn rhyfedd

12) Byddwch yn ymwybodol o'r dyffryn rhyfedd yn barhaus a pheidiwch â gadael iddo lithro'ch meddwl

Mae'r dwsinau hyn i gyd yn orchmynion cyffredinol y gellir eu hystyried fel pwyntiau allweddol neu angori gwybodaeth am y dyffryn rhyfedd. Byddaf yn cydnabod ar unwaith fod pwyntiau eraill nad ydynt wedi'u rhestru yn y dwsin prin hynny y gellid dadlau eu bod yr un mor bwysig. Byddaf hefyd yn cydnabod yn rhwydd ei bod yn siŵr y bydd anghytundeb ar gyfer pob un o’r pwyntiau a nodwyd, a gellir dilyn dadl hirfaith ar bob pwynt a wneir.

Yn fwy na hynny, byddai rhai yn dweud bod y deuddeg pwynt yn gyfan gwbl yn sbwriel oherwydd eu bod yn seiliedig ar anwiredd, i ddechrau. Nid oes y fath beth â dyffryn rhyfedd, byddent yn dadlau. Nid yw'r cyfan yn ddim ond trwstan ac ymryson parod sy'n apelio'n llwyr ac yn drist i apelio at feddyliau gwan (ouch, mae hynny'n brifo o ddifrif!). Mae unrhyw sylw i'r dyffryn rhyfedd yn chwa o awyr wedi'i wastraffu a dylai rhywun ddod draw a rhoi cyfran ddamcaniaethol bren miniog yng nghanol y mater (mae rhai ymchwilwyr wedi ceisio gwneud hynny).

Er mwyn trafodaeth, gadewch i ni fynd gyda'r llif a thybio bod dyffryn rhyfedd a'i fod yn honni ei fod yn cyd-fynd yn gyffredinol â'r hyn yr wyf wedi'i nodi hyd yn hyn. Mae croeso i’r rhai sy’n anghytuno â’r cysyniad o ddyffryn rhyfedd barthau allan neu barhau i ddarllen gyda’u dannedd wedi’u graeanu a’u dicter deallusol yn bragu ac yn berwi (sori am hynny).

Dyma sut mae AI Moesegol a ffocws dyfeisio a maes AI moesegol yn dod i'r amlwg. Gyda llaw, ar gyfer fy archwiliadau parhaus a manwl o foeseg AI, gweler fy nhrafodaeth yn y ddolen hon yma ac y ddolen hon yma, dim ond i enwi ond ychydig.

Mae'r dyffryn rhyfedd yn berthynas gariad-gasineb penderfynol i'r rhai sy'n cymryd rhan mewn AI Moesegol.

Yn gyntaf, roedd angen cefndir ar rai. Un o'r gwendidau mwyaf moesegol sy'n codi gwallt mewn AI yw y gall bodau dynol gael eu twyllo i gredu bod system AI yn deimladwy. Sylwch nad oes unrhyw AI heddiw sy'n dod yn agos at fod yn ymdeimladol. Nid yw'n digwydd ar hyn o bryd. Gwneir fy honiad “pres” yn ôl pob golwg er gwaethaf y penawdau di-baid a pheryglus hynny sy'n datgan y AI hwn neu fod AI naill ai'n ddigon ymdeimladol neu'n ddigon agos i gael ei ystyried felly. Malarkey. Nid ydym ar ymdeimlad AI.

Nid ydym yn gwybod sut i gyrraedd yno. Nid ydym yn gwybod a fydd yn digwydd. Mae teimlad AI yn freuddwyd a dyhead gwerth chweil, ond peidiwch â neidio'r gwn a meddwl ein bod ar fin ei gyflawni.

Wrth gwrs, mae llawer yn rhybuddio'n frwd, os byddwn rywsut yn llwyddo i ddileu teimlad AI, p'un a ydym yn gwneud hynny trwy gynllun neu trwy ddamwain pur, byddwn yn wynebu risg dirfodol. Yn y ffordd honno o feddwl, efallai nad yw ceisio teimlad AI mor werthfawr. Y risg yw y gallai'r AI teimladol hwn benderfynu nad yw bodau dynol yn werth ei gael o gwmpas. Gallem gael ein gwasgu fel byg. Neu ddod yn gaeth i AI. Gallai hyn ddigwydd wrth i’r AI yn amlwg ddewis gwneud hynny, neu efallai mai’r AI yn y pen draw fydd ein peiriant dydd dooms ein hunain sy’n ein dinistrio gan ein hanalluedd ein hunain. Am fy sylw ar y canlyniadau cythryblus hynny o ymdeimlad AI neu unigolrwydd, gweler y ddolen yma.

Pryder AI Moesegol hanfodol yw bod datblygwyr AI a'r rhai sy'n maes AI ar adegau yn sugno bodau dynol i feddwl bod yr AI yn deimladwy. Gall y modd y mae AI yn arddangos ei hun, megis trwy fformiwleiddiad robotig neu drwy ei ryngweithio sgyrsiol, yn llechwraidd ysgogi pobl i gymryd bod yr AI yn deimladwy. Mae hyn yn ei dro yn eich arwain i lawr llwybr briallu a allai fod yn fudr.

Os ydych chi'n syrthio i'r fagl feddyliol o feddwl bod system AI yn deimladwy, rydych chi'n debygol o ddibynnu arni i wneud pethau y byddai bodau ymdeimladol yn eu gwneud. Ond nid oes unrhyw synnwyr cyffredin eto o ansawdd tebyg i ddynolryw wedi'i ymgorffori yn unrhyw un o AI heddiw. Mae'r AI a brofwn ar hyn o bryd yn hynod o frau a bas o ran galluoedd dynol. Fe allech chi fynd i mewn i rai dyfroedd annymunol a pheryglus trwy gredu bod system AI yn deimladwy.

Sut mae hynny'n cysylltu â'r dyffryn rhyfedd?

Dyma'r fargen.

Dwyn i gof ei bod yn ymddangos bod y dyffryn rhyfedd yn dweud wrthym y bydd affinedd dynol yn cynyddu'n raddol wrth i system AI neu robot ddod yn agosach ac yn agosach at fformiwleiddiad tebyg i ddyn. Mewn pwynt lle mae'r system AI yn agosáu at fod yn weddol agos, ond eto, nid yn union yno, rydym yn cael teimlad iasol bod rhywbeth o'i le. Hyd at hynny, roeddem yn gwybod nad oedd AI yn ddynol. Nawr nid ydym yn siŵr. Mae ein perthynas ddynol yn gostwng. Dim ond ar ôl i'r AI neu'r robot ddod yn gwbl argyhoeddiadol ynghylch galluoedd tebyg i ddynolryw y byddwn yn adennill ein cysylltiad â'r ddyfais.

Mae'n debyg y byddai datblygwyr AI sy'n cymryd at y galon hon yn fwriadol ymdrechu i gadw eu AI allan o'r dyffryn rhyfedd, gan anelu at ddod i stop o ran nodweddion y AI, ychydig cyn syrthio i'r affwys anarferol (cofio, dyna hefyd yr hyn a bwysleisiodd Masahiro Mori). Mae'n debyg y byddai'r datblygwyr yn gwneud hynny trwy wneud yn siŵr bod cliwiau chwedlonol toreithiog yn dal i fodoli i'w gwneud hi'n eithaf clir bod yr AI yn AI llai na synhwyraidd ac yn ergo nad yw'n ddynol nac yn yr un modd.

Yn gyffredinol, byddai moesegwyr AI yn croesawu'r ymdrech ddiffuant honno.

Mae'r rhesymu yn syml. Mae'r rhai sydd mor wybodus ac yn croesawu datblygwyr AI yn ceisio sicrhau nad yw'r system AI yn camarwain pobl i briodoli cyfleusterau tebyg i ddyn ar gam i'r AI. Mae hynny’n sicr yn newyddion da. Bydd y datblygwyr yn creu'r AI yn bwrpasol i atal plymio i'r dyffryn rhyfedd. Bydd bodau dynol yn sylweddoli nad yw AI yn deimladwy.

Nid yw'n hawdd ceisio cael datblygwyr AI i gofleidio dull o'r fath. Yn wir, gall fod yn wrthreddfol i'w greddf arferol a'u huchelgeisiau gyrru.

Mae llawer o honiadau yn cael eu gwneud bod datblygwyr AI a thechnoleg, yn gyffredinol, yn cael eu bwyta gyda nodau. Maent yn gweld nod ac yn aml byddant yn mynd ar ei ôl yn ddall gydag awch mawr. Dim amser i stopio ac arogli'r rhosod. I ffwrdd â ni i'r rasys, rydyn ni'n mynd. Ym maes AI, y nod normadol fyddai AI delfrydol na ellir ei wahaniaethu oddi wrth fodau dynol gan y gallai'r AI fod yn gyfartal yn ddeallus o ran cydraddoldeb. Ond nid ydym yno eto. O’r herwydd, mae’r dyffryn rhyfedd yn darparu nod eilradd, gan lanio cyn y dyffryn afrosgo fel arall, a daw’n nod sy’n dderbyniol serch hynny. Yn sicr, nid y fodrwy werthfawr euraidd mohoni, ond y syniad yw bod y wobr “eilaidd” hon yn iawn, diolch yn fawr iawn, a gallwch fod yn falch ohoni.

Rydym wedi newid yr uchelgais mwyaf adfeiliedig o geisio nodau a’i harneisio’n sail resymegol a rhesymegol i wneud y peth iawn, fel petai.

Hurrad!

Sgorio buddugoliaeth i foeseg AI.

Ond arhoswch am eiliad, rhybudd sbwyliwr, mae yna rywbeth arall y mae angen i ni ei ystyried yn gyfartal.

Nawr bod y datblygwyr deallusrwydd deallus hynny yn gwybod am y dyffryn rhyfedd, efallai y byddan nhw'n troi eu doethineb a'u gallu technegol tuag at neidio'n bwrpasol dros yr affwys ac eto'n gwneud hynny gyda rhyw fath o dwyll mewn golwg. Gwnewch i'r AI edrych ac ymddangos yn hollol debyg i ddynolryw, er bod y datblygwyr yn gwybod nad yw hyn yn wir.

Mae'r meddwl twyllodrus yn mynd fel hyn. Peidiwch â gadael i'ch system AI wyro ei het ac achosi i bobl gael yr islif swnllyd hwnnw o ias. Ecséis y ffasedau a allai roi unrhyw awgrym neu gliw nad yw'r AI o allu dynol. Gwnewch hyn wrth sylweddoli'n gyfrinachol a gwybod yn anfaddeuol nad yw'r AI o allu dynol ac mae hyn i gyd yn ymwneud â chuddio'r gwirionedd hwnnw rhag y rhai sy'n rhyngweithio â'r AI neu sy'n ddibynnol arno.

Pa gynlluniau cythreulig.

Yn eironig, gallai'r dyffryn rhyfedd fod yn fath o alwad deffro i ddatblygwyr AI, os ydyn nhw am dwyllo pobl mewn gwirionedd, rhaid iddyn nhw fod yn ddigon clyfar i ddianc o'r affwys. Nid ydynt yn gwneud hynny trwy gyrraedd AI cyflawn, ac yn lle hynny trwy godi mwg a drychau i wneud i'r AI ymddangos yn gamarweiniol fel ei fod yn ddynol. Pe na bai'r datblygwyr AI wedi sylweddoli bod y dyffryn rhyfedd hwn yn bodoli, byddent wedi cwympo i mewn iddo ar y cyfan. Mae hynny'n dda i ddynolryw oherwydd byddai bodau dynol ergo yn colli eu perthynas ag AI o ran peidio â dibynnu'n ormodol ar ansawdd AI heddiw.

Yn anffodus, o wybod bod y trap yn bodoli, mae datblygwyr AI sydd eisiau sleifio o'i gwmpas yn mynd i ddod o hyd i ffyrdd erchyll o glyfar o wneud hynny.

Sgorio ergyd yn erbyn praeseptau AI Moesegol.

Ydych chi'n gweld sut mae hyn yn creu perthynas cariad-casineb i foesegwyr AI am y dyffryn rhyfedd?

Wedi beiddio os gwnewch, creithio os na wnewch chi.

Rwy'n sylweddoli bod hwn wedi bod yn archwiliad ael braidd yn uchel o'r dyffryn rhyfedd ac efallai eich bod yn hela am rai enghreifftiau o ddydd i ddydd. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r her AI foesegol hon yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am y dyffryn rhyfedd, ac os felly, beth mae hyn yn ein hysbysu i'w wneud?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae gwir geir hunan-yrru yn rhai y mae'r AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes car hunan-yrru go iawn ar Lefel 5 eto, nad ydym hyd yn oed yn gwybod a fydd hyn yn bosibl ei gyflawni, a pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan Yrru A'r Dyffryn Anhyfryd

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir hunan-yrru a chwestiynau AI moesegol sy'n ymwneud â'r dyffryn rhyfedd.

Mae pedair agwedd yn ymwneud â’r mater hwn a fydd yn cael sylw yma:

1. Edrychiad cyffredinol ceir hunan-yrru

2. Y cwestiwn o ble mae ceir hunan-yrru yn “edrych”

3. Gweithredoedd gyrru AI o geir hunan-yrru

4. Robotiaid sy'n gyrru fel modd o gyrraedd ceir hunan-yrru

Mae agweddau ychwanegol hefyd wedi'u cwmpasu'n ymarferol ond ar gyfer cyfyngiadau gofod, bydd y pedwar pwnc hyn yn ddigon i oleuo cyfeiriad y dyffryn rhyfedd sy'n ymwneud â cheir hunan-yrru seiliedig ar AI.

1. Golwg Gyffredinol Ceir Hunan-yrru

Rwy'n betio eich bod chi wedi gweld lluniau neu fideos o'r tryouts heddiw o geir hunan-yrru. O'r herwydd, efallai eich bod wedi sylwi bod y rhan fwyaf o'r cerbydau yn geir confensiynol sy'n cynnwys offer arbenigol ychwanegol. Er enghraifft, efallai y bydd rac to sy'n cynnwys cyfres o synwyryddion electronig. Mae'r synwyryddion weithiau'n cynnwys camerâu fideo, unedau radar, dyfeisiau LIDAR, synwyryddion ultrasonic, ac ati.

Mae dyluniadau dyfodolaidd yn dueddol o awgrymu y gallem wyro oddi wrth y car yr olwg gonfensiynol i ailgynllunio ceir y tu mewn a'r tu allan i fod yn gerbydau ymreolaethol mwy slic. Ar hyn o bryd, y meddwl cyffredinol yw ei bod yn symlach defnyddio ceir confensiynol a pheidio â gwario ynni yn ceisio ymestyn yr ymdrech trwy tincian ar yr un pryd â cheir yr olwg anghonfensiynol (mae yna rai eithriadau i'r safbwynt cyffredinol hwn, gweler fy sylw yn y ddolen yma).

Y gwir ar hyn o bryd yw, os ydych chi'n gyrru ar y ffordd ac yn dod ar draws car hunan-yrru cyfagos, gallwch chi bron bob amser ddirnad ar unwaith ei fod yn ôl pob tebyg yn gar sy'n gyrru ei hun trwy sylwi ar y synwyryddion sydd wedi'u gosod ar y cerbyd ymreolaethol yn malu. Mae hwn yn anrheg weledol gyflym. Wrth gwrs, nid ydych chi'n gwybod yn siŵr ei fod yn gyrru ei hun fel y cyfryw oherwydd ar y pwynt hwn mae'r rheolyddion gyrru fel arfer yn dal yn gyfan a gallai gyrrwr dynol wrth gefn fod wrth y llyw.

Mewn un ffordd o feddwl, gallwch awgrymu ei bod yn arbennig o ddefnyddiol bod ceir hunan-yrru yn sefyll allan yn gorfforol ac yn cael eu gweld yn weledol gan yrwyr dynol mewn ceir sy'n cael eu gyrru gan ddyn gerllaw a hefyd gan gerddwyr gerllaw hefyd. Gall sylweddoli bod car sy'n gyrru ei hun yn crwydro gerllaw fod yn gliw defnyddiol i fod yn wyliadwrus, gan eich annog i fod yn wyliadwrus ac yn ymwybodol mai'r AI sy'n gyrru'r cerbyd neu y gallai fod yn ei yrru.

Tybiwch fod ceir hunan-yrru yn edrych yn union yr un fath â char confensiynol a yrrir gan bobl. Mae hyn yn realistig ymarferol mewn o leiaf dwy ffordd. Yn gyntaf, gallai'r synwyryddion gael eu cuddio neu eu siapio i beidio â bod mor amlwg i archwiliad gweledol achlysurol. Yn ail, efallai bod pob car, gan gynnwys ceir confensiynol a yrrir gan ddyn, yn cael eu gwisgo'n raddol â'r synwyryddion tebyg, hyd yn oed os yw'r cerbyd serch hynny yn mynd i aros fel car sy'n cael ei yrru gan ddyn yn bennaf. Gweler fy sylw pellach yn y ddolen hon yma.

Os meddyliwch yn ofalus am yr ystyriaeth hon a all neu a ddylai ceir hunan-yrru fod yn union yr un fath o ran ymddangosiad â cheir confensiynol a yrrir gan bobl, efallai y byddwch yn meddwl y gallai dyffryn rhyfedd fod yn llechu yn y cawl hwn.

Rydych chi'n gweld, efallai y bydd ceir sy'n edrych yn amlwg fel ceir hunan-yrru yn cael eu nodweddu fel rhai sydd ar bwynt sydd ychydig yn fyr o'r dyffryn rhyfedd. Yn y bôn, rydych chi'n “gwybod” ei fod yn robot neu'n fath robotig o system. Dyna farn y gallwch neidio iddo bron ar unwaith.

Pan fo ceir sy'n gyrru eu hunain yn union yr un fath â cheir sy'n cael eu gyrru gan ddyn, efallai bod hyn yn awgrymu bod y cerbydau ymreolaethol wedi neidio heibio'r dyffryn rhyfedd o ran eu hymddangosiad tebyg i robotig. A oes er bod tir canol rhwng y ddau ymddangosiad corfforol hynny sy'n ein glanio i'r dyffryn rhyfedd?

Efallai eich bod chi'n gweld car hunan-yrru yn dod i lawr y stryd ac mae'n debyg ei fod yn gar sy'n gyrru ei hun, ar y llaw arall, nid yw'r edrychiad yn edrych yn gwbl ymreolaethol nac yn edrych yn hollol ddynol. Gallech ddadlau bod y car sy’n gyrru ei hun bellach mewn cyflwr iasol neu gythryblus ei olwg.

Mae'n debyg bod y car hunan-yrru wedi ymgolli yn y dyffryn rhyfedd.

Wedi dweud hynny, ni fyddai pawb yn cytuno â'r categori hwnnw. Byddai rhai yn honni nad oes gan yr edrychiad corfforol unrhyw beth i'w wneud â'r dyffryn rhyfedd. Mae rhai wrth gwrs hefyd yn haeru nad oes unrhyw beth a adwaenir yn realistig fel y dyffryn rhyfedd.

Fel y soniwyd yn gynharach, mae croeso i chi wneud eich penderfyniad eich hun ar hyn.

2. Cwestiwn O Ble Mae Ceir Hunan Yrru Yn Edrych

Pryder mawr sydd gan lawer am geir sy'n gyrru eu hunain yw eu bod fel arfer yn brin o unrhyw yrrwr dynol yn sedd y gyrrwr ac felly mae'n anodd darganfod ble mae'r “gyrrwr” yn edrych tra yn y weithred o yrru'r car.

Rydych chi fel arfer yn edrych ar yrwyr dynol i ysbïo ble maen nhw'n edrych. Er enghraifft, efallai eich bod yn gerddwr ar groesffordd a bod car yn agosáu at y groesfan. Rydych chi'n edrych yn ofalus ar y person sy'n eistedd yn sedd y gyrrwr ac yn ceisio dirnad lle mae ei ben wedi'i droi a lle mae ei lygaid yn edrych. Os ydych chi'n credu bod y gyrrwr dynol wedi'ch gweld chi, efallai y byddwch chi'n fwy cyfforddus i groesi'r stryd. Mewn cyferbyniad, os yw'n ymddangos nad yw'r gyrrwr dynol wedi'ch gweld chi, rydych chi'n gwbl bryderus am groesi.

Mewn rhai dinasoedd, mae yna fath o gambit cath a llygoden ar yr agweddau hyn. Efallai mai norm diwylliannol penodol mewn dinas benodol yw, os byddwch chi'n gwneud cyswllt llygad â gyrrwr, mae'r gyrrwr yn “ennill” ac mae'n ymddangos bod ganddyn nhw'r hawl i symud ymlaen, waeth beth fo cyfreithlondeb y sefyllfa yrru. Gallai dinasoedd eraill fod yn gwbl groes i’w gilydd, sef mai’r norm diwylliannol yw pan wneir cyswllt llygad mae’r cerddwr yn “ennill” a bod y gyrrwr dynol i fod i ohirio i weithredoedd y cerddwr.

Mae'n ymddangos ein bod wedi mabwysiadu'r arferiad hwn dros y cyfnod cymharol hir o geir yng nghanol ein dinasoedd a'n cymunedau. Y broblem gyda dyfodiad ceir hunan-yrru yw nad oes gyrrwr dynol yn sedd y gyrrwr ac felly mae unrhyw yrrwr cerddwyr neu ddyn cyfagos sydd fel arfer yn defnyddio pen a llygaid gyrwyr ceir fel dangosydd diwylliannol o fwriad gyrru nawr. allan o lwc.

Mae gwneuthurwyr ceir a datblygwyr ceir hunan-yrru yn ymwybodol iawn o'r mater hwn sy'n dod i'r amlwg. Mae un datrysiad arfaethedig yn cynnwys y car sy'n gyrru ei hun yn blincio prif oleuadau'r cerbyd ymreolaethol neu o bosibl yn rhychu'r corn. Syniad arall yw y gallai fod gan y car hunan-yrru amrywiad o uchelseinydd a dweud wrth y rhai cyfagos beth yw “bwriad” y system yrru AI. Mae gan bob un o'r syniadau hynny anfanteision sylweddol.

Er hynny, mae cynnig gwahanol yn golygu gwneud rhywbeth y gallech chi ei gredu ar y dechrau i fod yn chwerthinllyd. Mae'r cynnig yn cynnwys gosod orbiau tebyg i belen y llygad ar y tu allan i'r cerbyd ymreolaethol. Byddai'r orbs hyn fwy neu lai yn edrych fel llygaid dynol yn y golwg o allu colyn yn ôl ac ymlaen, gan roi arwydd ar unwaith i chi sy'n awgrymu bod yr AI “wedi eich gweld chi” (byddech yn dehongli hyn wrth i'r peli llygaid edrych i'ch cyfeiriad penodol). Rwyf wedi dadansoddi'r dull hwn yn y ddolen yma.

Beth fyddai'ch ymateb chi i weld car sy'n gyrru ei hun yn dod i lawr y ffordd a chael y pelen lygad rhyfedd hyn yn ymddangos yn orbiau wedi'u gosod ar y cwfl neu'r to?

Mae'n debyg y byddech chi'n meddwl ei fod yn iasol, efallai'n iasol.

Byddai rhai yn awgrymu bod yr iasedd yn deillio o'r car hunan-yrru mor wisgoedd yn y dyffryn rhyfedd. Byddai eraill yn dadlau’n chwyrn nad oes gan hyn ddim byd o gwbl i’w wneud â’r dyffryn rhyfedd. O'r pynditiaid hynny, byddai rhai yn dweud bod yna iasedd a all fod yn iasol heb orfod ymwreiddio yn y dyffryn afrosgo (hy, mae'r dyffryn afrosgo i bob golwg bob amser yn cynhyrchu iasau, ond nid trwy'r dyffryn rhyfedd yn unig y mae pob ias yn cael ei gynhyrchu). Yr ongl arall yw y gellid yn ôl pob tebyg dylunio'r orbiau i fod yn llai pelen y llygad ac yn ymddangos yn fwy robotig, neu y byddwn i gyd yn anochel yn derbyn ymddangosiad y corynnau hyn a bydd yr adwaith syfrdanol cychwynnol yn ymsuddo.

3. AI Gyrru Gweithredoedd Ceir Hunan-yrru

Mae llawer o arbrofion heddiw ar geir hunan-yrru wedi dangos bod y systemau gyrru AI presennol yn tueddu i gael eu rhaglennu i yrru mewn ffyrdd cyfreithiol braidd yn dwp ac yn cadw'n gaeth. Mae'r system yrru AI fel arfer yn dod â'r car hunan-yrru i atalnod llawn wrth arwyddion Stop. Nid yw'r system yrru AI yn rhedeg trwy groestoriadau beiddgar pan fydd y signal traffig yn mynd i fod yn goch yn fuan. Mae'r arferion gyrru ystyfnig hyn yn dalaith gyrwyr dynol.

Mewn ffordd o siarad, fe allech chi bron ddyfalu bod car hunan-yrru yn gar hunan-yrru yn ôl yr arddull gyrru y mae'n ei arddangos. Hyd yn oed pe bai'r cerbyd ymreolaethol yn ymddangos yn weledol yn gar confensiynol sy'n cael ei yrru gan bobl, efallai y byddwch chi'n arsylwi'r gweithredoedd gyrru ac efallai'n canfod yn rhesymegol ei fod yn ôl pob tebyg yn cael ei yrru gan system AI.

Mae rhai yn credu y bydd angen i ni wneud systemau gyrru AI i fod yn debycach i antics gyrwyr dynol fel y byddant yn ymdoddi'n effeithiol i'r dulliau normadol o yrru. Mae'n debyg y gallech ddehongli hyn fel ymladd tân â thân.

Ydy hynny'n gwneud synnwyr?

Byddwch yn ymwybodol bod amheuwyr a beirniaid di-flewyn-ar-dafod yn casáu'r syniad. Byddent yn dadlau'n frwd ein bod am i systemau gyrru AI yrru'n gywir ac yn sinsir. Byddai ychwanegu miliynau o geir hunan-yrru o bosibl at y ffyrdd sydd wedi'u rhaglennu i fod fel gyrwyr dynol cyfeiliornus yn ymddangos yn hunllef aruthrol. Rwyf wedi trafod y cynnig dadleuol hwn yn y ddolen yma.

Gadewch i ni ail-lunio'r cyfyng-gyngor trwy drosoli'r dyffryn rhyfedd.

Pan fo'r system yrru AI yn gwbl gyfreithiol oherwydd ei gweithredoedd gyrru, efallai bod hwn yn gliw chwedlonol ei bod yn debygol o fod yn system robotig (er gwaethaf y gyrwyr dynol sy'n cyfaddef eu bod yn gwneud hyn, er yn y byd sydd ohoni maent yn ymddangos yn bell ac ychydig rhyngddynt). Os yw systemau gyrru AI i yrru mor hynod â gyrwyr dynol, a yw hyn yn neidio ar draws y dyffryn rhyfedd neu'n disgyn i'r dyffryn rhyfedd?

Mull bod un drosodd.

4. Robotiaid Sy'n Gyrru Fel Ffordd o Gyrhaeddiad Ceir Hunan Yrru

Yr eitem olaf hon ar gyfer sylw yw'r mwyaf syfrdanol o'r pedwar hyn.

Efallai eich bod yn gwbl anymwybodol bod rhai datblygwyr AI yn ceisio crefftio robotiaid a fyddai'n gyrru ceir. Byddai'r robot yn tueddu i edrych fel bod dynol mewn gwahanol ffyrdd, gyda choesau robotig a breichiau robotig fel aelodau. Pan fyddwch chi eisiau i unrhyw gar confensiynol sy'n cael ei yrru gan bobl fod yn gar sy'n gyrru ei hun, dim ond y robot gyrru AI arbenigol hwn rydych chi'n ei roi yn sedd gyrrwr eich car. Gweler fy nadansoddiad o'r syniad hwn yn y ddolen yma.

Pam fydden ni eisiau gyrru robotiaid?

Harddwch robot o'r fath yw y gallai holl geir heddiw sy'n cael eu gyrru gan bobl ddod yn geir hunan-yrru, bron dros nos, mewn modd dehongliad. Rydych chi'n prynu, yn prydlesu, neu rywsut yn cael robot gyrru i chi'ch hun. Rydych chi'n rhoi'r robot yn sedd eich gyrrwr wrth fynd ar daith yrru. Mae'r robot yn eich gyrru i ben eich taith. Os ydych chi am newid i yrru dynol, rydych chi'n tynnu'r robot o'r cerbyd, efallai ei roi yn y boncyff i'w ddefnyddio'n ddiweddarach.

Mae tua 250 miliwn o geir confensiynol yn yr Unol Daleithiau heddiw. Mae rhai yn credu y bydd y rheini’n cael eu sothach yn y pen draw wrth i geir hunan-yrru ddod i fodolaeth. Yn hytrach na jyncio’r ceir confensiynol hynny, efallai y byddwn yn ceisio eu hôl-ffitio i fod yn geir hunan-yrru, er bod hwn o bosibl yn syniad eithaf costus. Y dull sy'n ymddangos yn fwy darbodus fyddai sicrhau bod robotiaid gyrru ar gael.

Pe baech chi'n gweld car yr olwg gonfensiynol yn dod i lawr stryd eich cymdogaeth a bod ganddo robot wrth y llyw, beth fyddai eich ymateb?

Eerness tebygol.

Un honiad y gellir ei ddadlau yw mai'r rheswm dros yr iasedd hwn yw'r robot yn gyrru car confensiynol i lawr i'r dyffryn rhyfedd enwog neu enwog.

Casgliad

O safbwynt AI Moesegol, mae'r dyffryn rhyfedd yn creu penbleth diddorol.

Mae yna rai mewn AI sy'n credu'n llwyr yn y dyffryn rhyfedd a rhai nad ydyn nhw. Ond, p'un a ydych chi'n credu yn y dyffryn rhyfedd neu ddim yn gwneud hynny, serch hynny mae'r pwnc ei hun wedi'i amgylchynu. Ni allwch guddio'ch pen ac esgus nad yw'r lluniad ynddo'i hun yn bodoli. Mae'r lluniad fel syniad yn fyw ac mewn rhai agweddau mae'n bwerus firaol. Ei gasáu neu ei garu, mae'r pwnc crand neu efallai dyrchafedig yn parhau.

Yn ôl fy nhrafodaeth gynharach ar rinweddau'r dyffryn rhyfedd o foeseg AI, mae perthynas gariad a chasineb gorfoleddus ynddo. A ddylai'r rhai yn y deyrnas AI foesegol gofleidio'r dyffryn rhyfedd, neu wrthod y dyffryn rhyfedd yn ddiannod, neu aros braidd yn niwtral ynghylch y cywirdeb ac yn lle hynny ganolbwyntio ar yr effaith sy'n deillio o'r credoau dargyfeiriol parhaus amdano.

Daw’r her hon â’r economegydd penigamp Adam Smith wrth iddo ddweud unwaith (aralleirio) bod yn rhaid i chi fynd trwy Ddyffryn Amwysedd ar y ffordd o Ddinas Amheuaeth.