AI Moeseg A'r Ymdrech Am Hunan-Ymwybyddiaeth Mewn AI

Ydych chi'n hunanymwybodol?

Byddwn yn betio eich bod yn credu eich bod.

Y peth yw, yn ôl pob tebyg, ychydig ohonom sy'n arbennig o hunanymwybodol. Mae amrywiaeth neu raddau o hunanymwybyddiaeth ac mae pob un ohonom yn amrywio o ran pa mor hunanymwybodol craff ydym ni. Efallai eich bod yn meddwl eich bod yn gwbl hunanymwybodol a dim ond ychydig felly y byddwch. Efallai eich bod yn hunan-ymwybodol denau ac yn sylweddoli mai dyna yw eich cyflwr meddwl.

Yn y cyfamser, ar ben uchaf y sbectrwm, efallai y byddwch chi'n credu eich bod chi'n gwbl hunanymwybodol ac yn dweud y gwir eich bod mor hunanymwybodol ag y dônt. Da i chi.

Wrth siarad am ba un, pa les y mae'n ei wneud i fod yn hynod hunanymwybodol?

Yn ôl ymchwil a gyhoeddwyd yn y Harvard Adolygiad Busnes (HBR) gan Tasha Eurich, mae'n debyg eich bod chi'n gallu gwneud gwell penderfyniadau, rydych chi'n fwy hyderus yn eich penderfyniadau, rydych chi'n gryfach yn eich galluoedd cyfathrebu, ac yn fwy effeithiol yn gyffredinol (fesul erthygl o'r enw “Beth Yw Hunan-Ymwybyddiaeth Mewn Gwirionedd (a Sut i'w Ddiwyllio).” Y ffactor bonws yw y dywedir bod y rhai sydd â hunanymwybyddiaeth frwd yn llai tueddol o dwyllo, lladrata, neu ddweud celwydd. ymdrechu i fod yn fod dynol gwell ac addurno'ch cyd-ddyn.

Mae’r holl siarad hwn am hunan-ymwybyddiaeth yn codi cwestiwn eithaf amlwg, sef, beth mae’r ymadrodd hunan-ymwybyddiaeth yn ei olygu mewn gwirionedd. Mae'n hawdd dod o hyd i dunelli o ddiffiniadau a dehongliadau amrywiol am y cymhleth a byddwn yn dweud lluniad stwnsh yn golygu bod yn hunanymwybodol. Byddai rhai yn symleiddio pethau trwy awgrymu bod hunanymwybyddiaeth yn cynnwys monitro eich hunan, gwybod beth mae eich hun yn ei wneud. Rydych chi'n ymwybodol iawn o'ch meddyliau a'ch gweithredoedd eich hun.

Yn ôl pob tebyg, pan nad yw’n hunanymwybodol, ni fyddai person yn sylweddoli beth mae’n ei wneud, na pham felly, a hefyd heb fod yn ymwybodol o’r hyn sydd gan bobl eraill i’w ddweud amdanynt. Rwy'n siŵr eich bod wedi cwrdd â phobl fel hyn.

Mae'n ymddangos bod rhai pobl yn cerdded y ddaear hon heb unrhyw syniad o'r hyn y maen nhw eu hunain yn ei wneud, ac nid oes ganddyn nhw ychwaith unrhyw syniad o'r hyn y mae eraill yn ei ddweud amdanyn nhw. Mae'n debyg y gallech chi ddadlau eu bod nhw fel tarw gwefru pennau-i-lawr mewn bwtîc toradwy cain. Fel arfer rydym yn tueddu i gredu nad yw'r tarw yn gwybod beth mae'n ei wneud a'i fod yn parhau i fod yn anghofus i safbwyntiau eraill oni bai bod y lleill hynny'n ceisio symud neu gorlannu'r creadur di-liw yn gorfforol.

Dywedir y gall hunanymwybyddiaeth fod braidd yn ailadroddus.

Gadewch i mi fraslunio enghraifft i ddangos yr ailadrodd hwn. Rydych chi yng nghanol gwylio fideo cath eithaf amsugnol ar eich ffôn clyfar (mae pawb yn gwneud hyn, mae'n ymddangos). Ni fyddai gan rai pobl unrhyw feddyliau ymddangosiadol eraill heblaw am antics rhyfeddol calonogol y cathod annwyl hynny. Yn y cyfamser, unrhyw un sydd â modicum o hunan-ymwybyddiaeth, maent yn ymwybodol eu bod yn gwylio fideo cath. Efallai eu bod hefyd yn ymwybodol bod eraill o'u cwmpas yn sylwi eu bod yn gwylio fideo cath.

Sylwch y gallwch fod yn hunanymwybodol a dal i gael eich trochi mewn gweithgaredd cynradd penodol a ddywedwn. Y prif weithgaredd yn yr achos hwn yw gwylio'r fideo cath. Yn ail, ac ar yr un pryd, gallwch chi feddwl eich bod chi mewn gwirionedd yn gwylio fideo cath. Rydych chi hefyd yn gallu cario'r meddwl bod eraill yn eich arsylwi wrth i chi wylio'r fideo cath hollol ddifyr. Nid oes rhaid i chi roi'r gorau i un gweithgaredd o reidrwydd, fel rhoi'r gorau i wylio'r fideo cath, er mwyn ystyried ar wahân eich bod chi (neu dim ond wedi bod) yn gwylio fideo cath. Mae'n debyg y gall y meddyliau hynny ddigwydd ochr yn ochr â'i gilydd.

Weithiau, fe allai ein hunanymwybyddiaeth ein cicio allan o weithgaredd meddwl sylfaenol neu o leiaf ymyrryd â hi. Efallai, wrth feddwl am wylio'r fideo cathod, mae'ch meddwl yn ymrannu'n rhannol gan ei fod yn gorymestyn i ganolbwyntio ar y fideo ei hun yn unig. Yna byddwch chi'n dewis ail-ddirwyn y fideo i ailedrych ar y rhan roeddech chi'n ei gweld ond roeddech chi'n cael eich tynnu sylw'n feddyliol oddi wrth ddeall yn llawn. Roedd hunan-ymwybyddiaeth yn tarfu ar eich gweithgaredd meddyliol sylfaenol.

Iawn, rydym bellach yn barod i'r agweddau ailadroddus godi.

Ydych chi'n barod?

Rydych chi'n gwylio fideo cath. Mae eich hunan-ymwybyddiaeth yn eich hysbysu eich bod yn gwylio fideo cath a bod eraill yn eich gwylio wrth i chi wylio'r fideo. Dyna'r status quo.

Rydych chi'n gwneud naid feddyliol ychwanegol nesaf. Rydych chi'n dechrau meddwl am eich hunanymwybyddiaeth. Rydych chi'n hunan ymwybodol eich bod chi'n ymgysylltu â'ch hunanymwybyddiaeth. Dyma sut mae hynny'n mynd: Ydw i'n meddwl gormod am feddwl am wylio'r fideo cathod, rydych chi'n gofyn i chi'ch hun yn anobeithiol? Dyma haen arall o hunanymwybyddiaeth. Safle hunan-ymwybyddiaeth ar ben hunanymwybyddiaeth arall.

Mae yna hen ddywediad mai crwbanod yw hi yr holl ffordd i lawr. Ar gyfer y ffenomenau hunanymwybyddiaeth, gallech fod yn:

• Ddim yn ymwybodol ohonoch chi'ch hun
• Hunan ymwybodol ohonoch chi'ch hun
• Hunan-ymwybodol o'ch hunanymwybyddiaeth ohonoch chi'ch hun
• Hunanymwybodol o'ch bod yn hunanymwybodol o'ch hunanymwybyddiaeth ohonoch chi'ch hun
• Ad Infinitum (hy, ac yn y blaen)

Efallai eich bod wedi sylweddoli fy mod yn gynharach yn nodi’n gynnil ei bod yn ymddangos bod dau brif gategori, sef bod yn hunanymwybodol. Mae un ddamcaniaeth benodol yn rhagdybio bod gennym ni fath o hunanymwybyddiaeth fewnol sy'n canolbwyntio ar ein cyflyrau mewnol, ac mae gennym hefyd hunanymwybyddiaeth allanol sy'n helpu i fesur canfyddiadau amdanom ni o'r rhai o'n cwmpas sy'n ein gweld.

Yn ôl erthygl HBR, dyma ddarlun cyflym o’r ddau fath o hunanymwybyddiaeth ddamcaniaethol: “Y cyntaf, a alwyd gennym hunanymwybyddiaeth fewnol, yn cynrychioli pa mor glir yr ydym yn gweld ein gwerthoedd, nwydau, dyheadau ein hunain, yn cyd-fynd â’n hamgylchedd, adweithiau (gan gynnwys meddyliau, teimladau, ymddygiadau, cryfderau, a gwendidau), ac effaith ar eraill.” Ac yn y cyfamser y llall yw: “Yr ail gategori, hunan-ymwybyddiaeth allanol, yn golygu deall sut mae pobl eraill yn ein gweld, o ran yr un ffactorau a restrir uchod. Mae ein hymchwil yn dangos bod pobl sy’n gwybod sut mae eraill yn eu gweld yn fwy medrus wrth ddangos empathi a chymryd safbwyntiau eraill.”

Gellir cael matrics defnyddiol dwy wrth ddau neu bedwar sgwâr trwy honni bod yr hunanymwybyddiaeth fewnol ac allanol yn amrywio o uchel i isel, a gallwch chi baru'r ddau gategori yn erbyn ei gilydd. Mae ymchwil HBR yn dangos y dywedir eich bod yn un o'r pedwar archdeip hunanymwybyddiaeth hyn:

• Introspector: Hunan-Ymwybyddiaeth Allanol Isel + Hunan-Ymwybyddiaeth Fewnol Uchel
• Ceisiwr: Hunan-Ymwybyddiaeth Allanol Isel + Hunan-Ymwybyddiaeth Fewnol Isel
• Os gwelwch yn dda: Hunan-Ymwybyddiaeth Allanol Uchel + Hunan-Ymwybyddiaeth Fewnol Isel
• Ymwybodol: Hunan-Ymwybyddiaeth Allanol Uchel + Hunan-Ymwybyddiaeth Fewnol Uchel

Y pinacl fyddai’r archdeip “Ymwybodol” sy’n cynnwys bod ar y brig o fod yn hunanymwybodol o’r tu allan ac yn yr un modd ar frig bod yn hunanymwybodol yn fewnol. I egluro, nid ydych yn cyrraedd yr ystum gromennog hwn mewn ffordd barhaol o reidrwydd. Gallwch lithro yn ôl ac ymlaen rhwng bod yn uchel ac isel, ymhlith y meysydd hunanymwybyddiaeth mewnol ac allanol. Gall ddibynnu ar yr amser o'r dydd, y sefyllfa rydych chi ynddi, a nifer o ffactorau eraill o bwys.

Nawr ein bod ni wedi rhoi sylw da i rai elfennau sylfaenol am hunanymwybyddiaeth, gallwn geisio clymu hyn â thestun ymddygiadau moesegol.

Yr honiad arferol am fod yn hunanymwybodol yw eich bod yn fwy tebygol o fod yn uwch na'r disgwyl pan fyddwch yn hunanymwybodol. Mae hyn yn golygu, fel y nodwyd eisoes, eich bod yn llai tueddol o ymddwyn yn foesegol andwyol fel dwyn, twyllo a dweud celwydd. Y rhesymeg dros y duedd hon yw y byddai bywiogrwydd eich hunanymwybyddiaeth yn gwneud ichi sylweddoli bod eich ymddygiad eich hun yn ansawrus neu'n anfoesegol. Nid yn unig y byddwch chi'n eich dal eich hun wrth i chi wyro i ddyfroedd lleidiog anfoesegol, ond rydych chi hefyd yn dueddol o lywio'ch hun yn ôl ac ymlaen i dir sych (sancteiddrwydd tiriogaeth foesegol), fel petai.

Mae eich hunanymwybyddiaeth yn eich cynorthwyo i ymarfer hunanreolaeth.

Mae'n debyg mai cyferbyniad fyddai pan nad oes fawr ddim hunanymwybyddiaeth, os o gwbl, sy'n awgrymu bod rhywun efallai'n anghofus i'w gyfeiriad at ymddygiadau anfoesegol. Gallech ddadlau efallai na fyddai person mor anymwybodol yn sylweddoli ei fod yn perfformio'n anffafriol. Yn debyg i'r tarw yn y siop toradwy, nes bod rhywbeth mwy amlwg yn dal eu sylw, maent yn annhebygol o hunan-reoleiddio eu hunain.

Nid yw pawb yn prynu i mewn i hyn, gyda llaw. Byddai rhai yn dadlau y gellir cymhwyso hunanymwybyddiaeth mor hawdd at fod yn anfoesegol â bod yn foesegol. Er enghraifft, efallai y bydd y drwgweithredwr yn gwbl hunanymwybodol ac yn ymhyfrydu ei fod yn cyflawni'r camwedd. Mae eu hunanymwybyddiaeth hyd yn oed yn eu gyrru'n fwy bras tuag at weithredoedd mwy a mwy o gamymddwyn ysgeler.

Mae mwy o gymylog ar hyn nag a allai ddod yn uniongyrchol i'r llygad. Tybiwch fod rhywun yn hunanymwybodol iawn, ond nid ydynt yn ymwybodol o foesau moesegol cymdeithas neu ddiwylliant penodol. Yn y modd hwnnw, nid oes ganddynt unrhyw arweiniad moesegol, er gwaethaf y ffaith a nodwyd eu bod yn hunanymwybodol. Neu, os dymunwch, efallai bod y person yn gwybod am y praeseptau moesegol ac nad yw'n credu eu bod yn berthnasol iddo. Maent yn ystyried eu hunain yn unigryw neu y tu allan i ffiniau meddwl moesegol confensiynol.

Rownd a rownd mae'n mynd.

Gellid dehongli hunan-ymwybyddiaeth fel cleddyf moeseg-orweddol ag ymyl ddeuol, y byddai rhai yn pwysleisio'n frwd.

Am y foment, gadewch i ni fynd gyda'r fersiwn wyneb hapus sy'n cynnwys hunanymwybyddiaeth ar y cyfan yn ein harwain neu'n gwthio tuag at ymddygiadau moesegol. Gan fod popeth arall yn gyfartal, byddwn yn rhagdybio po fwyaf o hunanymwybyddiaeth sydd, y mwyaf o bwysau moesegol yr ewch. Mae'n sicr yn ymddangos yn bleserus ac yn ysbrydoledig i ddymuno hynny.

Gadewch i ni symud gerau a dod â Deallusrwydd Artiffisial (AI) i'r llun.

Rydym ar bwynt yn y drafodaeth hon i gysylltu'r holl gysylltiadau sy'n mynd rhagddynt â maes cynyddol AI Moesegol, a adwaenir hefyd yn gyffredin fel moeseg AI. Am fy sylw parhaus a helaeth i foeseg AI, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae'r syniad o AI Moesegol yn golygu cydblethu maes moeseg ac ymddygiad moesegol â dyfodiad AI. Rydych chi'n sicr wedi gweld penawdau sydd wedi codi clychau larwm am AI sy'n gyforiog o annhegwch a thueddiadau amrywiol. Er enghraifft, mae pryderon y gall systemau adnabod wynebau seiliedig ar AI arddangos gwahaniaethu ar sail hil a rhyw ar adegau, yn nodweddiadol o ganlyniad i’r ffordd y cafodd y cyfleusterau Dysgu Peiriant (ML) a Dysgu Dwfn (DL) sylfaenol eu hyfforddi a’u maesu (gweler fy nadansoddiad yn y ddolen hon yma).

I geisio atal neu o leiaf liniaru'r rhuthr pell-mell tuag AI Er Drwg, sy'n cynnwys systemau AI sydd naill ai'n anfwriadol neu ar adegau wedi'u siapio'n fwriadol i weithredu'n wael, bu brys yn ddiweddar i gymhwyso praeseptau moeseg i ddatblygiad a defnydd AI. Y nod o ddifrif yw darparu arweiniad moesegol i ddatblygwyr AI, ynghyd â chwmnïau sy'n adeiladu neu'n maesu AI, a'r rhai sy'n dibynnu ar gymwysiadau AI. Fel enghraifft o'r egwyddorion AI Moesegol yn cael eu saernïo a'u mabwysiadu, gweler fy sylw yn y ddolen yma.

Rhowch foment fyfyriol i ystyried y tri chwestiwn hynod hollbwysig hyn:

• A allwn gael datblygwyr AI i gofleidio egwyddorion AI Moesegol a rhoi'r canllawiau hynny i ddefnydd gwirioneddol?
• A allwn ni gael cwmnïau sy'n crefftio neu'n maesu AI i wneud yr un peth?
• A allwn ni gael y rhai sy'n defnyddio AI yn yr un modd i fod yn ymwybodol o agweddau AI Moesegol?

Byddwn yn dweud hyn yn ddiymdroi, mae'n drefn uchel.

Gall y wefr o wneud AI fod yn drech nag unrhyw ing o sylw i foeseg AI. Wel, nid yn unig y wefr, ond mae gwneud arian yn rhan annatod o'r hafaliad hwnnw hefyd. Efallai y byddwch chi'n synnu o wybod bod rhai yn y byd AI yn dueddol o ddweud y byddan nhw'n mynd ati i ddelio â'r “stwff” AI Moesegol unwaith y byddan nhw wedi rhoi eu systemau AI allan y drws. Dyma'r mantra techie nodweddiadol o wneud yn siŵr eich bod yn methu'n gyflym ac yn methu'n aml nes i chi wneud pethau'n iawn (gwneud pethau'n iawn gobeithio).

Wrth gwrs, mae'r rhai sy'n gwthio AI amheus moesegol i'r cyhoedd yn gyffredinol yn gollwng y ceffyl allan o'r ysgubor. Eu syniad estynedig cyhoeddedig yw bod y AI Er Drwg Bydd yn cael ei drwsio ar ôl iddo gael ei ddefnyddio bob dydd, sy'n niweidiol yn araf gan fod y ceffyl eisoes yn carlamu o gwmpas yn ddi-hid. Gellir gwneud niwed. Mae yna hefyd siawns uwch na fydd unrhyw beth yn cael ei drwsio na'i addasu tra bod y AI yn cael ei ddefnyddio. Esgus aml yw y gallai chwarae gyda'r AI ar y pwynt hwnnw ei wneud hyd yn oed yn waeth o ran gwneud penderfyniadau algorithmig (ADM) sydd eisoes yn anfoesegol yn mynd yn gyfan gwbl oddi ar y sgidiau.

Beth ellir ei wneud i gael defnyddioldeb a bywiogrwydd cael AI Moesegol fel golau sy'n disgleirio'n llachar ac yn arwain ym meddyliau'r rhai sy'n adeiladu AI, yn gosod AI, ac yn defnyddio AI?

Ateb: Hunan-ymwybyddiaeth.

Ydy, y syniad yw pe bai pobl yn fwy hunanymwybodol o sut maen nhw'n defnyddio neu ryngweithio ag AI, gallai gynyddu eu tueddfryd tuag at ddymuno i AI Moesegol fod yn norm. Gellid dweud yr un peth am y datblygwyr AI a'r cwmnïau sy'n gysylltiedig â systemau AI. Pe byddent yn fwy hunanymwybodol o'r hyn y maent yn ei wneud, efallai y byddent yn cofleidio moeseg AI yn fwy felly.

Rhan o'r rhesymeg fel y nodwyd eisoes yw bod bod yn hunanymwybodol yn cynnig tuedd tuag at fod yn berson sy'n foesegol well a hefyd yn osgoi bod yn berson sy'n foesegol lousy. Os gallwn gadw'r rhagosodiad hwnnw i fynd, mae'n awgrymu y bydd y datblygwyr AI sy'n fwy tueddol o hunanymwybyddiaeth yn tueddu i ymddwyn yn foesegol ac felly'n dueddol o gynhyrchu AI sy'n foesegol gadarn.

Ydy hynny'n bont yn rhy bell i chi?

Byddai rhai yn dweud bod yr anuniongyrchol ychydig yn fawr. Efallai ei bod yn anodd llyncu’r gadwyn afresymol o gysylltiadau rhwng bod yn hunanymwybodol, bod yn foesegol rinweddol, a chymhwyso praeseptau moesegol i AI. Gwrthddadl yw na allai frifo ceisio.

Byddai amheuwyr yn dweud y gallai datblygwr AI fod yn hunanymwybodol ac o bosibl â meddwl mwy moesegol, ond nid ydynt o reidrwydd yn mynd i neidio tuag at gymhwyso'r gwersyll meddwl hwnnw i fethiannau AI Moesegol. Yr ateb i'r pryder hwnnw yw, os gallwn roi cyhoeddusrwydd a phoblogeiddio materion AI Moesegol, bydd y cysylltiad sydd fel arall yn ymddangos yn denau yn dod yn fwy amlwg, a ddisgwylir, ac o bosibl yn dod yn ffordd safonol o wneud pethau o ran crefftio AI.

Rydw i nawr yn mynd i ychwanegu tro at y saga hon. Efallai y bydd y tro yn gwneud i'ch pen droelli. Gwnewch yn siŵr eich bod yn eistedd yn dda ac yn barod ar gyfer yr hyn yr wyf ar fin ei nodi.

Mae rhai yn nodi y dylem fod yn ymgorffori AI Moesegol yn uniongyrchol i'r AI ei hun.

Efallai na fyddwch yn cael eich plesio gan yr ynganiad hwnnw. Gadewch i ni ei ddadbacio.

Gallai rhaglennydd greu system AI a gwneud hynny gyda'u hunanymwybyddiaeth rhaglennu eu hunain o geisio atal yr AI rhag ymgorffori rhagfarnau ac annhegwch. Yn hytrach na dim ond bwrw ymlaen â'r rhaglennu, mae'r datblygwr yn gwylio dros ei ysgwydd ei hun i ofyn a yw'r ymagwedd y mae'n ei dilyn yn mynd i arwain at absenoldeb angenrheidiol elfennau niweidiol yn yr AI.

Yn wych, mae gennym ni ddatblygwr AI sy'n ymddangos yn ddigon hunanymwybodol, sydd wedi ceisio cofleidio ymddygiadau moesegol, ac sydd wedi gweld y golau i gynnwys praeseptau moesegol wrth iddynt lunio eu system AI.

Sgorio buddugoliaeth i AI Moesegol!

Da iawn, ond dyma rywbeth a all ddigwydd yn nes ymlaen. Mae'r AI yn cael ei faesu a'i ddefnyddio bob dydd. Roedd rhan o’r AI yn cynnwys elfen ar gyfer gallu “dysgu” ar y hedfan. Mae hyn yn golygu y gall yr AI addasu ei hun yn seiliedig ar ddata newydd ac agweddau eraill ar y rhaglennu gwreiddiol. O'r neilltu yn gyflym, nid yw hyn yn awgrymu bod yr AI yn deimladwy. Nid oes gennym AI ymdeimladol. Anwybyddwch y penawdau dopey hynny sy'n dweud ein bod yn gwneud hynny. Ni all neb ddweud a fydd gennym AI ymdeimladol, ac ni all neb ychwaith ragweld yn ddigonol pryd os byth y bydd yn digwydd.

Gan ddychwelyd at ein hanes, dyfeisiwyd yr AI yn bwrpasol i wella ei hun tra ar y gweill. Syniad eithaf hylaw. Yn hytrach na bod rhaglenwyr yn gorfod gwneud gwelliannau'n barhaus, maent yn caniatáu i'r rhaglen AI wneud hynny ar ei phen ei hun (whoa, a yw hynny'n gweithio'ch hun allan o swydd?).

Yn ystod yr amser y mae'r AI modfedd wrth fodfedd yn addasu ei hun, mae'n ymddangos bod amrywiol annhegwch a rhagfarnau sordid yn ymledu i'r system AI trwy ei weithredoedd newid ei hun. Er bod y rhaglennydd yn wreiddiol wedi cadw'r agweddau hynny'n ddidwyll, maent bellach yn cael eu llunio oherwydd bod y AI yn addasu ar y hedfan. Yn anffodus, gall hyn ddigwydd mewn ffordd mor gynnil y tu ôl i'r llenni fel nad oes neb yn ddoethach. Mae'r rhai a allai fod wedi rhoi golau gwyrdd yn gynharach i'r AI ar ôl y profion cynhwysfawr cychwynnol, bellach yn gwbl anymwybodol bod yr AI wedi mynd i lawr y llwybr pwdr o AI Er Drwg.

Un ffordd o naill ai atal neu o leiaf ddal yr ymddangosiad annymunol hwn fyddai cynnwys math o wiriwr dwbl AI Moesegol yn yr AI. Mae cydran o fewn yr AI wedi'i rhaglennu i wylio ymddygiad yr AI a chanfod a yw ADM anfoesegol yn dechrau dod i'r amlwg. Os felly, gallai'r gydran anfon rhybudd at ddatblygwyr AI neu wneud hynny i gwmni sy'n rhedeg y system AI.

Efallai y bydd fersiwn mwy datblygedig o'r gydran hon yn ceisio atgyweirio'r AI. Byddai hyn yn addasiad o'r addasiadau, gan droi'r agweddau anfoesegol sy'n codi yn ôl i'r paramedrau moesegol cywir. Gallwch ddychmygu bod y math hwn o raglennu yn anodd. Mae siawns y gallai fynd ar gyfeiliorn, gan droi o bosibl yn anfoesegol yn anfoesegol iawn. Mae yna hefyd bosibilrwydd y bydd positif ffug yn sbarduno'r gydran i weithredu ac efallai'n gwneud llanast o bethau yn unol â hynny.

Beth bynnag, heb gael eich llethu gan sut y byddai'r gwiriwr dwbl hwn yn gweithio, rydym yn mynd i wneud datganiad craff amdano. Gallech awgrymu, mewn rhyw ffordd gyfyngedig, y dywedir bod yr AI yn hunanymwybodol.

Yikes, mae'r rheini'n eiriau ymladd i lawer.

Y gred gyffredinol gan bron pawb yw nad yw AI heddiw yn hunanymwybodol. Atalnod llawn, cyfnod. Hyd nes i ni gyrraedd AI ymdeimladol, nad ydym yn gwybod os na phryd y bydd hynny'n digwydd, nid oes unrhyw fath o AI sy'n hunanymwybodol. Nid o leiaf yn ystyr hunan-ymwybyddiaeth dynol-ganolog. Peidiwch â hyd yn oed awgrymu y gall ddigwydd.

Rwy’n sicr yn cytuno bod angen inni fod yn ofalus ynghylch anthropomorffeiddio AI. Dywedaf fwy am y pryder hwnnw mewn eiliad.

Yn y cyfamser, os byddwch, er mwyn trafodaeth, yn fodlon defnyddio'r “hunanymwybodol” fesul cam mewn modd llac-gŵydd, credaf y gallwch weld yn rhwydd pam y gellir dweud bod yr AI yn cadw at y syniad cyffredinol o hunan-dybiaeth. ymwybyddiaeth. Mae gennym ni gyfran o'r AI sy'n monitro gweddill yr AI, gan gadw golwg ar yr hyn y mae gweddill yr AI yn ei wneud. Pan fydd gweddill yr AI yn dechrau mynd dros ben llestri, mae'r gyfran fonitro yn ceisio canfod hyn. At hynny, gallai'r rhan monitro AI neu'r gwiriwr dwbl lywio gweddill yr AI yn ôl i'r lonydd cywir.

Onid yw hynny'n ymddangos ychydig yn debyg i'r weithred o wylio'r fideos cathod hynny a chael yr hunanymwybyddiaeth eich bod yn gwneud hynny?

Mae modrwy gyfarwydd iddo.

Gallwn ymestyn hyn hyd yn oed yn fwy felly. Mae'r gydran gwiriwr dwbl AI nid yn unig wedi'i rhaglennu i arsylwi ymddygiad gweddill yr AI ond hefyd yn nodi ymddygiad y rhai sy'n defnyddio'r AI. Sut mae'r defnyddwyr yn ei wneud wrth ddefnyddio'r AI? Tybiwch fod rhai defnyddwyr yn mynegi dicter bod yr AI fel pe bai'n gwahaniaethu yn eu herbyn. Efallai y bydd y gwiriwr dwbl AI yn gallu sylwi ar hyn, gan ei ddefnyddio fel baner goch arall am weddill yr AI yn mynd ar gyfeiliorn.

Mae hyn yn codi'r hunanymwybyddiaeth fewnol a'r categorïau hunanymwybyddiaeth allanol.

Mae'r gwiriwr AI dwbl yn sganio'n fewnol ac yn allanol i ddarganfod a yw gweddill yr AI wedi mynd i foroedd cythryblus. Bydd y datgeliad yn codi baner neu'n achosi i hunan-gywiriad gael ei ddeddfu.

Gadewch i ni ychwanegu estyniad arall braidd yn syfrdanol. Rydym yn adeiladu gwiriwr dwbl AI arall sydd i fod i wirio dwbl gwiriwr craidd AI. Pam felly? Wel, mae'n debyg bod y gwiriwr dwbl AI yn petruso neu'n methu â gwneud ei waith. Byddai gwiriwr dwbl AI y gwiriwr dwbl yn ceisio canfod y diffyg hwn ac yn cymryd y camau angenrheidiol yn unol â hynny. Croeso i natur ailadroddus hunan-ymwybyddiaeth, efallai y bydd rhai yn datgan yn falch, fel y dangosir mewn system AI gyfrifiadol.

I'r rhai ohonoch sydd eisoes ar ymyl eich sedd am hyn, y sylw olaf, am y tro, yw y gallem geisio awgrymu, os gwnewch systemau AI yn “hunanymwybodol” y gallent o bosibl symud tuag at ymddygiad moesegol. A ydynt yn gwneud hyn ar sail ymdeimladol? Yn benderfynol, na. A ydynt yn gwneud hyn ar sail gyfrifiadol? Ie, er bod yn rhaid inni fod yn glir nad yw o'r un safon ag ymddygiad dynol.

Os ydych chi'n anghyfforddus bod y syniad o hunanymwybyddiaeth yn cael ei ystumio'n anghywir i'w wneud yn ffitio i mewn i gynllun cyfrifiannol, mae eich amheuon ar hyn wedi'u nodi'n dda. Mae p'un a ddylem roi'r gorau i'r ymdrechion AI parhaus sy'n trosoli'r syniad yn gwestiwn agored arall. Gallech ddadlau’n berswadiol ei bod yn ymddangos o leiaf ei fod yn ein harwain at ganlyniad gwell i’r hyn y mae AI yn debygol o’i wneud. Ond mae angen i ni gael ein llygaid yn llydan agored wrth i hyn ddigwydd.

Dyfalwch y bydd angen i ni weld sut mae hyn i gyd yn chwarae allan. Dewch yn ôl at hyn mewn pum mlynedd, deng mlynedd, a hanner can mlynedd, i weld a yw eich ffordd o feddwl wedi newid ar y mater dadleuol.

Rwy'n sylweddoli bod hwn wedi bod yn archwiliad digon penbleth o'r pwnc ac efallai eich bod yn pendroni am rai enghreifftiau o ddydd i ddydd. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r her AI foesegol hon yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am fod ag AI yn debyg i “hunanymwybyddiaeth” ac os felly, beth mae hyn yn ei ddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae gwir geir hunan-yrru yn rhai y mae'r AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes car hunan-yrru go iawn ar Lefel 5 eto, nad ydym hyd yn oed yn gwybod a fydd hyn yn bosibl ei gyflawni, a pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru Ac AI Wedi Hyn a elwir yn Hunan-Ymwybyddiaeth

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir hunan-yrru a chwestiynau AI moesegol sy'n ymwneud â'r syniad codi aeliau bod AI yn cael rhyw fath o hunanymwybyddiaeth os dymunwch.

Gadewch i ni ddefnyddio enghraifft syml iawn. Mae car hunan-yrru seiliedig ar AI ar y gweill ar strydoedd eich cymdogaeth ac mae'n ymddangos ei fod yn gyrru'n ddiogel. Ar y dechrau, roeddech chi wedi rhoi sylw arbennig i bob tro y gwnaethoch chi lwyddo i gael cipolwg ar y car hunan-yrru. Roedd y cerbyd ymreolaethol yn sefyll allan gyda'i rac o synwyryddion electronig a oedd yn cynnwys camerâu fideo, unedau radar, dyfeisiau LIDAR, ac ati. Ar ôl wythnosau lawer o'r car hunan-yrru yn mordeithio o amgylch eich cymuned, prin eich bod chi'n sylwi arno nawr. Cyn belled ag yr ydych yn y cwestiwn, dim ond car arall ydyw ar y ffyrdd cyhoeddus sydd eisoes yn brysur.

Rhag eich bod yn meddwl ei bod yn amhosibl neu'n annhebygol i ddod yn gyfarwydd â gweld ceir hunan-yrru, rwyf wedi ysgrifennu'n aml am sut mae'r lleoliadau sydd o fewn cwmpas treialon ceir hunan-yrru wedi dod i arfer yn raddol â gweld y cerbydau wedi'u hysgaru, gweld fy nadansoddiad yn y ddolen hon yma. Yn y pen draw, symudodd llawer o'r bobl leol o ganu'r wyllt i fympwyo yn awr gan allyrru dyrnaid eang o ddiflastod i weld ceir hunan-yrru troellog.

Mae'n debyg mai'r prif reswm ar hyn o bryd y gallent sylwi ar y cerbydau ymreolaethol yw oherwydd y ffactor llid a chythruddo. Mae systemau gyrru AI wrth y llyfr yn sicrhau bod ceir yn ufuddhau i holl gyfyngiadau cyflymder a rheolau'r ffordd. Ar gyfer gyrwyr dynol prysur yn eu ceir traddodiadol sy'n cael eu gyrru gan bobl, rydych chi'n cael eich cythruddo ar adegau pan fyddwch chi'n sownd y tu ôl i'r ceir hunan-yrru sy'n cydymffurfio â'r gyfraith yn seiliedig ar AI.

Mae hynny'n rhywbeth y gallai fod angen i ni i gyd ddod i arfer ag ef, yn gywir neu'n anghywir.

Yn ôl at ein chwedl. Un diwrnod, mae'n debyg bod car hunan-yrru yn eich tref neu ddinas yn agosáu at arwydd Stop ac nid yw'n ymddangos ei fod yn arafu. Nefoedd, mae'n edrych yn debyg y bydd y system yrru AI yn cael yr aradr car hunan-yrru heibio'r arwydd Stop. Dychmygwch os oedd cerddwr neu feiciwr yn rhywle gerllaw ac yn cael ei ddal yn wyliadwrus nad oedd y car hunan-yrru yn mynd i ddod i stop iawn. Cywilyddus. Peryglus!

Ac, yn anghyfreithlon.

Gadewch i ni nawr ystyried cydran AI yn y system yrru AI sy'n gweithredu fel arddull o wiriwr dwbl hunanymwybodol.

Byddwn yn cymryd eiliad i gloddio i fanylion yr hyn sy'n digwydd y tu mewn i'r system yrru AI. Mae'n ymddangos bod y camerâu fideo a osodwyd ar y cerbyd ymreolaethol wedi canfod yr hyn a oedd yn ymddangos efallai yn arwydd Stop, er yn yr achos hwn mae coeden sydd wedi tyfu'n wyllt yn cuddio'r arwydd Stop yn helaeth. Dyfeisiwyd y system Dysgu Peiriannau a Dysgu Dwfn a hyfforddwyd yn wreiddiol ar arwyddion Stop ar batrymau o arwyddion Stop Llawn yn bennaf, yn gyffredinol ddilyffethair. Ar ôl archwilio'r delweddau fideo yn gyfrifiadol, rhoddwyd tebygolrwydd isel bod arwydd Stop yn bodoli yn y man penodol hwnnw (fel cymhlethdod ychwanegol, ac esboniad pellach, roedd hwn yn arwydd Stop newydd ei bostio nad oedd yn ymddangos ar y mapiau digidol a baratowyd ymlaen llaw bod y Roedd system yrru AI yn dibynnu ar).

Ar y cyfan, roedd y system yrru AI yn benderfynol yn gyfrifiadol i symud ymlaen fel pe bai'r arwydd Stop naill ai ddim yn bodoli neu o bosibl yn arwydd o fath arall bod perchance yn debyg i arwydd Stop (gall hyn ddigwydd ac mae'n digwydd yn eithaf aml).

Ond, diolch byth, roedd y gwiriwr dwbl hunan-ymwybodol AI yn monitro gweithgareddau'r system gyrru AI. Ar ôl adolygu'r data yn gyfrifiadol a'r asesiad gan weddill yr AI, dewisodd y gydran hon ddiystyru'r cwrs arferol o symud ymlaen ac yn lle hynny gorchmynnodd i'r system yrru AI ddod i stop addas.

Ni chafodd unrhyw un ei anafu, ac ni chododd unrhyw weithred anghyfreithlon.

Fe allech chi ddweud bod gwiriwr dwbl hunanymwybodol AI yn gweithredu fel petai'n asiant cyfreithiol wedi'i fewnosod, gan geisio sicrhau bod y system yrru AI yn cadw at y gyfraith (yn yr achos hwn, arwydd Stop). Wrth gwrs, roedd diogelwch yn allweddol hefyd.

Gobeithio bod yr enghraifft honno'n dangos sut y gallai'r gwiriwr dwbl hunanymwybodol AI weithio.

Nesaf, gallwn ystyried yn fyr enghraifft AI Moesegol amlycach sy'n dangos sut y gallai gwiriad dwbl hunanymwybodol AI ddarparu ymarferoldeb gwreiddio moeseg sy'n canolbwyntio ar AI.

Yn gyntaf, fel cefndir, un o’r pryderon sydd wedi’i fynegi ynghylch dyfodiad ceir hunan-yrru seiliedig ar AI yw y gallent gael eu defnyddio mewn ffordd wahaniaethol braidd yn anfwriadol yn y pen draw. Dyma sut. Tybiwch fod y ceir hunan-yrru hynny wedi'u sefydlu i geisio gwneud y mwyaf o'u potensial refeniw, sy'n gwneud synnwyr yn bendant i'r rhai sy'n gweithredu fflyd o geir hunan-yrru sy'n rhannu reidiau. Byddai perchennog y fflyd am gael gweithrediad proffidiol.

Gallai fod mewn tref neu ddinas benodol, bod y ceir crwydrol hunan-yrru yn raddol yn dechrau gwasanaethu rhai rhannau o'r gymuned ac nid ardaloedd eraill. Maent yn gwneud hynny ar gyfer nod gwneud arian, yn yr ystyr efallai na fydd ardaloedd tlotach mor cynhyrchu refeniw â rhannau cyfoethocach y locale. Nid yw hwn yn ddyhead penodol o wasanaethu rhai ardaloedd a pheidio â gwasanaethu eraill. Yn lle hynny, mae’n codi’n organig wrth i AI y ceir hunan-yrru “ddangos” yn gyfrifiadol bod mwy o arian i’w wneud drwy ganolbwyntio ar yr ardaloedd daearyddol sy’n talu’n uwch. Rwyf wedi trafod y pryder moesegol cymdeithasol hwn yn fy ngholofn, megis yn y ddolen yma.

Tybiwch ein bod wedi ychwanegu gwiriwr dwbl hunanymwybodol AI i'r systemau gyrru AI. Ar ôl ychydig, mae'r gydran AI yn gyfrifiadurol yn sylwi ar batrwm o ble mae'r ceir hunan-yrru yn crwydro. Yn nodedig, mewn rhai ardaloedd ond nid mewn eraill. Yn seiliedig ar gael ei godio â rhai praeseptau AI Moesegol, mae'r gwiriwr dwbl hunanymwybodol AI yn dechrau arwain y ceir hunan-yrru i rannau eraill o'r dref a oedd fel arall yn cael eu hesgeuluso.

Mae hyn yn dangos y syniad hunanymwybodol o AI ac yn gwneud hynny ar y cyd â'r elfen AI Moesegol.

Gallai un enghraifft arall roi mewnwelediad y gall yr ystyriaeth AI Moesegol hon fod yn oblygiadau bywyd neu farwolaeth eithaf sobreiddiol a difrifol hefyd.

Ystyriwch adroddiad newyddion am ddamwain car yn ddiweddar. Yn ôl y sôn, roedd gyrrwr dynol yn dod i fyny at groesffordd brysur ac roedd ganddo olau gwyrdd i fynd yn syth ymlaen. Daeth gyrrwr arall heibio i olau coch a mynd i mewn i'r groesffordd pan na ddylent fod wedi bod yn gwneud hynny. Sylweddolodd y gyrrwr gyda'r golau gwyrdd ar y funud olaf fod y car arall hwn yn mynd i hwrdd yn ddifrifol yn ei gar.

Yn ôl y gyrrwr anniben hwn, cyfrifodd yn ofalus ei fod naill ai'n mynd i gael ei daro gan y car arall, neu y gallai wyro i geisio osgoi'r interloper. Y broblem gyda gwyro oedd bod yna gerddwyr cyfagos a fyddai mewn perygl.

Pa ddewis fyddech chi'n ei wneud?

Gallwch chi baratoi eich hun i gael eich taro a gobeithio na fydd y difrod yn eich anafu nac yn eich lladd. Ar y llaw arall, gallwch wyro'n radical i ffwrdd, ond peryglu'n ddifrifol ac o bosibl niweidio neu ladd cerddwyr cyfagos. Mae hon yn broblem galed, sy'n cwmpasu barn foesol, ac mae wedi'i thrwytho'n llwyr mewn goblygiadau moesegol (a chyfreithiol).

Mae penbleth foesegol cyffredinol sy'n ymdrin â'r math hwn o gyfyng-gyngor, a elwir yn enwog neu efallai'n warthus yn Broblem Troli, gweler fy sylw helaeth yn y ddolen hon yma. Troi allan ei fod yn arbrawf meddwl moesegol ysgogol sy'n olrhain yn ôl i'r 1900au cynnar. O'r herwydd, mae'r pwnc wedi bod o gwmpas ers cryn amser ac yn fwy diweddar mae wedi dod yn gysylltiedig yn gyffredinol â dyfodiad AI a cheir hunan-yrru.

Disodli'r gyrrwr dynol gyda system yrru AI wedi'i hymgorffori mewn car hunan-yrru.

Dychmygwch felly fod car hunan-yrru AI yn mynd i mewn i groesffordd a bod synwyryddion y cerbyd ymreolaethol yn sydyn yn canfod car sy'n cael ei yrru gan ddyn yn beryglus yn dod yn uniongyrchol trwy olau coch ac yn anelu at y car heb yrrwr. Tybiwch fod gan y car hunan-yrru rai teithwyr y tu mewn i'r cerbyd.

Beth ydych chi am i'r AI ei wneud?

Pe bai'r system yrru AI yn dewis symud ymlaen a chael ei haredig i mewn (gan niweidio neu efallai ladd y teithwyr y tu mewn i'r cerbyd), neu a ydych chi am i'r system yrru AI gymryd siawns a gwyro i ffwrdd, er bod y camau gwyro yn cymryd y cerbyd ymreolaethol yn beryglus tuag at gerddwyr cyfagos a gallai eu niweidio neu eu lladd.

Mae llawer o'r gwneuthurwyr AI o geir hunan-yrru yn cymryd agwedd ben-yn-y-tywod i'r problemau pothellu AI moesegol hyn. Ar y cyfan, byddai'r AI fel y mae wedi'i raglennu ar hyn o bryd yn syml yn aredig ymlaen ac yn cael ei hyrddio'n dreisgar gan y car arall. Nid oedd yr AI wedi'i raglennu i chwilio am unrhyw symudiadau osgoi eraill.

Rwyf wedi rhagweld dro ar ôl tro y bydd y safiad di-ddrwg clywed-dim-drwg hwn o wneuthurwyr ceir hunan-yrru AI yn dod o gwmpas yn y pen draw ac yn eu brathu (mae fy nadansoddiad wedi cyrraedd. y ddolen yma). Gallwch ddisgwyl achosion cyfreithiol yn ymwneud â damweiniau car o'r fath a fydd yn ceisio darganfod beth y rhaglennwyd yr AI i'w wneud. A oedd y cwmni neu ddatblygwyr AI neu weithredwr fflyd a ddatblygodd ac a gyflwynodd yr AI yn esgeulus neu'n atebol am yr hyn a wnaeth neu na wnaeth yr AI? Gallwch hefyd ragweld y bydd storm dân foesegol o ymwybyddiaeth AI ar draws y cyhoedd yn bragu unwaith y bydd y mathau hyn o achosion yn digwydd.

I mewn i'r cyfyng-gyngor AI Moesegol hwn mae ein gwiriwr dwbl hunanymwybodol AI crand sy'n canolbwyntio ar foeseg. Efallai y gallai'r gydran AI arbennig hon ymwneud â'r mathau hyn o amgylchiadau. Mae'r rhan yn monitro gweddill y system yrru AI a statws y car hunan-yrru. Pan fydd eiliad enbyd fel hon yn codi, mae'r gydran AI yn gweithio fel Datryswr Problemau Troli ac yn cynnig yr hyn y dylai'r system yrru AI ei wneud.

Ddim yn beth hawdd i'w godio, gallaf eich sicrhau.

Casgliad

Byddaf yn rhannu'r syniad olaf gyda chi am y tro ar y pwnc hwn.

Mae'n debyg y bydd yn ddiddorol i chi.

Ydych chi'n gwybod am y prawf drych?

Mae'n eithaf adnabyddus yn yr astudiaeth o hunan-ymwybyddiaeth. Enwau eraill ar y mater yw'r prawf hunan-adnabod drych, y prawf smotyn coch, y prawf rouge, ac ymadroddion cysylltiedig. Crewyd y dechneg a'r dull i ddechrau yn y 1970au cynnar ar gyfer asesu hunanymwybyddiaeth anifeiliaid. Ymhlith yr anifeiliaid sydd wedi llwyddo yn y prawf mae epaod, rhai mathau o eliffantod, dolffiniaid, piod, a rhai eraill. Ymhlith yr anifeiliaid a brofwyd ac na basiodd y prawf yn ôl pob sôn mae pandas enfawr, llewod môr, ac ati.

Dyma'r fargen.

Pan fydd anifail yn gweld ei hun mewn drych, a yw'r anifail yn sylweddoli bod y ddelwedd a ddangosir ohono'i hun, neu a yw'r anifail yn meddwl ei fod yn anifail arall?

Yn ôl pob tebyg, mae'r anifail yn adnabod ei rywogaeth ei hun yn weledol, ar ôl gweld eraill o'i fath ei hun, ac efallai y byddai'n meddwl felly bod yr anifail a ddangosir yn y drych yn gefnder neu efallai'n gystadleuydd rhyfelgar (yn enwedig os yw'r anifail yn sgyrsio wrth y drych ddelwedd, sydd yn tro fel pe bai'n sleifio'n ôl arnyn nhw). Efallai eich bod wedi gweld cath eich tŷ neu gi anwes annwyl yn gwneud yr un peth pan fydd yn gweld ei hun mewn drych cartref am y tro cyntaf.

Beth bynnag, byddem yn cymryd yn ganiataol nad yw anifail gwyllt erioed wedi gweld ei hun o'r blaen. Wel, nid yw hyn o reidrwydd yn wir, oherwydd efallai i'r anifail gael cipolwg arno'i hun mewn pwll tawel o ddŵr neu trwy ffurfiant craig sgleiniog. Ond mae'r rheini'n cael eu hystyried yn gyfleoedd llai tebygol.

Iawn, rydym am asesu rhywsut a yw anifail yn gallu darganfod mai dyna'r anifail a ddangosir yn y drych mewn gwirionedd. Ystyriwch y weithred sy'n ymddangos yn syml. Mae bodau dynol yn darganfod yn ifanc eu bod yn bodoli a bod eu bodolaeth yn cael ei ddangos trwy weld eu hunain mewn drych. Maent yn dod yn hunan ymwybodol ohonynt eu hunain. Mewn theori, efallai na fyddwch yn sylweddoli mai chi yw chi, nes gweld eich hun mewn drych.

Efallai nad yw anifeiliaid yn gallu dod yn wybyddol yn hunanymwybodol yn yr un modd. Mae'n bosibl y byddai anifail yn gweld ei hun mewn drych ac yn credu'n barhaus mai rhyw anifail arall ydyw. Ni waeth faint o weithiau y mae'n gweld ei hun, byddai'n dal i feddwl bod hwn yn anifail gwahanol nag ef ei hun.

Daw'r rhan gamp o hyn i chwarae. Rydyn ni'n gwneud marc ar yr anifail. Rhaid i'r marc hwn fod yn weladwy dim ond pan fydd yr anifail yn gweld ei hun yn y drych. Os gall yr anifail droelli neu droi a gweld y marc arno'i hun (yn uniongyrchol), mae hynny'n difetha'r arbrawf. Ar ben hynny, ni all yr anifail deimlo, arogli, na chanfod y marc mewn unrhyw ffordd arall. Unwaith eto, petaent yn gwneud hynny byddai'n difetha'r arbrawf. Ni all yr anifail wybod ein bod yn rhoi'r marc arno, oherwydd byddai hynny'n awgrymu i'r bwystfil fod rhywbeth yno.

Rydym am gyfyngu ar bethau fel mai'r unig reswm posibl y gellir canfod y marc yw trwy edrych arno'i hun yn y drych.

Aha, mae'r prawf nawr yn barod. Mae'r anifail yn cael ei osod o flaen drych neu'n crwydro ato. Os yw'r anifail yn ceisio cyffwrdd neu gloddio'r marc wedyn, byddem yn dod i'r casgliad rhesymol mai'r unig ffordd y byddai hyn yn digwydd yw pe bai'r anifail yn sylweddoli bod y marc arno'i hun. Ychydig iawn o rywogaethau anifeiliaid sydd wedi llwyddo i basio'r prawf hwn.

Mae yna lu o feirniadaethau am y prawf. Os yw profwr dynol gerllaw, efallai y bydd yn rhoi pethau i ffwrdd trwy syllu ar y marc, a allai achosi i'r anifail frwsio neu deimlo amdano. Posibilrwydd arall yw bod yr anifail yn dal i gredu bod anifail arall yn cael ei ddangos yn y drych, ond ei fod o'r un math, ac felly mae'r anifail yn meddwl tybed a oes ganddo hefyd nod fel yr un ar yr anifail arall.

Ymlaen ac ymlaen mae'n mynd.

Rwy'n siŵr eich bod yn falch o wybod hyn ac y byddwch yn deall o hyn ymlaen pam fod yna ddot neu farc rhyfedd ar anifail na fyddai fel arall â marc o'r fath. Pwy a wyr, efallai ei fod wedi gorffen arbrawf prawf drych yn ddiweddar. Llongyfarchiadau i'r anifail, yn ddiogel, am fod yn gyfranogwr hael.

Beth sydd a wnelo unrhyw un o hynny â cheir hunan-yrru seiliedig ar AI?

Byddwch chi'n hoffi'r rhan hon.

Mae car hunan-yrru yn mynd ar hyd priffordd hir. Mae'r system yrru AI yn defnyddio synwyryddion i ganfod traffig arall. Mae hon yn briffordd dwy lôn sydd â thraffig yn mynd tua'r gogledd mewn un lôn ac tua'r de yn y lôn arall. O bryd i'w gilydd, bydd ceir a thryciau yn ceisio mynd heibio i'w gilydd, gan wneud hynny trwy fynd i mewn i'r lôn gyferbyn ac yna hercian yn ôl i'w lôn deithio gywir.

Rydych chi wedi gweld hyn, rydych chi wedi gwneud hyn heb os.

Byddaf yn betio bod yr agwedd nesaf hon wedi digwydd i chi hefyd. O flaen y car hunan-yrru mae un o'r tryciau tancer mawr hynny. Mae wedi'i wneud o fetel sgleiniog. Wedi'i sgleinio ac yn lân fel chwiban. Wrth fynd y tu ôl i lori o'r fath, gallwch weld drych delwedd eich car trwy ran gefn y tancer. Os ydych chi wedi gweld hwn, rydych chi'n gwybod pa mor syfrdanol y gall fod. Dyna chi, chi a'ch car, wedi'i adlewyrchu yn adlewyrchiad drych cefn y lori tancer.

Eisteddwch i lawr am y tro gwallgof.

Mae car hunan-yrru yn dod i fyny y tu ôl i'r lori tancer. Mae'r camerâu yn canfod delwedd car a ddangosir yn yr adlewyrchiad tebyg i ddrych. Whoa, mae'r AI yn asesu, ai car yw hwnnw? Ydy e'n dod at y car hunan-yrru? Wrth i'r car hunan-yrru ddod yn agosach ac yn agosach at y lori tancer, mae'n ymddangos bod y car yn dod yn agosach ac yn agosach.

Gallai Yikes, yr AI yn gyfrifiadol gyfrifo bod hon yn sefyllfa beryglus a dylai'r AI gymryd camau i osgoi'r cerbyd twyllodrus gwallgof hwn. Rydych chi'n gweld, nid oedd yr AI yn adnabod ei hun yn y drych. Methodd y prawf drych.

Beth i'w wneud? Efallai bod y gwiriwr dwbl hunan-ymwybodol AI yn neidio i'r mater ac yn rhoi sicrwydd i weddill y system yrru AI mai dim ond adlewyrchiad diniwed ydyw. Perygl wedi'i osgoi. Mae'r byd yn cael ei achub. Llwyddiant y Prawf Drych AI!

Gyda chasgliad tafod-yn-y-boch, efallai y byddwn hyd yn oed yn awgrymu bod AI weithiau yn gallach neu o leiaf yn fwy hunanymwybodol nag arth arferol (er, er clod i eirth, maen nhw fel arfer yn gwneud yn dda yn y prawf drych, yn aml ar ôl ennill wedi arfer â'u hadlewyrchiad mewn pyllau dŵr).

Cywiro, efallai y gall AI fod yn fwy hunanymwybodol na phandas enfawr a morlewod, ond peidiwch â dweud wrth yr anifeiliaid y gallent gael eu temtio i dorri neu chwalu systemau AI. Dydyn ni ddim eisiau hynny, ydyn ni?