AI Moeseg Yn Ofalus ynghylch Gwaethygu AI Anghymesuredd Yng Nghanol Bod Bodau Dynol Yn Cael Diwedd Byr O'r Ffon

Weithiau rydych chi ar ben anghywir y ffon.

Gellir cymhwyso'r llafaredd hwnnw at y syniad o anghymesuredd.

Ydw, rydw i'n mynd i fod yn siarad am anghymesuredd. Fel mae'n debyg eich bod chi wedi dod ar ei draws yn y byd dirdynnol hwn rydyn ni'n byw ynddo, mae yna adegau pan fyddwch chi'n cael llai o wybodaeth am fater sy'n gymharol bwysig i chi. Cyfeirir at hyn yn ffurfiol fel Anghymesuredd Gwybodaeth.

Yr hyn sy'n allweddol yw bod gennych chi lai o wybodaeth nag y byddech chi'n dymuno ei gael, ac yn bendant mae gennych chi lai na'r parti arall sy'n ymwneud â'r mater. Rydych chi dan anfantais amlwg o gymharu â'r blaid arall. Maen nhw'n gwybod rhywbeth nad ydych chi'n ei wybod. Gallant drosoli'r hyn y maent yn ei wybod, yn enwedig o ran yr hyn nad ydych yn ei wybod, a chael llaw uchaf mewn unrhyw drafodaethau garw a dibynnol gyda chi.

Wel, mae yna fachgen newydd yn y dref, a elwir yn AI Anghymesuredd.

Mae'r ymadrodd diweddaraf hwn yn cyfeirio at y posibilrwydd y byddwch chi'n mynd yn erbyn rhywun sydd wedi'i arfogi ag AI, tra nad ydych chi mor arfog.

Mae ganddyn nhw AI ar eu hochr, tra bod gennych chi, wel, dim ond chi. Mae pethau'n ddrwg. Rydych chi dan anfantais dybiedig. Bydd yr ochr arall yn gallu rhedeg cylchoedd o'ch cwmpas oherwydd bod AI yn ychwanegu ato. Gallai hynny fod o fewn y dywediad enwog bod y cyfan yn deg mewn cariad a rhyfel (dihareb hirsefydlog a fathwyd yn Euphues gan John Lyly, 1578), er bod dynameg a pheryglon Anghymesuredd AI yn codi materion AI Moesegol heriol. Am fy ymdriniaeth barhaus a helaeth o AI Moeseg ac AI Moesegol, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Cyn i ni neidio i mewn i'r deyrnas AI a'i gymhlethdodau helaeth o ran Anghymesuredd AI, gadewch i ni yn gyntaf archwilio'r fersiwn arferol bob dydd o hen Anghymesuredd Gwybodaeth plaen. Bydd hyn yn gosod y llwyfan ar gyfer ymylu ar y plentyn AI diarhebol newydd ar y bloc.

Gallai stori fyr a phwrpasol oleuo eich archwaeth.

Y diwrnod o'r blaen roedd gennyf deiar fflat tra ar y ffordd ac roeddwn yn ceisio'n gyflym i ddod o hyd i un arall addas y gellid ei osod yn hawdd ar unwaith. Gan ddefnyddio fy ffôn clyfar, edrychais ar-lein ar siopau teiars cyfagos i ddarganfod y pellter roedd yn rhaid i mi ei yrru ar fy nheyrn rhedeg-fflat ac a oedd unrhyw siopau ar agor. Yn ogystal, gwnes asesiad cyflym o'u hadolygiadau cwsmeriaid ar-lein a cheisiais gasglu unrhyw beth defnyddiol am ba mor hir y buont mewn busnes a ffactorau eraill a allai ddangos eu teilyngdod.

Ar ôl ffonio un o'r siopau teiars, rhoddodd y clerc ddyfynbris awel i mi am gost y teiar a'i osod. Nid oedd y teiar yn union yr hyn oedd gennyf mewn golwg, ond sicrhaodd y clerc fi mai nhw fyddai'r unig siop yn yr ardal a allai wneud y gwaith yn syth bin. Yn ôl y clerc, ni fyddai gan unrhyw un o'r siopau teiars cyfagos unrhyw deiars o'r fath mewn stoc a byddai'n cymryd o leiaf diwrnod i'r cystadleuwyr hynny gael teiar addas o ryw warws lled-bell.

Yr oeddwn yn nghanol anghymesuredd gwybodaeth.

Proffesodd y clerc wybod mwy am statws lleol y storfeydd teiars ac yn arbennig y math o deiars oedd ei angen arnaf. Roeddwn mewn ardal nad oeddwn ond yn mynd trwyddi ac nid oedd gennyf unrhyw wybodaeth uniongyrchol am y siopau teiars yn yr ardal ddaearyddol benodol honno. Er y cyfan roeddwn i'n ei wybod, roedd y clerc yn llygad ei le ac yn rhoi'r gwir heb farneisio i mi.

Ond a oedd y clerc yn gwneud hynny?

Efallai ie, efallai na.

Fe allai fod y clerc yn credu yn ddiffuant bob peth oedd yn cael ei gyfleu i mi. I'r clerc, dyma oedd y gwir. Neu efallai bod y clerc braidd yn ymestyn y gwir. Yr oedd yn bosibl y gallai yr hyn oedd yn cael ei ddyweyd fod yn wir, er fod y modd yr oedd yn cael ei ddarlunio yn awgrymu mai y gwirionedd hollol ddiwrthdro ydoedd. Wrth gwrs, gallai hefyd fod wedi bod yn moelni llwyr ac nid oedd y clerc ond yn swllt i'r storfa deiars gasglu fy musnes. A allai comisiwn llawn sudd fod wedi bod ar y trywydd iawn?

Rwy'n meiddio dweud nad oes neb yn hoffi bod mewn sefyllfa mor danddaearol.

Mae polion y sefyllfa yn ffactor hollbwysig o ran faint mae anghymesuredd gwybodaeth yn bwysig. Os yw'r cwestiwn dan sylw yn un o natur bywyd-neu-farwolaeth, mae bod yn y cwt ac yn dibynnu ar y parti arall am yr hyn y maent yn ei wybod neu'n proffesu ei wybod yn ystum bras a hynod annymunol i fod ynddo. , megis archebu'ch cinio mewn bwyty ac mae'r gweinydd yn dweud wrthych fod y ddysgl bysgod yn nefol, ond nad ydych erioed wedi bwyta yno o'r blaen ac nad ydych yn ddigon gwybodus, gallwch fynd ynghyd â'r modicum hwn o anghymesuredd gwybodaeth heb lawer o angst (I mae'n debyg hefyd eich bod chi hefyd yn betio na fyddai'r gweinydd yn mentro rhoi cyngor sur ac yn colli allan ar gael tip gweddus).

Gan ddychwelyd at y stori teiars sydd wedi treulio (peth!), ni fyddwn wedi cael unrhyw ffordd ar unwaith i ddarganfod a oedd y clerc yn rhoi mewnwelediadau dibynadwy ac addysgiadol i mi. Efallai eich bod yn pendroni beth ddigwyddodd. Penderfynais wneud galwadau i nifer o'r siopau teiars cyfagos eraill.

Ydych chi'n barod am yr hyn a ddarganfyddais?

Roedd gan bob un o'r siopau teiars eraill fy nheyrn dymunol mewn stoc ac nid oeddent am geisio fy mherswadio i winc-winc i gymryd teiar gwahanol (fel y ceisiodd y clerc cyntaf ei wneud). Gallent hefyd wneud y gwaith o fewn yr un amserlen â'r storfa deiars gyntaf y gwnes i ei galw. Am tua'r un pris.

Croesawodd ochenaid o ryddhad ar fy rhan i, yr wyf yn eich sicrhau.

Yn eironig, yng Nghyfraith anlwc Murphy, y lle cyntaf y gwnes i gysylltu ag ef oedd yr unig un a oedd fel petai allan i ginio, fel petai. Rwy'n falch fy mod wedi ceisio cael rhagor o wybodaeth. Roedd hyn yn lleihau'r bwlch anghymesuredd gwybodaeth. Canmolais fy hun am gadw at fy ngynnau a pheidio â chydsynio i'r lle cyntaf y gelwais.

Wedi dweud hynny, roedd cost bendant o bob math yn gysylltiedig â chael gwybodaeth ychwanegol. Gwneuthum tua phedair galwad a gymerodd tua phymtheg i ugain munud yr un i'w gwneud yn llawn. Yn yr ystyr hwnnw, fe wnes i ddefnyddio tua awr a hanner wrth ddarganfod ble i fynd â'm car. Pe bawn i wedi mynd â'm car i'r lle cyntaf hwnnw ar unwaith, byddai'r teiar newydd bron wedi bod ar fy nghar erbyn hynny. Ar y llaw arall, byddwn bron yn sicr, yn nes ymlaen, wedi difaru’r penderfyniad cyflym a wneuthum tra mewn rhwymiad Anghymesuredd Gwybodaeth erchyll.

Weithiau mae'n rhaid i chi raeanu'ch dannedd a chymryd yr Anghymesuredd Gwybodaeth ofnadwy fel y daw. Rydych chi'n gobeithio y bydd pa bynnag benderfyniad a wnewch, yn ddigon da. Efallai nad yw’n benderfyniad “perffaith” ac fe allech chi ddifaru’r dewis a wnaed yn ddiweddarach. Yr ongl arall yw y gallech geisio cryfhau eich ochr chi o'r hafaliad gwybodaeth, er nad yw hyn o reidrwydd yn rhad ac am ddim a gallai hefyd gnoi amser gwerthfawr, yn dibynnu a yw'r amser annwyl yn hanfodol.

Nawr eich bod yn ddi-os yn gysur i wybod bod fy nghar yn rhedeg yn iawn gyda'i deiar newydd sbon a chywir, gallaf symud i ymddangosiad AI Anghymesuredd.

Ystyriwch chwedl AI o wae.

Rydych chi'n ceisio cael benthyciad cartref. Mae yna ddadansoddwr ceisiadau morgais ar-lein y mae banc penodol yn ei ddefnyddio. Mae'r system ar-lein yn defnyddio galluoedd AI uwch heddiw. Nid oes angen siarad ag asiant rhoi benthyciad dynol. Mae'r AI yn gwneud y cyfan.

Mae'r system AI yn eich arwain trwy gyfres o awgrymiadau. Rydych chi'n llenwi'r ffurflenni ac yn ymateb i'r system AI. Mae'r AI hwn yn siaradus iawn. Er y gallech chi yn y gorffennol fod wedi defnyddio system ffurf gyfrifiadurol gonfensiynol, mae'r amrywiad AI hwn yn debycach i ryngweithio ag asiant dynol. Ddim yn hollol, ond digon fel y gallech chi bron â dechrau credu bod bod dynol ar ochr arall y gweithgaredd hwn.

Ar ôl gwneud eich gorau i “drafod” eich cais gyda'r AI hwn, yn y diwedd, mae'n eich hysbysu nad yw'r cais am fenthyciad yn anffodus wedi'i gymeradwyo. Mae'n fath o gael eich gafr ei bod yn ymddangos bod yr AI yn cynnig ymddiheuriad, fel petai'r AI eisiau cymeradwyo'r benthyciad ond ni fydd y bodau dynol dirdynnol hynny sy'n goruchwylio'r banc yn gadael i'r AI wneud hynny. Am fy sylw i ba mor gamarweiniol yw'r mathau hyn o ymddiheuriadau AI honedig, gweler y ddolen yma.

Nid ydych yn gwybod pam y cawsoch eich gwrthod. Nid yw'r AI yn cynnig unrhyw esboniad. Efallai bod yr AI wedi gwneud camgymeriad neu wedi drysu yn ei gyfrifiadau. Yn waeth byth, mae'n debyg bod yr AI wedi defnyddio rhai ystyriaethau hynod amheus fel eich hil neu ryw wrth benderfynu ar y benthyciad. Y cyfan rydych chi'n ei wybod yw ei bod hi'n ymddangos eich bod chi wedi gwastraffu'ch amser a hefyd yn y cyfamser wedi trosglwyddo tunnell o ddata preifat i'r AI a'r banc. Mae eu AI wedi gwneud y gorau i chi.

Byddai hyn yn cael ei labelu fel enghraifft o AI Anghymesuredd.

Chi oedd yn erbyn y banc. Roedd y banc yn arfog ag AI. Nid oeddech yr un mor arfog. Roedd gennych eich tennyn a'ch ysgol o ddoethineb ergydion caled, ond dim AI yn byw yn eich poced gefn. Meddwl yn erbyn peiriant. Yn anffodus, enillodd y peiriant yn yr achos hwn.

Beth wyt ti i wneud?

Yn gyntaf, mae angen i ni ar sail gymdeithasol sylweddoli bod yr Anghymesuredd AI hwn yn tyfu ac yn dod bron yn hollbresennol. Mae bodau dynol yn dod ar draws AI ym mhob un o'r systemau rydyn ni'n rhyngweithio â nhw bob dydd. Weithiau, yr AI yw'r unig elfen rydyn ni'n rhyngweithio â hi, fel yn yr enghraifft hon am y cais am fenthyciad. Mewn achosion eraill, gallai bod dynol fod yn y ddolen sy'n dibynnu ar AI i'w helpu i berfformio gwasanaeth penodol. Ar gyfer y benthyciad, efallai y byddai'r banc yn gofyn i chi siarad ag asiant dynol yn lle rhyngweithio ag AI, ond mae'r asiant dynol yn defnyddio system gyfrifiadurol i gael mynediad at AI sy'n arwain yr asiant dynol yn ystod y broses gwneud cais am fenthyciad. (a, rydych bron bob amser yn sicr bod yr asiant dynol yn gweithredu fel pe baent yn cael ei garcharu trwy orfod gwneud yn llym beth bynnag y mae'r AI yn “ddweud wrthynt am ei wneud”).

Y naill ffordd neu'r llall, mae AI yn dal yn y gymysgedd.

Yn ail, mae angen inni geisio sicrhau bod yr Anghymesuredd AI o leiaf yn cael ei wneud ar sail AI Moesegol.

Gadewch imi egluro'r sylw rhyfedd hwnnw. Rydych chi'n gweld, os gallwn fod ychydig yn sicr bod yr AI yn gweithredu mewn modd moesegol gadarn, efallai y bydd gennym rywfaint o gysur am yr anghymesuredd sydd ar waith. Ar sail braidd yn gyfatebol ond hefyd yn rhydd, gallech ddweud pe bai gan fy rhyngweithiad â chlerc y storfa deiars cyntaf rai canllawiau moesegol llym ar waith a'u gorfodi, efallai na fyddwn wedi cael gwybod y stori a ddywedwyd wrthyf, neu o leiaf mi efallai na fyddai wedi gorfod ceisio ar unwaith i ddarganfod a oedd chwedl uchel yn cael ei rhoi i mi.

Byddaf yn esbonio mwy am AI Moeseg mewn eiliad.

Yn drydydd, dylem geisio ffyrdd o leihau Anghymesuredd AI. Pe bai gennych AI a oedd ar eich ochr chi, yn ymdrechu i fod yn hyfforddwr neu'n amddiffynnydd i chi, efallai y gallech ddefnyddio'r AI hwnnw i wneud rhywfaint o wrthddyrnu gyda'r AI arall yr ydych yn mynd benben ag ef. Fel y dywedant, weithiau mae'n gwneud llawer o synnwyr i ymladd tân â thân.

Cyn mynd i fwy o gig a thatws am yr ystyriaethau gwyllt a gwlanog sydd wrth wraidd Anghymesuredd AI, gadewch i ni sefydlu rhai hanfodion ychwanegol ar bynciau hynod hanfodol. Mae angen i ni blymio'n fyr i AI Moeseg ac yn enwedig dyfodiad Dysgu Peiriant (ML) a Dysgu Dwfn (DL).

Efallai eich bod yn amwys yn ymwybodol bod un o'r lleisiau cryfaf y dyddiau hyn yn y maes AI a hyd yn oed y tu allan i faes AI yn cynnwys crochlefain am fwy o ymddangosiad o AI Moesegol. Gadewch i ni edrych ar yr hyn y mae'n ei olygu i gyfeirio at AI Moeseg ac AI Moesegol. Ar ben hynny, byddwn yn archwilio'r hyn yr wyf yn ei olygu pan fyddaf yn siarad am Machine Learning a Deep Learning.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefnau a dogfennaeth ddylunio.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n gorfod cadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Gadewch i ni hefyd sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Gadewch i ni ddychwelyd at ein ffocws ar AI Anghymesuredd.

Dyma grynodeb cyflym o’m tri argymhelliad a nodwyd uchod:

1) Dod yn ymwybodol bod AI Anghymesuredd yn bodoli ac yn tyfu

2) Ceisio sicrhau bod yr Anghymesuredd AI yn cael ei ffinio gan AI Moeseg

3) Ceisiwch ymgodymu ag Anghymesuredd AI trwy gael eich arfogi ag AI

Byddwn yn edrych yn agosach ar y pwynt olaf o ymladd tân â thân.

Dychmygwch, wrth geisio cael benthyciad, fod gennych AI a oedd yn gweithio ar eich ochr chi i'r ymdrech. Gallai hwn fod yn ap seiliedig ar AI ar eich ffôn clyfar a ddyfeisiwyd i gael benthyciadau. Nid yw'n ap gan un o'r banciau ac yn hytrach mae wedi'i ddyfeisio'n annibynnol i weithredu ar eich rhan. Rwyf wedi manylu ar y mathau hyn o apps yn fy llyfr ar bots angel gwarcheidwad seiliedig ar AI, gweler y ddolen yma.

Ar ôl i chi wneud cais am fenthyciad, efallai y byddwch chi'n cyfeirio at yr ap hwn wrth i chi gael eich camu trwy'r broses ymgeisio gan yr AI arall. Mae'r ddwy system AI hyn yn wahanol ac yn gwbl ar wahân i'w gilydd. Mae'r AI ar eich ffôn clyfar wedi'i “hyfforddi” i wybod yr holl driciau sy'n cael eu defnyddio gan yr AI arall. O'r herwydd, bydd yr atebion y byddwch chi'n eu nodi yn AI y banc yn seiliedig ar yr hyn y mae eich AI yn ei gynghori i chi.

Mae amrywiad arall yn cynnwys eich AI yn ateb y cwestiynau a ofynnwyd gan yr AI arall. Cyn belled ag y gall yr AI arall ei ganfod, chi sy'n nodi'r atebion. Yn lle hynny, efallai mai dim ond gwylio y byddwch chi wrth i'r rhyngweithiadau ddigwydd rhwng y ddwy system AI sy'n brwydro. Mae hyn yn caniatáu ichi weld beth mae'ch AI yn ei gynnig. Ar ben hynny, mae'n bosibl y gallwch chi addasu'ch AI yn dibynnu a ydych chi'n fodlon â'r hyn y mae eich AI yn ei wneud ar eich rhan.

Rwyf wedi rhagweld ein bod ni i gyd yn mynd i ddod yn arfog yn raddol ag AI a fydd ar ein hochr ni yn y sefyllfaoedd Anghymesuredd AI hyn.

Gadewch i ni ystyried sut mae hyn yn mynd i weithio allan.

Dyma’r effeithiau conglfaen ar yr amod Anghymesuredd AI a osodwyd gennyf:

• Gwastadu'r Anghymesuredd AI o'ch plaid (yn dod â chi ar i fyny, gan obeithio cyrraedd lefelau cyfartal)
• Ysgogi Anghymesuredd AI o'ch plaid (gan eich codi i fantais pan rydych eisoes yn gyfartal)
• Hybu Anghymesuredd AI i'ch ffafr hynod (ennill mantais ehangach pan fyddwch eisoes mewn mantais)
• Tandorri AI yn anfwriadol Anghymesuredd i'ch anhwyldeb (pan oedd gennych fantais a oedd yn bodoli eisoes a bod yr AI wedi eich tynnu i lawr yn anfwriadol)

Mae'n bryd plymio'n ddwfn i'r posibiliadau diddorol hyn.

Gwastadu'r Anghymesuredd AI O'th Blaid

Gwastadu'r AI Anghymesuredd yw'r ystyriaeth amlycaf ac a drafodir amlaf, sef y byddech chi'n arfogi'ch hun ag AI i geisio mynd traed wrth y traed gyda'r AI yn cael ei ddefnyddio gan yr ochr arall yn y mater dan sylw. Dechreuodd y gosodiad Anghymesuredd AI gyda chi dan anfantais bendant. Nid oedd gennych unrhyw AI yn eich cornel. Roeddech chi ar ochr isel pethau. Roedd gan yr ochr arall AI ac roedden nhw ar dir uwch.

Felly, gwnaethoch arfogi'ch hun yn ddoeth ag AI a fyddai'n anelu at eich rhoi chi a'r AI arall ar delerau cyfartal.

Un naws bwysig ac efallai syndod i'w gadw mewn cof yw na fydd bob amser yn wir y bydd y systemau AI a ddefnyddir yn cydbwyso yn erbyn ei gilydd yn gyfartal. Efallai y byddwch chi'n arfogi'ch hun ag AI, hynny yw, rydyn ni'n dweud yn llai grymus na'r AI y mae'r ochr arall yn ei ddefnyddio. Os felly, rydych chi wedi cynyddu eich sefyllfa anfantais, diolch byth, er nad ydych chi bellach yn gwbl gyfartal â'r ochr arall a'i AI.

Dyna pam yr wyf yn cyfeirio at hyn fel gwastatáu'r Anghymesuredd AI. Mae'n bosibl y gallwch chi gau'r bwlch, er nad ydych chi'n cau'r bwlch yn llawn. Y nod yn y pen draw fyddai defnyddio AI ar eich ochr chi a fydd yn dod â chi i ystum hollol gyfartal. Y peth yw, gallai hyn fod yn ddichonadwy neu beidio. Mae'n bosibl y gallai'r ochr arall fod â pheth AI drud iawn ac rydych chi'n ceisio cystadlu â'r fersiwn marchnad ddarbodus mom-a-pop o AI.

Nid yw pob AI yr un peth.

Sbarduno Anghymesuredd AI O'ch Ffafr

Nid yw'r amgylchiad hwn yn rhywbeth a drafodir lawer heddiw, yn rhannol oherwydd ei fod yn brin ar hyn o bryd. Rhyw ddydd, bydd hyn yn beth cyffredin. Y syniad yw eich bod heb AI ac eto serch hynny ar dir cyfartal â'r ochr sydd ag AI.

Da i chi.

Mae gan fodau dynol eu syniadau amdanynt.

Ond efallai y byddwch am ennill mantais dros yr ochr arall. Mae arfogi'ch hun ag AI yn mynd â chi i'r tir uwch. Mae gennych bellach eich tennyn a'ch AI dibynadwy mewn llaw. Rydych chi wedi ennill mantais a fydd, yn ôl pob tebyg, yn drech na AI yr ochr arall.

Hybu Anghymesuredd AI Er Eich Ffafr Anghyffredin

Gan ddefnyddio rhesymeg debyg i'r agwedd ar ysgogi Anghymesuredd AI ar eich rhan, mae'n debyg eich bod eisoes uwchlaw galluoedd yr ochr arall sy'n defnyddio AI. Ergo, nid ydych chi'n dechrau ar ystum cyfartal. Yn ffodus, rydych chi eisoes ar yr ochr uchaf.

Efallai y byddwch am sicrhau hyd yn oed mwy o fantais beth bynnag. Felly, rydych chi'n arfogi'ch hun ag AI. Mae hyn yn mynd â'ch pen a'ch ysgwyddau uwchben yr ochr arall.

Tandorri Anfwriadol O AI Anghymesuredd I Eich Anffafr

Yr wyf yn amau ​​eich bod am glywed am y posibilrwydd hwn. Sylweddolwch nad yw delio ag AI yn gacennau rhosod a hufen iâ i gyd.

Efallai pan fyddwch chi'n arfogi'ch hun ag AI, rydych chi'n tandorri'ch hun mewn gwirionedd. Os oeddech eisoes yn llai na'r AI yr ochr arall, yr ydych yn awr i lawr mewn twll dyfnach. Os oeddech ar delerau cyfartal, rydych bellach dan anfantais. Os oeddech uwch ben yr ochr arall, yr ydych yn awr yn gyfartal iddo neu oddi tano.

Sut gallai hynny ddigwydd?

Efallai y cewch chi sioc o feddwl bod yr AI rydych chi'n ei fabwysiadu yn mynd i'ch arwain chi ar gyfeiliorn. Gallai hyn ddigwydd yn hawdd. Nid yw'r ffaith bod gennych AI yn eich cornel yn golygu ei fod yn ddefnyddiol. Efallai eich bod yn defnyddio'r AI ac mae'n rhoi cyngor nad ydych o reidrwydd yn meddwl ei fod yn addas, ond rydych chi'n penderfynu mynd ag ef beth bynnag. Eich rhesymeg ar y pryd oedd, ers i chi fynd i'r drafferth i gael yr AI, y gallech chi hefyd ddibynnu arno.

Gallai'r AI rydych chi'n ei ddefnyddio fod yn ddiffygiol. Neu efallai ei fod wedi'i ddyfeisio'n wael. Mae yna nifer o resymau pam y gallai'r AI fod yn rhoi cyngor sigledig i chi. Mae'r rhai sy'n derbyn yn ddall beth bynnag y mae'r AI yn dweud ei wneud yn sicr o gael eu hunain mewn byd o brifo. Rwyf wedi ymdrin â sefyllfaoedd o'r fath yn fy ngholofn, megis y ddolen yma.

Y gwir amdani yw nad oes unrhyw sicrwydd o gwbl mai dim ond oherwydd eich bod chi'n arfogi'ch hun ag AI y byddwch chi'n ennill yn y gêm Anghymesuredd AI.

Efallai y byddwch yn cyrraedd maes chwarae gwastad. Efallai y byddwch chi'n ennill mantais. Ac, yn anffodus, mae angen i chi fod yn ofalus oherwydd efallai eich bod chi'n suddo i lefelau ar i lawr wrth arfogi ag AI.

I ryw raddau, dyna pam mae AI Moeseg ac AI Moesegol yn bwnc mor hanfodol. Mae praeseptau AI Moeseg yn ein galluogi i aros yn wyliadwrus. Gall technolegwyr deallusrwydd artiffisial ar brydiau ymddiddori mewn technoleg, yn enwedig optimeiddio uwch-dechnoleg. Nid ydynt o reidrwydd yn ystyried y goblygiadau cymdeithasol mwy. Mae meddu ar feddylfryd Moeseg AI a gwneud hynny yn rhan annatod o ddatblygu a maesu AI yn hanfodol ar gyfer cynhyrchu AI priodol.

Yn ogystal â defnyddio AI Moeseg, mae cwestiwn cyfatebol a ddylem gael cyfreithiau i lywodraethu gwahanol ddefnyddiau o AI. Mae deddfau newydd yn cael eu bandio o gwmpas ar lefelau ffederal, gwladwriaethol a lleol sy'n ymwneud ag ystod a natur sut y dylid dyfeisio AI. Mae'r ymdrech i ddrafftio a deddfu cyfreithiau o'r fath yn un graddol. Mae AI Moeseg yn gweithredu fel stopgap ystyriol, o leiaf, a bydd bron yn sicr i ryw raddau yn cael ei ymgorffori'n uniongyrchol yn y deddfau newydd hynny.

Byddwch yn ymwybodol bod rhai yn dadlau’n bendant nad oes angen deddfau newydd arnom sy’n cwmpasu AI a bod ein cyfreithiau presennol yn ddigonol. Mewn gwirionedd, maen nhw'n rhagrybuddio, os byddwn ni'n deddfu rhai o'r deddfau AI hyn, y byddwn ni'n lladd yr ŵydd euraidd trwy dorri i lawr ar ddatblygiadau mewn AI sy'n cynnig manteision cymdeithasol aruthrol. Gweler er enghraifft fy sylw yn y ddolen yma ac y ddolen yma.

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau darluniadol a allai arddangos y pwnc hwn. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer digon o drafodaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am Anghymesuredd AI, ac os felly, beth mae hyn yn ei arddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru Ac Anghymesuredd AI

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Rwy’n gobeithio bod hynny’n darparu litani ddigonol o gafeatau i danategu’r hyn yr wyf ar fin ei ddweud.

Gadewch i ni fraslunio senario sy'n arddangos Anghymesuredd AI.

Ystyriwch y mater sy'n ymddangos yn ddibwys o ble y bydd ceir sy'n gyrru eu hunain yn crwydro i godi teithwyr. Mae hwn yn ymddangos yn bwnc digon diniwed.

Ar y dechrau, tybiwch y bydd ceir hunan-yrru AI yn crwydro trefi cyfan. Yn ei hanfod, mae gan unrhyw un sydd am wneud cais am reid mewn car sy'n gyrru ei hun gyfle cyfartal o alw am un. Yn raddol, mae'r AI yn dechrau cadw'r ceir hunan-yrru yn crwydro mewn un rhan o'r dref yn unig. Mae'r adran hon yn gwneud mwy o arian ac mae'r AI wedi'i raglennu i geisio gwneud y gorau refeniw fel rhan o’r defnydd yn y gymuned yn gyffredinol (mae hyn yn tanlinellu’r meddylfryd sy’n sail i optimeiddio, sef canolbwyntio ar un metrig penodol yn unig ac esgeuluso ffactorau hanfodol eraill yn y broses).

Mae aelodau'r gymuned yn y rhannau tlawd o'r dref yn llai tebygol o allu mynd ar daith o gar sy'n gyrru ei hun. Mae hyn oherwydd bod y ceir hunan-yrru ymhellach i ffwrdd ac yn crwydro yn rhan refeniw uwch y dref. Pan ddaw cais i mewn o ran bell o'r dref, byddai unrhyw gais arall o leoliad agosach yn cael blaenoriaeth uwch. Yn y pen draw, mae bron yn amhosibl cael car sy’n gyrru ei hun mewn unrhyw le heblaw’r rhan gyfoethocach o’r dref, ac mae hynny’n gythruddol iawn i’r rhai a oedd yn byw yn yr ardaloedd hynny sydd bellach yn brin o adnoddau.

Mae'r breuddwydion symudedd-i-bawb brawychus y mae ceir sy'n gyrru eu hunain i fod i'w rhoi yn fyw.

Gallech haeru bod y Mynegai Gwerthfawrogiad wedi glanio’n gyfan gwbl ar ffurf o ogwydd ystadegol a chyfrifiannol, yn debyg i fath o wahaniaethu drwy ddirprwy (cyfeirir ato’n aml hefyd fel gwahaniaethu anuniongyrchol). Sylweddoli nad oedd yr AI wedi'i raglennu i osgoi'r cymdogaethau tlotach hynny. Gadewch i ni fod yn glir ynglŷn â hynny yn yr achos hwn. Na, fe'i dyfeisiwyd yn lle hynny i wneud y gorau o refeniw yn unig, nod sy'n ymddangos yn dderbyniol, ond gwnaed hyn heb i ddatblygwyr AI ystyried goblygiadau posibl eraill. Arweiniodd yr optimeiddio hwnnw yn ei dro yn ddiarwybod ac yn anochel at ganlyniad annymunol.

Pe baent wedi cynnwys ystyriaethau Moeseg AI fel rhan o'u meddylfryd optimeiddio, efallai y byddent wedi sylweddoli ymlaen llaw, oni bai eu bod wedi crefftio'r AI i ymdopi â'r math hwn o orbwyso ar un metrig yn unig, y gallent fod wedi osgoi canlyniadau dour o'r fath. I gael rhagor o wybodaeth am y mathau hyn o faterion y mae’n debygol y bydd mabwysiadu cerbydau ymreolaethol a cheir hunan-yrru yn eang, gweler fy sylw yn y ddolen hon yma, yn disgrifio astudiaeth dan arweiniad Harvard y bûm yn gyd-awdur arni ar y pynciau hyn.

Beth bynnag, tybiwch fod y ceffyl eisoes allan o'r ysgubor ac nad yw'r sefyllfa'n agored i atebion cyffredinol ar unwaith.

Beth allai'r rhai sydd am ddefnyddio'r ceir hunan-yrru hynny ei wneud?

Y dull mwyaf amlwg fyddai gweithio gydag arweinwyr cymunedol i gael y gwneuthurwr ceir neu'r cwmni technoleg hunan-yrru i ailystyried sut y maent wedi sefydlu'r AI. Efallai ei fod yn rhoi pwysau ar ba bynnag drwyddedau neu drwyddedau sydd wedi’u caniatáu ar gyfer defnyddio’r ceir hunan-yrru hynny yn y ddinas neu’r dref honno. Mae'r rhain yn debygol o fod yn ffyrdd dichonadwy o sicrhau newidiadau cadarnhaol, er y gallai gymryd peth amser cyn i'r ymdrechion hynny ddwyn ffrwyth.

Ongl arall fyddai arfogi'ch hun ag AI.

Rhagweld bod rhywun wedi dyfeisio ap sy'n seiliedig ar AI yn glyfar sy'n gweithio ar eich ffôn clyfar ac yn delio ag AI y gwneuthurwr ceir neu'r gweithredwr fflyd sy'n derbyn ceisiadau am reidiau. Mae'n bosibl bod yr AI rydych chi'n ei ddefnyddio yn manteisio ar elfennau allweddol o'r AI arall fel bod cais am gar sy'n gyrru ei hun gennych chi yn cael blaenoriaeth uwch. Sylwch nad wyf yn awgrymu bod unrhyw beth anghyfreithlon yn digwydd, ond yn hytrach bod yr AI ar eich ochr chi wedi'i ddatblygu yn seiliedig ar “nodweddion” a ddarganfuwyd neu hyd yn oed fylchau yn yr AI arall.

Casgliad

Mae'r stori am ymladd yn ôl yn ddi-flewyn-ar-dafod yn erbyn AI y gweithredwr fflyd ceir sy'n gyrru ei hun trwy arfogi AI yn dod â dadleuon ac ystyriaethau Moeseg AI ychwanegol i fyny.

Er enghraifft:

• Os gall un person wneud defnydd o AI i roi mantais iddynt dros AI o ryw system arall, pa mor bell y gall hyn fynd o ran croesi ffiniau Moeseg AI o bosibl (dwi'n argyhoeddi'r ceir hunan-yrru i ddod ataf fi a'm ffrindiau, ac eithrio pawb arall)?
• Hefyd, a oes unrhyw deimlad o ystyriaeth Moeseg AI, os yw rhywun yn gwybod am neu wedi'i arfogi ag AI i frwydro yn erbyn AI arall, a ddylai'r bobl hynny sy'n weddill nad oes ganddynt y deallusrwydd artiffisial hwnnw gael eu rhybuddio rywsut i'r AI a gallu arfogi eu hunain yn unol â hynny hefyd?

Yn y diwedd, mae hyn i gyd yn mynd â ni i ddyfodol sy'n ymddangos yn iasol, sy'n cynnwys ras arfau AI. Pwy fydd â'r AI sydd ei angen arnynt i fynd o gwmpas a goroesi a phwy na fydd? A fydd yna bob amser un AI arall yn dod ymlaen ac yn tanio'r angen am AI gwrthbwyso?

Darparodd Carl Sagan, y gwyddonydd parchedig, y doethineb doeth hwn am rasys arfau arbennig o gataclysmig: “Mae'r ras arfau niwclear fel dau elyn tyngu llw yn sefyll yn ddwfn mewn gasoline, un gyda thair gêm, a'r llall gyda phump.”

Mae'n rhaid i ni anelu'n bendant at gadw ein traed yn sych a'n pennau'n glir pan ddaw i ras arfau AI sydd ar ddod.