AI Moeseg Yn Dweud Y Dylid Defnyddio AI Yn Arbennig Pan Fod Tueddiadau Dynol Yn Ddigonol

Mae bodau dynol wedi dod i wybod eu cyfyngiadau.

Efallai y byddwch yn cofio'r llinell enwog debyg am wybod ein cyfyngiadau fel y'i dywedwyd yn hallt gan y cymeriad Dirty Harry yn ffilm 1973 o'r enw Llu Magnum (yn ôl geiriau llafar yr actor Clint Eastwood yn ei rôl gofiadwy fel yr Arolygydd Harry Callahan). Y syniad cyffredinol yw ein bod weithiau'n tueddu i anwybyddu ein terfynau ein hunain a chael ein hunain i mewn i ddŵr poeth yn unol â hynny. Boed hynny oherwydd hud a lledrith, bod yn egocentrig, neu’n ddall i’n galluoedd ein hunain, mae’r praesept o fod yn ymwybodol o’n cymhlethdodau a’n diffygion a’u cymryd i ystyriaeth yn gwbl synhwyrol a defnyddiol.

Gadewch i ni ychwanegu tro newydd at y darn o gyngor doeth.

Mae Deallusrwydd Artiffisial (AI) wedi dod i wybod ei gyfyngiadau.

Beth ydw i'n ei olygu wrth yr amrywiad hwnnw o'r ymadrodd uchel ei barch?

Mae'n ymddangos bod y rhuthr cychwynnol i gael AI modern yn cael ei ddefnyddio fel datrysiad gobeithiol i broblemau'r byd wedi cael ei smygu a'i ddrysu'n llwyr gan sylweddoli bod gan AI heddiw rai cyfyngiadau eithaf difrifol. Aethom o'r penawdau dyrchafol o AI Er Da ac wedi ein cael ein hunain fwyfwy yn cael ein llethu i mewn AI Er Drwg. Rydych chi'n gweld, mae llawer o systemau AI wedi'u datblygu a'u rhoi ar waith gyda phob math o ragfarnau hiliol a rhyw anffafriol, a myrdd o anghydraddoldebau echrydus eraill o'r fath.

Am fy ymdriniaeth helaeth a pharhaus o AI Moeseg ac AI Moesegol, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Nid yw'r rhagfarnau sy'n cael eu darganfod yn y systemau AI hyn o'r math “bwriadol” y byddem yn ei briodoli i ymddygiad dynol. Soniaf am hyn i bwysleisio nad yw AI heddiw yn deimladwy. Er gwaethaf y penawdau brawychus hynny sy'n awgrymu fel arall, nid oes unrhyw AI yn unman sydd hyd yn oed yn agos at deimladau. Ar ben hynny, nid ydym yn gwybod sut i gael AI i'r braced teimlad, ac ni all neb ddweud yn sicr a fyddwn byth yn cyrraedd teimlad AI. Efallai y bydd yn digwydd ryw ddydd, neu efallai ddim.

Felly, fy mhwynt yw na allwn neilltuo bwriad yn benodol i’r math o AI sydd gennym ar hyn o bryd. Wedi dweud hynny, gallwn neilltuo bwriad yn helaeth i'r rhai sy'n crefftio systemau AI. Nid yw rhai datblygwyr AI yn ymwybodol o'r ffaith eu bod wedi dyfeisio system AI sy'n cynnwys rhagfarnau annifyr ac o bosibl yn anghyfreithlon. Yn y cyfamser, mae datblygwyr AI eraill yn sylweddoli eu bod yn trwytho rhagfarnau yn eu systemau AI, gan wneud hynny o bosibl mewn modd camwedd pwrpasol.

Y naill ffordd neu'r llall, mae'r canlyniad serch hynny yn dal yn anweddus ac yn debygol o fod yn anghyfreithlon.

Mae ymdrechion llym ar y gweill i ledaenu egwyddorion Moeseg AI a fydd yn goleuo datblygwyr AI ac yn darparu canllawiau addas ar gyfer llywio'n glir rhag ymgorffori rhagfarnau yn eu systemau AI. Bydd hyn yn helpu mewn modd daufer. Yn gyntaf, ni fydd gan y rhai sy'n crefftio AI yr esgus parod mwyach nad oeddent yn ymwybodol o'r praeseptau y dylid eu dilyn. Yn ail, mae'r rhai sy'n gwyro o'r amodau AI Moesegol yn mynd i gael eu dal yn haws a'u dangos fel rhai sy'n osgoi'r hyn y cawsant eu rhybuddio ymlaen llaw i'r ddau ei wneud a pheidio â'i wneud.

Gadewch i ni gymryd eiliad i ystyried yn fyr rai o'r praeseptau AI Moesegol allweddol i ddangos yr hyn y dylai adeiladwyr AI fod yn ei feddwl a'i wneud yn drylwyr o safiad AI Moeseg.

Fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys gyda methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefn ddylunio a dogfennaeth.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Ar y cyfan, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth o ran bod yn rhaid i godio AI fod y rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Ystyrir yr holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n gorfod cadw at syniadau Moeseg AI. Byddwch yn ymwybodol bod angen pentref i ddyfeisio a maesu AI. Ar gyfer hyn mae'n rhaid i'r pentref cyfan fod yn cadw ar flaenau eu traed am AI Moeseg.

Beth bynnag, nawr fy mod wedi cyrraedd y bwrdd y gall AI gynnwys rhagfarnau, efallai y gallwn ni i gyd gytuno i'r ddwy ffaith ymddangosiadol hyn:

1. Gall bodau dynol gael nifer o dueddiadau anffafriol a gallant weithredu arnynt

2. Gall AI fod â nifer o ragfarnau anffafriol a gall weithredu ar y rhagfarnau hynny

Mae braidd yn gas gennyf bentyrru bodau dynol yn erbyn AI yn y cyd-destun hwnnw gan y gallai rywsut awgrymu bod gan AI alluoedd teimladol ar yr un lefel â bodau dynol. Yn sicr nid felly y mae. Dychwelaf yn fuan at y pryderon cynyddol ynghylch anthropomorffeiddio AI ychydig yn ddiweddarach yn y drafodaeth hon.

Pa un sy'n waeth, bodau dynol sy'n arddangos rhagfarnau anffafriol neu AI sy'n gwneud hynny?

Meiddiaf ddweud bod y cwestiwn yn peri un o'r dewisiadau dour hynny. Y lleiaf diarhebol o ddau ddrygioni ydyw, fe allai, ymryson. Byddem yn dymuno na fyddai bodau dynol yn ymgorffori rhagfarnau anffafriol. Byddem hefyd yn dymuno, hyd yn oed os oes gan bobl dueddiadau anffafriol, na fyddant yn gweithredu ar y rhagfarnau hynny. Gellid dweud yr un peth yn briodol am AI. Byddem yn dymuno pe na bai AI yn ymgorffori rhagfarnau anffafriol a hyd yn oed os oes rhagfarnau wedi’u codio’n fewnol o’r fath na fyddai’r AI o leiaf yn gweithredu arnynt.

Fodd bynnag, nid yw dymuniadau o reidrwydd yn rhedeg y byd (ar gyfer fy nadansoddiad o ymddangosiad cynyddol ac annifyr yr hyn a elwir yn AI Dymuniad Cyflawnder gan gymdeithas yn gyffredinol, gw y ddolen yma).

Iawn, rydym yn amlwg eisiau i bobl wybod eu cyfyngiadau. Mae'n bwysig cydnabod pan fydd gennych chi ragfarnau anffafriol. Mae'r un mor bwysig ceisio atal y rhagfarnau anffafriol hynny rhag cael eu trwytho yn eich gweithredoedd a'ch penderfyniadau. Mae busnesau heddiw yn rhoi cynnig ar bob math o ddulliau i atal eu gweithwyr rhag syrthio i'r peryglon enbyd o ragfarnau anffafriol. Mae hyfforddiant arbenigol yn cael ei roi i weithwyr ar sut i gyflawni eu gwaith mewn ffyrdd moesegol gadarn. Mae prosesau'n cael eu siapio o amgylch gweithwyr i'w rhybuddio pan ymddengys eu bod yn arddangos moesau anfoesegol. Ac yn y blaen.

Dull arall o ymdopi â bodau dynol a'u rhagfarnau anffodus fyddai awtomeiddio gwaith dynol. Oes, tynnwch y dynol o'r ddolen. Peidiwch â chaniatáu i fodau dynol gyflawni tasg gwneud penderfyniadau ac mae'n debyg nad oes gennych chi unrhyw bryderon parhaus am y dylanwad dynol tuag at unrhyw ragfarnau anffafriol. Nid oes dyn yn gysylltiedig ac felly mae'n ymddangos bod y broblem o ragfarnau dynol posibl wedi'i datrys.

Rwy'n codi hyn oherwydd ein bod yn gweld symudiad graddol a enfawr tuag at ddefnyddio AI mewn modd gwneud penderfyniadau algorithm (ADM). Os gallwch chi ddisodli gweithiwr dynol ag AI, yr ods yw y bydd llawer o fuddion yn codi. Fel y soniwyd eisoes, ni fyddech yn poeni mwyach am dueddiadau dynol y gweithiwr dynol hwnnw (yr un nad yw bellach yn gwneud y swydd honno). Y tebygrwydd yw y bydd yr AI yn llai costus yn gyffredinol o'i gymharu â gorwel amser hirdymor. Rydych chi'n cael gwared ar yr holl anawsterau amrywiol eraill sy'n dod yn rhannol gyda gweithwyr dynol. Etc.

Mae'n ymddangos mai cynnig sy'n ennill tir yw hwn: Wrth geisio penderfynu ble i leoli AI orau, edrychwch yn gyntaf tuag at leoliadau sydd eisoes yn cynnwys rhagfarnau dynol anffafriol gan eich gweithwyr ac y mae'r rhagfarnau hynny'n tandorri neu'n cymhlethu tasgau gwneud penderfyniadau penodol yn ormodol fel arall.

Y gwir amdani yw y byddai'n ymddangos yn ddoeth casglu'r glec fwyaf i'ch arian o ran buddsoddi mewn AI trwy anelu'n bendant at dasgau gwneud penderfyniadau dynol agored iawn sy'n anodd eu rheoli o safbwynt trwyth rhagfarnau anweddus. Cael gwared ar y gweithwyr dynol yn y rôl honno. Amnewidiwch nhw gydag AI. Y dybiaeth yw na fyddai gan AI dueddiadau mor anffafriol. Felly, gallwch chi gael eich cacen a'i bwyta hefyd, sef, cyflawni'r tasgau penderfynu a gwneud hynny heb y bwgan moesegol a chyfreithiol o ragfarnau anffafriol.

Pan fyddwch chi'n penseilio hynny, byddai'r ROI (enillion ar fuddsoddiad) yn debygol o wneud mabwysiadu AI yn ddewis mwy di-flewyn ar dafod.

Dyma sut mae hynny'n chwarae allan fel arfer.

Edrychwch ar eich cwmni cyfan a cheisiwch nodi'r tasgau gwneud penderfyniadau sy'n effeithio ar gwsmeriaid. O'r tasgau hynny, pa rai sydd fwyaf tebygol o gael eu dylanwadu'n amhriodol os yw'r gweithwyr yn ymgorffori rhagfarnau anffafriol? Os ydych chi eisoes wedi ceisio ffrwyno'r rhagfarnau hynny, efallai eich bod yn gadael i bethau sefyll fel y maent. Ar y llaw arall, os yw'r rhagfarnau yn ailymddangos o hyd a bod yr ymdrech i'w dileu yn feichus, ystyriwch ollwng rhywfaint o AI perthnasol i'r rôl honno. Peidiwch â chadw'r gweithwyr yn y cymysgedd gan y gallent ddiystyru'r AI neu wthio'r AI yn ôl i'r dibyn rhagfarnllyd. Hefyd, gwnewch yn siŵr y gall yr AI gyflawni'r dasg yn hyfedr a'ch bod wedi dal yn ddigonol yr agweddau gwneud penderfyniadau sy'n ofynnol i gyflawni'r swydd.

Rinsiwch ac ailadroddwch.

Rwy'n sylweddoli bod hynny'n ymddangos yn syniad syml, er fy mod yn sylweddoli bod yna lawer o ffyrdd y gall disodli gweithwyr dynol â deallusrwydd artiffisial fynd o chwith. Roedd llawer o gwmnïau'n awyddus i gymryd camau o'r fath ac nid oeddent yn ystyried yn ofalus sut i wneud hynny. O ganlyniad, roedden nhw’n aml yn gwneud llanast llawer gwaeth nag oedd ganddyn nhw ar eu dwylo i ddechrau.

Rwyf am egluro a phwysleisio nad yw AI yn ateb i bob problem.

Wrth siarad am hyn, mae yna un rhwystr mawr ynghylch glendid yr hyn sy'n ymddangos yn taflu'r penderfynwyr dynol-duedd gyda'r AI honedig diduedd. Yr anhawster yw y gallech fod yn rhoi un set o dueddiadau anffafriol yn lle un arall. Yn ôl yr arwydd cynharach, gall AI gynnwys rhagfarnau anffafriol a gall weithredu ar y rhagfarnau hynny. Nid yw gwneud tybiaeth ddi-flewyn ar dafod nad yw cyfnewid bodau dynol rhagfarnllyd am AI diduedd yn bopeth y mae'n holl bwysig.

Yn fyr, dyma'r fargen wrth edrych ar y mater yn gyfan gwbl o'r ffactorau rhagfarn:

• Nid oes gan yr AI unrhyw ragfarnau anffafriol ac ergo mae'r ADM sy'n seiliedig ar AI yn ddefnyddiol i'w ddefnyddio
• Mae gan yr AI yr un rhagfarnau anffafriol â'r bodau dynol sy'n cael eu disodli ac felly mae'r ADM sy'n seiliedig ar AI yn peri gofid.
• Mae'r AI yn cyflwyno rhagfarnau anweddus newydd y tu hwnt i rai'r bodau dynol sy'n cael eu disodli a bydd yn debygol o waethygu pethau yn unol â hynny
• Mae'r AI ar y dechrau yn ymddangos yn iawn ac yna'n symud yn raddol i dueddiadau anffafriol
• Arall

Gallwn ddadbacio'r posibiliadau hynny'n fyr.

Yr un cyntaf yw'r fersiwn ddelfrydol o'r hyn a allai ddigwydd. Nid oes gan yr AI unrhyw ragfarnau anffafriol. Rydych chi'n rhoi'r AI yn ei le ac mae'n gwneud y gwaith yn wych. Da i chi! Wrth gwrs, byddai rhywun yn gobeithio eich bod chi hefyd mewn rhyw ffordd aflonydd wedi delio â dadleoli gweithwyr dynol oherwydd cynhwysiant AI.

Yn yr ail achos, rydych chi'n rhoi'r AI ar waith ac yn darganfod bod yr AI yn arddangos yr un rhagfarnau anffafriol ag oedd gan y gweithwyr dynol. Sut gall hyn fod? Ffordd gyffredin o syrthio i'r trap hwn yw defnyddio Dysgu Peiriannol (ML) a Dysgu Dwfn (DL) yn seiliedig ar ddata a gasglwyd o sut roedd y bodau dynol yn y rôl yn gwneud eu penderfyniadau yn flaenorol.

Caniatewch eiliad i mi egluro.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw'r bodau dynol sydd wedi bod yn gwneud y gwaith ers blynyddoedd wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data'n adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Yn syml, bydd paru patrwm cyfrifiannol Dysgu Peiriant neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar y modelu per se.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel ei gwneud hi'n anodd ffuredu'r rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i fod yn rhan annatod o fodelau paru patrwm yr ML/DL.

Wedi dweud y cyfan, efallai y byddwch chi'n dychwelyd i sgwâr un. Mae'r un tueddiadau anffafriol mewn bodau dynol bellach yn cael eu hadlewyrchu'n gyfrifiadol yn y system AI. Nid ydych wedi dileu'r rhagfarnau.

Yn waeth byth, efallai y byddwch yn llai tebygol o sylweddoli bod gan yr AI ragfarn. Yn achos bodau dynol, mae'n bosibl y byddwch fel arfer yn wyliadwrus bod gan fodau dynol ragfarnau anffafriol. Mae hwn yn ddisgwyliad sylfaenol. Gall defnyddio AI ddenu arweinwyr i gredu bod awtomeiddio wedi dileu unrhyw fath o ragfarn ddynol yn llwyr. Maent felly yn gosod eu hunain i fyny ar gyfer saethu eu hunain yn y droed. Cawsant wared ar fodau dynol a oedd yn ymddangos yn rhagfarnllyd anweddus, gan gael eu disodli gan AI y credwyd nad oedd ganddo unrhyw ragfarnau o'r fath, ac eto maent bellach wedi defnyddio AI sy'n gyforiog o'r un rhagfarnau y gwyddys eu bod eisoes yn bodoli.

Gall hyn gael pethau'n groes-llygad iawn. Efallai eich bod wedi cael gwared ar reiliau gwarchod eraill sy'n cael eu defnyddio gyda'r gweithwyr dynol a sefydlwyd i ganfod ac atal ymddangosiad y rhagfarnau dynol hynny a ragwelwyd eisoes. Bellach mae gan yr AI ffrwyn am ddim. Does dim byd yn ei le i'w ddal cyn actio. Yna gallai'r AI ddechrau eich arwain i lawr llwybr dour o'r casgliad helaeth o weithredoedd rhagfarnllyd.

Ac, rydych chi yn yr ystum lletchwith ac efallai atebol yr oeddech chi'n ei wybod ar un adeg am y rhagfarnau ac rydych chi bellach wedi caniatáu i'r rhagfarnau hynny ddryllio hafoc. Efallai ei bod yn un peth nad ydych erioed wedi dod ar draws unrhyw dueddiadau anffafriol o'r fath ac yna'n sydyn iawn mae'r AI yn eu sbarduno. Efallai y byddwch chi'n ceisio esgusodi hyn gyda'r math o wrthdynnwr “pwy fyddai wedi dyfalu” (ddim yn argyhoeddiadol iawn, efallai). Ond a ninnau bellach wedi sefydlu AI sy'n gwneud yr un gweithredoedd rhagfarnllyd anweddus ag o'r blaen, wel, mae eich esgusodion yn mynd yn deneuach ac yn gloffach.

Mae tro ar hyn yn golygu bod y AI yn dangos tueddiadau anffafriol na ddaethpwyd ar eu traws o'r blaen pan oedd bodau dynol yn gwneud y dasg. Gallech ddweud ei bod yn anoddach atal hyn efallai gan ei fod yn cynnwys rhagfarnau “newydd” nad oedd y cwmni wedi bod yn chwilio amdanynt o'r blaen. Yn y diwedd, fodd bynnag, efallai na fydd esgusodion yn rhoi llawer o ryddhad i chi. Os yw'r system AI wedi mentro i diriogaeth anfoesegol ac anghyfreithlon, efallai y bydd eich gŵydd wedi'i choginio.

Un agwedd arall i'w chadw mewn cof yw y gallai'r AI gychwyn yn iawn ac yna ymestyn ei ffordd i dueddiadau anffafriol. Mae hyn yn arbennig o debygol pan fydd y defnydd o Machine Learning neu Ddysgu Dwfn yn digwydd yn barhaus i gadw'r AI yn gyfoes. P'un a yw'r ML/DL yn gweithio mewn amser real neu'n gwneud diweddariadau o bryd i'w gilydd, dylid rhoi sylw a yw'r AI o bosibl yn amlyncu data sydd bellach yn cynnwys rhagfarnau ac nad oedd yn bresennol o'r blaen.

I arweinwyr sy'n meddwl eu bod yn cael cinio am ddim trwy chwifio ffon hud i ddisodli gweithwyr dynol rhagfarnllyd gydag AI, maen nhw mewn deffroad anghwrtais iawn. Gweler fy nhrafodaeth am bwysigrwydd grymuso arweinwyr gyda praeseptau AI Moeseg yn y ddolen yma.

Ar y pwynt hwn o'r drafodaeth hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau o'r byd go iawn a allai ddangos y pentwr o ddisodli (neu beidio) â rhagfarnau anweddus dynol â rhagfarnau anweddus sy'n seiliedig ar AI.

Rwy'n falch ichi ofyn.

Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r her AI foesegol hon yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn amlygu unrhyw beth am dueddiadau anffafriol mewn AI, ac os felly, beth mae hyn yn ei ddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae gwir geir hunan-yrru yn rhai y mae'r AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes car hunan-yrru go iawn ar Lefel 5 eto, nad ydym hyd yn oed yn gwybod a fydd hyn yn bosibl ei gyflawni, a pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru Ac AI Gyda Tueddiadau Anffafriol

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir sy'n gyrru eu hunain a'r posibiliadau AI Moesegol sy'n golygu archwilio AI a thueddiadau anffafriol.

Gadewch i ni ddefnyddio enghraifft syml iawn. Mae car hunan-yrru seiliedig ar AI ar y gweill ar strydoedd eich cymdogaeth ac mae'n ymddangos ei fod yn gyrru'n ddiogel. Ar y dechrau, roeddech chi wedi rhoi sylw arbennig i bob tro y gwnaethoch chi lwyddo i gael cipolwg ar y car hunan-yrru. Roedd y cerbyd ymreolaethol yn sefyll allan gyda'i rac o synwyryddion electronig a oedd yn cynnwys camerâu fideo, unedau radar, dyfeisiau LIDAR, ac ati. Ar ôl wythnosau lawer o'r car hunan-yrru yn mordeithio o amgylch eich cymuned, prin eich bod chi'n sylwi arno nawr. Cyn belled ag yr ydych yn y cwestiwn, dim ond car arall ydyw ar y ffyrdd cyhoeddus sydd eisoes yn brysur.

Rhag eich bod yn meddwl ei bod yn amhosibl neu'n annhebygol i ddod yn gyfarwydd â gweld ceir hunan-yrru, rwyf wedi ysgrifennu'n aml am sut mae'r lleoliadau sydd o fewn cwmpas treialon ceir hunan-yrru wedi dod i arfer yn raddol â gweld y cerbydau wedi'u hysgaru, gweld fy nadansoddiad yn y ddolen hon yma. Yn y pen draw, symudodd llawer o'r bobl leol o ganu'r wyllt i fympwyo yn awr gan allyrru dyrnaid eang o ddiflastod i weld ceir hunan-yrru troellog.

Mae'n debyg mai'r prif reswm ar hyn o bryd y gallent sylwi ar y cerbydau ymreolaethol yw oherwydd y ffactor llid a chythruddo. Mae systemau gyrru AI wrth y llyfr yn sicrhau bod ceir yn ufuddhau i holl gyfyngiadau cyflymder a rheolau'r ffordd. Ar gyfer gyrwyr dynol prysur yn eu ceir traddodiadol sy'n cael eu gyrru gan bobl, rydych chi'n cael eich cythruddo ar adegau pan fyddwch chi'n sownd y tu ôl i'r ceir hunan-yrru sy'n cydymffurfio â'r gyfraith yn seiliedig ar AI.

Mae hynny'n rhywbeth y gallai fod angen i ni i gyd ddod i arfer ag ef, yn gywir neu'n anghywir.

Yn ôl at ein chwedl.

Yn troi allan bod dau bryder anweddus yn dechrau codi am y ceir hunan-yrru sy'n seiliedig ar AI ac sydd fel arall yn ddiniwed ac a groesewir yn gyffredinol, yn benodol:

a. Lle mae'r AI yn crwydro mae'r ceir hunan-yrru ar gyfer codi reidiau wedi dod yn bryder pryderus yn y gymuned yn gyffredinol

b. Mae sut mae'r AI yn trin cerddwyr sy'n aros nad oes ganddynt yr hawl tramwy hefyd yn fater sy'n codi

Ar y dechrau, roedd yr AI yn crwydro'r ceir hunan-yrru ledled y dref gyfan. Roedd gan unrhyw un oedd eisiau gwneud cais am reid yn y car hunan-yrru yn ei hanfod gyfle cyfartal o alw am un. Yn raddol, dechreuodd yr AI yn bennaf gadw'r ceir hunan-yrru i grwydro mewn un rhan o'r dref yn unig. Roedd yr adran hon yn gwneud mwy o arian ac roedd y system AI wedi'i rhaglennu i geisio sicrhau'r refeniw mwyaf posibl fel rhan o'r defnydd yn y gymuned.

Roedd aelodau'r gymuned yn y rhannau tlawd o'r dref yn llai tebygol o allu cael reid o gar oedd yn gyrru ei hun. Roedd hyn oherwydd bod y ceir hunan-yrru ymhellach i ffwrdd ac yn crwydro yn rhan refeniw uwch y locale. Pan fyddai cais yn dod i mewn o ran bell o'r dref, byddai unrhyw gais o leoliad agosach a oedd yn debygol o fod yn rhan “uchel ei barch” o'r dref yn cael blaenoriaeth uwch. Yn y pen draw, roedd argaeledd car hunan-yrru mewn unrhyw le heblaw'r rhan gyfoethocach o'r dref bron yn amhosibl, ac yn gythryblus felly i'r rhai a oedd yn byw yn yr ardaloedd hynny sydd bellach yn brin o adnoddau.

Gallech haeru bod yr AI fwy neu lai wedi glanio ar fath o wahaniaethu drwy ddirprwy (cyfeirir ato’n aml hefyd fel gwahaniaethu anuniongyrchol). Nid oedd yr AI wedi'i raglennu i osgoi'r cymdogaethau tlotach hynny. Yn lle hynny, fe “ddysgodd” wneud hynny trwy ddefnyddio'r ML/DL.

Y peth yw, roedd gyrwyr dynol rhannu reidiau yn adnabyddus am wneud yr un peth, er nid o reidrwydd yn gyfan gwbl oherwydd yr ongl gwneud arian. Roedd yna rai o'r gyrwyr dynol rhannu reidiau a oedd â thuedd anffodus ynghylch codi marchogion mewn rhai rhannau o'r dref. Roedd hyn yn ffenomen braidd yn hysbys ac roedd y ddinas wedi rhoi dull monitro ar waith i ddal gyrwyr dynol yn gwneud hyn. Gallai gyrwyr dynol fynd i drafferthion am gyflawni arferion dethol annymunol.

Tybiwyd na fyddai'r AI byth yn disgyn i'r un math o draethell. Ni sefydlwyd unrhyw fonitro arbenigol i gadw golwg ar ble roedd ceir hunan-yrru seiliedig ar AI yn mynd. Dim ond ar ôl i aelodau'r gymuned ddechrau cwyno y sylweddolodd arweinwyr y ddinas beth oedd yn digwydd. I gael rhagor o wybodaeth am y mathau hyn o faterion ledled y ddinas y mae cerbydau ymreolaethol a cheir hunan-yrru yn mynd i'w cyflwyno, gweler fy sylw yn y ddolen hon yma ac sy'n disgrifio astudiaeth dan arweiniad Harvard y bûm yn gyd-awdur arni ar y pwnc.

Mae'r enghraifft hon o'r agweddau crwydro ar y ceir hunan-yrru seiliedig ar AI yn dangos yr arwydd cynharach y gall fod sefyllfaoedd sy'n cynnwys bodau dynol â thueddiadau anffafriol, y rhoddir rheolaethau ar eu cyfer, a bod yr AI sy'n disodli'r gyrwyr dynol hynny yn cael ei adael yn scot- rhydd. Yn anffodus, gall yr AI wedyn ddod yn gynyddrannol mewn tueddiadau tebyg a gwneud hynny heb ddigon o reiliau gwarchod yn eu lle.

Mae ail enghraifft yn ymwneud â'r AI yn penderfynu a ddylid stopio ar gyfer cerddwyr nad oes ganddynt hawl tramwy i groesi stryd.

Yn ddiamau, rydych wedi bod yn gyrru ac wedi dod ar draws cerddwyr a oedd yn aros i groesi’r stryd ac eto nid oedd ganddynt yr hawl tramwy i wneud hynny. Roedd hyn yn golygu bod gennych ddisgresiwn i stopio a gadael iddynt groesi. Gallech fwrw ymlaen heb adael iddynt groesi a dal i fod yn gwbl o fewn y rheolau gyrru cyfreithiol o wneud hynny.

Mae astudiaethau o sut mae gyrwyr dynol yn penderfynu stopio neu beidio ar gyfer cerddwyr o'r fath wedi awgrymu bod y gyrwyr dynol weithiau'n gwneud y dewis ar sail rhagfarnau anffafriol. Efallai y bydd gyrrwr dynol yn llygadu'r cerddwr ac yn dewis peidio â stopio, er y byddent wedi stopio pe bai gan y cerddwr ymddangosiad gwahanol, megis ar sail hil neu ryw. Rwyf wedi archwilio hyn yn y ddolen yma.

Dychmygwch fod y ceir hunan-yrru seiliedig ar AI wedi'u rhaglennu i ddelio â'r cwestiwn a ddylid stopio ai peidio ar gyfer cerddwyr nad oes ganddynt yr hawl tramwy. Dyma sut y penderfynodd datblygwyr AI raglennu'r dasg hon. Buont yn casglu data o gamerâu fideo y dref sy'n cael eu gosod o amgylch y ddinas. Mae'r data'n dangos gyrwyr dynol sy'n stopio i gerddwyr nad oes ganddyn nhw'r hawl tramwy a gyrwyr dynol nad ydyn nhw'n stopio. Mae'r cyfan yn cael ei gasglu mewn set ddata fawr.

Trwy ddefnyddio Machine Learning a Deep Learning, mae'r data'n cael ei fodelu'n gyfrifiadol. Yna mae'r system yrru AI yn defnyddio'r model hwn i benderfynu pryd i stopio neu beidio. Yn gyffredinol, y syniad yw, beth bynnag mae'r arferiad lleol yn ei gynnwys, dyma sut mae'r AI yn mynd yn uniongyrchol i'r car hunan-yrru.

Er mawr syndod i arweinwyr y ddinas a'r trigolion, roedd yr AI yn amlwg yn dewis stopio neu beidio yn seiliedig ar ymddangosiad y cerddwr, gan gynnwys eu hil a'u rhyw. Byddai synwyryddion y car hunan-yrru yn sganio'r cerddwr oedd yn aros, yn bwydo'r data hwn i'r model ML/DL, a byddai'r model yn allyrru i'r AI p'un ai i stopio neu barhau. Yn anffodus, roedd gan y dref lawer o dueddiadau gyrrwr dynol eisoes yn hyn o beth ac roedd yr AI bellach yn dynwared yr un peth.

Y newyddion da yw bod hyn yn codi mater nad oedd bron neb yn gwybod ei fod yn bodoli o'r blaen. Y newyddion drwg oedd, ers i'r AI gael ei ddal yn gwneud hyn, fe gafodd y bai mwyaf. Mae'r enghraifft hon yn dangos y gallai system AI yn unig ddyblygu'r rhagfarnau anffodus sydd eisoes yn bodoli gan fodau dynol.

Casgliad

Mae yna lawer o ffyrdd i geisio osgoi dyfeisio AI sydd naill ai allan o'r gât â thueddiadau anffafriol neu sydd dros amser yn casglu rhagfarnau. Mae un dull yn cynnwys sicrhau bod datblygwyr AI yn ymwybodol o hyn yn digwydd ac felly eu cadw ar flaenau eu traed i raglennu'r AI i osgoi'r mater. Mae llwybr arall yn cynnwys cael yr AI ei hun i fonitro ymddygiadau anfoesegol (gweler fy nhrafodaeth yn y ddolen yma) a/neu gael darn arall o AI sy'n monitro systemau AI eraill ar gyfer ymddygiadau a allai fod yn anfoesegol (rwyf wedi ymdrin â hyn yn y ddolen yma).

I grynhoi, mae angen i ni sylweddoli y gall bodau dynol gael rhagfarnau anffafriol a bod angen iddynt rywsut wybod eu cyfyngiadau. Yn yr un modd, gall AI fod â thueddiadau anffafriol, a rhywsut mae angen i ni wybod eu cyfyngiadau.

I'r rhai ohonoch sy'n cofleidio AI Moeseg yn frwd, hoffwn orffen ar hyn o bryd gyda llinell enwog arall y mae'n rhaid i bawb ei gwybod yn barod. Sef, parhewch i ddefnyddio a rhannu pwysigrwydd AI Moesegol. A thrwy wneud hynny, byddwn yn dweud hyn yn ddigywilydd: “Ewch ymlaen, gwnewch fy niwrnod.”