AI Moeseg Ac AI Y Gyfraith Yn Egluro Beth Mewn Gwirionedd Sy'n Dibynadwy AI

Ymddiriedolaeth yw popeth, felly maen nhw'n ei ddweud.

Dywedodd yr athronydd nodedig Lao Tzu na fydd y rhai nad ydyn nhw'n ymddiried digon yn cael eu hymddiried. Dywedodd Ernest Hemingway, nofelydd uchel ei barch, mai'r ffordd orau o ddarganfod a allwch chi ymddiried yn rhywun yw trwy ymddiried ynddynt.

Yn y cyfamser, mae'n ymddangos bod ymddiriedaeth yn werthfawr ac yn frau. Gall yr ymddiriedaeth sydd gan rywun ddymchwel fel tŷ o gardiau neu dorri'n sydyn fel balŵn popiog.

Honnodd y trasiedi Groegaidd hynafol Sophocles fod ymddiriedaeth yn marw ond bod drwgdybiaeth yn blodeuo. Roedd yr athronydd a'r mathemategydd Ffrengig Descartes yn dadlau ei bod yn ddoeth peidio byth ag ymddiried yn llwyr yn y rhai sydd wedi ein twyllo hyd yn oed unwaith. Anogodd y buddsoddwr busnes biliwnydd hynod Warren Buffett ei bod yn cymryd ugain mlynedd i adeiladu enw da dibynadwy a phum munud i'w ddifetha.

Efallai y byddwch yn synnu o wybod bod yr holl safbwyntiau amrywiol hyn a barn bryfoclyd am ymddiriedaeth yn hanfodol i ddyfodiad Deallusrwydd Artiffisial (AI).

Oes, mae rhywbeth y cyfeirir ato’n frwd AI dibynadwy mae hynny'n dal i gael llawer o sylw y dyddiau hyn, gan gynnwys llawysgrifen galwadau cathod o'r tu mewn i faes AI a hefyd ffrwydradau ffyrnig gan y rhai y tu allan i'r byd AI. Mae'r syniad cyffredinol yn ymwneud ag a yw cymdeithas yn mynd i fod yn barod i ymddiried yn systemau deallusrwydd artiffisial ai peidio.

Yn ôl pob tebyg, os na fydd neu na all cymdeithas ymddiried yn AI, y tebygolrwydd yw y bydd systemau AI yn methu â chael tyniant. Bydd AI fel y gwyddom ar hyn o bryd yn cael ei wthio o'r neilltu a dim ond casglu llwch. Yn syfrdanol, gallai AI ddod i ben ar y domen sothach, wedi'i ddiswyddo'n hanesyddol i ddim mwy nag arbrawf uwch-dechnoleg sydd wedi profi'n daer ond wedi methu'n aruthrol. Mae'n bosibl y byddai unrhyw ymdrechion i adfywio AI yn wynebu brwydr aruthrol i fyny'r allt a chael ei atal gan bob math o wrthwynebiadau a phrotestiadau llwyr. Yn ôl pob tebyg, oherwydd diffyg ymddiriedaeth mewn AI.

Pa un a fydd, a ydym i ymddiried yn AI, ai nad ydym i ymddiried yn AI?

Yn y bôn, a ydym yn mynd i gael AI dibynadwy mewn gwirionedd?

Mae’r rheini’n hen gwestiynau sydd heb eu datrys. Gadewch i ni ei ddadbacio.

AI Moeseg A'r Ymdrech Am AI Dibynadwy

Y gred gan lawer o fewn AI yw y gall datblygwyr systemau AI ennyn ymddiriedaeth mewn AI trwy ddyfeisio AI sy'n ddibynadwy yn briodol. Y hanfod yw na allwch obeithio ennill ymddiriedaeth os nad yw AI yn ymddangos yn ddibynadwy ar y cychwyn. Trwy grefftio systemau AI mewn modd y canfyddir ei fod yn ddibynadwy, mae siawns gadarn y bydd pobl yn derbyn AI ac yn mabwysiadu defnyddiau AI.

Un pryder sydd eisoes yn poeni am yr ystyriaeth AI dibynadwy hon yw y gallem fod eisoes mewn a diffyg ymddiriedaeth y cyhoedd pan ddaw i AI. Fe allech chi ddweud bod yr AI rydyn ni eisoes wedi'i weld wedi cloddio twll ac wedi bod yn taflu llawer iawn o ymddiriedaeth. Felly, yn hytrach na dechrau ar sylfaen ddigonol o ddibynadwyedd, bydd yn rhaid i AI ddringo'n syfrdanol allan o'r diffyg, gan grafangau am bob owns o ymddiriedaeth ychwanegol a ddymunir i argyhoeddi pobl bod AI mewn gwirionedd yn ddibynadwy.

I'r her hon daw AI Moeseg a Chyfraith AI.

Mae AI Moeseg a Chyfraith AI yn ei chael hi'n anodd iawn ceisio darganfod beth fydd ei angen i wneud AI yn ddibynadwy. Mae rhai yn awgrymu bod yna fformiwla neu ddeddfau ironclad a fydd yn cael AI i'r nefoedd ddibynadwy. Mae eraill yn nodi y bydd angen gwaith caled ac ymlyniad cyson a di-ildio at egwyddorion Moeseg AI a Chyfraith AI i gael ymddiriedaeth frwd cymdeithas.

Nid yw'r enigma cyfoes am ymddiriedaeth mewn AI yn arbennig o newydd fel y cyfryw.

Gallwch chi fynd yn ôl yn hawdd i ddiwedd y 1990au ac olrhain ymddangosiad awydd y mae galw mawr amdano am “gyfrifiadura dibynadwy” o'r dyddiau hynny. Roedd hwn yn ymdrech technoleg-diwydiant ar raddfa fawr i ganfod a oedd modd gwneud y cyfrifiaduron y dywedwyd wrthynt i gyd mewn modd a fyddai'n cael ei ddehongli gan gymdeithas fel rhywbeth y gellid ymddiried ynddo.

Roedd y cwestiynau allweddol yn cynnwys:

• A ellid gwneud caledwedd cyfrifiadurol fel ei fod yn ddibynadwy?
• A allai meddalwedd gael ei saernïo fel ei fod yn ddibynadwy?
• A allem ni roi cyfrifiaduron rhwydwaith byd-eang yn eu lle a fyddai'n ddibynadwy?
• Ac yn y blaen.

Y teimlad cyffredinol bryd hynny ac sy'n parhau hyd heddiw yw bod cyfrifiadura dibynadwy yn parhau i fod yn fath o greal sanctaidd nad yw, yn anffodus, yn hollol o fewn ein cyrraedd (fel y nodwyd mewn papur o'r enw “Trustworthy AI" yn y Cyfathrebu'r ACM). Fe allech chi ddadlau'n argyhoeddiadol bod AI yn elfen arall eto o'r amlen ddibynadwyedd cyfrifiadura, ac eto mae AI yn gwneud ymchwil yr ymddiriedolaeth hyd yn oed yn fwy heriol ac ansicr. Mae AI wedi dod yn sbwyliwr posibl yn y frwydr i gyrraedd cyfrifiadura dibynadwy. Y ddolen wannaf yn y gadwyn o bosibl, fel petai.

Gadewch i ni edrych yn gyflym ar pam mae AI wedi codi ein penbleth ynghylch bod yn llai na dibynadwy. Yn ogystal, byddwn yn archwilio daliadau Moeseg AI y gobeithir y bydd yn helpu i gynnal yr ymddiriedaeth dybiedig sydd eisoes yn lled-danddwr (neu'r diffyg ymddiriedaeth byrlymus) yn AI heddiw. Am fy ymdriniaeth barhaus a helaeth o AI Moeseg, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefnau a dogfennaeth ddylunio.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n gorfod cadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Gadewch i ni hefyd sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Gadewch i ni glymu hyn i'r cwestiwn am AI dibynadwy

Yn sicr ni fyddem yn ymddangos yn barod i ymddiried yn AI sy'n dangos rhagfarnau anffafriol a chamau gwahaniaethol. Ein cred ni, yn yr achos hwnnw, fyddai nad yw deallusrwydd artiffisial o'r fath yn ddibynadwy, felly byddem yn pwyso tuag at ddiffyg ymddiriedaeth yn yr AI. Heb fynd dros ben llestri ar gymhariaeth anthropomorffig (byddaf yn dweud mwy am AI anthropomorffeiddio mewn eiliad), byddai bod dynol a oedd yn arddangos rhagfarnau anffafriol hefyd yn destun sgôr fel un nad yw'n arbennig o ddibynadwy.

Cloddio i Ymddiriedaeth A Dibynadwyedd

Efallai y dylem edrych ar yr hyn a olygwn wrth haeru ein bod yn gwneud neu nad ydym yn ymddiried yn rhywun neu rywbeth. Yn gyntaf, ystyriwch sawl diffiniad geiriadur dyddiol o ymddiriedaeth.

Enghreifftiau o'r hyn y mae ymddiriedaeth yn ei olygu'n ddiffiniadol yw:

• Dibyniaeth sicr ar gymeriad, gallu, cryfder, neu wirionedd rhywun neu rywbeth ( Merriam - geiriadur Webster ar-lein).
• Dibyniaeth ar uniondeb, cryfder, gallu, meichiau, ac ati, person neu beth (Geiriadur.com)
• Cred gadarn yn nibynadwyedd, gwirionedd, gallu, neu gryfder rhywun neu rywbeth (Geiriadur ar-lein Ieithoedd Rhydychen).

Hoffwn nodi bod yr holl ddiffiniadau hynny yn cyfeirio at “rhywun” ac yn yr un modd yn cyfeirio at “rywbeth” fel rhywbeth y gellir ymddiried ynddo. Mae hyn yn nodedig oherwydd efallai y bydd rhai yn mynnu ein bod yn ymddiried mewn bodau dynol yn unig a bod y weithred o ymddiried yn cael ei chadw yn gyfan gwbl i ddynolryw fel ein targed o ddibynadwyedd. Nid felly. Gallwch ymddiried yn eich tostiwr cegin. Os yw'n ymddangos ei fod yn gwneud eich tost ac yn gweithio'n rheolaidd i wneud hynny'n ddibynadwy, gallwch yn sicr fod â rhywfaint o ymddiriedaeth ynghylch a yw'r tostiwr mewn gwirionedd yn ddibynadwy.

Yn yr un ffordd o feddwl, gall AI hefyd fod yn destun safbwynt ein hymddiriedaeth. Yr ods yw y bydd ymddiriedaeth sy'n gysylltiedig ag AI yn llawer mwy cymhleth na thostiwr cyffredin, dyweder. Fel arfer dim ond llond llaw o weithredoedd y gall tostiwr eu gwneud. Mae system AI yn debygol o fod yn llawer mwy cymhleth ac mae'n ymddangos ei bod yn gweithredu'n llai tryloyw. Mae ein gallu i asesu a chanfod pa mor ddibynadwy yw AI yn sicr o fod yn llawer anoddach ac yn cynnig heriau penodol.

Yn ogystal â bod yn fwy cymhleth, dywedir bod system AI nodweddiadol yn anbenderfynol ac o bosibl yn hunan-reoleiddio neu'n hunan-addasu. Gallwn archwilio’r syniad hwnnw’n fyr.

Mae peiriant penderfynol yn tueddu i wneud yr un pethau dro ar ôl tro, yn rhagweladwy a chyda phatrwm y gellir ei ganfod yn ymarferol o sut mae'n gweithredu. Efallai y byddwch chi'n dweud bod tostiwr cyffredin yn tostio'r un ffordd fwy neu lai a bod ganddo reolaethau tostio sy'n cymedroli'r tostio, y mae'r sawl sy'n defnyddio'r tostiwr yn gallu rhagweld y rhain yn gyffredinol. Mewn cyferbyniad, mae systemau AI cymhleth yn aml yn cael eu dyfeisio i fod yn anbenderfynol, sy'n golygu y gallent wneud pethau hollol wahanol y tu hwnt i'r hyn y byddech wedi'i ddisgwyl fel arall. Gellid ymhelaethu ar hyn yn rhannol hefyd os yw'r AI wedi'i ysgrifennu i hunan-addasu ei hun, agwedd a all ganiatáu'n fanteisiol i'r AI wella yn achos ML/DL, er y gall hefyd achosi'r AI i fethu neu fynd i mewn i'r rhengoedd yn annifyr. o ddrwgrwydd AI. Efallai na wyddoch beth a'ch trawodd, mewn ffordd o siarad, gan eich bod wedi'ch dal yn hollol ddiofal gan weithredoedd yr AI.

Beth allwn ni ei wneud i geisio dod â deallusrwydd artiffisial yn nes at ddibynadwyedd?

Mae un dull yn cynnwys ceisio sicrhau bod y rhai sy'n adeiladu a maesu AI yn cadw at set o braeseptau Moeseg AI. Fel y soniwyd gan yr ymchwilwyr AI hyn: “Mae ymddiriedaeth yn agwedd y bydd asiant yn ymddwyn yn ôl y disgwyl ac y gellir dibynnu arno i gyrraedd ei nod. Mae ymddiriedaeth yn methu ar ôl camgymeriad neu gamddealltwriaeth rhwng yr asiant a'r unigolyn sy'n ymddiried ynddo. Mae cyflwr seicolegol ymddiriedaeth mewn AI yn eiddo sy'n dod i'r amlwg mewn system gymhleth, sydd fel arfer yn cynnwys llawer o gylchoedd dylunio, hyfforddi, defnyddio, mesur perfformiad, rheoleiddio, ailgynllunio ac ailhyfforddi” (a nodir yn y Cyfathrebu'r ACM, “Ymddiriedolaeth, Rheoleiddio, ac AI Dynol-yn-y-Dolen O fewn y Rhanbarth Ewropeaidd” gan Stuart Middleton, Emmanuel Letouze, Ali Hossaini, ac Adriane Chapman, Ebrill 2022).

Yr hanfod yw, os gallwn gael datblygwyr AI i gadw at AI Moesegol, y gobaith yw y byddant yn cynhyrchu AI dibynadwy yn y pen draw. Mae hyn i gyd yn iawn ac yn dda, ond mae'n ymddangos braidd yn anymarferol ar sail y byd go iawn, er ei fod yn llwybr sy'n werth ei ddilyn.

Dyma beth rwy'n ei olygu.

Tybiwch fod datblygwyr AI yn gwneud ymdrech ddiwyd i greu system AI at ryw ddiben y byddwn yn ei alw'n X yn gyffredinol. Maent yn sicrhau'n ofalus bod yr AI yn cadw at egwyddorion tryloywder AI Moeseg. Maent yn sicrhau bod preifatrwydd wedi'i ymgorffori'n briodol yn yr AI. Ar gyfer bron pob un o'r egwyddorion Moeseg AI arferol, mae'r adeiladwyr AI yn sicrhau'n drwyadl bod yr AI yn bodloni'r praesept a roddir.

A ddylech chi nawr ymddiried yn y AI hwnnw?

Gadewch imi helpu i drylifo eich meddyliau ar y cwestiwn penagored hwnnw.

Mae'n ymddangos bod seiber-crooks wedi llwyddo i ymdreiddio i'r AI a chael yr AI yn slei i berfformio X ac eto hefyd yn bwydo'r holl ddata y mae'r AI yn ei gasglu i'r hacwyr seiber. Drwy wneud hynny, mae'r drwgweithredwyr hyn yn tandorri'r praesept preifatrwydd yn llechwraidd. Rydych chi'n hapus nad ydych chi'n ymwybodol bod hyn yn digwydd o dan gwfl AI.

Gyda'r darn ychwanegol hwnnw o wybodaeth, gofynnaf yr un cwestiwn ichi eto.

Ydych chi'n ymddiried yn AI?

Meiddiaf ddweud y byddai'r rhan fwyaf o bobl ar unwaith yn datgan eu bod yn sicr yn gwneud hynny nid ymddiried yn yr AI penodol hwn. Efallai eu bod wedi ymddiried ynddo yn gynharach. Maent bellach yn dewis peidio ag ystyried yr AI yn ddibynadwy.

Mae rhai mewnwelediadau allweddol yn seiliedig ar yr enghraifft syml hon yn werth eu hystyried:

• Deinameg Ymddiriedolaeth. Nid yw hyd yn oed y bwriadau gorau i gwmpasu'r holl seiliau o sicrhau bod AI Moeseg yn cael ei gynnwys mewn system AI yn unrhyw sicrwydd o'r hyn y gallai'r AI droi allan neu ddod. Unwaith y bydd yr AI yn cael ei ddefnyddio, gall pobl o'r tu allan danseilio'r croniadau AI Moesegol.
• Tandorri Ymddiriedaeth O'r Tu Mewn. Nid oes rhaid i'r weithred o dandorri'r ddibynadwyedd fod yn ddieithriaid o reidrwydd. Efallai y bydd rhywun mewnol sy'n cynnal a chadw'r system AI yn rheolaidd yn pylu a gwanhau'r AI i fod yn llai dibynadwy. Efallai y bydd y datblygwr AI hwn yn ddi-glem am yr hyn y maent wedi'i wneud.
• Anfwriadol Cyfaddawdau o Ymddiriedaeth. Gallai AI hunan-addasu neu hunan-reoleiddio ar ryw adeg addasu ei hun a gwyro i mewn i'r diriogaeth annibynadwy. Efallai bod yr AI yn ceisio cryfhau tryloywder yr AI ac eto yn peryglu'r agweddau preifatrwydd ar yr un pryd ac yn amhriodol.
• Gwasgaru Ymddiriedaeth. Nid yw ceisio cyflawni pob un o'r daliadau Moeseg AI i'r un graddau eithaf o ddibynadwyedd yn ymarferol fel arfer gan eu bod yn aml at ddibenion traws-ddiben neu fod ganddynt wrthdaro posibl cynhenid. Mae'n bersbectif braidd yn ddelfrydol i gredu bod pob un o'r praeseptau AI Moesegol wedi'u halinio'n freuddwydiol a'u bod i gyd yn gyraeddadwy i'r un graddau mwyaf posibl.
• Gall Ymddiriedolaeth Fod yn Costus i'w Chyflawni. Mae'r gost i geisio cyflawni lefel o'r radd flaenaf o AI dibynadwy trwy gymryd y camau helaeth a chynhwysfawr amrywiol a chadw at y litani o egwyddorion Moeseg AI yn mynd i fod yn gymharol uchel. Gallwch chi ddadlau'n hawdd y byddai'r gost yn ormodol o ran defnyddio rhai systemau AI sydd fel arall o werth pwysig i gymdeithas, hyd yn oed pe bai'r Mynegai Gwerthusiad yn llai na delfrydol, o ddymuniad dibynadwyedd.
• Ac yn y blaen.

Peidiwch â chamddehongli'r sylwadau blaenorol i awgrymu y dylem rywsut osgoi'r ymdrech i adeiladu a gosod AI dibynadwy yn drylwyr. Byddech yn taflu'r babi allan gyda'r dŵr bath, fel petai. Y dehongliad cywir yw bod angen inni wneud y gweithgareddau ymddiriedus hynny i gael AI i ystyriaeth ddibynadwy, ac eto nid yw hynny ar ei ben ei hun yn iachâd i gyd nac yn fwled arian.

Llwybrau Aml-Prong I AI Dibynadwy

Mae yna ffyrdd aml-ochrog ychwanegol pwysig o ymdrechu tuag at AI dibynadwy.

Er enghraifft, fel yr wyf wedi sôn amdano o'r blaen yn fy ngholofnau, mae myrdd o gyfreithiau a rheoliadau sy'n dod i'r amlwg yn ymwneud â AI yn anelu at yrru gwneuthurwyr AI tuag at ddyfeisio AI dibynadwy, gweler y ddolen yma ac y ddolen yma.

Mae'r rheiliau gwarchod cyfreithiol hyn yn hollbwysig fel dull trosfwaol o sicrhau bod y rhai sy'n dyfeisio AI yn gwbl atebol am eu AI. Heb atebion cyfreithiol posibl a chosbau cyfreithlon o'r fath, mae'r rhai sy'n rhuthro AI i'r farchnad yn debygol o barhau i wneud hynny heb fawr o ystyriaeth, os o gwbl, i gyflawni AI dibynadwy. Efallai y byddaf yn ychwanegu’n benodol, os yw’r cyfreithiau a’r rheoliadau hynny wedi’u dyfeisio’n wael neu’n cael eu gweithredu’n annigonol, yn anffodus gallent danseilio’r ymgais i geisio AI dibynadwy, yn eironig ac yn rhyfedd o bosibl yn meithrin AI annibynadwy dros AI dibynadwy (gweler fy ngholofn yn nhrafodaethau am esboniad pellach).

Rwyf hefyd wedi bod yn eiriolwr pybyr dros yr hyn yr wyf wedi bod yn cyfeirio ato yn selog AI bots angel gwarcheidwad (gweler fy sylw yn y ddolen yma). Mae hwn yn ddull neu ddull sydd ar ddod o geisio ymladd tân â thân, sef defnyddio AI i'n cynorthwyo i ddelio ag AI eraill a allai fod yn ddibynadwy neu beidio.

Yn gyntaf, bydd rhywfaint o gyd-destun cefndir yn ddefnyddiol.

Tybiwch eich bod yn dewis dibynnu ar system AI yr ydych yn ansicr a yw'n ddibynadwy. Un pryder allweddol posibl yw eich bod ar eich pen eich hun yn eich ymdrechion i ffuredu a ddylid ymddiried yn yr AI ai peidio. Mae'r AI o bosibl yn gyflymach yn gyfrifiadurol na chi a gall fanteisio arnoch chi. Mae angen rhywun neu rywbeth ar eich ochr i helpu.

Un persbectif yw y dylai fod dynol-yn-y-dolen bob amser a fydd yn eich cynorthwyo wrth i chi ddefnyddio system AI. Fodd bynnag, mae hwn yn ateb problemus. Os yw'r AI yn gweithio mewn amser real, y byddwn yn ei drafod o bryd i'w gilydd o ran dyfodiad ceir hunan-yrru seiliedig ar AI, efallai na fydd cael dolen ddynol-yn-y-dolen yn ddigon. Gallai'r AI fod yn gweithredu mewn amser real ac erbyn i ddyn-yn-y-ddolen dynodedig ddod i mewn i'r llun i ddarganfod a yw'r AI yn gweithredu'n iawn, efallai y bydd canlyniad trychinebus eisoes wedi digwydd.

Ar y llaw arall, mae hyn yn codi ffactor arall am ymddiriedaeth. Fel arfer rydym yn pennu lefel ymddiriedolaeth yn seiliedig ar y cyd-destun neu'r amgylchiadau yr ydym yn eu hwynebu. Efallai y byddwch chi'n ymddiried yn llwyr yn eich mab neu ferch fach i fod yn ffyddlon tuag atoch chi, ond os ydych chi allan yn heicio ac yn penderfynu dibynnu ar y plentyn bach i ddweud wrthych a yw'n ddiogel camu ar ymyl clogwyn, rwy'n meddwl y byddech chi'n ddoeth. i ystyried a all y plentyn bach ddarparu'r math hwnnw o gyngor bywyd neu farwolaeth. Efallai y bydd y plentyn yn gwneud hynny o ddifrif ac yn ddiffuant, a serch hynny, yn methu â rhoi cyngor o'r fath yn ddigonol.

Mae'r un syniad yn gysylltiedig ag ymddiriedaeth pan ddaw i AI. Mae'n debyg nad yw system AI rydych chi'n ei defnyddio i chwarae gwirwyr neu wyddbwyll yn rhan o unrhyw ystyriaethau bywyd neu farwolaeth. Gallwch chi fod yn fwy cyfforddus gyda'ch aseiniad o ymddiriedaeth. Mae car hunan-yrru seiliedig ar AI sy'n casgenni i lawr priffordd ar gyflymder uchel yn gofyn am lefel lawer mwy egniol o ymddiriedaeth. Gallai'r blip lleiaf gan y system yrru AI arwain yn uniongyrchol at eich marwolaeth a marwolaethau eraill.

Mewn cyfweliad cyhoeddedig â Beena Ammanath, Cyfarwyddwr Gweithredol Sefydliad AI Global Deloitte ac awdur y llyfr AI dibynadwy, pwyslais tebyg ar ystyried agweddau cyd-destunol lle mae dibynadwyedd AI yn dod i chwarae: “Os ydych chi'n adeiladu datrysiad AI sy'n gwneud diagnosis claf, mae tegwch a thuedd yn hynod bwysig. Ond os ydych chi'n adeiladu algorithm sy'n rhagweld methiant injan jet, nid yw tegwch a thuedd mor bwysig. Mae AI dibynadwy mewn gwirionedd yn strwythur i'ch rhoi ar ben ffordd i feddwl am ddimensiynau ymddiriedaeth yn eich sefydliad” (VentureBeat, Mawrth 22, 2022).

Wrth drafod AI dibynadwy, gallwch ddehongli'r pwnc hwn mewn sawl ffordd.

Er enghraifft, AI dibynadwy yn rhywbeth yr ydym i gyd yn ei ystyried yn nod dymunol a dyheadol, sef y dylem fod yn awyddus i ddyfeisio a lledaenu AI dibynadwy. Mae defnydd arall o'r ymadrodd bachog. Defnydd braidd yn amgen yw hynny AI dibynadwy yw cyflwr neu fesuriad, fel y gallai rhywun honni ei fod wedi creu system AI sy'n enghraifft o AI dibynadwy. Gallwch hefyd ddefnyddio'r ymadrodd AI dibynadwy i awgrymu dull neu ddull gweithredu y gellir ei ddefnyddio i sicrhau dibynadwyedd AI. Etc.

Ar nodyn cysylltiedig, hyderaf eich bod yn sylweddoli nad yw pob AI yr un peth a bod yn rhaid inni fod yn ymwybodol o beidio â gwneud datganiadau cyffredinol am yr holl AI. Mae system AI benodol yn debygol o fod yn sylweddol wahanol i system AI arall. Gallai un o'r systemau AI hynny fod yn hynod ddibynadwy, tra gallai'r llall fod ychydig yn ddibynadwy. Byddwch yn ofalus wrth gymryd yn ganiataol bod AI yn fonolith sydd naill ai'n gwbl ddibynadwy neu'n gwbl ddidrugaredd.

Yn syml, nid yw hyn yn wir.

Hoffwn roi sylw byr nesaf i rywfaint o’m hymchwil parhaus am AI dibynadwy a allai fod o ddiddordeb i chi, gan gwmpasu’r rôl sy’n codi o AI bots angel gwarcheidwad.

Dyma sut mae'n mynd.

Byddech wedi'ch arfogi â system AI (bot angel gwarcheidwad AI) a ddyfeisiwyd i fesur pa mor ddibynadwy yw rhyw system AI arall. Mae gan bot angel gwarcheidwad AI ffocws hollbwysig ar eich diogelwch. Meddyliwch am hyn fel pe bai gennych chi'r modd i fonitro'r AI rydych chi'n dibynnu arno trwy gael system AI wahanol yn eich poced dilys, efallai'n rhedeg ar eich ffôn clyfar neu ddyfeisiau eraill o'r fath. Gall eich gwarcheidwad AI diarhebol gyfrifo ar y sail bod yr AI rydych chi'n dibynnu arno hefyd yn ei wneud, gan weithio ar gyflymder cyflym a chyfrifo'r sefyllfa dan sylw mewn amser real, yn gynt o lawer nag y gallai dyn-yn-y-ddolen wneud hynny.

Ar yr olwg gyntaf, efallai eich bod yn meddwl y dylai'r AI yr ydych eisoes yn dibynnu arno gael rhywfaint mewnol Rheiliau gwarchod AI sy'n gwneud yr un peth â hyn ar wahân yn cyfrifo AI gwarcheidwad angel bot. Ie, byddai hynny'n sicr yn ddymunol. Un rhwystr yw y gallai'r rheiliau gwarchod AI sydd wedi'u hadeiladu i mewn i system AI fod wedi'u halinio'n annatod ac yn niweidiol â'r AI per se, felly nid yw'r rheilen warchod AI tybiedig bellach yn gallu gwirio na dilysu'r AI yn annibynnol ar unrhyw ystyr.

Y syniad cyferbyniol yw bod eich bot angel gwarcheidwad AI yn fecanwaith AI annibynnol neu drydydd parti sy'n wahanol i'r AI rydych chi'n dibynnu arno. Mae'n eistedd y tu allan i'r AI arall, yn parhau i fod wedi'i neilltuo i chi ac nid yw wedi'i neilltuo i'r AI sy'n cael ei fonitro neu ei asesu.

Gellir mynegi ffordd syml o feddwl am hyn drwy'r datganiadau symlach canlynol, tebyg i hafaliad. Efallai y byddwn yn dweud bod “P” yn dymuno ymddiried yn “R” i wneud tasg benodol “X”:

Byddai hyn fel a ganlyn pan mai dim ond pobl sy’n cymryd rhan:

• Person P yn ymddiried ym Mherson R i wneud tasg X.

Pan fyddwn yn dewis dibynnu ar AI, mae'r datganiad yn ail-lunio i hyn:

• Mae Person P yn ymddiried yn AI enghraifft-R i wneud tasg X.

Gallwn ychwanegu'r bot angel gwarcheidwad AI trwy ddweud hyn:

• Mae Person P yn ymddiried yn AI enghraifft-R i wneud tasg X fel un sy'n cael ei monitro gan AI gwarcheidwad angel bot enghraifft-Z

Mae bot angel gwarcheidwad AI yn asesu'r AI rydych chi'n dibynnu arno'n ddiflino ac yn ddiflino. O'r herwydd, efallai y bydd eich gwarcheidwad AI defnyddiol yn eich rhybuddio bod ymddiriedaeth yr AI arall hwn yn ddiangen. Neu, efallai y bydd y gwarcheidwad AI yn rhyngweithio'n electronig â'r AI arall i geisio sicrhau bod unrhyw amrywiad i ffwrdd o fod yn ddibynadwy yn cael ei gywiro'n gyflym, ac yn y blaen (gweler fy sylw ar fanylion o'r fath yn y ddolen yma).

Trosiad Cronfa Ddŵr Trusty Trust

Gan ein bod yn trafod lefelau amrywiol o ymddiriedaeth, efallai y byddai'n ddefnyddiol ichi fod yn drosiad defnyddiol am ddibynadwyedd trwy feddwl am ymddiriedaeth fel math o gronfa ddŵr.

Mae gennych rywfaint o ymddiriedaeth ar gyfer person neu beth penodol mewn amgylchiad penodol ar adeg benodol. Bydd lefel yr ymddiriedolaeth yn codi neu'n gostwng, yn dibynnu ar beth arall sy'n digwydd mewn perthynas â'r person neu'r peth penodol hwnnw. Gallai'r ymddiriedolaeth fod ar lefel sero pan nad oes gennych unrhyw ymddiriedaeth o gwbl ar gyfer y person neu'r peth. Gallai'r ymddiriedolaeth fod yn negyddol pan fyddwch chi'n mentro i ddiffyg ymddiriedaeth yn y person neu'r peth hwnnw.

Yn achos systemau AI, bydd eich cronfa ymddiriedolaeth ar gyfer yr AI penodol yr ydych yn dibynnu arno mewn amgylchiad penodol yn codi neu'n disgyn yn dibynnu ar eich gallu i fesur pa mor ddibynadwy yw'r AI. Ar brydiau, efallai eich bod yn ymwybodol iawn o'r lefel amrywiol hon o ymddiriedaeth yn yr AI, tra mewn achosion eraill efallai y byddwch yn llai ymwybodol ac yn fwy felly trwy wneud penderfyniadau am ddibynadwyedd.

Mae'r ffyrdd yr ydym wedi bod yn eu trafod yma sut i hybu lefelau ymddiriedaeth ar gyfer AI yn cynnwys:

• Glynu wrth Foeseg AI. Pe bai'r AI rydych chi'n dibynnu arno wedi'i ddyfeisio trwy geisio cadw at y praeseptau Moeseg AI cywir, mae'n debyg y byddech chi'n defnyddio'r ddealltwriaeth hon i hybu lefel eich cronfa ymddiriedolaeth ar gyfer y system AI benodol honno. Fel nodyn ochr, mae hefyd yn bosibl y gallech gyffredinoli i systemau AI eraill ynghylch eu dibynadwyedd, yn yr un modd, er y gall hyn fod yn ffurf gamarweiniol ar adegau o'r hyn a alwaf. Ymddiriedolaeth AI aura lledaenu (byddwch yn ofalus wrth wneud hyn!).
• Defnyddiwch Dolen Ddynol-Yn-Y-. Os oes gan yr AI ddolen ddynol-yn-y-dolen, fe allech chi ychwanegu'n gadarnhaol at eich ymddiriedaeth ganfyddedig yn yr AI.
• Sefydlu Cyfreithiau a Rheoliadau. Os oes cyfreithiau a rheoliadau yn gysylltiedig â'r math penodol hwn o AI, efallai y byddwch yn yr un modd yn rhoi hwb i'ch lefel ymddiriedaeth.
• Cyflogwch Angel Bot Gwarcheidwad AI. Os oes gennych bot angel gwarcheidwad AI yn barod, bydd hyn hefyd yn codi lefel eich ymddiriedaeth ymhellach.

Fel y soniwyd yn gynharach, gall ymddiriedaeth fod yn eithaf brau a chwalu mewn amrantiad (hy, mae cronfa ddŵr yr ymddiriedolaeth yn cael gwared ar yr holl ymddiriedolaeth adeiledig yn gyflym ac yn sydyn).

Dychmygwch eich bod y tu mewn i gar hunan-yrru sy'n seiliedig ar AI a bod y gyrru AI yn sydyn yn gwneud tro radical i'r dde, gan achosi'r olwynion i wichian a bron â gorfodi'r cerbyd ymreolaethol i mewn i dreiglo peryglus. Beth fyddai'n digwydd i'ch lefel o ymddiriedaeth? Mae'n ymddangos, hyd yn oed pe baech chi'n dal yr AI i lefel uwch o ymddiriedaeth yn flaenorol, byddech chi'n gostwng lefel eich ymddiriedaeth yn ddramatig ac yn sydyn, yn synhwyrol felly.

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael enghreifftiau darluniadol ychwanegol a allai ddangos natur a chwmpas AI dibynadwy. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am fynd ar drywydd AI dibynadwy, ac os felly, beth mae hyn yn ei ddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru Ac AI Dibynadwy

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir hunan-yrru a AI dibynadwy.

Ymddiriedaeth yw popeth, yn enwedig yn achos ceir hunan-yrru seiliedig ar AI.

Mae'n ymddangos bod cymdeithas yn llygadu ymddangosiad ceir hunan-yrru. Ar y naill law, mae gobaith mawr y bydd dyfodiad ceir hunan-yrru gwirioneddol yn lleihau nifer y marwolaethau blynyddol sy'n gysylltiedig â cheir yn amlwg. Yn yr Unol Daleithiau yn unig mae tua 40,000 o farwolaethau blynyddol a thua 2.5 miliwn o anafiadau oherwydd damweiniau car, gweler fy nghasgliad o ystadegau yn y ddolen yma. Mae bodau dynol yn yfed ac yn gyrru. Mae bodau dynol yn gyrru tra'u bod yn tynnu sylw. Mae'n ymddangos bod y dasg o yrru car yn cynnwys gallu canolbwyntio'n ailadroddus ac yn ddi-baid ar yrru ac osgoi mynd i ddamweiniau car. O'r herwydd, efallai y byddwn yn breuddwydio'n obeithiol y bydd systemau gyrru AI yn arwain ceir hunan-yrru yn ailadroddus ac yn ddi-baid. Gallwch ddehongli ceir hunan-yrru fel deufer, sy'n cynnwys lleihau nifer y marwolaethau ac anafiadau mewn damweiniau ceir, ynghyd â'r posibilrwydd o sicrhau bod symudedd ar gael ar sail lawer ehangach a hygyrch.

Ond mae'r pryder yn y cyfamser yn codi ynghylch canfyddiadau cymdeithasol ynghylch a yw ceir hunan-yrru yn mynd i fod yn ddigon diogel i fod ar ein ffyrdd cyhoeddus yn gyffredinol.

Os bydd hyd yn oed un car sy'n gyrru ei hun yn mynd i ddamwain neu wrthdrawiad sy'n arwain at un farwolaeth neu anaf difrifol, mae'n debyg y gallwch chi ragweld y bydd yr ymddiriedaeth sydd wedi'i hen sefydlu heddiw tuag at y ceir di-yrrwr hynny sy'n seiliedig ar AI yn gostwng yn sydyn. Gwelsom hyn yn digwydd pan ddigwyddodd y digwyddiad sydd bellach yn enwog yn Arizona a oedd yn ymwneud â char hunan-yrru braidd (nid mewn gwirionedd) a redodd i mewn i gerddwr a'i ladd (gweler fy sylw yn y ddolen hon yma).

Mae rhai sylwebyddion yn nodi ei bod yn annheg ac yn amhriodol seilio ymddiriedaeth ceir hunan-yrru AI ar yr agwedd mai dim ond un damwain neu wrthdrawiad nesaf sy'n achosi marwolaeth a allai danseilio'r treialon ffyrdd cyhoeddus sydd eisoes yn gymharol ddi-draw. Yn ogystal, ar sail annheg bellach, yr ods yw, ni waeth pa frand car hunan-yrru neu fodel arbennig o AI sy'n cael ei frolio mewn digwyddiad trist, byddai cymdeithas yn ddiamau yn beio pob brand ceir hunan-yrru.

Gallai'r cyfan o geir hunan-yrru gael eu taenu'n ddiannod a gallai'r diwydiant cyfan ddioddef adlach enfawr gan arwain at y posibilrwydd o gau pob treial ffyrdd cyhoeddus.

Mae cyfrannwr at ergyd yn ôl o'r fath i'w weld yn y datganiadau di-synnwyr gan gynigwyr ceir hunan-yrru di-flewyn-ar-dafod y bydd pob car heb yrrwr yn anchwiliadwy. Mae'r syniad hwn o fod yn anchwiliadwy nid yn unig yn hollol anghywir (gweler y ddolen yma), mae'n llechwraidd yn sefydlu'r diwydiant ceir hunan-yrru ar gyfer set o ddisgwyliadau hollol ddi-ffael. Mae'r datganiadau hynod ac anghyraeddadwy hyn na fydd unrhyw farwolaethau o ganlyniad i geir sy'n gyrru eu hunain yn tanio'r camsyniad bod unrhyw ddamweiniau car heb yrrwr yn arwydd sicr bod y cit a'r kaboodle cyfan yn ddim byd.

Mae tristwch amlwg i sylweddoli y gallai’r cynnydd tuag at geir sy’n gyrru eu hunain a’r casgliad modfedd-ar-y-amser o ymddiriedaeth gymdeithasol gael ei chwalu mewn amrantiad. Mae hynny'n mynd i fod yn dipyn o gyfle i ddangos pa mor frau yw ymddiriedaeth.

Casgliad

Mae llawer o wneuthurwyr ceir a chwmnïau technoleg hunan-yrru yn gyffredinol yn cadw at egwyddorion AI Moeseg, gan wneud hynny i geisio adeiladu a chau maes AI dibynadwy o ran ceir hunan-yrru diogel a dibynadwy sy'n seiliedig ar AI. Sylweddolwch fod rhai o'r cwmnïau hynny'n gryfach ac yn fwy ymroddedig i'r praeseptau AI Moesegol nag eraill. Mae yna hefyd gwmnïau cychwyn ceir ymylol neu newbie sy'n gyrru eu hunain o bryd i'w gilydd sy'n ymddangos fel pe baent yn taflu llawer o gonglfeini AI Moeseg o'r neilltu (gweler fy adolygiad yn y ddolen yma).

Mewn meysydd eraill, mae cyfreithiau a rheoliadau newydd sy'n ymwneud â cheir hunan-yrru wedi cael eu gosod yn raddol ar y llyfrau cyfreithiol. Mae p'un a oes ganddynt y dannedd angenrheidiol i'w hategu yn fater gwahanol, ac yn yr un modd a yw gorfodi'r cyfreithiau hynny'n cael ei gymryd o ddifrif neu'n cael ei anwybyddu (gweler fy ngholofnau am ddadansoddiadau ar hyn).

Mae yna hefyd yr ongl uwch-dechnoleg i hyn hefyd. Rwyf wedi rhagweld y byddwn yn raddol yn gweld amrywiadau o bots angel gwarcheidiol AI a fydd yn dod i'r amlwg yn y maes cerbydau ymreolaethol a cheir hunan-yrru. Nid ydym yno eto. Bydd hyn yn dod yn fwy cyffredin unwaith y bydd poblogrwydd ceir hunan-yrru yn dod yn fwy cyffredin.

Mae'r pwynt olaf hwn yn dod â llinell enwog am ymddiriedaeth yr ydych yn ddiamau eisoes yn gwybod ar y cof.

Ymddiriedwch, ond gwiriwch.

Gallwn ganiatáu i ni ein hunain ymestyn ein hymddiriedaeth, efallai yn hael. Yn y cyfamser, dylem hefyd fod yn gwylio fel hebog i wneud yn siŵr bod yr ymddiriedaeth rydym yn ei feithrin yn cael ei wirio gan eiriau a gweithredoedd. Gadewch i ni roi rhywfaint o ymddiriedaeth i AI, ond gwirio'n ddiddiwedd ein bod yn gosod ein hymddiriedaeth yn briodol a gyda'n llygaid ar agor.

Gallwch ymddiried ynof ar hynny.