Mae Moeseg AI A Chyfraith AI Yn Symud Tuag at Safonau Sy'n Nodi Ac yn Rheoli Tueddiadau AI Yn Benodol

Ydych chi erioed wedi chwarae pum deg dau codi cardiau?

Nid yw'n gêm y byddech chi'n fodlon ymgymryd â hi fel arfer. Dyma pam. Mae rhywun yn cynnig i chi ei fod yn gamp hwyliog honedig ac os ydych chi'n cymryd yr abwyd melys maen nhw wedyn yn taflu dec cyfan o gardiau chwarae i'r awyr ac yn gryno ar y llawr. Yna mae'r person yn rhoi gwên ddigywilydd i chi ac yn dweud wrthych chi am fynd ymlaen a chodi'r cardiau. Dyna'r gêm gyfan.

Prankster!

Mae gennyf gwestiwn meddylgar braidd i'w ofyn ichi am hyn.

Tybiwch fod un o'r cardiau wedi llithro o dan soffa gyfagos. Pan fyddech chi wedi gorffen codi'r cardiau i gyd, byddech chi'n gwybod bod un ar goll oherwydd dim ond pum deg un fyddai yn eich llaw.

Y cwestiwn yw, a allech chi benderfynu pa gerdyn oedd ar goll?

Rwy'n siŵr y byddech chi'n dweud ar unwaith y gallech chi ddarganfod yn hawdd pa gerdyn nad oedd yn eich dwylo chi. Y cyfan fyddai'n rhaid i chi ei wneud yw rhoi'r dec mewn trefn. Rydych chi'n gwybod bod dec safonol yn cynnwys pedair siwt a bod y cardiau o fewn pob siwt wedi'u rhifo o un i ddeg ac yna'n Jack, Queen, a King.

Rydych chi'n gwybod hyn oherwydd bod dec safonol o gardiau chwarae yn seiliedig ar safon.

Whoa, gallai'r datganiad hwnnw ymddangos fel un o'r honiadau hollol amlwg hynny. Wel, ydy, wrth gwrs, mae dec chwarae safonol yn seiliedig ar safon. Rydym i gyd yn gwybod hynny. Fy mhwynt yw y gallwn ni, trwy gael safon, ddibynnu ar y safon pan fo angen. Yn ogystal â gallu diddwytho pa gerdyn sydd ar goll o ddec, gallwch chi hefyd chwarae miliynau o gemau cardiau adnabyddus gyda phobl eraill. Unwaith y bydd rhywun yn cael gwybod rheolau gêm, gallant chwarae'n uniongyrchol oherwydd eu bod eisoes yn gwybod yn iawn beth mae'r dec yn ei gynnwys. Nid oes angen i chi esbonio iddynt fod gan y dec bedair siwt a chardiau wedi'u rhifo'n amrywiol. Maent eisoes yn gwybod mai dyna fel y mae.

Ble ydw i'n mynd gyda hyn?

Rwy'n ceisio mynd â chi i lawr llwybr sy'n ffordd hanfodol o wneud cynnydd ym maes AI ac yn enwedig maes AI Moeseg ac AI Moesegol. Rydych chi'n gweld, mae angen i ni geisio llunio safonau eang y cytunwyd arnynt yn ymwneud â Moeseg AI. Os gallwn wneud hynny, bydd yn hwyluso'r broses o fabwysiadu AI Moesegol ac yn amlwg yn anelu at wella'r systemau AI sy'n dal i gael eu taflu i'r farchnad (fel dec di-rif a di-drefn o gardiau gwyllt). Am fy sylw parhaus a helaeth i AI Moeseg, AI Moesegol, a Chyfraith AI, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Rwy’n codi hyn i ddarparu sylfaen ar gyfer fy nhrafodaeth yma a fydd yn canolbwyntio ar segment neu ran benodol o faes ehangach Moeseg AI, sef fel y crybwyllwyd yn gynharach yr elfen benodol o dueddiadau AI. Y rheswm hefyd fy mod i'n rhannu'r pwnc hwn â chi yw bod dogfen a ryddhawyd gan y Sefydliad Cenedlaethol Safonau a Thechnoleg (NIST) yn ceisio ein cael ni i gamu ein ffordd tuag at safon sy'n nodweddu rhagfarnau AI. Mae hawl gan y ddogfen Tuag at Safon Ar Gyfer Canfod A Rheoli Tuedd Mewn Deallusrwydd Artiffisial gan yr awduron Reva Schwartz, Apostol Vassilev, Kristen Greene, Lori Perine, Andrew Burt, a Patrick Hall, ac fe’i cyhoeddwyd gan Adran Fasnach yr Unol Daleithiau, Cyhoeddiad Arbennig NIST 1270, ym mis Mawrth 2022.

Byddwn yn dadbacio'r ymdrech ddefnyddiol a chalonogol hon tuag at sefydlu'r hyn a olygwn wrth dueddiadau AI. Yr hen ddywediad yw na allwch reoli'r hyn na allwch ei fesur. Trwy gael safon sy'n nodi'r amrywiaeth o ragfarnau AI, gallwch ddechrau mesur a rheoli'r ffrewyll rhagfarnau AI.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys gyda methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefn ddylunio a dogfennaeth.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n gorfod cadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Yn sail i lawer o'r praeseptau Moeseg AI allweddol hynny mae natur llechwraidd rhagfarnau AI.

Yn union fel dec o gardiau, byddai'n braf iawn pe gallem rywsut grwpio'r rhagfarnau AI yn set o “siwtiau” neu gategorïau. Yn wir, mae dogfen NIST yn cynnig grwpio awgrymedig.

Cynigir tri phrif gategori:

1) Tueddiadau Systemig

2) Tueddiadau Ystadegol a Chyfrifiadurol

3) Tueddiadau Dynol

Mae p'un a yw pob rhagfarn AI yn ffitio'n daclus o fewn un o'r tri chategori hynny yn sicr yn rhywbeth i'w ystyried. Gallwch ddadlau'n sicr bod rhai rhagfarnau AI yn perthyn i un, dau, neu bob un o'r tri chategori ar yr un pryd. Ar ben hynny, efallai y byddwch chi'n honni bod mwy o gategorïau'n haeddu cael eu crybwyll, fel rhyw bedwaredd, pumed, chweched neu fwy o gyfresi o grwpiau.

Rwy'n gobeithio mai dyna beth rydych chi'n ei feddwl oherwydd mae angen i ni gynnwys pawb i helpu i lunio'r safonau hyn. Os ydych wedi’ch llorio â’r ffordd y mae’r safonau hyn yn cael eu llunio gyntaf, fe’ch anogaf i droi’r egni hwnnw i helpu’r gweddill ohonom i wneud y egin safonau hynny mor gadarn a chyflawn ag y gellir eu cerfio iddynt.

Am y tro, gallwn edrych yn agosach ar y tri chategori arfaethedig a gweld pa fath o law yr ydym wedi cael ei drin hyd yn hyn (ie, rydw i'n mynd i barhau i ddefnyddio cyfatebiaeth i ddec o gardiau chwarae, gan wneud hynny trwy gydol y darn ysgrifenedig hwn, gallwch fetio'ch doler waelod ar y thema nad yw mor gudd).

Beth a olygir wrth gyfeirio at ragfarn systemig?

Dyma beth mae dogfen NIST yn ei ddweud: “Mae rhagfarnau systemig yn deillio o weithdrefnau ac arferion sefydliadau penodol sy'n gweithredu mewn ffyrdd sy'n arwain at rai grwpiau cymdeithasol yn cael mantais neu'n cael eu ffafrio ac eraill yn cael eu hanfanteisio neu'n dibrisio. Nid oes angen i hyn fod o ganlyniad i unrhyw ragfarn neu wahaniaethu ymwybodol ond yn hytrach bod y mwyafrif yn dilyn rheolau neu normau presennol. Hiliaeth sefydliadol a rhywiaeth yw’r enghreifftiau mwyaf cyffredin” (sylwer mai dyfyniad byr yn unig yw hwn ac anogir darllenwyr i weld yr esboniad llawnach).

Daw AI i mewn i'r cymysgedd o ragfarnau systemig trwy ddarparu modd o gyfleu a chymhwyso'r rhagfarnau hynny mewn apiau sy'n seiliedig ar AI. Pryd bynnag y byddwch chi'n defnyddio darn o feddalwedd wedi'i drwytho gan AI, hyd y gwyddoch, gallai gynnwys cyfres o ragfarnau sydd eisoes wedi'u pobi i'r system trwy'r cwmnïau a'r arferion diwydiant a arweiniodd at wneud yr AI. Yn unol ag astudiaeth NIST: “Mae’r rhagfarnau hyn yn bresennol yn y setiau data a ddefnyddir mewn AI, a’r normau, arferion a phrosesau sefydliadol ar draws cylch bywyd AI ac mewn diwylliant a chymdeithas ehangach.”

Nesaf, ystyriwch y set o ragfarnau sydd wedi'u labelu fel rhagfarnau ystadegol a chyfrifiannol.

Mae dogfen NIST yn nodi hyn: “Mae tueddiadau ystadegol a chyfrifiannol yn deillio o gamgymeriadau sy'n digwydd pan nad yw'r sampl yn gynrychioliadol o'r boblogaeth. Mae'r rhagfarnau hyn yn deillio o gamgymeriad systematig yn hytrach nag ar hap a gallant ddigwydd yn absenoldeb rhagfarn, rhagfarn, neu fwriad gwahaniaethol. Mewn systemau AI, mae’r rhagfarnau hyn yn bresennol yn y setiau data a’r prosesau algorithmig a ddefnyddir wrth ddatblygu cymwysiadau AI, ac yn aml yn codi pan fydd algorithmau wedi’u hyfforddi ar un math o ddata ac na allant allosod y tu hwnt i’r data hynny.”

Mae'r math hwn o ragfarn ystadegol a chyfrifiannol yn aml yn cael ei goginio mewn system AI sy'n defnyddio Dysgu Peiriant (ML) a Dysgu Dwfn (DL). Er mwyn codi mater mawr ML/DL cyfoes, mae angen tangiad ochr perthynol ynghylch beth yw AI a beth yw ML/DL.

Gadewch i ni sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gallai'r galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae'r oes ddiweddaraf o AI wedi gwneud defnydd helaeth o Machine Learning a Deep Learning, sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Mae hyn yn dod â ni'n sgwâr at drydydd categori set NIST o dri grŵp, yn benodol rôl rhagfarnau dynol yn ymddangosiad rhagfarnau AI. Dyma'r hyn a nododd dogfen NIST: “Mae rhagfarnau dynol yn adlewyrchu gwallau systematig mewn meddwl dynol yn seiliedig ar nifer gyfyngedig o egwyddorion hewristig a rhagfynegi gwerthoedd i weithrediadau beirniadol symlach. Mae'r rhagfarnau hyn yn aml yn ymhlyg ac yn tueddu i ymwneud â sut mae unigolyn neu grŵp yn canfod gwybodaeth (fel allbwn AI awtomataidd) i wneud penderfyniad neu lenwi gwybodaeth goll neu anhysbys. Mae’r rhagfarnau hyn yn hollbresennol yn y prosesau gwneud penderfyniadau sefydliadol, grŵp ac unigol ar draws y cylch bywyd AI, ac yn y defnydd o gymwysiadau AI ar ôl eu defnyddio.”

Rydych chi bellach wedi cael cyflwyniad cyflym i'r tri chategori.

Hoffwn rannu rhywfaint o fwyd ychwanegol i chi i feddwl fel y mynegir yn y ddogfen NIST. Mae siart yn eu naratif yn rhoi crynodeb defnyddiol o'r cwestiynau a'r ystyriaethau allweddol sy'n sail i bob un o'r tair set o dueddiadau AI. Rwy'n eu rhestru yma er hwylustod i chi o ran cyfeirio ac adeiladu.

#1: Tueddiadau Systemig

• Pwy sy'n cael ei gyfrif a phwy sydd ddim yn cael ei gyfrif?

— Problemau gyda newidynnau cudd

— Tan-gynrychiolaeth o grwpiau ymylol

— Awtomeiddio anghydraddoldebau

— Tan-gynrychiolaeth wrth bennu swyddogaeth cyfleustodau

— Prosesau sy'n ffafrio'r mwyafrif/lleiafrif

— Tuedd ddiwylliannol yn y swyddogaeth wrthrychol (gorau ar gyfer unigolion yn erbyn y gorau ar gyfer y grŵp)

• Sut ydyn ni'n gwybod beth sy'n iawn?

— Atgyfnerthu anghydraddoldebau (mae mwy o effaith ar grwpiau gyda defnydd uwch o AI)

— Effeithiau mwy negyddol ar blismona rhagfynegol

— Mabwysiadu ceir rhannu reidiau/hunan-yrru/ac ati yn eang. newid polisïau sy'n effeithio ar boblogaeth yn seiliedig ar ddefnydd

#2: Tueddiadau Ystadegol a Chyfrifiadurol

• Pwy sy'n cael ei gyfrif a phwy sydd ddim yn cael ei gyfrif?

— Tuedd samplu a dethol

— Defnyddio newidynnau dirprwy oherwydd eu bod yn haws eu mesur

- Tuedd awtomeiddio

— Graddfa Likert (categoricol i drefnol i gardinal)

— Aflinol vs llinol

— Camsyniad ecolegol

— Lleihau'r norm L1 vs L2

— Anhawster cyffredinol wrth feintioli ffenomenau cyd-destunol

• Sut ydyn ni'n gwybod beth sy'n iawn?

— Diffyg croes-ddilysu digonol

— Tuedd ar oroesiad

— Anhawster gyda thegwch

#3: Tueddiadau Dynol

• Pwy sy'n cael ei gyfrif a phwy sydd ddim yn cael ei gyfrif?

— Tuedd arsylwadol (effaith golau stryd)

- Tuedd argaeledd (angori)

- Camsyniad McNamara

— Mae Groupthink yn arwain at ddewisiadau cul

— Mae effaith Rashomon yn arwain at eiriolaeth oddrychol

— Gall anhawster meintioli amcanion arwain at gamsyniad McNamara

• Sut ydyn ni'n gwybod beth sy'n iawn?

— Tuedd cadarnhad

- Tuedd awtomeiddio

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau darluniadol a allai ddangos y tri chategori o dueddiadau AI. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n arddangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn amlygu unrhyw beth am y tri chategori arfaethedig o dueddiadau AI, ac os felly, beth mae hyn yn ei ddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru A Tueddiadau AI

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Hyderaf fod hynny'n darparu litani digonol o gafeatau i danategu'r hyn rydw i ar fin ei gysylltu.

Rydyn ni'n barod nawr i blymio'n ddwfn i geir hunan-yrru a'r posibiliadau AI Moesegol sy'n cynnwys y tri chategori o dueddiadau AI.

Rhagweld bod car hunan-yrru wedi'i seilio ar AI ar y gweill ar strydoedd eich cymdogaeth ac mae'n ymddangos ei fod yn gyrru'n ddiogel. Ar y dechrau, roeddech chi wedi rhoi sylw arbennig i bob tro y gwnaethoch chi lwyddo i gael cipolwg ar y car hunan-yrru. Roedd y cerbyd ymreolaethol yn sefyll allan gyda'i rac o synwyryddion electronig a oedd yn cynnwys camerâu fideo, unedau radar, dyfeisiau LIDAR, ac ati. Ar ôl wythnosau lawer o'r car hunan-yrru yn mordeithio o amgylch eich cymuned, prin eich bod chi'n sylwi arno nawr. Cyn belled ag yr ydych yn y cwestiwn, dim ond car arall ydyw ar y ffyrdd cyhoeddus sydd eisoes yn brysur.

Rhag eich bod yn meddwl ei bod yn amhosibl neu'n annhebygol i ddod yn gyfarwydd â gweld ceir hunan-yrru, rwyf wedi ysgrifennu'n aml am sut mae'r lleoliadau sydd o fewn cwmpas treialon ceir hunan-yrru wedi dod i arfer yn raddol â gweld y cerbydau wedi'u hysgaru, gweld fy nadansoddiad yn y ddolen hon yma. Yn y pen draw, symudodd llawer o'r bobl leol o ganu'r wyllt i fympwyo yn awr gan allyrru dyrnaid eang o ddiflastod i weld ceir hunan-yrru troellog.

Mae'n debyg mai'r prif reswm ar hyn o bryd y gallent sylwi ar y cerbydau ymreolaethol yw oherwydd y ffactor llid a chythruddo. Mae systemau gyrru AI wrth y llyfr yn sicrhau bod ceir yn ufuddhau i holl gyfyngiadau cyflymder a rheolau'r ffordd. Ar gyfer gyrwyr dynol prysur yn eu ceir traddodiadol sy'n cael eu gyrru gan bobl, rydych chi'n cael eich cythruddo ar adegau pan fyddwch chi'n sownd y tu ôl i'r ceir hunan-yrru sy'n cydymffurfio â'r gyfraith yn seiliedig ar AI.

Mae hynny'n rhywbeth y gallai fod angen i ni i gyd ddod i arfer ag ef, yn gywir neu'n anghywir.

Yn ôl at ein chwedl.

Byddwn yn ystyried nesaf sut y gallai rhagfarnau systemig ddod i'r amlwg yn y cyd-destun hwn o geir sy'n gyrru eu hunain.

Mae rhai pynditiaid yn poeni'n arw y bydd ceir sy'n gyrru eu hunain yn dalaith i'r cyfoethog a'r elitaidd yn unig. Mae'n bosibl y bydd y gost o ddefnyddio ceir hunan-yrru yn afresymol o ddrud. Oni bai bod gennych arian mawr, efallai na fyddwch byth yn gweld y tu mewn i gar sy'n gyrru ei hun. Bydd yn rhaid i'r rhai a fydd yn defnyddio ceir sy'n gyrru eu hunain fod yn gyfoethog, yn ôl pob sôn.

O’r herwydd, mae rhai’n annog yn annifyr y bydd rhyw fath o ogwydd systemig yn treiddio trwy ddyfodiad ceir hunan-yrru seiliedig ar AI. Bydd y system ddiwydiannol cerbydau ymreolaethol yn ei chyfanrwydd yn cadw ceir hunan-yrru allan o ddwylo'r rhai sy'n dlawd neu'n llai cefnog. Efallai nad yw hyn o reidrwydd trwy fwriad amlwg ac mae'n troi allan mai'r unig ffordd a gredir i adennill costau beichus dyfeisio ceir hunan-yrru fydd codi prisiau gwarthus o uchel.

Os ydych chi'n gwrthdroi bod yna'r treialon car hunan-yrru hyn heddiw sy'n caniatáu i'r person bob dydd eu defnyddio, felly mae'n ymddangos yn amlwg nad oes angen i chi fod yn gyfoethog fel y cyfryw, y gwrthddadl yw bod hwn yn fath o gêm cragen fel yr oedd. Mae'n debyg bod y gwneuthurwyr ceir a'r cwmnïau technoleg hunan-yrru yn barod i wneud iddo ymddangos fel na fydd y gost yn rhwystr sylweddol. Maen nhw'n gwneud hyn at ddibenion cysylltiadau cyhoeddus ar hyn o bryd a byddan nhw'n codi'r prisiau unwaith iddyn nhw gael y crychau allan. Gallai cynllwynwr hyd yn oed honni bod y “moch cwta” fel pobl bob dydd yn cael eu defnyddio'n niweidiol i alluogi'r cyfoethog i ddod yn gyfoethocach yn y pen draw.

Felly, o ystyried y mater eithaf cynhennus hwnnw, a rhoi fy nwy sent fy hun ar y pwnc diflas hwn, nid wyf yn credu y bydd ceir sy'n gyrru eu hunain yn fwy costus i'w defnyddio bob dydd. Nid af i mewn i'r manylion yn y fan hon ynghylch fy sail dros wneud hawliad o'r fath a'ch gwahodd i weld fy nhrafodaethau ystyriol yn y ddolen yma a hefyd yn y ddolen yma.

Gan symud ymlaen, gallwn ystyried nesaf y mater o ragfarnau ystadegol a chyfrifiadurol sy'n gysylltiedig ag AI.

Ystyriwch y cwestiwn sy'n ymddangos yn ddibwys o ble y bydd ceir sy'n gyrru eu hunain yn crwydro i godi teithwyr. Mae hwn yn ymddangos yn bwnc digon diniwed. Byddwn yn defnyddio hanes y dref neu’r ddinas sydd â cheir sy’n gyrru eu hunain i dynnu sylw at y rhyfeddod posibl o ragfarnau ystadegol a chyfrifiannol sy’n gysylltiedig â deallusrwydd artiffisial.

Ar y dechrau, cymerwch fod yr AI yn crwydro'r ceir hunan-yrru ledled y dref gyfan. Roedd gan unrhyw un a oedd am wneud cais am reid yn y car hunan-yrru yn ei hanfod gyfle cyfartal o alw am un. Yn raddol, dechreuodd yr AI yn bennaf gadw'r ceir hunan-yrru i grwydro mewn un rhan o'r dref yn unig. Roedd yr adran hon yn gwneud mwy o arian ac roedd y system AI wedi'i rhaglennu i geisio sicrhau'r refeniw mwyaf posibl fel rhan o'r defnydd yn y gymuned.

Roedd aelodau'r gymuned yn y rhannau tlawd o'r dref yn llai tebygol o allu cael reid o gar oedd yn gyrru ei hun. Roedd hyn oherwydd bod y ceir hunan-yrru ymhellach i ffwrdd ac yn crwydro yn rhan refeniw uwch y locale. Pan fyddai cais yn dod i mewn o ran bell o'r dref, byddai unrhyw gais o leoliad agosach a oedd yn debygol o fod yn rhan “uchel ei barch” o'r dref yn cael blaenoriaeth uwch. Yn y pen draw, roedd argaeledd car hunan-yrru mewn unrhyw le heblaw'r rhan gyfoethocach o'r dref bron yn amhosibl, ac yn gythryblus felly i'r rhai a oedd yn byw yn yr ardaloedd hynny sydd bellach yn brin o adnoddau.

Gallech haeru bod y Mynegai Gwerthfawrogiad wedi glanio fwy neu lai ar ffurf o dueddiadau ystadegol a chyfrifiannol, yn debyg i fath o wahaniaethu drwy ddirprwy (cyfeirir ato’n aml hefyd fel gwahaniaethu anuniongyrchol). Nid oedd yr AI wedi'i raglennu i osgoi'r cymdogaethau tlotach hynny. Yn lle hynny, fe “ddysgodd” wneud hynny trwy ddefnyddio'r ML/DL.

Tybiwyd na fyddai'r AI byth yn disgyn i'r math hwnnw o draethell gywilyddus. Ni sefydlwyd unrhyw fonitro arbenigol i gadw golwg ar ble roedd ceir hunan-yrru seiliedig ar AI yn mynd. Dim ond ar ôl i aelodau'r gymuned ddechrau cwyno y sylweddolodd arweinwyr y ddinas beth oedd yn digwydd. I gael rhagor o wybodaeth am y mathau hyn o faterion ledled y ddinas y mae cerbydau ymreolaethol a cheir hunan-yrru yn mynd i'w cyflwyno, gweler fy sylw yn y ddolen hon yma ac sy'n disgrifio astudiaeth dan arweiniad Harvard y bûm yn gyd-awdur arni ar y pwnc.

Ar gyfer y trydydd categori o ragfarnau dynol sy'n ymwneud â thueddiadau AI, trown at enghraifft sy'n cynnwys yr AI yn penderfynu a ddylid stopio i aros am gerddwyr nad oes ganddynt yr hawl tramwy i groesi stryd.

Yn ddiamau, rydych wedi bod yn gyrru ac wedi dod ar draws cerddwyr a oedd yn aros i groesi’r stryd ac eto nid oedd ganddynt yr hawl tramwy i wneud hynny. Roedd hyn yn golygu bod gennych ddisgresiwn i stopio a gadael iddynt groesi. Gallech fwrw ymlaen heb adael iddynt groesi a dal i fod yn gwbl o fewn y rheolau gyrru cyfreithiol o wneud hynny.

Mae astudiaethau o sut mae gyrwyr dynol yn penderfynu stopio neu beidio ar gyfer cerddwyr o'r fath wedi awgrymu bod y gyrwyr dynol weithiau'n gwneud y dewis ar sail rhagfarnau anffafriol. Efallai y bydd gyrrwr dynol yn llygadu'r cerddwr ac yn dewis peidio â stopio, er y byddent wedi stopio pe bai gan y cerddwr ymddangosiad gwahanol, megis ar sail hil neu ryw. Rwyf wedi archwilio hyn yn y ddolen yma.

Dychmygwch fod y ceir hunan-yrru seiliedig ar AI wedi'u rhaglennu i ddelio â'r cwestiwn a ddylid stopio ai peidio ar gyfer cerddwyr nad oes ganddynt yr hawl tramwy. Dyma sut y penderfynodd datblygwyr AI raglennu'r dasg hon. Buont yn casglu data o gamerâu fideo y dref sy'n cael eu gosod o amgylch y ddinas. Mae'r data'n dangos gyrwyr dynol sy'n stopio i gerddwyr nad oes ganddyn nhw'r hawl tramwy a gyrwyr dynol nad ydyn nhw'n stopio. Mae'r cyfan yn cael ei gasglu mewn set ddata fawr.

Trwy ddefnyddio Machine Learning a Deep Learning, mae'r data'n cael ei fodelu'n gyfrifiadol. Yna mae'r system yrru AI yn defnyddio'r model hwn i benderfynu pryd i stopio neu beidio. Yn gyffredinol, y syniad yw, beth bynnag mae'r arferiad lleol yn ei gynnwys, dyma sut mae'r AI yn mynd yn uniongyrchol i'r car hunan-yrru.

Er mawr syndod i arweinwyr y ddinas a'r trigolion, roedd yr AI yn amlwg yn dewis stopio neu beidio yn seiliedig ar oedran y cerddwr. Sut gallai hynny ddigwydd?

Ar ôl adolygiad agosach o'r fideo o ddisgresiwn gyrrwr dynol, mae'n ymddangos bod llawer o'r achosion o beidio â stopio yn ymwneud â cherddwyr a oedd â chansen gerdded dinesydd hŷn. Roedd gyrwyr dynol i bob golwg yn anfodlon stopio a gadael i berson oedrannus groesi'r stryd, yn ôl pob tebyg oherwydd yr amser tybiedig y gallai ei gymryd i rywun wneud y daith. Pe bai'r cerddwr yn edrych fel y gallai wibio'n gyflym ar draws y stryd a lleihau amser aros y gyrrwr, roedd y gyrwyr yn fwy parod i adael i'r person groesi.

Claddwyd hyn yn ddwfn yn y system yrru AI. Byddai synwyryddion y car hunan-yrru yn sganio'r cerddwr oedd yn aros, yn bwydo'r data hwn i'r model ML/DL, a byddai'r model yn allyrru i'r AI p'un ai i stopio neu barhau. Roedd unrhyw arwydd gweledol y gallai'r cerddwr fod yn araf i groesi, megis defnyddio ffon gerdded, yn fathemategol yn cael ei ddefnyddio i benderfynu a ddylai'r system yrru AI adael i'r cerddwr oedd yn disgwyl groesi ai peidio.

Gallech ddadlau bod hyn yn dibynnu ar ragfarn ddynol a oedd yn bodoli eisoes.

Casgliad

Rhai meddyliau terfynol am y tro.

Mae yna ddywediad poblogaidd na allwch chi newid y cardiau rydych chi'n eu trin ac mae'n rhaid i chi yn lle hynny ddysgu sut i chwarae'n ddigonol gyda pha bynnag law a roddwyd i chi.

Yn achos rhagfarnau AI, os na fyddwn yn mynd ati’n frwd i sefydlu Moeseg AI yn gyffredinol ac yn enwedig yn cadarnhau nodweddu rhagfarnau AI, bydd y mathau o ddwylo y byddwn yn delio â nhw yn gorlifo ag anfoesegol hadol, ac o bosibl haen anghyfreithlon. Mae'n rhaid i ni atal y cardiau hynny rhag cael eu trin, i ddechrau. Mae'r nod dewr i greu a lledaenu safonau AI Moesegol yn arf hanfodol i frwydro yn erbyn tswnami cynyddol y dyfodol. AI Er Drwg.

Gallwch chi gymryd yn bendant i'r banc y bydd tueddiad AI rhemp ac AI anfoesegol fel cwt o gardiau simsan, yn impio arno'i hun ac yn debygol o fod yn drychinebus i bob un ohonom.

Gadewch i ni chwarae i ennill, gan wneud hynny gyda AI moesegol addas.