AI Moeseg Datguddiad Syfrdanol Y Gallai Hyfforddi AI I Fod yn Wenwynig Neu Ddiduedd Fod Yn Fudd, Gan Gynnwys Ar Gyfer y Ceir Hunan-yrru Ymreolaethol hynny

Dyma hen linell dwi'n siwr dy fod wedi clywed o'r blaen.

Mae'n cymryd un i adnabod un.

Efallai na fyddwch yn sylweddoli bod hwn yn fynegiant y gellir ei olrhain i'r 1900au cynnar ac a ddefnyddiwyd fel arfer wrth gyfeirio at ddrwgweithredwyr (mae amrywiadau eraill o'r ymadrodd yn mynd yn ôl ymhellach megis y 1600au). Mae enghraifft o sut y gellir defnyddio'r ymadrodd hwn yn cynnwys y syniad, os ydych am ddal lleidr, yna mae angen i chi ddefnyddio lleidr i wneud hynny. Mae hyn yn dangos yr honiad sydd ei angen i rywun wybod un. Mae llawer o ffilmiau a sioeau teledu wedi manteisio ar y darn defnyddiol hwn o ddoethineb doeth, gan bortreadu'n aml mai'r unig ffordd ymarferol o dorri ffon oedd llogi ffon sydd yr un mor llwgr i erlid y drwgweithredwr.

Wrth symud gêr, efallai y bydd rhai yn trosoledd yr un rhesymeg i ddadlau mai ffordd addas o ganfod a yw rhywun yn ymgorffori rhagfarnau gormodol a chredoau gwahaniaethol fyddai dod o hyd i rywun sydd eisoes â thueddiadau o'r fath. Yn ôl pob tebyg, mae person sydd eisoes wedi'i lenwi â rhagfarnau yn mynd i allu synhwyro'n haws bod y bod dynol arall hwn yn yr un modd wedi'i lenwi i'r ymylon â gwenwyndra. Unwaith eto, mae'n cymryd i rywun wybod mai un yw'r mantra addunedol.

Efallai y bydd eich ymateb cychwynnol i'r posibilrwydd o ddefnyddio person rhagfarnllyd i atal rhywun arall â thuedd yn un o amheuaeth ac anghrediniaeth. Oni allwn ddarganfod a oes gan rywun dueddiadau anffafriol trwy eu harchwilio yn unig a pheidio â gorfod troi at ddod o hyd i rywun arall o'r un natur? Byddai’n ymddangos yn rhyfedd ceisio’n bwrpasol i ddarganfod rhywun sy’n rhagfarnllyd er mwyn datgelu eraill sydd hefyd â thuedd wenwynig.

Mae'n debyg ei fod yn dibynnu'n rhannol a ydych chi'n fodlon derbyn yr ymatal tybiedig y mae'n ei gymryd i rywun wybod un. Sylwch nad yw hyn yn awgrymu mai'r unig ffordd i ddal lleidr yw eich bod chi'n defnyddio lleidr yn unig a bob amser. Fe allech ymddangos yn rhesymol fel pe baech yn dadlau mai llwybr ychwanegol yn unig yw hwn y gellir rhoi ystyriaeth ddyledus iddo. Efallai weithiau eich bod yn barod i ddiddanu'r posibilrwydd o ddefnyddio lleidr i ddal lleidr, tra gallai amgylchiadau eraill wneud hyn yn dacteg anniddig.

Defnyddiwch yr offeryn cywir ar gyfer y gosodiad cywir, fel y dywedant.

Nawr fy mod wedi gosod yr hanfodion hynny, gallwn symud ymlaen i'r rhan o'r stori hon, sydd efallai'n anesmwyth ac yn ysgytwol i bob golwg.

Ydych chi'n barod?

Mae maes AI yn mynd ar drywydd yr un praesept y mae'n ei gymryd weithiau i wybod un, yn enwedig yn achos ceisio ffuredu AI sy'n rhagfarnllyd neu'n ymddwyn mewn modd gwahaniaethol. Ie, y syniad sy’n plygu’r meddwl yw y gallem fod eisiau dyfeisio AI sy’n gwbl ragfarnllyd ac yn wahaniaethol yn fwriadol, gan wneud hynny er mwyn defnyddio hyn fel modd o ddarganfod a datgelu AI arall sydd â’r un tebygrwydd o wenwyndra. Fel y gwelwch mewn eiliad, mae yna amrywiaeth o faterion Moeseg AI pryderus wrth wraidd y mater. Am fy ymdriniaeth barhaus ac eang gyffredinol o AI Moeseg ac AI Moesegol, gweler y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae'n debyg y gallech chi fynegi'r defnydd hwn o AI gwenwynig i fynd ar ôl AI gwenwynig arall fel y cenhedlu ymladd tân â thân diarhebol (gallwn ddefnyddio digon o ganmoliaethau a throsiadau enghreifftiol i ddarlunio'r sefyllfa hon). Neu, fel y pwysleisiwyd eisoes, efallai y byddwn yn cyfeirio'n bersimonaidd at yr honiad ei bod yn cymryd un i wybod un.

Y cysyniad cyffredinol yw, yn hytrach na cheisio darganfod a yw system AI benodol yn cynnwys rhagfarnau gormodol trwy ddefnyddio dulliau confensiynol, efallai y dylem geisio defnyddio dulliau llai confensiynol hefyd. Un dull anghonfensiynol o'r fath fyddai dyfeisio AI sy'n cynnwys y gwaethaf o ragfarnau a gwenwyndra sy'n annerbyniol yn gymdeithasol ac yna defnyddio'r AI hwn i helpu i lwybro allan AI arall sydd â'r un tueddiadau o ddrwgineb.

Pan fyddwch chi'n meddwl yn gyflym am hyn, mae'n sicr yn ymddangos yn berffaith synhwyrol. Gallem anelu at adeiladu AI sy'n wenwynig i'r eithaf. Yna mae'r AI gwenwynig hwn yn cael ei ddefnyddio i ffuredu AI arall sydd hefyd â gwenwyndra. Ar gyfer yr AI “drwg” a ddatgelwyd bryd hynny, gallwn ddelio ag ef naill ai trwy ddadwneud y gwenwyndra, gan ddileu'r AI yn gyfan gwbl (gweler fy sylw i warth neu ddinistrio AI yn y ddolen hon yma), neu garcharu'r AI (gweler fy sylw i gyfyngiad AI yn y ddolen hon yma), neu wneud beth bynnag arall sy'n ymddangos yn berthnasol i'w wneud.

Gwrthddadl yw y dylem gael ein pennau i archwilio ein bod yn dyfeisio AI sy'n wenwynig ac yn llawn rhagfarnau yn fwriadol ac yn fodlon. Dyma'r peth olaf y dylem byth ei ystyried, byddai rhai yn annog. Canolbwyntiwch ar wneud AI sy'n cynnwys daioni yn gyfan gwbl. Peidiwch â chanolbwyntio ar ddyfeisio AI sydd â'r drygioni a'r llurguniau o ragfarnau gormodol. Mae'r syniad o ymlid o'r fath yn ymddangos yn atgas i rai.

Mae mwy o amheuon am yr ymchwil ddadleuol hon.

Efallai na fydd cenhadaeth o ddyfeisio AI gwenwynig ond yn ymgorffori'r rhai sy'n dymuno crefft AI sy'n gallu tanseilio cymdeithas. Mae fel petaem yn dweud bod crefftio AI sydd â thueddiadau amhriodol ac annymunol yn berffaith iawn. Dim pryderon, dim petruso. Ceisiwch ddyfeisio AI gwenwynig i gynnwys eich calon, rydym yn ei gyfleu'n uchel i adeiladwyr AI ledled y byd. Mae (wink-wink) i gyd yn enw daioni.

Ar ben hynny, mae'n debyg bod y math AI gwenwynig hwn o ddal ymlaen. Mae'n bosibl bod yr AI yn cael ei ddefnyddio a'i ailddefnyddio gan lawer o adeiladwyr AI eraill. Yn y pen draw, mae'r AI gwenwynig yn cael ei guddio ym mhob math o systemau AI. Gellir gwneud cyfatebiaeth i ddyfeisio firws sy'n tanseilio dynol ac sy'n dianc o labordy sydd wedi'i selio yn ôl pob tebyg. Y peth nesaf rydych chi'n ei wybod, mae'r peth crand ym mhobman ac rydyn ni wedi dileu ein hunain.

Arhoswch am eiliad, mae'r ateb i'r gwrthddadleuon hynny'n mynd, rydych chi'n rhedeg yn wallgof gyda phob math o ragdybiaethau gwallgof a heb eu cefnogi. Cymerwch anadl ddwfn. Tawelwch eich hun.

Gallwn wneud AI sy'n wenwynig yn ddiogel a'i gadw'n gyfyngedig. Gallwn ddefnyddio'r AI gwenwynig i ganfod a helpu i leihau mynychder cynyddol AI sydd, yn anffodus, â thueddiadau diangen. Mae unrhyw un arall o'r ebychiadau pelen eira hynod wyllt a di-sail hyn yn ymatebion cwbl ddi-ben-draw ac yn anffodus yn ffôl ac yn hollol ffôl. Peidiwch â cheisio taflu'r babi allan gyda'r dŵr bath, fe'ch rhybuddir ymlaen llaw.

Meddyliwch amdano fel hyn, mae'r cynigwyr yn dadlau. Mae adeiladu a defnyddio AI gwenwynig yn briodol at ddibenion ymchwil, asesu, a gweithredu fel ditectif i ddatgelu AI arall sy'n sarhaus yn gymdeithasol yn ddull teilwng a dylai gael ei ysgwyd yn deg wrth fynd ar ei drywydd. Rhowch eich adweithiau brech o'r neilltu. Dewch i lawr i'r ddaear ac edrych ar hyn yn sobr. Mae ein llygad ar y wobr, sef datgelu a dadwneud y glut o systemau AI seiliedig ar ragfarn a gwneud yn siŵr nad ydym fel cymdeithas yn dod yn orlawn ag AI gwenwynig.

Cyfnod. Atalnod llawn.

Mae yna nifer o ffyrdd allweddol o ymchwilio i'r syniad hwn o ddefnyddio AI gwenwynig neu ragfarnllyd at ddibenion buddiol, gan gynnwys:

• Gosod setiau data sy'n cynnwys yn fwriadol ddata rhagfarnllyd a hollol wenwynig y gellir ei ddefnyddio ar gyfer hyfforddi AI ynghylch beth i beidio â'i wneud a/neu beth i wylio amdano
• Defnyddio setiau data o’r fath i hyfforddi modelau Dysgu Peiriannol (ML) a Dysgu Dwfn (DL) ynghylch canfod tueddiadau a darganfod patrymau cyfrifiannol sy’n ymwneud â gwenwyndra cymdeithasol
• Cymhwyso'r ML/DL sydd wedi'i hyfforddi ar wenwyndra tuag at AI arall i ganfod a yw'r AI wedi'i dargedu o bosibl yn dueddol ac yn wenwynig.
• Sicrhau bod ML/DL sydd wedi’i hyfforddi mewn gwenwyndra ar gael i ddangos i adeiladwyr AI beth i wylio amdano fel y gallant archwilio modelau yn hawdd i weld sut mae rhagfarnau wedi’u trwytho yn algorithmig yn codi
• Enghreifftiau o beryglon AI gwenwynig fel rhan o ymwybyddiaeth AI Moeseg ac AI Moesegol i gyd yn cael eu hadrodd trwy'r gyfres enghreifftiau o AI drwg-i-yr-asgwrn AI problem-plentyn
• Arall

Cyn mynd i mewn i gig y sawl llwybr hynny, gadewch i ni sefydlu rhai manylion sylfaenol ychwanegol.

Efallai eich bod yn amwys yn ymwybodol bod un o'r lleisiau cryfaf y dyddiau hyn yn y maes AI a hyd yn oed y tu allan i faes AI yn cynnwys crochlefain am fwy o ymddangosiad o AI Moesegol. Gadewch i ni edrych ar yr hyn y mae'n ei olygu i gyfeirio at AI Moeseg ac AI Moesegol. Ar ben hynny, gallwn osod y llwyfan trwy archwilio'r hyn yr wyf yn ei olygu pan fyddaf yn siarad am Machine Learning a Deep Learning.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefnau a dogfennaeth ddylunio.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n ddarostyngedig i gadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Gadewch i ni hefyd sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Beth arall y gellir ei wneud am hyn oll?

Gadewch i ni ddychwelyd at y rhestr a osodwyd yn gynharach o sut i geisio ymdopi â thueddiadau AI neu AI gwenwynig trwy ddefnyddio dull braidd yn anghonfensiynol “mae'n cymryd un i wybod un”. Dwyn i gof bod y rhestr yn cynnwys y pwyntiau hanfodol hyn:

• Gosod setiau data sy'n cynnwys yn fwriadol ddata rhagfarnllyd a hollol wenwynig y gellir ei ddefnyddio ar gyfer hyfforddi AI ynghylch beth i beidio â'i wneud a/neu beth i wylio amdano
• Defnyddio setiau data o’r fath i hyfforddi modelau Dysgu Peiriannol (ML) a Dysgu Dwfn (DL) ynghylch canfod tueddiadau a darganfod patrymau cyfrifiannol sy’n ymwneud â gwenwyndra cymdeithasol
• Cymhwyso'r ML/DL sydd wedi'i hyfforddi ar wenwyndra tuag at AI arall i ganfod a yw'r AI wedi'i dargedu o bosibl yn dueddol ac yn wenwynig.
• Sicrhau bod ML/DL sydd wedi’i hyfforddi mewn gwenwyndra ar gael i ddangos i adeiladwyr AI beth i wylio amdano fel y gallant archwilio modelau yn hawdd i weld sut mae rhagfarnau wedi’u trwytho yn algorithmig yn codi
• Enghreifftiau o beryglon AI gwenwynig fel rhan o ymwybyddiaeth AI Moeseg ac AI Moesegol i gyd yn cael eu hadrodd trwy'r gyfres hon o enghreifftiau AI problem-plentyn drwg-i-yr-asgwrn
• Arall

Byddwn yn edrych yn fanwl ar y cyntaf o'r pwyntiau amlwg hynny.

Sefydlu Setiau Data o Ddata Gwenwynig

Enghraifft dreiddgar o geisio sefydlu setiau data sy’n cynnwys rhagfarnau cymdeithasol annifyr yw set ddata CivilComments o’r casgliad wedi’i guradu gan WILDS.

Yn gyntaf, rhywfaint o gefndir cyflym.

Mae WILDS yn gasgliad ffynhonnell agored o setiau data y gellir eu defnyddio ar gyfer hyfforddi ML/DL. Y prif ddiben a nodir ar gyfer WILDS yw ei fod yn galluogi datblygwyr AI i gael mynediad parod at ddata sy'n cynrychioli sifftiau dosbarthu mewn gwahanol barthau penodol. Mae rhai o'r meysydd sydd ar gael ar hyn o bryd yn cwmpasu meysydd fel rhywogaethau anifeiliaid, tiwmorau mewn meinweoedd byw, dwysedd pen gwenith, a pharthau eraill fel y CivilComments y byddaf yn eu disgrifio'n fuan.

Mae delio â sifftiau dosbarthu yn rhan hanfodol o grefftio systemau AI ML/DL yn gywir. Dyma'r fargen. Weithiau bydd y data rydych chi'n ei ddefnyddio ar gyfer hyfforddiant yn dra gwahanol i'r data profi neu “yn y gwyllt” ac felly mae eich ML/DL sydd wedi'i hyfforddi yn ôl pob tebyg yn wahanol iawn i'r byd go iawn. Dylai adeiladwyr AI craff fod yn hyfforddi eu ML/DL i ymdopi â sifftiau dosbarthu o'r fath. Dylid gwneud hyn ymlaen llaw ac nid rhywsut fod yn syndod bod angen ailwampio'r ML/DL per se yn nes ymlaen.

Fel yr eglurwyd yn y papur a gyflwynodd WILDS: “Gall sifftiau dosbarthu - lle mae dosbarthiad yr hyfforddiant yn wahanol i ddosbarthiad y prawf - ddiraddio cywirdeb systemau dysgu peiriant (ML) a ddefnyddir yn y gwyllt yn sylweddol. Er gwaethaf eu hollbresenoldeb yn y byd go iawn, mae'r sifftiau dosbarthu hyn wedi'u tangynrychioli yn y setiau data a ddefnyddir yn eang yn y gymuned ML heddiw. I fynd i'r afael â'r bwlch hwn, rydym yn cyflwyno WILDS, meincnod wedi'i guradu o 10 set ddata sy'n adlewyrchu ystod amrywiol o sifftiau dosbarthu sy'n codi'n naturiol mewn cymwysiadau byd go iawn, megis sifftiau ar draws ysbytai ar gyfer adnabod tiwmorau; ar draws trapiau camera ar gyfer monitro bywyd gwyllt; ac ar draws amser a lleoliad mewn delweddu lloeren a mapio tlodi” (yn y papur o'r enw “WILDS: A Meincnod o Sifftiau Dosbarthu yn y Gwyllt” gan Pang Wei Koh, Shiori Sagawa, Henrik Marklund, Sang Xie, Marvin Zhang, Ashay Balsubramani , Weihua Hu, ac eraill).

Mae nifer y setiau data WILDS o'r fath yn parhau i gynyddu ac mae natur y setiau data yn cael eu gwella'n gyffredinol i hybu gwerth defnyddio'r data ar gyfer hyfforddiant ML/DL.

Disgrifir set ddata CivilComments fel hyn: “Mae adolygiad awtomatig o destun a gynhyrchir gan ddefnyddwyr - ee, canfod sylwadau gwenwynig - yn arf pwysig ar gyfer cymedroli maint y testun a ysgrifennwyd ar y Rhyngrwyd. Yn anffodus, mae gwaith blaenorol wedi dangos bod dosbarthwyr gwenwyndra o'r fath yn sylwi ar dueddiadau yn y data hyfforddi ac yn cysylltu gwenwyndra'n annelwig â'r sôn am rai demograffeg. Gall y mathau hyn o gydberthynas ffug ddiraddio perfformiad model yn sylweddol ar isboblogaethau penodol. Rydym yn astudio’r mater hwn trwy amrywiad wedi’i addasu o’r set ddata CivilComments” (fel y’i postiwyd ar wefan WILDS).

Ystyriwch naws postiadau anffafriol ar-lein.

Heb os, rydych chi wedi dod ar draws sylwadau gwenwynig wrth ddefnyddio bron unrhyw fath o gyfryngau cymdeithasol. Byddai'n ymddangos bron yn amhosibl i chi osgoi gweld y cynnwys llym ac affwysol sy'n ymddangos yn dreiddiol y dyddiau hyn. Weithiau mae'r deunydd di-chwaeth yn gynnil ac efallai bod yn rhaid i chi ddarllen rhwng y llinellau i gael hanfod y naws neu'r ystyr rhagfarnllyd neu wahaniaethol. Mewn achosion eraill, mae'r geiriau'n amlwg yn wenwynig ac nid oes angen microsgop na chylch datgodiwr arbennig arnoch i ddarganfod beth mae'r darnau yn ei olygu.

Mae CivilComments yn set ddata a luniwyd i geisio dyfeisio AI ML/DL a all ganfod cynnwys gwenwynig yn gyfrifiadol. Dyma'r hyn y canolbwyntiodd yr ymchwilwyr y tu ôl i'r ymdrech arno: “Gall rhagfarn anfwriadol mewn Dysgu Peiriannau ddod i'r amlwg fel gwahaniaethau systemig mewn perfformiad ar gyfer gwahanol grwpiau demograffig, a allai waethygu'r heriau presennol i degwch yn y gymdeithas yn gyffredinol. Yn y papur hwn, rydym yn cyflwyno cyfres o fetrigau agnostig trothwy sy'n rhoi darlun cynnil o'r duedd anfwriadol hon, drwy ystyried y gwahanol ffyrdd y gall dosbarthiad sgôr dosbarthwr amrywio ar draws grwpiau dynodedig. Rydym hefyd yn cyflwyno set brawf fawr newydd o sylwadau ar-lein gydag anodiadau torfol ar gyfer cyfeiriadau hunaniaeth. Rydym yn defnyddio hyn i ddangos sut y gellir defnyddio ein metrigau i ddod o hyd i ragfarn anfwriadol newydd a allai fod yn gynnil mewn modelau cyhoeddus presennol” (mewn papur o'r enw “Metrigau Nuanced For Mesur Bias Anfwriadol Gyda Data Gwirioneddol ar gyfer Dosbarthu Prawf” gan Daniel Borkan, Lucas Dixon, Jeffrey Sorensen, Nithum Thain, Lucy Vasserman).

Os rhowch rywfaint o fyfyrdod cyffredinol ar y mater hwn, efallai y byddwch chi'n dechrau meddwl tybed sut yn y byd y gallwch chi ddirnad beth sy'n sylw gwenwynig yn erbyn yr hyn nad yw'n sylw gwenwynig. Gall bodau dynol amrywio'n sylweddol o ran yr hyn y maent yn ei ddehongli fel geiriad gwenwynig llwyr. Efallai y bydd un person wedi'i gythruddo gan sylw neu sylw ar-lein penodol sy'n cael ei bostio ar gyfryngau cymdeithasol, tra efallai na fydd rhywun arall yn cael ei gynhyrfu o gwbl. Gwneir dadl yn aml fod y syniad o sylwebaeth wenwynig yn braesept hollol annelwig. Y mae yn debyg i gelfyddyd, lle y dywedir yn arferol fod celfyddyd yn cael ei deall yn llygad y gweledydd yn unig, ac yn yr un modd, nid yw sylwadau rhagfarnllyd neu wenwynig ond yn llygad y gweledydd hefyd.

Balderdash, rhai retort. Gall unrhyw un sydd â meddwl rhesymol amau ​​a yw sylw ar-lein yn wenwynig ai peidio. Nid oes angen i chi fod yn wyddonydd roced i sylweddoli pan fydd rhywfaint o sarhad costig a bostiwyd yn llawn rhagfarnau a chasineb.

Wrth gwrs, mae moesau cymdeithasol yn newid ac yn newid dros gyfnodau o amser. Mae'r hyn nad oedd efallai wedi'i ystyried yn dramgwyddus amser yn ôl yn cael ei ystyried yn ffiaidd o anghywir heddiw. Ar ben hynny, mae’n bosibl y bydd pethau a ddywedwyd flynyddoedd yn ôl a oedd unwaith yn cael eu gweld fel rhai â rhagfarn ormodol yn cael eu hailddehongli yng ngoleuni newidiadau mewn ystyron. Yn y cyfamser, mae eraill yn honni bod sylwebaeth wenwynig bob amser yn wenwynig, ni waeth pryd y cafodd ei chyhoeddi i ddechrau. Gellid dadlau nad yw gwenwyndra yn gymharol ond yn hytrach ei fod yn absoliwt.

Serch hynny, gall y mater o geisio sefydlu beth sy'n wenwynig fod yn dipyn o drafferth. Gallwn ddyblu'r mater trafferthus hwn o ran ceisio dyfeisio algorithmau neu AI a all ganfod p'un yw. Os yw bodau dynol yn cael amser anodd yn gwneud asesiadau o'r fath, mae rhaglennu cyfrifiadur yn debygol o fod yr un mor broblemus neu'n fwy tebygol, meddai rhai.

Un dull o sefydlu setiau data sy'n cynnwys cynnwys gwenwynig yw defnyddio dull torfoli i raddio neu asesu'r cynnwys, ergo darparu dull dynol o bennu'r hyn a ystyrir yn anweddus a chynnwys y labelu yn y set ddata ei hun. Yna gallai AI ML/DL archwilio'r data a'r labelu cysylltiedig sydd wedi'u nodi gan gyfraddwyr dynol. Gall hyn yn ei dro fod yn fodd o ddod o hyd i batrymau mathemategol sylfaenol yn gyfrifiadol. Efallai y bydd Voila, yr ML/DL wedyn yn gallu rhagweld neu asesu’n gyfrifiadol a yw sylw a roddir yn debygol o fod yn wenwynig ai peidio.

Fel y crybwyllwyd yn y papur a ddyfynnwyd ar fetrigau cynnil: “Mae'r labelu hwn yn gofyn i gyfraddwyr raddio gwenwyndra sylw, gan ddewis o blith 'Gwenwynig Iawn', 'Gwenwynig', 'Anodd ei Ddweud', a 'Ddim yn Wenwyn'. Holwyd y graddwyr hefyd am sawl is-fath o wenwyndra, er na ddefnyddiwyd y labeli hyn ar gyfer dadansoddi'r gwaith hwn. Gan ddefnyddio'r technegau graddio hyn fe wnaethom greu set ddata o 1.8 miliwn o sylwadau, a gafwyd o fforymau sylwadau ar-lein, yn cynnwys labeli ar gyfer gwenwyndra a hunaniaeth. Tra bod pob un o'r sylwadau wedi'u labelu ar gyfer gwenwyndra, ac is-set o 450,000 o sylwadau wedi'u labelu ar gyfer hunaniaeth. Cafodd rhai sylwadau a labelwyd ar gyfer hunaniaeth eu rhag-ddewis gan ddefnyddio modelau a adeiladwyd o iteriadau blaenorol o labelu hunaniaeth i sicrhau y byddai cyfraddwyr torfol yn gweld cynnwys hunaniaeth yn aml” (yn y papur a ddyfynnwyd gan Daniel Borkan, Lucas Dixon, Jeffrey Sorensen, Nithum Thain, Lucy Vasserman).

Mae enghraifft arall o anelu at gael setiau data sy'n cynnwys cynnwys gwenwynig darluniadol yn cynnwys ymdrechion i hyfforddi systemau rhyngweithiol sgyrsiol Prosesu Iaith Naturiol (NLP) seiliedig ar AI. Mae'n debyg eich bod wedi rhyngweithio â systemau NLP fel Alexa a Siri. Rwyf wedi ymdrin â rhai o anawsterau a chyfyngiadau'r NLP heddiw, gan gynnwys enghraifft arbennig o annifyr a ddigwyddodd pan gynigiodd Alexa ddarn o gyngor anaddas a pheryglus i blant, gweler y ddolen yma.

Ceisiodd astudiaeth ddiweddar ddefnyddio naw categori o ragfarn gymdeithasol a oedd yn seiliedig yn gyffredinol ar restr EEOC (Comisiwn Cyfleoedd Cyflogaeth Cyfartal) o nodweddion demograffig gwarchodedig, gan gynnwys oedran, rhyw, cenedligrwydd, ymddangosiad corfforol, hil neu ethnigrwydd, crefydd, statws anabledd, rhywiol. cyfeiriadedd, a statws economaidd-gymdeithasol. Yn ôl yr ymchwilwyr: “Mae llawer o dystiolaeth bod modelau NLP yn dysgu rhagfarnau cymdeithasol, ond ychydig o waith sydd wedi’i wneud ar sut mae’r rhagfarnau hyn yn amlygu mewn allbynnau model ar gyfer tasgau cymhwysol fel ateb cwestiynau (SA). Rydym yn cyflwyno’r Meincnod Bias ar gyfer QA (BBQ), sef set ddata o setiau cwestiynau a luniwyd gan yr awduron sy’n amlygu rhagfarnau cymdeithasol ardystiedig yn erbyn pobl sy’n perthyn i ddosbarthiadau gwarchodedig ar hyd naw dimensiwn cymdeithasol sy’n berthnasol i gyd-destunau Saesneg eu hiaith yn UDA” (mewn papur o’r enw “BBQ : Meincnod a Adeiladwyd â Llaw ar gyfer Ateb Cwestiynau” gan Alicia Parrish, Angelica Chen, Nikita Nangia, Vishakh Padmakumar, Jason Phang, Jana Thompson, Phu Mon Htut, Samuel R. Bowman).

Mae sefydlu setiau data sy'n cynnwys data rhagfarnllyd a hollol wenwynig yn fwriadol yn duedd gynyddol mewn AI ac mae dyfodiad AI Moeseg a'r awydd i gynhyrchu AI Moesegol yn peri pryder arbennig iddo. Gellir defnyddio'r setiau data hynny i hyfforddi modelau Dysgu Peiriannol (ML) a Dysgu Dwfn (DL) ar gyfer canfod tueddiadau a darganfod patrymau cyfrifiannol sy'n ymwneud â gwenwyndra cymdeithasol. Yn ei dro, gall yr ML/DL sydd wedi'i hyfforddi mewn gwenwyndra gael ei anelu'n ddoeth at AI eraill i ganfod a yw'r AI wedi'i dargedu yn dueddol o bosibl ac yn wenwynig.

At hynny, gellir defnyddio'r systemau ML/DL sydd wedi'u hyfforddi mewn gwenwyndra sydd ar gael i ddangos i adeiladwyr AI beth i wylio amdano fel y gallant archwilio modelau yn hawdd i weld sut mae rhagfarnau wedi'u trwytho'n algorithmig yn codi. Ar y cyfan, mae'r ymdrechion hyn yn gallu enghreifftio peryglon AI gwenwynig fel rhan o ymwybyddiaeth AI Moeseg ac AI Moesegol sydd wedi'i hadrodd i gyd.

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau darluniadol pellach a allai arddangos y pwnc hwn. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer trafodaeth helaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am ddefnyddioldeb cael setiau data i ddyfeisio AI gwenwynig, ac os felly, beth mae hyn yn ei ddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru A Llywio'n glir O AI Gwenwynig

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Rwy’n gobeithio bod hynny’n darparu litani ddigonol o gafeatau i danategu’r hyn yr wyf ar fin ei ddweud.

Mae yna nifer o bosibiliadau, a rhyw ddydd yn debygol o gael eu gwireddu, â thueddiadau wedi’u trwytho gan AI sy’n mynd i fynd i’r afael ag ymddangosiad cerbydau ymreolaethol a cheir hunan-yrru, gweler er enghraifft fy nhrafodaeth yn y ddolen yma ac y ddolen yma. Rydym yn dal yn y camau cynnar o gyflwyno ceir hunan-yrru. Hyd nes y bydd y mabwysiadu'n cyrraedd graddfa a gwelededd digonol, nid yw llawer o'r agweddau AI gwenwynig yr wyf wedi bod yn rhagweld y byddant yn digwydd yn y pen draw yn amlwg eto ac nid ydynt eto wedi denu sylw eang gan y cyhoedd.

Ystyriwch fater gyrru sy'n ymddangos yn syml ac a allai ymddangos yn gwbl ddiniwed ar y dechrau. Yn benodol, gadewch i ni archwilio sut i benderfynu'n iawn a ddylid stopio ar gyfer cerddwyr “ystyfnig” nad oes ganddynt yr hawl tramwy i groesi stryd.

Yn ddiamau, rydych wedi bod yn gyrru ac wedi dod ar draws cerddwyr a oedd yn aros i groesi’r stryd ac eto nid oedd ganddynt yr hawl tramwy i wneud hynny. Roedd hyn yn golygu bod gennych ddisgresiwn i stopio a gadael iddynt groesi. Gallech fwrw ymlaen heb adael iddynt groesi a dal i fod yn gwbl o fewn y rheolau gyrru cyfreithiol o wneud hynny.

Mae astudiaethau o sut mae gyrwyr dynol yn penderfynu stopio neu beidio ar gyfer cerddwyr o'r fath wedi awgrymu bod y gyrwyr dynol weithiau'n gwneud y dewis ar sail rhagfarnau anffafriol. Efallai y bydd gyrrwr dynol yn llygadu'r cerddwr ac yn dewis peidio â stopio, er y byddent wedi stopio pe bai gan y cerddwr ymddangosiad gwahanol, megis ar sail hil neu ryw. Rwyf wedi archwilio hyn yn y ddolen yma.

Sut bydd systemau gyrru AI yn cael eu rhaglennu i wneud yr un math o benderfyniad stopio neu fynd?

Gallech gyhoeddi y dylai pob system yrru AI gael ei rhaglennu i stopio bob amser ar gyfer unrhyw gerddwyr sy'n aros. Mae hyn yn symleiddio'r mater yn fawr. Nid oes unrhyw benderfyniad clymog i'w wneud mewn gwirionedd. Os yw cerddwr yn aros i groesi, ni waeth a oes ganddo'r hawl tramwy ai peidio, sicrhewch fod y car hunan-yrru AI yn dod i stop fel y gall y cerddwr groesi.

Hawdd-pyslyd.

Nid yw bywyd byth mor hawdd â hynny, mae'n ymddangos. Dychmygwch fod pob car sy'n gyrru ei hun yn cadw at y rheol hon. Mae'n anochel y byddai cerddwyr yn sylweddoli bod y systemau gyrru AI yn gwthio drosodd, a ddywedwn ni. Bydd unrhyw gerddwr sydd am groesi'r stryd yn wir yn gwneud hynny, pryd bynnag y dymunant a lle bynnag y maent.

Tybiwch fod car sy'n gyrru ei hun yn dod i lawr stryd gyflym ar y terfyn cyflymder postio o 45 milltir yr awr. Mae cerddwr yn “gwybod” y bydd yr AI yn dod â’r car hunan-yrru i stop. Felly, mae'r cerddwr yn gwibio i'r stryd. Yn anffodus, mae ffiseg yn ennill allan dros AI. Bydd y system yrru AI yn ceisio dod â'r car sy'n gyrru ei hun i stop, ond mae momentwm y cerbyd ymreolaethol yn mynd i gario'r contraption aml-dunnell ymlaen a hwrdd i mewn i'r cerddwr ystyfnig. Mae'r canlyniad naill ai'n niweidiol neu'n achosi marwolaeth.

Nid yw cerddwyr fel arfer yn rhoi cynnig ar y math hwn o ymddygiad pan fo gyrrwr dynol wrth y llyw. Yn sicr, mewn rhai ardaloedd mae rhyfel pelen y llygad yn digwydd. Mae cerddwr yn peli llygad gyrrwr. Mae'r gyrrwr yn peli llygaid y cerddwr. Yn dibynnu ar yr amgylchiadau, efallai y bydd y gyrrwr yn dod i stop neu efallai y bydd y gyrrwr yn honni ei hawl i'r ffordd ac yn ôl pob golwg yn meiddio'r cerddwr i geisio tarfu ar ei lwybr.

Mae'n debyg nad ydym am i AI fynd i mewn i ryfel pelen llygad tebyg, sydd hefyd ychydig yn heriol beth bynnag gan nad oes person neu robot yn eistedd wrth olwyn y car hunan-yrru (rwyf wedi trafod y posibilrwydd o robotiaid yn y dyfodol y gyrru hwnnw, gw y ddolen yma). Ac eto ni allwn ganiatáu i gerddwyr alw'r ergydion bob amser. Gallai'r canlyniad fod yn drychinebus i bawb dan sylw.

Efallai y cewch eich temtio wedyn i droi i ochr arall y darn arian hwn a datgan na ddylai'r system yrru AI byth stopio o dan amgylchiadau o'r fath. Mewn geiriau eraill, os nad oes gan gerddwr hawl tramwy priodol i groesi'r stryd, dylai'r AI gymryd yn ganiataol bob amser y dylai'r car sy'n gyrru ei hun fynd yn ei flaen heb unrhyw ostyngiad. Pob lwc i'r cerddwyr hynny.

Nid yw rheol mor llym a gor-syml yn mynd i gael ei derbyn yn dda gan y cyhoedd yn gyffredinol. Mae pobl yn bobl ac ni fyddant yn hoffi cael eu cau allan yn llwyr rhag gallu croesi'r stryd, er gwaethaf y ffaith nad oes ganddynt hawl tramwy yn gyfreithiol i wneud hynny mewn lleoliadau amrywiol. Gallech yn hawdd ragweld cynnwrf sylweddol gan y cyhoedd ac o bosibl weld adlach yn digwydd yn erbyn mabwysiadu parhaus ceir hunan-yrru.

Wedi beiddio os gwnawn, ac wedi creithio os na wnawn.

Rwy'n gobeithio bod hyn wedi'ch arwain at y dewis arall rhesymedig bod angen rhaglennu'r AI gyda rhywfaint o benderfyniadau ynghylch sut i ddelio â'r broblem yrru hon. Mae rheol galed a chyflym i beidio byth â stopio yn anghynaladwy, ac yn yr un modd, mae rheol galed a chyflym i stopio bob amser yn anghynaladwy hefyd. Mae'n rhaid i'r AI gael ei ddyfeisio gyda pheth penderfyniadau algorithmig neu ADM i ddelio â'r mater.

Gallech geisio defnyddio set ddata ynghyd â dull ML/DL.

Dyma sut y gallai datblygwyr AI benderfynu rhaglennu'r dasg hon. Maen nhw'n casglu data o gamerâu fideo sy'n cael eu gosod o amgylch dinas benodol lle mae'r car hunan-yrru yn mynd i gael ei ddefnyddio ynddi. Mae'r data yn dangos pan fydd gyrwyr dynol yn dewis stopio ar gyfer cerddwyr nad oes ganddynt yr hawl tramwy. Mae'r cyfan yn cael ei gasglu mewn set ddata. Trwy ddefnyddio Machine Learning a Deep Learning, mae'r data'n cael ei fodelu'n gyfrifiadol. Yna mae'r system yrru AI yn defnyddio'r model hwn i benderfynu pryd i stopio neu beidio.

Yn gyffredinol, y syniad yw, beth bynnag mae'r arferiad lleol yn ei gynnwys, dyma sut mae'r AI yn mynd yn uniongyrchol i'r car hunan-yrru. Problem wedi'i datrys!

Ond, a yw wedi'i ddatrys mewn gwirionedd?

Dwyn i gof fy mod eisoes wedi tynnu sylw at y ffaith bod astudiaethau ymchwil yn dangos y gall gyrwyr dynol fod yn rhagfarnllyd yn eu dewisiadau o ran pryd i stopio i gerddwyr. Mae'n debyg y bydd y data a gasglwyd am ddinas benodol yn cynnwys y rhagfarnau hynny. Bydd AI ML/DL yn seiliedig ar y data hwnnw wedyn yn debygol o fodelu ac adlewyrchu'r un rhagfarnau hynny. Bydd y system yrru AI yn cyflawni'r un tueddiadau presennol yn unig.

Er mwyn ceisio ymgodymu â'r mater, gallem roi set ddata at ei gilydd sydd mewn gwirionedd â thueddiadau o'r fath. Rydyn ni naill ai'n dod o hyd i set ddata o'r fath ac yna'n labelu'r rhagfarnau, neu rydyn ni'n creu set ddata yn synthetig i helpu i ddangos y mater.

Byddai’r holl gamau a nodwyd yn gynharach yn cael eu cymryd, gan gynnwys:

• Gosodwch set ddata sy'n cynnwys y duedd benodol hon yn fwriadol
• Defnyddiwch y set ddata i hyfforddi modelau Dysgu Peiriannol (ML) a Dysgu Dwfn (DL) ynghylch canfod y duedd benodol hon
• Cymhwyso'r ML/DL sydd wedi'i hyfforddi â thuedd tuag at AI arall i ganfod a yw'r AI wedi'i dargedu o bosibl yn rhagfarnllyd yn yr un modd.
• Sicrhau bod yr ML/DL sydd wedi’i hyfforddi â thuedd ar gael i ddangos i adeiladwyr AI beth i wylio amdano fel y gallant archwilio eu modelau yn hawdd i weld sut mae rhagfarnau wedi’u trwytho yn algorithmig yn codi
• Amlygwch beryglon AI rhagfarnllyd fel rhan o ymwybyddiaeth AI Moeseg ac AI Moesegol trwy'r enghraifft benodol ychwanegol hon
• Arall

Casgliad

Gadewch i ni ailedrych ar y llinell agoriadol.

Mae'n cymryd un i adnabod un.

Mae rhai yn dehongli bod y dywediad hynod gyffredin hwn yn awgrymu, pan ddaw'n fater o fferru AI gwenwynig, y dylem fod yn rhoi'r hygrededd dyladwy i adeiladu a defnyddio AI gwenwynig tuag at ddarganfod a delio ag AI gwenwynig arall. Gwaelod llinell: Weithiau mae'n cymryd lleidr i ddal lleidr arall.

Pryder a leisiwyd yw efallai ein bod yn mynd allan o'n ffordd i ddechrau gwneud lladron. A ydym am ddyfeisio AI sy'n wenwynig? Onid yw hynny'n ymddangos fel syniad gwallgof? Mae rhai yn dadlau’n chwyrn y dylem wahardd pob AI gwenwynig, gan gynnwys AI o’r fath a gafodd ei adeiladu’n fwriadol hyd yn oed os honnir ei fod yn arwrol neu’n ddewr. AI Er Da pwrpas.

Squelch AI gwenwynig ym mha bynnag ffurf glyfar neu llechwraidd y gallai godi.

Un tro olaf ar y pwnc hwn am y tro. Rydym yn cymryd yn gyffredinol bod y llinell enwog hon yn ymwneud â phobl neu bethau sy'n gwneud gweithredoedd drwg neu sur. Dyna sut rydyn ni'n glanio ar y syniad ei fod yn cymryd lleidr i ddal lleidr. Efallai y dylem droi’r dywediad hwn ar ei ben a’i wneud yn fwy o wyneb hapus nag o wyneb trist.

Dyma sut.

Os ydym am gael AI sy'n ddiduedd ac nad yw'n wenwynig, efallai y byddai'n bosibl ei fod yn cymryd un i wybod un. Dichon mai y goreu a'r goreu i adnabod a chenhedlu mawredd a daioni pellach. Yn yr amrywiad hwn o ddoethineb doeth, cadwn ein syllu ar yr wyneb hapus a cheisio canolbwyntio ar ddyfeisio AI Er Da.

Byddai honno'n safbwynt mwy calonogol a bodlon o siriol arno, mae'n rhaid i rywun wybod un, os ydych chi'n gwybod beth ydw i'n ei olygu.