AI Moeseg Yn Ofalus Mae Asesu'n Ofalus P'un ai Darbodus Neu Ofer yw Cynnig AI Yn Tueddol i Hela Hela I Ddal A Nab Systemau Cwbl Ymreolaethol yn Foesegol Drwg

SE busca: Helwyr rhagfarn AI.

Gallai hynny fod yn hysbyseb fodern y byddwch chi'n dechrau ei weld yn ymddangos ar sianeli cyfryngau cymdeithasol ac yn ymddangos mewn amrywiol swyddi ar-lein. Mae hwn yn gysyniad neu rôl gymharol newydd. Mae'n destun dadlau. Mae rhai credinwyr selog yn dadlau ei fod yn gwneud llawer o synnwyr ac y dylai fod wedi bod yn digwydd ar hyd yr amser, tra bod eraill braidd yn nerfus yn crafu pen yn ddifrifol a ddim mor siŵr bod hyn yn syniad da.

Mae hanfod y rôl yn cynnwys tynnu allan o AI unrhyw ragfarnau cudd neu arferion gwahaniaethol sefydledig. I'r adwy daw'r eiddgar ac yn gyfan gwbl o'r blaen AI gogwyddo helwyr. Mae'n debyg y byddent yn helwyr haelionus â chyfrifiaduron. Yn fwy felly, gobeithio, wedi'i drwytho yn nyfnder galluoedd AI.

Bod â gwn, a fydd yn teithio, a gall trwy grefftwaith brwd medrus AI lwyddo i ddatgelu'r rhagfarnau AI ansawrus ac anffodus hynny.

Mae hyn yn codi cyfres o gwestiynau dyrys am synwyrusrwydd dilyn tacteg o'r fath pan ddaw'n fater o ddarganfod rhagfarnau AI. Fel y byddaf yn ei drafod yn fuan, gwyddoch fod dyfodiad AI hefyd wedi dod â thueddiadau AI i'r amlwg. Mae llifeiriant o dueddiadau AI. Am fy ymdriniaeth barhaus a helaeth o AI Moeseg ac AI Moesegol, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Sut ydyn ni i ddarganfod bod gan system AI benodol ragfarn?

Efallai y byddwch yn ymddiried yn y datblygwyr AI a ddyfeisiodd yr AI i wneud hynny. Y peth yw, efallai eu bod yn cael eu llethu cymaint gan dueddiadau fel na allant eu hunain adnabod y rhagfarnau o fewn eu AI cyfunol. Mae'r cyfan yn edrych yn dda iddyn nhw. Neu efallai eu bod mor gyffrous am y Mynegai Gwerthfawrogiad a bod ganddynt ymdeimlad o hunanfalchder amdano fel y byddai'n anodd ac yn ddirywiad go iawn i orfod edrych yn feirniadol i'w archwilio am ragfarnau. Gallai llawer o resymau eraill o'r fath ymddangos fel pe baent yn tanseilio'r ffaith bod datblygwyr AI yn ymgymryd â'r dasg hon, gan gynnwys diffyg sgiliau i ddarganfod y rhagfarnau sydd wedi'u hymgorffori, diffyg amser mewn prosiect i wneud hynny, ac ati.

Iawn, felly ewch ymlaen a llogi ymgynghorwyr allanol i wneud y gwaith budr i chi, fel petai. Mae'n ymddangos y bydd ymgynghorwyr yn hapus i graffu ar eich AI am dueddiadau, gan godi ceiniog bert i chi wneud hynny (llawer a llawer o geiniogau). Sylweddolwch fod angen i chi dalu iddyn nhw ddod yn gyfarwydd â'ch system AI. Yna mae angen i chi eu twrio o gwmpas, a allai gymryd nifer nas dywedir o gwbl o oriau llafurus costus. Mae defnyddio ymgynghorwyr yn opsiwn os oes gennych chi'r gyllideb ar ei gyfer.

I mewn i’r “bwlch” posibl o sut i ddod o hyd i’r rhagfarnau AI llechwraidd hynny daw’r helwyr haelioni arwrol a serth y AI yn rhagfarnu.

Nid ydych fel arfer yn eu talu ymlaen llaw. Maent yn ceisio dod o hyd i'r rhagfarnau AI ar eu hamser eu hunain ac yn gorfod talu eu biliau eu hunain wrth iddynt wneud hynny. Dim ond os ydynt yn dod o hyd i ragfarnau yn llwyddiannus y cânt eu talu. Mae'n debyg y gallech chi haeru'n rhwydd, mewn ffordd addas o feddwl, mai dyna'r diffiniad confensiynol o heliwr bounty. Cael eich talu os byddwch yn llwyddo. Peidiwch â chael eich talu os na fyddwch yn llwyddiannus. Cyfnod, diwedd stori.

Mae rhaglenni Bounty wedi bodoli ers o leiaf amser y Rhufeiniaid ac felly efallai y byddwn yn tybio eu bod yn gwneud gwaith, ar ôl dioddef yn llwyddiannus fel arfer dros yr holl flynyddoedd hyn.

Dyma ddarn hynod ddiddorol o ddibwys hanesyddol i chi. Yn ôl y sôn, roedd neges a bostiwyd yn ystod yr Ymerodraeth Rufeinig yn ninas Pompeii yn datgan bod angen helwyr bounty i ddod o hyd i botyn copr a aeth ar goll o siop fach. Y wobr am adennill y pot copr oedd gwobr drawiadol o chwe deg pump o ddarnau arian efydd. Mae'n ddrwg gennym ddweud nad ydym yn gwybod a ddaeth unrhyw heliwr bounty o hyd i'r pot copr a hawlio'r darnau arian efydd, ond rydym yn gwybod bod hela bounty yn sicr wedi parhau ers yr hen amser hynny.

Yn y cyfnod mwy modern, efallai y byddwch yn ymwybodol bod rhai rhoddion nodedig wedi'u cynnig yn yr 1980au i ddod o hyd i fygiau cyfrifiadurol neu wallau mewn pecynnau meddalwedd parod ac yna yn y 1990au cynigiodd Netscape swm sylweddol o arian am ddod o hyd i fygiau yn eu porwr gwe (dod yn un o gwmnïau amlycaf y diwrnod hwnnw i wneud hynny). Roedd Google a Facebook ill dau wedi dewis hela bounty am chwilod gan ddechrau ym mlynyddoedd 2010 a 2013, yn y drefn honno. Ychydig flynyddoedd yn ddiweddarach, yn 2016, ymunodd hyd yn oed Adran Amddiffyn yr UD (DoD) â'r weithred trwy gael ymdrech haelioni “Hacio'r Pentagon” (sylwch fod y bounty â ffocws cyhoeddus ar gyfer chwilod a ddarganfuwyd mewn amrywiol wefannau cysylltiedig â DoD ac nid yn systemau sy'n hanfodol i genhadaeth amddiffyn).

Gadewch i ni gloddio'n ddyfnach i'r pwnc bounty byg. Sylweddolaf fy mod yn anelu’n bennaf at sôn am dueddiadau AI mewn hela bounty yn y drafodaeth hon, ond mae rhai tebygrwydd eithaf perthnasol i’r arena bounty byg.

Mae rhai yn amlwg wedi drysu y byddai unrhyw gwmni am gynnig bounty i ddod o hyd i chwilod (neu, yn yr achos hwn, rhagfarnau AI) yn eu systemau.

Ar yr wyneb, mae hon yn ymddangos fel math o strategaeth “rydych chi'n gofyn amdani”. Os rhowch wybod i'r byd eich bod yn croesawu'r rhai a allai geisio dod o hyd i dyllau yn eich meddalwedd, mae'n ymddangos yn gyfystyr â dweud wrth fyrgleriaid i fynd ymlaen a cheisio torri i mewn i'ch tŷ. Hyd yn oed os ydych chi eisoes yn credu bod gennych chi system larwm lladron eithaf da ac na ddylai neb allu mynd i mewn i'ch cartref diogel, dychmygwch ofyn ac yn wir erfyn ar fyrgleriaid i bawb ddod i'ch man preswyl i weld a allant wneud hynny. crac i mewn iddo. O, y trafferthion yr ydym yn eu gweu i ni ein hunain.

Gellid dweud yr un peth am ofyn i helwyr bounty ddod o hyd i ragfarnau yn eich AI.

Yn gyntaf, efallai ei fod yn awgrymu eich bod eisoes yn credu neu hyd yn oed yn gwybod yn llwyr fod gan eich AI ragfarn. Mae hwnnw'n gyfaddefiad ysgytwol ar unwaith y byddai ychydig yn ymddangos yn fodlon ei wneud ac y gallent o bosibl wrthdanio.

Yn ail, nid ydych chi'n gwybod yn sicr beth allai'r helwyr haelioni hynny ei wneud. Gallent ddewis dweud wrth y byd i gyd eu bod wedi canfod rhagfarnau yn eich AI. Mae rhywun yn tybio y gallai hyn fforffedu cael y bounty, er y gallai rhai fwynhau'r sylw neu anelu at gryfhau eu statws ar gyfer cael gigs ymgynghori a phosibiliadau eraill sy'n cynhyrchu refeniw. Efallai ei fod yn gwbl anhunanol. Gallai fod yn fath o actifiaeth AI. Gallaf ddal ati.

Yn drydydd, gallai fod tro slei i'r holl berthynas. Efallai y bydd heliwr bounty sy'n honni ei fod yn chwilio am dueddiadau AI yn procio'n gythreulig o gwmpas i ddod o hyd i ffyrdd o ymosod ar eich system AI. Mae'r holl beth yn gamarweiniol i ymgymryd ag ymosodiad seibr difrifol yn y pen draw. Efallai eich bod wedi cymryd yn ganiataol eu bod yn ceisio helpu, tra bod ganddynt ddrwgweithredu yn eu calonnau. Trist, ond yn bosibl.

Yn bedwerydd, gallwn gael ein dirmygu hyd yn oed yn fwy slei ar y mater hwn. Mae heliwr bounty yn dod o hyd i rai rhagfarnau AI sy'n embaras ac a allai ysgogi achos cyfreithiol. Mae'r bounty yn rhyw swm o ddoleri y byddwn yn ei alw X. Yn hytrach na hawlio'r bounty, mae'r heliwr bounty yn gwneud math o gythrudd nwyddau pridwerth rhyfedd. Os ydych chi'n talu swm o ddeg gwaith X i'r heliwr bounty neu efallai yr awyr y terfyn, byddant yn dweud wrthych am y rhagfarnau AI. Mae gennych tan nos Sul am hanner nos i ateb. Ar ôl hynny, bydd y rhagfarnau AI yn cael eu datgelu i bawb eu gweld. Yikes, sefyllfa ofnadwy i fod ynddo.

Yn bumed, y diweddaraf yw'r seibercrooks “hac i ddychwelyd” bondigrybwyll sydd, ar ôl dwyn criw o does ar-lein, yn penderfynu edifarhau a dychwelyd rhywfaint o'r ysbail anffodus y gwnaethon nhw ei gydio. Mae'r cwmni sy'n cael ei arian wedi'i ddychwelyd yn rhannol wedyn yn fodlon ystyried y swm sy'n weddill wedi'i ddwyn fel bounty ar ôl y ffaith a wobrwywyd i'r lladron. Mae'n ymddangos bod pawb yn “ennill” gan fod y rhan fwyaf o'r arian yn cael ei roi yn ôl ac yn y cyfamser nid yw'r seibercrooks yn cael eu dilyn yn gyfreithiol, ac maen nhw'n cael y bounty môr-leidr i'w gychwyn. A yw hyn yn ddarbodus neu'n llechwraidd yn parhau gweithredoedd anghyfiawn?

Rwy'n sylweddoli y gallai rhai ohonoch fod yn dweud na ddylai neb fod yn rhyddhau AI sydd ag unrhyw ragfarn ynddo. Mae'n ymddangos bod hynny'n datrys y cyfyng-gyngor cyfan hwn ynghylch a ddylid defnyddio helwyr bounty rhagfarn AI ai peidio. Peidiwch â chael eich hun i sefyllfa bounty. Gwnewch yn siŵr bod eich datblygwyr AI yn gwneud y peth iawn a pheidiwch â chaniatáu rhagfarnau AI yn eu systemau AI. Efallai defnyddio ymgynghorwyr i wneud gwiriad dwbl. Yn y bôn, gwnewch beth bynnag sydd angen i chi ei wneud i osgoi meddwl am neu ofyn i'r helwyr bounty rhagfarn AI hynny ddod at y bwrdd.

Ie, byddai hynny'n ymddangos yn gwbl synhwyrol. Y broblem yw ei fod hefyd braidd yn freuddwydiol. Mae cymhlethdod llawer o systemau AI mor fawr fel bod ceisio sicrhau na fydd un owns o dueddiadau AI yn dod i'r amlwg yn mynd i fod yn feichus i'w wneud. Ar ben hynny, mae rhai systemau AI wedi'u dyfeisio'n bwrpasol i addasu a “dysgu” wrth fynd ymlaen. Mae hyn yn golygu y gallai’r AI a ddyfeisiwyd gennych yn y dyfodol, sy’n cymryd arnom i ddechrau ei fod yn gwbl lân a heb ragfarn, wyro tuag at ymgorffori rhagfarnau (nid wyf yn golygu hynny mewn ffordd anthropomorffig, fel yr egluraf ymhellach wrth i ni wneud hynny). ewch ymlaen ar y pwnc hwn).

Mae'r rhai sy'n ffafrio hela bounty am chwilod meddalwedd yn dueddol o ddadlau ei bod yn gwneud synnwyr i gynnig bounties o'r fath. Gallwn ystyried eu rhesymeg a gweld a yw'n berthnasol i'r maes rhagfarnau AI hefyd.

Mae cynigwyr bounties byg yn pwysleisio, yn hytrach na cheisio cymryd arno nad oes unrhyw dyllau yn eich system, beth am annog dod o hyd i dyllau, gan wneud hynny mewn modd “dan reolaeth”? Mewn cyferbyniad, heb y fath ymdrech haelioni, fe allech chi obeithio a gweddïo na fydd unrhyw un, ar hap, yn dod o hyd i dwll, ond os ydych chi'n cynnig bounty yn lle hynny ac yn dweud wrth y rhai sy'n dod o hyd i dwll y byddan nhw'n cael eu gwobrwyo, mae'n cynnig gwobr. cyfle wedyn i lanio'r twll ar eich pen eich hun ac yna atal eraill rhag dod o hyd iddo'n gyfrinachol rywbryd yn ddiweddarach.

Gellid dweud yr un peth yn achos defnydd o dueddiadau AI. Os ydych chi'n cynnig bounty digonol, gobeithio, bydd yr helwyr bounty yn dod â darganfod tueddiadau AI i'ch sylw. Yna gallwch chi ymdopi â'r rhagfarnau AI mewn ffordd gymharol dawel a phwyllog. Gallai hyn achub y blaen ar broblem lawer mwy a mwy brawychus yn nes ymlaen, sef bod rhywun arall yn canfod rhagfarnau AI yn eich AI ac yn sgrechian amdano i'r nefoedd uchel.

Yn gyffredinol, bydd cwmni sy'n dymuno galluogi ymdrech hela chwilod yn rhoi Polisi Datgelu Pobl Agored i Niwed (VDP) ar waith. Mae'r VDP yn nodi sut mae'r bygiau i'w canfod a'u hadrodd i'r cwmni, ynghyd â sut y bydd y wobr neu'r bounty yn cael ei ddarparu i'r heliwr. Fel arfer, bydd y VDP yn ei gwneud yn ofynnol i'r heliwr lofnodi Cytundeb Peidio â Datgelu (NDA) fel na fydd yn datgelu i eraill yr hyn a ddarganfuwyd.

Mae rhywfaint o ddadlau ynghylch y syniad o ddefnyddio NDA gyda helwyr bounty. Er ei bod yn gwneud synnwyr efallai i'r cwmni sy'n cynnig y bounty fod eisiau cadw'r datguddiadau a ddarganfuwyd i fam, dywedir hefyd ei fod yn mygu ymwybyddiaeth gyffredinol am fygiau o'r fath. Yn ôl pob tebyg, pe bai modd siarad am fygiau meddalwedd, mae'n bosibl y byddai hynny o gymorth i ddiogelwch systemau eraill mewn cwmnïau eraill a fyddai wedyn yn rhoi terfyn ar eu datguddiadau. Ni fydd rhai helwyr bounty yn llofnodi NDA, yn rhannol oherwydd dymuniad y cyhoedd ac yn rhannol oherwydd ceisio cadw eu hunaniaeth eu hunain yn gudd. Cofiwch hefyd nad yw'r agwedd NDA yn codi fel arfer tan ar ôl i'r heliwr honni ei fod wedi dod o hyd i fyg, yn hytrach na bod ei angen ymlaen llaw.

Mae rhai VDPs yn nodi mai dim ond am gyfnod cyfyngedig o amser y mae'r NDA, gan ganiatáu i'r cwmni ddod o hyd i ateb i'r twll ymddangosiadol yn gyntaf ac yna wedyn i ganiatáu datgeliad ehangach amdano. Unwaith y bydd y twll wedi'i blygio, mae'r cwmni wedyn yn caniatáu llacio'r NDA fel bod gweddill y byd yn gwybod am y byg. Dywedir mai'r amser-datrysiad nodweddiadol ar gyfer chwilod sy'n cael eu hela bounty yw tua 15-20 diwrnod pan fydd cwmni am ei blygio ar unwaith, tra mewn achosion eraill gallai ymestyn i 60-80 diwrnod. O ran talu'r heliwr bounty, yr hyn a elwir yn amser-i-dalu, ar ôl i'r twll gael ei wirio fel un sy'n bodoli mewn gwirionedd, dywedir bod y taliadau bounty yn tueddu i fod o fewn tua 15-20 diwrnod ar gyfer yr achosion llai a thua 50-60. diwrnodau ar gyfer yr achosion mwy (mae'r rhain yn arwyddion diwydiant sy'n newid yn gyson ac yn cael eu crybwyll fel enghraifft yn unig).

A ddylid gofyn hefyd i helwyr haelioni rhag rhagfarnu AI gymryd rhan mewn VDP a delio ag NDA?

Gallwch gael ie a na i'r cwestiwn hwnnw. Oes, dylai rhai cwmnïau ddilyn y trywydd hwnnw. Na, efallai na fyddwch o reidrwydd yn dewis dilyn y llwybr hwnnw. Mae’r ffactorau’n cynnwys maint a natur yr AI, potensial unrhyw amlygiadau rhagfarn AI dan sylw, a chriw o ystyriaethau moesegol, cyfreithiol a busnes eraill sy’n dod i’r amlwg.

Efallai y byddaf yn ychwanegu bod sefydlu ymdrech hela bounty ar gyfer tueddiadau AI o'ch AI yn orchymyn llawer talach nag y gallech ei dybio ar yr olwg gyntaf.

Byddwn yn dechrau gyda'r posibilrwydd aruthrol y byddwch yn cael eich llethu gan helwyr bounty rhagfarn AI.

Ar hyn o bryd, byddech dan bwysau mawr i ddod o hyd i lawer a fyddai â cherdyn galw o'r fath. Does dim llawer o gwmpas. Mae’n ddyddiau’r Gorllewin Gwyllt o ran hynny. Ond os yw'r syniad o dueddiadau AI mewn hela bounty yn dal i fodoli, yn enwedig pan fo'r bounties yn doreithiog ac yn rhoi llawer o foddhad, gallwch chi fetio y bydd pawb yn plymio i'r pwll nofio hela rhagfarnau.

Ydych chi eisiau pob math o riffraff yn dilyn rhagfarnau AI yn eich system AI? Byddwch yn cael rhai derbynwyr sydd mewn gwirionedd yn arbenigwyr ar y math hwn o beth. Byddwch yn cael cymerwyr eraill sy'n amaturiaid a allai wneud llanast neu flaidd crio. Y peth nesaf rydych chi'n ei wybod, bydd unrhyw un sy'n gallu sillafu “Deallusrwydd Artiffisial” yn dod i gloddio yn eich mwynglawdd aur o system AI ar gyfer y nygets aur rhagdueddiadau AI gwerthfawr hynny. Mae'r rhuthr aur ymlaen. Efallai na fydd hynny'n dda i chi.

Bydd angen i chi graffu ar gyflwyniadau'r heliwr bounty. Bydd llawer o “sŵn” yn yr honiadau a adroddir, yn yr ystyr nad yw llawer o’r rhagfarnau AI honedig yn bodoli, er bod yr heliwr haelioni yn mynnu eu bod wedi dod o hyd i rai. Dychmygwch faint o lafur y bydd ei angen ar eich timau AI eich hun i archwilio'r hawliadau bounty, archwilio dilysrwydd pob un, ac yna o bosibl fynd yn ôl ac ymlaen gyda'r heliwr bounty ynghylch a ddarganfuwyd aur ai peidio.

Byddai rhai yn dadlau dyna reswm arall i wneud yr holl beth eich hun. Mae'n anochel y byddwch chi'n darganfod bod y peth bounty yn fwy o drafferth nag yr oedd yn werth.

Dyma gwestiwn arall i'w ystyried. Sut bydd yr helwyr bounty yn gwybod sut olwg sydd ar ragfarn AI? Yn y bôn, heb ryw fath o beth i fod yn chwilio amdano, gellid honni bod unrhyw graig sgleiniog yn dangos tuedd AI yn y mwynglawdd aur AI canfyddedig sy'n cael ei gloddio.

Yn nyddiau'r Hen Orllewin, tybiwch ichi gynnig gwobr am gipio Billy the Kid (gwarchodwr enwog). Os gwnaethoch hynny a heb gynnwys llun o sut olwg oedd ar Billy, dychmygwch faint o helwyr hael a allai lusgo i mewn i swyddfa'r siryf rhywun yr oeddent yn gobeithio neu'n meddwl oedd Billy the Kid. Efallai y byddwch chi'n cael eich boddi gan Billy's ffug. Mae hyn yn ddrwg oherwydd mae'n debyg y byddai angen i chi edrych ar bob un, gofyn cwestiynau treiddgar, a cheisio canfod a oedd y person yn Billy ai peidio.

Y pwynt yw y byddai'n ddoeth ceisio egluro'r hyn y mae rhagfarnau AI yn ei gynnwys yn eich barn chi, er mwyn sefydlu'r ymdrech haelioni rhagfarnau AI. Mae hyn yn gofyn am fath o raddnodi Elen Benfelen. Nid ydych chi eisiau bod mor gyfyng fel bod yr helwyr haelioni yn anwybyddu rhagfarnau AI dim ond oherwydd nad ydyn nhw'n cyd-fynd â'ch diffiniad penodedig, ac nid ydych chi chwaith am iddyn nhw weiddi “Eureka!” ar bob tamaid o duedd AI y maent yn ei ganfod.

Bydd arnoch angen y cydbwysedd cywir Elen Benfelen o'r hyn y mae rhagfarnau AI yn ei gynnwys ac felly'n darparu cyfarwyddiadau clir yn ddelfrydol.

Mae llawer o'r hela arian rhagfarn hwn yn mynd i ganolbwyntio ar systemau Dysgu Peiriant (ML) a Dysgu Dwfn (DL) sy'n seiliedig ar AI. Mae hyn yn gwneud synnwyr gan fod dyfodiad treiddiolder ML/DL yn tyfu, ac mae'n ymddangos bod ganddo rai o'r heriau mwyaf tebygol o gwmpasu rhagfarnau AI diangen.

Mae’r ymchwilwyr hyn yn nodi pa mor amlwg y gall ymdrech hela arian fod yn rhagfarnu AI, yn enwedig yng nghyd-destun ML/DL: “Dros amser, mae’r cymunedau meddalwedd a diogelwch wedi datblygu ‘bug bounties’ mewn ymgais i droi deinameg tebyg rhwng datblygwyr systemau a’u beirniaid. (neu hacwyr) tuag at ddibenion mwy rhyngweithiol a chynhyrchiol. Y gobaith yw, trwy wahodd partïon allanol yn fwriadol i ddod o hyd i fygiau meddalwedd neu galedwedd yn eu systemau, a darparu cymhellion ariannol yn aml i wneud hynny, y bydd ecosystem iachach sy'n ymateb yn gyflymach yn esblygu. Mae'n naturiol i'r gymuned ML ystyried dull tebyg o 'roi rhagfarn' tuag at ddarganfod ac atgyweirio modelau a systemau â thuedd neu ymddygiadau annymunol eraill yn amserol. Yn hytrach na dod o hyd i fygiau mewn meddalwedd, gwahoddir partïon allanol i ddod o hyd i ragfarnau - er enghraifft, is-grwpiau (demograffig neu eraill) o fewnbynnau y mae model hyfforddedig yn tanberfformio arnynt - ac yn cael eu gwobrwyo am wneud hynny” (yn y papur “An Algorithmic Framework for Bias Bounties” gan Ira Globus-Harris, Michael Kearns ac Aaron Roth).

Yn y papur ymchwil, mae'r awduron yn amlinellu dull a awgrymir o ran pa fathau o ragfarnau AI y gall helwyr hael eu ceisio. Mae yna hefyd awgrym ynghylch sut i asesu'r honiadau helwyr bounty sy'n gysylltiedig â'r rhagfarnau AI honedig a ddarganfuwyd felly. Yn unol â'm sylwadau cynharach yma, y ​​tebygolrwydd yw y byddwch yn derbyn honiadau dirdynnol ac yn gorfod gwahanu'r rhagfarnau AI gwenith oddi wrth y us.

Cyn mynd i mewn i fwy o gig a thatws am yr ystyriaethau gwyllt a gwlanog sydd wrth wraidd hela rhagfarn AI, gadewch i ni sefydlu rhai hanfodion ychwanegol ar bynciau hynod annatod. Mae angen i ni blymio'n fyr i AI Moeseg ac yn enwedig dyfodiad Dysgu Peiriant (ML) a Dysgu Dwfn (DL).

Efallai eich bod yn amwys yn ymwybodol bod un o'r lleisiau cryfaf y dyddiau hyn yn y maes AI a hyd yn oed y tu allan i faes AI yn cynnwys crochlefain am fwy o ymddangosiad o AI Moesegol. Gadewch i ni edrych ar yr hyn y mae'n ei olygu i gyfeirio at AI Moeseg ac AI Moesegol. Ar ben hynny, byddwn yn archwilio'r hyn yr wyf yn ei olygu pan fyddaf yn siarad am Machine Learning a Deep Learning.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefnau a dogfennaeth ddylunio.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n ddarostyngedig i gadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Gadewch i ni hefyd sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Gadewch i ni yn awr ddychwelyd at y pwnc o hela rhagfarn AI.

I'r rhai ohonoch sy'n ystyried ymdrech hela arian o ragfarn AI, dyma fy saith cam allweddol a argymhellir ar y ffordd orau i symud ymlaen:

1) Asesu. Aseswch addasrwydd ymdrech hela bounty rhagfarn AI ar gyfer eich amgylchiadau ac yn unol â'ch systemau AI

2) dylunio. Dyluniwch ddull priodol o hela bounty rhagfarn AI

3) Gweithredu. Gweithredu a rhoi cyhoeddusrwydd i'ch ymdrechion hela bounty rhagfarn AI

4) Maes. Maes y AI rhagfarnau hawliadau bounty a phrosesu yn unol â hynny

5) Atgyweiria. Trwsiwch neu addaswch eich AI fel sy'n berthnasol i'r datguddiadau rhagfarn AI hyn a ddarganfuwyd

6) Addasu. Addaswch y rhagfarnau AI hela bounty yn ôl yr angen

7) Terfynu. Rhoi'r gorau i hela bounty bias AI pan nad oes ei angen mwyach

Yn fy nghyfres o gamau uchod, sylwch fy mod yn sôn y byddwch yn ôl pob tebyg eisiau trwsio neu addasu eich AI yn seiliedig ar ganfod bod tuedd AI honedig mewn gwirionedd yn bodoli yn eich system AI. Mae hyn yn gwneud synnwyr yn helaeth. Mae bron yn sicr y byddech am wella unrhyw dueddiadau AI a ddarganfuwyd. Meddyliwch am y goblygiadau cyfreithiol (a moesegol) os na wnewch hynny. Mae'n un peth i haeru nad oeddech yn gwybod bod rhagfarn AI yn bodoli ac felly wedi caniatáu iddo fodoli, tra ei bod yn dir llawer mwy sigledig ar gofnod eich bod wedi'ch gwneud yn ymwybodol o ragfarn AI ac wedi gwneud dim yn ei gylch.

Wrth gwrs, byddai natur a graddau'r atgyweiriad neu'r addasiad AI yn dibynnu ar ba mor arwyddocaol oedd y rhagfarnau AI a pha mor ddwfn yw'r materion. Os ydych chi'n ffodus, efallai y bydd ychydig o newidiadau i'r AI yn unioni'r sefyllfa. Y potensial arall yw y gallai fod angen i chi ailysgrifennu'r AI yn gyfan gwbl. Ar gyfer y math ML/DL o AI, gallai hyn olygu mynd yn ôl i'r bwrdd lluniadu a dechrau o'r newydd gyda set hollol newydd o ddata a model ML/DL wedi'i lanhau. Rwyf wedi trafod dyfodiad gwarth AI neu ddinistrio AI fel ateb cyfreithiol posibl yn erbyn AI anniogel, gweler y ddolen yma.

Un cwestiwn i'w drafod yw a fyddech chi am i'r helwyr haelioni wneud mwy o bosibl na dim ond nodi bodolaeth rhagfarnau AI. Er enghraifft, efallai y byddwch chi'n melysu'r bounty trwy nodi bod croeso i atebion arfaethedig hefyd. Tuedd AI dod o hyd gall heliwr bounty gael ei dalu un wobr neu wobr a nodir. Os gall yr heliwr bounty hefyd gynnig hyfywedd gosod i'r gogwydd AI efallai y byddant wedyn yn cael gwobr ychwanegol.

Mae rhai yn dadlau bod hon yn bont yn rhy bell. Maen nhw'n dweud y dylech chi gadw'r helwyr bounty bias AI yn canolbwyntio'n gyfan gwbl ar ddod o hyd i ragfarnau AI. Rydych chi'n mynd i greu criw o ganlyniadau anffafriol annymunol trwy eu gwahodd i awgrymu atebion hefyd. Cadwch bethau'n syml. Y nod yw cael cymaint o lygaid ychwanegol ar ddarganfod rhagfarnau AI fel y gallwch chi benderfynu beth i'w wneud nesaf. Peidiwch â mwdio'r dyfroedd.

Agwedd arswydus y mae angen ei chyfrifo yw maint y wobr neu'r wobr i'r helwyr hael sy'n darganfod rhagfarnau AI o ddifrif. Rydych chi am i'r ad-daliad fod yn ddangosol. Heb wobr ddigon uchel, ni fyddwch yn cael llawer o helwyr bounty neu ni fyddant yn arbennig o awyddus i chwilio am y rhagfarnau AI yn eich systemau AI. Yn lle hynny, efallai y byddant yn canolbwyntio ar ymdrechion bounty rhagfarn AI eraill.

Ar ben hynny, fel y crybwyllwyd, rydych chi am geisio atal awydd yr helwyr hael i droi eu darganfyddiadau rhagfarn AI yn fathau eraill o aur. Os yw'r wobr yn ymddangos yn gymedrol, gallai rwystro helwyr hael i chwilio am daliadau uwch eraill. Gallent gymryd agwedd ransomware tuag atoch chi. Efallai y byddant yn datgan bod ganddynt ragfarn AI suddlon y byddai cystadleuydd wrth eu bodd yn gwybod amdano ac y gallent ei ddefnyddio yn erbyn eich cwmni trwy awgrymu bod tuedd AI yn bodoli yn eich AI. Felly, maent yn gwerthu'r rhagfarn AI a ddarganfuwyd i'r cynigydd uchaf. Ac yn y blaen.

Mae un yn tybio, os byddwch chi'n gosod y wobr ar ystod hynod o uchel, rydych chi hefyd yn gofyn am drafferth bosibl. Gallai hyn ddenu pob math o helwyr bounty cneuog. Efallai y byddan nhw yn eu tro yn dilorni’r cyfryngau cymdeithasol gyda honiadau niwlog eu bod wedi dod o hyd i lu o ragfarnau AI, gan wneud hynny er eu hunan-hyrwyddo eu hunain a heb unrhyw ragfarn AI mewn gwirionedd. Ar un olwg, mae eich gwobr uwch yn anfwriadol yn taflu goleuni ar eich AI ac yn ysgogi llu o wyfynod anghol i gael eu denu'n niweidiol i'r pelydryn golau disglair.

Ystyriaeth arall yw hygyrchedd eich AI.

Er mwyn galluogi posibilrwydd hela bounty AI, mae'n rhaid i'r helwyr bounty gael mynediad digonol i'ch AI. Nid ydyn nhw'n mynd i gael llawer o lwc i ddod o hyd i dueddiadau AI os ydyn nhw wedi'u cloi allan yn llwyr. Ond nid ydych chi am roi'r gorau i'ch amddiffyniadau seiberddiogelwch oherwydd gallai gwneud hynny beryglu'ch system AI yn llwyr.

Efallai y byddwch yn ceisio cael yr helwyr bounty i lofnodi datganiadau cyfreithiol rwymol amrywiol ac yna rhoi'r mynediad angenrheidiol iddynt. Nid yw rhai helwyr bounty yn mynd i hoffi'r math hwnnw o ymagwedd. Eu safbwynt yw na fyddant ond yn gwneud beth bynnag y bydd unrhyw lwybr penagored sydd ar gael yn gyhoeddus yn ei ganiatáu. Maent yn mavericks rhydd, fel petai, ac nid ydynt yn hoffi cael eu cyfrwyo, fel petai. Bydd eu cael i roi eu llofnod ar ddogfennau cyfreithiol bygythiol yn achosi i lawer ohonyn nhw osgoi chwilio am ragfarnau AI yn eich AI. Neu efallai y byddan nhw'n cael sbecian ar eich her gyfreithiol ac yn penderfynu y byddan nhw'n gweld beth allan nhw ddod o hyd iddo trwy ddulliau cyhoeddus, gan wneud hynny gyda'r ysfa chwyrn efallai i ddangos i chi pa mor agored i niwed ydych chi mewn gwirionedd.

Mae gen i ongl arall a allai wneud i'ch pen droelli.

Efallai y bydd heliwr bounty deallus AI yn penderfynu dyfeisio system AI a all graffu ar eich AI ac o bosibl darganfod rhagfarnau AI yn eich AI. Dyma'r gwneuthurwr offer yn dewis gwneud teclyn i wneud y gwaith yn hytrach na pherfformio llafur llaw eu hunain. Yn hytrach nag archwilio'ch AI yn llafurus, mae'r heliwr bounty deallus AI yn treulio ei amser yn creu offeryn AI sy'n gwneud yr un peth. Yna maen nhw'n defnyddio'r offeryn AI ar eich AI. Y harddwch hefyd yw eu bod yn ôl pob tebyg yn gallu ailddefnyddio'r offeryn AI ar unrhyw un arall sydd hefyd yn cynnig cyfle hela hael ar eu AI priodol hefyd.

Rwy'n gwybod beth rydych chi'n ei feddwl mae'n debyg. Os gellir dyfeisio offeryn deallusrwydd artiffisial i archwilio AI am dueddiadau, dylai gwneuthurwr yr AI sy'n cael ei graffu ar gyfer rhagfarnau AI naill ai grefftio offeryn AI o'r fath neu brynu un at ei ddefnydd ei hun. Mewn theori, nid oes angen iddynt ymgodymu â'r carnifal helwyr bounty cyfan, i ddechrau. Defnyddiwch AI i ddod o hyd i'w rhagfarnau AI.

Ydy, mae hyn yn rhywbeth y gallwch chi ddisgwyl y bydd yn codi'n raddol. Yn y cyfamser, mae'n debygol y bydd prif gynheiliad yr ymdrechion hyn yn cynnwys datblygwyr AI yn hela bounty. Efallai y byddant yn defnyddio offer amrywiol i gynorthwyo eu hymdrechion, ond yn y tymor agos, maent yn annhebygol o osod yr offeryn AI yn awtomatig yn ddifeddwl a chymryd nap fel bod yr offeryn yn gwneud yr holl ragfarn AI yn chwilio amdanynt.

Nid ydym yno eto.

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau darluniadol a allai arddangos y pwnc hwn. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer digon o drafodaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am y defnydd o hela bounty rhagfarn AI, ac os felly, beth mae hyn yn ei arddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac fel arfer maent yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAADA
S (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan- Yrru A Hela Tuedd AI

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Rwy’n gobeithio bod hynny’n darparu litani ddigonol o gafeatau i danategu’r hyn yr wyf ar fin ei ddweud.

Yn fy ngholofnau, rwyf eisoes wedi trafod yn helaeth y defnydd o helwyr bounty sy'n canolbwyntio ar fygiau yn y byd cerbydau ymreolaethol a cheir sy'n gyrru eu hunain. Mae'r dull hwn yn wir wedi digwydd yn y gilfach hon. Ceir y dadleuon arferol ynghylch a yw’n syniad cadarn ai peidio. Bu'r ymdrechion fel arfer yn gyfyngedig eu natur, yn aml wedi'u cadw'n gymharol dawel.

Yn yr un modd, gall trafodaeth ddilyn pan fydd y ffocws yn symud tuag at chwilio am dueddiadau AI yn hytrach na chwilio am fygiau system fel y cyfryw. Mae rhai'n awgrymu ei fod yn grac os ydych chi'n gwneud hynny, yn ddrygionus os nad ydych chi'n pendroni.

Dyma pam.

Yn gyntaf, i fod yn glir, mae yna nifer o ffyrdd y bydd cerbydau ymreolaethol a cheir hunan-yrru yn destun rhagfarnau AI, gweler fy sylw yn y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig. Byddai gwneuthurwyr ceir a chwmnïau ceir hunan-yrru yn ymddangos yn ddoeth i geisio atal y rhagfarnau AI hynny rhag ymddangos yn eu systemau AI. Heb os, bydd y storm danio gyfreithiol a moesegol yn erbyn cwmnïau o'r fath yn ddwys.

A yw'r defnydd o ymdrech hela bounty bias AI yn ddull addas yn y cyd-destun penodol hwn?

Un ateb yw ie, bydd hyn yn ddefnyddiol ac yn darparu digonedd o setiau “am ddim” o lygaid newydd i geisio dal unrhyw ragfarnau AI sydd wedi'u hymgorffori mewn car hunan-yrru AI neu debyg. Mae'r rhan fwyaf o'r datblygwyr AI sy'n adeiladu ceir hunan-yrru yn brysur yn gwneud AI sy'n gallu gyrru car yn ddiogel o bwynt A i bwynt B. Maent yn ymgolli yn y gallu craidd hwnnw ac nid oes ganddynt yr amser na'r sylw tuag at unrhyw dueddiadau AI a allai fod yn rhywle. eu AI.

Yr ateb arall yw na ddylai, gan ganiatáu hela haelioni ar gyfer cerbydau ymreolaethol a cheir hunan-yrru ar unrhyw sail, boed ar gyfer bygiau neu dueddiadau AI, y dylid ei osgoi'n ffyrnig. Y ddadl yw bod y cerbydau hyn a'u AI o galibr bywyd neu farwolaeth. Gallai chwarae gyda'r AI mewn unrhyw fodd fod yn adfail rhywsut i'r AI ac effeithio ar yr hyn y mae'r system yrru AI yn ei wneud.

Gwrthddadl i'r pwynt olaf hwnnw yw nad yw'r helwyr hael i fod i allu newid yr AI y maent yn ei archwilio. Felly, nid oes unrhyw berygl iddynt wneud llanast gyda'r AI ac achosi i'r AI yn y cyd-destun hwn ddod yn system yrru AI gwallgof yn sydyn. Dim ond mynediad darllen-yn-unig y mae'r helwyr bounty yn ei chael. Byddai caniatáu iddynt fynd ymhellach yn gwbl wirion ac yn gamgymeriad enfawr.

Y gwrthddadl i'r wrthddadl honno yw, trwy ganiatáu ac annog helwyr hael i archwilio'ch AI, bod yr holl fater yn dod yn ddis. Gallai'r helwyr haelioni hynny ddarganfod ffyrdd o fanteisio ar unrhyw fygiau neu ragfarnau a ganfyddir. Gallai'r campau hynny yn eu tro fod at ddibenion cyfrwys. Byddai’n well ichi beidio â gwahodd “lladron” i’ch cartref, fel petai. Unwaith y byddan nhw wedi cau'r cymal allan, rydych chi'n mynd i fod mewn pentwr o drafferth yn y pen draw.

I'r rhai sydd â systemau AI o faint llai na bywyd-neu-farwolaeth, y gred yw bod ôl-effeithiau cyrch hela haelioni sy'n mynd o chwith yn llawer llai peryglus. Efallai felly. Ar y llaw arall, os yw cwmni wedi arllwys eu harian i system AI y mae helwyr bounty yn llwyddo i'w thrawsfeddiannu, gallwch gymryd yn ganiataol y bydd yr iawndal i enw da ac iawndal posibl arall yn dal i frifo.

Nid oes cinio am ddim pan ddaw i hela bounty rhagfarn AI.

Sylw cloi cyflym am y tro.

Pan geisiwyd y gwas drwg-enwog Jesse James yn ystod yr Hen Orllewin, argraffwyd poster “Yn Eisiau” a oedd yn cynnig swm o $5,000 i’w ddal (yn nodi “marw neu yn fyw”). Roedd yn swm eithaf anferth ar y pryd. Dewisodd un o aelodau ei gang ei hun saethu Jesse yn farw a chasglu'r wobr. Mae'n debyg bod hynny'n dangos pa mor effeithiol y gall bounty fod.

A fydd defnyddio helwyr bounty bias AI yn beth da, neu a fydd yn beth drwg?

Os byddwch yn dewis sefydlu ymdrech heliwr bounty rhagfarn AI, byddwn yn awgrymu eich bod yn cadw eich llygaid yn llydan agored ac yn edrych dros eich ysgwydd bob amser. Mae hyn yn ddarbodus i chi a'ch AI. Dydych chi byth yn gwybod beth allai ddigwydd, gan gynnwys bod heliwr haelioni sy'n cynllwynio rywsut yn mewnosod rhagfarn AI yn eich AI ac yn gweiddi i'r byd eu bod wedi dod o hyd i ragfarn AI diegwyddor yn eich AI. Efallai gwneud hynny mewn ymgais bres a chynhyrfus i geisio'r wobr bounty, yn ogystal â chyhoeddi eu hunain yn arwr a gafodd y bonheddig Jesse James yn ei hanfod.

Dewch i feddwl am y peth, mae'n debyg na fydd AI ymdeimladol yn hoffi'r syniad hwnnw o ddarpariaeth marw-neu-fyw annifyr, efallai y bydd rhywun yn dyfalu'n languorous hynny.