AI Moeseg Aflonyddwyd Gan Tsieina Diweddaraf Dyfeisiwyd AI Parti-Teyrngarwch Meddwl Darllen Cydnabyddiaeth Wyneb Ardystiad A allai Rhagweld Systemau Ymreolaethol Gormesol

Ydych chi'n ffyddlon?

Mewn egwyddor, efallai y bydd yn bosibl archwilio eich gweithredoedd amlwg a chanfod a yw eich gweithredoedd yn dangos teyrngarwch.

Tybiwch serch hynny y gwnaed ymgais yn lle hynny i ddarllen eich meddwl ac yn y cyfamser sganio'ch wyneb i bennu eich cyniferydd teyrngarwch. Mae hyn yn iasol ymwthiol; efallai y byddwch chi'n barod i wfftio. Mae'n swnio fel un o'r ffilmiau ffuglen wyddonol gwallgof hynny sy'n rhagweld cymdeithas dystopaidd yn y dyfodol.

Diolch byth, rydych yn sibrwd drosoch eich hun, nid oes gennym unrhyw beth felly heddiw.

Whoa, daliwch eich ceffylau.

Mae penawdau newyddion yn beio’n ddiweddar bod papur ymchwil a bostiwyd ar-lein yn Tsieina ar 1 Gorffennaf, 2022, yn darlunio astudiaeth a oedd i fod yn cynnwys asesiad o donnau ymennydd pobl a’u mynegiant wyneb at ddibenion cyfrifiadura a oeddent yn deyrngar i Blaid Gomiwnyddol Tsieineaidd (CCP) . Felly, dyna chi, mae'r dyfodol yn dod yn nes ac yn nes, o leiaf o ran cyrraedd y gymdeithas dystopaidd yr ydym wedi ei hofni a allai godi ryw ddydd.

Diflannodd y papur ymchwil yn gyflym o'i ddolen bostio ar-lein.

Yn ôl pob tebyg, roedd y gwawd cyflym a ysgubodd yn gyflym ar draws y Rhyngrwyd yn ddigon i dynnu'r papur i lawr. Neu, efallai bod yr ymchwilwyr eisiau gwneud ychydig o newidiadau geiriad a chywiriadau diniwed eraill, gyda'r nod o ail-bostio unwaith y byddant wedi cael cyfle mwy trylwyr i sicrhau bod yr i's yn frith a bod y cyfan wedi'i groesi. Bydd yn rhaid i ni gadw ein llygaid ar agor i weld a gaiff y papur ail fywyd.

Rydw i'n mynd i fynd ymlaen i blymio'n ddwfn i'r hyn rydyn ni'n ei wybod am yr astudiaeth ymchwil a cheisio cysylltu'r dotiau ynghylch sut mae'r math hwn o waith sy'n ymwneud â AI yn arwyddocaol i bob un ohonom, gan fynd ymhell y tu hwnt i gwmpas gweld hyn. fel y cyfyngir i un wlad neillduol. Bydd fy sylw ychydig yn fwy helaeth na'r adroddiadau diweddar eraill ar yr eitem hon sy'n haeddu sylw i'r newyddion, felly byddwch yn amyneddgar gyda mi.

Fy mhwyslais ychwanegol hefyd fydd bod yna gyfres o wersi Moeseg AI hanfodol y gallwn eu casglu o'r papur honedig. Am fy ymdriniaeth barhaus a helaeth o AI Moeseg ac AI Moesegol, gw y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Dyma beth sydd wedi cael ei grybwyll hyd yma am yr astudiaeth ymchwil.

Yn ôl pob tebyg, cafodd rhai “gwirfoddolwyr” eu recriwtio i gymryd rhan mewn arbrawf ynghylch canfyddiadau o'r CCP. Nid yw'n hysbys a oeddent yn wirfoddolwyr parod neu'n debycach i wirfoddolwyr celwyddog neu efallai tywysedig. Byddwn yn cymryd yn ganiataol er mwyn trafodaeth eu bod yn fodlon bod yn bwnc yn yr astudiaeth.

Rwy'n codi hyn i beidio â bod yn smart. Pryd bynnag y cynhelir arbrawf sy'n ymwneud â phobl, mae yna lu o arferion a dderbynnir yn gyffredinol ynghylch recriwtio a throchi pynciau o'r fath i mewn i ymdrech ymchwil. Mae hyn yn olrhain yn rhannol yn ôl i astudiaethau blaenorol a oedd yn aml yn twyllo neu'n gorfodi pobl i gymryd rhan mewn arbrawf, gan arwain ar adegau at ôl-effeithiau seicolegol andwyol neu hyd yn oed niwed corfforol i'r cyfranogwyr hynny. Mae'r gymuned wyddonol wedi ceisio'n nerthol i gwtogi ar y mathau hynny o astudiaethau llechwraidd ac yn mynnu bod pob math o ddatgeliadau a rhybuddion yn cael eu darparu i'r rhai y ceisir eu cynnwys mewn astudiaethau sy'n ymwneud â phobl.

I egluro, nid yw pawb yn cadw at ganllawiau darbodus a chydwybodol o'r fath.

Wrth symud ymlaen, dywedir bod 43 o bynciau, a dywedwyd eu bod yn aelodau o Blaid Gomiwnyddol Tsieina. Cofiwch fod y dewis o bynciau ar gyfer arbrawf yn eithaf hanfodol i'r arbrawf a rhaid hefyd ystyried unrhyw gasgliadau y gallech geisio eu cyrraedd wedi hynny am ganlyniadau'r arbrawf.

Tybiwch fy mod am wneud arbrawf am sut mae pobl yn canfod y gyfres Star Wars glodwiw. Os byddaf yn rhag-ddewis pynciau sydd i gyd yn casáu Star Wars yn aruthrol (sut gall pobl o'r fath fodoli?), a byddaf yn dangos clipiau fideo Star Wars iddynt, mae'n debyg eu bod yn mynd i ddweud eu bod yn dal yn casáu Star Wars. Yn seiliedig ar yr arbrawf ffug-wyddonol hwn, efallai fy mod yn honni’n slei bod pobl - yn gyffredinol - yn casáu Star Wars mewn gwirionedd, a gafodd ei “brofi” (wink-wink) yn fy lleoliad ymchwil a baratowyd yn “ofalus”.

Efallai na fyddwch yn gwybod fy mod wedi rigio'r olwyn roulette, fel petai, trwy rag-ddewis y pynciau yr oeddwn yn rhagweld y byddent yn cynhyrchu fy nghanlyniadau dymunol yn llechwraidd. Wrth gwrs, pe bawn yn fwriadol yn recriwtio pobl a oedd yn caru Star Wars ac a oedd yn gefnogwyr selog, mae'n debygol y byddent yn adrodd eu bod yn ecstatig wrth wylio'r clipiau Star Wars hynny. Unwaith eto, byddai unrhyw gasgliadau y daethpwyd iddynt ynghylch sut mae pobl, yn gyffredinol, yn ymateb i Star Wars yn cael eu lleddfu gan y set o bynciau a ddewiswyd ar gyfer yr ymdrech.

Mae'n debyg bod yr astudiaeth a oedd yn canolbwyntio ar y CCP wedi gosod y pynciau o flaen arddangosfa fideo tebyg i giosg a darllen erthyglau amrywiol am bolisïau a chyflawniadau'r CCP. Mae'n debyg mai dyma'r “driniaeth arbrofol” y mae'r pynciau yn cael ei hamlygu iddi. Wrth gynllunio arbrawf, byddwch fel arfer yn meddwl am ffactor neu agwedd arbrofol yr ydych am ei gweld a yw'n effeithio ar y cyfranogwyr.

Mae'n debyg mai'r cwestiwn ymchwil oedd yn cael ei archwilio oedd a fyddai'r weithred o adolygu'r deunyddiau hyn yn cael unrhyw effaith ar y pynciau o ran cynyddu, lleihau, neu fod yn niwtral o ran eu hargraffiadau dilynol o'r CCP.

Mewn rhagdybiaeth nwl glasurol, efallai y byddwch yn trefnu astudiaeth o'r fath i nodi nad yw'r deunyddiau a ddefnyddir yn cael unrhyw effaith ar yr argraffiadau dilynol a fynegir gan y pynciau. Unwaith y byddwch wedi gwneud cymhariaeth o'u safbwyntiau am y CCP o'r blaen ac ar ôl hynny, byddech yn ystadegol yn ceisio gweld a oedd canfyddiad ystadegol arwyddocaol o newid yn eu hargraffiadau.

Mae’n bosibl nad yw’r cyn ac ar ôl yn ystadegol wahanol, felly gallech ddod i’r casgliad yn rhesymol ar gyfer yr astudiaeth benodol hon nad oedd y deunyddiau a arddangoswyd (triniaeth arbrofol) i’w gweld yn gwneud gwahaniaeth yn eu hargraffiadau. Ar y llaw arall, pe bai gwahaniaeth ystadegol ddilys, byddech yn edrych i weld a oedd y ar ôl yn fwy na'r blaen, gan ganiatáu i chi awgrymu'n sinsir bod y deunyddiau wedi rhoi hwb i'w hargraffiadau (ac, ar ochr arall y darn arian, os mae'r ar ôl yn llai na'r blaen gallai hyn awgrymu bod y defnyddiau yn lleihau neu leihau eu hargraffiadau).

Mae yna lawer o bethau rhydd swnllyd y byddai angen delio â nhw mewn astudiaeth o'r fath.

Er enghraifft, rydym fel arfer am gael grŵp rheoli fel y'i gelwir y gallwn ei gymharu â'r rhai sy'n derbyn y driniaeth arbrofol. Dyma pam. Tybiwch mai'r weithred o eistedd o flaen ciosg i ddarllen defnyddiau oedd y gwir sail dros newid argraffiadau. Mae'n bosibl bod natur y deunyddiau a ddefnyddir yn fras yn amherthnasol i effaith yr argraff. Efallai mai dim ond eistedd a darllen unrhyw beth, fel y straeon diweddaraf am gathod sy'n gwneud pethau doniol, yn unig sy'n gwneud y tric. Mae’n bosibl felly y byddwn yn trefnu i rai pynciau fod yn ein grŵp rheoli sy’n agored i ddeunydd arall i’w ddarllen, heblaw am bolisïau a deunyddiau cyraeddiadau’r CCP.

Nid ydym yn gwybod a wnaethpwyd hynny yn yr achos hwn (mae'n ymddangos nad oes neb wedi sôn am yr agwedd hon eto).

Rwy'n sylweddoli eich bod bellach yn gwylltio am y rhan ffrwydrol o'r astudiaeth sy'n ymwneud â'r cyfryngau. Symudwn yn gyflym i'r rhan honno.

Sut y gallem ganfod a ymatebodd neu newidiodd y gwrthrychau yn yr arbrawf hwn eu hargraffiadau o ganlyniad i ddarllen y deunyddiau a arddangoswyd?

Modd arferol fyddai gofyn iddynt.

Efallai y byddech wedi rhoi holiadur ymlaen llaw sy'n gofyn iddynt eu hargraffiadau o'r CCP. Yna, yn dilyn dod i gysylltiad â'r driniaeth arbrofol, fel wrth ddarllen y deunyddiau sy'n cael eu harddangos, gallem weinyddu holiadur arall. Yna gellir cymharu'r atebion a roddwyd gan y pynciau ar sail cyn ac ar ôl hynny. Pe baem hefyd yn defnyddio grŵp rheoli, byddem yn cymryd yn ganiataol na fyddai atebion y grŵp rheoli yn newid yn sylweddol o'r blaen i'r ar ôl (o dan y gred na ddylai edrych ar straeon am gathod yn ffraeo fod wedi effeithio ar eu hargraffiadau CCP).

Nid yw'r weithred hon o ofyn i'r testunau am eu hargraffiadau o reidrwydd mor syml ag y gallai ymddangos.

Tybiwch fod y pynciau yn yr arbrawf yn cael synnwyr neu drifft cyffredinol eich bod am iddynt ymateb i'r driniaeth arbrofol mewn modd penodol. Yn yr achos hwnnw, efallai y byddant yn gorddatgan eu hymatebion yn fwriadol yn y rhan ar ôl y gweinyddu arbrofol. Rydych chi'n sicr wedi gweld hyn yn digwydd. Os ydw i'n gwneud prawf blas ar gyfer soda newydd yn dod i'r farchnad, efallai y byddwn i'n hoffi'r soda yn wyllt, gan wneud hynny yn y gobaith o gael sylw mewn hysbyseb gan y gwneuthurwr soda a chael fy mhymtheg munud haeddiannol o enwogrwydd. .

Yr hanfod yw nad yw gofyn am farn pobl yn ffordd sicr o fesur newidiadau. Mae'n un dull. Gellid defnyddio dulliau eraill yn aml, ac maent hefyd yn cael eu defnyddio.

Sut dewisodd yr astudiaeth benodol hon fesur ymateb y pynciau?

Yn ôl pob tebyg, defnyddiwyd o leiaf ddau ddull. Roedd un dull yn cynnwys gwneud sgan wyneb a defnyddio meddalwedd adnabod wynebau seiliedig ar AI i asesu adweithiau'r pynciau. Dywedwyd mai'r dull arall oedd rhyw fath o sganio tonnau ymennydd. Nid yw wedi cael ei adrodd eto pa fath o ddyfeisiadau sganio tonnau ymennydd a ddefnyddiwyd, na pha fath o feddalwedd dadansoddi tonnau ymennydd yn seiliedig ar AI a ddefnyddiwyd.

Mae adroddiadau amrywiol wedi nodi bod yr astudiaeth wedi datgan hyn am natur yr arbrawf: “Ar un llaw, gall farnu sut mae aelodau’r blaid wedi derbyn addysg meddwl ac addysg wleidyddol.” Ac yn ôl pob sôn, soniodd yr astudiaeth hyn hefyd: “Ar y llaw arall, bydd yn darparu data go iawn ar gyfer meddwl ac addysg wleidyddol fel y gellir ei wella a’i gyfoethogi.” Priodolwyd yr astudiaeth ymchwil i gael ei pherfformio dan nawdd Canolfan Wyddoniaeth Genedlaethol Cynhwysfawr Hefei Tsieina.

Mae adroddiadau yn y cyfryngau yn awgrymu bod yr astudiaeth yn cyfeirio at honiad bod y sganiau adnabod wynebau a'r sganiau tonnau ymennydd wedi gallu helpu i ganfod bod yr ôl-argraffiadau wedi'u hybu am y CCP.

Hoffwn nodi i chi, heb allu adolygu'r systemau a ddefnyddiwyd yn uniongyrchol ac archwilio'r papur ymchwil yn fanwl, nad ydym yn gwybod sut yn union y defnyddiwyd y systemau hynny sy'n seiliedig ar AI.

Mae'n bosibl mai ymateb i'r gosodiad arbrofol oedd y testunau yn hytrach nag ymateb i'r driniaeth arbrofol. Gallai unrhyw un sy'n cymryd rhan mewn astudiaeth fod yn bryderus, i ddechrau. Gallai hyn ddrysu unrhyw ymdrechion i wneud sganiau tonnau ymennydd neu ddadansoddi patrymau wyneb. Mae yna hefyd siawns eu bod yn teimlo eu bod wedi'u hysgogi i blesio'r ymchwilwyr, gan ddewis cael syniadau cadarnhaol ar ôl gweld y deunyddiau a gallai hyn mewn theori gael ei adlewyrchu yn y sganiau tonnau'r ymennydd a'r sganiau wyneb (efallai, ond gwyddoch fod yna lawer o llawer o ddadlau angerddol ynghylch dilysrwydd haeriadau o'r fath, fel yr egluraf yn fuan), gan obeithio gogwyddo'r canlyniadau a dangos iddynt gael eu heffeithio'n gadarnhaol.

Roedd ymateb Twitter yn dirmygu’n sylweddol bod yr union syniad o ddefnyddio sganiau tonnau ymennydd wedi’u grymuso gan AI ac adnabod wynebau ynddo’i hun yn weithred warthus a gwarthus. Dim ond angenfilod dynol fyddai'n defnyddio'r mathau hynny o ddyfeisiau, dywedir wrthym gan rai o'r trydariadau hynny.

Rhaid imi ofyn ichi eistedd i lawr a pharatoi eich hun ar gyfer rhywbeth a allai fod yn syndod anghwrtais ac ysgytwol.

Mae yna lawer o ymchwilwyr ledled y byd sy'n defnyddio'r un mathau o dechnolegau yn eu hastudiaethau ymchwil. Yn sicr nid dyma’r tro cyntaf erioed i allu sgan tonnau ymennydd gael ei ddefnyddio ar bynciau dynol mewn ymdrech ymchwil. Yn sicr, nid dyma hefyd oedd y tro cyntaf i adnabyddiaeth wyneb gael ei ddefnyddio ar bynciau dynol at ddibenion arbrofol. Bydd hyd yn oed chwiliad brysiog ar-lein yn dangos llawer iawn o astudiaethau arbrofol i chi ar draws pob math o wledydd a labordai sydd wedi defnyddio'r mathau hynny o ddyfeisiau.

Nawr, wedi dweud hynny, nid yw eu defnyddio i fesur teyrngarwch i'r CCP yn rhywbeth y byddech yn canolbwyntio llawer arno. Pan ddefnyddir AI o'r fath ar gyfer rheolaeth lywodraethol, mae llinell goch wedi'i chroesi, fel y dywedant.

Dyna'r rhan sy'n amlwg yn iasoer o'r cit a'r caboodle cyfan.

Y pryder a fynegwyd gan lawer yw, os bydd llywodraethau'n dewis defnyddio technoleg sganio tonnau ymennydd ac adnabod wynebau i ganfod teyrngarwch i'r cyfundrefnau dan sylw, byddwn yn cael ein hunain mewn byd dystopaidd o brifo. Pan fyddwch chi'n cerdded i lawr stryd gyhoeddus, mae'n bosibl y bydd dyfais sydd wedi'i gosod ar bostyn lamp yn pennu'ch cyniferydd teyrngarwch yn ddirgel.

Mae rhywun yn tybio os nad yw'ch wyneb yn awgrymu eich bod yn ddigon teyrngar, neu os yw'r sgan tonnau ymennydd yn awgrymu'r un peth, efallai y bydd lladron y llywodraeth yn rhuthro i fyny'n sydyn ac yn cydio ynoch chi. Anesmwyth. Abysmal. Rhaid peidio â chaniatáu.

Dyna graidd y rheswm pam y mae yna gynnwrf a dicter pennawd wedi codi ar yr eitem newyddion hon.

Dychmygwch hyn. Mae'n bosibl ein bod yn mynd i grefftio ac yna'n defnyddio systemau cyfrifiadurol sy'n defnyddio'r diweddaraf mewn AI i benderfynu a ydym yn ffyddlon ai peidio. Pe baech yn ceisio llogi pobl i eistedd o gwmpas a gwneud yr un peth, byddai angen llawer o bobl arnoch a byddai gennych broblem logisteg o geisio eu gosod i lygadu pawb. Yn achos system sy'n seiliedig ar AI, y cyfan sydd angen i chi ei wneud yw gosod y dyfeisiau electronig ar bolion lampau, ochrau adeiladau, ac ati. Gall y sganio am deyrngarwch ddigwydd 24 × 7, bob amser, ym mhob man sydd â'r offer priodol. Yna gellir bwydo hwn i gronfa ddata enfawr.

Rydyn ni'n dod yn fodau dynol sy'n ddim ond cocos mewn ecosystem ormesol gymdeithasol holl-weledol. Nid gwylio'r hyn a wnawn yn unig yw'r llygad sy'n gweld. Mae hefyd yn dehongli’r hyn y mae ein hwynebau’n honni ei ddweud am ein teyrngarwch i’r llywodraeth. Yr un modd y mae ein meddyliau i gael eu harchwilio am achos arswydus cyffelyb.

Yikes!

Mae pryder eilradd yn deillio o hyn hefyd, er efallai ddim mor arswydus o gymharu â goblygiadau Big Brother ag y brasluniwyd eisoes.

Ystyriwch y ddau gwestiwn dybryd hyn:

• A allwn ni honni'n ddibynadwy y gall sgan tonnau ymennydd dystio i'ch teyrngarwch?
• A allwn ni honni'n ddibynadwy y gall sgan adnabod wynebau dystio i'ch teyrngarwch?

Daliwch ati, efallai eich bod chi'n gweiddi ar ben eich ysgyfaint.

Yr wyf yn sylweddoli ac yn cydnabod efallai nad ydych yn poeni cymaint am yr agweddau dibynadwyedd per se. Mae p'un a ellir gwneud hyn yn ddibynadwy yn llai hanfodol na'r ffaith ei fod yn cael ei wneud o gwbl. Ni ddylai neb fod o dan y fath graffu. Anghofiwch a yw'r dechnoleg yn gweithio'n addas ar gyfer y dasg hon. Ni ddylem fod yn ymgymryd â'r dasg yn y man cychwyn.

Beth bynnag, yr ateb ar hyn o bryd yw na ysgubol, sef nad yw systemau AI presennol sy'n gwneud unrhyw ymddangosiad o “sganiau tonnau ymennydd” ac adnabod wynebau yn ddigon abl i wneud y naid honno.

Efallai eich bod wedi gweld yn ddiweddar bod rhai o'r gwneuthurwyr adnabod wynebau wedi gwneud rhywfaint o ôl-dracio o ran sut mae eu systemau adnabod wynebau'n cael eu defnyddio. Mewn postiad colofn sydd ar ddod, byddaf yn trafod yr ymdrechion diweddar er enghraifft gan Microsoft i geisio atal y llanw o'r rhai sy'n defnyddio'r offer adnabod wynebau a ddarperir gan Microsoft at ddibenion ymhell y tu hwnt i'r hyn y gall y dechnoleg ei wneud neu y dylid ei defnyddio ar ei gyfer. . Efallai y bydd o ddiddordeb i chi yn fy edrychiad cynharach ar y qualms AI Moeseg sydd eisoes wedi cael cyhoeddusrwydd da am adnabod wynebau, gweler y ddolen yma. Rwyf hefyd wedi trafod maes sganiau tonnau ymennydd, gweler fy nhrafodaeth yn y ddolen yma.

Yn gryno, nid oes unrhyw ddulliau dibynadwy na synhwyrol hyd yma i awgrymu y gall sgan tonnau ymennydd neu sgan adnabod wyneb honni ei fod yn darlunio teyrngarwch rhywun. Mae hyd yn oed agweddau sylfaenol yn ôl pob tebyg fel a allwch chi gydberthyn y sganiau hynny'n ddibynadwy ag a yw rhywun yn hapus yn erbyn trist yn dal i gael eu dadlau'n frwd. Mae ceisio codi cyn rhywbeth mor amorffaidd ac amrywiol â theyrngarwch yn bont yn rhy bell.

Efallai y byddaf yn ychwanegu, bod rhai yn credu'n gryf y byddwn yn cyrraedd yno yn y pen draw. Dyna pam yr wyf wedi ceisio nodi’n ofalus nad ydym yno eto, yn hytrach na datgan na fyddwn byth yn cyrraedd yno. Nid yw byth yn air mawr. Mae'n rhaid i chi fod yn gwbl sicr os ydych yn mynd i daflu o gwmpas y bydd hyn byth fod yn ddichonadwy (gan gadw mewn cof nad yw “byth” yn cwmpasu degawdau o nawr, canrifoedd o nawr, a miloedd neu filiynau o flynyddoedd o nawr).

Mae rhai wedi ymateb i'r stori newyddion am yr astudiaeth ymchwil labordy Tsieineaidd hon fel dangosydd o ba mor beryglus y mae'r byd yn gwyro at ddefnyddiau amhriodol a pheryglus o AI. Byddaf yn rhannu gyda chi yn fuan gipolwg ar yr hyn y mae AI Moeseg yn ei olygu. Bydd hyn yn eich helpu i weld yn gliriach pam mae'n ymddangos bod yr astudiaeth benodol hon yn mynd yn groes i lawer, os nad bron pob un o'r praeseptau a dderbynnir yn gyffredinol ar gyfer AI Moesegol.

Credwch neu beidio, mae rhai wedi awgrymu efallai ein bod ni'n gwneud mynydd allan o fylehill ynglŷn â'r astudiaeth benodol hon.

Ydyn ni?

Y gwrthddadl yw y gall twrch daear ddod yn fynydd yn ddigon buan. Yn y syniad diarhebol o belen eira sy'n mynd yn fwy ac yn fwy wrth iddi rolio i lawr rhiw eira, mae angen i ni atal y belen eira rhag cychwyn. Os byddwn yn goddef y mathau hyn o astudiaethau, rydym yn gadael i'r belen eira honno ddechrau ar ei thaith. Trwy godi llais a galw astudiaethau o'r fath, efallai y gallwn achub y blaen ar y belen eira.

Mae un peth yn sicr, rydym ar drothwy agor blwch Pandora o ran agweddau AI, ac erys y cwestiwn a allwn atal agor y blwch neu o leiaf ddod o hyd i ryw fodd i ddelio'n ddarbodus â beth bynnag a ddaw allan. unwaith y bydd y blwch wedi rhyddhau ei gynnwys cythreulig.

Os dim byd arall, gobeithio, bydd y mathau hyn o stormydd yn y cyfryngau yn ysgogi trafodaeth eang ynghylch sut yr ydym yn mynd i atal drygioni sy'n gysylltiedig ag AI ac osgoi risgiau dirfodol niferus sy'n deillio o AI. Mae angen i ni roi hwb i'n hymwybyddiaeth gymdeithasol o ystyriaethau Moeseg AI ac ystyriaethau AI Moesegol.

Cyn mynd i mewn i fwy o gig a thatws am yr ystyriaethau gwyllt a gwlanog sy'n sail i'r mathau hyn o systemau AI, gadewch i ni sefydlu rhai hanfodion ychwanegol ar bynciau hynod hanfodol. Mae angen i ni blymio'n fyr i AI Moeseg ac yn enwedig dyfodiad Dysgu Peiriant (ML) a Dysgu Dwfn (DL).

Efallai eich bod yn amwys yn ymwybodol bod un o'r lleisiau cryfaf y dyddiau hyn yn y maes AI a hyd yn oed y tu allan i faes AI yn cynnwys crochlefain am fwy o ymddangosiad o AI Moesegol. Gadewch i ni edrych ar yr hyn y mae'n ei olygu i gyfeirio at AI Moeseg ac AI Moesegol. Ar ben hynny, byddwn yn archwilio'r hyn yr wyf yn ei olygu pan fyddaf yn siarad am Machine Learning a Deep Learning.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefnau a dogfennaeth ddylunio.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n ddarostyngedig i gadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Gadewch i ni hefyd sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Gadewch i ni ddychwelyd at ein ffocws ar systemau AI a ddefnyddir at ddibenion camwedd amhriodol neu o bosibl yn llwyr a sut mae hynny'n berthnasol i'r astudiaeth a bostiwyd yn ddiweddar ar deyrngarwch CCP.

Daw dwy brif ystyriaeth i’r meddwl:

1) Mae'r enghraifft AI hwn yn rhan o batrwm parhaus mwy o beidio â defnyddio AI ac felly'n fygythiol ac yn agoriad llygad o ran yr hyn sy'n digwydd.

2) Gellid gadael y gath allan o'r bag fel pe bai AI fel hyn yn cael ei fabwysiadu mewn un wlad gellir ei ledaenu'n hawdd i wledydd eraill hefyd

Dechreuwch gyda'r pwynt cyntaf am yr achos hwn o AI yn rhan o batrwm parhaus.

Un sail hynod bwysig dros gael eich aflonyddu’n arbennig gan yr un astudiaeth benodol hon yw ei bod yn rhan o batrwm mwy o sut y mae AI yn anelu at gael ei ddefnyddio gan rai. Os mai dyma'r unig astudiaeth o'r fath a gynhaliwyd erioed, efallai y byddwn yn cael ein cynhyrfu ychydig ganddo. Serch hynny, mae'n debyg na fyddai'n atseinio mor frwd ag yr ydym yn ei weld yn awr.

Efallai mai dyma'r diferu diferu o fodfedd tuag at rywbeth sy'n mynd i fynd dros ben llestri.

Fel yr adroddwyd yn y newyddion, mae Tsieina yn adnabyddus am fynnu teyrngarwch allredog i'r CCP. Ar ben hynny, mae gwahanol ddulliau wedi'u sefydlu neu'n cael eu sefydlu i sicrhau bod pobl yn cael eu trwytho i athrawiaeth y llywodraeth. Mae achosion wedi'u dyfynnu o astudiaethau blaenorol yn ceisio dyfeisio algorithmau AI a allai fesur amodau meddwl aelodau'r blaid (gweler yr adroddiad a gefnogir gan Tsieina Amseroedd Astudio yn 2019 a soniodd am yr ymdrechion hyn).

Efallai y byddwch yn cofio bod yr Is-lywydd Mike Pence, yn 2018, wedi rhoi araith yn Sefydliad Hudson a phwysleisiodd fod “rheolwyr Tsieina yn anelu at weithredu system Orwellaidd sy’n seiliedig ar reoli bron pob agwedd ar fywyd dynol” (roedd hyn yn gyfeiriad at weithrediad CCP o system sgorio credyd cymdeithasol, pwnc o ddadl amlwg). Gallech haeru’n rhwydd bod yr astudiaeth CCP ddiweddar hon yn gam arall i’r cyfeiriad hwnnw.

Nid ydym yn gwybod pryd nac a fydd y gwellt olaf yn torri cefn y camel, fel bod yr astudiaethau untro hyn yn cael eu troi'n systemau monitro eang sy'n seiliedig ar AI.

Yr ail bwynt sy'n haeddu sylw yw na allwn gymryd yn ganiataol y bydd y math hwn o AI yn cael ei gyfyngu i Tsieina yn unig. Yn y bôn, er bod cael y math hwn o ddefnydd AI yn Tsieina a allai fynd yn eang yn peri gofid ynddo'i hun, gallai gwledydd eraill wneud yr un peth.

Unwaith y dywedir bod yr AI ar gyfer hyn yn barod ar gyfer amser brig, mae'n debyg na fydd yn cymryd llawer i wledydd eraill benderfynu eu bod am ei weithredu hefyd. Bydd y gath allan o'r bag. Mae'n debyg y bydd rhai gwledydd yn defnyddio'r AI hwn mewn ffyrdd gormesol llwyr ac nid yn ceisio cynnig unrhyw esgus ynglŷn â gwneud hynny. Mae'n debyg y gallai gwledydd eraill geisio defnyddio'r math hwn o AI at yr hyn sy'n ymddangos yn ddibenion buddiol, ac o'r rhain yn y pen draw mae anfantais a fydd bron yn anochel.

A dweud y gwir, mae awgrymu efallai mai dim ond pan fydd yn cael ei weld yn barod ar gyfer amser brig yn dipyn o gamgymeriad y bydd y math hwn o AI yn cael ei fabwysiadu. Efallai na fydd yn gwneud ychydig o wahaniaeth a all yr AI weithio'n sicr yn y modd hwn. Gellir defnyddio'r AI fel stori glawr, gweler fy esboniad yn y ddolen yma. Waeth beth mae'r AI yn gallu ei gyflawni mewn gwirionedd, y syniad yw y gall y AI fod yn esgus defnyddiol i ddod â monitro poblogaeth a chynlluniau i fesur a sicrhau teyrngarwch llwyr i awdurdodau.

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau darluniadol a allai arddangos y pwnc hwn. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer digon o drafodaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am gamddefnydd AI, ac os felly, beth mae hyn yn ei arddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru A Chamddefnyddio AI

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Rwy’n gobeithio bod hynny’n darparu litani ddigonol o gafeatau i danategu’r hyn yr wyf ar fin ei ddweud.

Gadewch i ni fraslunio senario car hunan-yrru a allai drosoli AI mewn ffyrdd bras neu gamwedd.

Rydw i'n mynd i rannu gyda chi rai o oblygiadau ceir hunan-yrru seiliedig ar AI a allai achosi i chi grynu a chael eich aflonyddu. Mae'r rhain yn agweddau nad oes bron neb yn eu trafod ar hyn o bryd. Rwyf wedi codi’r materion dro ar ôl tro, er yn cydnabod yn agored, hyd nes y byddwn yn mabwysiadu ceir hunan-yrru’n gyffredin, nad ydym yn mynd i gael llawer o sylw o ran cymdeithas yn poeni neu’n gofidio ar yr hyn sy’n ymddangos fel heddiw fel syniadau haniaethol yn unig. .

Ydych chi'n barod?

Dechreuwn gyda pheth gosod sylfaen.

Bydd ceir hunan-yrru seiliedig ar AI yn cynnwys camerâu fideo, yn synhwyrol felly. Mae hyn yn caniatáu i'r car sy'n gyrru ei hun dderbyn delweddau fideo o'r olygfa yrru. Yn ei dro, bwriad y system yrru AI sy'n rhedeg ar y cyfrifiaduron yn y car hunan-yrru yw archwilio'r fideo a gasglwyd yn gyfrifiadurol a darganfod ble mae'r ffordd, ble mae ceir cyfagos, ble mae cerddwyr, ac ati. Sylweddolaf fy mod yn adrodd 101 hanfodion ceir hunan-yrru.

Mae camerâu fideo wedi'u gosod ar y tu allan i'r cerbyd ymreolaethol ac maent yn pwyntio tuag allan. Yn ogystal, ar y cyfan, gallwch ddisgwyl y bydd camerâu fideo ar neu y tu mewn i'r cerbyd yn anelu i mewn i'r tu mewn i'r car hunan-yrru. Pam felly? Hawdd iawn, oherwydd bydd llawer o ddefnyddiau pwysig ar gyfer fideo i ddal yr hyn sy'n digwydd y tu mewn i'r cerbyd ymreolaethol.

Pan fyddwch chi'n mynd am reid mewn car sy'n gyrru ei hun, nid oes angen i chi fod yn yrrwr mwyach. Beth fyddwch chi'n ei wneud wedyn tra y tu mewn i gar sy'n gyrru ei hun?

Un peth y gallech chi ei wneud fyddai rhyngweithio ag eraill gartref neu yn y swyddfa. Dyna chi, ar eich ffordd i'r gwaith, a fydd yn dweud cymerwch awr o amser gyrru wrth y car sy'n gyrru ei hun, a gallwch chi ddechrau eich diwrnod o waith eisoes trwy wneud sesiwn ryngweithiol amser real ar-lein tebyg i Zoom. Gallant eich gweld, oherwydd bod y camerâu'n pwyntio i mewn i'r car sy'n gyrru ei hun. Gallwch eu gweld ar sgrin LED efallai y tu mewn i'r car hunan-yrru. Ar ddiwedd eich diwrnod, wrth fynd adref, efallai y byddwch chi'n cynnal trafodaeth fideo ryngweithiol debyg gyda'ch plant wrth iddynt ddechrau gwneud eu gwaith cartref gyda'r nos.

Defnydd arall fyddai cymryd dosbarthiadau. Nawr nad oes angen i chi wastraffu'ch amser yn gyrru, gallwch chi droi'r amser marw hwnnw y tu mewn i gar hunan-yrru i wella'ch sgiliau neu gael ardystiad neu radd. Trwy'r camerâu sy'n pwyntio i mewn, gall eich hyfforddwr eich gweld a thrafod sut mae'ch hyfforddiant yn dod yn ei flaen.

Defnydd arall eto fyddai ceisio sicrhau nad yw beicwyr mewn ceir sy'n gyrru eu hunain yn mynd yn wallgof. Mewn car sy'n cael ei yrru gan ddyn, mae'r gyrrwr yn bresenoldeb oedolyn sydd fel arfer yn atal beicwyr rhag gwneud pethau rhyfedd fel marcio'r tu mewn gyda graffiti. Beth fydd yn digwydd gyda cheir hunan-yrru seiliedig ar AI? Mae rhai yn poeni y bydd beicwyr yn dewis rhwygo tu mewn i'r cerbydau. Er mwyn ceisio atal hyn, mae'n debygol y bydd y cwmni rhannu reidiau sy'n defnyddio'r ceir hunan-yrru yn defnyddio camerâu fideo sy'n wynebu i mewn i fonitro'r hyn y mae pobl yn ei wneud tra y tu mewn i'r cerbyd ymreolaethol.

Yr wyf yn cymryd eich bod yn argyhoeddedig ein bod yn mynd i gael camerâu fideo sy'n pwyntio i mewn i'r tu mewn i geir hunan-yrru, yn ogystal â'r camerâu sy'n pwyntio tuag allan i ganfod y lleoliad gyrru.

Rydych chi nawr yn barod ar gyfer yr hyn rydw i wedi cyfeirio ato fel y llygad crwydrol, gweler fy nadansoddiad yn y ddolen yma.

Yn gyntaf, ystyriwch y camerâu fideo sy'n pwyntio tuag allan.

Ble bynnag mae'r car hunan-yrru'n mynd, mae'n bosibl y bydd yn gallu recordio ar fideo beth bynnag mae'r camerâu yn ei weld. Bydd car hunan-yrru sy'n rhoi lifft i rywun o'u cartref ac yn mynd â nhw i'r siop groser yn croesi cymdogaeth a bydd y fideo yn cofnodi nid yn unig y ffordd ond hefyd popeth arall sy'n digwydd o fewn golwg. Tad a mab yn chwarae yn eu iard flaen. Teulu yn eistedd ar eu porth blaen. Ymlaen ac ymlaen mae'n mynd.

Ar hyn o bryd, mae gennym gyn lleied o geir hunan-yrru ar y ffyrdd cyhoeddus fel bod y gallu hwn i ddal fideo o weithgareddau dyddiol yn gymharol brin ac amherthnasol.

Rhagweld ein bod yn y pen draw yn cyflawni ceir hunan-yrru diogel ac eang. Mae miloedd ohonyn nhw. Efallai miliynau. Mae gennym ni tua 250 miliwn o geir sy'n cael eu gyrru gan bobl yn yr Unol Daleithiau heddiw. Yn y pen draw, bydd y rhain yn cael eu disodli fwy neu lai gan geir hunan-yrru neu, yn syml, ni chânt eu defnyddio mwyach, a bydd gennym geir hunan-yrru ar ein ffyrdd yn bennaf. Mae'r ceir hunan-yrru hynny yn cael eu gyrru gan AI ac felly gallant fod yn crwydro 24 × 7 yn y bôn. Dim seibiannau gorffwys, dim egwyl ystafell ymolchi.

Gellid lanlwytho'r data fideo o'r ceir hunan-yrru hyn trwy gysylltiadau rhwydweithio electronig OTA (Over-The-Air). Bydd ceir hunan-yrru yn defnyddio OTA i gael y diweddariadau meddalwedd AI diweddaraf i'w llwytho i lawr i'r cerbyd. Yn ogystal, gellir defnyddio'r OTA i uwchlwytho data o'r car hunan-yrru i gronfa ddata yn y cwmwl.

Wedi dweud y cyfan, byddai'n ymarferol pwytho'r data hwn a uwchlwythwyd ynghyd. Gyda'r pwytho, mae'n bosibl y gallech chi gyfuno hynt a helynt dyddiol unrhyw un a gamodd y tu allan ar unrhyw ddiwrnod mewn unrhyw leoliad a oedd yn defnyddio ceir hunan-yrru'n helaeth.

Dyna’r llygad crwydrol yr wyf wedi bod yn rhybuddio yn ei gylch.

Gallwn yn awr asio astudiaeth CCP i'r math hwn o allu. Tybiwch fod gan lywodraeth fynediad i'r holl ddata fideo hwn a gasglwyd. Yna gallent ddefnyddio algorithm adnabod wynebau seiliedig ar AI i ganfod i ble yr aethoch, ar ba adeg o'r dydd, trwy gydol eich teithiau dyddiol o fywyd. Yn ogystal, mae'n debyg y gallent ddefnyddio eu dadansoddwr seiliedig ar AI “teyrngarwch” i weld a oedd yn ymddangos bod gennych olwg ffyddlon ar eich wyneb ai peidio.

Dychmygwch eich bod chi'n cerdded ar brynhawn dydd Mawrth i gael brechdan mewn bwyty lleol. Roedd ceir hunan-yrru yn mynd heibio ar y ffordd. Fe wnaeth pob un o'r fideos niferus eich dal wrth i chi gerdded pum munud i gael tamaid i'w fwyta. Llwythwyd y data i gronfa ddata ganolog. Cynhaliodd y llywodraeth ei rhaglen adnabod wynebau AI ar y data.

Yn troi allan yr AI “penderfynol” bod gennych chi olwg annheyrngar ar eich wyneb.

Efallai mai dim ond am amrantiad y digwyddodd yr olwg annheyrngar hon. Roeddech chi'n aros ar gornel stryd i'r golau newid er mwyn i chi allu croesi'r stryd i'r ystafell fwyta. Ar y foment honno, roedd gennych ychydig o ffieidd-dod y bu’n rhaid ichi aros yn rhy hir am symbol y Daith Gerdded. A oedd hyn efallai'n arwydd o'ch anffyddlondeb i'r llywodraeth?

Ie, yr AI a gyfrifir yn gyfrifiadol, yr oeddech yn bur annheyrngar ar yr amrantiad hwnnw mewn amser. Pan fyddwch chi'n cyrraedd adref y noson honno, mae'r llywodraeth wedi trefnu i chi gael eich arestio.

Ond aros, mae mwy.

Cofiwch fod camerâu fideo yn pwyntio i mewn hefyd.

Ar yr un dydd Mawrth, wrth i chi reidio i weithio mewn car hunan-yrru, roedd y camerâu fideo yn dal eich pob eiliad. Cafodd hwn ei lanlwytho i gronfa ddata ganolog. Gwnaeth y feddalwedd AI sy'n dadansoddi patrymau wyneb am anffyddlondeb archwiliad patrwm cyfrifiannol o'ch mynegiant wyneb yn ystod y daith i'r swyddfa.

Ar un adeg, roeddech yn edrych y tu allan i'r cerbyd ymreolaethol yn achlysurol ac yn sylwi ar weithiwr adeiladu a oedd yn rhwystro'r ffordd yn rhannol ac yn achosi i'r system yrru AI arafu'r car hunan-yrru. Am eiliad hollt, cofrestrodd eich wyneb olwg o wawd i'r gweithiwr adeiladu hwn sy'n arafu traffig.

Roedd y dadansoddiad patrwm wyneb AI yn dehongli hyn fel arwydd o anffyddlondeb i'r llywodraeth.

Dau drawiad yn dy erbyn mewn un diwrnod.

Rydych chi'n byw ar iâ tenau.

Wrth gwrs, mae p'un a yw'r AI yn “gywir” neu'n “anghywir” ynglŷn â gallu pennu eich teyrngarwch bron yn amherthnasol yn y cyd-destun hwn. Yr hanfod yw bod AI wedi'i roi ar waith at y diben hwn. Efallai na fydd y bodau dynol sy'n defnyddio'r AI yn poeni a yw'r AI o unrhyw ddefnydd addas ar gyfer y math hwn o dasg. Mae'r AI yn caniatáu rheolaeth lywodraethol, waeth beth fo'r dilysrwydd technolegol ei hun.

Mae hynny'n gorchuddio'r sganio wynebau.

Os bydd gennym yn y pen draw unrhyw fath o ddyfeisiadau cost-effeithiol cludadwy ar gyfer sganio tonnau ymennydd (honedig), yn sicr gellir cynnwys hyn hefyd mewn ceir hunan-yrru. Mae camerâu fideo yn beth sicr nawr. Nid yw'r posibilrwydd o gael dyfeisiau sganio tonnau ymennydd o'r safon hon yn y cardiau ar hyn o bryd, ond yn amlwg mae'n rhywbeth sy'n cael ei ragweld ar gyfer y dyfodol.

Ar gyfer fy archwiliad i sut y gallai llywodraeth geisio cymryd drosodd poblogaeth trwy fachu rheolaeth ar geir hunan-yrru, gweler y ddolen yma. Mae posibilrwydd tebyg y gallai actor maleisus geisio gwneud yr un peth, gw y ddolen yma. Ni fwriedir i’r rheini fod yn dactegau brawychus o ran sylw i’r pynciau cysylltiedig hynny, ac yn lle hynny, rhoi sylw i bwysigrwydd seiberddiogelwch a rhagofalon eraill y mae’n rhaid i ni fel cymdeithas geisio eu cymryd ynghylch dyfodiad ceir hunan-yrru hollbresennol a cerbydau ymreolaethol eraill.

Casgliad

Hoffwn ymdrin yn gyflym ag un agwedd ychwanegol ar yr AI yn cael ei ddefnyddio i ganfod teyrngarwch sydd, yn fy marn i, yn bwnc ychydig ar wahân, ond yn un y mae rhai trydariadau a chyfryngau cymdeithasol wedi bod yn sôn amdani.

Soniais yn gynharach nad oes gennym AI ymdeimladol ac nid ydym yn gwybod os na phryd y byddwn. Gadewch i ni ddiddanu'r syniad y bydd gennym AI ymdeimladol. Yn yr achos hwnnw, ystyriwch y senario ganlynol.

Rydym ni trwy AI nad yw'n synhwyrol yn dewis rhoi defnydd eang o AI ar waith sy'n canfod yn gyfrifiadol a yw pobl yn ffyddlon i'w llywodraeth, gan ddefnyddio sganiau wyneb, sganiau tonnau ymennydd, ac ati. Mae hwn yn cael ei redeg yn gyfan gwbl gan fodau dynol mewn awdurdod ac yn cael ei ddefnyddio ganddynt. Dyna’r senario annifyr yr wyf wedi bod yn ei ddisgrifio eiliadau ynghynt.

Amser i fyny'r ante.

Mae AI yn dod yn deimladwy. Rydym bellach o bosibl wedi rhoi i’r AI teimladol hwn allu eang i nodi teyrngarwch ac anffyddlondeb mewn bodau dynol yn ôl pob tebyg. Gallai AI sy’n gwneud drwg ac sy’n ystyried dileu bodau dynol ddefnyddio’r gallu hwn i benderfynu bod bodau dynol yn wir yn mynd i fod yn annheyrngar ac y dylid eu dinistrio’n gyfan gwbl. Neu efallai mai dim ond y bodau dynol hynny sy'n dangos arwydd o anffyddlondeb trwy eu hwynebau neu eu meddyliau sydd i gael eu dileu yn arbennig.

Ongl arall yw bod yr AI yn dymuno caethiwo bodau dynol, gweler fy nhrafodaeth yn y ddolen yma.

Mae'n ymddangos ein bod wedi rhoi anrheg berffaith i'r AI ar gyfer cyflawni'r ymchwil honno. Mae'r seilwaith presennol rydyn ni'n ei roi ar waith yn caniatáu i'r AI gadw golwg ofalus arnom ni fel bodau dynol. Mae'r rhai sy'n ymddangos fel pe baent wedi mynegi arwydd wyneb annheyrngar neu wedi meddwl am yr arglwydd(ion) AI yn mynd i deimlo digofaint yr AI.

Rwy'n sylweddoli fy mod wedi dweud bod hyn yn upping of the ante. Nid wyf yn siŵr a yw hynny'n wir. Mae'n ymddangos i mi, p'un a oes gennym or-arglwyddi AI yn penderfynu'n uniongyrchol ar ein tynged yn erbyn gor-arglwyddi dynol sy'n perchance defnyddio system AI i bennu teyrngarwch, wel, nid yw'r naill gynnig na'r llall yn ymddangos yn arbennig o ddymunol.

Sylw olaf am y tro.

Dywedodd yr ysgolhaig ac athronydd Rhufeinig Marcus Tullius Cicero nad oes dim byd mwy bonheddig, dim byd mwy hybarch, na theyrngarwch. Efallai ein bod yn gadael i AI fynd ar y blaen i ni a dod yn arf i ymrestru a sicrhau “teyrngarwch” trwy ddulliau ofnadwy.

Rheswm ystyriol gwerth chweil i roi AI Moeseg ar frig ein rhestr I'w Gwneud.