AI Moeseg Yn Cwestiynu'n Sych Clonio Llais Dynol Fel Rhai Eich Perthnasau Ymadawedig, y Bwriedir Ei Ddefnyddio Mewn Systemau Ymreolaethol AI

Wps, mae darn o dechnoleg newydd sy'n edrych yn dda wedi dod yn dipyn o ddŵr poeth ei hun a'i wneuthurwr.

Rwy'n cyfeirio at ymddangosiad clonio llais dynol yn seiliedig ar AI fel y dechnoleg newydd a lwyddodd i fynd i mewn i'r prif newyddion oh-my-gosh yn ddiweddar. Yn yr achos hwn, y cwmni yw Amazon a'i Alexa sy'n datblygu'n barhaus.

Efallai y bydd darllenwyr fy ngholofn yn cofio fy mod wedi rhoi sylw i’r bw-bŵ anweddus a ddigwyddodd o’r blaen pan adroddwyd bod llanc wedi’i annog gan Alexa i roi ceiniog mewn soced drydanol (peidiwch â gwneud hyn!), gweler fy sylw yn y ddolen yma. Yn yr amgylchiadau hynny, yn ffodus, ni chafodd neb ei anafu, a'r canlyniad oedd ei bod yn debyg bod system Alexa AI wedi canfod tuedd firaol blaenorol a heb unrhyw fath o asesiad synnwyr cyffredin dim ond ailadrodd yr awgrym gwallgof pan ofynnwyd am rywbeth hwyl i'w wneud gan. plentyn yn rhyngweithio â Alexa. Mae hyn yn tynnu sylw at y pryderon Moeseg AI ein bod yn cael ein boddi gan AI sy'n brin o unrhyw ymddangosiad o resymu synnwyr cyffredin, problem hynod anodd sy'n wynebu AI sy'n parhau i herio ymdrechion i ymgorffori mewn AI (ar gyfer fy nadansoddiad am ddeillio synnwyr cyffredin sy'n seiliedig ar AI). ymdrechion, gw y ddolen yma).

Mae'r llwchydd diweddaraf yn golygu clonio llais, a elwir hefyd yn ddyblygu llais. Mae'r diweddaraf mewn technoleg ac AI o'r fath yn codi ystyriaethau Moeseg AI ac AI Moesegol dybryd. Am fy ymdriniaeth gyffredinol barhaus o AI Moeseg ac AI Moesegol, gweler y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae clonio llais yn seiliedig ar AI yn gysyniad syml.

Mae system AI wedi'i rhaglennu i recordio rhai o'ch geiriau llafar yn sain. Yna mae'r AI yn ceisio darganfod eich patrymau lleferydd yn gyfrifiadol. Yn seiliedig ar y patrymau lleferydd a ganfuwyd, mae'r AI wedyn yn ceisio allyrru lleferydd sain sy'n swnio'n union fel chi. Y rhan anodd yw bod yr araith yn cwmpasu geiriau nad oeddech wedi'u darparu o'r blaen fel samplau sain i'r AI. Mewn geiriau eraill, mae'n rhaid i'r AI amcangyfrif yn fathemategol sut y gallai geiriau gael eu siarad gennych chi. Mae hyn yn cynnwys holl nodweddion lleferydd megis y tôn, codiad a gostwng y llais, cyflymder neu gyflymder siarad, ac ati.

Pan glywch fod dynol yn ceisio dynwared bod dynol arall, fel arfer gallwch ddirnad mai dynwarediad yw'r ymdrech. Yn y tymor byr, megis os yw'r dynwaredwr yn defnyddio ychydig eiriau yn unig, efallai y bydd yn anodd darganfod nad y llais yw'r siaradwr gwreiddiol. Ar ben hynny, os yw'r dynwaredwr yn dynwared geiriau a siaradodd y siaradwr gwreiddiol mewn gwirionedd, y tebygolrwydd yw y gallant diwnio eu llais eu hunain i lais y person arall yn fwy felly ar gyfer yr ymadrodd penodol hwnnw.

Gall crynoder a chlywed yr un geiriau yn union ganiatáu i rywun hoelio dynwared fwy neu lai.

Daw'r her yn eiriau eglurhaol nad yw'r person arall wedi'u siarad neu eiriau nad yw'r dynwaredwr erioed wedi clywed y person yn siarad y geiriau penodol hynny amdanynt. Yr ydych braidd yn y tywyllwch ynglŷn â cheisio darganfod sut y byddai’r person a ddynwaredwyd wedi dweud y geiriau hynny. Y newyddion da yw os nad yw unrhyw un arall sy'n gwrando ar y dynwaredwr hefyd yn gwybod sut y byddai'r person gwreiddiol wedi dweud y geiriau, gall y dynwaredwr fod yn gymharol bell o'r gwir lais ac eto'n dal i ymddangos yn dandi ac ar y targed.

Hoffwn hefyd dynnu o'r hafaliad am ennyd ystumiau a symudiad corfforol y dynwarediad. O weld dynwaredwr, efallai y byddwch chi'n cael eich syfrdanu os ydyn nhw'n gallu crychau eu hwyneb neu ffustio eu breichiau mewn modd sydd hefyd yn dynwared y person sy'n cael ei ddynwared. Mae ciwiau ychwanegol y corff a'r wyneb yn mynd i dwyllo'ch meddwl i feddwl bod y llais hefyd yn farwol, er efallai nad yw. Byddai purydd dynwared llais yn mynnu mai dim ond y llais yn unig y dylid ei ddefnyddio fel y maen prawf ar gyfer penderfynu a yw'r llais yn dynwared y person sydd wedi'i ddynwared yn briodol.

Yn sicr, rydych chi wedi gweld yr amrywiol fideos ffug ffug sy'n mynd o gwmpas y dyddiau hyn ar gyfryngau cymdeithasol. Mae rhywun yn rejigger fideo yn glyfar i gael wyneb rhywun arall yn ymddangos yn y fideo, gan droshaenu wyneb rhywun arall yn y recordiad gwreiddiol. Mae hyn fel arfer hefyd yn cyd-fynd â gwneud deepfake ar y llais hefyd. Rydych chi'n cael whammy dwbl, sy'n cynnwys y fideo yn cael ei newid yn weledol trwy AI deepfake a'r sain yn cael ei newid trwy AI deepfake.

Er mwyn trafodaeth yma, rwy'n canolbwyntio ar yr agweddau sain dwfn ffug seiliedig ar AI yn unig, y cyfeirir atynt yn gyffredin fel clonio llais neu ddyblygu llais. Mae rhai yn cyfeirio'n ddigywilydd at hyn fel llais mewn can.

Rwy’n siŵr bod rhai ohonoch ar hyn o bryd yn annog ein bod wedi cael y gallu i ddefnyddio rhaglenni cyfrifiadurol i glonio lleisiau ers cryn amser. Nid yw hyn yn ddim byd newydd fel y cyfryw. Rwy'n cytuno. Ar yr un pryd, mae angen inni gydnabod bod y gallu uwch-dechnoleg hwn yn gwella ac yn gwella. Wel, rwy'n dweud yn well ac yn well, ond efallai fel y gwelwch mewn eiliad y dylwn fod yn dweud ei fod yn mynd yn fwyfwy pryderus ac yn fwy pryderus.

Daliwch ati i feddwl.

Mae'r gallu technolegol yn sicr yn symud ymlaen ar gyfer clonio llais. Er enghraifft, roedd yn arfer bod yn rhaid i chi “hyfforddi” rhaglen atgynhyrchu sain AI trwy siarad stori gyfan o eiriau cymysgu a chyfateb. Yn debyg i linell enwog neu waradwyddus y llwynog brown cyflym a neidiodd dros y ci diog (llinell a fwriadwyd i gael rhywun i orchuddio holl lythrennau'r wyddor), ceir straeon byrion wedi'u crefftio'n arbennig sy'n cynnwys cymysgedd o eiriau at ddibenion cael chi i ddweud digon o eiriau ac amrywiaeth ddigon eang o eiriau i wneud y paru patrwm AI yn llawer haws.

Efallai eich bod wedi gorfod darllen sawl tudalen o eiriau, yn aml weithiau'n cynnwys geiriau rydych chi'n ei chael hi'n anodd eu hynganu a ddim hyd yn oed yn siŵr beth maen nhw'n ei olygu, er mwyn galluogi paru patrymau AI i ddigwydd yn ddigonol. Gallai hyn gymryd llawer o funudau neu weithiau oriau o siarad i roi digon o sain i'r AI ei ddefnyddio i ddod o hyd i batrymau gwahanol o'ch llais. Pe baech chi'n newid y gweithgaredd hyfforddi hwn yn fyr, y tebygrwydd oedd y byddai'r atgynhyrchu llais canlyniadol yn cael ei saethu i lawr yn hawdd gan unrhyw ffrindiau i chi sy'n adnabod eich llais yn dda.

Iawn, roedd diddordeb datblygwyr AI wedyn yn canolbwyntio ar sut i wneud y gorau o'r agweddau atgynhyrchu sain. Mae adeiladwyr AI wrth eu bodd â heriau. Dywedir eu bod yn optimeiddio'r galon. Rhowch broblem iddynt a byddant yn tueddu i wneud y gorau, waeth ble y gallai hynny arwain (rwyf yn sôn am hyn fel rhagfynegiad, a fydd yn dod yn gliriach yn fuan).

Atebwch hyn i mi:

• Beth yw'r swm lleiaf o sampl sain y byddai ei angen i glonio llais person i'r eithaf ac y gall y sampl sain fod bron yn unrhyw set o eiriau a ganiateir ar hap ac eto'n dal i ganiatáu ar gyfer clonio llais i gynhyrchu bron unrhyw eiriau a allai gael eu siarad erioed gan y llais wedi'i dargedu a sain sydd yn ei hanfod yn union yr un fath â llais y person hwnnw mewn lleoliad sgyrsiol neu gyd-destunol arall o ddewis?

Mae yna lawer i'w ddadbacio.

Cofiwch eich bod chi eisiau'r lleiafswm sampl sain a fydd yn clonio llais i'r eithaf, fel y bydd yr ymadroddion AI canlyniadol yn y llais sydd bellach wedi'i ailadrodd yn awtomataidd yn ymddangos yn hollol anwahanadwy oddi wrth y person ei hun. Mae hyn yn anoddach nag y gallech feddwl.

Mae bron fel y sioe gêm honno lle mae'n rhaid i chi geisio enwi cân yn seiliedig ar y nifer lleiaf o nodau a glywir. Po leiaf o nodau a chwaraeir, anoddaf yw hi i ddyfalu pa gân ydyw. Os yw'ch dyfalu'n anghywir, rydych chi'n colli'r pwyntiau neu'n colli'r gêm. Mae yna frwydr ynghylch a ddylech chi ddefnyddio un nodyn yn unig, y cliw lleiaf posibl, ond yna mae'n debyg bod eich tebygolrwydd o ddyfalu'r gân yn cael ei leihau'n ddifrifol. Po fwyaf o nodiadau y byddwch chi'n eu clywed, yr uchaf yw'r tebygolrwydd o ddyfalu'r gân gywir, ond rydych chi'n caniatáu i gystadleuwyr eraill gael mwy o siawns o ddyfalu hefyd.

Cofiwch ein bod hefyd yn delio â'r syniad o eiriau rhagnodedig yn erbyn dim ond unrhyw eiriau yn achos clonio llais. Os yw person yn dweud y geiriau “Ni allwch drin y gwir” a'n bod am i'r AI ddynwared neu ddynwared y person, mae'n debyg y gall yr AI yn gyfrifiadol ddal ar y patrwm yn hawdd. Ar y llaw arall, mae'n debyg mai dim ond y geiriau hyn sydd gennym fel y'u llefarwyd gan y person hwnnw "Ai dyna'r cyfan sy'n rhaid i chi ofyn i mi" ac rydym am ddefnyddio'r geiriau hynny wedyn i gael yr AI i ddweud "Ni allwch drin y gwir." Rwy'n meddwl y gallwch weld yr anhawster o hyfforddi ar un set o eiriau a gorfod allosod i set hollol wahanol o eiriau.

Elfen galed arall yw cyd-destun y geiriau llafar. Tybiwch ein bod yn eich cael chi i recordio brawddeg ar sain pan fyddwch chi'n ddigynnwrf ac yn gartrefol. Mae'r AI yn patrwm y geiriau hynny. Gallai hefyd batrwm i dawelwch eich llais. Dychmygwch ein bod ni wedyn am i'r AI esgus mai chi yw hi pan fyddwch chi'n sgrechian yn wallgof ac yn ddig fel cacynen. Gall cael y AI ystumio'r patrwm gwreiddiol i ddod yn fersiwn wedi'i gythruddo'n gywir o'ch llais fod yn frawychus.

Pa fath o isafswm yr ydym yn edrych arno?

Y nod ar hyn o bryd yw torri'r marc munud.

Cydio mewn llais wedi'i recordio y mae gennych werth llai na munud o sain ar ei gyfer a chael yr AI i wneud yr holl glonio llais anhygoel o'r sampl minwswl hwnnw yn unig. Rwyf am egluro y gall bron unrhyw un gyfansoddi AI a all wneud hyn yn gyffredinol mewn llai nag un munud, er bod y clôn llais canlyniadol yn wimpy ac yn hawdd ei ganfod yn anghyflawn. Unwaith eto, rwy'n dweud yn bendant ac yn bendant bod yr amser samplu mor fyr â phosibl ac yn y cyfamser mae'r clonio llais ar ei uchaf. Gall dolt gyflawni lleiafswm samplu os caniateir iddynt hefyd fod yn hynod submaximal mewn clonio llais.

Mae hon yn her dechnolegol hwyliog a chyffrous. Ond efallai eich bod yn pendroni ynghylch gwerth neu rinweddau gwneud hyn. I ba ddiben yr ydym yn ceisio? Pa fuddion i ddynolryw y gallwn eu disgwyl trwy allu dyblygu llais ar sail AI mor effeithlon ac effeithiol?

Rwyf am ichi gloriannu'r cwestiwn cigog hwnnw.

Gall yr ateb anghywir eich arwain yn anfwriadol i bentwr o fwsh.

Dyma rywbeth sy'n ymddangos yn galonogol ac yn gwbl gadarnhaol.

Tybiwch y gallai fod gennym recordiadau hen amser o bobl enwog fel Abraham Lincoln a'n bod yn gallu defnyddio'r pytiau sain llychlyd hynny ar gyfer crefftio clôn llais yn seiliedig ar AI. Yna gallem glywed Lincoln yn siarad Anerchiad Gettysburg fel pe baem yno ar y diwrnod y traddododd yr araith gofiadwy bedair ugain a saith mlynedd yn ôl. Fel nodyn ochr, yn anffodus, nid oes gennym unrhyw recordiadau sain o lais Lincoln (nid oedd y dechnoleg yn bodoli eto), ond mae gennym recordiadau llais o'r Arlywydd Benjamin Harrison (y cyntaf o arlywyddion yr Unol Daleithiau i gael recordiad llais wedi'i wneud ohono. ) a llywyddion eraill wedi hyny.

Rwy'n credu y byddem i gyd yn debygol o gytuno'n rhesymol bod y defnydd penodol hwn o glonio llais yn seiliedig ar AI yn berffaith iawn. Yn wir, mae'n debyg y byddem ni eisiau hyn yn fwy felly na phe bai actor heddiw yn ceisio cymryd arno eu bod yn siarad fel Lincoln. Mae'n debyg y byddai'r actor yn gwneud i fyny beth bynnag roedd gwir lais Lincoln yn ei feddwl. Byddai'n ffabrig, efallai ymhell o'r hyn oedd llais Lincoln. Yn lle hynny, trwy ddefnyddio system clonio llais AI â chymwysterau da, ni fyddai llawer o ddadlau ynghylch sut roedd llais Lincoln yn swnio'n wirioneddol. Byddai'r AI yn ffeithiol gywir, o leiaf i'r graddau y mae'r AI yn atgynhyrchu'r llais wedi'i dargedu.

Yn y categori daioni am glonio llais AI, gallwn sgorio buddugoliaeth gyda'r math hwn o achos defnydd.

Ddim eisiau bod yn dywyll, ond mae yna anfantais hyd yn oed i'r defnydd hwn sy'n edrych yn gyfan gwbl wyneb yn wyneb.

Mae rhywun yn defnyddio system clonio llais AI i ddarganfod llais Theodore Roosevelt (“Tedi”), ein 26 gwerthfawr.^th Llywydd yr Unol Daleithiau, naturiaethwr, cadwraethwr, gwladweinydd, llenor, hanesydd, a bron yn gyffredinol wedi'i labelu'n berson uchel ei barch. Gallai areithiau a roddodd ac nad oes gennym unrhyw fersiynau sain hanesyddol ar eu cyfer bellach gael eu “llefaru” fel pe bai ef yn bersonol yn siarad heddiw. Hwb clodwiw i astudio hanes.

Gadewch i ni droi hyn yn hyll, yn syml at ddibenion datgelu ei anfanteision.

Rydym yn defnyddio clôn llais Teddy seiliedig ar AI i ddarllen araith a roddwyd gan unben drwg. Nid yw'r AI yn poeni am yr hyn y mae'n ei siarad gan nad oes unrhyw deimlad o deimlad yn yr AI. Yn syml, geiriau yw geiriau, neu'n fwy cywir dim ond pwff o sain.

Efallai eich bod yn arswydus y byddai rhywun yn gwneud rhywbeth o'r natur ddidwyll hon. Pam yn yr heck y byddai llais cloniog AI-seiliedig ar Theodore Roosevelt enwog a pharchus yn cael ei ddefnyddio i draddodi araith nid yn unig na wnaeth Teddy yn wreiddiol, ond ar ben hynny mae'n siarad ar bwnc sy'n darlunio rhywfaint o ddrygioni peth dirmygus unben?

Gwarthus, efallai y byddwch yn exclaim.

Wedi'i wneud yn hawdd, daw'r ateb.

Yn y bôn, un pryder pwysig iawn am y llais sy'n seiliedig ar AI yn atgynhyrchu yw y byddwn yn sydyn yn cael ein hunain yn orlawn mewn ffug neu a fyddwn yn dweud areithiau a geiriau ffug dwfn nad oes a wnelont ag unrhyw ffeithiau neu gywirdeb hanesyddol. Os bydd digon o'r rhain yn cael eu gwneud a'u lledaenu, efallai y byddwn ni'n drysu rhwng beth sy'n ffaith yn erbyn ffuglen.

Gallwch weld yn helaeth sut y gallai hyn godi. Gan ddefnyddio clôn llais seiliedig ar AI, mae rhywun yn gwneud recordiad sain o Woodrow Wilson yn rhoi araith na roddodd erioed mewn gwirionedd. Mae hwn yn cael ei bostio ar y Rhyngrwyd. Mae rhywun arall yn clywed y recordiad ac yn credu mai dyna'r peth go iawn. Maent yn ei bostio yn rhywle arall, gan sôn eu bod wedi dod o hyd i'r recordiad hanesyddol gwych hwn o Woodrow Wilson. Yn ddigon buan, mae myfyrwyr mewn dosbarthiadau hanes yn defnyddio'r sain yn lle darllen fersiwn ysgrifenedig yr araith.

Nid oes neb yn y diwedd yn gwybod a roddwyd yr araith gan Woodrow Wilson ai peidio. Efallai ei fod, efallai nad oedd, ac mae pawb yn dweud nad yw'n bwysig y naill ffordd na'r llall (wel, y rhai nad ydynt yn canolbwyntio ar gywirdeb a ffeithiau hanesyddol). Wrth gwrs, os yw'r araith yn un erchyll, mae hyn yn rhoi camargraff neu bortread camwybodaeth o'r ffigwr hanesyddol hwnnw. Mae hanes a ffuglen yn cael eu huno yn un.

Hyderaf eich bod yn argyhoeddedig gobeithio bod hyn yn anfantais sy'n gysylltiedig â chlonio llais seiliedig ar AI.

Unwaith eto, gallwn ni wneud y mathau hyn o bethau eisoes, gan wneud hynny heb y llais mwy newydd a gwell sy'n seiliedig ar AI yn atgynhyrchu, ond bydd yn haws gwneud hyn a bydd yn anodd iawn gwahaniaethu rhwng y sain a'r ffug go iawn a'r sain sy'n deillio o hynny. Y dyddiau hyn, gan ddefnyddio rhaglenni cynhyrchu sain confensiynol, gallwch fel arfer wrando ar yr allbwn ac yn aml yn hawdd canfod bod y sain yn ffug. Gyda'r datblygiadau mewn AI, yn fuan ni fyddwch yn gallu credu'ch clustiau mwyach, mewn ffordd o siarad.

Cyn waethed ag y gallai clonio llais ffigurau hanesyddol fod, mae angen i ni feddwl am y defnyddiau a allai fod yn arbennig o ddirfawr sy'n ymwneud â phobl fyw heddiw.

Yn gyntaf, a ydych chi erioed wedi clywed am sgam braidd yn boblogaidd sy'n cynnwys rhywun yn dynwared bos neu'r hyn sy'n cyfateb iddo? Rai blynyddoedd yn ôl, roedd yna chwiw annifyr o alw bwyty neu siop ac esgus bod yn fos ar y sefydliad. Byddai'r ffuglen yn golygu dweud wrth aelod o staff am wneud pethau chwerthinllyd, rhywbeth y byddent yn aml yn ei wneud yn ddyledus dan y gred ffug eu bod yn siarad â'u bos.

Nid wyf am gael fy nigalonni yn y mathau hyn o weithredoedd drygionus cynddeiriog, ond mae un arall sy'n berthnasol yn cynnwys galw rhywun a allai fod yn drwm ei glyw ac esgus bod yn ŵyr neu'n wyres iddynt. Mae'r dynwaredwr yn ceisio darbwyllo'r nain neu daid i ddarparu arian i'w cynorthwyo neu efallai eu harbed mewn rhyw ffordd. Yn seiliedig ar y llais dynwaredol, mae'r taid a'r nain yn cael eu twyllo i wneud hynny. dirmygus. Gwarthus. Trist.

Rydym ar fin dechrau cyfnod lle bydd clonio llais seiliedig ar AI yn galluogi ar steroidau, os oeddech chi, dyfodiad sgamiau a swindles yn ymwneud â llais. Bydd yr AI yn gwneud gwaith mor rhyfeddol o ddyblygu llais fel y bydd pwy bynnag sy'n clywed y llais yn tyngu llw mai'r person go iawn oedd yn siarad.

Pa mor bell y gallai hynny fynd?

Mae rhai yn poeni y gallai rhyddhau arfau atomig dywededig ac ymosodiadau milwrol ddigwydd gan rywun sy'n defnyddio clôn llais yn seiliedig ar AI sy'n twyllo eraill i gredu bod swyddog milwrol lefel uchaf yn cyhoeddi gorchymyn uniongyrchol. Gellid dweud yr un peth am unrhyw un mewn unrhyw safle amlwg. Defnyddiwch glôn llais AI hynod gywir i gael swyddog bancio i ryddhau miliynau o ddoleri mewn cronfeydd, gan wneud hynny ar sail cael eu twyllo i gredu eu bod yn siarad â'r cleient bancio wrth law.

Yn y blynyddoedd diwethaf, ni fyddai gwneud hyn gydag AI wedi bod yn argyhoeddiadol o reidrwydd. Y foment y mae'r bod dynol ar ben arall y ffôn yn dechrau gofyn cwestiynau, byddai angen i'r AI wyro oddi wrth sgript a baratowyd. Ar y pwynt hwnnw, byddai'r clonio llais yn dirywio, weithiau'n radicalaidd. Yr unig ffordd o gadw'r swindle i fynd oedd gorfodi'r sgwrs yn ôl i'r sgript.

Gyda'r math o AI sydd gennym heddiw, gan gynnwys datblygiadau mewn Prosesu Iaith Naturiol (NLP), gallwch chi ddileu sgript ac o bosibl weld y clôn llais AI yn ymddangos fel pe bai'n siarad mewn ffordd sgyrsiol naturiol (nid yw hyn yn wir bob amser, ac mae yna ffyrdd o hyd i faglu'r AI).

Cyn mynd i mewn i fwy o gig a thatws am yr ystyriaethau gwyllt a gwlanog sy'n sail i glonio llais seiliedig ar AI, gadewch i ni sefydlu rhai hanfodion ychwanegol ar bynciau hynod hanfodol. Mae angen i ni blymio'n fyr i AI Moeseg ac yn enwedig dyfodiad Dysgu Peiriant (ML) a Dysgu Dwfn (DL).

Efallai eich bod yn amwys yn ymwybodol bod un o'r lleisiau cryfaf y dyddiau hyn yn y maes AI a hyd yn oed y tu allan i faes AI yn cynnwys crochlefain am fwy o ymddangosiad o AI Moesegol. Gadewch i ni edrych ar yr hyn y mae'n ei olygu i gyfeirio at AI Moeseg ac AI Moesegol. Ar ben hynny, byddwn yn archwilio'r hyn yr wyf yn ei olygu pan fyddaf yn siarad am Machine Learning a Deep Learning.

Mae un segment neu ran benodol o AI Moeseg sydd wedi bod yn cael llawer o sylw yn y cyfryngau yn cynnwys AI sy'n dangos rhagfarnau ac annhegwch anffafriol. Efallai eich bod yn ymwybodol, pan ddechreuodd y cyfnod diweddaraf o AI, fod brwdfrydedd mawr dros yr hyn y mae rhai yn ei alw bellach. AI Er Da. Yn anffodus, ar sodlau'r cyffro ysgubol hwnnw, fe ddechreuon ni dystio AI Er Drwg. Er enghraifft, mae systemau adnabod wynebau amrywiol yn seiliedig ar AI wedi'u datgelu fel rhai sy'n cynnwys rhagfarnau hiliol a rhagfarnau rhyw, yr wyf wedi'u trafod yn y ddolen yma.

Ymdrechion i ymladd yn ôl AI Er Drwg ar y gweill yn weithredol. Ar wahân i leisiol cyfreithiol er mwyn ffrwyno'r camwedd, mae yna hefyd ymdrech sylweddol tuag at gofleidio AI Moeseg i unioni ffieidd-dra AI. Y syniad yw y dylem fabwysiadu a chymeradwyo egwyddorion AI Moesegol allweddol ar gyfer datblygu a maesu Deallusrwydd Artiffisial gan wneud hynny er mwyn tanseilio'r AI Er Drwg ac ar yr un pryd yn cyhoeddi ac yn hyrwyddo'r gorau AI Er Da.

Ar syniad cysylltiedig, rwy'n eiriolwr dros geisio defnyddio AI fel rhan o'r ateb i woes AI, gan ymladd tân â thân yn y ffordd honno o feddwl. Er enghraifft, efallai y byddwn yn ymgorffori cydrannau AI Moesegol mewn system AI a fydd yn monitro sut mae gweddill yr AI yn gwneud pethau ac felly o bosibl yn dal unrhyw ymdrechion gwahaniaethol mewn amser real, gweler fy nhrafodaeth yn y ddolen yma. Gallem hefyd gael system AI ar wahân sy'n gweithredu fel math o fonitor AI Moeseg. Mae'r system AI yn gweithredu fel goruchwyliwr i olrhain a chanfod pan fydd AI arall yn mynd i'r affwys anfoesegol (gweler fy nadansoddiad o alluoedd o'r fath yn y ddolen yma).

Mewn eiliad, byddaf yn rhannu gyda chi rai egwyddorion trosfwaol sy'n sail i Foeseg AI. Mae yna lawer o'r mathau hyn o restrau yn arnofio o gwmpas yma ac acw. Gallech ddweud nad oes hyd yma restr unigol o apêl a chydsyniad cyffredinol. Dyna'r newyddion anffodus. Y newyddion da yw bod o leiaf restrau AI Moeseg ar gael yn rhwydd ac maent yn tueddu i fod yn eithaf tebyg. Wedi dweud y cyfan, mae hyn yn awgrymu, trwy fath o gydgyfeiriant rhesymedig, ein bod yn canfod ein ffordd tuag at gyffredinedd cyffredinol o'r hyn y mae AI Moeseg yn ei gynnwys.

Yn gyntaf, gadewch i ni roi sylw byr i rai o'r praeseptau AI Moesegol cyffredinol i ddangos yr hyn a ddylai fod yn ystyriaeth hanfodol i unrhyw un sy'n crefftio, maesu, neu'n defnyddio AI.

Er enghraifft, fel y nodwyd gan y Fatican yn y Galwad Rhufain Am Foeseg AI ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol a nodwyd:

• Tryloywder: Mewn egwyddor, rhaid i systemau AI fod yn eglur
• Cynhwysiant: Rhaid ystyried anghenion pob bod dynol fel y gall pawb elwa, a chynnig yr amodau gorau posibl i bob unigolyn fynegi ei hun a datblygu.
• Cyfrifoldeb: Rhaid i'r rhai sy'n dylunio ac yn defnyddio'r defnydd o AI fynd ymlaen â chyfrifoldeb a thryloywder
• Didueddrwydd: Peidiwch â chreu na gweithredu yn unol â thuedd, gan ddiogelu tegwch ac urddas dynol
• dibynadwyedd: Rhaid i systemau AI allu gweithio'n ddibynadwy
• Diogelwch a phreifatrwydd: Rhaid i systemau AI weithio'n ddiogel a pharchu preifatrwydd defnyddwyr.

Fel y nodwyd gan Adran Amddiffyn yr Unol Daleithiau (DoD) yn eu Egwyddorion Moesegol Ar Gyfer Defnyddio Deallusrwydd Artiffisial ac fel rydw i wedi rhoi sylw manwl i y ddolen yma, dyma eu chwe egwyddor foeseg AI sylfaenol:

• Cyfrifol: Bydd personél yr Adran Amddiffyn yn arfer lefelau priodol o farn a gofal wrth barhau i fod yn gyfrifol am ddatblygu, defnyddio a defnyddio galluoedd AI.
• Teg: Bydd yr Adran yn cymryd camau bwriadol i leihau rhagfarn anfwriadol mewn galluoedd AI.
• olrheiniadwy: Bydd galluoedd AI yr Adran yn cael eu datblygu a'u defnyddio fel bod personél perthnasol yn meddu ar ddealltwriaeth briodol o'r dechnoleg, y prosesau datblygu, a'r dulliau gweithredu sy'n berthnasol i alluoedd AI, gan gynnwys methodolegau tryloyw ac archwiliadwy, ffynonellau data, a gweithdrefnau a dogfennaeth ddylunio.
• dibynadwy: Bydd gan alluoedd AI yr Adran ddefnyddiau clir, wedi'u diffinio'n dda, a bydd diogelwch, diogeledd ac effeithiolrwydd galluoedd o'r fath yn destun profion a sicrwydd o fewn y defnyddiau diffiniedig hynny ar draws eu holl gylchoedd bywyd.
• Llywodraethadwy: Bydd yr Adran yn dylunio ac yn peiriannu galluoedd AI i gyflawni eu swyddogaethau arfaethedig tra'n meddu ar y gallu i ganfod ac osgoi canlyniadau anfwriadol, a'r gallu i ddatgysylltu neu ddadactifadu systemau a ddefnyddir sy'n arddangos ymddygiad anfwriadol.

Rwyf hefyd wedi trafod gwahanol ddadansoddiadau cyfunol o egwyddorion moeseg AI, gan gynnwys ymdrin â set a ddyfeisiwyd gan ymchwilwyr a oedd yn archwilio ac yn crynhoi hanfod nifer o ddaliadau moeseg AI cenedlaethol a rhyngwladol mewn papur o’r enw “The Global Landscape Of AI Ethics Guidelines” (cyhoeddwyd). mewn natur), a bod fy sylw yn archwilio yn y ddolen yma, a arweiniodd at y rhestr allweddol hon:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Fel y gallech ddyfalu'n uniongyrchol, gall fod yn anodd iawn ceisio nodi'r manylion sy'n sail i'r egwyddorion hyn. Hyd yn oed yn fwy felly, mae'r ymdrech i droi'r egwyddorion eang hynny'n rhywbeth cwbl ddiriaethol a manwl i'w ddefnyddio wrth grefftio systemau AI hefyd yn rhywbeth anodd i'w gracio. Yn gyffredinol, mae'n hawdd gwneud rhywfaint o chwifio dwylo ynghylch beth yw praeseptau AI Moeseg a sut y dylid eu dilyn yn gyffredinol, tra ei bod yn sefyllfa llawer mwy cymhleth yn y codio AI yw'r rwber dilys sy'n cwrdd â'r ffordd.

Mae egwyddorion Moeseg AI i gael eu defnyddio gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n maes ac yn cynnal a chadw systemau AI yn y pen draw. Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n ddarostyngedig i gadw at syniadau Moeseg AI. Fel y dywedwyd yn gynharach, mae'n cymryd pentref i ddyfeisio a maesu AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg yn praeseptau Moeseg AI a chadw atynt.

Gadewch i ni hefyd sicrhau ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am ymdeimladol AI, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn gallach na bodau dynol yn y pen draw.

Gadewch i ni gadw pethau i lawr i'r ddaear ac ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i gael eu hymgorffori o fewn modelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Gadewch i ni ddychwelyd at ein ffocws ar glonio llais yn seiliedig ar AI.

Mewn cynhadledd ddiweddar, bwriad cyflwyniad a roddwyd gan Amazon oedd arddangos manteision dymunol clonio llais yn seiliedig ar AI ac amlygu'r AI blaengar diweddaraf sy'n cael ei ddefnyddio yn Alexa i hyrwyddo ei alluoedd. Yn ôl adroddiadau newyddion, enghraifft barod a oedd i fod i fod yn galonogol ac yn galonogol oedd cael plentyn i ofyn i Alexa i'w nain orffen darllen stori iddynt. The Wizard Of Oz. Dywedwyd wrth y gynulleidfa bod y fam-gu wedi marw a bod hyn yn y bôn yn fodd i'r plentyn ailgysylltu â'i nain a'i nain annwyl. Mae'n debyg bod hyn i gyd yn rhan o fideo a luniwyd gan Amazon i helpu i arddangos y datblygiadau clonio llais AI diweddaraf gan dîm datblygu Alexa (gan gwmpasu nodweddion nad ydynt wedi'u lansio'n ffurfiol eto at ddefnydd y cyhoedd).

Un ymateb i'r enghraifft hon yw y gallem deimlo'n eithaf cyffwrdd y gallai plentyn unwaith eto glywed llais ei nain. Rydym i dybio yn ôl pob tebyg nad oedd y nain eisoes wedi cofnodi darlleniad llawn o'r stori, felly roedd y clonio AI yn gwneud y gwaith o wneud i bethau ymddangos fel pe bai'r nain bellach yn gwneud y darlleniad cyfan.

Ffordd hynod ac aruthrol o ailgysylltu ag anwyliaid nad ydyn nhw bellach gyda ni.

Nid oedd pob gohebydd a dadansoddwr (ynghyd â Twitter) mor dueddol o gael dehongliad ffafriol o'r cynnydd hwn. Dywedodd rhai bod hyn yn hollol iasol. Dywedwyd bod ceisio ail-greu llais anwylyd ymadawedig yn ymgymeriad rhyfedd a braidd yn rhyfedd.

Mae digonedd o gwestiynau, fel:

• A fyddai’r plentyn yn drysu ac yn credu bod yr anwylyd ymadawedig yn dal yn fyw?
• A allai’r plentyn yn awr gael ei arwain i mewn i ryw ffrom neu dwyll anweddus o dan y gred ffug bod y nain yn dal gyda ni?
• A allai’r plentyn ddioddef o glywed am yr anwylyd ymadawedig a mynd yn ddigalon erbyn hyn unwaith eto ar goll y taid a’r nain, fel petai’n agor clwyfau emosiynol sydd eisoes wedi’u setlo?
• A fydd y plentyn yn meddwl y gall yr ymadawedig siarad o'r ochr arall, sef bod y llais cyfriniol hwn sy'n ymddangos yn union fel ei nain yn siarad ag ef o'r bedd?
• A yw'n bosibl y bydd y plentyn yn meddwl bod yr AI rywsut wedi ymgorffori ei nain, gan anthropomorffeiddio'r AI fel y bydd y plentyn yn tyfu i fyny gan gredu y gall AI efelychu bodau dynol yn gyfan gwbl?
• Tybiwch fod y plentyn mor hoff o lais y fam-gu, sydd wedi'i atgynhyrchu gan AI, nes bod y llanc yn dod yn obsesiwn ac yn defnyddio'r llais ar gyfer pob math o wrando sain?
• A all y gwerthwr sy'n atgynhyrchu'r llais ddewis defnyddio'r llais hwnnw ar gyfer eraill sy'n defnyddio'r un system gyffredinol, gan wneud hynny heb gael caniatâd penodol gan y teulu a thrwy hynny "elw" o'r llais a ddyfeisiwyd?
• Ac yn y blaen.

Mae'n bwysig sylweddoli y gallwch chi greu cymaint o bethau negyddol â phositifau, neu a fyddwn ni'n dweud cymaint o bethau cadarnhaol â rhai negyddol. Mae cyfaddawdau wrth wraidd y datblygiadau AI hyn. Efallai bod edrych ar un ochr yn unig i'r geiniog yn myopig.

Yr allwedd yw gwneud yn siŵr ein bod yn edrych ar bob ochr i’r materion hyn. Peidiwch â chael eich cymylu yn eich meddwl. Gall fod yn hawdd archwilio'r pethau cadarnhaol yn unig. Gall fod yn hawdd archwilio'r negyddol yn unig. Mae angen inni archwilio'r ddau a darganfod beth y gellir ei wneud, gobeithio, i drosoli'r pethau cadarnhaol a cheisio lleihau, dileu, neu o leiaf liniaru'r pethau negyddol.

I ryw raddau, dyna pam mae AI Moeseg ac AI Moesegol yn bwnc mor hanfodol. Mae praeseptau AI Moeseg yn ein galluogi i aros yn wyliadwrus. Gall technolegwyr deallusrwydd artiffisial ar brydiau ymddiddori mewn technoleg, yn enwedig optimeiddio uwch-dechnoleg. Nid ydynt o reidrwydd yn ystyried y goblygiadau cymdeithasol mwy. Mae meddu ar feddylfryd Moeseg AI a gwneud hynny yn rhan annatod o ddatblygu a maesu AI yn hanfodol ar gyfer cynhyrchu AI priodol.

Ar wahân i ddefnyddio AI Moeseg, mae cwestiwn cyfatebol a ddylem gael deddfau i lywodraethu gwahanol ddefnyddiau o AI, megis y nodweddion clonio llais sy'n seiliedig ar AI. Mae deddfau newydd yn cael eu bandio o gwmpas ar lefelau ffederal, gwladwriaethol a lleol sy'n ymwneud ag ystod a natur sut y dylid dyfeisio AI. Mae'r ymdrech i ddrafftio a deddfu cyfreithiau o'r fath yn un graddol. Mae AI Moeseg yn gweithredu fel stopgap ystyriol, o leiaf.

Wedi dweud hynny, mae rhai yn dadlau nad oes angen deddfau newydd sy'n cwmpasu AI a bod ein cyfreithiau presennol yn ddigonol. Mewn gwirionedd, maen nhw'n rhagrybuddio, os byddwn ni'n deddfu rhai o'r deddfau AI hyn, y byddwn ni'n lladd yr ŵydd euraidd trwy dorri i lawr ar ddatblygiadau mewn AI sy'n cynnig manteision cymdeithasol aruthrol. Gweler er enghraifft fy sylw yn y ddolen yma ac y ddolen yma.

Ar y pwynt hwn o'r drafodaeth swmpus hon, byddwn yn betio eich bod yn awyddus i gael rhai enghreifftiau darluniadol a allai arddangos y pwnc hwn. Mae yna gyfres arbennig a hynod boblogaidd o enghreifftiau sy'n agos at fy nghalon. Rydych chi'n gweld, yn rhinwedd fy swydd fel arbenigwr ar AI gan gynnwys y goblygiadau moesegol a chyfreithiol, gofynnir yn aml i mi nodi enghreifftiau realistig sy'n dangos penblethau Moeseg AI fel y gellir deall natur ddamcaniaethol braidd y pwnc yn haws. Un o'r meysydd mwyaf atgofus sy'n cyflwyno'r penbleth AI moesegol hwn yn fyw yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI. Bydd hwn yn achos defnydd defnyddiol neu'n enghraifft ar gyfer digon o drafodaeth ar y pwnc.

Dyma wedyn gwestiwn nodedig sy'n werth ei ystyried: A yw dyfodiad ceir hunan-yrru gwirioneddol seiliedig ar AI yn goleuo unrhyw beth am glonio llais yn seiliedig ar AI, ac os felly, beth mae hyn yn ei arddangos?

Caniatewch eiliad i mi ddadbacio'r cwestiwn.

Yn gyntaf, sylwch nad oes gyrrwr dynol yn ymwneud â char hunan-yrru go iawn. Cofiwch fod gwir geir hunan-yrru yn cael eu gyrru trwy system yrru AI. Nid oes angen gyrrwr dynol wrth y llyw, ac nid oes ychwaith ddarpariaeth i ddyn yrru'r cerbyd. Am fy sylw helaeth a pharhaus i Gerbydau Ymreolaethol (AVs) ac yn enwedig ceir hunan-yrru, gweler y ddolen yma.

Hoffwn egluro ymhellach beth yw ystyr pan gyfeiriaf at wir geir hunan-yrru.

Deall Lefelau Ceir Hunan-Yrru

Fel eglurhad, mae ceir hunan-yrru gwirioneddol yn rhai lle mae AI yn gyrru'r car yn gyfan gwbl ar ei ben ei hun ac nid oes unrhyw gymorth dynol yn ystod y dasg yrru.

Ystyrir y cerbydau di-yrrwr hyn yn Lefel 4 a Lefel 5 (gweler fy esboniad yn y ddolen hon yma), tra bod car sy'n gofyn am yrrwr dynol i gyd-rannu'r ymdrech yrru fel arfer yn cael ei ystyried ar Lefel 2 neu Lefel 3. Disgrifir y ceir sy'n rhannu'r dasg yrru ar y cyd fel rhai lled-annibynnol, ac yn nodweddiadol yn cynnwys amrywiaeth o ychwanegion awtomataidd y cyfeirir atynt fel ADAS (Systemau Cymorth Gyrwyr Uwch).

Nid oes gwir gar hunan-yrru ar Lefel 5 eto, ac nid ydym yn gwybod eto a fydd hyn yn bosibl, na pha mor hir y bydd yn ei gymryd i gyrraedd yno.

Yn y cyfamser, mae ymdrechion Lefel 4 yn raddol yn ceisio cael rhywfaint o dyniant trwy fynd trwy dreialon ffyrdd cyhoeddus cul a dethol iawn, er bod dadlau a ddylid caniatáu'r profion hyn fel y cyfryw (moch cwta bywyd-neu-marwolaeth ydym ni i gyd mewn arbrawf). yn digwydd ar ein priffyrdd a chilffyrdd, mae rhai yn dadlau, gweler fy sylw yn y ddolen hon yma).

Gan fod angen gyrrwr dynol ar geir lled-ymreolaethol, ni fydd mabwysiadu'r mathau hynny o geir yn dra gwahanol na gyrru cerbydau confensiynol, felly nid oes llawer o bethau newydd fel y cyfryw ar y pwnc hwn (er, fel y gwelwch mewn eiliad, mae'r pwyntiau a wneir nesaf yn berthnasol ar y cyfan).

Ar gyfer ceir lled-ymreolaethol, mae'n bwysig bod angen i'r cyhoedd gael eu rhagarwyddo am agwedd annifyr sydd wedi bod yn codi yn ddiweddar, sef er gwaethaf y gyrwyr dynol hynny sy'n dal i bostio fideos ohonyn nhw eu hunain yn cwympo i gysgu wrth olwyn car Lefel 2 neu Lefel 3 , mae angen i ni i gyd osgoi cael ein camarwain i gredu y gall y gyrrwr dynnu ei sylw o'r dasg yrru wrth yrru car lled-ymreolaethol.

Chi yw'r parti cyfrifol am weithredoedd gyrru'r cerbyd, ni waeth faint o awtomeiddio y gellir ei daflu i mewn i Lefel 2 neu Lefel 3.

Ceir Hunan-yrru A Chlonio Llais Seiliedig ar AI

Ar gyfer gwir gerbydau hunan-yrru Lefel 4 a Lefel 5, ni fydd gyrrwr dynol yn rhan o'r dasg yrru.

Bydd yr holl ddeiliaid yn deithwyr.

Mae'r AI yn gyrru.

Mae un agwedd i'w thrafod ar unwaith yn cynnwys y ffaith nad yw'r AI sy'n ymwneud â systemau gyrru AI heddiw yn ymdeimlo. Mewn geiriau eraill, mae'r AI yn gyfan gwbl yn gasgliad o raglennu cyfrifiadurol ac algorithmau, ac yn fwyaf sicr nid yw'n gallu rhesymu yn yr un modd ag y gall bodau dynol.

Pam nad yw'r pwyslais ychwanegol hwn am yr AI yn ymdeimlo?

Oherwydd fy mod am danlinellu, wrth drafod rôl y system yrru AI, nad wyf yn priodoli rhinweddau dynol i'r AI. Byddwch yn ymwybodol bod tuedd barhaus a pheryglus y dyddiau hyn i anthropomorffize AI. Yn y bôn, mae pobl yn neilltuo teimladau tebyg i fodau dynol i AI heddiw, er gwaethaf y ffaith ddiymwad ac amhrisiadwy nad oes AI o'r fath yn bodoli hyd yma.

Gyda'r eglurhad hwnnw, gallwch chi ragweld na fydd y system yrru AI yn “gwybod” yn frodorol rywsut am agweddau gyrru. Bydd angen rhaglennu gyrru a phopeth y mae'n ei olygu fel rhan o galedwedd a meddalwedd y car hunan-yrru.

Gadewch i ni blymio i'r myrdd o agweddau sy'n dod i chwarae ar y pwnc hwn.

Yn gyntaf, mae'n bwysig sylweddoli nad yw pob car hunan-yrru AI yr un peth. Mae pob gwneuthurwr ceir a chwmni technoleg hunan-yrru yn mabwysiadu ei ddull o ddyfeisio ceir hunan-yrru. O'r herwydd, mae'n anodd gwneud datganiadau ysgubol am yr hyn y bydd systemau gyrru AI yn ei wneud ai peidio.

Ar ben hynny, pryd bynnag y dywedant nad yw system yrru AI yn gwneud peth penodol, gall datblygwyr, yn nes ymlaen, oddiweddyd hyn sydd mewn gwirionedd yn rhaglennu'r cyfrifiadur i wneud yr union beth hwnnw. Cam wrth gam, mae systemau gyrru AI yn cael eu gwella a'u hymestyn yn raddol. Efallai na fydd cyfyngiad presennol heddiw yn bodoli mwyach mewn iteriad neu fersiwn o'r system yn y dyfodol.

Rwy’n gobeithio bod hynny’n darparu litani ddigonol o gafeatau i danategu’r hyn yr wyf ar fin ei ddweud.

Gadewch i ni fraslunio senario a allai drosoli clonio llais yn seiliedig ar AI.

Mae rhiant a'u plentyn yn mynd i mewn i gar hunan-yrru seiliedig ar AI. Maen nhw'n mynd i'w siop groser leol. Rhagwelir y bydd hon yn daith gymharol ddi-drafferth. Dim ond taith wythnosol i'r siop, er mai system yrru AI yw'r gyrrwr ac nid oes angen i'r rhiant wneud dim o'r gyrru.

I riant, mae hyn yn hwb mawr. Yn hytrach na gorfod canolbwyntio ar lywio a delio â'r weithred o yrru, gall y rhiant yn hytrach roi ei sylw i'w plentyn. Gallant chwarae gyda'i gilydd yn y cerbyd ymreolaethol a threulio amser o natur werthfawr. Er y byddai'r gyrru fel arfer yn tynnu sylw'r rhiant, ac yn debygol o fynd yn bryderus ac yn unionsyth wrth lywio strydoedd prysur a delio â gyrwyr cnau eraill gerllaw, yma nid yw'r rhiant yn ymwybodol o'r pryderon hynny ac yn rhyngweithio'n hyfryd â'u plentyn gwerthfawr yn unig.

Mae'r rhiant yn siarad â'r system yrru AI ac yn dweud wrth yr AI i fynd â nhw i'r siop groser. Mewn senario nodweddiadol, byddai'r AI yn ymateb trwy ymadrodd sain niwtral y gallech ei glywed yn gyfarwydd trwy Alexa neu Siri heddiw. Efallai y bydd yr AI yn ateb trwy nodi bod y siop groser 15 munud o amser gyrru i ffwrdd. Yn ogystal, efallai y bydd yr AI yn nodi y bydd y car hunan-yrru yn eu gollwng o flaen y siop.

Efallai mai dyna'r unig weithgaredd sy'n ymwneud â llais y AI mewn senario o'r fath. Efallai, unwaith y bydd y car hunan-yrru yn agos at y siop groser, efallai y bydd yr AI yn dweud rhywbeth am y cyrchfan yn agosáu. Efallai y bydd nodyn atgoffa lleisiol hefyd i fynd â'ch pethau gyda chi wrth i chi adael y cerbyd ymreolaethol.

Rwyf wedi egluro bod rhai systemau gyrru AI yn mynd i fod yn gathod siaradus, fel petai. Byddant yn cael eu rhaglennu i ryngweithio'n fwy rhugl ac yn barhaus â'r marchogion dynol. Pan fyddwch chi'n mynd i mewn i gerbyd rhannu reidiau sy'n cael ei yrru gan ddyn, weithiau rydych chi am i'r gyrrwr fod yn siaradus. Ar wahân i ddweud helo, efallai y byddwch am iddynt ddweud wrthych am y tywydd lleol, neu efallai tynnu sylw at leoedd eraill i'w gweld yn yr ardal leol. Ni fydd pawb eisiau'r gath siaradus, felly dylid dyfeisio'r AI i gymryd rhan mewn deialogau dim ond pan fydd y dynol yn gofyn amdano, gweler fy sylw yn y ddolen yma.

Nawr fy mod wedi sefydlu'r cyfan, gadewch i ni newid pethau mewn ffordd fach ond arwyddocaol.

Esgus bod gan y system yrru AI nodwedd clonio llais sy'n seiliedig ar AI. Gadewch i ni hefyd dybio bod y rhiant wedi hadu clonio llais AI yn flaenorol trwy ddarparu pyt sain o nain y plentyn. Syndod, mae'r rhiant yn meddwl, bydd y system yrru AI yn siarad fel pe bai'n fam-gu ymadawedig y plentyn.

Tra ar y daith yrru i'r siop groser, mae'r system yrru AI yn rhyngweithio â'r rhiant a'r plentyn, gan ddefnyddio llais cloniedig y fam-gu trwy'r amser yn unig.

Beth yw eich barn chi am hyn?

Iasol neu gofiadwy?

Byddaf yn cicio pethau o'r radd flaenaf. Paratowch. Caewch eich gwregys diogelwch.

Mae rhai yn credu fel yr wyf yn ei wneud y byddwn yn y pen draw yn caniatáu i blant reidio mewn ceir hunan-yrru seiliedig ar AI ar eu pen eu hunain, gweler fy nadansoddiad yn y ddolen yma.

Mewn ceir sy'n cael eu gyrru gan ddyn heddiw, mae'n rhaid i oedolyn fod yn bresennol bob amser oherwydd mae'r gyfraith yn mynnu bod oedolyn yn gyrru wrth y llyw. At bob diben ymarferol, ni allwch byth gael plentyn mewn car sy'n symud sydd yn y cerbyd ar eu pen eu hunain (ie, gwn fod hyn yn digwydd, fel mab amlwg 10-mlwydd-oed i seren ffilm fawr a gefnogodd yn ddiweddar. car drud iawn i mewn i gar drud iawn arall, ond mae'r rhain yn brin beth bynnag).

Mae'n debyg y byddai rhieni heddiw yn gwrthwynebu'n chwyrn i ganiatáu i'w plant reidio mewn car hunan-yrru sydd heb oedolyn yn y cerbyd yn gwasanaethu fel goruchwyliwr neu'n gwylio dros eu plant. Gwn ei bod bron yn amhosibl ei dychmygu, ond rwy'n betio, unwaith y bydd ceir sy'n gyrru eu hunain yn gyffredin, y byddwn yn anochel yn derbyn y syniad o blant heb oedolion wrth reidio mewn car sy'n gyrru ei hun.

Ystyriwch y ffactor cyfleustra.

Rydych chi yn y gwaith ac mae eich bos yn eich herlid i gyflawni tasg. Mae angen i chi godi'ch plentyn o'r ysgol a mynd â nhw drosodd i ymarfer pêl fas. Rydych chi'n sownd rhwng craig a lle caled fel rhywbeth sy'n dyhuddo'ch bos neu beidio â mynd â'ch plentyn i'r maes ymarfer. Nid oes unrhyw un arall yr ydych yn ei adnabod ar gael i roi lifft i'ch plentyn. Os rhywbeth, yn sicr nid ydych chi eisiau defnyddio gwasanaeth rhannu reidiau sydd â gyrrwr dynol, gan y byddech yn naturiol yn poeni am yr hyn y gallai'r oedolyn dieithr hwnnw ei ddweud neu ei wneud wrth roi reid i'ch plentyn.

Dim problem, dim pryderon, dim ond defnyddio car hunan-yrru seiliedig ar AI. Rydych chi'n cyfeirio'r car hunan-yrru o bell i fynd i godi'ch plentyn. Trwy gamerâu'r car hunan-yrru, gallwch weld a gwylio'ch plentyn yn mynd i mewn i'r cerbyd ymreolaethol. Ar ben hynny, mae yna gamerâu sy'n wynebu i mewn a gallwch wylio'ch plentyn ar hyd y daith yrru gyfan. Mae hyn yn ymddangos mor ddiogel os nad yn fwy diogel na gofyn i yrrwr dynol dieithr ddarparu lifft i'ch plentyn. Wedi dweud hynny, mae rhai yn haeddiannol bryderus, os aiff y weithred yrru o chwith, bod gennych chi blentyn ar ôl iddyn nhw eu hunain a dim oedolyn yn bresennol ar unwaith i gynorthwyo neu roi arweiniad i'r plentyn.

Gan roi’r qualms niferus o’r neilltu, mae’n debyg bod yr un rhiant a phlentyn ag yr oeddwn i’n eu disgrifio yn y senario blaenorol yn iawn gyda’r plentyn yn mynd am reidiau heb fod y rhiant yn bresennol. Derbyniwch mai senario ymarferol yw hon yn y pen draw.

Dyma'r ciciwr diweddglo.

Bob tro mae'r plentyn yn reidio yn y car hunan-yrru seiliedig ar AI, mae'n cael ei gyfarch ac yn rhyngweithio â'r AI gan ei fod yn defnyddio'r clonio llais sy'n seiliedig ar AI ac yn ailadrodd llais mam-gu ymadawedig y plentyn.

Beth yw eich barn am yr afalau hynny?

Pan oedd y rhiant hefyd yn bresennol yn y car hunan-yrru, efallai y gallem esgusodi'r defnydd llais AI gan fod y rhiant yno i gynghori'r plentyn am yr hyn sy'n digwydd pan fydd y sain AI yn siarad. Ond pan nad yw'r rhiant yn bresennol, rydym nawr yn cymryd bod y plentyn yn berffaith iawn gydag atgynhyrchu llais y nain.

Mae hwn yn bendant yn un o'r eiliadau oedi hynny i feddwl o ddifrif a yw hyn ar y cyfan yn dda neu'n ddrwg i blentyn.

Casgliad

Gadewch i ni wneud ychydig o arbrawf meddwl i drafod y materion pwysfawr hyn.

Dewch o hyd i dri yn gadarn cadarnhaol rhesymau dros glonio llais yn seiliedig ar AI.

Byddaf yn aros tra byddwch yn dod i fyny gyda nhw.

Nesaf, meddyliwch am dri yn gadarn negyddol rhesymau sy'n tanseilio dyfodiad clonio llais seiliedig ar AI.

Byddaf yn cymryd yn ganiataol eich bod wedi meddwl am rai.

Rwy'n sylweddoli y gallwch yn ddi-os feddwl am lawer mwy o resymau na dim ond tri yr un sydd naill ai'n ffafrio neu'n anffafriol ar y dechnoleg hon. Yn eich barn chi, a yw'r pethau negyddol yn gorbwyso'r pethau cadarnhaol? Mae yna feirniaid sy'n dadlau y dylem roi'r cibosh ar ymdrechion o'r fath.

Mae rhai eisiau ceisio rhwystro cwmnïau rhag defnyddio clonio llais yn seiliedig ar AI, er eu bod yn sylweddoli mai dyma un o'r rhagolygon whack-a-mole clasurol hynny. Unrhyw gwmni y byddwch chi'n ei gael i roi'r gorau i'w ddefnyddio, y tebygolrwydd yw y bydd cwmni arall yn dechrau ei ddefnyddio. Mae rhewi'r cloc neu gadw'r math hwn o AI yn mynd i fod bron yn amhosibl ei wneud.

Mewn sylw olaf ar y pwnc hwn ar hyn o bryd, dychmygwch beth allai ddigwydd os gallwn rywbryd gyflawni AI ymdeimladol. Nid wyf yn dweud y bydd hyn yn digwydd. Gallwn ddyfalu beth bynnag a gweld i ble y gallai hynny arwain.

Yn gyntaf, ystyriwch ddyfyniad craff am siarad a chael llais. Dywedodd Madeleine Albright hyn yn enwog: “Fe gymerodd amser eithaf hir i mi ddatblygu llais, a nawr bod gen i, dydw i ddim yn mynd i fod yn dawel.”

Os ydym yn gallu cynhyrchu AI ymdeimladol, neu rywsut mae teimlad yn codi hyd yn oed os nad ydym yn ei gyflwyno'n uniongyrchol, pa lais ddylai fod gan yr AI hwnnw? Tybiwch y gall ddefnyddio ei glonio llais yn seiliedig ar AI a chynhyrchu ergo unrhyw lais unrhyw ddyn trwy ychydig o samplu sain yn yr arddegau a allai fod ar gael fel y dywedir gan y bod dynol hwnnw. Yna gallai AI o'r fath siarad a'ch twyllo i gredu mai'r AI yn ôl pob golwg yw'r person hwnnw.

Yna eto, efallai y bydd AI eisiau cael ei lais ei hun a dyfeisio llais yn gwbl wahanol i bob llais dynol arall, gan ddymuno bod yn arbennig yn ei ffordd swynol ei hun.

Erbyn gosh, mae hyn yn gadael un bron yn ddi-lefar.