Mae'r Rhesymau Dros Reoleiddio Algorithmau AI Yn Symlach Na'r Credwch

Ydych chi'n poeni y bydd deallusrwydd artiffisial yn meddiannu'r byd? Mae llawer yn gwneud. O Elon Musk yn poeni am DeepMind yn curo bodau dynol yn y gêm ddatblygedig Go yn 2017, i aelodau’r Gyngres, llunwyr polisi Ewropeaidd (gweler Agwedd Ewropeaidd at ddeallusrwydd artiffisial), ac academyddion, mae yna deimlad mai dyma'r degawd i gymryd AI o ddifrif, ac mae'n cydio. Er hynny, nid am y rhesymau y gallech feddwl ac nid oherwydd unrhyw fygythiad presennol.

Dyma lle mae algorithmau'n dod i mewn. Beth yw algorithm, efallai y byddwch chi'n gofyn? Y ffordd symlaf i feddwl amdano yw fel set o gyfarwyddiadau y gall peiriannau eu deall a dysgu oddi wrthynt. Gallwn eisoes gyfarwyddo peiriant i gyfrifo, prosesu data, ac i resymu mewn ffordd strwythuredig, awtomataidd. Fodd bynnag, y broblem yw, unwaith y rhoddir cyfarwyddiadau, bydd y peiriant yn eu dilyn. Am y tro, dyna'r pwynt. Yn wahanol i fodau dynol, mae peiriannau'n dilyn cyfarwyddiadau. Nid ydynt yn dysgu cystal â hynny. Ond unwaith y gwnânt, gallant achosi problemau.

Nid wyf am wneud dadl syfrdanol am y syniad o gyfrifiaduron un diwrnod yn rhagori ar ddeallusrwydd dynol, sy'n fwy adnabyddus fel y ddadl singularity (gweler yr athronydd NYU David Chalmers' syniadau ar y pwnc.) Yn hytrach, efallai mai gweithgynhyrchu yw'r enghraifft orau o pam mae algorithmau AI yn dechrau dod yn bwysicach i'r cyhoedd. Mae un yn ofni y bydd peiriannau'n cyflymu eu gallu yn aruthrol ar ein traul ni. Nid trwy rywfaint o resymu datblygedig, o reidrwydd, ond oherwydd yr optimeiddio o fewn ffiniau'r hyn y mae algorithm yn ei ddweud.

Mae gweithgynhyrchu yn ymwneud â gwneud pethau. Ond pan fydd peiriannau'n gwneud pethau, mae angen inni dalu sylw. Hyd yn oed os yw'r hyn y mae'r peiriannau'n ei wneud yn syml. Byddaf yn egluro pam.

O esgidiau glaw i ffonau symudol ac yn ôl

Dywedwch, mae ffatri wedi bod yn gwneud esgidiau glaw. Rwy'n hoff iawn o esgidiau glaw oherwydd cefais fy magu mewn ardal o Norwy lle mae'n bwrw glaw yn aml; Rwyf wrth fy modd i fod y tu allan, yn amodol ar yr elfennau niferus o natur. Gwnaeth Nokia yr esgidiau glaw y cefais fy magu gyda nhw. Ydy, mae'r Nokia rydyn ni'n ei adnabod heddiw fel y cwmni electroneg yn arfer gwneud esgidiau rwber. Pam fod hyn yn allweddol? Oherwydd unwaith y byddwch chi'n gwneud rhywbeth, rydych chi'n mynd i fod eisiau gwneud gwelliannau. Mae hynny'n gwneud synnwyr. Gallech ddweud mai dyna yw natur ddynol.

Mae'r hyn a ddigwyddodd i Nokia yn adnabyddus ac yn mynd ychydig fel hyn: I ddechrau, roedd melin bapur, erbyn i mi fod yn blentyn, gweithgynhyrchu esgidiau rwber (a theiars) yn arbennig o lwyddiannus i'r cwmni. Fodd bynnag, gwelsant gyfleoedd pellach. Felly, ar ryw adeg yn yr 1980au, fe wnaethon nhw symud i electroneg a newid y ffatrïoedd o gwmpas yn gyflym, gan adeiladu strwythur mawr o gyflenwyr lleol pan ddechreuon nhw wneud ffonau symudol. Arweiniodd hyn at y chwyldro cyfathrebu symudol, a ddechreuodd yn Sgandinafia ac a ymledodd i weddill y byd. Yn ddealladwy, mae llawer wedi ysgrifennu stori Nokia yn y 1990au (gweler Cyfrinachau y tu ôl i wyrth y Ffindir: cynnydd Nokia).

Mae fy enghraifft yn syml. Efallai, yn rhy syml. Ond meddyliwch amdano fel hyn. Os gall cwmni mawr newid yn gyflym o wneud papur i ysgrifennu arno, i esgidiau sy'n ei gwneud hi'n haws bod allan yn y glaw, yna yn olaf, i ffonau symudol sy'n newid y ffordd y mae bodau dynol yn cyfathrebu: pa mor hawdd fydd y cam nesaf? Tybiwch fod cwmni sy'n cynhyrchu ffonau symudol yn penderfynu gwneud nanobots ac efallai'r rheini'n cychwyn mewn degawd, gan newid y ddynoliaeth gyda pheiriannau minicule yn rhedeg yn annibynnol ym mhobman, sy'n gallu ail-osod ac addasu'r profiad dynol. Beth os bydd hynny’n digwydd heb ystyried sut yr ydym am iddo ddigwydd, pwy yr ydym am fod wrth y llyw, a’r nodau yn y pen draw?

Byddai awgrymu bod robotiaid yn ymwybodol wedi helpu Nokia i benderfynu gwneud ffonau symudol yn dipyn. Ond mae cydnabod bod gan dechnoleg rôl i'w chwarae wrth ganiatáu i ardal wledig yn y Ffindir ar ei lan ogleddol feddwl y gallent gael goruchafiaeth y byd mewn diwydiant newydd yn chwarae rhan arwyddocaol.

Nid yw stori Nokia wedi bod mor gyffrous dros y degawd diwethaf o ystyried eu bod wedi methu ag ystyried ymddangosiad systemau gweithredu iOS ac Android sy'n seiliedig ar feddalwedd. Nawr, o ganlyniad, nid yw Nokia yn gwneud ffonau mwyach. Mewn ychydig o stori dychwelyd, maen nhw bellach yn gwneud seilwaith rhwydweithio a thelathrebu, datrysiadau diogelwch rhwydwaith, llwybryddion Wi-Fi, goleuadau clyfar a setiau teledu clyfar (gweler Stori Comeback Nokia). Mae Nokia yn dal i wneud pethau, mae hynny'n wir. Yr unig arsylwad i'w wneud yw ei bod hi'n ymddangos bod Nokia bob amser yn mwynhau cymysgu'r pethau maen nhw'n eu gwneud. Mae hyd yn oed penderfyniadau gweithgynhyrchu bodau dynol, ar brydiau, yn anodd eu deall.

Mae gweithgynhyrchu yn golygu gwneud i bethau ac i bethau esblygu. Yn fras, mae’r hyn a wnawn heddiw wedi newid ers dim ond ddegawd yn ôl. Mae argraffwyr 3D wedi datganoli cynhyrchu llawer o gynhyrchion uwch, yn y diwydiant ac yn y cartref. Nid yw canlyniadau newid bywyd argraffu 3D wedi digwydd eto. Nid ydym yn gwybod a fydd hyn yn para ond rydym yn gwybod bod ffocws yr FDA ar reoleiddio gweithgynhyrchu cynhyrchion (gweler yma) fel y tabledi neu'r dyfeisiau meddygol printiedig sy'n dilyn, y materion eiddo deallusol ac atebolrwydd amlwg, neu'r materion sy'n ymwneud â gallu argraffu drylliau. Yn y pen draw, nid yw’r drafodaeth bolisi ar ba ganlyniadau negyddol y gallai argraffu 3D eu cael y tu hwnt i hyn yn bodoli, ac ychydig ohonom sydd wedi trafferthu meddwl am y peth.

Dydw i ddim yn awgrymu bod argraffu 3D yn beryglus ynddo'i hun. Efallai, mae hon yn enghraifft wael. Serch hynny, gall pethau sy'n edrych yn gyffredin i ddechrau newid y byd. Mae yna ddigonedd o enghreifftiau: pen saeth yr heliwr / casglwr wedi'i wneud o fetel sy'n cychwyn rhyfeloedd, masgiau defodol sy'n ein hamddiffyn rhag COVID-19, hoelion sy'n adeiladu skyscrapers, gweisg argraffu mathau symudol sydd (yn dal i) yn llenwi ein ffatrïoedd â phapur printiedig ac yn pweru'r busnes cyhoeddi, bylbiau golau sy'n eich galluogi i weld a gweithio y tu mewn gyda'r nos, gallwn fynd ymlaen. Ni eisteddodd neb yr wyf yn gwybod amdano i lawr ar ddiwedd y 1800au a rhagfynegodd y byddai Nokia yn symud ei gynhyrchiad o bapur i rwber i electroneg, ac yna i ffwrdd o ffonau symudol. Efallai y dylen nhw gael.

Mae bodau dynol yn rhagfynegwyr gwael o newid sylweddol, y broses lle mae un newid yn arwain at fwy o newid, ac yn sydyn, mae pethau'n dra gwahanol. Nid ydym yn deall y broses hon eto oherwydd ychydig o wybodaeth ymarferol sydd gennym am newid esbonyddol; ni allwn ei ddarlunio, ei gyfrifo, na'i ddirnad. Fodd bynnag, dro ar ôl tro, mae'n ein taro ni. Mae pandemigau, twf poblogaeth, arloesedd technolegol o argraffu llyfrau i roboteg, fel arfer yn ein taro heb rybudd.

Y gamp gyda dyfodoliaeth yw nid os, ond pryd. Efallai y bydd rhywun mewn gwirionedd yn gallu rhagweld newid trwy ddewis rhai dulliau cynhyrchu newydd a nodi y byddant yn dod yn fwy cyffredin yn y dyfodol. Mae hynny'n ddigon syml. Y rhan anodd yw darganfod yn union pryd ac yn enwedig sut.

Nid clipiau papur yw'r broblem

Ystyriwch fy enghraifft ffatri eto, ond y tro hwn, dychmygwch fod y peiriannau'n gyfrifol am nifer o benderfyniadau, nid pob penderfyniad, ond penderfyniadau cynhyrchu fel optimeiddio. Yn ei lyfr Goruwchwylledd, Dychmygodd dyneiddiwr dystopaidd Prifysgol Rhydychen, Nick Bostrom, algorithm optimeiddio AI yn rhedeg ffatri clipiau papur. Ar ryw adeg, meddai, dychmygwch fod y peiriant yn rhesymau dros ddysgu dargyfeirio adnoddau cynyddol at y dasg yn rhesymegol, gan droi ein byd yn glipiau papur yn raddol, a gwrthsefyll ein hymdrechion i'w ddiffodd.

Er ei fod yn foi craff, mae esiampl Bostrom yn eithaf mud a chamarweiniol (eto, cofiadwy). Ar gyfer un, nid yw'n cyfrif am y ffaith nad yw bodau dynol a robotiaid bellach yn endidau ar wahân. Rydyn ni'n rhyngweithio. Mae'r rhan fwyaf o robotiaid clyfar yn esblygu i fod yn gobots neu'n robotiaid cydweithredol. Bydd pobl yn cael llawer o gyfleoedd i gywiro'r peiriant. Serch hynny, erys ei bwynt sylfaenol. Mae’n bosibl y bydd newid sylweddol ar ryw adeg, ac os bydd y newid hwnnw’n digwydd yn ddigon cyflym a heb oruchwyliaeth ddigonol, efallai y bydd rheolaeth yn cael ei cholli. Ond mae'r canlyniad eithafol hwnnw'n ymddangos braidd yn bell. Y naill ffordd neu'r llall, rwy'n cytuno, mae angen inni reoleiddio'r bodau dynol sy'n gweithredu'r peiriannau hyn a mandadu bod gweithwyr bob amser yn y ddolen drwy eu hyfforddi'n briodol. Nid yw'r math hwnnw o hyfforddiant yn mynd yn dda. Ar hyn o bryd mae'n cymryd gormod o amser ac mae'n cymryd sgiliau arbenigol i hyfforddi ac i gael eich hyfforddi. Rwy'n gwybod un peth. Yn y dyfodol bydd pob math o bobl yn gweithredu robotiaid. Bydd y rhai nad ydynt yn gwneud hynny yn eithaf di-rym.

Mae cynyddu bodau dynol yn well nag awtomeiddio difeddwl, ni waeth os na fyddwn byth yn uno'n llwyr â pheiriannau. Mae'r ddau gysyniad yn rhesymegol wahanol. Mae'n bosibl i bobl a robotiaid fod yn sownd yn awtomeiddio er mwyn awtomeiddio. Byddai hynny’n gwneud niwed mawr i weithgynhyrchu wrth symud ymlaen. Hyd yn oed os nad yw'n cynhyrchu robotiaid lladd. Rwy’n credu bod uno gannoedd o flynyddoedd i ffwrdd, ond nid dyna’r pwynt. Hyd yn oed os mai dim ond deng mlynedd ar hugain i ffwrdd, y peiriannau hunan-yrru sy'n gweithredu ar algorithmau gor-syml sy'n colli rheolaeth, mae'r senario honno eisoes yn digwydd ar lawr y siop. Mae rhai o'r peiriannau hynny yn dri deg oed ac yn rhedeg ar hen systemau rheoli perchnogol. Eu prif her yw nid eu bod wedi symud ymlaen ond i'r gwrthwyneb. Maent yn rhy syml i allu cyfathrebu. Nid yw hyn yn broblem ar gyfer yfory. Mae'n broblem sy'n bodoli eisoes. Rhaid inni agor ein llygaid iddo. Meddyliwch am hyn y tro nesaf y byddwch chi'n camu i'ch esgidiau rwber.

Mae gen i fy esgidiau Nokia o'r 1980au o hyd. Mae ganddyn nhw dwll ynddyn nhw, ond rydw i'n eu cadw i atgoffa fy hun o ble rydw i'n dod a pha mor bell rydw i wedi cerdded. Mae glaw yn dal i ddisgyn hefyd, a chyn belled â'i fod yn ddigon glân, nid wyf am gael gwell trwsiad na'r esgidiau hynny. Yna eto, rwy'n ddynol. Mae'n debyg y byddai robot wedi symud ymlaen yn barod. Beth yw'r fersiwn AI o rainboots, tybed. Nid yw'n ffôn symudol. Nid yw'n synhwyrydd glaw. Mae'n gorseddu'r meddwl.

Mae esgidiau digidol heddiw yn golygu y gallwch chi eu personoli oherwydd bod ganddyn nhw ddyluniadau printiedig 3D arnyn nhw. Mae yna esgidiau rhithwir sy'n bodoli fel NFTs yn unig (tocynnau anffyngadwy) y gellir eu gwerthu a'u masnachu. Mae'r sneakers rhithwir gorau yn werth $ 10,000 y dyddiau hyn (gweler Beth Yw Sneaker NFT, a Pam Mae'n Werth $ 10,000?). Does gen i ddim ofn y rheini ond a ddylwn i fod? Os caiff y byd rhithwir ei werthfawrogi'n fwy na'r byd ffisegol, efallai y gwnaf. Neu a ddylwn i aros i boeni nes bod avatar AI ei hun yn prynu ei esgid NFT ei hun i fynd i'r afael â'r “glaw”? Os byddwn yn adeiladu algorithmau yn ein delwedd ein hunain, mae'n fwy tebygol y byddai deallusrwydd artiffisial yn dda ar bethau y byddem yn dymuno bod yn dda yn eu gwneud ond nad ydynt yn nodweddiadol, megis prynu stociau, meithrin cyfeillgarwch teyrngarol (efallai gyda pheiriannau a bodau dynol), a chofio pethau. Gallai’r metaverse diwydiannol fod yn rhyfeddol o soffistigedig – yn llawn gefeilliaid digidol sy’n dynwared ein byd ac yn rhagori arno mewn ffyrdd ffrwythlon – neu fe allai fod yn syfrdanol o syml. Efallai y ddau. Nid ydym yn gwybod eto.

Mae angen i ni reoleiddio algorithmau AI oherwydd nid ydym yn gwybod beth sydd o gwmpas y gornel. Dyna ddigon o reswm, ond o ran sut yr ydym yn ei wneud, mae honno'n stori hirach. Caniatewch i mi un arsylw cyflym arall, efallai y dylai'r holl algorithmau sylfaenol fod ar gael i'r cyhoedd. Y rheswm yw, os na, nid oes unrhyw ffordd o wybod beth y gallent arwain ato. Mae'r rhai uchaf yn eithaf adnabyddus (gw 10 Algorithm Dysgu Peiriannau Gorau), ond nid oes trosolwg byd-eang o ble a sut y byddant yn cael eu defnyddio. Mae'n arbennig yr algorithmau heb oruchwyliaeth y dylid eu gwylio'n ofalus (gweler Chwe Achos Defnydd Pwerus ar gyfer Dysgu Peiriannau mewn Gweithgynhyrchu), p'un a ydynt yn cael eu defnyddio i ragfynegi gwaith cynnal a chadw neu ansawdd, i efelychu amgylcheddau cynhyrchu (ee efeilliaid digidol), neu i gynhyrchu dyluniadau newydd na fyddai bodau dynol byth yn meddwl amdanynt. Yn y dirwedd heddiw, mae'r algorithmau hyn heb oruchwyliaeth fel arfer yn rwydweithiau niwral artiffisial fel y'u gelwir, sy'n ceisio dynwared yr ymennydd dynol.

Rwyf wedi dechrau poeni am rwydi niwral, dim ond oherwydd fy mod yn ei chael yn anodd deall eu rhesymeg. Y broblem yw nad yw'r rhan fwyaf o arbenigwyr, hyd yn oed y rhai sy'n eu defnyddio, yn deall sut mae'r algorithmau hyn yn symud o gam i gam neu haen i haen. Dydw i ddim yn meddwl bod y trosiad o “haenau cudd”, a ddefnyddir yn aml, yn addas iawn nac yn ddoniol iawn. Ni ddylai fod unrhyw haenau cudd mewn gweithgynhyrchu, mewn casglu treth awtomataidd, mewn penderfyniadau llogi, neu mewn derbyniadau coleg, i ddechreuwyr. Efallai y dylech chi ystyried poeni, hefyd? Mae un peth yn sicr, bydd bodau dynol a pheiriannau sy'n gwneud pethau gyda'i gilydd yn newid y byd. Mae eisoes wedi, lawer gwaith drosodd. O bapur i esgidiau glaw, a haenau ymennydd artiffisial heddiw, ni ddylid gadael dim heb ei archwilio. Ni ddylem fod yn cuddio rhag y ffaith syml y gall newid mwy ymddangos yn sydyn o lawer o newidiadau bach.