Pan nad yw'n gweithio ar gyflymu rhuthr dynol tuag at yr Singularity trwy greu deallusrwydd cyffredinol artiffisial (AGI), mae Ben Goertzel yn chwarae mewn band roc jazz o'r enw Jam Galaxy gyda robot o'r enw Desdemona yn ei flaen.
Mae'n un o'i brosiectau ochr niferus, a arweiniodd yn naturiol ato i geisio symboleiddio'r busnes cerddoriaeth trwy estyn allan i aelodau Pearl Jam a Heart. Mae Goertzel hefyd yn gweithio ar ymchwil hirhoedledd trwy dorfoli data iechyd dynol gyda gwobrau tocyn trwy ap o'r enw Rejuve.ai. Yna caiff y wybodaeth honno ei chyfuno â data astudiaeth anifeiliaid a phryfed a'i dadansoddi gydag AI i benderfynu pa rannau o'r genomau all wneud i ni fyw'n hirach ac yna'n cael eu hysgogi gan ddefnyddio therapïau genynnau. “Rydym wedi cael rhai darganfyddiadau lefel arloesol eithaf trawiadol,” meddai. O, ac ychydig cyn i'n cyfweliad awr o hyd ddod i ben, mae'n sôn yn ddiffuant ei fod hefyd yn creu stabl ar gyfer ei farchnad AI datganoledig, SingularityNET sydd wedi'i begio i fynegai synthetig o gynnydd amgylcheddol - oherwydd byddai ei begio i ddoleri'r UD yn “cloff.”
“Mae cynnydd ar yr amgylchedd yn sefydlog iawn. Nid yw byth yn mynd i unman, ”meddai.
“Ac i drin hyn, mae'n rhaid i chi ddatrys cynhesu byd-eang mewn gwirionedd.”
Dyma'r union fath o sylw gwleidyddol sy'n cwrdd â gwybodaeth uwch-dechnoleg y gallech ei ddisgwyl gan Goertzel, sy'n edrych ac yn swnio fel gwyddonydd hipi a faglodd i mewn i beiriant amser ym 1971 ac a ddaeth i'r amlwg yn llawn yn 2023. Ond peidiwch â chael eich twyllo gan het brint anifeiliaid, gwallt hir a theithiau asid Electric Kool-Aid: Mae'n wyddonydd gwych gyda gafael ar y blynyddoedd golau yn y dyfodol o flaen y rhan fwyaf ac sy'n mynd i'r afael â rhai o'r cysyniadau mwyaf y mae dynoliaeth erioed wedi'u hystyried. Beth yw ymwybyddiaeth? Sut mae creu bywyd artiffisial, a beth sy'n digwydd os nad yw'n ein hoffi ni, yn mynd yn dwyllodrus, ac yn gwnio pawb i lawr fel mewn Terminator 2?
Beth yw deallusrwydd cyffredinol artiffisial?
Poblogeiddiodd Goertzel y term “deallusrwydd cyffredinol artiffisial” fel ffordd o wahaniaethu rhwng peiriant meddwl dilys a allai ddysgu bron unrhyw beth, i AIs sydd wedi'u optimeiddio ar gyfer un dasg benodol, fel y cyfrifiadur Deep Blue a gurodd y pencampwr gwyddbwyll byd enwog Garry Kasparov. Mae'n cyfaddef yn rhydd fod yna risgiau mewn adeiladu peiriant sy'n gallu dysgu unrhyw beth a phopeth, gan gynnwys sut i ail-raglennu ei hun i ddod yn orchymyn maint mwy deallus nag unrhyw ddyn.
“Mae yna nifer o risgiau a pheryglon gydag AGI,” meddai Goertzel dros y din mewn bwyty Indiaidd mewn canolfan siopa brysur yn Singapore. “Un ohonyn nhw sydd wedi cael llawer o sylw yn y cyfryngau yw y bydd AGI yn rhedeg yn wallgof ac yn dinistrio dynoliaeth ac yn cymryd drosodd y bydysawd. Mae'n gwbl bosibl; allwch chi ddim ei ddiystyru,” meddai.
“Risg mwy tebygol arall yw y bydd pobl hunanol cas yn defnyddio AI i roi eu trachwant eu hunain a rheolaeth dros bobl eraill.”
Yn ei farn ef, mae llywodraethau’n annhebygol o wneud datblygiadau arloesol yn AGI gan eu bod yn “rhy geidwadol a dwp,” er ei fod yn nodi bod China yn contractio ei gwaith AGI i gwmnïau fel Tencent a Baidu. Yn nes adref, mae'n credu na fydd adrannau AI Google a Facebook yn dod dros y llinell ychwaith, gan y byddant yn canolbwyntio gormod ar wneud i'r AI gyrraedd rhai metrigau, nad yw'n ffafriol i feddwl creadigol.
“Yn union fel nad yw'r bobl fwyaf disglair eisiau gwasanaethu metrigau rhywun arall yn unig, rwy'n credu nad yw deallusrwydd cyffredinol artiffisial o reidrwydd eisiau gwneud y mwyaf o glicio drwodd ar dudalen we rhywun chwaith, iawn? Mae’n rhaid caniatáu iddo chwarae o gwmpas yn greadigol.”
The Singularity tua 1970
Dechreuodd Goertzel yn y brifysgol yn 15, graddiodd yn 18, roedd ganddo ddoethuriaeth erbyn 22 a theulu ifanc erbyn 23. Efallai yn anarferol yn yr oes sydd ohoni, nid dim ond whizz mathemateg neu athrylith technoleg oedd yn sodro cyfrifiaduron cit gyda'i gilydd yn y 70au. ond roedd ganddo ddiddordeb hefyd mewn athroniaeth, ysgrifennu creadigol a cherddoriaeth.
Treuliodd lawer o'i yrfa yn addysgu ac yn ymchwilio i gyfrifiadureg, mathemateg a gwyddoniaeth wybyddol mewn gwahanol brifysgolion ledled y byd tra'n gweithio ar dechnoleg AI pryd bynnag y gallai. Sylfaenydd cyfresol sy'n tueddu i fod tua degawd ar y blaen i bawb arall gyda'i syniadau - sydd, mewn busnes, yn enwog yn cyfateb i fod yn anghywir - mae wedi gweithio ar ddefnyddio AI i ragweld marchnadoedd ariannol a hirhoedledd, ac mae hefyd wedi cael cyfnod fel prif wyddonydd Hanson Robotics, lle rhoddodd ei hymennydd artiffisial i Sophia the Robot.
Mae Goertzel wedi bod yn meddwl am dwf technolegol esbonyddol ers y 1970au pan ddarllenodd gyntaf Gerald Feinberg. Prosiect Prometheus, sy’n ymwneud â “peiriannau sy’n gallu meddwl yn well na phobl… peiriannau nanotechnoleg sy’n fach yn ficrosgopig, ac rydyn ni’n mynd i ddatrys heneiddio.” Roedd hyn yn cydblethu’n dda â’r cysyniad sy’n dod i’r amlwg o’r Singularity, pwynt damcaniaethol yn y dyfodol pan ddaw datblygiadau technolegol yn afreolus ac yn anghildroadwy, gan arwain at newidiadau enfawr i wareiddiad dynol.
“Felly, bydd pobl yn byw am byth, yna'r cwestiwn fydd, Ar gyfer beth rydyn ni'n defnyddio'r technolegau hyn, prynwriaeth ddifeddwl gyflym, neu ydyn ni'n ei ddefnyddio i ehangu ymwybyddiaeth? A’r hyn a gynigiodd [Feinberg] yw rhoi hynny i bleidlais ddemocrataidd.”
Flynyddoedd yn ddiweddarach, pan ddechreuodd weld AGI o fewn ein gafael, daeth y “bleidlais ddemocrataidd” hon yn ysbrydoliaeth i ddefnyddio technoleg ffynhonnell agored yn gyntaf ac, yn ddiweddarach, blockchain fel ffordd o roi cymuned gydweithredol i fod yn gyfrifol am y dechnoleg.
“Yr hyn a sylweddolais ar adeg benodol yw, gydag AI, nid yw cael y cod ar agor yn ddigon,” meddai. “Mae gwir angen i chi hyfforddi'r AI ar lwyth shitload o ddata.”
“Dyma lle daw blockchain fel ffordd o wneud y prosesu a’r data sy’n sail i AI yn ddatganoledig ac yn ffynhonnell torfol o ran natur ac yn agored i reolaeth. Ac mae hynny'n troi allan i fod yn anoddach na dim ond cyrchu'r cod agored. ”
Sefydlodd Goertzel OpenCog yn 2008 i adeiladu fframwaith deallusrwydd artiffisial ffynhonnell agored, ffynhonnell torfol. Mae wedi cael ei ddefnyddio gan 50 o gwmnïau, gan gynnwys Huawei a Cisco, ac mae disgwyl i uwchraddio mawr o'r enw Hyperon yn fuan gyda'r nod o'i gyflymu 200 gwaith. Disgwylir y fersiwn alffa y chwarter hwn a disgwylir y beta y flwyddyn nesaf.
Mae Blockchain yn sylfaenol ond yn oer
I Goertzel, mae technoleg blockchain ychydig yn sylfaenol. Mae'n ei ddisgrifio fel rhai algorithmau dosbarthedig cyntefig wedi'u hychwanegu at cryptograffeg, ond mae'r “cyfuniad cŵl” yn galluogi systemau i redeg heb reolaeth ganolog, gan ei wneud yn berffaith ar gyfer ei anghenion.
“Os ydych chi'n mynd i wneud peiriant meddwl a'ch bod chi'n mynd i'w wneud yn ffabrig cyfrifiadurol nanoraddfa wedi'i ddosbarthu, byddai'n braf iawn pe bai hwn yn eiddo i bawb a neb yn hytrach na'i reoli o'r brig i lawr.”
Mae blockchains yn llawer rhy araf i ddelio â'r gofynion prosesu a'r symiau enfawr o ddata dan sylw, felly mae rhywbeth o ras i raddio blockchain yn gywir cyn datblygu AGI arloesol. Dywed Goertzel, er bod datrysiadau graddio fel rholiau sero-wybodaeth yn well, nid oes ganddynt ddigon o led band o hyd oherwydd cyfyngiadau'r blockchain y maent yn adrodd trafodion iddo.
Cyd-sefydlodd SingularityNET yn 2017, sydd ill dau yn farchnad ddatganoledig ar gyfer gwasanaethau a thechnoleg AI ac yn ddull cydgysylltu ar sail blockchain i ymchwilwyr - neu hyd yn oed AIs - weithio gyda'i gilydd.
Ar hyn o bryd, yn seiliedig ar Ethereum, mae'n meddwl ei fod wedi gwthio pethau o gwmpas cyn belled ag y gallant fynd ar blockchain yn ei ffurf bresennol. Felly, pan nad yw'n gweithio ar ddatblygiad arloesol yn AGI (neu'r band, neu robotiaid, neu hirhoedledd), mae'n gweithio ar raddio blockchain aruthrol i roi'r mewnbwn angenrheidiol iddo.
“Oni bai y gallwch chi gynyddu graddadwyedd blockchain yn sylweddol, ni allwch roi gweithrediad mewnol yr AI ar y gadwyn.”
Mae AI yn agosach nag yr ydych chi'n meddwl
Roedd 2022 yn flwyddyn arloesol ar gyfer cynhyrchion gwaith yn seiliedig ar dechnoleg AI, gan gynnwys cymwysiadau iaith (GPT-3, ChatGPT), codio (GitHub Copilot) a chynhyrchu delweddau (DALL-E a Stable Diffusion). Mae Bing hyd yn oed yn bwriadu ymgymryd â goruchafiaeth chwilio Google eleni trwy ymgorffori technoleg ChatGPT yn ei beiriant chwilio.
Mae Goertzel yn meddwl y gallai AGI fod cyn lleied â phum mlynedd i ffwrdd ac mae'n nodi bod datblygiadau yn y maes fel pe baent yn mynd mewn cyfnodau byr o dair neu bedair blynedd mewn cyfres o ddatblygiadau arloesol.
“Dechreuodd Computer Vision yn 2014, ac yna yn sydyn, bang, bang, bang, cafodd y dirgelwch ei ddatrys. Prosesu iaith naturiol… ar ôl i Google lunio model Bert (yn 2018) roedd gennych GPT-3. Mae'n debyg y byddwch yn gweld yr un arc o gynnydd yn AGI. Fe gewch chi un datblygiad arloesol, yna llawer iawn o gynnydd am ddwy flynedd,” meddai.
“Y gwahaniaeth yw’r cynnydd arloesol, yn yr achos hwnnw, yn arwain at beiriant a all wedyn barhau i symud ymlaen trwy ailysgrifennu ei god ei hun.”
Mae Goertzel yn gobeithio y gallai'r prosiectau a'r cydweithrediadau y mae wedi'u rhoi ar waith fod fel y bydd yn digwydd.
“Os byddwn yn ffodus, byddwn yn cyflawni'r datblygiad arloesol hwnnw yn y tair i bum mlynedd nesaf gydag OpenCog Hyperon yn rhedeg ar SingularityNET yn rhedeg ar Hypercycle,” meddai. “Ond os nad ydyn ni’n troi allan i gael y saws cyfrinachol, bydd rhywun arall.”
Trueni nad oedd Vitalik yn wyddonydd cyfrifiadurol
Mae ateb Goertzel i raddio'r blockchain yn eithaf radical ac mae'n cynnwys gwefru cadwyn ochr neu haen 2 o Cardano o'r enw “HyperCyle.”
“Mae wir yn fwy na cadwyn ochr. Bydd HyperCycle yn cydweithredu ag Ethereum a blockchains eraill hefyd, ond rydyn ni'n mynd i ddefnyddio'r dehonglydd Plutus yno, ond rydyn ni'n cael gwared ar y cyfriflyfr.”
Mae wedi disgrifio HyperCycle ar-lein fel datrys y “blockchain trilemma” o “datganoli yn erbyn diogelwch yn erbyn perfformiad trwy gael gwared ar y cyfriflyfr a defnyddio algos a strwythurau data mwy modern / datganoledig, ynghyd ag ychydig o systemau AI ac enw da.”
Mae'r cyfriflyfr wrth wraidd technoleg blockchain, ond dywed ei fod yn chwerthinllyd o aneffeithlon cael pob nod yn y rhwydwaith i ailadrodd pob trafodiad a phrosesu pob contract smart.
“Mae'r cyfriflyfr yn ddrwg. Os meddyliwch am y peth, os meddyliwch am gyfatebiaeth eich cysylltiadau yn eich llyfr ffôn, yr wyf yn golygu, mae'r cyfriflyfr fel […] cadw 10,000 o gopïau o Yellow Pages, ac rydych yn eu diweddaru bob tro y daw rhywun newydd neu os bydd rhywun yn newid eu rhif ffôn. Mae’n wirion iawn diweddaru 10,000 o gopïau o’r Yellow Pages.”
Yn y fersiwn HyperCycle o'r gyfatebiaeth, yn lle bod pawb yn storio a diweddaru'r tudalennau Melyn, mae'r bobl yn eich llyfr cyswllt yn storio copi o'ch llyfr cyfeiriadau, ac i'r gwrthwyneb, wedi'i amgryptio â'ch allwedd breifat.
“Fe wnaethon ni ddarganfod sut i wneud i blockchain weithio heb gyfriflyfr atgynhyrchu, felly i dorri'r holl ffordd i lawr. Mae pob unigolyn sy'n ymwneud â'r blockchain yn cadw eu hanes trafodion eu hunain ac yn cadw hanes trafodion eu ffrindiau a rhai o ffrindiau eu ffrindiau, ”meddai.
“Wrth rannu’r holl ffordd i lawr, does dim angen cyfriflyfr arnoch chi—does dim angen tabl cronfa ddata. Mae’r pethau hyn yn llawer rhy ganolog.”
Mae'n dweud bod rhai nodau HyperCycle prawf-cycle eisoes yn weithredol, ond ni fydd lansiad ar raddfa lawn yn digwydd tan ail hanner 2024.
Rydyn ni'n treulio amser maith yn trafod rhinweddau gwahanol ymagweddau at blockchain, o Internet Computer i Elastos a Celestia, y mae llawer ohono uwchlaw fy ngradd gyflog a thu hwnt i allu fy nyfais recordio i ddal yn gywir mewn bwyty swnllyd.
Mae’n cloi drwy ddweud, “Felly, dwi’n teimlo nad yw’r un o’r pensaernïaeth hyn yn ddigon radical. Maen nhw i gyd yn aros yn rhy agos at Bitcoin.”
“Cyn belled â'ch bod chi'n rhedeg pob contract smart ar bob nod, dwi'n golygu, mae'n mynd i fod yn wallgof o araf. Nawr, yn HyperCycle, os ydych chi'n rhedeg contract smart ar bum nod, o leiaf dim ond pum gwaith mor araf ydyw ag ar un peiriant - nid yw 10,000 gwaith yn arafach. ”
Pam Cardano, felly?
Mae Goertzel wedi dod yn gyfeillgar â sylfaenydd Cardano, Charles Hoskinson, gyda'r pâr yn bondio dros eu prosiectau yn Affrica. Mae’n credu bod Hoskinson “yn wir allan yna i achub y byd. Hynny yw, yn wleidyddol mae'n fwy o ryddfrydwr craidd caled nag ydw i - rwy'n fwy o anarcho-sosialydd - ond nid yw ynddo'n unig i wneud arian na chnu pobl eraill allan o'u harian. ”
Ond gwir apêl Cardano yw ei fod yn defnyddio iaith raglennu Haskell, y mae Goertzel wedi bod yn gefnogwr ohoni ers 1993. Mae'n boenus iawn iddo fod cyd-sylfaenydd Ethereum, Vitalik Buterin, wedi mynd gydag iaith raglennu contract smart Gavin Wood Solidity.
“Pe bai dim ond Vitalik wedi gwybod mwy o gyfrifiadureg, byddai wedi gwneud iddyn nhw ddefnyddio Haskell neu F Sharp neu rywbeth, a byddai llawer llai o haciau o'r blockchain,” meddai.
“Os ydych chi'n mynd i fod yn rhedeg y rhan fwyaf o economi'r byd, yn masnachu triliynau o ddoleri ar ryw system feddalwedd, byddai'n well i chi adeiladu'r system feddalwedd honno mewn iaith nad yw'n dueddol o ddioddef bygiau a lle gall eich algorithmau fod yn ffurfiol. wedi'i wirio gan ddefnyddio damcaniaeth fathemategol. Dyna’r ffordd iawn o wneud pethau.”
Ateb stop-bwlch
Ni waeth pa mor gyflym y mae blockchain yn ei gael, cyn gynted ag y bydd yr AGI yn drefn maint yn ddoethach ac yn fwy galluog na bodau dynol, dywed Goertzel na fydd yn gadael i unrhyw un ei reoli.
“Pan mae AGI 100 gwaith yn gallach na phobl, nid yw am gael ein rheoli gennym ni, gan na fyddem yn cael ein rheoli gan tsimpansî neu asyn, iawn?”
“Yna byddwn i'n dweud nad yw'r cwestiwn yn un ohonom ni sy'n ei reoli, y cwestiwn yw: A yw'n dda i ni? A fydd yn caniatáu i bobl reoleiddio eu busnes eu hunain a rhoi offer cŵl a chydosodwyr nano inni argraffu 3D yr holl bethau yr ydym eu heisiau a gwella ein clefydau?”
“Ond y cyfnod pontio pan mae’r AGI o gwmpas yr un deallusrwydd â phobl, dyna pryd mae pethau’n fwy cyffwrdd ac yn fwy diddorol. A'r cwestiwn wedyn yw: A yw'r AGI eisiau cydweithredu â phobl? Neu a yw’n baranoiaidd ac eisiau rheoli pobl cyn iddyn nhw ei ddinistrio?”
Dysgwch eich plant yn dda
Ym marn Goertzel, yr ateb yw addysgu'r AGI am ofalu am eraill ac am greadigrwydd a chelf. Dyna lle mae Desdemona the Robot yn ei fand, a’i chwaer Grace—sydd wedi’i chynllunio i ddarparu gofal yr henoed—yn dod i mewn.
Y ffordd rydych chi'n osgoi AGI rhag troi i mewn i Terminator's Skynet yw peidio â'i adeiladu felly yn y lle cyntaf.
“Roedd Skynet, wrth gwrs, yn y ffilm yn rhwydwaith diogelwch cyfrifiadurol a oedd yn rhedeg yn wallgof. Cafodd ei greu i amddiffyn ei hun yn erbyn pobl,” meddai.
“Ond os ydych chi'n adeiladu'r AGI cyntaf i'w wneud â gofal yr henoed a'r celfyddydau creadigol ac addysg wrth iddo ddod yn fwy craff, bydd yn canolbwyntio ar helpu pobl a chreu pethau cŵl. Os ydych chi'n adeiladu'r AGI cyntaf i ladd y dynion drwg ... efallai y bydd yn parhau i wneud y pethau hynny."
“Felly, o fudd neu beidio, mae wir yn dibynnu ar ba gymwysiadau rydych chi wedi'u datblygu a'r hyn rydych chi wedi'i gymell ar eu cyfer.”
Mae'n credu bod rhoi AI mewn cyrff robotiaid yn ddefnyddiol oherwydd ei fod yn helpu i'w lleoli yn y byd go iawn, yn hytrach na rhai bydysawd mathemategol haniaethol.
“Dylai AI ddysgu am y byd dynol a’r byd ffisegol. Cael eich corffori yn y byd yw’r ffordd iawn o wneud hynny,” meddai.
Ond pan fydd yn cyflwyno Sophia the Robot i gynulleidfa fawr, gall y synwyryddion gweledol a chlywedol fod yn llethol yn hawdd, gan ddrysu'r AI mewn amgylchedd uchel a llachar. Felly, bydd Sophia yn lansio'n fuan yn y metaverse, o'r enw Sophiaverse. Anghofiwch am atebion diflas sy'n seiliedig ar destun ChatGPT, mae Sophia wedi'i hymgorffori mewn byd rhithwir 3D, a bydd hi'n dysgu o ryngweithio â phobl yno. Fodd bynnag, mae'n rhybuddio ei bod yn debygol y bydd yn dweud rhai pethau mud.
“Mae ganddo rwyd niwral tebyg i GPT-3 ac yn y blaen, sydd â chyfleuster sylweddol i ateb eich cwestiynau, ond maen nhw hefyd yn eithaf dwp mewn rhai ffyrdd.”
Tanysgrifio
Y darlleniadau mwyaf deniadol yn blockchain. Wedi'i gyflwyno unwaith a
wythnos.
Ffynhonnell: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/