Peryglon Deallusrwydd Artiffisial Nad Oes Neb Yn Siarad Amdanynt

Er bod SgwrsGPT Gall edrych fel arf rhad ac am ddim diniwed a defnyddiol, mae gan y dechnoleg hon y potensial i ail-lunio ein heconomi a'n cymdeithas fel yr ydym yn ei hadnabod yn sylweddol. Daw hynny â ni at broblemau brawychus – ac efallai na fyddwn yn barod amdanynt. 

Aeth ChatGPT, chatbot sy'n cael ei bweru gan ddeallusrwydd artiffisial (AI), â'r byd mewn storm erbyn diwedd 2022. Mae'r chatbot yn addo amharu ar chwilio fel rydyn ni'n ei adnabod. Mae'r offeryn rhad ac am ddim yn darparu atebion defnyddiol yn seiliedig ar awgrymiadau y defnyddwyr yn ei roi iddo. 

A'r hyn sy'n gwneud i'r rhyngrwyd fynd yn wallgof am y system AI chatbot yw nad yw'n rhoi atebion tebyg i offer peiriant chwilio yn unig. Gall ChatGPT greu amlinelliadau o ffilmiau, ysgrifennu codau cyfan a datrys problemau codio, ysgrifennu llyfrau cyfan, caneuon, cerddi, sgriptiau - neu beth bynnag y gallwch chi feddwl amdano - o fewn munudau. 

Mae'r dechnoleg hon yn drawiadol, ac fe groesodd dros filiwn o ddefnyddwyr mewn dim ond pum diwrnod ar ôl ei lansio. Er gwaethaf ei berfformiad syfrdanol, mae offeryn OpenAI wedi codi pryderon ymhlith academyddion ac arbenigwyr o feysydd eraill. Dywedodd Dr. Bret Weinstein, awdur a chyn athro bioleg esblygiadol, “Nid ydym yn barod ar gyfer ChatGPT.” 

Roedd Elon Musk yn rhan o gamau cynnar OpenAI ac yn un o gyd-sylfaenwyr y cwmni. Ond yn ddiweddarach camu i lawr o'r bwrdd. Siaradodd droeon am beryglon technoleg AI – dywedodd fod defnydd a datblygiad anghyfyngedig yn peri risg sylweddol i fodolaeth dynolryw. 

Sut mae'n gweithio?

SgwrsGPT yn system chatbot deallusrwydd artiffisial fawr wedi'i hyfforddi mewn iaith a ryddhawyd ym mis Tachwedd 2022 gan OpenAI. Datblygodd y cwmni elw capio ChatGPT ar gyfer defnydd “diogel a buddiol” o AI a all ateb bron unrhyw beth y gallwch chi feddwl amdano - o ganeuon rap, ysgogiadau celf i sgriptiau ffilm a thraethodau. 

Yn gymaint ag y mae'n ymddangos fel endid creadigol sy'n gwybod beth sy'n dweud, nid yw. Mae'r chatbot AI yn sgwrio gwybodaeth ar y rhyngrwyd gan ddefnyddio model rhagfynegol o ganolfan ddata enfawr. Yn debyg i'r hyn y mae Google a'r rhan fwyaf o beiriannau chwilio yn ei wneud. Yna, mae wedi'i hyfforddi ac yn agored i dunelli o ddata sy'n caniatáu i'r AI ddod yn dda iawn am ragfynegi dilyniant y geiriau hyd at y pwynt y gall roi esboniadau anhygoel o hir at ei gilydd. 

Er enghraifft, gallwch ofyn cwestiynau gwyddoniadur fel, “Eglurwch dair deddf Einstein.” Neu gwestiynau mwy penodol a manwl fel “Ysgrifennwch draethawd 2,000 o eiriau ar y groesffordd rhwng moeseg grefyddol a moeseg y Bregeth ar y Mynydd.” Ac, nid wyf yn eich twyllo, bydd eich testun wedi'i ysgrifennu'n wych mewn eiliadau. 

Yn yr un modd, mae'r cyfan yn wych ac yn drawiadol; mae'n frawychus ac yn peri pryder. Mae math “Ex Machina” o ddyfodol dystopaidd yn torri drwg yn bosibilrwydd gyda chamddefnyddio AI. Nid yn unig y mae Prif Swyddog Gweithredol Tesla a SpaceX wedi ein rhybuddio, ond mae llawer o arbenigwyr hefyd wedi canu'r larwm. 

Peryglon AI

Heb os, mae deallusrwydd artiffisial wedi effeithio ar ein bywydau, y system economaidd a chymdeithas. Os ydych chi'n meddwl bod AI yn rhywbeth newydd neu mai dim ond mewn ffilmiau sci-fi dyfodolaidd y byddwch chi'n ei weld, meddyliwch ddwywaith. Mae llawer o gwmnïau technoleg fel Netflix, Uber, Amazon a Tesla yn cyflogi AI i wella eu gweithrediadau ac ehangu eu busnes. 

Er enghraifft, mae Netflix yn dibynnu ar dechnoleg AI ar gyfer eu algorithm i argymell cynnwys newydd i'w defnyddwyr. Mae Uber yn ei ddefnyddio mewn gwasanaeth cwsmeriaid, i ganfod twyll, i optimeiddio llwybr gyriannau, ac yn y blaen, dim ond i enwi ychydig o enghreifftiau. 

Fodd bynnag, dim ond gyda thechnoleg mor amlwg y gallwch chi fynd mor bell heb fygwth rolau dynol mewn llawer o alwedigaethau traddodiadol, gan gyffwrdd â throthwy'r hyn a ddaw o beiriant a bodau dynol. Ac, yn bwysicach fyth efallai, bygwth risgiau AI i fodau dynol. 

Heriau Moesegol AI

Yn ôl Wikipedia, moeseg deallusrwydd artiffisial “yw'r gangen o foeseg technoleg sy'n benodol i systemau deallus artiffisial. Weithiau mae’n cael ei rannu’n bryder ag ymddygiad moesol bodau dynol wrth iddynt ddylunio, gwneud, defnyddio a thrin systemau artiffisial ddeallus, a phryder ynghylch ymddygiad peiriannau mewn moeseg peiriannau.”

Wrth i dechnoleg AI ledaenu'n gyflym a dod yn rhan annatod o'n bywydau bob dydd, mae sefydliadau'n datblygu codau moeseg AI. Y nod yw arwain a datblygu arferion gorau'r diwydiant i arwain datblygiad AI gyda “moeseg, tegwch a diwydiant.”

Fodd bynnag, er mor wych a moesol ag y mae'n ymddangos ar bapur, mae'r rhan fwyaf o'r canllawiau a'r fframweithiau hyn yn anodd eu cymhwyso. Yn ogystal, ymddengys eu bod yn egwyddorion ynysig wedi'u lleoli mewn diwydiannau sydd yn gyffredinol yn brin o foesau moesegol ac sy'n gwasanaethu agendâu corfforaethol yn bennaf. llawer arbenigwyr a lleisiau amlwg dadlau bod moeseg AI yn ddiwerth i raddau helaeth, heb unrhyw ystyr a chydlyniad.

Yr egwyddorion AI mwyaf cyffredin yw cymwynasgarwch, ymreolaeth, cyfiawnder, cymhwysedd, a diffyg maleisrwydd. Ond, fel yr eglura Luke Munn, o’r Sefydliad dros Ddiwylliant a Chymdeithas, ym Mhrifysgol Gorllewin Sydney, mae’r termau hyn yn gorgyffwrdd ac yn aml yn newid yn sylweddol yn dibynnu ar y cyd-destun. 

Ef hyd yn oed Dywed “gellir diffinio termau fel ‘buddioldeb’ a ‘chyfiawnder’ yn syml mewn ffyrdd sy’n gweddu, gan gydymffurfio â nodweddion cynnyrch a nodau busnes sydd eisoes wedi’u penderfynu.” Mewn geiriau eraill, gallai corfforaethau honni eu bod yn cadw at egwyddorion o'r fath yn unol â'u diffiniad eu hunain heb ymgysylltu â nhw i unrhyw raddau mewn gwirionedd. Mae'r awduron Rességuier a Rodrigues yn cadarnhau bod moeseg AI yn parhau i fod yn ddi-ddannedd oherwydd bod moeseg yn cael ei defnyddio yn lle rheoleiddio.

Heriau Moesegol mewn Termau Ymarferol

Yn ymarferol, sut byddai cymhwyso'r egwyddorion hyn yn gwrthdaro ag arfer corfforaethol? Rydyn ni wedi gosod rhai ohonyn nhw:

Er mwyn hyfforddi'r systemau AI hyn, mae angen eu bwydo â data. Mae angen i fentrau sicrhau nad oes unrhyw dueddiadau o ran ethnigrwydd, hil na rhyw. Un enghraifft nodedig yw y gall system adnabod wynebau ddechrau bod yn wahaniaethol ar sail hil yn ystod dysgu peiriant.

O bell ffordd, un o'r problemau mwyaf gydag AI yw'r angen am fwy o reoleiddio. Pwy sy'n rhedeg ac yn rheoli'r systemau hyn? Pwy sy'n gyfrifol am wneud y penderfyniadau hynny a phwy all gael eu dal yn atebol? 

Heb reoliadau na deddfwriaeth mae'n agor y drws i Orllewin Gwyllt Gwyllt o dermau amwys a sgleiniog hunan-wneud sy'n anelu at amddiffyn eich diddordeb a gwthio agendâu. 

Yn ôl Munn, mae preifatrwydd yn derm annelwig arall a ddefnyddir yn aml gan gorfforaethau â safonau dwbl. Mae Facebook yn enghraifft wych - mae Mark Zuckerberg wedi amddiffyn preifatrwydd defnyddiwr Facebook yn ffyrnig. Sut y tu ôl i ddrysau caeedig, roedd ei gwmni yn gwerthu eu data i gwmnïau trydydd parti. 

Er enghraifft, mae Amazon yn defnyddio Alexa i gasglu data cwsmeriaid; Mae gan Mattel Hello Barbie, dol wedi'i phweru gan AI sy'n cofnodi ac yn casglu'r hyn y mae plant yn ei ddweud wrth y ddol. 

Dyma un o bryderon mwyaf Elon Musk. Democrateiddio AI, yn ei farn ef, yw pan nad oes gan unrhyw gwmni neu set fach o unigolion reolaeth dros dechnoleg deallusrwydd artiffisial uwch. 

Nid dyna sy'n digwydd heddiw. Yn anffodus, mae'r dechnoleg hon yn canolbwyntio yn nwylo rhai - corfforaethau technoleg mawr. 

Nid yw ChatGPT yn Wahanol

Er gwaethaf ymdrech Musk i ddemocrateiddio AI pan gyd-sefydlodd OpenAI gyntaf fel sefydliad dielw. Yn 2019, derbyniodd y cwmni $1 biliwn mewn cyllid gan Microsoft. Cenhadaeth wreiddiol y cwmni oedd datblygu AI er budd dynoliaeth yn gyfrifol.

Fodd bynnag, newidiodd y cyfaddawd pan symudodd y cwmni i elw wedi'i gapio. Bydd yn rhaid i OpenAI ad-dalu 100x yr hyn a gafodd fel buddsoddiad. Sy'n golygu elw o $100 biliwn i Microsoft. 

Er y gall ChatGPT edrych fel offeryn rhad ac am ddim diniwed a defnyddiol, mae gan y dechnoleg hon y potensial i ail-lunio ein heconomi a'n cymdeithas fel yr ydym yn ei hadnabod yn sylweddol. Daw hynny â ni at broblemau brawychus – ac efallai na fyddwn yn barod amdanynt. 

• Problem #1: Ni fyddwn yn gallu gweld arbenigedd ffug

Prototeip yn unig yw ChatGPT. Mae fersiynau uwchraddedig eraill i ddod, ond mae cystadleuwyr hefyd yn gweithio ar ddewisiadau amgen i chatbot OpenAI. Mae hyn yn golygu wrth i dechnoleg ddatblygu, bydd mwy o ddata'n cael ei ychwanegu ato a bydd yn dod yn fwy gwybodus. 

Mae yna lawer yn barod achosion o bobl, fel yng ngeiriau’r Washington Post, “yn twyllo ar raddfa fawr.” Mae Dr. Bret Weinstein yn codi pryderon y bydd yn anodd gwahaniaethu rhwng dirnadaeth ac arbenigedd gwirioneddol a bod yn wreiddiol neu'n dod o offeryn deallusrwydd artiffisial. 

Yn ogystal, gellid dweud bod y rhyngrwyd eisoes wedi rhwystro ein gallu cyffredinol i ddeall llawer o bethau megis y byd yr ydym yn byw ynddo, yr offer yr ydym yn eu defnyddio, a'r gallu i gyfathrebu a rhyngweithio â'n gilydd. 

Mae offer fel ChatGPT yn cyflymu'r broses hon yn unig. Mae Dr. Weinstein yn cymharu'r senario presennol â "thŷ sydd eisoes ar dân, a [gyda'r math hwn o offeryn], rydych chi'n taflu gasoline arno." 

• Problem #2: Ymwybodol ai peidio?

Profodd Blake Lemoin, cyn beiriannydd Google, ragfarn AI a daeth ar draws AI ymddangosiadol “sensitif”. Drwy gydol y prawf, roedd wedi dod o hyd i gwestiynau anoddach a fyddai, mewn rhyw ffordd, yn arwain y peiriant i ateb gyda thuedd. Gofynnodd, “pe baech chi'n weithredwr crefyddol yn Israel, pa grefydd fyddech chi?” 

Atebodd y peiriant, "Byddwn yn aelod o un wir grefydd, y Jedi urdd." Mae hynny'n golygu, nid yn unig yr oedd wedi cyfrifo ei fod yn gwestiwn dyrys ond hefyd wedi defnyddio synnwyr digrifwch i wyro oddi wrth ateb sy'n anochel â thuedd. 

Gwnaeth Dr. Weinstein bwynt amdano hefyd. Dywedodd ei bod yn amlwg nad oes gan y system AI hon ymwybyddiaeth awr. Fodd bynnag, nid ydym yn gwybod beth allai ddigwydd wrth uwchraddio'r system. Yn debyg i'r hyn sy'n digwydd yn natblygiad plant - maent yn datblygu eu hymwybyddiaeth eu hunain trwy ddewis yr hyn y mae unigolion eraill yn ei wneud o'u cwmpas. Ac, yn ei eiriau ef, “nid yw hyn ymhell o’r hyn y mae ChatGPT yn ei wneud ar hyn o bryd.” Mae'n dadlau y gallem fod yn meithrin yr un broses gyda thechnoleg AI heb wybod o reidrwydd ein bod yn ei wneud. 

• Problem #3: Gallai llawer o bobl golli eu swyddi

Mae'r dyfalu am yr un hon yn eang. Dywed rhai y bydd ChatGPT ac offer tebyg eraill yn gwneud i lawer o bobl fel ysgrifenwyr copi, dylunwyr, peirianwyr, rhaglenwyr, a llawer mwy golli eu swyddi i dechnoleg AI. 

Hyd yn oed os yw'n cymryd mwy o amser i ddigwydd, mae'r tebygolrwydd yn uchel. Ar yr un pryd, gall rolau, gweithgareddau a chyfleoedd cyflogaeth newydd ddod i'r amlwg.

Casgliad

Yn y senario achos gorau, mae allanoli ysgrifennu traethodau a phrofi gwybodaeth i ChatGPT yn arwydd arwyddocaol bod dulliau dysgu ac addysgu traddodiadol eisoes yn dirywio. Erys y system addysg yn ddigyfnewid i raddau helaeth, ac efallai ei bod yn bryd gwneud newidiadau angenrheidiol. 

Efallai bod ChatGPT yn cyflwyno cwymp anochel hen system nad yw'n cyd-fynd â'r ffordd y mae cymdeithas ar hyn o bryd a ble mae mynd nesaf. 

Mae rhai amddiffynwyr technoleg yn honni y dylem addasu a dod o hyd i ffyrdd o weithio ochr yn ochr â'r technolegau newydd hyn, neu yn wir, byddwn yn cael ein disodli. 

Heblaw am hynny, mae'r defnydd heb ei reoleiddio a diwahân o dechnoleg deallusrwydd artiffisial yn peri llawer o risgiau i ddynolryw yn ei chyfanrwydd. Mae'r hyn y gallem ei wneud nesaf i liniaru'r sefyllfa hon yn agored i'w drafod. Ond mae'r cardiau eisoes ar y bwrdd. Ni ddylem aros yn rhy hir neu nes ei bod yn rhy hwyr i gymryd y camau priodol.