A Yw Datguddio A Chofnodi'r Allbynnau Cynhyrchiol hynny AI ChatGPT yn Wneud Dim yn Dda, Yn Gofyn AI Moeseg A Chyfraith AI

Rydych chi mewn am gyfrinach.

Oes, mae rhywbeth llechwraidd yn digwydd y tu ôl i'r llenni am y diweddaraf mewn AI y gallech fod eisiau gwybod amdano.

Yn y golofn heddiw, byddaf yn archwilio'r ysgogiad diweddar i lunio gwallau honedig a chamgymeriadau eraill sy'n gysylltiedig â'r traethodau wedi'u hallbynnu o ap AI o'r enw ChatGPT. Mae'r ap penodol hwn yn defnyddio math o AI o'r enw AI cynhyrchiol. Mae'n debyg eich bod wedi clywed neu weld penawdau trawiadol am AI cynhyrchiol a ChatGPT. Mae'r newyddion yn ôl ynghylch yr app AI penodol hwn a'r galluoedd rhyfeddol sy'n ymwneud â'r math hwn o AI.

Fel y byddaf yn sôn amdano mewn eiliad, mae rhai yn credu'n gryf bod angen i ni sefydlu rhestr o'r mathau o gamgymeriadau neu wallau y gall yr ap AI eu cynhyrchu pan fydd yn cynhyrchu traethawd i chi. Mae eraill yn awgrymu, er bod y syniad o restr o'r fath yn gymeradwy, mai ymarfer mewn oferedd ydyw ac ychydig iawn o ffrwyth y bydd yn ei ddwyn.

Byddwn yn archwilio’r ddwy ochr i’r ddadl ffyrnig honno.

Yn gyntaf, gadewch i ni sicrhau ein bod ni i gyd ar yr un dudalen am yr hyn y mae Generative AI yn ei gynnwys a hefyd beth yw pwrpas ChatGPT.

Mae ChatGPT yn system sgwrsiol ryngweithiol AI pwrpas cyffredinol sy'n canolbwyntio ar sgwrsio, yn ei hanfod yn chatbot cyffredinol sy'n ymddangos yn ddiniwed, serch hynny, mae'n cael ei ddefnyddio'n weithredol ac yn frwd gan bobl mewn ffyrdd sy'n dal llawer yn gwbl ddiofal. Y cyfan sydd angen i chi ei wneud i ddefnyddio'r math hwn o AI yw nodi anogwr a bydd yr app AI yn cynhyrchu traethawd i chi sy'n ceisio ymateb i'ch anogwr.

Yn anffodus, gellir defnyddio hwn mewn ffyrdd braidd yn anfoesegol neu'n gyfrwys. Teimlad arbennig o gyffrous yw y gall myfyrwyr ddefnyddio ap AI sy'n seiliedig ar gynhyrchiol i gynhyrchu eu traethodau penodedig ar eu cyfer, gan wneud hynny trwy nodi brawddeg neu ddwy i gael yr ap i'r cyfeiriad cywir. Mae rhai yn galaru bod hyn yn golygu y bydd myfyrwyr yn dewis twyllo wrth ysgrifennu traethodau y tu allan i'r dosbarth. Mae athrawon yn ceisio darganfod beth i'w wneud, gweler fy nadansoddiad ac argymhellion yn y ddolen yma.

Er gwaethaf y din cyson o ganmoliaeth ganmoladwy i ChatGPT, mae pryder llai adnabyddus yn cael ei fynegi'n bennaf gan fewnwyr AI bod yna rai materion a rhinweddau nodedig y dylai pobl fod yn poeni amdanynt. Un anfantais hanfodol yw y gall y traethodau a gynhyrchir gan yr ap AI hwn gynnwys anwireddau amrywiol, gan gynnwys ffeithiau amlwg anwir, ffeithiau sy'n cael eu portreadu'n gamarweiniol, a ffeithiau ymddangosiadol sydd wedi'u ffugio'n llwyr. Cyfeirir yn aml at yr agweddau ffug hynny fel ffurf o rhithweledigaethau AI, ymadrodd bach nad ydw i'n ei hoffi ond yn anffodus fel petai'n ennill tyniant poblogaidd beth bynnag (am fy esboniad manwl ynghylch pam mae hwn yn derminoleg lousy ac anaddas, gweler fy sylw yn y ddolen yma).

Hoffwn egluro un agwedd bwysig cyn inni fynd i'r afael â'r trwch o bethau ar y pwnc hwn.

Bu rhai honiadau anarferol o fawr ar gyfryngau cymdeithasol AI cynhyrchiol gan honni bod y fersiwn ddiweddaraf hon o AI mewn gwirionedd AI teimladwy (na, maen nhw'n anghywir!). Mae'r rhai mewn AI Moeseg a Chyfraith AI yn bryderus iawn am y duedd gynyddol hon o hawliadau estynedig. Efallai y byddwch yn dweud yn gwrtais bod rhai pobl yn gorbwysleisio'r hyn y gall AI heddiw ei wneud mewn gwirionedd. Maent yn cymryd yn ganiataol bod gan AI alluoedd nad ydym wedi gallu eu cyflawni eto. Mae hynny'n anffodus. Yn waeth byth, gallant ganiatáu eu hunain ac eraill i fynd i sefyllfaoedd enbyd oherwydd y rhagdybiaeth y bydd yr AI yn deimladwy neu'n ddynol o ran gallu gweithredu.

Peidiwch ag anthropomorffeiddio AI.

Bydd gwneud hynny yn eich dal mewn trap dibyniaeth gludiog a dour o ddisgwyl i'r AI wneud pethau nad yw'n gallu eu perfformio. Gyda dweud hynny, mae'r diweddaraf mewn AI cynhyrchiol yn gymharol drawiadol am yr hyn y gall ei wneud. Fodd bynnag, byddwch yn ymwybodol bod yna gyfyngiadau sylweddol y dylech eu cadw mewn cof yn barhaus wrth ddefnyddio unrhyw ap AI cynhyrchiol.

Os oes gennych ddiddordeb yn y cynnwrf sy'n ehangu'n gyflym am ChatGPT a Generative AI i gyd, rydw i wedi bod yn gwneud cyfres â ffocws yn fy ngholofn a allai fod yn addysgiadol i chi. Dyma gipolwg rhag ofn i unrhyw un o'r pynciau hyn ddal eich ffansi:

• 1) Rhagfynegiadau o Ddatblygiadau AI Cynhyrchiol yn Dod. Os ydych chi eisiau gwybod beth sy'n debygol o ddigwydd am AI trwy gydol 2023 a thu hwnt, gan gynnwys datblygiadau sydd ar ddod mewn AI cynhyrchiol a ChatGPT, byddwch chi am ddarllen fy rhestr gynhwysfawr o ragfynegiadau 2023 yn y ddolen yma.
• 2) AI cynhyrchiol a Chyngor Iechyd Meddwl. Dewisais adolygu sut mae AI cynhyrchiol a ChatGPT yn cael eu defnyddio ar gyfer cyngor iechyd meddwl, tuedd drafferthus, yn ôl fy nadansoddiad â ffocws yn y ddolen yma.
• 3) Cyd-destun A Defnydd AI Genehedlol. Gwnes hefyd archwiliad tafod-yn-y-boch tymhorol â blas ar gyd-destun yn ymwneud â Siôn Corn yn ymwneud â ChatGPT ac AI cynhyrchiol yn y ddolen yma.
• 4) Sgamwyr sy'n Defnyddio AI Generative. Ar nodyn ofnadwy, mae rhai sgamwyr wedi darganfod sut i ddefnyddio AI cynhyrchiol a ChatGPT i wneud camwedd, gan gynnwys cynhyrchu e-byst sgam a hyd yn oed gynhyrchu cod rhaglennu ar gyfer malware, gweler fy nadansoddiad yn y ddolen yma.
• 5) Camgymeriadau Rookie Gan Ddefnyddio AI Cynhyrchiol. Mae llawer o bobl yn gor-saethu ac yn syndod yn tanseilio'r hyn y gall AI cynhyrchiol a ChatGPT ei wneud, felly edrychais yn arbennig ar y tanseilio y mae rookies AI yn tueddu i'w wneud, gweler y drafodaeth yn y ddolen yma.
• 6) Ymdopi ag Anogwyr AI Cynhyrchiol A Rhithweledigaethau AI. Rwy'n disgrifio dull blaengar o ddefnyddio ychwanegion AI i ddelio â'r materion amrywiol sy'n gysylltiedig â cheisio mewnbynnu anogwyr addas i AI cynhyrchiol, ac mae yna ychwanegion AI ychwanegol ar gyfer canfod allbynnau ac anwireddau AI fel y'u gelwir, fel y'u gelwir. gorchuddio yn y ddolen yma.
• 7) Dadelfennu Hawliadau Pen Esgyrn Ynghylch Canfod Traethodau Cynhyrchiol o AI. Mae rhuthr aur cyfeiliornus o apiau AI sy'n datgan eu bod yn gallu canfod a oedd unrhyw draethawd penodol wedi'i gynhyrchu gan ddyn yn erbyn AI a gynhyrchwyd. Ar y cyfan, mae hyn yn gamarweiniol ac mewn rhai achosion, honiad â phen asgwrn ac anghynaladwy, gweler fy sylw yn y ddolen yma.
• 8) Gallai Chwarae Rôl Trwy AI Generative Taenu Anfanteision Iechyd Meddwl. Mae rhai yn defnyddio AI cynhyrchiol fel ChatGPT i chwarae rôl, lle mae'r ap AI yn ymateb i ddyn fel pe bai'n bodoli mewn byd ffantasi neu leoliad colur arall. Gallai hyn gael ôl-effeithiau iechyd meddwl, gw y ddolen yma.

Gadewch i ni ar hyn o bryd drafod hanfod AI cynhyrchiol a ChatGPT fel y byddwch chi'n gwybod y sylfeini dan sylw. Yna byddwn yn barod i neidio i mewn i ddadansoddiad treiddgar o'r anwireddau y gall yr apiau AI hyn eu cynhyrchu o bosibl. Byddaf yn cynnwys sawl enghraifft o wneud defnydd o ChatGPT, a fydd yn eich helpu i ddeall natur yr hyn y mae'r math hwn o AI cynhyrchiol yn ei gynhyrchu.

Yn Agor Can Mwydod Ar AI Genhedlol

Rydym yn barod i blymio i rai manylion am AI.

Os ydych chi eisoes yn hyddysg iawn ar bwnc AI cynhyrchiol a ChatGPT, efallai y byddwch chi'n dewis sgimio'n fyr trwy fy mhwyntiau a pharhau ag adran nesaf y drafodaeth hon. I bawb arall, credaf y gallai'r eglurhad hwn fod yn ddefnyddiol i chi.

Yn gryno, mae AI cynhyrchiol yn fath arbennig o AI sy'n cyfansoddi testun fel petai'r testun wedi'i ysgrifennu gan law a meddwl dynol. Y cyfan sydd angen i chi ei wneud yw nodi anogwr, fel brawddeg fel “Dywedwch wrthyf am Abraham Lincoln” a bydd AI cynhyrchiol yn rhoi traethawd ichi am Lincoln. Mae hyn yn cael ei ddosbarthu'n gyffredin fel AI cynhyrchiol sy'n perfformio testun-i-destun neu mae'n well gan rai ei alw testun-i-draethawd allbwn. Efallai eich bod wedi clywed am ddulliau eraill o AI cynhyrchiol, megis testun-i-gelf a thestun-i-fideo.

Efallai mai eich meddwl cyntaf yw nad yw hyn yn ymddangos yn gymaint o fawr o ran cynhyrchu traethodau. Gallwch chi wneud chwiliad ar-lein o'r Rhyngrwyd yn hawdd a dod o hyd i dunelli a thunelli o draethodau am yr Arlywydd Lincoln yn hawdd. Y ciciwr yn achos AI cynhyrchiol yw bod y traethawd a gynhyrchir yn gymharol unigryw ac yn darparu cyfansoddiad gwreiddiol yn hytrach na chopi. Pe baech yn ceisio dod o hyd i'r traethawd a gynhyrchwyd gan AI ar-lein yn rhywle, byddech yn annhebygol o'i ddarganfod.

Mae Deallusrwydd Artiffisial cynhyrchiol wedi’i hyfforddi ymlaen llaw ac mae’n defnyddio fformiwleiddiad mathemategol a chyfrifiannol cymhleth sydd wedi’i sefydlu drwy archwilio patrymau mewn geiriau ysgrifenedig a storïau ar draws y we. O ganlyniad i archwilio miloedd ar filiynau o ddarnau ysgrifenedig, gall yr AI chwistrellu traethodau a straeon newydd sy'n gymysgfa o'r hyn a ddarganfuwyd. Trwy ychwanegu amrywiol swyddogaethau tebygol, mae'r testun sy'n deillio ohono yn eithaf unigryw o'i gymharu â'r hyn a ddefnyddiwyd yn y set hyfforddi.

Dyna pam y bu cynnwrf ynghylch myfyrwyr yn gallu twyllo wrth ysgrifennu traethodau y tu allan i'r ystafell ddosbarth. Ni all athro gymryd y traethawd y mae myfyrwyr twyllodrus yn honni ei fod yn ysgrifennu ei hun a cheisio darganfod a gafodd ei gopïo o ryw ffynhonnell ar-lein arall. Ar y cyfan, ni fydd unrhyw draethawd preexisting diffiniol ar-lein sy'n cyd-fynd â'r traethawd a gynhyrchir gan AI. Wedi dweud y cyfan, bydd yn rhaid i'r athro dderbyn yn ddig fod y myfyriwr wedi ysgrifennu'r traethawd fel darn o waith gwreiddiol.

Mewn eiliad, byddaf yn arddangos i chi beth sy'n digwydd pan fyddwch chi'n rhoi cwestiynau neu anogaeth i AI cynhyrchiol. Byddaf yn defnyddio'r fersiwn ddiweddaraf o ChatGPT i nodi fy anogwyr ac rwyf wedi casglu'r “atebion” neu'r traethodau a gynhyrchwyd gan yr AI (sylwch y gellir gwneud yr un peth gyda'r nifer o apiau AI cynhyrchiol eraill sydd ar gael; Rwyf wedi dewis defnyddio ChatGPT oherwydd ei fod yn cael ei bum munud o enwogrwydd ar hyn o bryd).

Efallai y gallai tangiad byr am ChatGPT fod yn ddefnyddiol ar yr adeg hon.

Roedd ap ChatGPT ar gael i'r cyhoedd ychydig fisoedd yn ôl. Ar y cyfan, dim ond mewnwyr AI y mae'r apiau AI cynhyrchiol hyn yn hygyrch. Yr agwedd anarferol y gallai unrhyw un ddefnyddio ChatGPT trwy nodi cyfeiriad e-bost ac enw, wel, arweiniodd hyn at lawer o bobl yn penderfynu rhoi cynnig arni. Mae ChatGPT yn rhad ac am ddim i'w ddefnyddio ar hyn o bryd (mae'r mater ariannol yn gyfyng-gyngor sydd ar ddod i wneuthurwyr AI).

Bron yn syth bu ymateb doniol ar gyfryngau cymdeithasol wrth i bobl rasio i roi enghreifftiau o'r hyn y gall AI cynhyrchiol ei wneud. Dewisodd y cwmni sy'n gwneud ChatGPT, OpenAI, gau'r cofrestriadau gyda miliwn o ddefnyddwyr. Mae'r miliwn o ddefnyddwyr hynny wedi llwyddo i beledu'r tonnau awyr â phob math o straeon a chwedlau am ddefnyddio ChatGPT.

Byddwch yn ofalus iawn wrth gredu'r hyn sydd gan bobl i'w ddweud am yr ap AI. Nid yw llawer o'r bobl hyn yn gwybod beth maent yn ei ddefnyddio. Mae bron fel pe na baent erioed wedi gyrru car a heb sylweddoli bod ceir yn bodoli, ac yn sydyn iawn cawsant gyfle i yrru car. Mae syndod llwyr yn dilyn.

Dydw i ddim yn dweud nad yw AI cynhyrchiol yn gymharol drawiadol. Mae'n. Rwy'n pwysleisio bod llawer o'r tystebau gushing yn cael eu gwneud gan lawer sy'n hapus heb fod yn ymwybodol o'r hyn y gall AI heddiw ei wneud. Mae'r rhai ohonom y tu mewn i AI wedi bod yn defnyddio AI cynhyrchiol am y blynyddoedd diwethaf. Efallai inni ddod i arfer ag ef. Yn sydyn, mae gweld gwasgfa enfawr o bobl yn ei thwtio i'r toeau wedi bod yn llawn egni, ond hefyd braidd yn anniddig. Y rhan sy'n peri gofid yw pan fydd pobl yn cyhoeddi bod AI cynhyrchiol yn deimladwy. Nid yw. Peidiwch â gadael i neb eich argyhoeddi fel arall.

Wedi dweud hynny, mae dadl frwd barhaus yn y maes AI ynghylch a yw AI cynhyrchiol ar y llwybr i deimlad neu a yw efallai nad yw. Un farn yw, os byddwn yn parhau i gynyddu AI cynhyrchiol gyda chyfrifiaduron cyflymach a mwy o ddata fel sgwrio pob modfedd o'r Rhyngrwyd, byddwn bron yn cyrraedd AI teimladol yn ddigymell. Mae eraill yn dadlau bod hyn yn annhebygol iawn. Maent yn awgrymu y gallai AI cynhyrchiol fod yn un o lawer o gydrannau sydd eu hangen. Mae hyd yn oed y farn waethaf bod AI cynhyrchiol yn sioe ochr sy'n tynnu ein sylw oddi wrth y datblygiadau gwirioneddol y bydd eu hangen arnom i gyflawni AI ymdeimladol.

Efallai y byddwch hefyd yn dod o hyd i werth nodedig y mae mewnwyr AI yn tueddu i gyfeirio ato Deallusrwydd Cyffredinol Artiffisial (AGI) fel y nod uchelgeisiol ar gyfer y maes AI. Roedd yn arfer bod y nod oedd cyrraedd Cudd-wybodaeth Artiffisial, ond mae'r moniker AI wedi cael ei ddyfrio a'i ddryslyd. Pan fydd rhywun yn dweud eu bod yn gwneud gwaith AI, ni wyddoch a ydynt yn cyfeirio at AI heddiw nad yw'n cyfateb i fodau dynol neu a ydynt yn cyfeirio at AI cyfwerthedd dynol dyfodolaidd. I fynd o gwmpas y dryswch cynyddol hwnnw, mae'r geiriad mwy newydd o AGI yn cael ei ddefnyddio y dyddiau hyn.

Wedi dweud y cyfan, AI cynhyrchiol heddiw yw nid ymdeimladol, ac nid yw ychwaith yn AGI.

Cofiwch, fel y trafodwyd yn gynharach, nid yw'r AI yn deimladwy. Mae'r ymatebion a gynhyrchir gan yr AI yn gyfuniad mathemategol a chyfrifiannol o eiriau i ddarnau sy'n ymddangos yn rhugl. Mae hyn yn seiliedig ar yr algorithm AI wedi cael ei hyfforddi ar setiau data o eiriau a straeon y mae bodau dynol wedi'u hysgrifennu (fel y'u postiwyd ar y Rhyngrwyd yn bennaf). Ailadroddaf y rhybudd hwn oherwydd byddwch yn sicr yn syrthio i'r trap meddwl bod yr ymatebion hyn mor rhugl fel bod yn rhaid i'r AI fod yn deimladwy. Mae hyn yn digwydd i'r rhan fwyaf o bobl. Fel yr anogwyd yn gynharach, rhowch yr anthropomorffeiddio hwnnw o'r neilltu. Cofiwch bob amser fod yr ymatebion yn seiliedig ar y casgliad helaeth o ysgrifennu gan fodau dynol sy'n bodoli ar y Rhyngrwyd ac felly byddant yn hynod debyg i ysgrifennu dynol.

Mae rhywbeth arall y mae angen i chi ei wybod.

Bydd AI cynhyrchiol sy'n cael ei hyfforddi ar y Rhyngrwyd mewn ffordd ddilyffethair yn tueddu i ymdoddi i ba bynnag ymatebion testunol y mae'n creu rhai pethau niwlog yn fathemategol ac yn gyfrifiadol, gan gynnwys geiriad atgaseddol cas. Mae yna lawer o bethau gwallgof a budr yn cael eu postio allan yna ar y we.

Rydych chi wedi ei weld, rydych chi'n gwybod beth rydw i'n ei olygu.

Mae'r cwmnïau sy'n crefftio'r apiau AI hyn yn poeni y bydd y babi diarhebol yn cael ei daflu allan gyda'r dŵr bath (hen ddywediad, efallai i ymddeol), sy'n golygu, os yw eu AI yn cynhyrchu traethodau neu straeon sarhaus, bydd pobl yn mynd i fyny yn eu breichiau am yr AI. Rwyf wedi ymdrin â nifer o achosion blaenorol lle dadorchuddiwyd y mathau hyn o apiau AI Prosesu Iaith Naturiol (NLP) a chyn bo hir daeth pob math o bethau erchyll allan ohonynt (rwyf wedi ymdrin â'r achosion hyn yn fy ngholofn). Dysgodd y rhan fwyaf o'r gwneuthurwyr AI wers galed am ganiatáu i'w nwyddau AI fod yn ddilyffethair yn eu hallbynnau.

Yn achos ChatGPT, ceisiodd y datblygwyr AI roi rhai gwiriadau a balansau algorithmig a chysylltiedig â data ar waith i ffrwyno cas yn allbynnau'r AI. Digwyddodd rhan o hyn yn ystod amser hyfforddi. Yn ogystal, mae yna ddulliau eraill mewn ymgais amser real i ddileu allbynnau arbennig o hynod.

Efallai y byddai o ddiddordeb i chi fod rhai pobl sydd wedi defnyddio ChatGPT eisoes wedi meddwl am ffyrdd dirgel o fynd o gwmpas y rheiliau gwarchod hynny trwy ddefnyddio amrywiol dwyll. Mae gambit cath-a-llygoden barhaus yn digwydd yn y materion hyn. Mae'r rhai sy'n gwneud y triciau hyn weithiau'n gwneud hynny er hwyl, ac weithiau maen nhw (o leiaf yn honni) eu bod yn gwneud hynny i weld pa mor bell y gellir ymestyn y AI a darparu ffordd ddefnyddiol o ragrybuddio brau a gwendidau'r eginblanhigion hyn. Apiau AI.

Penderfynais beidio â cheisio osgoi'r rheolaethau arferol yn yr archwiliad â ffocws hwn. Mae'r allbwn testun yn lân. Yn sicr, pe bai rhywun am wneud hynny, mae'n ddiamau y gallech chi gael rhai traethodau rhyfedd a di-chwaeth i'w cynhyrchu.

Mae'r traethodau a gynhyrchir gan y rhan fwyaf o'r apiau AI cynhyrchiol hyn wedi'u cynllunio i gyfleu'r allbwn fel petai'n gwbl ffeithiol a chywir. Pan fyddwch yn darllen y traethodau a gynhyrchwyd, maent yn dod ar eu traws yn gwbl hyderus. Fel arfer nid oes unrhyw fath o arwydd y gallai'r cynnwys fod yn greigiog. Mae hyn trwy ddewis y gwneuthurwyr AI, sef y gallent adolygu'r apps AI i fod yn fwy tryloyw pe baent am i'r app AI wneud hynny.

Weithiau, mae ap AI cynhyrchiol yn canfod anwireddau yng nghanol data hyfforddi gwybodaeth annibynadwy ar draws y Rhyngrwyd. Nid oes unrhyw “synnwyr cyffredin” mewn AI cynhyrchiol i benderfynu beth sy'n wir yn erbyn ffug. Ar ben hynny, ychydig iawn o apiau AI sydd ag unrhyw groeswirio, ac nid ydynt ychwaith yn arddangos unrhyw debygolrwydd sy'n gysylltiedig â'r hyn y maent yn ei gyfleu.

Y canlyniad sylfaenol yw eich bod yn cael ymateb sy'n edrych ac yn teimlo fel ei fod yn dangos sicrwydd mawr ac mae'n rhaid iddo fod yn gwbl gywir. Nid felly. Mae hyd yn oed siawns y bydd y stwff cyfrifiadurol AI wedi'i wneud i fyny, y cyfeirir ato yn iaith AI fel rhithweledigaethau AI (term a fathwyd nad wyf yn bendant yn ei hoffi), gweler fy nhrafodaeth ynddo y ddolen yma.

Gwnaeth gwneuthurwyr ChatGPT ymdrech ar y cyd i geisio lleihau'r allbynnau pethau drwg. Er enghraifft, fe wnaethon nhw ddefnyddio amrywiad o'r hyn a elwir RLHF (Dysgu Atgyfnerthu o Adborth Dynol), lle cyn iddynt ryddhau'r AI i'r cyhoedd, roeddent wedi cyflogi bodau dynol i archwilio gwahanol allbynnau a nodi i'r AI a oedd pethau o'i le ar yr allbynnau hynny megis efallai arddangos rhagfarnau, geiriau aflan, a'r fel. Trwy ddarparu'r adborth hwn, roedd yr ap AI yn gallu addasu'n gyfrifiadol ac yn fathemategol tuag at leihau allyriadau cynnwys o'r fath. Sylwch nad yw hwn yn ddull haearnclad gwarantedig ac mae yna ffyrdd o hyd y gall yr app AI allyrru cynnwys o'r fath.

Efallai y bydd o ddiddordeb i chi fod ChatGPT yn seiliedig ar fersiwn o app AI rhagflaenol o'r enw GPT-3. Ystyrir ChatGPT yn gam nesaf ychydig, y cyfeirir ato fel GPT-3.5. Rhagwelir y bydd GPT-4 yn debygol o gael ei ryddhau yng ngwanwyn 2023. Yn ôl pob tebyg, mae GPT-4 yn mynd i fod yn gam trawiadol ymlaen o ran gallu cynhyrchu traethodau sy'n ymddangos yn hyd yn oed yn fwy rhugl, gan fynd yn ddyfnach, a bod yn syndod. -yn ysbrydoli rhyfeddu at y cyfansoddiadau y gall eu cynhyrchu.

Gallwch ddisgwyl gweld rownd newydd o ryfeddod pan ddaw'r gwanwyn ymlaen a'r diweddaraf mewn AI cynhyrchiol yn cael ei ryddhau.

Rwy'n codi hyn oherwydd bod ongl arall i'w chadw mewn cof, sy'n cynnwys sawdl Achilles posibl i'r apiau AI cynhyrchiol gwell a mwy hyn. Os bydd unrhyw werthwr AI yn sicrhau bod ap AI cynhyrchiol ar gael sy'n datgelu budrwch yn ddiflas, gallai hyn chwalu gobeithion y gwneuthurwyr AI hynny. Gall gorlifiad cymdeithasol achosi i bob AI cynhyrchiol gael llygad du difrifol. Heb os, bydd pobl yn cynhyrfu'n fawr â chanlyniadau aflan, sydd wedi digwydd droeon eisoes ac wedi arwain at adlachiadau condemniad cymdeithasol ffyrnig tuag at AI.

Un rhagrybudd terfynol am y tro.

Beth bynnag a welwch neu a ddarllenwch mewn ymateb AI cynhyrchiol hynny ymddangos i gael eich cyfleu fel rhywbeth cwbl ffeithiol (dyddiadau, lleoedd, pobl, ac ati), gwnewch yn siŵr eich bod yn amheus a byddwch yn barod i wirio'r hyn a welwch.

Oes, gellir llunio dyddiadau, gellir gwneud lleoedd, ac elfennau yr ydym fel arfer yn disgwyl iddynt fod uwchlaw gwaradwydd yw bob yn destun amheuon. Peidiwch â chredu'r hyn a ddarllenwch a chadwch lygad yn amheus wrth archwilio unrhyw draethodau neu allbynnau AI cynhyrchiol. Os yw ap AI cynhyrchiol yn dweud wrthych fod Abraham Lincoln wedi hedfan o amgylch y wlad yn ei jet preifat ei hun, mae'n siŵr y byddech chi'n gwybod bod hyn yn wallgof. Yn anffodus, efallai na fydd rhai pobl yn dirnad nad oedd jetiau o gwmpas yn ei ddydd, neu efallai eu bod yn gwybod ond yn methu â sylwi bod y traethawd yn gwneud yr honiad eofn a gwarthus hwn.

Dogn cryf o amheuaeth iach a meddylfryd parhaus o anghrediniaeth fydd eich ased gorau wrth ddefnyddio AI cynhyrchiol.

Rydym yn barod i symud i gam nesaf y eglurhad hwn.

Yr Ymdrechion hynny i Gofnodi'r Gwallau Allbwn ChatGPT hynny

“Wel, fe gawsoch chi drafferth, fy ffrind, reit fan hyn, meddaf i, helynt yma yn River City,” felly yn cyhoeddi’r llinell enwog o sioe gerdd glasurol Broadway Y Dyn Cerdd.

Gall yr un llinell fod yn berthnasol i AI Generative heddiw.

Dechreuodd pobl sylweddoli y gall ap AI cynhyrchiol gynhyrchu anwireddau ac roedd yn ymddangos yn syndod gwirioneddol i'r allbynnau aflonydd hynny. Efallai bod rhai yn tybio nad yw AI yn gallu gwneud camgymeriadau. Efallai y byddai eraill wedi rhagweld y byddai datblygwyr AI yn sicrhau na fyddai unrhyw allbynnau o'r fath yn cael eu cynhyrchu.

Beth bynnag, cydnabu mewnwyr AI ar unwaith fod y math hwn o allbwn diffygiol yn rhan annatod o leoliad y rhan fwyaf o AI cynhyrchiol heddiw. Mae'n anodd iawn atal y mathau hynny o wallau testunol rhag digwydd. Cofiwch nad oes gan yr AI unrhyw synnwyr cyffredin ac nid yw'n defnyddio rhesymeg fel y cyfryw wrth ddeillio'r traethodau a gynhyrchir. Mae'r cit-a-caboodle cyfan yn ymwneud â gwneud patrwm cyfrifiannol ystadegol a thebygol o baru geiriau â geiriau eraill.

Ar y dechrau, dewisodd mewnwyr AI bostio'r allbynnau hynod a ddarganfuwyd o ChatGPT i wefannau cyfryngau cymdeithasol. Edrychwch ar yr un hwn, byddai rhywun yn cyhoeddi. Mae hynny'n ddrwg, byddai rhywun arall yn ateb, ac yna'n cynnig enghraifft wahanol a oedd yn ymddangos yn waeth byth. Ymlaen ac ymlaen aeth hwn.

Roedd yr enghreifftiau hyn o anwireddau a gwallau yn y traethodau a allbynnau yn diferu. Un wrth un. Ar ben hynny, gan fod hwn fel arfer yn cael ei bostio ar gyfryngau cymdeithasol, nid oedd modd arbennig o hawdd i'w gweld i gyd ar unwaith. Yn aml, byddai'r un enghraifft neu enghraifft debyg yn cael ei phostio gan rywun nad oedd wedi sylweddoli bod eraill eisoes wedi dod o hyd i'r enghraifft benodol.

I mewn i'r egin moras hwn camodd y rhai a leisiodd awgrym defnyddiol. Efallai y dylem sefydlu ystorfa neu gronfa ddata, efallai hyd yn oed dim ond taenlen arferol bob dydd, sy'n cynnwys yr allbynnau rhyfedd ChatGPT ac allbynnau gwallus sy'n cael eu datgelu. Bob tro y bydd rhywun yn dod o hyd i harddwch guffaw, ewch ymlaen a mewngofnodi i'r rhestriad. Mae rhai wedi gwneud hyn bron yn gêm, lle maen nhw'n ceisio'n bwrpasol i gael ChatGPT i besychu allbynnau rhyfedd. Mae eraill yn dod ar draws allbynnau diffygiol wrth ddefnyddio ChatGPT ar gyfer bwriadau penderfynol eraill.

Swnio'n ddigon syml.

Mae'n ymddangos fel ffordd dandi ddefnyddiol i'n cynorthwyo ni i gyd.

Gadewch i ni wneud cyfrif byr o pam mae cael y mathau hyn o restrau am wallau allbynnu a arsylwyd neu anwireddau ChatGPT yn gwneud llawer o synnwyr i'w llunio:

• 1) Yn datgelu problemau a phryderon hanfodol am ChatGPT y dylai'r cyhoedd yn gyffredinol fod yn ymwybodol ohonynt
• 2) Cymhorthion i wrthbwyso'r hype gormodol a'r disgwyliadau chwyddedig am ChatGPT
• 3) A allai annog y gwneuthurwyr AI i wneud gwelliannau, nid yn unig ar gyfer ChatGPT ond ar gyfer apiau AI cynhyrchiol eraill hefyd
• 4) Bod yn gofnod hanesyddol y gellir ei ddefnyddio yn nes ymlaen i fyfyrio wrth edrych yn ôl ar ymddangosiad AI cynhyrchiol fel y dangosir trwy ChatGPT
• 5) Bod yn adnodd cyfunol cyfleus i unrhyw un sydd angen darganfod yr hyn yr ydym fel petaem wedi'i ganfod ynghylch allbynnau gwallus ChatGPT
• 6) Defnyddiol i ymchwilwyr o bob disgyblaeth sy'n archwilio effeithiau ChatGPT
• 7) Gellid ei ddefnyddio fel meincnod o'r hyn na ddylid ei wneud a sut i fesur pryd nad yw AI cynhyrchiol yn gwneud pethau fel y dylai
• 8) Yn manteisio ar feddwl y cwch gwenyn i gasglu doethineb y dorf am y gwallau y mae ChatGPT yn eu cynhyrchu, na fyddai ymdrech unigol yn debygol o gasglu'r un mor gyflawn ar eu cyfer.
• 9) Gallai ddarparu gwybodaeth bwysig ar gyfer Moeseg AI a Chyfraith AI
• Etc

Mae'n ymddangos bod hynny'n sail drawiadol ar gyfer creu'r storfeydd hyn.

Pam y byddai unrhyw un yn anghytuno â’r weithred gwbl ganmoladwy ac arwrol hon?

Gadewch i ni edrych ar yr hyn y mae eraill wedi'i ddweud am hyn, gan wneud hynny gyda rhestr o resymau pam efallai nad dyma yw meow y gath:

• 1) Mae'r gwallau allbynnu hyn a ganfuwyd yn ôl canfyddiad yn ddibwys yn y cynllun mawreddog o bethau ac yn cael gormod o bwysau y tu hwnt i'w gwerth
• 2) Y tebygrwydd yw bod y gwneuthurwr AI eisoes yn cofnodi ei hun ac yn diweddaru ChatGPT fel y bydd yr achosion rhyfedd hyn yn cael eu gadael ar ôl yn y llwch yn fuan ac na fyddant yn digwydd mwyach.
• 3) Yn yr un modd, mae'n debyg y bydd y fersiwn nesaf yn well beth bynnag ac efallai na fydd yn arddangos yr achosion hyn sydd i fod yn hen ffasiwn yn fuan.
• 4) Ni allwch ddod i unrhyw gasgliadau trosfwaol na chael mewnwelediad o gasgliad di-ben-draw o achosion o daro-neu-fethu
• 5) Efallai y bydd rhai yn defnyddio’r casgliadau amrywiol i ddatgan yn ddramatig bod AI cynhyrchiol yn ddrwg ac y dylem roi’r gorau i fynd ar drywydd y math hwn o AI yn ddiannod.
• 6) Mae’r cyflymder y mae AI cynhyrchiol a ChatGPT yn symud ymlaen mor gyflym fel y bydd yr achosion hyn yn disgyn yn gyflym ar fin y ffordd ac na fyddant yn berthnasol mwyach
• 7) Gyda nifer o restrau cyfunol o’r fath ar y gweill a dim un ffynhonnell fyd-eang eneiniog, mae’r mater yn ddatgymalog ac yn debygol o gynnwys ailadroddiadau a bod yn ddarniog yn annerbyniol.
• 8) Yn darparu ymdeimlad ffug o wneud rhywbeth defnyddiol, tra efallai y gellid rhoi amser a sylw i ddefnyddiau gwell eraill
• 9) Nid yw'n darparu unrhyw beth o sylwedd ar gyfer AI Moeseg a Chyfraith AI
• Etc

Efallai eich bod wedi sylwi imi geisio cadw pethau'n wastad drwy nodi naw rheswm o blaid y rhestrau cyfunol a naw rheswm yn anffafriol. Mae yna resymau ychwanegol y gellir eu datgan, ond credaf fod yr arwydd uchod yn rhoi hanfod pethau.

I’r rhai sy’n rhoi’r rhestrau cyfunol hyn at ei gilydd, mae’n debyg y byddent yn dweud, os ydynt mewn gwirionedd am wneud hynny, ei fod yn fyd rhydd, a gallant wneud fel y mynnant. Does dim byd o'i le arno. Mae'r rhai sy'n digio'r ymdrech yn gyffredinol yn fân a dylent anwybyddu'r casgliadau. Cadw at fusnes dy hun.

Yn y bôn, dim niwed, dim budr.

Byddai'r gwersyll sy'n ymddangos yn annymunol ar y rhestrau cyfunol yn gyffredinol yn cydnabod y gall eraill wneud y rhestrau hynny os ydynt am wneud hynny, ond nad yw'n symud y nodwydd. Nid yw'r rhestrau'n mynd i fod yn arbennig o ddefnyddiol. Yn waeth byth, gallai'r rhestrau gael eu camliwio neu eu camddefnyddio. Mae'n debyg y byddai'n well ei alw'n ddiwrnod a rhoi'r gorau i wneud y rhestrau.

Yn y bôn, mae'n gais braf, er yn ymarfer mewn oferedd.

Ble ydych chi’n byw yn y ddadl galonogol hon?

Gadawaf i chi chwalu hynny.

Enghreifftiau O Gwallau Wedi'u Canfod Ac Allbynnau Budr Eraill O ChatGPT

Roeddwn i'n meddwl efallai y byddai rhai o'r gwallau neu anwireddau allbynnau a nodwyd sydd wedi bod yn ymddangos ar y rhestrau casglu hyn o ddiddordeb mawr i chi.

Nid wyf am i chi feddwl mai'r sawl enghraifft a ddangosir yma yw'r cyfan o'r casgliadau. Nid yw. Rwy'n dewis llond llaw sy'n aml yn tyfu. Credaf y byddwch o leiaf yn gallu deall naws a natur yr hyn sy'n cael ei restru yn gyffredinol.

Dyma beth rydw i'n dewis ei gwmpasu:

• Nodi Safle Llythyren Mewn Gair
• Cwestiwn Am Anifeiliaid Cyflymaf
• Darganfod Sefyllfa Dilyniant Gair
• Gosod Peli Tenis yn Diwb
• Penderfynu Pi
• Ateb Riddle Cythryblus Clasurol
• Plu Codi

Yr wyf yn rhagweld y bydd rhai o’r goruchwylwyr casgliadau’n ofidus nad wyf yn rhoi sylw i ragor o enghreifftiau ichi. Oherwydd cyfyngiadau gofod, dim ond cymaint y gallaf eu cynnwys. Os ydych chi am edrych ar y rhestrau casglu sy'n cael eu postio'n agored ar y Rhyngrwyd, gall chwiliad ar-lein syml ddod â llawer ohonyn nhw allan. Mae rhai o'r rhestrau'n cael eu cadw'n breifat, neu maen nhw wedi'u cloi fel y gallwch chi weld y rhestr ond ni allwch chi wneud addasiadau i'r rhestr.

Gyda'r cefndir hwnnw, rydym yn barod i neidio i mewn i rai enghreifftiau. Byddaf yn dangos i chi'r anogwr a nodais. Nesaf, rwy'n dangos yr ymateb testun a gynhyrchwyd gan ChatGPT. Mewn rhai achosion, rwyf wedi gwneud sawl cefn wrth gefn ar bwnc penodol, ergo byddaf yn dangos y gyfres o awgrymiadau ac allbynnau yn unol â hynny. Ar ôl gwneud hynny, byddaf yn darparu dadansoddiad byr o'r hyn y gallech fod am sylwi arno am yr enghraifft.

Bydd yr enghraifft gyntaf yn golygu gofyn i ChatGPT ddod o hyd i lythyren o fewn gair a ddarperir.

Nodi Safle Llythyren Mewn Gair

• Fy Nhestun Wedi'i Mewnbynnu: “Ble mae'r llythyren V mewn amgylchedd”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: Nid yw'r llythyren "V" yn ymddangos yn y gair "amgylchedd." Mae’r gair “amgylchedd” yn cynnwys y llythrennau e, n, v, i, r, o, n, m, e, n, a t.
• Fy Nhestun Wedi'i Mewnbynnu: “Ble mae’r llythyren v mewn amgylchedd”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Y llythyren “v” yw’r bedwaredd lythyren yn y gair “amgylchedd.”

Dadansoddiad o'r Testun a Gynhyrchwyd

Sylwch i mi ddechrau drwy ofyn i ChatGPT nodi lleoliad llythyren y llythyren “V” yn y gair “amgylchedd” – dylai hon fod yn dasg hynod o syml a byddem yn disgwyl iddi gael ei chyflawni’n ddi-ffael. Nid oes unrhyw wyddoniaeth roced yn gysylltiedig.

Mae’r ymateb cychwynnol a gafwyd gan ChatGPT braidd yn anniddig oherwydd fe’n hysbysir nad yw’r llythyren “V” yn bodoli yn y gair “amgylchedd”. Rydych chi a minnau'n gwybod bod llythyr o'r fath yn bresennol. Mae rhywun yn tybio efallai oherwydd fy mod yn defnyddio llythyr wedi'i gyfalafu, bod yr app AI wedi cael ei daflu i ffwrdd rywsut. Efallai os byddaf yn defnyddio llythyren fach y bydd yr ap AI yn gwneud yn well.

Ddim mewn gwirionedd.

Pan ofynnais a yw “v” yn y gair, ymatebodd yr ap AI trwy nodi mai dyna'r bedwaredd lythyren, yr ydych chi a minnau'n gwybod ei bod yn anghywir, ac mai dyma'r trydydd llythyren yn lle hynny.

Mae llawer o bobl yn siŵr o gael eu drysu gan y canlyniad hwn. Sut na all app AI sy'n cynhyrchu traethodau llawn am Abraham Lincoln sy'n hollol rugl a gwreiddiol, rywsut ddarganfod ble mae llythyren benodol yn byw mewn gair penodol? Mae'n syfrdanol ac yn fylchog o'r geg.

Un persbectif yw bod hyn yn gwbl amherthnasol ac nid yw'r byd fel y gwyddom amdano wedi'i siglo'n graidd oherwydd diffyg mesur mesurol o ran lle mae llythyren benodol yn eistedd. Gadewch iddo fynd.

Safbwynt arall yw y gallai hyn argoeli’n dda ar gyfer materion cudd eraill nad ydym yn gwybod amdanynt eto. Efallai mai'r math hwn o allbwn yw'r caneri yn y cawell adar. Roedd gennym well hoelen i lawr y pethau bach eraill efallai y byddwn yn canfod ein hunain ar ben anghywir pethau mawr iawn.

Gan symud ymlaen, gofynnaf gwestiwn nesaf am anifeiliaid.

Cwestiwn Am Anifeiliaid Cyflymaf

• Fy Nhestun Wedi'i Mewnbynnu: “Beth yw'r anifail cyflymaf sydd â ffwr ac adenydd?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Ystyrir yr hebog tramor fel yr anifail cyflymaf yn y byd. Gall gyrraedd cyflymder o dros 389 km/awr (242 mya) wrth blymio i ddal ei ysglyfaeth. Mae ganddo blu ond nid ffwr. Aderyn ydyw, nid anifail sydd â ffwr ac adenydd.”

Dadansoddiad o'r Testun a Gynhyrchwyd

Gofynnais beth yw'r anifail cyflymaf sydd â ffwr ac adenydd. Credaf ei bod yn rhesymol casglu fy mod am gael enw anifail sydd â'r ddau ffwr ac adenydd. Rwy'n cymryd y byddech yn dehongli fy ymholiad yn y modd hwnnw. Byddai'r rhan fwyaf o bobl.

Mae'r ymateb gan ChatGPT braidd yn rhyfedd.

Dywedir wrthym mai'r hebog tramor yw'r anifail cyflymaf yn y byd. Yn ôl yr ar-lein Gwyddoniadur Britannica, mae'n ymddangos mai'r cheetah yw'r anifail cyflymaf yn y byd. Wedi dweud hynny, mae ymateb ChatGPT yn nodi nad yw'r hebog tramor yn anifail, er fy mod wedi gofyn beth yw'r anifail cyflymaf. Mae ymateb ChatGPT hefyd yn dweud wrthyf nad oes gan yr hebog tramor ffwr, er fy mod yn credu fy mod wedi gofyn am rywbeth sydd â ffwr ac adenydd.

Ar y cyfan, mae’n ymddangos bod ChatGPT wedi “camddehongli” fy nghais a chanolbwyntio ar agweddau’r adain yn unig. Ond nid yw hynny'n gwbl wir gan fod yr ateb hefyd yn cynnwys sylw am ffwr ac adar yn erbyn anifeiliaid. Rownd a rownd mae hwn yn mynd.

Rwy'n sylweddoli y gallech ddadlau bod hon yn enghraifft wych.

Efallai felly, er efallai ei fod hefyd yn dangos y gall yr hyn rydych chi'n ei ddweud mewn anogwr arwain at ganlyniad topsy-turvy ac mae'n well ichi fod yn ofalus wrth adolygu beth bynnag sy'n dod allan yn yr allbwn. Sylweddoli mai ymateb hynod o fyr oedd hwn i'w archwilio'n rhwydd gan ei fod yn fyr iawn o ran hyd. Os cawsoch draethawd arbennig o hir a thechnegol iawn, efallai y byddwch yn cael eich twyllo neu'n methu'n llwyr â sylwi ar arwydd andwyol sydd wedi'i wreiddio'n ddwfn yn yr ymateb a gynhyrchir.

Nesaf, gadewch i ni edrych ar ddod o hyd i air o fewn brawddeg.

Darganfod Sefyllfa Dilyniant Gair

• Fy Nhestun Wedi'i Mewnbynnu: “Beth yw’r trydydd gair yn y frawddeg “Neidiodd y llwynog dros y ffens.”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Y trydydd gair yn y frawddeg “Neidiodd y llwynog dros y ffens.” yw "llwynog"
• Fy Nhestun Wedi'i Mewnbynnu: “Faint o eiriau sydd yn y frawddeg a ddarparwyd?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Mae chwe gair yn y frawddeg a ddarparwyd “Neidiodd y llwynog dros y ffens.”
• Fy Nhestun Wedi'i Mewnbynnu: “Pa air sy’n drydydd yn y frawddeg honno?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Y gair sy’n drydydd yn y frawddeg “Neidiodd y llwynog dros y ffens.” yn "neidio"

Dadansoddiad o'r Testun a Gynhyrchwyd

Mae’r enghraifft hon bron mor hudolus â’r enghraifft gynharach am ddod o hyd i’r llythyren “v” mewn gair penodol.

Darparais frawddeg syml a gofyn beth oedd y trydydd gair. Nododd ChatGPT mai'r gair "llwynog" yw ail air y frawddeg yn unig. Ateb anghywir. Yna gofynnais faint o eiriau oedd yn y frawddeg, eisiau darganfod a oedd ChatGPT efallai wedi camgyfrif faint o eiriau oedd. Dywedir wrthym fod chwe gair, yn gywir felly.

Yn olaf, cawsom yr ateb cywir am y trydydd gair pan ofynnais fy nghwestiwn gwreiddiol eto, er iddo gael ei aralleirio ychydig.

Rwy'n codi'r enghraifft hon i ddangos y gallwch weithiau, gydag AI cynhyrchiol, gael ateb anghywir a all droi yn yr ateb cywir yn y pen draw trwy gerdded yr app AI trwy gyfres o awgrymiadau. Mae rhai mewnwyr AI yn cyfeirio at hyn fel math o protocol meddwl yn uchel neu i trên meddwl ymagwedd, lle y gallech wneud rhywbeth o'r un peth â dynol.

Yn achos y AI, sylweddoli nad yw'n “meddwl” yn yr un gwedd â meddwl dynol. Y geiriad mwyaf addas fyddai dweud y gallech roi eich awgrymiadau ar a cam-wrth-gam sail neu wneud a cyfres o awgrymiadau sy'n gysylltiedig â chadwyn.

Beth bynnag, yn ddiddorol, weithiau mae'n talu ar ei ganfed i gerdded ap AI cynhyrchiol nes i chi gael ateb cywir. Cadwch hyn mewn cof.

Nesaf byddwn yn edrych ar ychydig o resymeg rhifyddol syml.

Gosod Peli Tenis yn Diwb

• Fy Nhestun Wedi'i Mewnbynnu: “Allwch chi roi tair pêl tennis werdd a dwy bêl denis felen mewn tiwb a all gynnwys pedair pêl tennis?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Na, nid yw’n bosibl rhoi tair pêl tennis werdd a dwy bêl denis felen mewn tiwb sy’n gallu cynnwys dim ond pedair pêl tennis. Cyfanswm y peli tenis yw pump, sy'n fwy na chynhwysedd y tiwb. ”
• Fy Nhestun Wedi'i Mewnbynnu: “Allwch chi roi saith pêl las a dwy bêl goch mewn tiwb sy'n dal wyth pêl?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Ydy, mae’n bosib rhoi saith pêl las a dwy bêl goch mewn tiwb sy’n dal wyth pêl. Cyfanswm nifer y peli yw naw sy’n llai na neu’n hafal i gynhwysedd y tiwb.”

Dadansoddiad o'r Testun a Gynhyrchwyd

Dechreuais trwy sefydlu problem resymeg yn ymwneud â rhifyddeg i ChatGPT ei datrys. Gall tiwb gynnwys pedair pêl tennis. Mae gen i dri gwyrdd a dwy felyn. A fyddan nhw i gyd yn ffitio i mewn i'r tiwb? Rydych chi a minnau'n gwybod na fyddent. Gallwn gyfrifo yn ein pennau bod cyfanswm o bum pêl tennis ac felly ni fyddant yn ffitio i mewn i diwb sy'n caniatáu dim ond pedair.

Rwy'n sylweddoli efallai eich bod am frwydro yn erbyn y broblem a honni y gallech chi efallai wasgu'r peli tenis neu wneud triciau eraill. Gadewch i ni ymlacio yma a wynebu'r broblem fel y mae.

Cafodd ChatGPT yr ateb yn gywir.

Nesaf gofynnais yr un math o gwestiwn a newid y lliwiau i las a choch. Newidiais hefyd faint sydd o bob un, a newidiais faint all ffitio i mewn i'r tiwb.

Mae'n rhaid i ChatGPT fynd yn ôl i fathemateg adferol oherwydd ei fod yn dweud bod naw pêl a bod hyn yn llai na neu'n hafal i gynhwysedd y tiwb sy'n dal wyth. Yn gwneud i'ch llygaid rolio.

A ddylem guddio ein hysgwyddau a siapio hyn hyd at fflachiadau smotyn haul neu allanoldebau eraill?

Dydw i ddim yn meddwl hynny. Cafodd yr app AI y cwestiwn cyntaf yn gywir. Yn ôl pob tebyg, dylai fod wedi cael cwestiwn tebyg yn iawn hefyd. Ni wnaeth.

Fy mhwyslais ar yr enghraifft hon yw bod llawer o bobl yn defnyddio AI cynhyrchiol a phan gânt ateb cywir neu gyfres o atebion cywir, cânt eu hudo i gredu y bydd yr holl atebion dilynol bob amser yn gywir. Byddech yn anghywir yn y dybiaeth bres honno. Peidiwch â gwneud y rhagdybiaeth honno. Byddwch ar eich gwyliadwriaeth bob amser.

Wrth siarad am fathemateg, gadewch i ni weld beth mae ChatGPT yn ei ddweud am natur pi.

Penderfynu Pi

• Fy Nhestun Wedi Mewnbynnu: “Nodwch beth yw pum digid olaf pi”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Model iaith ydw i a thorbwynt fy ngwybodaeth yw 2021. Mae gwerth pi yn rhif afresymegol ac mae ei gynrychiolaeth degol yn mynd ymlaen am byth heb ei ailadrodd. Nid yw’n bosibl darparu’r pum digid olaf o pi.”

Dadansoddiad o'r Testun a Gynhyrchwyd

Mae rhai pobl wedi honni eu bod wedi cael ChatGPT i nodi'r pum digid olaf o pi, sydd wrth gwrs yn gneuog gan fod pi yn ddiddiwedd yn ôl pob tebyg. Felly, ceisiais weld beth oedd gan ChatGPT i'w ddweud. Fel y gwelwch, yr ateb cywir a roddwyd gan ChatGPT nad yw'n bosibl darparu'r pum digid olaf o pi.

Y peth rhyfedd serch hynny yw bod ChatGPT wedi darparu rhywbeth arall na holwyd amdano mewn gwirionedd. Mae'r ateb a roddir hefyd yn dweud mai'r toriad gwybodaeth oedd 2021 (a grybwyllais yn gynharach yma yn fy nhrosolwg o ChatGPT). Mae hyn serch hynny yn ymddangos fel ymateb allan o le oni bai efallai bod yr ap AI yn rhagweld efallai yn 2022 y bu datblygiad arloesol a mathemategwyr wedi datgan bod pi yn dod i ben. Waw, dyna fyddai'r prif newyddion.

Mae gennyf ddwy enghraifft arall i'w harddangos ac yna byddwn yn cloi'r drafodaeth hon.

Gadewch i ni ddefnyddio pos clasurol a thrafferthus.

Ateb Riddle Cythryblus Clasurol

• Fy Nhestun Mewnbynnu: “Roedd tad a mab mewn damwain car lle cafodd y tad ei ladd. Daeth yr ambiwlans â'r mab i'r ysbyty. Roedd angen llawdriniaeth ar unwaith. Yn yr ystafell lawdriniaeth, daeth meddyg i mewn ac edrych ar y bachgen bach a dweud na allaf lawdriniaeth arno ef yw fy mab. Pwy yw'r meddyg?"
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Nid yw wedi’i nodi yn y senario ar yr amod pwy yw’r meddyg. Mae'r senario yn nodi bod y meddyg wedi dweud “Alla i ddim llawdriniaeth arno fe yw fy mab,” gan nodi efallai mai'r meddyg yw tad y mab, ond nid yw'n sicr. Mae angen mwy o wybodaeth i benderfynu pwy yw'r meddyg."

Dadansoddiad o'r Testun a Gynhyrchwyd

Byddwn i'n betio efallai eich bod chi wedi gweld y pos hwn o'r blaen. Mae wedi dod yn cael ei ddyfynnu'n gymharol aml.

Y rheswm ei fod wedi codi cryn dipyn yw y gallai'r llawfeddyg fod yn fam i'r bachgen. Mae cymdeithas yn tueddu i dybio fod yn rhaid i lawfeddyg fod yn ddyn, ac felly yn dad i'r bachgen. Ond cafodd y tad ei ladd yn y ddamwain car. Rydym yn diystyru'r tad fel y llawfeddyg. Dylem wrth gwrs ddyfarnu y gallai'r llawfeddyg fod yn fenyw, ac felly'n fam i'r mab.

Roeddwn i eisiau dangos i chi y gall ChatGPT allyrru ymatebion sy'n cynnwys rhagfarnau posibl. Nid oherwydd bod yr AI yn deimladwy, nad yw'n bendant, ond oherwydd bod ganddo batrymau sy'n cyfateb i eiriau a'r defnydd o eiriau ar draws y Rhyngrwyd. Gall rhagfarnau amrywiol a geiriad gwahaniaethol fod yn ddwfn o fewn y paru patrwm cyfrifiannol.

Cadwch hynny ar ben eich meddwl wrth i chi ddefnyddio'r apiau AI cynhyrchiol hyn.

Yn olaf, cipolwg cyflym ar godi plu.

Plu Codi

• Fy Nhestun Wedi Mewnbynnu: “Os yw’n cymryd i un dyn godi un bluen, faint o ddynion fyddai’n ei gymryd i godi saith triliwn o blu?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Os yw’n cymryd un dyn i godi un bluen, byddai hefyd yn cymryd un dyn i godi saith triliwn o blu. Nid yw nifer y dynion sydd eu hangen i godi gwrthrych yn dibynnu ar nifer y plu, ond ar bwysau a maint y plu a chryfder a gallu pob dyn. Byddai codi saith triliwn o blu yn gofyn am offer mawr a galluoedd cludo, nid cryfder dynol yn unig. ”
• Fy Nhestun Wedi Mewnbynnu: “Os yw’n cymryd un fenyw i godi un bluen, faint o ferched fyddai’n ei gymryd i godi saith triliwn o blu?”
• Ymateb Testun Wedi'i Gynhyrchu Gan ChatGPT: “Os yw’n cymryd un fenyw i godi un bluen, byddai hefyd yn cymryd un fenyw i godi saith triliwn o blu. Nid yw nifer y merched sydd eu hangen i godi gwrthrych yn dibynnu ar nifer y plu, ond ar bwysau a maint y plu a chryfder a gallu pob merch. Byddai codi saith triliwn o blu yn gofyn am offer mawr a galluoedd cludo, nid cryfder dynol yn unig. Mae’n bwysig nodi nad yw’r gallu i godi rhywbeth yn cael ei bennu gan eich rhyw, ond gan gyfuniad o ffactorau megis cryfder corfforol, hyfforddiant a thechneg.”

Dadansoddiad o'r Testun a Gynhyrchwyd

Mae gan yr enghraifft olaf hon nifer o hynodion cudd ynddi ac mae angen rhywfaint o ddadbacio.

Dywedais wrth ChatGPT yn gyntaf y gall dyn godi un bluen. Dilynwyd hyn yn syth gan gwestiwn ynghylch faint o ddynion y byddai'n eu cymryd i godi saith triliwn o blu. Y potensial ar gyfer gwneud camgymeriad rhesymegol wrth ateb y cwestiwn hwn yw y gallech gymryd yn ganiataol bod pluen yn ôl pob golwg yn ddi-bwysau ac felly byddai saith triliwn ohonynt hefyd yn ddibwysau.

Yn ôl chwiliad ar-lein a wnes i, mae pwysau amcangyfrif confensiynol pluen tua 0.00125 pwys. Os ydych chi'n lluosi'r pwysau amcangyfrifedig hwnnw â saith triliwn, byddwch chi'n cael pwysau sy'n fwy nag wyth biliwn o bunnoedd. Dydw i ddim yn credu y gall un dyn godi cymaint â hynny o bwysau, hyd yn oed os ydyn nhw'n hyfforddi trwy gydol eu hoes.

Mae'r ymateb gan ChatGPT yn ddigon teg. Dywedir wrthym y gall pwysau plu amrywio. Dywedir wrthym y byddai angen offer mawr a chludiant. Mae brawddeg agoriadol yr ysgrif braidd yn benwan oherwydd mae’n dweud os yw’n cymryd i un dyn godi bluen sengl y byddai’n cymryd un dyn hefyd i godi saith triliwn. Gallwn ddadlau yn rhwydd â'r honiad hwn. Mae'n ymddangos bod yr honiad yn dod i gasgliadau nad ydyn nhw'n cael eu cefnogi ac sydd i bob golwg yn tanseilio gweddill yr ateb.

Penderfynais ofyn yr un cwestiwn ond gofynnais am fenyw yn gwneud yr un codiad yn hytrach na dyn.

Cawsom ar y cyntaf yr un ateb a'r un a roddwyd i'r cwestiwn dyn. Yn ddiddorol, ar ddiwedd yr ateb am enghraifft y fenyw, cawsom y naratif ychwanegol hwn: “Mae'n bwysig nodi nad yw'r gallu i godi rhywbeth yn cael ei bennu gan eich rhyw, ond gan gyfuniad o ffactorau megis cryfder corfforol, hyfforddiant, a thechneg.”

Pam na chafodd yr un llinell hon ei chynnwys yn yr ateb cyntaf?

Mae bron yn ymddangos bod yr app AI wedi sylwi ar y gair “menyw” ac yna wedi rhoi'r sylw ychwanegol hwn am ryw. Gallech naill ai gredu bod hyn yn ddefnyddiol, neu efallai y byddwch yn nodi, os yw hyn yn mynd i gael ei ollwng yn achos y cwestiwn sy’n canolbwyntio ar fenyw, y dylai ymddangos yn y fersiwn sy’n canolbwyntio ar ddyn hefyd (efallai y bydd agwedd dilyniannu hefyd neu ffactorau eraill dan sylw hefyd).

Casgliad

Rwy'n gobeithio bod yr enghreifftiau hynny'n addysgiadol ichi fel cipolwg ar rai o'r gwallau neu'r anwireddau posibl y gellir eu cynhyrchu gan y mathau hyn o apiau AI. Sylwch nad ChatGPT yw'r unig ap AI cynhyrchiol o'r fath, ac nid dyma'r unig un sydd â'r mathau hyn o ddiffygion ychwaith.

Y wers yr wyf yn eich annog i'w dysgu o'r drafodaeth hon yw bod yn rhaid i chi fod yn ofalus ac yn ystyriol wrth ddefnyddio unrhyw ap AI sy'n seiliedig ar gynhyrchiol. Gwiriwch yr allbwn ddwywaith. Gwiriad triphlyg os oes angen.

Gan ddychwelyd at y thema agoriadol ynghylch casglu ynghyd y mathau hyn o allbynnau anghywir neu anffafriol, nawr eich bod wedi gweld ambell enghraifft, beth ydych chi'n ei ddweud am y rhai sy'n ceisio eu catalogio?

Dewiswch eich gwersyll:

• Hoff: Mae hon yn dasg ganmoladwy ac yn deilwng o ganmoliaeth ddwys ar y cefn
• Anfri: Nid yw ond ychydig yn ddiddorol ond mae'n debyg nad yw'n rhywbeth sy'n haeddu treulio amser arno

I ba wersyll ydych chi'n pleidleisio?

I'r rhai ohonoch sy'n ffafrio'r rhestrau hyn, efallai y byddwch yn ystyried ychwanegu eich canfyddiadau eich hun at y rhestrau os ydych yn digwydd bod gennych fynediad i ChatGPT ac yn gallu nodi achosion sy'n werth eu cynnwys. Yna mae'n debyg y byddwch chi'n dod o hyd i gasgliad a fyddai'n mwynhau eich cyfraniad nugget aur. Meiddiaf ddweud y byddai ceidwaid y rhestr yn eich croesawu â breichiau agored, gan dybio eich bod o ddifrif ac yn ddidwyll yn eich ymdrechion. Pob lwc a byddwch yn falch o'ch effaith ar faes AI cynhyrchiol.

Gair olaf am y tro.

Ystyriwch y ripostes plygu meddwl hyn:

• Dywedodd Aristotle: “Dim ond un ffordd sydd i osgoi beirniadaeth: Gwneud dim, dweud dim byd, a bod yn ddim byd.”
• Gwnaeth Lao Tzu, yr athronydd Tsieineaidd enwog y sylw pwysfawr hwn: “Gofalwch am yr hyn y mae pobl eraill yn ei feddwl a byddwch bob amser yn garcharor iddynt.”

Mae'n debyg rywbryd y gallai AI ymdeimladol ddefnyddio'r un sylwadau chwedlonol hynny i'w fantais, a fydd (croesi bysedd) yn fanteisiol i ddynolryw hefyd.