Gall Cynhyrchiol AI ChatGPT Lyfu'ch Data Preifat a Chyfrinachol yn Aflonyddgar, Yn Rhagrybuddio Cyfraith Moeseg AI A Chyfraith AI

Nawr rydych chi'n gweld eich data, nawr dydych chi ddim.

Yn y cyfamser, mae eich data gwerthfawr wedi dod yn rhan o'r grŵp, fel petai.

Rwy'n cyfeirio at agwedd a allai fod yn dipyn o syndod i'r rhai ohonoch sy'n defnyddio'r diweddaraf mewn Deallusrwydd Artiffisial (AI) yn eiddgar ac yn daer. Mae'n bosibl nad yw'r data rydych chi'n ei roi mewn ap AI yn gwbl breifat o gwbl i chi ac i chi yn unig. Mae’n bosibl y bydd eich data’n cael ei ddefnyddio gan y gwneuthurwr AI i geisio gwella ei wasanaethau deallusrwydd artiffisial yn ôl pob tebyg neu y gallai gael ei ddefnyddio ganddo ef a/neu hyd yn oed ei bartneriaid cysylltiedig at amrywiaeth o ddibenion.

Rydych chi bellach wedi cael eich rhybuddio rhag blaen.

Mae'r trosglwyddiad hwn o'ch data yn digwydd yn y ffyrdd mwyaf diniwed ac o bosibl gan filoedd neu tua miliynau o bobl. Sut felly? Mae yna fath o AI o'r enw AI cynhyrchiol sydd wedi ennill penawdau mawr yn ddiweddar a sylw ffyrnig y cyhoedd yn gyffredinol. Y mwyaf nodedig o'r apiau AI cynhyrchiol presennol yw un o'r enw ChatGPT a ddyfeisiwyd gan y cwmni OpenAI.

Mae'n debyg bod tua miliwn o ddefnyddwyr cofrestredig ar gyfer ChatGPT. Mae'n ymddangos bod llawer o'r defnyddwyr hynny wrth eu bodd yn rhoi cynnig ar yr ap AI cynhyrchiol mwyaf a diweddaraf hwn. Mae'r broses yn hynod o syml. Rydych chi'n mewnbynnu rhywfaint o destun fel anogwr, a voila, mae'r app ChatGPT yn cynhyrchu allbwn testun sydd fel arfer ar ffurf traethawd. Mae rhai yn cyfeirio at hyn fel testun-i-destun, er bod yn well gennyf ei ddynodi fel testun-i-draethawd gan fod y ferf hon yn gwneud mwy o synnwyr bob dydd.

Ar y dechrau, mae'n debygol y bydd defnyddiwr newbie yn mynd i mewn i rywbeth hwyliog a di-hid. Dywedwch wrthyf am fywyd ac amseroedd George Washington, efallai y bydd rhywun yn dod i mewn fel anogwr. Byddai ChatGPT wedyn yn cynhyrchu traethawd am ein harlywydd cyntaf chwedlonol. Byddai'r traethawd yn gwbl rugl a byddech dan bwysau i ganfod ei fod wedi'i gynhyrchu gan ap AI. Peth cyffrous i'w weld yn digwydd.

Yr ods yw, ar ôl chwarae o gwmpas am gyfnod, y bydd rhan o ddefnyddwyr newbie wedi cael eu llenwi ac o bosibl yn dewis rhoi'r gorau i chwarae gyda ChatGPT. Maent bellach wedi goresgyn eu FOMO (ofn colli allan), gan wneud hynny ar ôl arbrofi gyda'r app AI y mae bron pawb yn ymddangos yn sgwrsio amdano. Gweithred wedi ei gwneud.

Fodd bynnag, bydd rhai yn dechrau meddwl am ffyrdd eraill a mwy difrifol o ddefnyddio AI cynhyrchiol.

Efallai defnyddio ChatGPT i ysgrifennu'r memo hwnnw y mae eich rheolwr wedi bod yn eich annog i'w ysgrifennu. Y cyfan sydd angen i chi ei wneud yw darparu anogwr gyda'r pwyntiau bwled sydd gennych mewn golwg, a'r peth nesaf y gwyddoch fod memo cyfan wedi'i gynhyrchu gan ChatGPT a fyddai'n gwneud eich rheolwr yn falch ohonoch chi. Rydych chi'n copïo'r traethawd wedi'i allbynnu o ChatGPT, yn ei gludo i mewn i dempled swyddogol y cwmni yn eich pecyn prosesu geiriau, ac yn e-bostio'r memorandwm safonol at eich rheolwr. Rydych chi'n werth miliwn o bunnoedd. Ac fe wnaethoch chi ddefnyddio'ch ymennydd i ddod o hyd i declyn defnyddiol i wneud y gwaith caled i chi. Pat eich hun ar y cefn.

Nid dyna'r cyfan.

Oes, mae mwy.

Cofiwch y gall AI cynhyrchiol gyflawni cyfres o dasgau eraill sy'n gysylltiedig ag ysgrifennu.

Er enghraifft, mae'n debyg eich bod wedi ysgrifennu naratif o ryw fath ar gyfer cleient gwerthfawr a'ch bod chi wir eisiau cael adolygiad o'r deunydd cyn iddo fynd allan y drws.

Hawdd-pyslyd.

Rydych chi'n gludo testun eich naratif i anogwr ChatGPT ac yna'n cyfarwyddo ChatGPT i ddadansoddi'r testun rydych chi wedi'i gyfansoddi. Efallai y bydd y traethawd canlyniadol sy'n cael ei allbynnu yn cloddio'n ddwfn i'ch geiriad, ac er mawr syndod i chi bydd yn ceisio archwilio ystyr yr hyn rydych chi wedi'i ddweud i bob golwg (gan fynd ymhell y tu hwnt i weithredu fel gwiriwr sillafu neu ddadansoddwr gramadeg). Efallai y bydd yr ap AI yn canfod diffygion yn rhesymeg eich naratif neu efallai'n darganfod gwrthddywediadau nad oeddech chi'n sylweddoli eu bod yn eich ysgrifennu eich hun. Mae bron fel petaech wedi llogi golygydd dynol crefftus i dynnu sylw at eich drafft a darparu litani o awgrymiadau defnyddiol a phryderon a nodwyd (wel, rwyf am ddatgan yn bendant nad wyf yn ceisio anthropomorffeiddio'r app AI, yn enwedig bod golygydd dynol yn dynol tra bod yr app AI yn ddim ond rhaglen gyfrifiadurol).

Diolch byth eich bod wedi defnyddio'r app AI cynhyrchiol i graffu ar eich naratif ysgrifenedig gwerthfawr. Heb os, byddai'n well gennych i'r AI ddod o hyd i'r materion ysgrifenedig sy'n peri gofid yn hytrach nag ar ôl anfon y ddogfen at eich cleient gwerthfawr. Dychmygwch eich bod chi wedi cyfansoddi'r naratif ar gyfer rhywun oedd wedi eich llogi i ddyfeisio darlun eithaf hanfodol. Pe baech chi wedi rhoi'r fersiwn wreiddiol i'r cleient, cyn adolygu'r app AI, efallai y byddwch chi'n dioddef embaras mawr. Mae bron yn sicr y byddai gan y cleient amheuon difrifol am eich sgiliau i wneud y gwaith y gofynnwyd amdano.

Gadewch i ni i fyny y ante.

Ystyried creu dogfennau cyfreithiol. Mae hynny’n amlwg yn fater arbennig o ddifrifol. Gall geiriau a sut y cânt eu cyfansoddi sillafu amddiffyniad cyfreithiol ysbeidiol neu drychineb cyfreithiol digalon.

Yn fy ymchwil ac ymgynghori parhaus, rwy'n rhyngweithio'n rheolaidd â llawer o atwrneiod sydd â diddordeb mawr mewn defnyddio AI ym maes y gyfraith. Mae amryw o raglenni LegalTech yn cael eu cysylltu â galluoedd AI. Gall cyfreithiwr ddefnyddio AI cynhyrchiol i gyfansoddi drafft o gontract neu gyfansoddi dogfennau cyfreithiol eraill. Yn ogystal, os gwnaeth yr atwrnai ddrafft cychwynnol ei hun, gall drosglwyddo'r testun i ap AI cynhyrchiol fel ChatGPT i edrych a gweld pa dyllau neu fylchau y gellir eu canfod. I gael rhagor o wybodaeth am sut mae atwrneiod a’r maes cyfreithiol yn dewis defnyddio AI, gweler fy nhrafodaeth yn y ddolen yma.

Ond rydym yn barod am y rhwb ar hyn.

Mae atwrnai yn cymryd contract wedi'i ddrafftio ac yn copïo'r testun yn anogwr ar gyfer ChatGPT. Mae'r app AI yn cynhyrchu adolygiad ar gyfer y cyfreithiwr. Mae'n ymddangos bod ChatGPT yn dod o hyd i sawl gotchas. Mae'r atwrnai yn adolygu'r contract. Efallai y byddan nhw hefyd yn gofyn i ChatGPT awgrymu aralleirio neu ail-wneud y testun a gyfansoddwyd iddyn nhw. Yna mae fersiwn newydd a gwell o'r contract yn cael ei gynhyrchu gan yr ap AI cynhyrchiol. Mae'r cyfreithiwr yn cydio yn y testun allbynnu ac yn ei roi mewn ffeil prosesu geiriau. Oddi ar y missive yn mynd at eu cleient. Cenhadaeth wedi ei chyflawni.

Allwch chi ddyfalu beth sydd newydd ddigwydd hefyd?

Y tu ôl i'r llenni ac o dan y cwfl, efallai y byddai'r cyfangiad wedi'i lyncu i fyny fel pysgodyn i geg morfil. Er efallai na fydd yr atwrnai hwn sy'n defnyddio AI yn ei sylweddoli, mae'n bosibl y gallai testun y contract, fel y'i gosodwyd fel anogwr yn ChatGPT, gael ei lyncu gan yr ap AI. Mae bellach yn borthiant ar gyfer paru patrymau a chymhlethdodau cyfrifiannol eraill yr app AI. Gallai hyn yn ei dro gael ei ddefnyddio mewn amrywiaeth o ffyrdd. Os oes data cyfrinachol yn y drafft, mae hynny hefyd o bosibl bellach o fewn cyfyngiadau ChatGPT. Mae'n debyg bod eich anogwr fel y'i darparwyd i'r app AI bellach yn rhan o'r grŵp mewn rhyw ffordd neu'i gilydd.

Ymhellach, mae'r traethawd allbynnau hefyd yn cael ei ystyried yn rhan o'r casgliad. Os oeddech wedi gofyn i ChatGPT addasu'r drafft i chi a chyflwyno'r fersiwn newydd o'r contract, dehonglir hwn fel traethawd wedi'i allbynnu. Mae allbynnau ChatGPT hefyd yn fath o gynnwys y gellir ei gadw neu ei drawsnewid fel arall gan yr app AI.

Yikes, efallai eich bod wedi rhoi gwybodaeth breifat neu gyfrinachol i ffwrdd yn ddiniwed. Ddim yn dda. Hefyd, ni fyddech hyd yn oed yn ymwybodol eich bod wedi gwneud hynny. Ni chodwyd baneri. Ni chwythodd corn. Ni ddiffoddodd unrhyw oleuadau fflachio i'ch syfrdanu i realiti.

Efallai y byddwn yn rhagweld y gallai pobl nad ydynt yn gyfreithwyr wneud camgymeriad o'r fath yn hawdd, ond mae bron yn annirnadwy i gyfreithiwr hyddysg wneud yr un camgymeriad rookie. Serch hynny, mae gweithwyr cyfreithiol proffesiynol ar hyn o bryd yn debygol o wneud yr un camgymeriad posibl. Maent mewn perygl o dorri elfen nodedig o'r fraint atwrnai-cleient ac o bosibl yn torri Rheolau Ymddygiad Proffesiynol Enghreifftiol (MRPC) Cymdeithas Bar America (ABA). Yn benodol: “Ni fydd cyfreithiwr yn datgelu gwybodaeth sy’n ymwneud â chynrychiolaeth cleient oni bai bod y cleient yn rhoi caniatâd gwybodus, bod y datgeliad wedi’i awdurdodi’n ymhlyg er mwyn cyflawni’r sylw neu fod y datgeliad yn cael ei ganiatáu gan baragraff (b)” (dyfynnwyd o yr MRPC, ac nad yw’n ymddangos bod yr eithriadau sy’n gysylltiedig ag is-adran b yn cwmpasu defnyddio ap AI cynhyrchiol mewn ffordd nad yw’n ddiogel).

Efallai y bydd rhai atwrneiod yn ceisio esgusodi eu camwedd trwy honni nad ydynt yn ddewiniaid technoleg ac na fyddent wedi cael unrhyw fodd parod i wybod y gallai cofnodi gwybodaeth gyfrinachol mewn ap AI cynhyrchiol rywsut fod yn doriad o fath. Mae’r ABA wedi ei gwneud yn glir bod dyletswydd ar gyfreithwyr yn cynnwys bod yn gyfoes ar AI a thechnoleg o safbwynt cyfreithiol: “Er mwyn cynnal y wybodaeth a’r sgil angenrheidiol, dylai cyfreithiwr fod yn ymwybodol o newidiadau yn y gyfraith a’i hymarfer, gan gynnwys y buddion a’r risgiau sy’n gysylltiedig â thechnoleg berthnasol, cymryd rhan mewn astudiaeth ac addysg barhaus a chydymffurfio â’r holl ofynion addysg gyfreithiol barhaus y mae’r cyfreithiwr yn ddarostyngedig iddynt” (fesul MRPC).

Daw nifer o ddarpariaethau i’r ffurf hon o ddyletswydd gyfreithiol, gan gynnwys cynnal gwybodaeth gyfrinachol cleient (Rheol 1.6), diogelu eiddo cleient fel data (Rheol 1.15), cyfathrebu’n briodol â chleient (Rheol 1.4), cael caniatâd ar sail gwybodaeth cleient (Rheol 1.6), a sicrhau cynrychiolaeth gymwys ar ran cleient (Rheol 1.1). Ac mae hefyd y penderfyniad anhysbys ond hynod nodedig sy'n canolbwyntio ar AI a basiwyd gan yr ABA: “Bod Cymdeithas Bar America yn annog llysoedd a chyfreithwyr i fynd i'r afael â'r materion moesegol a chyfreithiol sy'n dod i'r amlwg sy'n ymwneud â'r defnydd o ddeallusrwydd artiffisial ('AI') yn ymarfer y gyfraith gan gynnwys: (1) tuedd, eglurdeb, a thryloywder penderfyniadau awtomataidd a wneir gan AI; (2) defnydd moesegol a buddiol o AI; a (3) rheolaethau a throsolwg o AI a'r gwerthwyr sy'n darparu AI.”

Geiriau i'r doeth ar gyfer fy ffrindiau cyfreithiol a chydweithwyr.

Craidd y mater yw y gall bron unrhyw un gael eu hunain i mewn i jam wrth ddefnyddio AI cynhyrchiol. Gall pobl nad ydynt yn gyfreithwyr wneud hynny oherwydd eu diffyg craffter cyfreithiol tybiedig. Gall cyfreithwyr wneud hynny hefyd, efallai wedi'u swyno gan yr AI neu beidio â chymryd anadl ddwfn a myfyrio ar ba ôl-effeithiau cyfreithiol a all godi wrth ddefnyddio AI cynhyrchiol.

Mae pob un ohonom o bosibl yn yr un cwch.

Dylech hefyd sylweddoli nad ChatGPT yw'r unig app AI cynhyrchiol ar y bloc. Mae yna apiau AI cynhyrchiol eraill y gallwch eu defnyddio. Maen nhw hefyd yn debygol o gael eu torri o'r un brethyn, sef bod y mewnbynnau rydych chi'n eu nodi fel anogwyr a'r allbynnau a gewch fel traethodau wedi'u hallbynnu yn cael eu hystyried yn rhan o'r casgliad ac y gall y gwneuthurwr AI eu defnyddio.

Yn y golofn heddiw, rydw i'n mynd i ddadbacio natur sut y gall data rydych chi'n ei fewnbynnu a data rydych chi'n ei dderbyn gan AI cynhyrchiol gael eu peryglu o ran preifatrwydd a chyfrinachedd. Mae'r gwneuthurwyr AI yn sicrhau bod eu gofynion trwyddedu ar gael a byddai'n ddoeth ichi ddarllen yr amodau hanfodol hynny cyn i chi ddechrau defnyddio ap AI yn weithredol gydag unrhyw semblance o ddata go iawn. Byddaf yn eich tywys trwy enghraifft o drwyddedu o'r fath, gan wneud hynny ar gyfer yr app ChatGPT AI.

I mewn i hyn oll daw cyfres o ystyriaethau Moeseg AI a Chyfraith AI.

Byddwch yn ymwybodol bod ymdrechion parhaus i drwytho egwyddorion AI Moesegol i mewn i ddatblygu a maesu apps AI. Mae carfan gynyddol o foesegwyr AI pryderus a blaenorol yn ceisio sicrhau bod ymdrechion i ddyfeisio a mabwysiadu AI yn ystyried safbwynt o wneud AI Er Da ac osgoi AI Er Drwg. Yn yr un modd, mae yna ddeddfau AI newydd arfaethedig sy'n cael eu bandio o gwmpas fel atebion posibl i atal ymdrechion AI rhag mynd yn gyfeiliornus ar hawliau dynol ac ati. Am fy sylw parhaus a helaeth i AI Moeseg a Chyfraith AI, gweler y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae naws a darpariaethau AI Moesegol sylweddol yn gysylltiedig â sut y gall neu y dylai gwneuthurwyr AI ddelio â'r data neu'r wybodaeth sy'n ymddangos yn breifat neu'n gyfrinachol i'w defnyddwyr. Mae'n debyg eich bod chi'n gwybod hefyd bod criw o ddeddfau presennol wrth wraidd y ffordd y mae data i fod i gael ei drin gan endidau technoleg. Y tebygolrwydd hefyd yw y bydd y deddfau AI sydd newydd eu cynnig hefyd yn croesi i'r un diriogaeth. Gweler er enghraifft fy ymdriniaeth o'r AI Mesur Hawliau ac ymrysonau cyfreithlawn ereill yn myned yn mlaen am AI, yn y ddolen yma.

Dyma’r tecawê allweddol o’r drafodaeth hon a ddywedwyd wrth bawb:

• Byddwch yn ofalus iawn, iawn, iawn ynghylch pa ddata neu wybodaeth rydych chi'n dewis eu rhoi yn eich anogwyr wrth ddefnyddio AI cynhyrchiol, ac yn yr un modd byddwch yn hynod ofalus a rhagwelwch pa fathau o draethodau wedi'u hallbynnu y gallech chi eu cael oherwydd gall yr allbynnau gael eu hamsugno hefyd.

A yw hyn yn awgrymu na ddylech ddefnyddio AI cynhyrchiol?

Na, nid dyna'r hyn yr wyf yn ei ddweud o gwbl.

Defnyddiwch AI cynhyrchiol i gynnwys eich calon. Y gwir yw bod angen i chi fod yn ymwybodol o sut rydych chi'n ei ddefnyddio. Darganfyddwch pa fath o amodau trwyddedu sy'n gysylltiedig â'r defnydd. Penderfynwch a allwch chi fyw gyda'r amodau hynny. Os oes ffyrdd i hysbysu'r gwneuthurwr AI eich bod am ddefnyddio rhai mathau o amddiffyniadau neu lwfansau ychwanegol, gwnewch yn siŵr eich bod yn gwneud hynny.

Soniaf hefyd am un agwedd arall yr wyf yn sylweddoli y bydd yn gwneud i rai pobl ferwi'n wallgof. Yma yn mynd. Er gwaethaf beth bynnag yw'r amodau trwyddedu, mae'n rhaid i chi hefyd dybio bod posibilrwydd na chedwir at y gofynion hynny'n llawn. Gall pethau fynd o chwith. Gall pethau lithro rhwng y craciau. Yn y diwedd, yn sicr, efallai y bydd gennych achos cyfreithiol yn erbyn gwneuthurwr AI am beidio â chydymffurfio â'u hamodau, ond mae hynny ychydig ar ôl i'r ceffyl fod allan o'r ysgubor yn barod.

Ffordd ddiogel iawn o symud ymlaen fyddai sefydlu eich enghraifft eich hun ar eich systemau eich hun, boed yn y cwmwl neu'n fewnol (a, gan dybio eich bod yn cadw at y rhagofalon seiberddiogelwch priodol, sy'n rhaid cyfaddef nad yw rhai yn gwneud hynny ac maen nhw'n waeth). i ffwrdd yn eu cwmwl eu hunain na defnyddio cwmwl y gwerthwr meddalwedd). Ychydig o broblem syfrdanol serch hynny yw mai ychydig o'r apiau cynhyrchiol AI ar raddfa fawr sy'n caniatáu hyn ar hyn o bryd. Maent i gyd fwy neu lai yn gweithio ar sail ein cwmwl yn unig. Ychydig iawn sydd wedi cynnig yr opsiwn o gael enghraifft gyfan wedi'i gerfio ar eich cyfer chi yn unig. Rwyf wedi rhagweld y byddwn yn gweld yr opsiwn hwn yn codi'n raddol, er y bydd braidd yn gostus a braidd yn gymhleth ar y dechrau, gweler fy rhagfynegiadau yn y ddolen yma.

Sut mae pobl arbennig o ddisglair ac arbennig o graff fel arall yn mynd i mewn i gors erydiad cyfrinachedd data neu wybodaeth?

Mae atyniad yr apiau AI cynhyrchiol hyn yn eithaf magnetig ar ôl i chi ddechrau defnyddio un. Cam wrth gam, rydych chi'n cael eich swyno ac yn dewis rhoi bysedd eich traed ymhellach ac ymhellach i'r dyfroedd AI cynhyrchiol. Y peth nesaf rydych chi'n ei wybod, rydych chi'n barod i drosglwyddo cynnwys perchnogol sydd i fod i gael ei gadw'n breifat ac yn gyfrinachol i ap AI cynhyrchiol.

Gwrthsafwch yr ysfa ac ymatal rhag syrthio fesul cam i fagl anniogel.

Ar gyfer arweinwyr busnes a swyddogion gweithredol lefel uchaf, mae'r un rhybudd yn mynd i chi a'r holl bobl ledled eich cwmni. Mae uwch swyddogion gweithredol yn cael eu dal yn y brwdfrydedd a'r syndod o ddefnyddio AI cynhyrchiol hefyd. Gallant wneud llanast ac o bosibl mewnbynnu gwybodaeth gyfrinachol lefel uchaf i ap AI.

Ar ben hyn, efallai y bydd ganddyn nhw gynghreiriau eang o'u gweithwyr hefyd yn chwarae o gwmpas gydag AI cynhyrchiol. Mae llawer o'r staff hynny sydd fel arall yn ystyriol yn bwydo gwybodaeth breifat a chyfrinachol y cwmni yn ddifeddwl ac yn hapus i'r apiau AI hyn. Yn ôl adroddiadau newyddion diweddar, mae'n debyg bod Amazon wedi darganfod bod rhai gweithwyr yn cofnodi gwybodaeth berchnogol amrywiol i ChatGPT. Dywedwyd bod rhybudd cyfreithiol-ganolog wedi'i anfon yn fewnol i fod yn ofalus wrth ddefnyddio'r app AI anorchfygol.

Ar y cyfan, daw ychydig o eironi i'r ffenomenau cynyddol o weithwyr yn mynd i mewn i ddata cyfrinachol yn ChatGPT ac AI cynhyrchiol arall. Gadewch i mi ymhelaethu. Yn nodweddiadol mae gan gwmnïau modern heddiw bolisïau seiberddiogelwch llym y maent wedi'u crefftio a'u gweithredu'n ofalus. Mae yna nifer o amddiffyniadau technolegol. Y gobaith yw atal rhyddhau pethau hanfodol yn ddamweiniol. Curiad drwm parhaus yw bod yn ofalus pan fyddwch chi'n ymweld â gwefannau, byddwch yn ofalus pan fyddwch chi'n defnyddio unrhyw apps heb eu cymeradwyo, ac ati.

Ynghyd â hyn daw apiau AI cynhyrchiol fel ChatGPT. Mae'r newyddion am yr app AI yn mynd drwy'r to ac yn cael sylw eang. Mae frenzy yn codi. Mae pobl yn y cwmnïau hyn sydd â'r holl amddiffyniadau seiberddiogelwch hyn yn dewis neidio ar ap AI cynhyrchiol. Maent yn chwarae ag ef yn segur ar y dechrau. Yna maent yn dechrau mewnbynnu data cwmni. Wham, maent bellach o bosibl wedi datgelu gwybodaeth na ddylai fod wedi'i datgelu.

Y tegan newydd sgleiniog sy'n goresgyn yn hudol y miliynau o ddoleri o wariant ar amddiffyniadau seiberddiogelwch a hyfforddiant parhaus am yr hyn na ddylid ei wneud. Ond, hei, mae'n gyffrous defnyddio AI cynhyrchiol a bod yn rhan o'r dorf “mewn”. Dyna sy'n cyfrif, mae'n debyg.

Hyderaf y cewch fy nychryn am fod yn nodedig o ofalus.

Nesaf, gadewch i ni edrych yn agos ar sut mae AI cynhyrchiol yn ymdrin yn dechnegol â thestun yr ysgogiadau a'r traethodau a gynhyrchir. Byddwn hefyd yn archwilio rhai o'r amodau trwyddedu, gan ddefnyddio ChatGPT fel enghraifft. Sylweddolwch nad wyf yn mynd i gwmpasu ystod lawn yr elfennau trwyddedu hynny. Gwnewch yn siŵr eich bod chi'n cynnwys eich cwnsler cyfreithiol ar gyfer pa bynnag apiau AI cynhyrchiol y byddwch chi'n penderfynu eu defnyddio. Hefyd, mae'r drwydded yn wahanol i wneuthurwr AI i wneuthurwr AI, a gall gwneuthurwr AI penodol ddewis newid ei drwyddedu felly gwnewch yn siŵr eich bod yn parhau i fod yn wyliadwrus beth bynnag y mae'r fersiwn ddiweddaraf o'r drwydded yn ei nodi.

Mae gennym ni waith dadbacio cyffrous i'w wneud ar y pwnc peniog hwn.

Yn gyntaf, dylem sicrhau ein bod i gyd ar yr un dudalen am yr hyn y mae Generative AI yn ei gynnwys a hefyd yr hyn y mae ChatGPT yn ei olygu. Unwaith y byddwn yn ymdrin â'r agwedd sylfaenol honno, gallwn gynnal asesiad grymus o'r drych trosiad sy'n gysylltiedig â'r math hwn o AI.

Os ydych chi eisoes yn gyfarwydd iawn â Generative AI a ChatGPT, efallai y gallwch chi sgimio'r adran nesaf a bwrw ymlaen â'r adran sy'n ei dilyn. Credaf y bydd pawb arall yn gweld y manylion hanfodol am y materion hyn yn addysgiadol trwy ddarllen yr adran yn agos a chael y wybodaeth ddiweddaraf.

Cychwyn Cyflym Am AI Cynhyrchiol A ChatGPT

Mae ChatGPT yn system sgwrsiol ryngweithiol AI pwrpas-cyffredinol sy'n canolbwyntio ar sgwrsio, sydd yn ei hanfod yn chatbot cyffredinol sy'n ymddangos yn ddiniwed, serch hynny, mae'n cael ei ddefnyddio'n weithredol ac yn frwd gan bobl mewn ffyrdd sy'n dal llawer yn gwbl ddiofal, fel y byddaf yn ymhelaethu cyn bo hir. Mae'r ap AI hwn yn trosoli techneg a thechnoleg yn y byd AI y cyfeirir ato'n aml fel AI cynhyrchiol. Mae'r AI yn cynhyrchu allbynnau fel testun, a dyna mae ChatGPT yn ei wneud. Mae apiau AI cynhyrchiol eraill yn cynhyrchu delweddau fel lluniau neu waith celf, tra bod eraill yn cynhyrchu ffeiliau sain neu fideos.

Byddaf yn canolbwyntio ar yr apiau AI cynhyrchiol sy'n seiliedig ar destun yn y drafodaeth hon gan mai dyna mae ChatGPT yn ei wneud.

Mae apiau AI cynhyrchiol yn hynod o hawdd i'w defnyddio.

Y cyfan sy'n rhaid i chi ei wneud yw nodi anogwr a bydd yr ap AI yn cynhyrchu traethawd i chi sy'n ceisio ymateb i'ch anogwr. Bydd y testun a gyfansoddwyd yn ymddangos fel pe bai'r traethawd wedi'i ysgrifennu gan y llaw ddynol a'r meddwl. Pe baech chi'n nodi anogwr sy'n dweud “Dywedwch wrthyf am Abraham Lincoln” bydd yr AI cynhyrchiol yn rhoi traethawd ichi am Lincoln. Mae hyn yn cael ei ddosbarthu'n gyffredin fel AI cynhyrchiol sy'n perfformio testun-i-destun neu mae'n well gan rai ei alw testun-i-draethawd allbwn. Fel y crybwyllwyd, mae yna ddulliau eraill o AI cynhyrchiol, megis testun-i-gelf a thestun-i-fideo.

Efallai mai eich meddwl cyntaf yw nad yw'r gallu cynhyrchiol hwn yn ymddangos yn gymaint o lawer o ran cynhyrchu traethodau. Gallwch chi wneud chwiliad ar-lein o'r Rhyngrwyd yn hawdd a dod o hyd i dunelli a thunelli o draethodau am yr Arlywydd Lincoln yn hawdd. Y ciciwr yn achos AI cynhyrchiol yw bod y traethawd a gynhyrchir yn gymharol unigryw ac yn darparu cyfansoddiad gwreiddiol yn hytrach na chopi. Pe baech yn ceisio dod o hyd i'r traethawd AI a gynhyrchwyd ar-lein yn rhywle, byddech yn annhebygol o'i ddarganfod.

Mae Deallusrwydd Artiffisial cynhyrchiol wedi’i hyfforddi ymlaen llaw ac mae’n defnyddio fformiwleiddiad mathemategol a chyfrifiannol cymhleth sydd wedi’i sefydlu drwy archwilio patrymau mewn geiriau ysgrifenedig a storïau ar draws y we. O ganlyniad i archwilio miloedd ar filiynau o ddarnau ysgrifenedig, gall yr AI chwistrellu traethodau a straeon newydd sy'n gymysgfa o'r hyn a ddarganfuwyd. Trwy ychwanegu amrywiol swyddogaethau tebygol, mae'r testun sy'n deillio ohono yn eithaf unigryw o'i gymharu â'r hyn a ddefnyddiwyd yn y set hyfforddi.

Dyna pam y bu cynnwrf ynghylch myfyrwyr yn gallu twyllo wrth ysgrifennu traethodau y tu allan i'r ystafell ddosbarth. Ni all athro gymryd y traethawd y mae myfyrwyr twyllodrus yn honni ei fod yn ysgrifennu ei hun a cheisio darganfod a gafodd ei gopïo o ryw ffynhonnell ar-lein arall. Ar y cyfan, ni fydd unrhyw draethawd preexisting diffiniol ar-lein sy'n cyd-fynd â'r traethawd a gynhyrchir gan AI. Wedi dweud y cyfan, bydd yn rhaid i'r athro dderbyn yn ddig fod y myfyriwr wedi ysgrifennu'r traethawd fel darn o waith gwreiddiol.

Mae pryderon ychwanegol ynghylch AI cynhyrchiol.

Un anfantais hanfodol yw y gall y traethodau a gynhyrchir gan ap AI sy'n seiliedig ar gynhyrchiol gynnwys anwireddau amrywiol, gan gynnwys ffeithiau sy'n amlwg yn anghywir, ffeithiau sy'n cael eu portreadu'n gamarweiniol, a ffeithiau ymddangosiadol sydd wedi'u ffugio'n llwyr. Cyfeirir yn aml at yr agweddau ffug hynny fel ffurf o rhithweledigaethau AI, ymadrodd sy'n fy nigalonni ond yn anffodus fel pe bai'n ennill tyniant poblogaidd beth bynnag (am fy esboniad manwl ynghylch pam mae hwn yn derminoleg lousy ac anaddas, gweler fy sylw yn y ddolen yma).

Hoffwn egluro un agwedd bwysig cyn inni fynd i'r afael â'r trwch o bethau ar y pwnc hwn.

Bu rhai honiadau anarferol o fawr ar gyfryngau cymdeithasol AI cynhyrchiol gan honni bod y fersiwn ddiweddaraf hon o AI mewn gwirionedd AI teimladwy (na, maen nhw'n anghywir!). Mae'r rhai mewn AI Moeseg a Chyfraith AI yn bryderus iawn am y duedd gynyddol hon o hawliadau estynedig. Efallai y byddwch yn dweud yn gwrtais bod rhai pobl yn gorbwysleisio'r hyn y gall AI heddiw ei wneud mewn gwirionedd. Maent yn cymryd yn ganiataol bod gan AI alluoedd nad ydym wedi gallu eu cyflawni eto. Mae hynny'n anffodus. Yn waeth byth, gallant ganiatáu eu hunain ac eraill i fynd i sefyllfaoedd enbyd oherwydd y rhagdybiaeth y bydd yr AI yn deimladwy neu'n ddynol o ran gallu gweithredu.

Peidiwch ag anthropomorffeiddio AI.

Bydd gwneud hynny yn eich dal mewn trap dibyniaeth gludiog a dour o ddisgwyl i'r AI wneud pethau nad yw'n gallu eu perfformio. Gyda dweud hynny, mae'r diweddaraf mewn AI cynhyrchiol yn gymharol drawiadol am yr hyn y gall ei wneud. Fodd bynnag, byddwch yn ymwybodol bod yna gyfyngiadau sylweddol y dylech eu cadw mewn cof yn barhaus wrth ddefnyddio unrhyw ap AI cynhyrchiol.

Os oes gennych ddiddordeb yn y cynnwrf sy'n ehangu'n gyflym am ChatGPT a Generative AI i gyd, rydw i wedi bod yn gwneud cyfres â ffocws yn fy ngholofn a allai fod yn addysgiadol i chi. Dyma gipolwg rhag ofn i unrhyw un o'r pynciau hyn ddal eich ffansi:

• 1) Rhagfynegiadau o Ddatblygiadau AI Cynhyrchiol yn Dod. Os ydych chi eisiau gwybod beth sy'n debygol o ddigwydd am AI trwy gydol 2023 a thu hwnt, gan gynnwys datblygiadau sydd ar ddod mewn AI cynhyrchiol a ChatGPT, byddwch chi am ddarllen fy rhestr gynhwysfawr o ragfynegiadau 2023 yn y ddolen yma.
• 2) AI cynhyrchiol a Chyngor Iechyd Meddwl. Dewisais adolygu sut mae AI cynhyrchiol a ChatGPT yn cael eu defnyddio ar gyfer cyngor iechyd meddwl, tuedd drafferthus, yn ôl fy nadansoddiad â ffocws yn y ddolen yma.
• 3) Hanfodion AI Cynhyrchiol a ChatGPT. Mae’r darn hwn yn archwilio’r elfennau allweddol o sut mae AI cynhyrchiol yn gweithio ac yn ymchwilio’n benodol i ap ChatGPT, gan gynnwys dadansoddiad o’r wefr a’r ffanffer, yn y ddolen yma.
• 4) Tensiwn Rhwng Athrawon A Myfyrwyr Dros AI Cynhyrchiol A ChatGPT. Dyma'r ffyrdd y bydd myfyrwyr yn defnyddio AI cynhyrchiol a ChatGPT yn ddichellgar. Yn ogystal, mae sawl ffordd i athrawon ymgodymu â'r don lanw hon. Gwel y ddolen yma.
• 5) Cyd-destun A Defnydd AI Genehedlol. Gwnes hefyd archwiliad tafod-yn-y-boch tymhorol â blas ar gyd-destun yn ymwneud â Siôn Corn yn ymwneud â ChatGPT ac AI cynhyrchiol yn y ddolen yma.
• 6) Sgamwyr sy'n Defnyddio AI Generative. Ar nodyn ofnadwy, mae rhai sgamwyr wedi darganfod sut i ddefnyddio AI cynhyrchiol a ChatGPT i wneud camwedd, gan gynnwys cynhyrchu e-byst sgam a hyd yn oed gynhyrchu cod rhaglennu ar gyfer malware, gweler fy nadansoddiad yn y ddolen yma.
• 7) Camgymeriadau Rookie Gan Ddefnyddio AI Cynhyrchiol. Mae llawer o bobl yn gor-saethu ac yn syndod yn tanseilio'r hyn y gall AI cynhyrchiol a ChatGPT ei wneud, felly edrychais yn arbennig ar y tanseilio y mae rookies AI yn tueddu i'w wneud, gweler y drafodaeth yn y ddolen yma.
• 8) Ymdopi ag Anogwyr AI Cynhyrchiol A Rhithweledigaethau AI. Rwy'n disgrifio dull blaengar o ddefnyddio ychwanegion AI i ddelio â'r materion amrywiol sy'n gysylltiedig â cheisio mewnbynnu anogwyr addas i AI cynhyrchiol, ac mae yna ychwanegion AI ychwanegol ar gyfer canfod allbynnau ac anwireddau AI fel y'u gelwir, fel y'u gelwir. gorchuddio yn y ddolen yma.
• 9) Dadelfennu Hawliadau Pen Esgyrn Ynghylch Canfod Traethodau Cynhyrchiol o AI. Mae rhuthr aur cyfeiliornus o apiau AI sy'n datgan eu bod yn gallu canfod a oedd unrhyw draethawd penodol wedi'i gynhyrchu gan ddyn yn erbyn AI a gynhyrchwyd. Ar y cyfan, mae hyn yn gamarweiniol ac mewn rhai achosion, honiad â phen asgwrn ac anghynaladwy, gweler fy sylw yn y ddolen yma.
• 10) Gallai Chwarae Rôl Trwy AI Generative Taenu Anfanteision Iechyd Meddwl. Mae rhai yn defnyddio AI cynhyrchiol fel ChatGPT i chwarae rôl, lle mae'r ap AI yn ymateb i ddyn fel pe bai'n bodoli mewn byd ffantasi neu leoliad colur arall. Gallai hyn gael ôl-effeithiau iechyd meddwl, gw y ddolen yma.
• 11) Datgelu Ystod Gwallau ac Anwireddau Allbynnau. Mae amrywiol restrau a gasglwyd yn cael eu llunio i geisio arddangos natur gwallau ac anwireddau a gynhyrchir gan ChatGPT. Mae rhai yn credu bod hyn yn hanfodol, tra bod eraill yn dweud bod yr ymarfer yn ofer, gweler fy nadansoddiad yn y ddolen yma.
• 12) Ysgolion sy'n Gwahardd Mae AI ChatGPT Cynhyrchiol Ar Goll Y Cwch. Efallai eich bod yn gwybod bod ysgolion amrywiol fel Adran Addysg Dinas Efrog Newydd (NYC) wedi datgan gwaharddiad ar ddefnyddio ChatGPT ar eu rhwydwaith a dyfeisiau cysylltiedig. Er y gallai hyn ymddangos yn rhagofal defnyddiol, ni fydd yn symud y nodwydd ac yn anffodus mae'n gweld eisiau'r cwch yn llwyr, gweler fy sylw yn y ddolen yma.
• 13) Mae AI ChatGPT cynhyrchiol yn mynd i fod ym mhobman oherwydd yr API sydd ar ddod. Mae yna dro pwysig ar y gweill ynghylch y defnydd o ChatGPT, sef, trwy ddefnyddio porth API i'r app AI penodol hwn, y bydd rhaglenni meddalwedd eraill yn gallu galw a defnyddio ChatGPT. Mae hyn yn mynd i ehangu'n sylweddol y defnydd o AI cynhyrchiol ac mae iddo ganlyniadau nodedig, gweler fy ymhelaethu ar y ddolen yma.
• 14) Ffyrdd y Gallai ChatGPT Wilymu Neu Ymdoddi. Roedd nifer o faterion gofidus posibl o flaen ChatGPT o ran tanseilio'r ganmoliaeth aruthrol y mae wedi'i chael hyd yn hyn. Mae'r dadansoddiad hwn yn archwilio'n fanwl wyth problem bosibl a allai achosi i ChatGPT golli ei stêm a hyd yn oed yn y pen draw yn y doghouse, gweler y ddolen yma.

Efallai y bydd o ddiddordeb i chi fod ChatGPT yn seiliedig ar fersiwn o app AI rhagflaenol o'r enw GPT-3. Ystyrir ChatGPT yn gam nesaf ychydig, y cyfeirir ato fel GPT-3.5. Rhagwelir y bydd GPT-4 yn debygol o gael ei ryddhau yng ngwanwyn 2023. Yn ôl pob tebyg, mae GPT-4 yn mynd i fod yn gam trawiadol ymlaen o ran gallu cynhyrchu traethodau sy'n ymddangos yn hyd yn oed yn fwy rhugl, gan fynd yn ddyfnach, a bod yn syndod. -yn ysbrydoli rhyfeddu at y cyfansoddiadau y gall eu cynhyrchu.

Gallwch ddisgwyl gweld rownd newydd o ryfeddod pan ddaw'r gwanwyn ymlaen a'r diweddaraf mewn AI cynhyrchiol yn cael ei ryddhau.

Rwy'n codi hyn oherwydd bod ongl arall i'w chadw mewn cof, sy'n cynnwys sawdl Achilles posibl i'r apiau AI cynhyrchiol gwell a mwy hyn. Os bydd unrhyw werthwr AI yn sicrhau bod ap AI cynhyrchiol ar gael sy'n datgelu budrwch yn ddiflas, gallai hyn chwalu gobeithion y gwneuthurwyr AI hynny. Gall gorlifiad cymdeithasol achosi i bob AI cynhyrchiol gael llygad du difrifol. Heb os, bydd pobl yn cynhyrfu'n fawr â chanlyniadau aflan, sydd wedi digwydd droeon eisoes ac wedi arwain at adlachiadau condemniad cymdeithasol ffyrnig tuag at AI.

Un rhagrybudd terfynol am y tro.

Beth bynnag a welwch neu a ddarllenwch mewn ymateb AI cynhyrchiol hynny ymddangos i gael eich cyfleu fel rhywbeth cwbl ffeithiol (dyddiadau, lleoedd, pobl, ac ati), gwnewch yn siŵr eich bod yn amheus a byddwch yn barod i wirio'r hyn a welwch.

Oes, gellir llunio dyddiadau, gellir gwneud lleoedd, ac elfennau yr ydym fel arfer yn disgwyl iddynt fod uwchlaw gwaradwydd yw bob yn destun amheuon. Peidiwch â chredu'r hyn a ddarllenwch a chadwch lygad yn amheus wrth archwilio unrhyw draethodau neu allbynnau AI cynhyrchiol. Os yw ap AI cynhyrchiol yn dweud wrthych fod Abraham Lincoln wedi hedfan o amgylch y wlad yn ei jet preifat ei hun, mae'n siŵr y byddech chi'n gwybod bod hyn yn wallgof. Yn anffodus, efallai na fydd rhai pobl yn sylweddoli nad oedd jetiau o gwmpas yn ei ddydd, neu efallai eu bod yn gwybod ond yn methu â sylwi bod y traethawd yn gwneud yr honiad pres a gwarthus hwn.

Dogn cryf o amheuaeth iach a meddylfryd parhaus o anghrediniaeth fydd eich ased gorau wrth ddefnyddio AI cynhyrchiol.

Rydym yn barod i symud i gam nesaf y eglurhad hwn.

Gwybod Beth Fydd Y Diafol yn Digwydd Gyda'r Testun Hwnnw

Nawr ein bod wedi sefydlu'r hanfodion, gallwn blymio i'r ystyriaethau data a gwybodaeth wrth ddefnyddio AI cynhyrchiol.

Yn gyntaf, gadewch i ni ystyried yn fyr beth sy'n digwydd pan fyddwch chi'n mewnbynnu rhywfaint o destun i anogwr ar gyfer ChatGPT. Nid ydym yn gwybod yn sicr beth sy'n digwydd y tu mewn i ChatGPT gan fod y rhaglen yn cael ei hystyried yn berchnogol. Mae rhai wedi tynnu sylw at y ffaith bod hyn yn tanseilio ymdeimlad o dryloywder ynghylch yr ap AI. Sylw braidd yn drwsiadus yw, ar gyfer cwmni o'r enw OpenAI, bod eu AI mewn gwirionedd ar gau i fynediad cyhoeddus ac nid yw ar gael fel ffynhonnell agored.

Gadewch i ni drafod tokenization.

Pan fyddwch chi'n mewnbynnu testun plaen i mewn i anogwr a tharo dychweliad, mae'n debyg bod trosiad yn digwydd ar unwaith. Trosir y testun i fformat sy'n cynnwys tocynnau. Mae tocynnau yn is-rannau o eiriau. Er enghraifft, byddai'r gair "hamburger" fel arfer yn cael ei rannu'n dri tocyn sy'n cynnwys y rhan "ham", "bur", a "ger". Rheol gyffredinol yw bod tocynnau yn tueddu i gynrychioli tua phedwar nod neu'n cael eu hystyried tua 75% o air Saesneg confensiynol.

Yna caiff pob tocyn ei ailfformiwleiddio fel rhif. Mae tablau mewnol amrywiol yn dynodi pa docyn a roddir i ba rif penodol. Y nifer sy'n manteisio ar hyn yw bod y testun a roesoch bellach yn set gyfan o rifau. Defnyddir y niferoedd hynny i ddadansoddi'r ysgogiad yn gyfrifiadol. Ar ben hynny, mae'r rhwydwaith sy'n cyfateb i batrwm y soniais amdano yn gynharach hefyd yn seiliedig ar werthoedd tokenized. Yn y pen draw, wrth gyfansoddi neu gynhyrchu'r traethawd wedi'i allbynnu, defnyddir y tocynnau rhifol hyn yn gyntaf, ac yna cyn eu harddangos, caiff y tocynnau eu trosi'n ôl yn setiau o lythrennau a geiriau.

Meddyliwch am hynny am eiliad.

Pan ddywedaf wrth bobl mai fel hyn y mae mecaneg y prosesu yn gweithio, maent yn aml yn cael eu syfrdanu. Roeddent yn cymryd yn ganiataol bod yn rhaid i ap AI cynhyrchiol fel ChatGPT ddefnyddio geiriau cwbl integreiddiol. Rydym yn cymryd yn rhesymegol bod geiriau'n gweithredu fel y maen clo ar gyfer nodi perthnasoedd yn ystadegol mewn naratifau a chyfansoddiadau ysgrifenedig. Yn troi allan bod y prosesu mewn gwirionedd yn tueddu i ddefnyddio tocynnau. Efallai bod hyn yn ychwanegu at y syndod ynghylch sut mae'r broses gyfrifiannol i'w gweld yn gwneud gwaith eithaf argyhoeddiadol o ddynwared iaith ddynol.

Cerddais chi drwy'r broses honno oherwydd un camsyniad cyffredin sy'n ymddangos fel pe bai'n lledaenu o gwmpas. Mae'n ymddangos bod rhai pobl yn credu, oherwydd bod eich testun prydlon yn cael ei drosi'n docynnau rhifol, eich bod yn ddiogel ac yn gadarn nad yw mewnolwyr yr app AI rywsut bellach wedi nodi'r testun gwreiddiol. Felly, mae'r hawliad yn mynd, hyd yn oed os gwnaethoch nodi gwybodaeth gyfrinachol yn eich anogwr, nid oes gennych unrhyw bryderon oherwydd mae'n ymddangos bod y cyfan wedi'i symboleiddio.

Camsyniad yw'r syniad hwnnw. Rwyf newydd nodi y gellir dod â thocynnau rhifol yn ôl i fformat testunol llythrennau a geiriau yn hawdd. Gellid gwneud yr un peth gyda'r anogwr wedi'i drosi sydd wedi'i symboleiddio. Nid oes unrhyw beth hudolus amddiffynnol am gael eich symboleiddio. Wedi dweud hynny, ar ôl eu troi'n docynnau, os oes proses ychwanegol sy'n dewis gollwng tocynnau, eu symud o gwmpas, ac fel arall sgramblo neu dorri pethau i fyny, yn yr achos hwnnw, yn wir mae posibilrwydd y bydd rhai dognau o'r gwreiddiol. nid yw'r anogwr bellach yn gyflawn (a chan dybio nad yw copi gwreiddiol yn cael ei gadw na'i storio yn rhywle yn fewnol fel arall).

Hoffwn nesaf edrych ar yr amrywiol hysbysiadau ac amodau trwyddedu ChatGPT.

Pan fyddwch yn mewngofnodi i ChatGPT, mae cyfres o rybuddion a sylwadau gwybodaeth yn cael eu harddangos.

Dyma nhw:

• “Gall gynhyrchu gwybodaeth anghywir o bryd i’w gilydd.”
• “Gall weithiau gynhyrchu cyfarwyddiadau niweidiol neu gynnwys rhagfarnllyd.”
• “Wedi’i hyfforddi i wrthod ceisiadau amhriodol.”
• “Ein nod yw cael adborth allanol er mwyn gwella ein systemau a’u gwneud yn fwy diogel.”
• “Er bod gennym fesurau diogelu ar waith, gall y system o bryd i’w gilydd gynhyrchu gwybodaeth anghywir neu gamarweiniol a chynhyrchu cynnwys sarhaus neu ragfarnllyd. Nid yw’n fwriad rhoi cyngor.”
• “Efallai y bydd ein hyfforddwyr AI yn adolygu sgyrsiau i wella ein systemau.”
• “Peidiwch â rhannu unrhyw wybodaeth sensitif yn eich sgyrsiau.”
• “Mae'r system hon wedi'i optimeiddio ar gyfer deialog. Rhowch wybod i ni os oedd ymateb penodol yn dda neu ddim yn ddefnyddiol.”
• “Gwybodaeth gyfyngedig am y byd a digwyddiadau ar ôl 2021.”

Mae dau o'r rhybuddion a nodwyd yn arbennig o berthnasol i'r drafodaeth hon. Edrychwch ar y chweched pwynt bwled a'r seithfed pwynt bwled.

Gadewch i ni ddadbacio'r ddau hynny:

“Efallai y bydd ein hyfforddwyr AI yn adolygu sgyrsiau i wella ein systemau.”

Mae'r chweched pwynt bwled hwn yn esbonio y gallai sgyrsiau testun wrth ddefnyddio ChatGPT gael eu hadolygu gan ChatGPT trwy ei “hyfforddwyr AI” sy'n cael ei wneud i wella eu systemau. Mae hyn i'ch hysbysu, ar gyfer unrhyw un a phob un o'ch awgrymiadau testun a fewnbynnwyd a'r traethodau cyfatebol wedi'u hallbynnu, sydd i gyd yn rhan o'r “sgwrs” rydych chi'n ei chynnal gyda ChatGPT, y gall eu pobl ei gweld yn llwyr. Y rhesymeg a gynigir yw bod hyn yn cael ei wneud i wella'r app AI, a dywedir wrthym hefyd ei fod yn fath o dasg waith sy'n cael ei gwneud gan eu hyfforddwyr AI. Efallai felly, ond y canlyniad yw eu bod wedi eich hysbysu y gallant edrych ar eich testun. Cyfnod, atalnod llawn.

Pe baent yn gwneud rhywbeth arall gyda'ch testun, mae'n debyg y byddech yn ceisio cyngor cyfreithiol ynghylch a ydynt wedi camu'n llwyr y tu hwnt i'r cyfyngiadau a awgrymwyd, sef dim ond adolygu'r testun at ddibenion gwella'r system (gan gymryd eich bod wedi llwyddo i ddarganfod eu bod wedi gwneud hynny, pa rai o ei hun yn ymddangos yn annhebygol efallai). Beth bynnag, gallwch ddychmygu'r ymryson cyfreithiol o geisio eu pinio i lawr ar hyn, a'u hymdrechion i eiriau geiriau eu ffordd allan o gael eu nabbing am rywsut yn groes i ffiniau eu hymwadiad.

“Peidiwch â rhannu unrhyw wybodaeth sensitif yn eich sgyrsiau.”

Mae'r seithfed pwynt bwled yn nodi na ddylech rannu unrhyw wybodaeth sensitif yn eich sgyrsiau. Mae hynny'n ymddangos yn gymharol syml. Mae'n debyg y gallech gwestiynu beth mae'r diffiniad o wybodaeth sensitif yn ei gynnwys. Hefyd, nid yw'r pwynt bwled yn dweud wrthych pam na ddylech rannu unrhyw wybodaeth sensitif. Os bydd yn rhaid i chi geisio mewn chwysu enbyd rywbryd ac esbonio pam y gwnaethoch chi roi data cyfrinachol yn ffôl, efallai y byddwch chi'n rhoi cynnig ar yr honiad ael uwch nad oedd y rhybudd yn benodol, felly, ni wnaethoch chi amgyffred yr arwyddocâd. Daliwch eich anadl ar yr un hwnnw.

Ar y cyfan, meiddiaf ddweud bod y rhan fwyaf o'r bobl yr wyf wedi'u gweld yn defnyddio ChatGPT yn tueddu i beidio â darllen y pwyntiau bwled, neu maent yn sgimio'r rhagofalon bwled ac yn nodio eu pen fel pe bai'r gyfraith gibberish arferol yn eich gweld i gyd. amser. Ychydig mae'n ymddangos sy'n cymryd y rhybuddion yn llym i'w calon. Ai bai ar y gwerthwr yw hyn am beidio â gwneud y rhagofalon yn fwy amlwg? Neu a ddylem gymryd yn ganiataol y dylai'r defnyddwyr fod yn gyfrifol ac wedi darllen yn ofalus, wedi deall, ac wedi hynny yn gweithredu'n ddoeth yn seiliedig ar y rhybuddion?

Mae rhai hyd yn oed yn honni y dylai'r app AI eich rhybuddio dro ar ôl tro. Bob tro y byddwch yn mewnbynnu anogwr, dylai'r feddalwedd ymddangos yn rhybudd a gofyn i chi a ydych am daro'r ffurflen. Dro ar ôl tro. Er y gallai hyn ymddangos fel rhagofal defnyddiol, rhaid cyfaddef y byddai'n cythruddo defnyddwyr. Mae cyfaddawd arswydus dan sylw.

Iawn, felly dyna'r rhybuddion amlwg fel y'u cyflwynir i bob defnyddiwr eu gweld yn hawdd.

Gallai defnyddwyr a allai fod yn fwy chwilfrydig ddewis dilyn rhai o'r amodau trwyddedu manwl sydd hefyd yn cael eu postio ar-lein. Rwy’n amau ​​bod llawer yn gwneud hynny. Fy mhryniad i yw mai ychydig sy'n edrych o ddifrif ar y pwyntiau bwled wrth fewngofnodi, ac mae llai fyth wedyn yn edrych ar y manylion trwyddedu. Eto, yr ydym oll braidd yn ddideimlad i bethau felly y dyddiau hyn. Dydw i ddim yn esgusodi'r ymddygiad, dim ond nodi pam ei fod yn digwydd.

Byddaf yn archwilio rhai dyfyniadau o'r telerau trwyddedu a bostiwyd.

Yn gyntaf, dyma ddiffiniad o'r hyn y maent yn ei ystyried yn “gynnwys” sy'n gysylltiedig â defnyddio ChatGPT:

• “Eich Cynnwys. Gallwch ddarparu mewnbwn i'r Gwasanaethau ('Mewnbwn'), a derbyn allbwn a gynhyrchir ac a ddychwelir gan y Gwasanaethau yn seiliedig ar y Mewnbwn ('Allbwn'). Mae Mewnbwn ac Allbwn gyda'i gilydd yn “Gynnwys.” Fel rhwng y partïon ac i'r graddau a ganiateir gan gyfraith berthnasol, chi sy'n berchen ar yr holl Mewnbwn, ac yn amodol ar eich cydymffurfiaeth â'r Telerau hyn, mae OpenAI drwy hyn yn aseinio i chi ei holl hawl, teitl a diddordeb mewn ac i Allbwn. Gall OpenAI ddefnyddio Cynnwys yn ôl yr angen i ddarparu a chynnal y Gwasanaethau, cydymffurfio â chyfraith berthnasol, a gorfodi ein polisïau. Chi sy'n gyfrifol am Gynnwys, gan gynnwys sicrhau nad yw'n torri unrhyw gyfraith berthnasol na'r Telerau hyn."

Os edrychwch yn ofalus ar y diffiniad hwnnw, byddwch yn sylwi bod OpenAI yn datgan y gall ddefnyddio'r cynnwys fel y maent yn ei ystyried yn angenrheidiol i gynnal ei wasanaethau, gan gynnwys cydymffurfio â chyfreithiau cymwys a gorfodi ei bolisïau. Mae hwn yn catchall handi ar eu cyfer. Mewn un o fy ngholofnau sydd i ddod, byddaf yn trafod pwnc gwahanol ond cysylltiedig, yn benodol am yr hawliau Eiddo Deallusol (IP) sydd gennych ynglŷn â'r anogwyr testun a fewnbynnwyd a'r traethodau wedi'u hallbynnu (rydw i'n tynnu sylw at hyn yma ers y diffiniad o'r Mae cynnwys yn berthnasol i'r pwnc hwnnw).

Mewn cyfran bellach o’r termau, sydd wedi’u labelu fel adran c, maent yn sôn am yr agwedd hon: “Un o brif fanteision modelau dysgu peirianyddol yw y gellir eu gwella dros amser. Er mwyn helpu OpenAI i ddarparu a chynnal y Gwasanaethau, rydych yn cytuno ac yn cyfarwyddo y gallwn ddefnyddio Cynnwys i ddatblygu a gwella’r Gwasanaethau.” Mae hyn yn debyg i'r rhybudd un-lein a drafodwyd yn gynharach sy'n ymddangos pan fyddwch yn mewngofnodi i ChatGPT.

Mae dogfen ar wahân sy’n gysylltiedig â hyn yn rhoi rhai agweddau ychwanegol ar y materion pwysol hyn:

• “Fel rhan o’r gwelliant parhaus hwn, pan fyddwch yn defnyddio modelau OpenAI trwy ein API, efallai y byddwn yn defnyddio’r data a roddwch i ni i wella ein modelau. Nid yn unig y mae hyn yn helpu ein modelau i ddod yn fwy cywir a gwell wrth ddatrys eich problem benodol, mae hefyd yn helpu i wella eu galluoedd a'u diogelwch cyffredinol. Gwyddom fod preifatrwydd a diogelwch data yn hollbwysig i’n cwsmeriaid. Rydym yn cymryd gofal mawr i ddefnyddio rheolaethau technegol a phrosesu priodol i ddiogelu eich data. Rydym yn dileu unrhyw wybodaeth bersonol adnabyddadwy o ddata rydym yn bwriadu ei ddefnyddio i wella perfformiad model. Hefyd, dim ond samplu bach o ddata fesul cwsmer yr ydym yn ei ddefnyddio ar gyfer ein hymdrechion i wella perfformiad model. Er enghraifft, ar gyfer un dasg, mae uchafswm nifer y ceisiadau API y byddwn yn eu samplu fesul cwsmer yn cael ei gapio ar 200 bob 6 mis” (wedi'i dynnu o'r ddogfen o'r enw “Sut mae eich data'n cael ei ddefnyddio i wella perfformiad model”).

Sylwch fod yr amod yn nodi bod y ddarpariaeth yn berthnasol i'r defnydd o'r API fel modd o gysylltu â modelau OpenAI a'u defnyddio. Mae braidd yn aneglur a yw hyn yr un mor berthnasol i ddefnyddwyr terfynol sy'n defnyddio ChatGPT yn uniongyrchol.

Mewn dogfen wahanol eto, un sy’n cynnwys eu rhestr o Gwestiynau Cyffredin amrywiol, maent yn darparu cyfres o gwestiynau ac atebion, ac mae dau ohonynt yn ymddangos yn arbennig o berthnasol i’r drafodaeth hon:

• “(5) Pwy all weld fy sgyrsiau? Fel rhan o’n hymrwymiad i AI diogel a chyfrifol, rydym yn adolygu sgyrsiau i wella ein systemau ac i sicrhau bod y cynnwys yn cydymffurfio â’n polisïau a’n gofynion diogelwch.”
• “(8) Allwch chi ddileu anogwyr penodol? Na, ni allwn ddileu anogwyr penodol o'ch hanes. Peidiwch â rhannu unrhyw wybodaeth sensitif yn eich sgyrsiau.”

Mae dogfen ychwanegol sy'n cwmpasu eu polisi preifatrwydd. Mae’n dweud hyn: “Rydym yn casglu gwybodaeth y gellid ei defnyddio ar ein pen ein hunain neu ar y cyd â gwybodaeth arall yn ein meddiant i’ch adnabod chi (“Gwybodaeth Bersonol”)” ac yna’n mynd ymlaen i egluro y gallent ddefnyddio data log, data defnydd, gwybodaeth gyfathrebu, gwybodaeth dyfais, cwcis, dadansoddeg, a gwybodaeth arall y gellir ei chasglu amdanoch chi. Gwnewch yn siŵr eich bod chi'n darllen y print mân.

Credaf fod hynny fwy neu lai yn rhoi taith o amgylch rhai ystyriaethau sy'n sail i sut y gellid defnyddio'ch data. Fel y soniais ar y dechrau, nid wyf yn mynd i gamu drwy'r holl amodau trwyddedu yn llafurus.

Gobeithio y bydd hyn yn eich rhoi mewn ffrâm meddwl ar y materion hyn ac y bydd yn parhau i fod ar ben eich meddwl.

Casgliad

Rwyf wedi ei ddweud o'r blaen a byddaf yn ei ddweud eto, peidiwch â mewnbynnu data cyfrinachol na phreifat i'r apiau AI cynhyrchiol hyn.

Ystyriwch ychydig o awgrymiadau neu opsiynau defnyddiol ar y darn hwn o gyngor doeth:

• Meddyliwch Cyn Defnyddio AI Cynhyrchiol
• Tynnwch y Stwff ymlaen llaw
• Mwgwd Neu Ffug Eich Mewnbwn
• Gosod Eich Achos Eich Hun
• Arall

Byddaf yn nodi nesaf beth mae pob un o'r rhain yn ei gynnwys. Trafodwyd sefydlu eich achos eich hun yn gynharach yma. Mae’r defnydd o “arall” yn fy rhestr i’w briodoli i’r posibilrwydd o ffyrdd eraill o ymdopi ag atal data cyfrinachol rhag cael eu cynnwys, y byddaf yn ymdrin â nhw ymhellach mewn postiad colofn yn y dyfodol.

Gadewch i ni archwilio'r rhain:

• Meddyliwch Cyn Defnyddio AI Cynhyrchiol. Mae un dull yn cynnwys osgoi defnyddio AI cynhyrchiol yn gyfan gwbl. Neu o leiaf meddyliwch ddwywaith cyn i chi wneud hynny. Mae'n debyg mai'r llwybr mwyaf diogel yw peidio â defnyddio'r apiau AI hyn. Ond mae hyn hefyd yn ymddangos yn eithaf difrifol a bron dros ben llestri.
• Tynnwch y Stwff ymlaen llaw. Mae dull arall yn cynnwys tynnu gwybodaeth gyfrinachol neu breifat o'r hyn y byddwch yn ei nodi fel anogwr. Yn yr ystyr hwnnw, os na fyddwch chi'n mynd i mewn iddo, nid oes siawns iddo gael ei drwytho i'r Borg. Yr anfantais yw efallai y bydd cael gwared ar y rhan gyfrinachol rywsut yn lleihau neu'n tanseilio'r hyn rydych chi'n ceisio cael yr AI cynhyrchiol i'w wneud i chi.
• Mwgwd Neu Ffug Eich Mewnbynnau. Fe allech chi addasu eich testun arfaethedig trwy newid y wybodaeth fel bod beth bynnag sy'n ymddangos yn gyfrinachol neu'n breifat bellach yn cael ei bortreadu'n wahanol. Er enghraifft, yn lle contract sy'n sôn am y Widget Company a John Smith, rydych chi'n newid y testun i gyfeirio at y Specious Company a Jane Capone. Mater yma yw a fyddwch chi'n gwneud gwaith digon cynhwysfawr fel bod yr holl agweddau cyfrinachol a phreifat yn cael eu newid neu eu ffugio'n llwyr. Byddai'n hawdd colli rhai o'r cymylau a gadael pethau na ddylai fod yno.

Dyma dro ychwanegol diddorol a allai gael eich noggin i drylifo ymhellach ar y pwnc hwn. Os gallwch chi sicrhau'n llwyr nad yw unrhyw un o'ch anogwyr mewnbwn yn cynnwys unrhyw wybodaeth gyfrinachol, a yw hyn yn awgrymu nad oes angen i chi fod ag iota o boeni am yr allbynnau traethodau sydd hefyd yn cynnwys unrhyw ran o'ch gwybodaeth gyfrinachol?

Byddai hyn yn ymddangos yn axiomatically wir. Dim mewnbwn cyfrinachol, dim allbwn cyfrinachol.

Dyma eich tro meddwl-plygu.

Mae AI cynhyrchiol yn aml yn cael ei sefydlu i ailhyfforddi ei hun yn gyfrifiadol o'r awgrymiadau testun a ddarperir. Yn yr un modd, mae AI cynhyrchiol yn cael ei ddyfeisio'n aml i ailhyfforddi'n gyfrifiadol o'r traethodau a gynhyrchir. Bwriad yr holl ailhyfforddi hwn yw gwella galluoedd AI cynhyrchiol.

Disgrifiais yn un o fy ngholofnau eraill yr arbrawf canlynol a ymgymerais. Roedd cyfreithiwr yn ceisio darganfod ffordd newydd o fynd i'r afael â mater cyfreithiol. Ar ôl edrych yn drylwyr ar y llenyddiaeth gyfreithiol, roedd yn ymddangos bod pob ongl a wynebwyd eisoes wedi'i chanfod. Gan ddefnyddio AI cynhyrchiol, cawsom yr ap AI i gynhyrchu newydd-deb o ddull cyfreithiol nad oedd i bob golwg wedi'i nodi o'r blaen. Y gred oedd nad oedd neb arall wedi glanio ar yr ystum gyfreithiol hon eto. Cnwp aur cyfreithlon, fel petai. Gallai hyn fod yn fonansa cyfreithiol cystadleuol strategol werthfawr y gellir ei defnyddio a'i hecsbloetio ar yr adeg gywir.

A yw'r traethawd allbwn hwnnw yn fath o wybodaeth gyfrinachol, fel ei fod wedi'i gynhyrchu gan yr AI ar gyfer y person penodol hwn ac yn cynnwys rhywbeth arbennig ac ymddangosiadol unigryw?

Aha, mae hyn yn ein harwain at y pwnc perthynol a chydgysylltiedig arall ynghylch perchnogaeth a hawliau eiddo deallusol sy'n gysylltiedig ag AI cynhyrchiol. Cadwch draw i weld sut mae hyn yn troi allan.

Sylw olaf am y tro.

Darparodd Sophocles y doethineb hwn: “Peidiwch â gwneud dim yn ddirgel; oherwydd y mae Amser yn gweld ac yn clywed pob peth, ac yn datgelu popeth.” Mae'n debyg y gallech chi foderneiddio'r geiriad a dadlau bod AI cynhyrchiol a'r rhai sy'n dyfeisio a chynnal yr AI yn addas i weld popeth hefyd.

Mae'n ddarn o gyngor cymedrol sy'n haeddu cael ei gofio.