AI Cyfrifol Yn Mwynhau Hwb Rhagorol Trwy Gyhoeddiad Moeseg AI Gan y Gymdeithas Broffesiynol Uchaf Yr ACM

Welsoch chi neu glywsoch chi'r newyddion?

Mae set arall o braeseptau Moeseg AI newydd eu cyhoeddi.

Cymeradwyaeth aflafar, os gwelwch yn dda.

Yna eto, efallai y byddwch nid wedi sylwi arno oherwydd y ffaith bod cymaint o archddyfarniadau Moeseg AI eraill wedi bod yn symud o gwmpas ers tro bellach. Mae rhai yn dweud bod y trylifiad ymddangosiadol di-stop o gyhoeddiadau AI Moesegol yn dod yn ddideimlad braidd. Faint sydd eu hangen arnom ni? A all unrhyw un gadw i fyny â nhw i gyd? Pa un yw'r gorau? A ydym efallai yn mynd dros ben llestri ar egwyddorion AI Moeseg? Ac yn y blaen.

Wel, yn yr achos penodol hwn, dywedaf y dylem groesawu'n arbennig yr ychwanegiad diweddaraf hwn i'r clwb.

Byddaf yn egluro pam yn graff mewn eiliad.

Yn gyntaf, fel eglurhad, yr wyf yn cyfeirio at y set praesept AI Moeseg a elwir bellach yn swyddogol fel “Datganiad Ar Egwyddorion ar gyfer Systemau Algorithmig Cyfrifol” a gyhoeddwyd yn ddiweddar gan Gyngor Polisi Technoleg ACM ar Hydref 26, 2022. Mae Kudos yn mynd at y timau o arbenigwyr a roddodd y ddogfen werthfawr hon at ei gilydd, gan gynnwys yr awduron cyd-arweiniol Jeanna Matthews (Prifysgol Clarkson) a Ricardo Baeza-Yates (Universitat Pompeu Fabra ).

Efallai y bydd y rhai ohonoch sy'n gwybod, o archwilio'n fanwl, yn sylweddoli bod y ddogfen hon yn ymddangos yn eithaf cyfarwydd.

Llygad da!

Mae'r ymgnawdoliad diweddaraf hwn yn ei hanfod yn amrywiad wedi'i ddiweddaru a'i ehangu o'r “Datganiad ar Dryloywder Algorithmig Ac Atebolrwydd” cynharach a gyhoeddwyd gan Bwyllgor Polisi Technoleg ACM US a Phwyllgor Polisi Technoleg ACM Europe yn 2017. Efallai y bydd darllenwyr ffyddlon fy ngholofnau yn cofio hynny O bryd i'w gilydd rwyf wedi sôn am archddyfarniad 2017 yn fy ngholofn yn ymdrin â'r agweddau allweddol sy'n sail i AI Moeseg a Chyfraith AI.

Am fy asesiad helaeth a pharhaus a dadansoddiadau tueddiadol o AI Moeseg a Chyfraith AI, gweler y ddolen yma ac y ddolen yma, dim ond i enwi ond ychydig.

Mae'r datganiad diweddaraf hwn gan yr ACM yn arbennig o bwysig am sawl rheswm hanfodol.

Dyma pam.

Mae'r ACM, sy'n acronym defnyddiol ar gyfer y Cymdeithas Peiriannau Cyfrifiadura, yn cael ei hystyried fel y gymdeithas fwyaf yn y byd sy'n canolbwyntio ar gyfrifiaduron. Yn cynnwys amcangyfrif o tua 110,000 o aelodau, mae'r ACM yn arloeswr hirhoedlog ym maes cyfrifiadura. Mae'r ACM yn cynhyrchu peth o'r ymchwil ysgolheigaidd gorau ym maes cyfrifiadura, ac yn yr un modd mae'n darparu rhwydweithio proffesiynol ac apeliadau i ymarferwyr cyfrifiadura hefyd. O'r herwydd, mae'r ACM yn llais pwysig sy'n cynrychioli'n gyffredinol y rhai sy'n uwch-dechnoleg ac wedi ymdrechu'n barhaus i ddatblygu'r maes cyfrifiadurol (sefydlwyd yr ACM ym 1947).

Efallai y byddaf yn ychwanegu ychydig o nodyn personol ar hyn hefyd. Pan ddechreuais i mewn i gyfrifiaduron yn yr ysgol uwchradd am y tro cyntaf, ymunais â'r ACM a chymryd rhan yn eu rhaglenni addysgol, yn enwedig y cyfle cyffrous i gystadlu yn eu cystadleuaeth rhaglennu cyfrifiadurol blynyddol (mae cystadlaethau o'r fath yn gyffredin iawn y dyddiau hyn ac wedi'u labelu'n nodweddiadol fel hackathonau). Rwy'n parhau i fod yn rhan o'r ACM tra yn y coleg trwy fy mhennod prifysgol leol a chefais gyfle i ddysgu am arweinyddiaeth trwy ddod yn swyddog penodau myfyrwyr. Ar ôl dod i mewn i'r diwydiant, ymunais â phennod broffesiynol ac unwaith eto ymgymerais â rôl arwain. Yn ddiweddarach ar ôl hyn, pan ddeuthum yn athro, gwasanaethais ar bwyllgorau ACM a byrddau golygyddol, ynghyd â noddi pennod myfyrwyr y campws. Hyd yn oed heddiw, rwy'n weithgar yn yr ACM, gan gynnwys gwasanaethu ar Bwyllgor Polisi Technoleg ACM US.

Rwyf wrth fy modd â gweledigaeth annwyl a pharhaol ACM o ddysgu gydol oes a datblygu gyrfa.

Beth bynnag, o ran y datganiad Moeseg AI diweddaraf, mae'r ffaith bod hwn wedi'i gyhoeddi gan yr ACM yn dwyn cryn bwysau iddo. Gallech yn rhesymol haeru mai’r praeseptau AI Moesegol yw llais cyfanrwydd neu gyfunol grŵp byd-eang o weithwyr proffesiynol cyfrifiadurol. Mae hynny'n dweud rhywbeth yn y fan yna.

Mae yna hefyd yr agwedd y bydd eraill yn y maes cyfrifiadurol yn cael eu hysbrydoli i fanteisio a gwrando yn yr ystyr o roi ystyriaeth ddyledus i'r hyn y mae'r datganiad yn ei ddatgan gan eu cyd-gydweithwyr cyfrifiadureg. Felly, hyd yn oed i'r rhai nad ydynt yn yr ACM neu nad ydynt yn gwybod unrhyw beth o gwbl am y grŵp parchedig, gobeithio y bydd diddordeb brwd mewn darganfod beth mae'r datganiad yn sôn amdano.

Yn y cyfamser, y rhai sydd y tu allan i Gellir tynnu sylw at y maes cyfrifiadura at y datganiad fel rhyw fath o olwg fewnol y tu ôl i'r llenni ar yr hyn y mae'r rhai mewn cyfrifiaduron yn ei ddweud am AI Moesegol. Rwyf am bwysleisio serch hynny bod y datganiad wedi'i fwriadu ar gyfer pawb, nid yn unig y rhai yn y gymuned gyfrifiadurol, ac felly cadw mewn cof bod y praeseptau Moeseg AI yn gyffredinol, fel petai.

Yn olaf, mae yna dro ychwanegol na fyddai llawer yn ei ystyried.

Weithiau, mae pobl o'r tu allan yn gweld bod cysylltiadau cyfrifiadurol yn ddwfn mewn technoleg ac nad ydynt yn arbennig o ymwybodol o effeithiau cymdeithasol cyfrifiaduron a deallusrwydd artiffisial. Efallai y cewch eich temtio i gymryd mai dim ond y datblygiadau diweddaraf a mwyaf poeth mewn caledwedd neu feddalwedd y mae endidau proffesiynol o'r fath yn poeni amdanynt. Fe'u canfyddir gan y cyhoedd, mewn dull syml a nodir, fel rhai technegol nerds.

I unioni'r sefyllfa, rwyf wedi ymgolli yn effeithiau cymdeithasol cyfrifiadura ers i mi ddechrau defnyddio cyfrifiaduron ac yn yr un modd mae'r ACM wedi bod yn ymwneud yn ddwfn â phynciau o'r fath hefyd.

I unrhyw un sy'n synnu bod y datganiad hwn am braeseptau Moeseg AI wedi'i lunio a'i ryddhau gan yr ACM, nid yw'n talu sylw i'r ymchwil hirsefydlog a'r gwaith sy'n digwydd ar y materion hyn. Byddwn hefyd yn annog y rhai sydd â diddordeb i edrych yn dda ar yr ACM Cod Moeseg, cod moeseg broffesiynol egnïol sydd wedi esblygu dros y blynyddoedd ac sy'n pwysleisio bod angen i ddatblygwyr systemau fod yn ymwybodol o oblygiadau moesegol eu hymdrechion a'u nwyddau, cadw atynt a bod yn wyliadwrus ohonynt.

Mae AI wedi bod yn atal y tanau ar ddod yn wybodus am foeseg cyfrifiadura.

Mae amlygrwydd ystyriaethau moesegol a chyfreithiol yn y maes cyfrifiadura wedi codi'n aruthrol gydag ymddangosiad AI heddiw. Mae'r rhai o fewn y proffesiwn yn cael eu hysbysu ac ar brydiau'n cael eu drymio am roi sylw priodol i faterion Moeseg AI a'r Gyfraith AI. Mae deddfwyr yn dod yn fwyfwy ymwybodol o agweddau Moeseg AI a Chyfreithiau AI. Mae cwmnïau'n ymwybodol o'r syniad bod yr AI y maen nhw'n ei ddyfeisio neu'n ei ddefnyddio yn fanteisiol ac eto ar adegau hefyd yn agor risgiau enfawr ac anfanteision posibl.

Gadewch i ni ddadbacio'r hyn sydd wedi bod yn digwydd yn ystod y blynyddoedd diwethaf fel y gellir sefydlu cyd-destun priodol cyn i ni neidio i mewn i'r set ddiweddaraf hon o braeseptau Moeseg AI.

Yr Ymwybyddiaeth Gynyddol O AI Moesegol

I ddechrau, ystyriwyd bod cyfnod diweddar AI AI Er Da, sy'n golygu y gallem ddefnyddio AI er lles dynoliaeth. Ar sodlau o AI Er Da daeth y sylweddoliad ein bod ni hefyd wedi ymgolli ynddo AI Er Drwg. Mae hyn yn cynnwys Deallusrwydd Artiffisial sydd wedi'i ddyfeisio neu ei addasu ei hun i fod yn wahaniaethol ac sy'n gwneud dewisiadau cyfrifiannol sy'n effeithio ar ragfarnau gormodol. Weithiau mae'r AI yn cael ei adeiladu yn y ffordd honno, tra mewn achosion eraill mae'n gwyro i'r diriogaeth anffodus honno.

Rwyf am wneud yn hollol siŵr ein bod ar yr un dudalen am natur AI heddiw.

Nid oes unrhyw AI heddiw sy'n deimladwy. Nid oes gennym ni hyn. Nid ydym yn gwybod a fydd AI ymdeimladol yn bosibl. Ni all neb ragweld yn briodol a fyddwn yn cyrraedd AI ymdeimladol, nac a fydd AI ymdeimladol rywsut yn codi’n wyrthiol yn ddigymell ar ffurf uwchnofa wybyddol gyfrifiadol (y cyfeirir ato fel arfer fel yr unigolrwydd, gweler fy sylw yn y ddolen yma).

Mae'r math o AI yr wyf yn canolbwyntio arno yn cynnwys yr AI ansynhwyraidd sydd gennym heddiw. Pe baem am ddyfalu'n wyllt am AI ymdeimladol, gallai'r drafodaeth hon fynd i gyfeiriad hollol wahanol. Mae'n debyg y byddai AI ymdeimladol o ansawdd dynol. Byddai angen i chi ystyried bod yr AI teimladol yn gyfwerth gwybyddol â bod dynol. Yn fwy felly, gan fod rhai yn dyfalu y gallai fod gennym AI uwch-ddeallus, mae'n bosibl y gallai AI o'r fath fod yn ddoethach na bodau dynol yn y pen draw (ar gyfer fy archwiliad o AI uwch-ddeallus fel posibilrwydd, gweler y sylw yma).

Byddwn yn awgrymu'n gryf ein bod yn cadw pethau lawr i'r ddaear ac yn ystyried AI cyfrifiadol ansynhwyrol heddiw.

Sylweddoli nad yw AI heddiw yn gallu “meddwl” mewn unrhyw fodd ar yr un lefel â meddwl dynol. Pan fyddwch chi'n rhyngweithio â Alexa neu Siri, gall y galluoedd sgwrsio ymddangos yn debyg i alluoedd dynol, ond y gwir amdani yw ei fod yn gyfrifiadol ac nad oes ganddo wybyddiaeth ddynol. Mae oes ddiweddaraf AI wedi gwneud defnydd helaeth o Machine Learning (ML) a Deep Learning (DL), sy'n trosoledd paru patrymau cyfrifiannol. Mae hyn wedi arwain at systemau AI sy'n edrych yn debyg i gymalau dynol. Yn y cyfamser, nid oes unrhyw AI heddiw sydd â synnwyr cyffredin ac nad oes ganddo unrhyw ryfeddod gwybyddol o feddwl dynol cadarn.

Byddwch yn ofalus iawn rhag anthropomorffeiddio AI heddiw.

Mae ML/DL yn fath o baru patrwm cyfrifiannol. Y dull arferol yw eich bod yn cydosod data am dasg gwneud penderfyniad. Rydych chi'n bwydo'r data i'r modelau cyfrifiadurol ML/DL. Mae'r modelau hynny'n ceisio dod o hyd i batrymau mathemategol. Ar ôl dod o hyd i batrymau o'r fath, os canfyddir hynny, bydd y system AI wedyn yn defnyddio'r patrymau hynny wrth ddod ar draws data newydd. Ar ôl cyflwyno data newydd, mae'r patrymau sy'n seiliedig ar yr “hen” ddata neu ddata hanesyddol yn cael eu cymhwyso i wneud penderfyniad cyfredol.

Rwy'n meddwl y gallwch chi ddyfalu i ble mae hyn yn mynd. Os yw bodau dynol sydd wedi bod yn gwneud y penderfyniadau patrymog wedi bod yn ymgorffori rhagfarnau anffafriol, y tebygolrwydd yw bod y data yn adlewyrchu hyn mewn ffyrdd cynnil ond arwyddocaol. Bydd paru patrymau cyfrifiannol Dysgu Peiriannau neu Ddysgu Dwfn yn ceisio dynwared y data yn fathemategol yn unol â hynny. Nid oes unrhyw synnwyr cyffredin nac agweddau teimladwy eraill ar fodelu wedi'u crefftio gan AI fel y cyfryw.

Ar ben hynny, efallai na fydd datblygwyr AI yn sylweddoli beth sy'n digwydd ychwaith. Gallai'r fathemateg ddirgel yn yr ML/DL ei gwneud hi'n anodd ffured y rhagfarnau sydd bellach yn gudd. Byddech yn gywir yn gobeithio ac yn disgwyl y byddai datblygwyr AI yn profi am y rhagfarnau a allai fod wedi'u claddu, er bod hyn yn anoddach nag y mae'n ymddangos. Mae siawns gadarn yn bodoli hyd yn oed gyda phrofion cymharol helaeth y bydd rhagfarnau yn dal i fod yn rhan annatod o fodelau paru patrwm yr ML/DL.

Fe allech chi braidd ddefnyddio'r ddywediad enwog neu waradwyddus o garbage-in sothach-allan. Y peth yw, mae hyn yn debycach i ragfarnau - sy'n llechwraidd yn cael eu trwytho wrth i dueddiadau foddi o fewn yr AI. Mae'r broses gwneud penderfyniadau algorithm (ADM) o AI yn axiomatically yn llwythog o anghydraddoldebau.

Ddim yn dda.

Mae gan hyn oll oblygiadau Moeseg AI hynod arwyddocaol ac mae'n cynnig ffenestr ddefnyddiol i'r gwersi a ddysgwyd (hyd yn oed cyn i'r holl wersi ddigwydd) pan ddaw'n fater o geisio deddfu AI.

Yn ogystal â defnyddio praeseptau Moeseg AI yn gyffredinol, mae cwestiwn cyfatebol a ddylem gael cyfreithiau i lywodraethu gwahanol ddefnyddiau o AI. Mae deddfau newydd yn cael eu bandio o gwmpas ar lefelau ffederal, gwladwriaethol a lleol sy'n ymwneud ag ystod a natur sut y dylid dyfeisio AI. Mae'r ymdrech i ddrafftio a deddfu cyfreithiau o'r fath yn un graddol. Mae AI Moeseg yn gweithredu fel stopgap ystyriol, o leiaf, a bydd bron yn sicr i ryw raddau yn cael ei ymgorffori'n uniongyrchol yn y deddfau newydd hynny.

Byddwch yn ymwybodol bod rhai yn dadlau’n bendant nad oes angen deddfau newydd arnom sy’n cwmpasu AI a bod ein cyfreithiau presennol yn ddigonol. Maen nhw'n rhagrybuddio, os byddwn ni'n deddfu rhai o'r deddfau AI hyn, y byddwn ni'n lladd yr wydd aur trwy fynd i'r afael â datblygiadau mewn AI sy'n cynnig manteision cymdeithasol aruthrol.

Mewn colofnau blaenorol, rwyf wedi ymdrin â'r amrywiol ymdrechion cenedlaethol a rhyngwladol i lunio a deddfu cyfreithiau sy'n rheoleiddio AI, gweler y ddolen yma, er enghraifft. Rwyf hefyd wedi ymdrin â’r amrywiol egwyddorion a chanllawiau Moeseg AI y mae gwahanol genhedloedd wedi’u nodi a’u mabwysiadu, gan gynnwys er enghraifft ymdrech y Cenhedloedd Unedig megis set UNESCO o AI Moeseg a fabwysiadwyd gan bron i 200 o wledydd, gweler y ddolen yma.

Dyma restr allweddol ddefnyddiol o feini prawf neu nodweddion AI Moesegol mewn perthynas â systemau AI yr wyf wedi'u harchwilio'n agos yn flaenorol:

• Tryloywder
• Cyfiawnder a Thegwch
• Di-falefience
• cyfrifoldeb
• Preifatrwydd
• Buddioldeb
• Rhyddid ac Ymreolaeth
• Ymddiriedolaeth
• Cynaliadwyedd
• Urddas
• undod

Mae'r egwyddorion Moeseg AI hynny i fod i gael eu defnyddio o ddifrif gan ddatblygwyr AI, ynghyd â'r rhai sy'n rheoli ymdrechion datblygu AI, a hyd yn oed y rhai sy'n cynnal a chadw systemau AI yn y pen draw.

Mae'r holl randdeiliaid trwy gydol cylch bywyd datblygu a defnyddio AI yn cael eu hystyried o fewn cwmpas cadw at normau sefydledig AI Moesegol. Mae hwn yn uchafbwynt pwysig gan mai’r dybiaeth arferol yw mai “dim ond codwyr” neu’r rhai sy’n rhaglennu’r AI sy’n gorfod cadw at syniadau Moeseg AI. Fel y pwysleisiwyd yn flaenorol yma, mae'n cymryd pentref i ddyfeisio a maes AI, ac mae'n rhaid i'r pentref cyfan fod yn hyddysg a chadw at egwyddorion AI Moeseg.

Hefyd yn ddiweddar archwiliais y AI Mesur Hawliau sef teitl swyddogol dogfen swyddogol llywodraeth yr UD o’r enw “Glasbrint ar gyfer Bil Hawliau AI: Gwneud i Systemau Awtomataidd Weithio i Bobl America” a oedd yn ganlyniad ymdrech blwyddyn o hyd gan y Swyddfa Polisi Gwyddoniaeth a Thechnoleg (OSTP). ). Mae'r OSTP yn endid ffederal sy'n gwasanaethu i gynghori Llywydd America a Swyddfa Weithredol yr Unol Daleithiau ar amrywiol agweddau technolegol, gwyddonol a pheirianneg o bwysigrwydd cenedlaethol. Yn yr ystyr hwnnw, gallwch ddweud bod y Bil Hawliau AI hwn yn ddogfen a gymeradwywyd ac a gymeradwywyd gan Dŷ Gwyn presennol yr UD.

Yn y Mesur Hawliau AI, mae pum categori allweddol:

• Systemau diogel ac effeithiol
• Amddiffyniadau gwahaniaethu algorithmig
• Preifatrwydd data
• Hysbysiad ac esboniad
• Dewisiadau eraill dynol, ystyriaeth, a wrth gefn

Rwyf wedi adolygu'r praeseptau hynny'n ofalus, gweler y ddolen yma.

Nawr fy mod wedi gosod sylfaen ddefnyddiol ar y pynciau Moeseg AI a Chyfraith AI cysylltiedig hyn, rydym yn barod i neidio i mewn i'r “Datganiad ar Egwyddorion ar gyfer Systemau Algorithmig Cyfrifol” ACM a ryddhawyd yn ddiweddar (gyda llaw, gan fod teitl y ddogfen yn cyfeirio at cyfrifol systemau algorithmig, efallai y byddwch am edrych ar fy asesiad o'r hyn y mae'n ei olygu i siarad amdano AI dibynadwy, Gweler y ddolen yma).

Paratowch eich hun ar gyfer taith i'r set ddiweddaraf hon o egwyddorion Moeseg AI.

Cloddio'n Fwr i Mewn i'r Praeseptau Moeseg AI a ddatganwyd gan yr ACM

Mae datganiad ACM am Ethical AI yn cynnwys y naw carreg allweddol hyn:

• Cyfreithlondeb a chymhwysedd
• Lleihau niwed
• Diogelwch a phreifatrwydd
• Tryloywder
• Dehongliad ac eglurdeb
• Cynaliadwyedd
• Cystadleurwydd ac archwiliad
• Atebolrwydd a chyfrifoldeb
• Cyfyngu ar effeithiau amgylcheddol

Os cymharwch y set ddiweddaraf hon â setiau nodedig eraill sydd ar gael, mae yna lawer iawn o debygrwydd neu ohebiaeth debyg yn eu plith.

Ar y naill law, gallwch chi gymryd hynny fel arwydd da.

Yn gyffredinol, efallai y byddwn yn gobeithio bod yr egwyddorion Moeseg AI sy'n hofran o gwmpas i gyd yn cyfuno tuag at yr un sylw cyffredinol. Mae gweld bod un set braidd yn debyg i set arall yn rhoi teimlad o hyder i chi fod y setiau hyn o fewn yr un maes pêl ac nid allan rywsut mewn cae chwith dryslyd.

Cwyn bosibl gan rai yw ei bod yn ymddangos bod y setiau amrywiol hyn fwy neu lai yr un peth, sydd wedyn o bosibl yn creu dryswch neu o leiaf syndod oherwydd y rhwystr na ddylem gael rhestrau niferus sy’n ymddangos yn ddyblyg. Oni all fod dim ond un rhestr? Y broblem wrth gwrs yw nad oes unrhyw ffordd syml o gael pob rhestr o'r fath i fod yn union yr un peth. Mae gwahanol grwpiau a gwahanol endidau wedi mynd i'r afael â hyn mewn ffyrdd gwahanol. Y newyddion da yw eu bod bron i gyd wedi dod i'r un casgliad cyffredinol. Gallwn fod yn falch nad oes gan y setiau wahaniaethau enfawr, a fyddai efallai'n ein gwneud yn anesmwyth pe na bai consensws cyffredinol.

Efallai y bydd gwrthgyfrifydd yn annog bod cyffredinedd y rhestrau hyn yn anniddig, gan ddadlau efallai bod yna feddwl grŵp yn digwydd. Efallai bod yr holl grwpiau gwahanol hyn yn meddwl yr un ffordd ac yn methu ag edrych y tu hwnt i'r arfer. Mae pob un ohonom yn syrthio i fagl union yr un fath. Mae'n debyg bod y rhestrau'n angori ein ffordd o feddwl ac nid ydym yn gallu gweld y tu hwnt i'n trwynau ein hunain.

Diau fod edrych y tu hwnt i'n trwynau yn achos teilwng.

Rwy'n sicr yn agored i glywed yr hyn sydd gan contrarians i'w ddweud. Weithiau maen nhw'n dal gwynt o rywbeth sydd â'r Titanic anelu tuag at fynydd iâ anferth. Gallem ddefnyddio ychydig o wylwyr eryr. Ond, o ran y praeseptau Moeseg AI hyn, nid oes unrhyw beth wedi'i fynegi'n bendant gan contrarians sy'n ymddangos fel pe bai'n tanseilio neu'n codi pryderon am gyffredinedd gormodol sy'n digwydd. Rwy'n meddwl ein bod yn gwneud yn iawn.

Yn y set ACM hon, mae yna ychydig o bwyntiau arbennig o nodedig neu amlwg y credaf eu bod yn arbennig o deilwng o sylw nodedig.

Yn gyntaf, rwy'n hoffi'r geiriad lefel uchaf sydd ychydig yn wahanol i'r norm.

Er enghraifft, gan gyfeirio at cyfreithlondeb a chymhwysedd (yr eitem fwled gyntaf) yn dwyn i gof bwysigrwydd cymwyseddau dylunwyr a rheolwyr sy'n gysylltiedig ag AI. Yn ogystal, mae'r cyfreithlondeb dal ymadrodd yn y pen draw yn mynd â ni i mewn i'r AI Moeseg ac AI Tir y Gyfraith. Rwy'n dweud hyn oherwydd bod llawer o'r praeseptau Moeseg AI yn canolbwyntio bron yn gyfan gwbl ar y goblygiadau moesegol ond ymddengys eu bod yn hepgor neu'n crwydro'n swil o nodi'r goblygiadau cyfreithiol hefyd. Yn y maes cyfreithiol, mae ystyriaethau moesegol yn aml yn cael eu crybwyll fel “cyfraith feddal” tra bod y cyfreithiau ar y llyfrau yn cael eu dehongli fel “cyfreithiau caled” (sy'n golygu eu bod yn cario pwysau'r llysoedd cyfreithiol).

Llefarwyd un o fy hoff ddywediadau erioed gan y cyfreithiwr enwog Earl Warren: “Mewn bywyd gwâr, mae’r gyfraith yn arnofio mewn môr o foeseg.”

Mae angen i ni sicrhau bod praeseptau Moeseg AI hefyd yn cwmpasu ac yn pwysleisio ochr cyfraith galed pethau fel wrth ddrafftio, deddfu a gorfodi Deddfau AI.

Yn ail, gwerthfawrogaf fod y rhestr yn cynnwys cystadleurwydd ac archwiliad.

Rwyf wedi ysgrifennu dro ar ôl tro am werth gallu ymladd neu godi baner goch pan fyddwch yn destun system AI, gweler y ddolen yma. Ar ben hynny, rydym yn mynd i weld mwy a mwy o gyfreithiau newydd yn gorfodi systemau AI i gael eu harchwilio, yr wyf wedi'u trafod yn helaeth am gyfraith Dinas Efrog Newydd (NYC) ar archwilio rhagfarnau systemau AI a ddefnyddir ar gyfer llogi a dyrchafiadau gweithwyr, gweler y ddolen yma. Yn anffodus, ac yn unol â'm beirniadaeth agored o gyfraith newydd NYC, os yw'r deddfau archwiliadadwyedd hyn yn ddiffygiol, mae'n debyg y byddant yn creu mwy o broblemau nag y maent yn eu datrys.

Yn drydydd, mae yna ddeffroad graddol y gall AI drwytho materion cynaliadwyedd ac rwy'n falch o weld bod y amgylcheddol cafodd y pwnc filio lefel uchaf yn y praeseptau Moeseg AI hyn (gweler bwled olaf y rhestr).

Gall y weithred o greu system AI yn unig ddefnyddio llawer o adnoddau cyfrifiadurol. Gall yr adnoddau cyfrifiadurol hynny fod yn ddefnyddwyr cynaladwyedd yn uniongyrchol neu'n anuniongyrchol. Mae cyfaddawd i'w ystyried o ran y buddion y mae deallusrwydd artiffisial yn eu darparu o'i gymharu â'r costau a ddaw ynghyd â'r Mynegai Gwerthfawr. Mae'r olaf o'r eitemau bwled ACM yn nodi'r ystyriaethau cynaliadwyedd ac amgylcheddol sy'n codi gydag AI. Am fy sylw i faterion ôl troed carbon yn ymwneud â AI, gweler y ddolen yma.

Nawr ein bod ni wedi edrych o'r awyr ar restr ACM o braeseptau Moeseg AI, rydyn ni nesaf yn rhoi bysedd ein traed yn ddyfnach i'r dyfroedd.

Dyma’r disgrifiadau swyddogol ar gyfer pob un o’r praeseptau Moeseg AI lefel uchel (a ddyfynnir o’r datganiad ffurfiol):

1. "Cyfreithlondeb a chymhwysedd: Dylai fod gan ddylunwyr systemau algorithmig y cymhwysedd rheoli a'r awdurdodiad penodol i adeiladu a defnyddio systemau o'r fath. Mae angen iddynt hefyd fod ag arbenigedd yn y maes cymhwyso, sail wyddonol ar gyfer defnydd arfaethedig y systemau, a chael eu hystyried yn gyffredinol yn gymdeithasol gyfreithlon gan randdeiliaid yr effeithir arnynt gan y system. Mae’n rhaid cynnal asesiadau cyfreithiol a moesegol i gadarnhau y bydd unrhyw risgiau a gyflwynir gan y systemau yn gymesur â’r problemau yr eir i’r afael â nhw, a bod yr holl randdeiliaid perthnasol yn deall unrhyw gyfaddawdu rhwng buddion a niwed.”

2. "Lleihau niwed: Dylai rheolwyr, dylunwyr, datblygwyr, defnyddwyr a rhanddeiliaid eraill systemau algorithmig fod yn ymwybodol o'r gwallau a'r rhagfarnau posibl sy'n gysylltiedig â'u dylunio, eu gweithredu a'u defnyddio, a'r niwed posibl y gall system ei achosi i unigolion a chymdeithas. Dylai sefydliadau gynnal asesiadau effaith fel mater o drefn ar systemau a ddefnyddir ganddynt i benderfynu a allai'r system achosi niwed, yn enwedig niwed gwahaniaethol, ac i gymhwyso mesurau lliniaru priodol. Pan fo’n bosibl, dylen nhw ddysgu o fesurau perfformiad gwirioneddol, nid dim ond patrymau penderfyniadau’r gorffennol a allai fod wedi bod yn wahaniaethol eu hunain.”

3. "Diogelwch a phreifatrwydd: Gellir lliniaru risg gan bartïon maleisus trwy gyflwyno arferion gorau diogelwch a phreifatrwydd ar draws pob cam o gylchoedd oes y systemau, gan gynnwys rheolaethau cadarn i liniaru gwendidau newydd sy’n codi yng nghyd-destun systemau algorithmig.”

4. "Tryloywder: Anogir datblygwyr systemau i ddogfennu'n glir y ffordd y dewiswyd setiau data, newidynnau a modelau penodol i'w datblygu, eu hyfforddi, eu dilysu a'u profi, yn ogystal â'r mesurau penodol a ddefnyddiwyd i warantu ansawdd data ac allbwn. Dylai systemau nodi lefel eu hyder ym mhob allbwn a dylai bodau dynol ymyrryd pan fo hyder yn isel. Dylai datblygwyr hefyd ddogfennu'r dulliau a ddefnyddiwyd i ymchwilio i ragfarnau posibl. Ar gyfer systemau sy'n cael effaith hollbwysig ar fywyd a lles, dylai fod angen gweithdrefnau dilysu a dilysu annibynnol. Mae craffu cyhoeddus ar y data a'r modelau yn rhoi'r cyfle mwyaf posibl i'w gywiro. Felly dylai datblygwyr hwyluso profion trydydd parti er budd y cyhoedd.”

5. "Dehongliad ac eglurdeb: Anogir rheolwyr systemau algorithmig i gynhyrchu gwybodaeth am y gweithdrefnau y mae'r algorithmau cyflogedig yn eu dilyn (dehongliad) a'r penderfyniadau penodol a wnânt (esboniadwyaeth). Gall eglurder fod yr un mor bwysig â chywirdeb, yn enwedig mewn cyd-destunau polisi cyhoeddus neu unrhyw amgylchedd lle mae pryderon ynghylch sut y gellid gwyro algorithmau i fod o fudd i un grŵp dros grŵp arall heb gydnabyddiaeth. Mae’n bwysig gwahaniaethu rhwng esboniadau ac ad-drefnu ar ôl y ffaith nad ydynt yn adlewyrchu’r dystiolaeth na’r broses benderfynu a ddefnyddiwyd i ddod i’r casgliad sy’n cael ei esbonio.”

6. "Cynaladwyedd: Dylid casglu tystiolaeth o gadernid yr holl systemau algorithmig drwy gydol eu cylchoedd bywyd, gan gynnwys dogfennu gofynion y system, cynllun neu weithrediad newidiadau, achosion prawf a chanlyniadau, a log o wallau a ganfuwyd ac a gywirwyd. Mae’n bosibl y bydd cynnal a chadw priodol yn gofyn am systemau ailhyfforddi gyda data hyfforddi newydd a/neu ddisodli’r modelau a ddefnyddir.”

7. "Cystadleurwydd ac archwiliad: Dylai rheoleiddwyr annog mabwysiadu mecanweithiau sy'n galluogi unigolion a grwpiau i gwestiynu canlyniadau a cheisio iawn am effeithiau andwyol sy'n deillio o benderfyniadau sy'n seiliedig ar algorithmau. Dylai rheolwyr sicrhau bod data, modelau, algorithmau a phenderfyniadau'n cael eu cofnodi fel y gellir eu harchwilio a bod canlyniadau'n cael eu hailadrodd mewn achosion lle mae niwed yn cael ei amau ​​neu ei honni. Dylid cyhoeddi strategaethau archwilio er mwyn galluogi unigolion, sefydliadau budd y cyhoedd, ac ymchwilwyr i adolygu ac argymell gwelliannau.”

8. "Atebolrwydd a chyfrifoldeb: Dylid dal cyrff cyhoeddus a phreifat yn atebol am benderfyniadau a wneir gan yr algorithmau a ddefnyddir ganddynt, hyd yn oed os nad yw'n ymarferol esbonio'n fanwl sut y cynhyrchodd yr algorithmau hynny eu canlyniadau. Dylai cyrff o'r fath fod yn gyfrifol am systemau cyfan fel y'u defnyddir yn eu cyd-destunau penodol, nid yn unig ar gyfer y rhannau unigol sy'n ffurfio system benodol. Pan ganfyddir problemau mewn systemau awtomataidd, dylai sefydliadau sy’n gyfrifol am ddefnyddio’r systemau hynny gofnodi’r camau penodol y byddant yn eu cymryd i unioni’r broblem ac o dan ba amgylchiadau y dylid atal neu derfynu’r defnydd o dechnolegau o’r fath.”

9. "Cyfyngu ar effeithiau amgylcheddol: Dylid peiriannu systemau algorithmig i adrodd ar amcangyfrifon o effeithiau amgylcheddol, gan gynnwys allyriadau carbon o gyfrifiannau hyfforddi a gweithredol. Dylai systemau AI gael eu dylunio i sicrhau bod eu hallyriadau carbon yn rhesymol o ystyried y graddau o gywirdeb sy’n ofynnol gan y cyd-destun y cânt eu defnyddio ynddo.”

Hyderaf y byddwch yn rhoi darlleniad gofalus a chynt i bob un o’r praeseptau Moeseg AI hollbwysig hynny. Os gwelwch yn dda cymerwch nhw i galon.

Casgliad

Mae yna ran gynnil ond yr un mor hanfodol o'r datganiad ACM y credaf y gallai llawer ei anwybyddu yn anfwriadol. Gadewch imi wneud yn siŵr fy mod yn tynnu eich sylw at hyn.

Yr wyf yn cyfeirio at ran sy'n trafod y pentwr dirdynnol o orfod pwyso a mesur y cyfaddawdau sy'n gysylltiedig â phraeseptau Moeseg AI. Rydych chi'n gweld, mae'r rhan fwyaf o bobl yn aml yn nodio pen yn ddifeddwl wrth ddarllen egwyddorion AI Moesegol ac yn cymryd yn ganiataol bod pob un o'r praeseptau yn gyfartal o ran pwysau, a bydd yr holl praeseptau bob amser yn cael yr un parch a gwerth gorau posibl.

Nid yn y byd go iawn.

Pan fydd y rwber yn cwrdd â'r ffordd, mae unrhyw fath o AI sydd â hyd yn oed modicum o gymhlethdod yn mynd i brofi'n gas y praeseptau Moeseg AI i weld a yw rhai o'r elfennau yn ddigon cyraeddadwy dros rai o'r egwyddorion eraill. Rwy'n sylweddoli y gallech fod yn dweud yn uchel bod yn rhaid i bob AI wneud y mwyaf o'r holl praeseptau Moeseg AI, ond nid yw hyn yn arbennig o realistig. Os mai dyna'r stondin yr ydych am ei gymryd, meiddiaf ddweud y byddai'n debygol y byddai angen i chi ddweud wrth y mwyafrif neu bron pob un o'r gwneuthurwyr a defnyddwyr AI i gau'r siop a rhoi AI i ffwrdd yn gyfan gwbl.

Mae angen gwneud cyfaddawdau i gael AI allan y drws. Wedi dweud hynny, nid wyf yn argymell torri corneli sy'n torri praeseptau Moeseg AI, nac yn awgrymu y dylent dorri Deddfau AI. Mae'n rhaid cyrraedd lleiafswm penodol, a'r nod uwchlaw hynny yw ymdrechu'n fwy felly. Yn y diwedd, mae angen barnu cydbwysedd yn ofalus. Rhaid cyflawni’r weithred gydbwyso hon yn ystyriol, yn benodol, yn gyfreithlon, a chyda AI Moeseg fel cred ddilys a diffuant (efallai y byddwch am weld sut mae cwmnïau’n defnyddio Byrddau Moeseg AI i geisio casglu’r agwedd ddifrifol hon, gweler y ddolen yma).

Dyma rai pwyntiau bwled y mae datganiad ACM yn sôn amdanynt ar gymhlethdodau cyfaddawdu (a ddyfynnir o'r ddogfen ffurfiol):

• “Dylai atebion fod yn gymesur â’r broblem sy’n cael ei datrys, hyd yn oed os yw hynny’n effeithio ar gymhlethdod neu gost (e.e., gwrthod defnyddio gwyliadwriaeth fideo cyhoeddus ar gyfer tasg ragfynegi syml).”
• “Dylid ystyried amrywiaeth eang o fetrigau perfformiad a gellir eu pwysoli’n wahanol ar sail parth y cais. Er enghraifft, mewn rhai cymwysiadau gofal iechyd gall effeithiau negyddol ffug fod yn waeth o lawer na rhai positif ffug, tra mewn cyfiawnder troseddol gall canlyniadau positifau ffug (ee, carcharu person diniwed) fod yn llawer gwaeth na negyddion ffug. Anaml y gosodiad system weithredol fwyaf dymunol yw'r un sydd â'r cywirdeb mwyaf. ”
• “Gall pryderon ynghylch preifatrwydd, amddiffyn cyfrinachau masnach, neu ddatguddiad dadansoddeg a allai ganiatáu i actorion maleisus chwarae’r system gyfiawnhau cyfyngu mynediad i unigolion cymwys, ond ni ddylid eu defnyddio i gyfiawnhau cyfyngu ar graffu trydydd parti nac i esgusodi datblygwyr rhag y rhwymedigaeth. cydnabod ac atgyweirio gwallau.”
• “Rhaid paru tryloywder â phrosesau ar gyfer atebolrwydd sy’n galluogi rhanddeiliaid y mae system algorithmig yn effeithio arnynt i geisio iawn ystyrlon am y niwed a wneir. Ni ddylid defnyddio tryloywder i gyfreithloni system nac i drosglwyddo cyfrifoldeb i bartïon eraill.”
• “Pan fydd effaith system yn uchel, efallai y byddai'n well cael system y gellir ei hegluro. Mewn llawer o achosion, nid oes unrhyw gyfaddawd rhwng eglurder a chywirdeb. Mewn rhai cyd-destunau, fodd bynnag, gall esboniadau anghywir fod hyd yn oed yn waeth na dim esboniad (ee, mewn systemau iechyd, gall symptom gyfateb i lawer o afiechydon posibl, nid un yn unig). ”

Efallai na fydd y rhai sy'n datblygu neu'n defnyddio AI yn sylweddoli'n amlwg y cyfaddawdau y maent yn eu hwynebu. Gallai prif arweinwyr cwmni gymryd yn naïf fod y Mynegai Gwerthfawrogiad yn cwrdd â'r uchafsymiau ar bob un o egwyddorion Moeseg AI. Maen nhw naill ai'n credu hyn oherwydd nad ydyn nhw'n clueless am y AI, neu maen nhw eisiau credu hyn ac efallai'n gwneud winc-wink er mwyn mabwysiadu AI yn hawdd.

Yr ods yw y bydd methu â mynd i'r afael â'r cyfaddawdau yn sylweddol ac yn agored yn arwain at AI a fydd yn achosi niwed. Bydd y niwed hwnnw yn ei dro yn debygol o agor cwmni i rwymedigaethau ar raddfa fawr o bosibl. Ar ben hynny, gall deddfau confensiynol ddod i rym ar gyfer gweithredoedd troseddol posibl sy'n gysylltiedig â'r AI, ynghyd â'r deddfau mwy newydd sy'n canolbwyntio ar AI sy'n morthwylio ar hyn hefyd. Mae tunnell o frics yn aros uwchben pennau'r rhai sy'n meddwl y gallant ffeindio'u ffordd o gwmpas y cyfaddawdau neu sy'n gwbl anymwybodol bod y cyfaddawdau'n bodoli (mae'n anochel y bydd sylweddoliad gwasgu yn disgyn arnynt).

Rhoddaf y gair olaf am y tro ar y pwnc hwn i'r agwedd gloi ar y datganiad ACM gan fy mod yn meddwl ei fod yn gwneud gwaith cadarn o egluro'r hyn y mae'r praeseptau AI Moesegol hyn yn anelu at ei gyflwyno'n facrosgopig:

• “Mae'r argymhellion uchod yn canolbwyntio ar ddylunio, datblygu a defnyddio systemau algorithmig yn gyfrifol; rhaid i atebolrwydd gael ei bennu gan y gyfraith a pholisi cyhoeddus. Mae pŵer cynyddol systemau algorithmig a'u defnydd mewn cymwysiadau bywyd-gritigol a chanlyniadol yn golygu bod yn rhaid bod yn ofalus iawn wrth eu defnyddio. Bwriedir i'r naw egwyddor offerynnol hyn fod yn ysbrydoledig wrth lansio trafodaethau, cychwyn ymchwil, a datblygu dulliau llywodraethu i ddod â buddion i ystod eang o ddefnyddwyr, tra'n hyrwyddo dibynadwyedd, diogelwch a chyfrifoldeb. Yn y pen draw, y cyd-destun penodol sy'n diffinio'r dyluniad a'r defnydd cywir o system algorithmig mewn cydweithrediad â chynrychiolwyr yr holl randdeiliaid yr effeithir arnynt” (dyfynnwyd o'r ddogfen ffurfiol).

Fel y mae geiriau doethineb yn ei ddweud yn graff wrthym, mae taith o fil o filltiroedd yn dechrau gyda cham cyntaf.

Rwy’n erfyn arnoch i ddod yn gyfarwydd â Moeseg AI a Chyfraith AI, gan gymryd pa gam cyntaf bynnag a fydd yn eich rhoi ar waith, ac yna cynorthwyo i fwrw ymlaen â’r ymdrechion hanfodol hyn. Y harddwch yw ein bod yn dal i fod yn y dyddiau cynnar o gasglu sut i reoli ac ymdopi'n gymdeithasol ag AI, felly, rydych chi'n dod i mewn ar y llawr gwaelod a gall eich ymdrechion yn amlwg siapio'ch dyfodol a'r dyfodol i ni i gyd.

Mae'r daith AI newydd ddechrau ac mae camau cyntaf hanfodol yn dal i fynd rhagddynt.