3 Rheswm y Bydd Eich Sefydliad Angen Aseswyr Algorithm Allanol

Gan Satta Sarmah-Hightower

Mae arweinwyr busnes yn gwasgu'r holl werth y gallant allan o ddeallusrwydd artiffisial (AI). Darganfyddiadau astudiaeth KPMG 2021 mae mwyafrif o arweinwyr busnes y llywodraeth, gweithgynhyrchu diwydiannol, gwasanaethau ariannol, manwerthu, gwyddor bywyd, a gofal iechyd yn dweud bod AI o leiaf yn weddol weithredol yn eu sefydliadau. Mae'r astudiaeth hefyd yn canfod bod hanner yr ymatebwyr yn dweud bod eu sefydliad wedi cyflymu mabwysiadu AI mewn ymateb i bandemig Covid-19. Mewn sefydliadau lle mae AI wedi'i fabwysiadu, mae o leiaf hanner yn dweud bod y dechnoleg wedi rhagori ar y disgwyliadau.

Mae algorithmau AI yn gynyddol gyfrifol am amrywiaeth o ryngweithiadau ac arloesiadau heddiw - o rai personol argymhellion cynnyrch ac gwasanaeth cwsmeriaid profiadau i fanciau' penderfyniadau benthyca a hyd yn oed ymateb yr heddlu.

Ond er yr holl fuddion y maent yn eu cynnig, mae risgiau mawr i algorithmau AI os na chânt eu monitro a'u gwerthuso'n effeithiol o ran gwydnwch, tegwch, eglurdeb ac uniondeb. Er mwyn cynorthwyo arweinwyr busnes i fonitro a gwerthuso AI, mae'r astudiaeth y cyfeirir ati uchod yn dangos a mae nifer cynyddol o arweinwyr busnes eisiau i'r llywodraeth reoleiddio AI er mwyn caniatáu i sefydliadau fuddsoddi yn y dechnoleg a'r prosesau busnes cywir. Ar gyfer y gefnogaeth a'r oruchwyliaeth angenrheidiol, mae'n ddoeth ystyried asesiadau allanol a gynigir gan ddarparwr gwasanaeth sydd â phrofiad o ddarparu gwasanaethau o'r fath. Dyma dri rheswm pam.

1. Mae Algorithmau yn “Blychau Du”

Mae algorithmau AI - sy'n dysgu o ddata i ddatrys problemau a gwneud y gorau o dasgau - yn gwneud systemau'n ddoethach, gan eu galluogi i gasglu a chynhyrchu mewnwelediadau yn llawer cyflymach nag y gallai bodau dynol erioed.

Fodd bynnag, mae rhai rhanddeiliaid yn ystyried bod yr algorithmau hyn yn “flychau du,” eglura Drew Rosen, rheolwr gyfarwyddwr archwilio yn KPMG, cwmni gwasanaethau proffesiynol blaenllaw. Yn benodol, efallai na fydd rhai rhanddeiliaid yn deall sut y daeth yr algorithm i benderfyniad penodol ac felly efallai nad ydynt yn hyderus ynghylch tegwch neu gywirdeb y penderfyniad hwnnw.

“Gall y canlyniadau a geir o’r algorithm fod yn dueddol o dueddu a chamddehongli canlyniadau,” meddai Rosen. “Gall hynny hefyd arwain at rai risgiau i’r endid wrth iddynt drosoli’r canlyniadau hynny a’u rhannu [nhw] gyda’r cyhoedd a’u rhanddeiliaid.”

Mae algorithm sy'n defnyddio data diffygiol, er enghraifft, yn aneffeithiol ar y gorau - ac yn niweidiol ar y gwaethaf. Sut olwg fyddai ar hynny yn ymarferol? Ystyriwch chatbot seiliedig ar AI sy'n darparu'r wybodaeth cyfrif anghywir i ddefnyddwyr neu declyn cyfieithu iaith awtomataidd sy'n cyfieithu testun yn anghywir. Gallai'r ddau achos arwain at gamgymeriadau neu gamddehongliadau difrifol i endidau neu gwmnïau'r llywodraeth, yn ogystal â'r etholwyr a'r cwsmeriaid sy'n dibynnu ar benderfyniadau a wneir gan yr algorithmau hynny.

Un arall sy'n cyfrannu at y broblem blwch du yw pan fydd tuedd gynhenid ​​yn treiddio i mewn i ddatblygiad modelau AI, a allai achosi penderfyniadau rhagfarnllyd. Mae benthycwyr credyd, er enghraifft, yn defnyddio AI yn gynyddol i ragweld teilyngdod credyd benthycwyr posibl er mwyn gwneud penderfyniadau benthyca. Fodd bynnag, gall risg godi pan fydd mewnbynnau allweddol i’r Mynegai Gwerthfawrogiad, megis sgôr credyd benthyciwr posibl, mae ganddo wall materol, gan arwain at wrthod benthyciadau i'r unigolion hynny.

Mae hyn yn amlygu'r angen am aseswr allanol a all wasanaethu fel gwerthuswr diduedd a darparu asesiad â ffocws, yn seiliedig ar feini prawf derbyniol, o berthnasedd a dibynadwyedd y data hanesyddol a'r rhagdybiaethau sy'n pweru algorithm.

2. Tryloywder Galw Rhanddeiliaid A Rheoleiddwyr

Yn 2022, nid oedd unrhyw ofynion adrodd ar hyn o bryd ar gyfer AI cyfrifol. Fodd bynnag, dywed Rosen, “yn union fel sut y cyflwynodd cyrff llywodraethu reoleiddio ESG [amgylcheddol, cymdeithasol a llywodraethu] adrodd ar rai metrigau ESG, dim ond mater o amser yw hi y gwelwn ofynion adrodd rheoleiddio ychwanegol ar gyfer AI cyfrifol.”

Mewn gwirionedd, yn effeithiol Ionawr 1, 2023, Dinas Efrog Newydd Cyfraith Leol 144 yn ei gwneud yn ofynnol bod archwiliad rhagfarn yn cael ei gynnal ar offeryn penderfynu cyflogaeth awtomataidd cyn ei ddefnyddio.

Ac ar y lefel ffederal, mae'r Deddf Menter Deallusrwydd Artiffisial Genedlaethol 2020—sy'n adeiladu ar a gorchymyn gweithredol 2019—yn canolbwyntio ar safonau a chanllawiau technegol AI. Yn ogystal, mae'r Deddf Atebolrwydd Algorithmig gallai fod angen asesiadau effaith systemau penderfynu awtomataidd a phrosesau penderfyniadau critigol estynedig. A thramor, y Deddf Deallusrwydd Artiffisial wedi'i gynnig, sy'n cynnig fframwaith rheoleiddio cynhwysfawr gydag amcanion penodol ar ddiogelwch AI, cydymffurfiaeth, llywodraethu a dibynadwyedd.

Gyda'r sifftiau hyn, mae sefydliadau o dan ficrosgop llywodraethu. Gall aseswr algorithm ddarparu adroddiadau o'r fath sy'n mynd i'r afael â gofynion rheoleiddiol ac yn gwella tryloywder rhanddeiliaid tra'n osgoi'r risg y mae rhanddeiliaid yn ei chamddehongli neu'n cael ei chamddehongli. camarwain gan ganlyniadau'r asesiad.

3. Cwmnïau'n Elwa o Reoli Risg Hirdymor

Mae Steve Camara, partner yn arfer sicrwydd technoleg KPMG, yn rhagweld y bydd buddsoddiadau AI yn parhau i dyfu wrth i endidau symud ymlaen â phrosesau awtomeiddio, gan ddatblygu arloesiadau sy'n gwella profiad y cwsmer a dosbarthu datblygiad AI ar draws swyddogaethau busnes. Er mwyn parhau i fod yn gystadleuol a phroffidiol, bydd angen rheolaethau effeithiol ar sefydliadau sydd nid yn unig yn mynd i'r afael â diffygion uniongyrchol AI ond sydd hefyd yn lleihau unrhyw risgiau hirdymor sy'n gysylltiedig â gweithrediadau busnes sy'n seiliedig ar AI.

Dyma lle mae aseswyr allanol yn camu i mewn fel adnodd deallus y gellir ymddiried ynddo. Wrth i sefydliadau gofleidio cywirdeb AI yn gynyddol fel galluogwr busnes, efallai y bydd y bartneriaeth yn dod yn llai o wasanaeth ad hoc ac yn fwy o gydweithrediad cyson, eglura Camara.

“Rydym yn gweld ffordd ymlaen lle bydd angen perthynas barhaus rhwng sefydliadau sy’n datblygu a gweithredu AI yn barhaus ac aseswr allanol gwrthrychol,” meddai.

Golwg Tuag at Beth Sy'n Dod Nesaf

Yn y dyfodol, gallai sefydliadau ddefnyddio asesiadau allanol ar sail fwy cylchol wrth iddynt ddatblygu modelau newydd, amlyncu ffynonellau data newydd, integreiddio datrysiadau gwerthwyr trydydd parti neu lywio gofynion cydymffurfio newydd, er enghraifft.

Pan fydd gofynion rheoleiddio a chydymffurfio ychwanegol yn cael eu mandadu, efallai y bydd aseswyr allanol yn gallu darparu gwasanaethau i werthuso'n uniongyrchol pa mor dda y mae sefydliad wedi defnyddio neu ddefnyddio AI mewn perthynas â'r gofynion hynny. Byddai'r aseswyr hyn wedyn yn y sefyllfa orau i rannu canlyniadau asesu mewn modd clir a chyson.

Er mwyn manteisio ar dechnoleg tra hefyd yn diogelu rhag ei ​​chyfyngiadau, rhaid i sefydliad geisio aseswyr allanol i ddarparu adroddiadau y gall ddibynnu arnynt wedyn i ddangos mwy o dryloywder wrth ddefnyddio algorithmau. O'r fan honno, gall y sefydliad a'r rhanddeiliaid ddeall pŵer AI yn well - a'i gyfyngiadau.