Llywodraeth Awstralia yn lansio ymgynghoriad i asesu gwaharddiad ar AI “risg uchel” - Cryptopolitan

Mae llywodraeth Awstralia wedi cychwyn cyfnod ymgynghori annisgwyl o wyth wythnos gyda’r nod o benderfynu a ddylid gwahardd rhai offer deallusrwydd artiffisial “risg uchel” (AI). Mae'r symudiad hwn yn dilyn mesurau tebyg a gymerwyd gan ranbarthau eraill, gan gynnwys yr Unol Daleithiau, yr Undeb Ewropeaidd, a Tsieina, wrth fynd i'r afael â'r risgiau sy'n gysylltiedig â datblygiad AI cyflym.

Ar 1 Mehefin, dadorchuddiodd y Gweinidog Diwydiant a Gwyddoniaeth Ed Husic ddau bapur i’w hadolygu’n gyhoeddus: un ar “AI Diogel a Chyfrifol yn Awstralia” ac un arall ar AI cynhyrchiol gan y Cyngor Gwyddoniaeth a Thechnoleg Cenedlaethol. Rhyddhawyd y papurau hyn ochr yn ochr â chyfnod ymgynghori a fydd yn parhau ar agor tan 26 Gorffennaf.

Mae llywodraeth Awstralia yn ceisio adborth ar strategaethau i hyrwyddo “defnydd diogel a chyfrifol o AI,” gan archwilio opsiynau fel fframweithiau moesegol gwirfoddol, rheoliadau penodol, neu gyfuniad o'r ddau ddull. Yn nodedig, mae'r ymgynghoriad yn gofyn yn uniongyrchol a ddylai rhai cymwysiadau neu dechnolegau AI risg uchel gael eu gwahardd yn llwyr ac mae'n ceisio mewnbwn ar y meini prawf ar gyfer nodi offer o'r fath.

Mae’r papur trafod cynhwysfawr yn cynnwys matrics risg drafft ar gyfer modelau AI, gan gategoreiddio ceir hunan-yrru fel “risg uchel” ac offer AI cynhyrchiol ar gyfer creu cofnodion cleifion meddygol fel “risg ganolig.” Mae'r ddogfen yn pwysleisio cymwysiadau cadarnhaol AI mewn sectorau fel meddygaeth, peirianneg, a'r gyfraith, yn ogystal â'r niwed posibl sy'n gysylltiedig ag offer ffug dwfn, cynhyrchu newyddion ffug, ac achosion lle mae bots AI wedi annog hunan-niweidio.

Llywodraeth Awstralia yn erbyn AI

Mae pryderon ynghylch rhagfarn mewn modelau AI, yn ogystal â chynhyrchu gwybodaeth nonsensical neu ffug a elwir yn “rithweledigaethau” gan systemau AI, hefyd yn cael sylw yn y papur trafod. Mae'n cydnabod bod mabwysiadu AI yn Awstralia yn gyfyngedig ar hyn o bryd oherwydd lefelau isel o ymddiriedaeth y cyhoedd. Mae'r papur yn cyfeirio at reoliadau AI a weithredwyd mewn awdurdodaethau eraill a gwaharddiad dros dro yr Eidal ar ChatGPT fel enghreifftiau.

Yn ogystal, mae adroddiad y Cyngor Gwyddoniaeth a Thechnoleg Cenedlaethol yn amlygu galluoedd manteisiol Awstralia mewn roboteg a gweledigaeth gyfrifiadurol ond yn nodi gwendidau cymharol mewn meysydd craidd fel modelau iaith mawr. Mae'n codi pryderon ynghylch crynodiad adnoddau AI cynhyrchiol mewn nifer fach o gwmnïau technoleg yn bennaf yn yr UD, sy'n peri risgiau posibl i Awstralia.

Mae’r adroddiad yn archwilio rheoleiddio AI byd-eang ymhellach, yn rhoi enghreifftiau o fodelau AI cynhyrchiol, ac yn awgrymu y bydd modelau o’r fath yn debygol o gael effeithiau pellgyrhaeddol ar sectorau yn amrywio o fancio a chyllid i wasanaethau cyhoeddus, addysg, a’r diwydiannau creadigol.