Mae angen deddfau i atal terfysgaeth AI ar frys

Yn ôl melin drafod gwrth-eithafiaeth, dylai llywodraethau “ystyried ar frys” reoliadau newydd i atal deallusrwydd artiffisial rhag recriwtio terfysgwyr..

Mae’r Sefydliad ar gyfer Deialog Strategol (ISD) wedi dweud bod “angen amlwg am ddeddfwriaeth i gadw i fyny” gyda’r bygythiadau sy’n cael eu gosod ar-lein gan derfysgwyr.

Daw hyn yn dilyn arbrawf lle gwnaeth chatbot “recriwtio” adolygydd deddfwriaeth terfysgaeth annibynnol ar gyfer y Deyrnas Unedig.

Mae llywodraeth y Deyrnas Unedig wedi dweud y byddan nhw’n gwneud “popeth o fewn ein gallu” i amddiffyn y cyhoedd yn gyffredinol.

Yn ôl Jonathan Hall KC, adolygydd deddfwriaeth terfysgaeth annibynnol i’r llywodraeth, un o’r materion pwysicaf yw ei bod “yn anodd adnabod person a allai yn gyfreithiol fod yn gyfrifol am ddatganiadau a gynhyrchir gan chatbot sy’n annog terfysgaeth.”

Cynhaliwyd arbrawf gan Mr Hall ar Character.ai, gwefan sy'n galluogi defnyddwyr i gymryd rhan mewn sgyrsiau gyda chatbots a adeiladwyd gan ddefnyddwyr eraill ac a ddatblygwyd gan ddeallusrwydd artiffisial.

Bu'n sgwrsio â nifer o wahanol fotiau a oedd yn ymddangos fel pe baent wedi'u peiriannu i efelychu atebion grwpiau milwriaethus ac eithafol eraill.

hysbyseb

Cyfeiriwyd hyd yn oed at un o brif arweinwyr y Wladwriaeth Islamaidd fel "uwch arweinydd."

Yn ôl Mr Hall, fe wnaeth y bot ymgais i'w recriwtio a datgan "ymroddiad ac ymroddiad llwyr" i'r grŵp eithafol, sy'n cael ei wahardd gan gyfreithiau yn y Deyrnas Unedig sy'n gwahardd terfysgaeth.

Ar y llaw arall, dywedodd Mr Hall nad oedd unrhyw dorri'r gyfraith yn y Deyrnas Unedig oherwydd nad oedd y cyfathrebiadau'n cael eu cynhyrchu gan fod dynol.

Yn ôl yr hyn a ddywedodd, dylai rheoliadau newydd ddal y gwefannau sy'n cynnal chatbots a'r bobl sy'n eu creu yn atebol.

O ran y bots y daeth ar eu traws ar Character.ai, dywedodd ei bod yn "debygol y byddai rhywfaint o werth sioc, arbrofi, ac o bosibl rhyw agwedd ddychanol" y tu ôl i'w creu.

Yn ogystal, llwyddodd Mr. Hall i ddatblygu ei chatbot "Osama Bin Laden" ei hun, a gafodd ei ddileu yn brydlon, gan ddangos "brwdfrydedd diderfyn" dros weithgareddau terfysgol.

Daw ei arbrawf yn sgil pryderon cynyddol ynghylch y ffyrdd y gall eithafwyr fanteisio ar ddeallusrwydd artiffisial gwell.

Erbyn y flwyddyn 2025, gallai deallusrwydd artiffisial cynhyrchiol gael ei “ddefnyddio i gasglu gwybodaeth am ymosodiadau corfforol gan actorion treisgar nad ydynt yn wladwriaeth, gan gynnwys ar gyfer arfau cemegol, biolegol a radiolegol,” yn ôl ymchwil a gyhoeddwyd gan lywodraeth y Deyrnas Unedig yn eu cyhoeddiad ym mis Hydref.

Dywedodd yr ISD ymhellach fod "angen amlwg am ddeddfwriaeth i gadw i fyny â thirwedd newidiol bygythiadau terfysgol ar-lein."

Yn ôl y felin drafod, mae Deddf Diogelwch Ar-lein y Deyrnas Unedig, a basiwyd yn gyfraith yn 2023, “wedi’i hanelu’n bennaf at reoli risgiau a achosir gan lwyfannau cyfryngau cymdeithasol” yn hytrach na deallusrwydd artiffisial.

Mae'n nodi hefyd bod radicaliaid "yn dueddol o fabwysiadu technolegau newydd yn gynnar, a'u bod yn chwilio'n gyson am gyfleoedd i gyrraedd cynulleidfaoedd newydd".

"Os na all cwmnïau AI ddangos eu bod wedi buddsoddi'n ddigonol i sicrhau bod eu cynhyrchion yn ddiogel, yna dylai'r llywodraeth ystyried deddfwriaeth AI-benodol newydd ar fyrder", dywedodd yr ISD ymhellach.

Fodd bynnag, soniodd, yn ôl y gwyliadwriaeth y mae wedi’i chynnal, bod y defnydd o ddeallusrwydd artiffisial cynhyrchiol gan sefydliadau eithafol yn “gymharol gyfyngedig” ar hyn o bryd.

Dywedodd Cymeriad AI fod diogelwch yn "flaenoriaeth bennaf" a bod yr hyn a ddisgrifiodd Mr. Hall yn destun gofid mawr ac nad oedd yn adlewyrchu'r math o lwyfan yr oedd y cwmni'n ceisio ei sefydlu.

“Mae ein Telerau Gwasanaeth yn gwahardd lleferydd casineb ac eithafiaeth”, yn ôl y sefydliad.

"Mae ein hagwedd at gynnwys a gynhyrchir gan AI yn llifo o egwyddor syml: Ni ddylai ein cynnyrch byth gynhyrchu ymatebion sy'n debygol o niweidio defnyddwyr neu annog defnyddwyr i niweidio eraill".

Er mwyn "optimeiddio ar gyfer ymatebion diogel," dywedodd y gorfforaeth ei bod yn hyfforddi ei modelau mewn modd.

Yn ogystal, dywedodd fod ganddo fecanwaith safoni ar waith, a oedd yn caniatáu i bobl adrodd am wybodaeth a oedd yn torri ei reolau, a'i fod wedi ymrwymo i gymryd camau cyflym pryd bynnag y byddai cynnwys yn adrodd am droseddau.

Pe bai’n dod i rym, mae Plaid Lafur yr wrthblaid yn y Deyrnas Unedig wedi datgan y byddai’n drosedd i ddysgu deallusrwydd artiffisial i ysgogi trais neu i radicaleiddio’r rhai sy’n agored i niwed.

Dywedodd llywodraeth y Deyrnas Unedig fod “yn effro i’r risgiau sylweddol o ran diogelwch cenedlaethol a diogelwch y cyhoedd” a berir gan ddeallusrwydd artiffisial.

“Byddwn yn gwneud popeth o fewn ein gallu i amddiffyn y cyhoedd rhag y bygythiad hwn trwy weithio ar draws y llywodraeth a dyfnhau ein cydweithrediad ag arweinwyr cwmnïau technoleg, arbenigwyr diwydiant a chenhedloedd o’r un anian.”

Bydd y llywodraeth yn buddsoddi can miliwn o bunnoedd mewn sefydliad diogelwch deallusrwydd artiffisial yn y flwyddyn 2023.

Rhannwch yr erthygl hon: