Yn dilyn trafodaethau 'marathon' tri diwrnod, mae llywyddiaeth y Cyngor a thrafodwyr Senedd Ewrop wedi dod i gytundeb dros dro ar y cynnig ar reolau wedi'u cysoni ar ddeallusrwydd artiffisial (AI), y ddeddf deallusrwydd artiffisial fel y'i gelwir. Nod y rheoliad drafft yw sicrhau bod systemau AI a roddir ar y farchnad Ewropeaidd ac a ddefnyddir yn yr UE yn ddiogel ac yn parchu hawliau sylfaenol a gwerthoedd yr UE. Mae'r cynnig nodedig hwn hefyd yn ceisio ysgogi buddsoddiad ac arloesedd ar AI yn Ewrop.
Mae hwn yn gamp hanesyddol, ac yn garreg filltir enfawr tuag at y dyfodol! Mae cytundeb heddiw i bob pwrpas yn mynd i'r afael â her fyd-eang mewn amgylchedd technolegol sy'n datblygu'n gyflym ar faes allweddol ar gyfer dyfodol ein cymdeithasau a'n heconomïau. Ac yn yr ymdrech hon, llwyddwyd i gadw cydbwysedd hynod fregus: hybu arloesedd a’r defnydd o ddeallusrwydd artiffisial ledled Ewrop tra’n parchu hawliau sylfaenol ein dinasyddion yn llawn.Carme Artigas, ysgrifennydd gwladol Sbaen dros ddigideiddio a deallusrwydd artiffisial
Mae'r ddeddf AI yn a blaenllaw menter ddeddfwriaethol gyda'r potensial i feithrin datblygiad a defnydd o AI diogel a dibynadwy ar draws marchnad sengl yr UE gan actorion preifat a chyhoeddus. Y prif syniad yw rheoleiddio AI yn seiliedig ar allu'r olaf i achosi niwed i gymdeithas yn dilyn a 'seiliedig ar risg' dull gweithredu: po uchaf yw'r risg, y llymaf yw'r rheolau. Fel y cynnig deddfwriaethol cyntaf o'i fath yn y byd, gall osod a safon fyd-eang ar gyfer rheoleiddio AI mewn awdurdodaethau eraill, yn union fel y mae’r GDPR wedi’i wneud, gan hyrwyddo’r ymagwedd Ewropeaidd at reoleiddio technoleg ar lwyfan y byd.
Prif elfennau'r cytundeb dros dro
O gymharu â chynnig cychwynnol y Comisiwn, gellir crynhoi prif elfennau newydd y cytundeb dros dro fel a ganlyn:
rheolau ar modelau AI pwrpas cyffredinol effaith uchel a all achosi risg systemig yn y dyfodol, yn ogystal ag ar risg uchel Systemau AI
system ddiwygiedig o llywodraethu gyda rhai pwerau gorfodi ar lefel yr UE
estyniad o'r rhestr o gwaharddiadau ond gyda'r posibilrwydd i'w ddefnyddio adnabod biometrig o bell gan awdurdodau gorfodi'r gyfraith mewn mannau cyhoeddus, yn amodol ar fesurau diogelu
amddiffyn hawliau'n well trwy rwymedigaeth ar y rhai sy'n defnyddio systemau AI risg uchel i gynnal a asesiad effaith hawliau sylfaenol cyn rhoi system AI ar waith.
Mewn termau mwy pendant, mae'r cytundeb dros dro yn ymdrin â'r agweddau canlynol:
Diffiniadau a chwmpas
I sicrhau bod y diffiniad o system AI yn darparu meini prawf digon clir ar gyfer gwahaniaethu AI oddi wrth systemau meddalwedd symlach, mae'r cytundeb cyfaddawd yn alinio'r diffiniad â'r dull a gynigir gan yr OECD.
Mae’r cytundeb dros dro hefyd yn egluro nad yw’r rheoliad yn gymwys i feysydd y tu allan i gwmpas cyfraith yr UE ac na ddylai, beth bynnag, effeithio ar gymwyseddau aelod-wladwriaethau mewn diogelwch cenedlaethol neu unrhyw endid yr ymddiriedwyd iddo dasgau yn y maes hwn. At hynny, ni fydd y ddeddf AI yn berthnasol i systemau a ddefnyddir yn unig ar eu cyfer milwrol or amddiffyniad dibenion. Yn yr un modd, mae'r cytundeb yn darparu na fyddai'r rheoliad yn berthnasol i systemau AI a ddefnyddir at y diben yn unig ymchwil ac arloesi, neu ar gyfer pobl sy'n defnyddio AI am resymau nad ydynt yn broffesiynol.
hysbyseb
Dosbarthu systemau AI fel arferion AI risg uchel a gwaharddedig
Mae'r cytundeb cyfaddawd yn darparu ar gyfer a haen lorweddol o amddiffyniad, gan gynnwys dosbarthiad risg uchel, i sicrhau nad yw systemau AI nad ydynt yn debygol o achosi troseddau hawliau sylfaenol difrifol neu risgiau sylweddol eraill yn cael eu dal. Systemau AI yn cyflwyno yn unig risg cyfyngedig byddai yn ddarostyngedig i ysgafn iawn rhwymedigaethau tryloywder, er enghraifft datgelu bod y cynnwys wedi'i gynhyrchu gan AI fel y gall defnyddwyr wneud penderfyniadau gwybodus ar ddefnydd pellach.
Mae ystod eang o risg uchel Byddai systemau AI yn cael eu hawdurdodi, ond yn amodol ar set o ofynion a rhwymedigaethau i gael mynediad i farchnad yr UE. Mae’r gofynion hyn wedi’u hegluro a’u haddasu gan y cyd-ddeddfwyr yn y fath fodd fel eu bod yn fwy yn dechnegol ymarferol ac llai beichus i randdeiliaid gydymffurfio â nhw, er enghraifft o ran ansawdd data, neu mewn perthynas â’r ddogfennaeth dechnegol y dylai BBaChau ei llunio i ddangos bod eu systemau AI risg uchel yn cydymffurfio â’r gofynion.
Gan fod systemau AI yn cael eu datblygu a'u dosbarthu trwy gadwyni gwerth cymhleth, mae'r cytundeb cyfaddawd yn cynnwys newidiadau sy'n egluro'r dyrannu cyfrifoldebau ac rolau'r actorion amrywiol yn y cadwyni hynny, yn enwedig darparwyr a defnyddwyr systemau AI. Mae hefyd yn egluro’r berthynas rhwng cyfrifoldebau o dan y Ddeddf AI a chyfrifoldebau sydd eisoes yn bodoli o dan ddeddfwriaeth arall, megis deddfwriaeth diogelu data neu ddeddfwriaeth sectoraidd yr UE berthnasol.
Ar gyfer rhai defnyddiau AI, ystyrir risg annerbyniol ac, felly, bydd y systemau hyn yn cael eu gwahardd o'r UE. Mae'r cytundeb dros dro yn gwahardd, er enghraifft, gwybyddol trin ymddygiadol, yr heb ei dargedu sgrapio o ddelweddau wyneb o'r rhyngrwyd neu luniau teledu cylch cyfyng, adnabod emosiwn yn y gweithle a sefydliadau addysgol, sgorio cymdeithasol, categoreiddio biometrig i gasglu data sensitif, megis cyfeiriadedd rhywiol neu gredoau crefyddol, a rhai achosion o plismona rhagfynegol i unigolion.
Eithriadau gorfodi'r gyfraith
Gan ystyried nodweddion penodol awdurdodau gorfodi'r gyfraith a'r angen i gadw eu gallu i ddefnyddio AI yn eu gwaith hanfodol, cytunwyd ar sawl newid i gynnig y Comisiwn yn ymwneud â defnyddio systemau AI at ddibenion gorfodi'r gyfraith. Yn amodol ar briodol mesurau diogelu, bwriedir i'r newidiadau hyn adlewyrchu'r angen i barchu cyfrinachedd data gweithredol sensitif mewn perthynas â'u gweithgareddau. Er enghraifft, cyflwynwyd gweithdrefn frys sy'n caniatáu i asiantaethau gorfodi'r gyfraith ddefnyddio offeryn AI risg uchel nad yw wedi pasio'r asesiad cydymffurfiaeth weithdrefn mewn achos o frys. Fodd bynnag, mae mecanwaith penodol hefyd wedi’i gyflwyno i sicrhau hynny hawliau sylfaenol yn cael eu hamddiffyn yn ddigonol rhag unrhyw gamddefnydd posibl o systemau AI.
Ar ben hynny, o ran y defnydd o amser real adnabod biometrig o bell systemau mewn mannau sy’n hygyrch i’r cyhoedd, mae’r cytundeb dros dro yn egluro’r amcanion lle mae defnydd o’r fath yn gwbl angenrheidiol at ddibenion gorfodi’r gyfraith ac y dylai awdurdodau gorfodi’r gyfraith felly gael caniatâd eithriadol i ddefnyddio systemau o’r fath ar eu cyfer. Mae'r cytundeb cyfaddawd yn darparu ar gyfer mesurau diogelu ychwanegol ac yn cyfyngu'r eithriadau hyn i achosion o ddioddefwyr troseddau penodol, atal bygythiadau dilys, presennol neu ragweladwy, megis ymosodiadau terfysgol, a chwiliadau am bobl yr amheuir eu bod yn cyflawni'r troseddau mwyaf difrifol.
Systemau AI pwrpas cyffredinol a modelau sylfaen
Mae darpariaethau newydd wedi'u hychwanegu i ystyried sefyllfaoedd lle gellir defnyddio systemau AI at lawer o wahanol ddibenion (pwrpas cyffredinol AI), a lle mae technoleg AI pwrpas cyffredinol yn cael ei hintegreiddio wedyn i system risg uchel arall. Mae'r cytundeb dros dro hefyd yn mynd i'r afael ag achosion penodol o systemau AI pwrpas cyffredinol (GPAI).
Cytunwyd hefyd ar reolau penodol modelau sylfaen, systemau mawr sy'n gallu cyflawni ystod eang o dasgau nodedig yn gymwys, megis cynhyrchu fideo, testun, delweddau, sgwrsio mewn iaith ochrol, cyfrifiadura, neu gynhyrchu cod cyfrifiadurol. Mae'r cytundeb dros dro yn darparu bod yn rhaid i fodelau sylfaen gydymffurfio â rhai penodol rhwymedigaethau tryloywder cyn iddynt gael eu rhoi yn y farchnad. Cyflwynwyd trefn llymach ar gyfer 'effaith uchel' modelau sylfaen. Mae'r rhain yn fodelau sylfaen sydd wedi'u hyfforddi gyda llawer iawn o ddata a chyda chymhlethdod uwch, galluoedd, a pherfformiad ymhell uwchlaw'r cyfartaledd, a all ledaenu risgiau systemig ar hyd y gadwyn werth.
Pensaernïaeth lywodraethu newydd
Yn dilyn y rheolau newydd ar fodelau GPAI a'r angen amlwg am eu gorfodi ar lefel yr UE, a Swyddfa AI o fewn y Comisiwn sydd â'r dasg o oruchwylio'r modelau AI mwyaf datblygedig hyn, cyfrannu at feithrin safonau ac arferion profi, a gorfodi'r rheolau cyffredin ym mhob aelod-wladwriaeth. A panel gwyddonol o arbenigwyr annibynnol Bydd yn cynghori'r Swyddfa AI am fodelau GPAI, trwy gyfrannu at ddatblygiad methodolegau ar gyfer gwerthuso galluoedd modelau sylfaen, cynghori ar ddynodiad ac ymddangosiad modelau sylfaen effaith uchel, a monitro risgiau diogelwch deunyddiau posibl sy'n gysylltiedig â modelau sylfaen.
Mae adroddiadau Bwrdd AI, a fyddai'n cynnwys cynrychiolwyr yr aelod-wladwriaethau, yn parhau i fod yn llwyfan cydgysylltu ac yn gorff cynghori i'r Comisiwn a bydd yn rhoi rôl bwysig i Aelod-wladwriaethau ar weithredu'r rheoliad, gan gynnwys cynllunio codau ymarfer ar gyfer modelau sylfaen. Yn olaf, an fforwm cynghori ar gyfer rhanddeiliaid, megis cynrychiolwyr diwydiant, busnesau bach a chanolig, busnesau newydd, cymdeithas sifil, ac academia, yn cael eu sefydlu i ddarparu arbenigedd technegol i'r Bwrdd AI.
cosbau
Gosodwyd y dirwyon am dorri'r ddeddf AI fel canran o drosiant blynyddol byd-eang y cwmni troseddu yn y flwyddyn ariannol flaenorol neu swm a bennwyd ymlaen llaw, pa un bynnag sydd uchaf. Byddai hyn yn € 35 miliwn neu 7% ar gyfer torri'r ceisiadau AI gwaharddedig, € 15 miliwn neu 3% ar gyfer torri rhwymedigaethau'r Ddeddf AI a € 7,5 miliwn neu 1,5% ar gyfer cyflenwi gwybodaeth anghywir. Fodd bynnag, mae'r cytundeb dros dro yn darparu ar gyfer capiau mwy cymesur ar ddirwyon gweinyddol i fusnesau bach a chanolig a busnesau newydd rhag ofn y bydd darpariaethau’r Ddeddf AI yn cael eu torri.
Mae'r cytundeb cyfaddawd hefyd yn ei gwneud yn glir y gall person naturiol neu gyfreithiol wneud cwyn i'r perthnasol awdurdod gwyliadwriaeth y farchnad ynghylch diffyg cydymffurfio â’r ddeddf AI a gall ddisgwyl yr ymdrinnir â chwyn o’r fath yn unol â gweithdrefnau penodedig yr awdurdod hwnnw.
Tryloywder a diogelu hawliau sylfaenol
Mae'r cytundeb dros dro yn darparu ar gyfer a asesiad effaith hawliau sylfaenol cyn i system AI risg uchel gael ei rhoi ar y farchnad gan ei defnodwyr. Mae'r cytundeb dros dro hefyd yn darparu ar gyfer cynnydd tryloywder ynghylch defnyddio systemau AI risg uchel. Yn nodedig, mae rhai o ddarpariaethau cynnig y Comisiwn wedi’u diwygio i nodi y bydd yn rhaid i rai defnyddwyr system AI risg uchel sy’n endidau cyhoeddus gofrestru hefyd yn y cronfa ddata UE ar gyfer systemau AI risg uchel. At hynny, mae darpariaethau sydd newydd eu hychwanegu yn rhoi pwyslais ar rwymedigaeth i ddefnyddwyr a system adnabod emosiwn hysbysu personau naturiol pan fyddant yn agored i gyfundrefn o'r fath.
Mesurau i gefnogi arloesedd
Gyda'r bwriad o greu fframwaith cyfreithiol sy'n fwy ystyriol o arloesi ac i hyrwyddo dysgu rheoleiddio sy'n seiliedig ar dystiolaeth, mae'r darpariaethau yn ymwneud â mesurau i gefnogi arloesedd wedi’u haddasu’n sylweddol o gymharu â chynnig y Comisiwn.
Yn nodedig, mae wedi cael ei egluro bod AI blychau tywod rheoleiddiol, sydd i fod i sefydlu amgylchedd rheoledig ar gyfer datblygu, profi a dilysu systemau AI arloesol, hefyd yn caniatáu ar gyfer profi systemau AI arloesol mewn amodau byd go iawn. At hynny, mae darpariaethau newydd wedi'u hychwanegu sy'n caniatáu profion o systemau AI yn amodau'r byd go iawn, o dan amodau a mesurau diogelu penodol. Er mwyn lleddfu'r baich gweinyddol ar gwmnïau llai, mae'r cytundeb dros dro yn cynnwys rhestr o gamau i'w cymryd i gefnogi gweithredwyr o'r fath ac mae'n darparu ar gyfer rhai rhanddirymiadau cyfyngedig sydd wedi'u nodi'n glir.
Dod i rym
Mae'r cytundeb dros dro yn darparu y dylai'r ddeddf AI fod yn berthnasol ddwy flynedd ar ôl iddo ddod i rym, gyda rhai eithriadau ar gyfer darpariaethau penodol.
Y camau nesaf
Yn dilyn cytundeb dros dro heddiw, bydd gwaith yn parhau ar lefel dechnegol yn yr wythnosau nesaf i gwblhau manylion y rheoliad newydd. Bydd y llywyddiaeth yn cyflwyno'r testun cyfaddawd i gynrychiolwyr yr aelod-wladwriaethau (Coreper) i'w gymeradwyo unwaith y bydd y gwaith hwn wedi'i gwblhau.
Bydd angen i'r ddau sefydliad gadarnhau'r testun cyfan a chael ei adolygu'n gyfreithiol-ieithyddol cyn ei fabwysiadu'n ffurfiol gan y cyd-ddeddfwyr.
Gwybodaeth cefndir
Mae cynnig y Comisiwn, a gyflwynwyd ym mis Ebrill 2021, yn elfen allweddol o bolisi’r UE i feithrin datblygiad a defnydd ar draws y farchnad sengl o AI diogel a chyfreithlon sy’n parchu hawliau sylfaenol.
Mae'r cynnig yn dilyn dull sy'n seiliedig ar risg ac yn gosod fframwaith cyfreithiol unffurf, llorweddol ar gyfer AI sy'n ceisio sicrhau sicrwydd cyfreithiol. Nod y rheoliad drafft yw hyrwyddo buddsoddiad ac arloesedd mewn AI, gwella llywodraethu a gorfodi'r gyfraith bresennol ar hawliau sylfaenol a diogelwch yn effeithiol, a hwyluso datblygiad marchnad sengl ar gyfer cymwysiadau AI. Mae'n mynd law yn llaw â mentrau eraill, gan gynnwys y cynllun cydgysylltiedig ar ddeallusrwydd artiffisial sy'n anelu at gyflymu buddsoddiad mewn AI yn Ewrop. Ar 6 Rhagfyr 2022, daeth y Cyngor i gytundeb ar gyfer dull gweithredu cyffredinol (mandad negodi) ar y ffeil hon a chynhaliodd drafodaethau rhyng-sefydliadol â Senedd Ewrop ('trilogau') ganol mis Mehefin 2023.
Mae EU Reporter yn cyhoeddi erthyglau o amrywiaeth o ffynonellau allanol sy'n mynegi ystod eang o safbwyntiau. Nid yw'r safbwyntiau a gymerir yn yr erthyglau hyn o reidrwydd yn rhai o eiddo Gohebydd yr UE.
