Cysylltu â ni

technoleg gyfrifiadurol

OASI, y peiriant chwilio cyntaf i ddod o hyd i'r algorithmau y mae llywodraethau a chwmnïau yn eu defnyddio ar ddinasyddion

RHANNU:

cyhoeddwyd

on

Rydyn ni'n defnyddio'ch cofrestriad i ddarparu cynnwys mewn ffyrdd rydych chi wedi cydsynio iddyn nhw ac i wella ein dealltwriaeth ohonoch chi. Gallwch ddad-danysgrifio ar unrhyw adeg.

  • Wedi'i greu gan Eticas Foundation, mae'r Arsyllfa Algorithmau ag Effaith Gymdeithasol, OASI, yn casglu gwybodaeth o ddwsinau o algorithmau a ddefnyddir gan Weinyddiaethau Cyhoeddus a chwmnïau ledled y byd i ddysgu mwy am eu heffaith gymdeithasol.
  • Yr amcan yw rhoi mynediad cyhoeddus i wybodaeth am lywodraethau ac algorithmau cwmnïau, a gwybod pwy sy'n eu defnyddio, pwy sy'n eu datblygu, pa fygythiadau y maent yn eu cynrychioli ac a ydynt wedi cael eu harchwilio, ymhlith nodweddion eraill.
  • Mae gogwydd a gwahaniaethu algorithm fel arfer yn digwydd yn seiliedig ar oedran, rhyw, hil neu anabledd, ymhlith gwerthoedd eraill, ond oherwydd y diffyg tryloywder cyffredinol, nid yw'n bosibl gwybod ei holl ganlyniadau ar y grwpiau yr effeithir arnynt o hyd.

Mae Eticas Foundation, sefydliad dielw sy'n hyrwyddo'r defnydd cyfrifol o algorithmau a systemau Deallusrwydd Artiffisial (AI), wedi creu'r Arsyllfa Algorithmau ag Effaith Gymdeithasol (OASI). Mae'r Arsyllfa hon yn cyflwyno peiriant chwilio i wybod mwy am yr offer sy'n gwneud penderfyniadau awtomataidd pwysig ar ddinasyddion, defnyddwyr a defnyddwyr ledled y byd.

Ar hyn o bryd, mae cwmnïau a Gweinyddiaethau Cyhoeddus yn awtomeiddio penderfyniadau diolch i algorithmau. Fodd bynnag, nid yw ei ddatblygiad a'i gomisiynu yn dilyn rheolaethau ansawdd allanol, ac nid yw mor dryloyw ag y dylai fod, sy'n gadael y boblogaeth heb ddiogelwch. Gyda'r peiriant chwilio hwn, gall unrhyw un ddarganfod mwy am yr algorithmau hyn: pwy sydd wedi'u datblygu, pwy sy'n eu defnyddio, cwmpas eu cymhwysiad, p'un a ydynt wedi cael eu harchwilio, eu hamcanion neu eu heffaith gymdeithasol a'r bygythiadau y maent yn eu cynrychioli.

Ar hyn o bryd, Mae OASI yn casglu 57 algorithm, ond mae'n disgwyl cyrraedd y 100 yn ystod y misoedd canlynol. Yn eu plith, mae 24 eisoes yn cael eu cymhwyso yn UDA gan y Llywodraeth a chwmnïau Big Tech. Er enghraifft, ShotSpotter, offeryn algorithm a ddefnyddir gan Adran Heddlu Oakland i ymladd a lleihau trais gynnau trwy feicroffonau monitro sain, ac algorithm i ragweld cam-drin ac esgeuluso plant posibl a ddefnyddir gan Allegheny County, Pennsylvania. Enghraifft arall gan gorfforaeth yw Rekognition, system adnabod wynebau Amazon, a archwiliwyd gan MIT Media Lab yn gynnar yn 2019, ac y canfuwyd ei fod yn perfformio'n sylweddol waeth wrth nodi rhyw unigolyn os oedd yn fenywaidd neu â chroen tywyllach.

Mae'r gwahaniaethu mwyaf cyffredin ar sail oedran, rhyw, hil neu anabledd, a gynhyrchir yn anfwriadol gan ddatblygwyr sydd â diffyg sgiliau economaidd-gymdeithasol i ddeall effaith y dechnoleg hon. Yn yr ystyr hwn, mae'r peirianwyr hyn yn dylunio'r algorithmau yn seiliedig ar sgiliau technegol yn unig, a chan nad oes unrhyw reolaethau allanol ac mae'n ymddangos eu bod yn gweithio yn ôl y disgwyl, mae'r algorithm yn parhau i ddysgu o ddata diffygiol.

O ystyried y diffyg tryloywder ynghylch gweithrediad rhai o'r algorithmau hyn, mae Sefydliad Eticas, ar wahân i lansiad OASI, yn datblygu prosiect o archwiliadau allanol. Y cyntaf yw VioGén, yr algorithm a ddefnyddir gan Weinyddiaeth Mewnol Sbaen i neilltuo risg i fenywod sy'n ceisio amddiffyniad ar ôl dioddef achosion o drais domestig. Bydd Eticas yn cynnal archwiliad allanol trwy beirianneg gwrthdroi a data gweinyddol, cyfweliadau, adroddiadau neu sgriptiau dylunio, i gasglu canlyniadau ar raddfa. Hyn i gyd gyda'r nod o ganfod cyfleoedd i wella amddiffyn y menywod hyn.

“Er gwaethaf bodolaeth dulliau rheoli algorithmig ac archwilio i sicrhau bod technoleg yn parchu rheoliadau cyfredol a hawliau sylfaenol, mae’r Weinyddiaeth a llawer o gwmnïau yn parhau i droi clust fyddar at geisiadau am dryloywder gan ddinasyddion a sefydliadau,” datganodd Gemma Galdon, sylfaenydd Sefydliad Eticas . “Yn ogystal ag OASI, ar ôl sawl blwyddyn rydym wedi datblygu mwy na dwsin o archwiliadau ar gyfer cwmnïau fel Alpha Telefónica, y Cenhedloedd Unedig, Koa Health neu'r Banc Datblygu Rhyng-Americanaidd, rydym hefyd wedi cyhoeddi Canllaw i Archwilio Algorithmig felly y gall unrhyw un eu perfformio. Yr amcan bob amser yw codi ymwybyddiaeth, darparu tryloywder ac adfer hyder mewn technoleg, nad oes yn rhaid iddo ynddo'i hun fod yn niweidiol. ”

Yn yr ystyr hwn, algorithmau sydd wedi'u hyfforddi gyda tecnhiques dysgu peiriannau gan ddefnyddio llawer iawn o ddata hanesyddol i'w "dysgu" i'w dewis yn seiliedig ar benderfyniadau'r gorffennol. Fel arfer nid yw'r data hyn yn gynrychioliadol o'r realiti economaidd-gymdeithasol a diwylliannol y cânt eu defnyddio arno, ond ar sawl achlysur maent yn adlewyrchu sefyllfa annheg na fwriedir ei chyflawni. Yn y modd hwn, byddai'r algorithm yn dechnegol yn gwneud penderfyniadau "cywir" yn ôl ei hyfforddiant, er mai'r gwir amdani yw bod ei argymhellion neu ei ragfynegiadau yn rhagfarnllyd neu'n gwahaniaethu.

hysbyseb

Am Sefydliad Eticas

Mae Sefydliad Eticas yn gweithio i drosi i fanylebau technegol yr egwyddorion sy'n arwain cymdeithas, megis cyfle cyfartal, tryloywder a pheidio â gwahaniaethu sydd yn y technolegau sy'n gwneud penderfyniadau awtomataidd am ein bywydau. Mae'n ceisio cydbwysedd rhwng newid gwerthoedd cymdeithasol, posibiliadau technegol y datblygiadau diweddaraf a'r fframwaith cyfreithiol. I'r perwyl hwn, mae'n archwilio algorithmau, yn gwirio bod gwarantau cyfreithiol yn cael eu cymhwyso i'r byd digidol, yn enwedig i Ddeallusrwydd Artiffisial, ac yn gwneud gwaith dwys i godi ymwybyddiaeth a lledaenu'r angen am dechnoleg gyfrifol o ansawdd.

Rhannwch yr erthygl hon:

Mae EU Reporter yn cyhoeddi erthyglau o amrywiaeth o ffynonellau allanol sy'n mynegi ystod eang o safbwyntiau. Nid yw'r safbwyntiau a gymerir yn yr erthyglau hyn o reidrwydd yn rhai o eiddo Gohebydd yr UE.

Poblogaidd