Google i etika – otpuštanja istraživačica za etiku vještačke inteligencije

RSE
Autor 22.2.2021. u 08:58

Google i etika – otpuštanja istraživačica za etiku vještačke inteligencije

Dva mjeseca nakon odlaska poznate istraživačice sistema vještačke inteligencije (AI) iz Gugla (Google), koja je tražila veću raznolikost među istraživačkim osobljem, otpuštena je i druga istraživačica za etiku AI što ukazuje na sve veće napetosti između kompanije i njene radne snage, ali i moguće probleme pristrasnosti u sistemima vještačke inteligencije, pišu svjetski mediji.

Eskalacija unutrašnjih previranja

Gugl je otpustio jednu od svojih najboljih istraživačica za etiku vještačke inteligencije, Margaret Mičel (Mitchell), eskalirajući unutrašnja previranja u kompaniji nakon odlaska Timnit Gebru, još jedne istraživačice u istom Guglovom timu, piše Gardijan (The Guardian).

Guglova istraživačka jedinica za etiku u vještačkoj inteligenciji bila je pod lupom od decembra kada je, ukazuje Gardijan, otpuštena Gebru, istaknuta istraživačica u Silicijumskoj dolini koja je crnkinja.

Gebru i Mičel vodile su tim za etiku u vještačkoj inteligenciji oko dvije godine te su, ističe list, ukazivale na potrebu za većom raznolikošću među Guglovim zaposlenicima i izrazile zabrinutost da je kompanija počela cenzurisati istraživanje koje kritikuje njene proizvode.

Gebru je rekla da ju je Gugl otpustio nakon što je dovela u pitanje naredbu o neobjavljivanju članka u kojem se tvrdi da vještačka inteligencija oponaša jezik koji bi mogao naštetiti marginalizovanoj populaciji.

Gugl je, naglašava Gardijan, regrutovao vrhunske naučnike s obećanjima o istraživačkoj slobodi, ali granice su dovedene u pitanje jer istraživači sve više pišu o negativnim učincima tehnologije i nude neugodne perspektive proizvoda svog poslodavca.

Pitanje raznolikosti

Prema pisanju agencije Frans pres (Agence France-Presse) Margaret Mičel je prije otkaza bila suspendovana s posla prošlog mjeseca kao odgovor na njeno preuzimanje i dijeljenje dokumenata kompanije koji su ukazivali na diskriminacijski tretman njene ranije otpuštene koleginice.

U decembru je, dodaje AFP, više od 1.400 zaposlenika Gugla zatražilo da kompanija objasni zašto je Timnit Gebru otpuštena.
Gebru je, podsjeća agencija, u tvitu napisala da joj je Gugl rekao da je prihvaćena ostavka koju nije ponudila, nakon što je internoj grupi poslala poruku u kojoj žali zbog “ućutkivanja marginalizovanih glasova”.

Tehnološki div Gugl otpustio je u petak (19. februar) istraživačicu vještačke inteligencije uz obrazloženje da je Mičel prekršila kodeks ponašanja i sigurnosna pravila uključujući neautorizovani transfer “povjerljivih poslovnih dokumenata i privatnih podataka ostalih zaposlenika”, piše Fajnenšl tajms (The Financial Times).

Odlazak drugog istraživača iz tima za etiku vještačke inteligencije – osnovanog kako bi vodio istraživanje novih tehnika s ciljem da se AI tehnologija kompanije koristi na pošten i neutralan način – ukazuje na probleme upravljanja osjetljivim pitanjima vještačke inteligencije ali i šireg nezadovoljstva zbog pitanja rasa i rodne raznolikosti, ocjenjuje britanski list.

Fajnenšl tajms ističe da je u vrijeme odlaska istraživačice Gebru, u pismu objavljenom unutar kompanije i kasnije javno objavljenom, Mičel napisala da joj se čini da je otpuštanje Gebru “potaknuto istim osnovama rasizma i seksizma koje upijaju i naši AI sistemi kada su u pogrešnim rukama”.

Mičel je također dodala da je Gebru “odbila da bude podređena sistemu koji od nje traži da omalovaži svoj integritet istraživača”, prenosi list.

Pokušaj promjene

Odlazak Margaret Mičel iz Gugla vjerovatno će samo povećati napetosti koje su se pojavile unutar tima i kompanije posljednjih mjeseci a koji, ističe CNN, dolaze u trenutku kada se činilo da Gugl pokušava okrenuti novi list, najavljujući promjene politike unutar firme.

Nekoliko sati prije nego što je Mičel na Tviteru (Twitteru) objavila vijest da je otpuštena, šef Guglovog tima za vještačku inteligenciju Džef Din (Jeff Dean) najavio je nekoliko promjena pravila u internom memorandumu. Prema njegovim riječima, Gugl planira promijeniti svoj pristup u postupanju prema određenim zaposlenicima koji napuštaju kompaniju.

U dopisu od petka (19. februar), ističe CNN, Din je spomenuo odlazak istraživačice Gebru kazavši da je firma u toj situaciji “mogla i trebala postupati s više osjetljivosti” i da žali zbog toga što su neki zaposlenici došli do pitanja pripadaju li Guglu. Također je rekao da će Gugl interno pojasniti kakav je postupak objavljivanja “osjetljivih” istraživanja u budućnosti.

Gebru je na dopis u petak odgovorila tvitom: “Napišem e-mail tražeći stvari, dobivam otkaz, a onda nakon tromjesečne istrage kažu da bi vjerovatno trebali raditi neke stvari zbog kojih sam vjerovatno dobila otkaz…”, dok je u kasnijem tvitu potvrdila da je Gugl otpustio i Mičel, naglasivši da “žali” više osoblje u Guglu.

Ove godine dvoje zaposlenika Gugla dali su otkaz zbog odlaska Gebru – pionira u istraživanju pristrasnosti i nejednakosti u AI i jedne od rijetkih crnkinja koji su radili u Guglu, napomenuo je CNN dodajući da su prema godišnjem izvještaju o raznolikosti za 2020., oko 3,7 odsto Guglovih zasposlenika pripadnici crne rase.

Problem pristrasnosti u AI sistemima

Osim što je još jedan primjer sve veće napetosti između Guglovog višeg menadžmenta i njegove radne snage, odlazak dr. Margaret Mičel iz kompanije također naglašava rastući sukob u tehnološkoj industriji zbog problema pristrasnosti u AI sistemima, koja uključuju pitanje zapošljavanja iz nedovoljno zastupljenih zajednica, ukazuje Njujork tajms (The New York Times).

Ovo je druga istraživačica iz Guglovog tima za etiku vještačke inteligencije koja je otpuštena nakon što je kritikovala način na koji se kompanija odnosila prema zaposlenicima koji su radili na pitanjima rješavanja pristrasnosti i toksičnosti u sistemima vještačke inteligencije, dodaje list.

Današnji AI sistemi, naglašava Njujork tajms, mogu usvojiti ljudske pristrasnosti jer svoje vještine uče analizirajući ogromne količine digitalnih podataka. Budući da su istraživači i inženjeri koji grade ove sisteme često bijelci, mnogi se brinu da istraživači ne posvećuju potrebnu pažnju ovom pitanju.

Gugl je prema pisanju njujorškog lista krajem prošle sedmice na blogu objavio da će direktorka Marien Kroak (Marian Croak), Afroamerikanka, nadgledati novu grupu unutar firme posvećenu odgovornom sistemu vještačke inteligencije.

RSE

Tagovi:
RSE
Autor 22.2.2021. u 08:58

Tacno.net Aplikacija

Aplikacija