Kumaha Nyandak Pendekatan Mindful mun AI Cutting Turun dina susunan Data bias

Datasets bias sareng AI Étika

Solusi anu dijalankeun ku AI peryogi susunan data janten épéktip. Sareng nyiptakeun susunan data-data éta dipinuhan ku masalah bias implisit dina tingkat sistematis. Sadaya jalma kaserang bias (duanana sadar atanapi teu sadar). Biasina tiasa janten sababaraha bentuk: géografi, linguistik, sosial ékonomi, sexis, sareng rasis. Sareng éta bias sistematis dipanggang kana data, anu tiasa ngahasilkeun produk AI anu ngalanggengkeun sareng ngagedékeun bias. Organisasi peryogi pendekatan anu émut pikeun mitigasi ngalawan bias ngarayap kana sét data.

Conto Anu ngagambarkeun masalah bias

Salah sahiji conto kasohor ngeunaan data ieu set bias anu ngasilkeun seueur pers négatip dina waktos éta nyaéta solusi maca resume anu mihak calon lalaki tibatan awéwé. Ieu kusabab susunan data pakakas rekrutmen parantos dikembangkeun nganggo resume ti langkung ti dasawarsa katukang nalika seuseueurna pelamar parantos janten lalaki. Data anu bias sareng hasilna ngagambarkeun bias éta. 

Conto anu langkung seueur dilaporkeun deui: Dina konperénsi pangembang Google I / O taunan, Google ngabagi sawangan ngeunaan alat bantu dermatology Powered AI anu ngabantosan jalma-jalma ngartos naon anu kajantenan ku masalah anu aya hubunganana sareng kulit, rambut, sareng kuku. Asistén dermatologi nandeskeun kumaha AI ngembang pikeun ngabantosan kasehatan - tapi ogé disorot kamungkinan bias ngarayap kana AI saatos kritik yén pakakasna henteu nyukupan pikeun jalma warna.

Nalika Google ngumumkeun alatna, perusahaan nyatet:

Pikeun mastikeun yén urang ngawangun kanggo sadayana, modél kami nyatakeun faktor sapertos umur, jinis, ras, sareng jinis kulit - tina kulit bulak anu henteu samak sareng kulit coklat anu jarang kaduruk.

Google, Ngagunakeun AI pikeun milarian milarian jawaban kaayaan kulit umum

Tapi hiji tulisan di Wakil saur Google gagal ngagunakeun set data anu kalebet:

Pikeun ngalengkepan padamelan éta, panaliti ngagunakeun set data latihan 64,837 gambar tina 12,399 pasién anu aya di dua nagara bagian. Tapi tina rébuan kaayaan kulit gambar, ngan 3.5 persén sumping ti pasién sareng jinis kulit Fitzpatrick V sareng VI-anu ngagambarkeun kulit coklat sareng kulit hideung atanapi hideung hideung, masing-masing. 90 persén databés diwangun ku jalma anu kulitna adil, kulit bodas langkung poék, atanapi kulit coklat ngora, numutkeun kana panilitian. Salaku hasil tina sampling bias, ahli dermatologis nyarios yén aplikasi éta tiasa disababkeun ku jalma anu henteu bodas.

Wakil, Aplikasi Dérmatologi Anyar Google Henteu Dirarancang pikeun Jalma Anu Kulitna Langkung Gelem

Google ngaréspon ku nyarios éta bakal nyaring alat sateuacan ngaleupaskeun sacara formal:

Alat bantosan dérmatologi AI-Powered kami mangrupikeun puncak tina langkung ti tilu taun panilitian. Kusabab padamelan kami diulas di Alam Kedokteran, kami teras neraskeun ngembangkeun sareng nyaring téknologi kami kalayan ngahijikeun susunan data tambahan anu kalebet data anu disumbangkeun ku rébuan jalma, sareng jutaan gambar perhatian kulit langkung curated.

Google, Ngagunakeun AI pikeun milarian milarian jawaban kaayaan kulit umum

Sakumaha urang ngarepkeun program pembelajaran AI sareng mesin tiasa ngabenerkeun pikeun bias ieu, kanyataanna tetep: aranjeunna ngan ukur siga pinter sabab susunan data na bersih. Dina pembaruan kana papatah pamrograman anu lami sampah di / sampah kaluar, Larutan AI ngan ukur kuat sakumaha kualitas susunan data na ti mimiti get-go. Tanpa koreksi ti programer, susunan data ieu teu ngagaduhan pangalaman latar tukang pikeun ngalereskeun nyalira - sabab ngan saukur henteu ngagaduhan pigura rujukan anu sanés.

Ngawangun data susunan sacara tanggung jawab mangrupikeun inti sadayana kecerdasan jieunan étika. Sareng jalma-jalma mangrupikeun inti solusi. 

AI Sadar nyaéta AI Etika

Bias henteu kajantenan dina vakum. Sét data anu teu étis atanapi bias asalna tina cara anu salah dina tahap pangwangunan. Cara pikeun merangan kasalahan bias nyaéta ngadopsi, tanggung jawab anu dipuseurkeun ku manusa, pendekatan anu seueur di industri anu nyebut Sadar AI. Mindful AI ngagaduhan tilu komponén kritis:

1. Sadar AI nyaéta Berpusat dina Manusa

Ti mimiti janten proyek AI, dina tahapan perencanaan, kabutuhan jalma-jalma kedah janten inti tina unggal kaputusan. Sareng éta hartosna sadayana jalma - henteu ngan ukur sawaréh bagian. Éta sababna pamekar kedah ngandelkeun tim anu beragam jalma dumasar global pikeun ngalatih aplikasi AI janten inklusif sareng gratis bias.

Crowdsourcing susunan data tina global, tim anu beragam mastikeun bias dicirikeun sareng disaring mimiti. Éta rupa-rupa étnis, kelompok umur, génder, tingkat pendidikan, latar sosial ékonomi, sareng lokasi tiasa langkung gampang ningali susunan data anu langkung milih hiji sét nilai tibatan anu sanés, sahingga ngaleungitkeun bias anu teu dihaja.

Tingali kana aplikasi sora. Nalika nerapkeun pendekatan AI anu émut, sareng ngamangpaatkeun kakuatan kolam renang bakat global, pamekar tiasa nyatakeun unsur linguistik sapertos dialék sareng aksen anu béda dina kumpulan data.

Ngadegkeun kerangka desain anu dipuseurkeun ku manusa ti mimiti penting pisan. Éta jalan anu jauh pikeun mastikeun yén data anu dihasilkeun, dikurasi, sareng dilabélan cocog sareng anu diarepkeun ku pangguna akhir. Tapi éta ogé penting pikeun ngajaga manusa dina gelung sapanjang siklus hirup ngembangkeun produk. 

Manusa dina gelung ogé tiasa ngabantosan mesin pikeun nyiptakeun pangalaman AI anu langkung saé pikeun unggal pemirsa khusus. Di Pactera EDGE, tim proyék data AI urang, ayana global, ngartos kumaha budaya sareng kontéks anu béda tiasa mangaruhan koléksi sareng kurasi data latihan AI anu dipercaya. Aranjeunna ngagaduhan alat anu diperyogikeun pikeun ngabandungan masalah, ngawaskeunana, sareng ngalereskeunna sateuacan solusi anu berbasis AI langsung hirup.

Human-in-the-loop AI mangrupikeun "jaring kaamanan" proyék anu ngagabungkeun kakuatan jalma - sareng latar anu beragam sareng kakuatan komputasi gancang tina mesin. Kolaborasi manusa sareng AI ieu kedah ditetepkeun ti mimiti program sahingga data bias henteu janten pondasi dina proyek. 

2. Sadar AI Naha tanggung jawab

Anu tanggung jawab nyaéta mastikeun yén sistem AI bébas tina bias sareng éta dumasar kana étika. Éta ngeunaan émutan kumaha, kunaon, sareng dimana data didamel, kumaha disintésis ku sistem AI, sareng kumaha cara ngagunakeun kaputusan, kaputusan anu tiasa ngagaduhan implikasi étika. Salah sahiji cara pikeun bisnis ngalakukeun éta nyaéta damel sareng komunitas anu teu diwakilan janten langkung inklusif sareng kirang bias. Dina bidang anotasi data, panilitian anyar nyorot kumaha modél multi-tugas multi-annotator anu ngubaran unggal mérek anotator salaku subtask anu misah tiasa ngabantosan masalah poténsial anu aya dina metodeu bebeneran taneuh anu has dimana kaayaan teu pasatujuan anotator tiasa disababkeun ku handapeun-representasi sareng tiasa dipaliré dina agrégasi anotasi kana hiji kanyataan taneuh. 

3. dipercaya

Kapercayaan asalna tina bisnis anu transparan sareng tiasa dijelaskeun kumaha modél AI dilatih, kumaha jalanna, sareng naha aranjeunna nyarankeun hasilna. Usaha peryogi kaahlian sareng lokalisasi AI kanggo ngajantenkeun palangganna ngajantenkeun aplikasi AI na langkung inklusif sareng dipersonalisasi, ngahargaan nuansa kritis dina basa lokal sareng pangalaman pangguna anu tiasa ngajantenkeun atanapi ngarusak kredibilitas solusi AI ti hiji nagara ka salajengna . Salaku conto, bisnis kedah ngarancang aplikasi na pikeun kontéks anu dipersonalisasi sareng lokal, kalebet basa, dialék, sareng aksen dina aplikasi dumasar-sora. Ku cara éta, aplikasi nyandak tingkat sophistication pangalaman sora anu sami kana unggal basa, tina basa Inggris dugi ka basa anu teu diwakilan.

Adil sareng Bhineka

Pamustunganana, AI anu épéktip mastikeun solusi diwangun kana susunan data anu adil sareng rupa-rupa dimana akibat sareng pangaruh tina hasil khusus diawasi sareng dievaluasi sateuacan solusi angkat ka pasar. Ku émut sareng kalebet manusa dina unggal bagéan pamekaran solusina, urang ngabantosan mastikeun modél AI tetep bersih, bias minimal, sareng étika jéntré.

Naon anu anjeun pikirkeun?

Situs migunakeun Akismet pikeun ngurangan spam. Diajar kumaha komentar data anjeun diolah.