9月27日，由聯(lián)合國婦女署資助支持、瑪娜數(shù)據(jù)基金會主辦的“促進(jìn)人工智能算法性別平等”報告發(fā)布會暨政策研討會在上海舉行，會上發(fā)布了《促進(jìn)人工智能算法性別平等研究報告(2021)》(下稱《報告》)。

　　聯(lián)合國婦女署駐華辦公室高級項(xiàng)目官員馬雷軍、上海市浦東新區(qū)婦女聯(lián)合會副主席國云丹、瑪娜數(shù)據(jù)基金會秘書長張唯、瑪娜數(shù)據(jù)基金會課題組專家負(fù)責(zé)人周旅軍、專家況琨，以及小米集團(tuán)科技委員會技術(shù)向善議題召集人朱汐、信也集團(tuán)首席算法科學(xué)家王春平、Thought Works(中國)數(shù)據(jù)智能團(tuán)隊解決方案架構(gòu)師任添石等各界嘉賓出席本次會議，共同探討如何促進(jìn)人工智能算法中的性別平等，協(xié)同政府、企業(yè)和社會的力量促進(jìn)人工智能的倫理與治理的發(fā)展。

　　馬雷軍首先發(fā)表了主旨演講，他指出在聯(lián)合國可持續(xù)發(fā)展目標(biāo)的17個目標(biāo)工作領(lǐng)域里，性別平等是第5個核心目標(biāo)。中國在促進(jìn)性別平等以及保護(hù)婦女權(quán)益方面，也有很多實(shí)質(zhì)性的舉措，如《民法典》和即將出臺的《中國婦女發(fā)展綱要》等。由瑪娜數(shù)據(jù)基金會實(shí)施的聯(lián)合國婦女署的“促進(jìn)人工智能算法性別平等”項(xiàng)目是聯(lián)合國CGF項(xiàng)目第9批項(xiàng)目招標(biāo)(2019年)的中標(biāo)項(xiàng)目，該項(xiàng)目填補(bǔ)了國內(nèi)關(guān)于人工智能領(lǐng)域性別問題研究的空白。

　　聯(lián)合國婦女署駐華辦公室高級項(xiàng)目官員馬雷軍

　　國云丹肯定了“促進(jìn)人工智能算法性別平等”項(xiàng)目的前瞻性意義，并指出“算法性別平等議題討論尚且處于起步階段，現(xiàn)在討論算法性別治理議題將影響到今后我們所面對的、我們所置身的社會是何種樣貌?！彼岢隽藢λ惴ㄆ妴栴}的觀察，“隨著數(shù)字化轉(zhuǎn)型的開展，性別平等的推動遇到了更大的挑戰(zhàn)。技術(shù)本身無性別偏見，但算法的應(yīng)用使既有的、存在于社會中的性別偏見得到強(qiáng)化”。在瑪娜數(shù)據(jù)基金會的項(xiàng)目開展過程中，浦東婦聯(lián)給予了充分關(guān)注和支持。期待通過該項(xiàng)目撬動社會意識，探索有效的落地措施，發(fā)揮浦東在人工智能數(shù)字化轉(zhuǎn)型路上的引領(lǐng)者角色。

　　上海市浦東新區(qū)婦女聯(lián)合會副主席國云丹

　　據(jù)了解，2019年，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動指南，明確提出要在數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)、產(chǎn)品研發(fā)和應(yīng)用過程中消除偏見和歧視。該委員會近日又發(fā)布了《新一代人工智能倫理規(guī)范》，第十三條特別強(qiáng)調(diào)避免偏見歧視，在數(shù)據(jù)采集和算法開發(fā)中，加強(qiáng)倫理審查，充分考慮差異化訴求，避免可能存在的數(shù)據(jù)與算法偏見，努力實(shí)現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。

　　“正是在這樣的背景下，基金會開展了‘促進(jìn)人工智能算法性別平等’的項(xiàng)目，通過基礎(chǔ)研究和學(xué)術(shù)倡導(dǎo)揭示出算法中存在的性別偏見問題，提煉出有益于促進(jìn)算法性別平等的建設(shè)性意見。”張唯在會上表示，“此外，對企業(yè)開展性別意識及能力建設(shè)，對社會倡導(dǎo)提升對于該問題的認(rèn)知和討論，都是促進(jìn)算法性別平等的舉措?！?/p>

　　據(jù)《報告》介紹，目前人工智能算法的諸多應(yīng)用場景中均存在一定的性別歧視現(xiàn)象。以人工智能開放平臺為例，一張“端著水果籃的男性”圖片被AI人臉識別平臺檢測為“女性”，單獨(dú)截出頭像卻能夠被檢測為“男性”。在就業(yè)場景中，2018年亞馬遜公司的自動招聘算法傾向于給關(guān)鍵詞含“女”字的簡歷打低分，降低了女性工作申請成功率，最后棄用了該招聘算法。

　　某人工智能開放平臺監(jiān)測結(jié)果，截圖于2019年4月

　　“算法中存在性別歧視問題，主要源于訓(xùn)練AI的數(shù)據(jù)集反映了人類社會存在的性別偏見，而算法工程師對這一問題缺乏意識，未將解決性別偏見納入開發(fā)需求，從而使得算法放大了性別歧視?！霸擁?xiàng)目課題組專家況琨向記者解釋算法為何會產(chǎn)生性別歧視問題。

　　《報告》通過專題社會調(diào)研的數(shù)據(jù)顯示，58%的人工智能算法從業(yè)者不知道算法當(dāng)中存在的性別偏見問題，73%的從業(yè)者不知道存在專門針對女性的惡意算法。而對于如何解決這一問題，更是有72%的從業(yè)者不了解數(shù)據(jù)偏誤(或數(shù)據(jù)偏差)的解決方案或技術(shù)措施，80%的從業(yè)者不了解實(shí)現(xiàn)算法公平的解決方案或技術(shù)措施。表明從業(yè)者對算法性別平等的意識及能力較為欠缺，亟需提升。

　　為女性提供更多的科技教育機(jī)會，企業(yè)提供性別平等的職業(yè)準(zhǔn)入、培訓(xùn)、晉升機(jī)會，增強(qiáng)企業(yè)內(nèi)部的性別平等意識培訓(xùn)等，都是解決這一問題的重要舉措。在參與調(diào)研的從業(yè)者當(dāng)中，有72%的從業(yè)者參與的人工智能算法項(xiàng)目中女性開發(fā)者比例少于30%，66%參與的團(tuán)隊中女性決策者比例少于30%。該項(xiàng)目課題組專家負(fù)責(zé)人周旅軍認(rèn)為，提升女性開發(fā)者和決策領(lǐng)導(dǎo)者比例，也將有利于促進(jìn)算法中的性別平等，促進(jìn)科技納入更加多元包容和性別友好的視角。

　　開發(fā)者和程序員等相關(guān)從業(yè)群體對算法偏見與算法公平性的認(rèn)知尚存在很大改善空間。企業(yè)可以采取一系列手段直接干預(yù)算法偏見，在算法產(chǎn)品開發(fā)和應(yīng)用過程中提升性別公平性。《報告》中從開發(fā)、審計、反饋改進(jìn)和應(yīng)用決策四個方面提出建議：

　　1、減少算法模型在開發(fā)過程中的性別偏見。

　　2、公開算法審計結(jié)果，確保數(shù)據(jù)公平性。

　　3、為產(chǎn)品用戶設(shè)置反饋性別偏見的渠道，將公平性需求納入產(chǎn)品改進(jìn)過程。

　　4、在高風(fēng)險場景中，應(yīng)當(dāng)由人而非算法來做出決策。

　　此外，立法為審計可行性提供制度保障、研究機(jī)構(gòu)和社會團(tuán)體開展第三方算法審計等舉措均有利于促進(jìn)人工智能算法性別平等。

　　瑪娜數(shù)據(jù)基金會秘書長張唯

　　對于生產(chǎn)和使用數(shù)據(jù)的個人，周旅軍也提供了幾點(diǎn)建議：1、作為數(shù)據(jù)生產(chǎn)者，認(rèn)識到算法偏見，避免生產(chǎn)出帶有性別偏見的話語；2、將偏見反饋給平臺，參與到算法產(chǎn)品性別平等的改進(jìn)過程中；3、要求企業(yè)公開訓(xùn)練數(shù)據(jù)的審計結(jié)果；4、要求了解算法的使用場景和目的，選擇企業(yè)使用數(shù)據(jù)的方式。

　　張唯在會上強(qiáng)調(diào)，一方面是要在人工智能的倫理層面建設(shè)和倡導(dǎo)性別平等的意識理念和話語體系，另一方面則是要尋找將性別平等觀念落地的途徑和措施，不能只止于反思和批判，要真正將性別平等的理念貫穿于人工智能行業(yè)中組織機(jī)構(gòu)的內(nèi)部運(yùn)轉(zhuǎn)，為其提供可行的操作方法，使算法能夠?yàn)榇龠M(jìn)性別平等服務(wù)。

免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點(diǎn)，亦不代表本網(wǎng)站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如稿件版權(quán)單位或個人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。