• 歡迎來到中國機電網    [ 請登錄 ]  [ 會員注冊 ]

                        返回首頁|English|設爲首頁|加入收藏|

                        您現在的位置:中國機電網 - 技術資料
                        微軟沈向洋:技術也有偏見 如何打造負責任的人工智能
                        作者: 佚名 時間:2019-9-3文章來源:訪問量:1728

                        “大部分人都高估了自己在一年裏能做到的事情,同時卻低估了自己能在10年裏取得的成就。”在2019世界人工智能大會,ai for all“二十一世紀的計算”學術研討會上,全球執行副總裁、微軟人工智能及微軟研究事業部負責人沈向洋用這句話表明微軟在人工智能領域裏的投入和專注。

                        在當天的演講中,沈向洋介紹了在過去的一年時間裏,全球各地的微軟研究院取得的成就。例如,微軟開發出了第一個能將數據編碼存儲到dna中的方法,能夠將一座倉庫那麽大的數據中心,壓縮到只有幾個骰子大小;微軟的project natick項目,在大洋深處的海底,建成了一座數據中心;微軟還開發了一套能夠解釋機器學習的開源方案,幫助人們開啓人工智能的黑箱;同時,微軟還創造了一套叫做code jumper的工具,利用不同形狀的模塊,幫助視力障礙的孩子們,學會如何編程。

                        當下,以人工智能爲代表的一系列技術正在讓很多不可思議的事情成爲現實。但在推動技術進步的同時,如何解決技術帶來的社會影響,以及人類將要共同面對的前瞻挑戰?如何避免人工智能技術發展帶來的偏見和歧視?也應該是科技公司需要關注的問題。

                        在當天的演講中,沈向洋就舉了一個例子。微軟的研究團隊,利用稱爲“單詞嵌入”的自然語言處理工具,解決了文本搜索中的性別偏見的問題。

                        所謂單詞嵌入,是一種用來將單詞轉換爲向量數字的算法,它能夠以來自新聞數據或者網頁數據的海量文本數據爲依據,爲每個單詞賦予一個對應的向量數字。通過在向量坐標系中,比對常見詞彙與“他”、“她”這兩個性別代詞之間的關聯度,研究人員發現了一些明顯的特征,例如“sassy(刁蠻)”、“knitting(編織)”這樣的詞更靠近女性,而“hero(英雄)”、“genius(天才)”更靠近男性。算法之所以會爲這些詞彙賦予性別特征,原因在于訓練算法用的基准數據集——通常是來自新聞和網頁的數據——本身,就存在著由語言習慣造成的“性別偏見”,算法也自然“繼承”了人類對這些詞彙理解的性別差異。

                        其結果就是,當微軟用試驗算法,根據梅林達·蓋茨的linkedin信息推測其職業時,得到了“教師”的判斷,但只要將人稱代詞換成“他”,蓋茨夫人的職業就會變爲“律師”。

                        爲了解決這個問題,微軟的研究員提出了一個簡單易行的方案:在單詞嵌入中,刪除區分“他”和“她”的判斷維度。

                        除此之外,據沈向洋介紹,微軟早在2016年就開始關注技術帶來的道德倫理問題。2016 年,微軟 ceo 薩提亞·納德拉發表了一篇關于人工智能共同責任的專欄文章,幾個月後,第一次公開提出了微軟的人工智能准則:公平、可靠和安全、隱私和保障、包容、透明、責任。

                        2017年,微軟出版了《計算未來》一書,對人工智能發展過程中可能引發的道德、法律思考和社會影響,進行了全面詳實的探討。此外,微軟成立了aether(“工程與科研中的人工智能道德”的縮寫)人工智能倫理道德委員會,這個委員會由微軟公司領導、工程師、科研人員、律師等組成,負責對微軟內部與人工智能倫理道德相關的事宜,進行探討和評估。

                        (責任編輯:df378)

                        資訊關鍵詞】:    【打印】【關閉】【返回頂部

                        • 公告
                        • 變更
                        • 公示
                        • 技術
                        熱點資訊
                        • 一周
                        • 一月
                        • 一年

                        資訊投稿

                        郵箱:791495700@qq.com

                        電話:0571-28331524

                        版權所有:中國機電網|中國機電傳媒研究中心

                        地址:杭州市濱江區西浦路1503號濱科大廈11樓(杭二中斜對面) 浙B2-20080178-6

                        聯系電話:0571-87774297 傳真:0571-28290892 Email:donemi@163.com 技術支持:杭州濱興科技股份有限公司