隨著科技日漸進步,人臉辨識系統越來越發達,但可能你萬萬都沒想到,這當中卻可能牽涉到種族或其他敏感的人權議題。

曾榮獲 BBC 全球最有影響力女性頭銜之一的軟體工程師 Rumman Chowdhury,專門研究人工智慧與人性道德領域,於今年初加入 Twitter 團隊,積極探討公司一直以來存有偏差的圖像裁剪算法。

Advertisement

#從小立志當科學家

現年約 40 歲的 Rumman Chowdhury,為美籍孟加拉裔的數據科學家,由於從小喜歡看科幻小說,因此開始對科學產生好奇心。在完成與資料科學相關的學業之後,她加入全球最大的管理諮詢和技術服務公司——埃森哲(Accenture),參與人工智慧技術團隊,展現人工智慧的無窮潛力。

#人工智慧複製人類偏見

除了工作以外,Rumman Chowdhury 特別關注「演算法偏差(algorithmic bias)」,因為看似普通的程式設計之中,其用來訓練 AI 進行圖像識別的資料庫,可能會帶有開發者或設計者的偏見。舉例來說,資料庫的 10 萬張關於「護理師」的圖片,全都是以女性為主,那麼在護理師的搜尋結果之中,出現男性護理師的比例就會遠低於女性,而這種狀況恐怕會加深刻板的性別定型印象的隱憂。

而臉部辨識系統也會出現同樣的情況,若是工程師所提供的訓練資料大多為白人男性的影像,那麼僅只適合用於辨識白人男性的臉部,對於黑人或是女性來說,辨識錯誤率不只會提高,而且也帶有歧視與偏見。有鑑於此,Rumman Chowdhury 與研究人員一起開發可以仔細檢查輸入法的數據的工具,並多次確認性別或種族是否會影響結果,為公司和客戶做出更公平的決策。

#致力使演算法設計更合乎道德

憑藉著對科學的熱情,以及想幫助難民習得一技之長,Rumman Chowdhury 與朋友一起創辦「X Institute」,專門提供難民學習資料,增強他們在科學和行銷方面的知識,讓他們有機會能夠展開獨立自主的新生活。除了積極回饋社會之餘,她同時致力使 AI 在設計上更合乎道德,多次在演講中公開表示 AI 決策系統可能對於社會及公眾利益產生的影響,還因此獲得 2017 年 BBC 票選為全球百位具有影響力及啟發性的女性之一

#推動演算法公平性計劃

在辭去 Accenture 的工作後,Rumman Chowdhury 在今年加入 Twitter 並擔任軟體工程師主管一職,隨即與團隊檢討關於 2018 年引入的「焦點演算法」。這個功能主要用以裁切影像,令使用者的預覽圖能夠大小一致,並自動將焦點集中在影像裡較為重要的元素。「我們考量了自動裁切的速度和一致性,以及我們在研究中所看見的潛在風險。」她認為這套演算法所裁切而成的預覽圖,時常會聚焦在女性的胸部和腿部,且經團隊研究後發現,此演算法在分析影像時,剪裁模型偏好女性與白人,導致偏差性的結果,嚴重限制了使用者按自己意願呈現圖片內容的自由,造成偏見及歧視問題。

為減少平台因 AI 所造成的偏見,Rumman Chowdhury 宣布 Twitter 停止自動剪裁圖片,更藉此啟動「演算法公平性計劃」,將透過演算法來評估推文中是否帶有性別和種族偏見,盡力打造可信任的人工智慧。憑藉對於科技的深入理解及對性別、種族歧視的關注, Rumman Chowdhury 將兩者緊密聯結,令偏差性的相關狀況大幅降低,值得大家欣賞。