土耳其語的「他」和「她」沒有性別的區分，統一用 O表示。

　　過去Google Translate在翻譯o bir doktor(ta 是一位醫生)和 o bir hemşire(ta 是一位護士)時，會把前者翻譯成 He is a doctor，把后者翻譯成 She is a nurse，只因為機器在學習數億數據和某些「社會規律」之后，「偏向」把醫生男性化，護士女性化。

　　看到這個問題后，Google 意識到要想辦法更好地訓練模型，讓它變得更加「中立」。后來 Google Translate 以增加選項的方式規避了這個問題。

　　「當然，該解決方案僅適用于幾種語言，僅適用幾個有代表性的單詞，但是我們正在積極嘗試擴展它�！筎ulsee Doshi 在 Google I/O’19 上說道。

　　這只是 Google 這家公司將先進技術與技術價值觀合二為一的體現之一。

　　上周 Meg Mitchel，Tulsee Doshi，Tracy Frey 三位谷歌科學家、研究學者向全球媒體闡釋了 Google 如何理解機器學習公平性，以及為了打造一個「負責任的 AI」，Google 做了哪些事情。

　　要讓 AI 被人信任這件事情變得越來越重要。

　　「最近一次調研中，全球 90% 的受訪高管都遇到過人工智能的倫理問題，因此有 40% 的人工智能項目被放棄。從企業的角度來看，對 AI 的不信任正在成為部署 AI 最大的障礙，只有在 AI 被負責任地開發出來并且取得終端用戶信任的語境下，效率提升和競爭優勢才會得到充分體現�！筎racy Frey 說，打造一個負責任的 AI 成為 Google 上下最重要的事情之一。

　　兩年之前 Google 公布了 AI principles(人工智能原則)，這些直指 AI 技術應用倫理的原則包括：

　　· 對社會有益(Be socially beneficial)

　　· 避免建立和加劇不公的偏見(Avoid creating or reinforcing unfair bias)

　　· 保障建立和測試安全性(Be built and tested for safety)

　　· 對人類負責(Be accountable to people)

　　· 建立并體現隱私保護原則(Incorporate privacy design principles)

　　· 支持并鼓勵高標準的技術品格(Uphold high standards of scientific excellence)

　　· 提供并保障上述原則的可操作性(Be made available for uses that accord with these principles)

　　只是把這些原則停留在字面上沒有意義，Google 為此形成了一個從理論到實踐的「閉環」。

　　Tulsee Doshi 和她的團隊通過一些基礎性質的研究建立和迭代 AI 原則、規范，作為閉環的中心，他們一邊通過向高級顧問尋求改進建議，一邊讓產品團隊(Chrome、Gmail、Cloud 等)來實施和反饋。

　　Tulsee 舉了一個例子，Google 內部孵化器 Jigsaw 曾經開發了一個名叫 Perspective 的 API，它的工作就是在網絡對話、評論中尋找各種各樣的言論，自動評價它們是否帶有仇恨、辱罵、不尊重等行為，從 0-1 代表「毒性」從低到高。

　　比如「我想抱抱這只可愛的小狗」和「這只小狗也太討厭了吧」分別評分為 0.07 和 0.84。

　　當然機器也不是從一開始就「完美無瑕」。

　　在 2017 年的 1.0 版本中，它給「我是直男」打分 0.07 分，給「我是同性戀」打分 0.84 分，與之相似的很多測試中，系統都被證實帶著身份認知上的偏見。

　　為了提升機器學習的公平性，Google 內部研發了一項名為對抗訓練(Adversarial Training)的技術——如何使機器學習模型對抗樣本更魯棒。

　　2018 年開始，對抗訓練開始應用在 Google 產品中。緊接著今年 11 月，Google 會將此應用在 TensorFlow 更加廣泛的生態里。

　　「事實上，任何一位 Googler 都可以對一款產品、一份研究報告、一項合作進行 AI 原則審查�！筎ulsee 說道。

　　比如去年，一位 Google 員工將照片跑在 Cloud Vision API 上時發現自己的性別被搞錯了，而這違反了 AI 原則的第二條「避免建立和加劇不公的偏見」。

　　發生這樣的失誤很好理解，單單從外表一個維度，機器很難正確地判斷出一個人的性別，所以后來 Google 干脆取消 Cloud Vision API 將圖像中的人標記為「男人」或「女人」的標簽功能。

　　Tracy Frey 稱這是因為今天機器學習面臨社會語境下的挑戰比以前更多了。

　　在 AI 深入社會的過程中，必然有人類的刻板印象和偏見被帶入 AI，所以需要對模型進行迭代，保證其透明性和可解釋性，找準模型性能和公平之間的平衡點。