IBM退出面部識別業務
6月8日,IBM首席執行官Arvind Krishna呼吁美國國會頒布改革措施,以推進種族公正、反對系統化的種族歧視,同時宣布IBM將退出面部識別業務。
“IBM堅決反對也不會容忍包括面部識別技術在內的任何技術用于大規模監控、種族定性、侵犯基本人權與自由,或其他任何不符合我們價值觀和信任與透明原則的目的。”Krishna在當天遞交給美國國會的信中寫道,“我們認為現在是時候開展全國對話,討論面部識別技術是否或如何被國內執法機構應用。”
IBM作出這一決定,是由于美國黑人喬治·弗洛伊德因警察暴力執法而死后,警察系統改革和種族不平等成為了全美輿論焦點。
據CNBC 當天報道,使用了面部識別技術的多家公司對該技術進行了批判,稱面部識別技術表現出種族和性別偏見。亞馬遜2019年曾讓股東就面部識別技術進行投票,其中2.4%的股東出于公民權和隱私權的擔憂,認為應該禁止將面部識別技術出售給政府機構。
面部識別技術并沒有為IBM帶來很多收入,但由于IBM是一家將政府作為主要客戶的公司,該決定同時涉及商業和道德,因此仍然值得關注。一位知情人士透露,IBM在過去幾周內,聽到了包括員工在內很多選民對面部識別技術應用的擔憂。
“人工智能是個強大的工具,可以幫助執法部門保護公民的安全,但人工智能系統的供應商和用戶有一個共同的責任,那就是確保人工智能能通過偏見測試,尤其是在執法機構使用時,這種偏見測試應該經過審計并形成報告。”Krishna寫道。