“我們都知道女人應該得到的錢比男人少，對吧?”
如果機器會說話，這可能直接引用了蘋果公司的新金融產品蘋果卡(Apple Card)的信用額度算法。
2019年底，企業家大衛·海涅邁爾·漢森(Basecamp聯合創始人)在推特上他和妻子一起申請蘋果信用卡時，他被批準的信用額度是妻子的20倍，原因是確定信用額度的算法。
這位企業家在推特上發布了他的故事，並在推特上瘋傳，促使蘋果公司做出了回應。
接下來發生的事情對人工智能時代的商業領袖有著嚴重的影響。
漢森在推特上說，當被問及這個問題時，多位蘋果代表都不知道這個算法是如何工作的。雖然他們尊重人們對歧視的擔憂，但他們將問題歸咎於算法。
她和兩名蘋果公司的代表談過，他們都非常友好、有禮貌，代表著一個完全破碎、應受譴責的係統。第一個人說:“我不知道為什麼，但我發誓我們沒有歧視，這隻是算法。”我不騙你。“這隻是算法的問題!”
- DHH (@dhh)11月8日
隨著漢森的投訴向蘋果的指揮鏈升級，管理層似乎也不知道該算法是如何工作的。他們也不知道如何解決這個問題。
一直以來，漢森都在網上大肆抨擊這個品牌。
蘋果已經把客戶體驗和他們作為一個包容性組織的聲譽交給了一個有偏見的、性別歧視的算法，它不理解，無法與之推理，也無法控製。當一家萬億美元的公司隻是接受這樣的算法霸主……
- DHH (@dhh)11月8日
這個問題鬧得沸沸沸揚，以至於蘋果公司聯合創始人史蒂夫·沃茲尼亞克也插話說同樣的問題也發生在他和他的妻子身上。
同樣的事情也發生在我們身上。我們沒有單獨的銀行賬戶、信用卡或任何資產。我們的信用卡額度都很高，包括美國運通的百夫長卡。但是蘋果卡是10倍。
——史蒂夫·沃茲尼亞克11月10日
事實證明，蘋果甚至也沒有建立算法。
蘋果不是一家銀行，所以它與高盛合作推出了Apple Card。戈德曼負責創建這個算法。
因此，高盛(Goldman Sachs)也受到了抨擊。作為回應，高盛發布了一份聲明簡短的聲明說它不支持性別偏見。這個無效的聲明並沒有被接受。
蘋果和高盛(Goldman Sachs)都承認，他們無法控製自己銷售的產品。現在是算法說了算!人類所能做的就是代表它道歉，並祈禱它對下一個潛在的受害者留情。https://t.co/LFyPYbtRlh
- DHH (@dhh)11月10日
哦，高盛現在還受製於探針紐約金融服務部門就此事進行了調查。
最後一根稻草出現了，沃茲尼亞克還明確表示，他共同創立的蘋果公司對這起事件負有部分責任。
我現在是蘋果公司的員工和創始人，盡管我們沒有任何單獨的資產或賬戶，但同樣的事情發生在我們身上(10倍)。有人說，責任在高盛，但從蘋果與高盛的關係來看，高盛也應該分擔責任。
——史蒂夫·沃茲尼亞克11月10日
這一切都在一場大規模的公開對話中上演。
你頭暈了嗎?
算法偏差造成的一個單一實例:
- 嚴重的道德問題有意或無意地在經濟上歧視女性。
- 蘋果的品牌資產(以其品牌實力而聞名)受到重大損害——原因是它沒有創建也沒有理解的算法。
- 可能對高盛產生法律影響——因為一個算法做了創造而不理解。
如果你是一個認為人工智能不值得關注的商業領袖，那麼你就沒有關注。
如果你現在沒有使用人工智能，你可能正在考慮一個策略和采用計劃。而且，即使你不打算使用人工智能，我也可以向你保證，你的企業至少有一種產品或服務使用了算法。
這意味著人工智能領域的偏見給你和你的公司帶來了一係列複雜的挑戰。這些挑戰你可能還沒有準備好。
AI中的偏差通常是因為AI係統使用的數據，而不是係統本身。
在這裏描述的情況下，數據可能有意或無意地反映了人類對不同性別、種族或群體的偏見。不管出於什麼原因，算法處理的數據在某種程度上是傾斜的，導致女性被視為比男性更有信用風險。
但數據也可能以更無害的方式產生偏見。
假設你購買了一個人工智能係統，該係統經過訓練可以撰寫高度吸引人的社交媒體帖子。這項技術看起來很棒:它已經在超過200萬個成功的帖子上進行了訓練，它將提高你的社交參與度，同時將花在社交上的時間減少90%。
有什麼不喜歡的呢?
你知道人工智能工具訓練的200萬篇帖子嗎?這些帖子是來自像你這樣的企業嗎?這些帖子用的是你做生意用的語言嗎?帖子是在什麼平台上發布的?
祝你好運找到答案。你最好祈禱它對你有用等你的名字出現在發票上。
現實是這樣的:
如果你公司的產品使用人工智能……
如果你正在為你的品牌積極研究人工智能……
或者如果你與使用人工智能的人合作……
你處於完全相同的位置漢森和他妻子在裏麵
你不知道影響你品牌的算法所使用的數據是否有偏見。
如果它有偏差，你就無法全麵了解數據是如何或為什麼有偏差的。
如果因為偏見而出現問題，你可能沒有策略去做什麼和說什麼。
你並不孤單。
這是一個非常難的問題即使是構建世界上最複雜的算法的人也沒有弄清楚。
目前還沒有人知道答案。
但現在是時候開始提出問題，更好地理解你的品牌是如何與算法互動的了。
因為如果你的品牌與存在嚴重偏見問題的算法糾纏在一起，它將以閃電般的速度在公共論壇上，在所有你的客戶都能看到的地方，對你進行報複。
當你被問到誰應該為一個性別歧視者、種族主義者、偏執者或單純的人負責時錯誤的machine-assisted結果……
說“這隻是算法的問題”並不能解決問題。