3個可怕的人工智能和機器學習錯誤的例子

本內容已獲得營銷AI研究所合作夥伴Pandata的許可重新發布。BETVlCTOR1946伟德

當你的公司部署人工智能時，事情可能會出錯。非常非常錯誤。

怎麼錯了?

你可能會做這樣的噩夢:

• 歧視顧客或員工的機器。
• 侵犯消費者權益的機器。
• 或者機器做出了糟糕的、代價高昂的決定，但不告訴你為什麼做出這些決定。

問題是，對於商業領袖來說，理解人工智能是如何出錯的並不總是那麼容易，因為他們通常不是訓練有素的數據科學家。他們不知道自己不知道什麼，所以他們無法采取措施防止人工智能和機器學習工具對人們和品牌造成損害。

更不用說，人工智能的許多問題都是由技術實施的意外後果造成的，而不是惡意或不當行為。

我們是來幫忙的。

在Pandata，我們的數據科學家了解在構建、采用和部署AI時可能導致的意外後果。我們幫助我們的客戶使人工智能和機器學習既平易近人又合乎道德。

要做到這一點，一個很好的方法是向你展示人工智能如何出錯的可怕例子——準確地說這樣我們就能更好地決定如何讓人工智能走上正軌．

這是因為當企業正確使用人工智能時，所有人都是贏家．你的客戶會得到更好的體驗。你會賺更多的錢，變得更有效率。你的產品會隨著時間的推移而不斷改進。但如果企業未能正確利用人工智能，就會發生相反的情況，企業將為此付出代價。

1.AI這是種族主義

有很多人工智能無意中學會使用種族主義語言的例子。最值得注意的是微軟的聊天機器人Tay．

Tay接受了關於Twitter上發生的對話的訓練，這樣她就可以自動在這個平台上發布和交談。她開始發一些非常無辜的信息。但當Tay開始從錯誤的Twitter對話類型中學習時，事情發生了轉變。

Tay的創造者並沒有預料到機器人會從Twitter上發生的每一次對話中學習，包括那些含有關於某些種族的偏執語言的帖子。

但她就是這麼做的。

很快，Tay開始發布種族主義內容，促使微軟迅速停止了實驗——但在這個過程中成為了一個警示故事。

2.AI:這是對女性的偏見

人工智能在關起門來也能造成真正的破壞．當亞馬遜開始使用人工智能招聘工具來審查新的求職者時，就發生了這種情況。

從紙麵上看，這個工具的工作方式是完全合理的。它掃描了過去10年提交給亞馬遜的簡曆。然後，它試圖找到有助於大規模識別最佳候選人的模式。

唯一的問題是，這些簡曆嚴重偏向男性，這與科技行業的性別失衡是一致的。

因為數據包含未校正的偏差在美國，人工智能係統對求職者做出了錯誤的結論:最優秀的求職者往往是男性，而不是女性。

結果，這個係統開始懲罰女性的簡曆。亞馬遜立即關閉了該係統，但在此之前全國新聞．

3.假裝ceo的人工智能

並非所有人工智能出錯的可怕例子都是錯誤。某些人工智能技術現在如此廉價和強大，以至於任何懷有惡意的犯罪分子都可以利用它們對公司造成嚴重破壞。

“Deepfake”是指人工智能生成的超級逼真的人物視頻和音頻。這不是真的，但它看起來和/或聽起來很像一個真實的人。你可以讓它說任何你想說的話。Deepfakes曾被用來惡意或幽默地模仿政治人物和名人。

至少在一種情況下，它們也被用來欺騙一家公司．

騙子使用音頻深度偽造係統誘騙一家能源公司的高管將數十萬美元彙入他們的賬戶。他們利用人工智能技術來冒充公司的CEO。deepfake首席執行官命令他的下屬進行轉移，他做到了。

對更多人工智能恐怖故事感興趣?這些例子來自一個“糟糕的AI”列表GitHub上．

想要學習如何讓AI正常運行嗎?

注冊營銷人工智能學院的免BETVlCTOR1946伟德費在線課程營銷人員的人工智能介紹．

在這本書中，營BETVlCTOR1946伟德銷人工智能研究所創始人兼首席執行官保羅·羅策爾將教你如何理解和開始使用人工智能。在課堂上，你將學到:

• 人工智能是什麼，為什麼它對營銷人員很重要。
• 如何識別AI用例。
• 如何尋找和評估人工智能技術供應商。
• 如何將人工智能應用在營銷人員到機器規模的五個級別中進行分類^TM．
• 人工智能可以幫助你實現哪些商業成果。
• 如何衡量人工智能工具對公司效率和績效的價值。
• 如何讓你的團隊為試點和擴展AI做好準備。

在短短30分鍾內，你就可以為利用人工智能更好地轉變你的職業和業務奠定基礎。

空間有限!點擊下麵的按鈕，為下一節課預留座位。