Elon Musk,尼克·博斯特羅姆和黛米斯。想想Better-Than-Human人工智能

當人們像企業家Elon Musk (@elonmusk),學術和AI評論員負責人尼克·博斯特羅姆和穀歌DeepMind AI係統的黛米斯(@demishassabis)一起在一個房間裏,你注意。

麝香、博斯特羅姆斯和其他六位高級思想舞台在人工智能領域的聚集有益的AI 2017會議1月7日討論潛在的和認知的機器的危險。主辦的會議未來生活的研究所,一個組織由學者和商人(包括揚塔林,Skype的創始人)維護生活在一個世界,技術飛速發展。

會議主題覆蓋法律將如何受到人工智能和人工智能人類的可能性。作為討論的一部分,一個小組進行的主題“超智”,或一個情報”比最好的人類大腦更聰明的幾乎每個領域,包括科學的創造力,智慧和社會技能,“據博斯特羅姆研究主題。

超智是人工智能進化後的下一個階段稱為人工總體智能或美國國際集團。AGI通訊社是人工智能的智能或比人類更聰明。現在,美國國際集團和超智不存在。我們隻有人工狹窄的情報(ANI),或係統,比人類在一個或幾個地區,並不是每個區域。

了解更多關於關鍵人工智能定義。

即使我們沒有美國國際集團或超智,這是人工智能專家們嚴肅討論主題,其中一些人讀這個博客。雖然它可以成為一個深和哲學交談中,一位AI數千或數百萬次比人聰明的關心一些,包括有益的AI 2017會議小組的成員。

給定主題的價值的當前和未來的影響對於現實世界的人工智能應用程序所使用的營銷人員、高管和企業家想看看我們可以學習小組和提取的一些最有價值的外賣。你可以看的完整視頻麵板在這裏。

超智:科學還是虛構?

有益的AI超智2017會議小組包括以下在人工智能和計算機科學:

• Elon Musk(@elonmusk)- - -一個貝寶的創始人SpaceX和特斯拉。也與OpenAI有關,一個非營利組織,旨在發展負責任的人工智能。
• 尼克·博斯特羅姆——的作者超智:路徑,危險,策略。牛津大學教授。
• 黛米斯。(@demishassabisDeepMind的創始人)- - -一個AI係統被穀歌收購,現在斯作品。
• 揚塔林——物理學家和Skype的創始人。的創始人之一的未來生活。
• Ray Kurzweil——穀歌的工程總監工作在機器學習和人工智能,經過長時間的職業建築科技公司和智能機器(包括出版圖書《奇異點已近》一文)。
• 薩姆。哈裏斯(@SamHarrisOrg)——作者和評論家與哲學和神經科學學位。
• 大衛·查爾默斯——哲學家和中心的副主任,在紐約大學大腦和意識。
• 巴特·塞爾曼說——康奈爾大學的計算機科學教授。
• 斯圖亞特·羅素——加州大學計算機科學教授。

在一起,小組討論關於superinteligence的可能性的問題。有可能由於物理定律?如果可能的話,什麼時候來?如果或當它會怎樣?

調查了有超常智慧的人工智能的可能性時,很明顯所有受訪者認為這一種可能性。單是這一點就值得考慮。觀點是建立幾個假設:

1. 我們所說的人類智慧一個工程問題,不是哲學的。換句話說,給予足夠的時間和處理能力、情報與我們物種的人類以外的可能發展。
2. 沒有可用的物理限製的發展處理能力。給出正確的技術和足夠長的時間,處理能力將會持續增長。
3. 如果1和2是正確的,那麼一個有超常智慧的機器可以給予足夠的時間。一旦達到一定的情報閾值(或略高於人類智能),它有可能迅速改善itself-thus短時間內成為指數更聰明。

結果是一個潛在的超智與重塑整個行星或巨大的權力,正如一些推理,在存在危險。無論前景,這九思想舞台超智堅信沒有原因不應該是可能的。

這就是為什麼倡議OpenAI和仁慈的AI 2017會議存在:如果超智是一個問題當,而不是如果現在,準備處理其發展必須開始。

準備超智

如上所述的麵板上,僅僅因為超智可能的並不意味著它將會發生。像準備一個災難性的小行星撞擊地球的可能性,風險可能非常小,但如此可怕,值得認真思考。小組成員被要求“將它實際上發生的?”和給定的選擇“是”,“沒有”和“很複雜”。

每個專家毫不猶豫地回答“是”,顯然除了開玩笑的麝香和博斯特羅姆說:“很可能。”哈裏斯說一個並發症,他不認為它會發生的唯一方式是如果一個災難性的或改變事件發生,防止超智的崛起。

的問題上當超智可能發生後實現人類AI,該委員會不同意。

一些與會者認為這將是一個人類層麵的AI和超智之間的數年。然而,其他人認為這種發展會發生在幾天後人工智能達到human-comparable功能。

做了一個重要的注意,然而,塞爾曼說艾未未不是一種技術,但是一套相關和聯係學科:“我想我們會超越人類能力的區域,但不是在同一時間,”他說。“這將是一個不平衡的過程。”

超智的爭論突顯出兩個重要的真理對營銷者來說,高管和企業家:

1. 人工智能的自學能力是一個巨大的加速器。有了正確的係統教自己如何改善,指數進展是可能的。公司發展正確的係統首先獲得一個強大的、和複合,先發優勢。
2. 人工智能不是一種技術,但是一套技術。有各種類型的人工智能技術,從自然語言生成等基本形式,先進的基於神經網絡的解決方案。這些技術以不同的速度發展。深刻理解什麼是可能的在每個區域在AI聰明的戰略投資是必要的。

再一次,你可能不需要擔心你的生意如果麝香是正確的:

“我認為如果(人工智能)達到一個閾值的最聰明的最聰明的人,然後我的意思是它可能隻有幾天前它比人類的和聰明的。”

有很多來自的地方。看整個視頻為更多的洞察的危險和超智。