向前一步,兩步…或者至少用謹慎。元宣布他們的段任何模型,在相同的呼吸,我們談論ChatGPT和安全,以及能夠檢測的局限性ChatGPT的使用。保羅和Mike分解:
元AI宣布他們的段任何模型
一篇文章從元介紹段任何項目,旨在民主化在計算機視覺圖像分割。這個項目包括段任何模型(SAM)和10億段任何麵具數據集(SA-1B),有史以來最大的細分數據集。
在圖像識別對象的過程分割,因此得名“段任何東西。“這一點很重要,即使你不是超級技術。你有做細分創建計算機視覺係統。但是,直到現在,花了大量的時間和金錢,和定製的培訓。現在,使用山姆,你隻需點擊對象把其中部分隻寫一個文本提示告訴它你想確定什麼對象。
這在不同的行業有廣泛的應用。元引用,它可以被納入增強現實眼鏡立即識別對象你看著和提示您提醒和說明相關對象。
在市場營銷和業務具體來說,Gizmodo稱山姆一個Photoshop魔棒工具演示的類固醇,和它的一個記者用它來做複雜的動態圖像編輯輕鬆通過點擊刪除和調整圖像。
現在,非商業的模型隻能測試,但是考慮到用例,它能找到進入元平台作為創新援助。
保羅和邁克討論營銷人員和商業世界的機會。
ChatGPT有安全問題嗎?
OpenAI網站的狀態顯然,“OpenAI致力於保持強大的人工智能安全並且有廣泛的利益。我們知道我們的人工智能工具為今天的人們提供很多好處。世界各地的用戶告訴我們,ChatGPT有助於提高他們的生產力,提高他們的創造力,提供量身定製的學習經驗。任何技術一樣,我們也認識到,這些工具來與實際風險我們努力確保安全是各級建在我們的係統。”
他們也狀態,“我們相信,強大的人工智能係統應該受到嚴格的安全評估。監管是必要的,以確保采用這種做法,我們積極參與政府最好的這種監管可能采取的形式。”
這是4月5日在網站上聲明回應要求增加人工智能安全,如簽署公開信Elon Musk和其他人,和意大利的完全禁止ChatGPT嗎?
新文章從有線分解意大利為什麼以及如何的禁令可能會刺激更廣泛的監管行動在歐洲聯盟和質疑整個人工智能工具的合法性。當禁止ChatGPT,意大利的數據監管機構引用幾個主要問題的工具。但是,從根本上講,他們的理由禁止GDPR鉸鏈,歐盟廣泛通用數據保護監管隱私法。
專家被連接有兩種方式表示,OpenAI本來可以合法數據根據歐盟法律。首先是如果他們已經同意從每個用戶受到影響,他們沒有。第二個會認為他們有“合法權益”使用每個用戶的數據在訓練他們的模型。專家指出說,第二個將極其困難OpenAI證明歐盟監管機構。意大利的數據監管機構已經連線援引這個防禦“不足”。
在意大利這很重要,因為所有歐盟國家被GDPR綁定。和數據監管機構在法國、德國、意大利和愛爾蘭已經聯係了監管機構來獲得更多的信息在他們的發現和行動。
這也不隻是一個OpenAI問題。很多其他主要的AI公司可能已經訓練他們的模型的方式違反了GDPR。這是一個有趣的談話和主題來保持我們的眼睛。與其他國家效仿嗎?
我們真的可以檢測使用ChatGPT呢?
OpenAI, ChatGPT製造商剛剛出版的稱“我們的人工智能方法安全,”公司的一篇文章列出具體步驟以使其AI係統更安全、更一致,開發負責。
列出的一些步驟包括延遲一般釋放係統,例如GPT-4確保他們盡可能安全、一致被訪問之前,保護兒童,要求人們年滿18歲,與父母或13歲或以上批準,使用人工智能工具。他們也調查選項來驗證用戶。他們引用GPT-4是82%不太可能對不允許請求作出回應的內容。
尊重隱私保護的其他措施包括通過出售他們的服務不使用數據,做廣告,或者配置文件的用戶。他們還說他們的工作從模型中刪除個人信息成為可能。最後,他們致力於改善事實的準確性。他們說GPT-4是40%更有可能產生事實的內容比gpt - 3.5。
為什麼是現在?我們有信心他們負責任地發展人工智能?
聽這周的事件在你最喜歡的播客的球員,並確保探索下麵的鏈接更多的思想和觀點在這些重要的話題。
這一集由BrandOps,建立了優化你的營銷策略,提供最完整的營銷業績,允許您競爭對手和基準的比較結果。
時間戳
00:03:29——段從元AI
00:9:42——ChatGPT的安全問題
00:22:04——ChatGPT探測器的局限性
00:30:54——在雅安·勒存大語言模型
00:35:30——人工智能指數發布
中引用鏈接
- 主要議題
- 段從元人工智能:
- ChatGPT有一個安全問題:
- OpenAI安全的方法:
- ChatGPT探測器的局限性:
- 快速
- 評論llm雅安·勒存:
- 人工智能指數報告:
觀看視頻
閱讀訪談轉錄
免責聲明:這轉錄人工智能,感謝深,,沒有編輯內容。
(就是)保羅Roetzer:人類曆史上最有成就的人工智能研究人員可以在前進道路不同意,他們經常做。這是健康的。我喜歡這一事實,我們不都像回音室,這正是它需要發生。
(00:00:12)保羅Roetzer:歡迎來到營銷AI,播客,幫助您的業務增長聰明通過人工智能平易近人和可操作的。你會聽到從上作者、企業家、研究人員和高管分享案例研究、策略和技術,有能力改變你的業務和你的事業。
(00:00:32)保羅Roetzer:我的名字是保羅Roetzer。我是營銷人工智能研究所的創始人,我是你BETVlCTOR1946伟德的主人。
(00:00:42)保羅Roetzer:歡迎來到42集營銷AI的節目。我是你的主人,保羅Roetzer,連同我的搭檔麥克壞了的,誰是首席內容營銷研究所首席執行官的我。我們合著的書中,營銷人工智能,人工智能營銷,和未來的業務。而在此之前,我們花了10年在我的機構。
(00:01:03)保羅Roetzer:是我,是你,多久我們左右,大約10年嗎?是的。是的。坦率地說,不知道我的背景。我擁有我的生活之前的營銷機構運行的人工智能研究所。同時在一段時間內,時間在我的生活中,但是我該機構在2020年出售。和我們所有的能量都集中在帶給你最新的信息和教育和事件在人工智能。
(00:01:24)保羅Roetzer:好了,今天的節目中,被帶到我們的品牌行動。感謝品牌運維支持。品牌行動是建立優化你的營銷策略,提供最完整的營銷業績,允許您競爭對手和基準比較結果。領導人用它來知道哪個消息和活動將最有效地改善結果。
(00:01:47)保羅Roetzer:品牌行動也品牌行動也能改善你的生殖營銷與品牌行動,你的內容更原始,有關你的聽眾和連接到您的業務。找到更多,提供一個特殊的偵聽器。訪問品牌行動。io /營銷ai。這是品牌的行動。io /營銷ai。第42集也是第四年度營銷AI也帶到我們的會議,或麥肯myON。
(00:02:23)保羅Roetzer:我聽到它說很多。我們使用梅肯。你可以稱之為任何你想要的。但營銷AI會議回到克利夫蘭。在會展中心對麵搖滾樂名人堂和美麗的伊利湖,7月26日到28日,會議彙集了數以百計的專業人士,也許數千,取決於有多少聽眾想來加入我們在克利夫蘭探索人工智能和營銷,體驗人工智能技術和與其他超前思維下創營銷和商業領袖。
(00:02:53)保羅Roetzer:你將離開梅肯準備下一階段你的AI短期旅程有一個清晰的願景和戰略可以立即實現。另外,你會跟我出去玩,邁克,偵聽器,我們會像一個播客。快樂時光。我需要一些飲料在7月。好吧。但是價格增加4月14日,也就是星期五。
(00:03:14)保羅Roetzer:所以,節省400美元在任何經過今天讓你的梅肯傳球。這是梅肯。這是m i c o n.ai。邁克,三個主題。讓我們滾。
(00:03:27)麥克壞了的:好吧。謝謝保羅。首先,我們要從元新公告的深入,Facebook的母公司,因為他們剛剛宣布它調用段。
(00:03:40)麥克壞了的:任何模型或簡稱為山姆。這是一個模型,該模型可以確定對象在一個圖像。所以即使沒有培訓在一個特定的對象,看到這,山姆能夠識別的對象是什麼,它的組成部分。這是非常重要的。我們不會得到超級技術,但它是非常重要的,因為這個過程叫做所謂的分割識別對象和圖像。
(00:04:09)麥克壞了的:因此,名稱、段。這一點很重要,即使你沒有,你知道,一個數據科學家,工程師,或技術類型,因為分割。為了讓計算機視覺係統做他們直到現在雖然做了大量的時間和金錢和定製的培訓。但是現在使用類似的山姆,你隻需點擊對象段所有的他們,理解的形象。
(00:04:41)麥克壞了的:你甚至可以隻寫一個文本提示告訴模型對象你想確定。所以他們給一個例子就是輸入的貓,它會識別所有貓的照片。現在,曆史上做了更多的時間和精力和金錢。這在不同的行業有廣泛的應用。
(00:05:03)麥克壞了的:所以元給一些例子的模型可能會在不久的將來。例如,你可以看到它納入增強現實眼鏡。所以使用AR眼鏡,像山姆可以立即識別對象,你看,提示您相關的提示和說明。
(00:05:26)麥克壞了的:市場營銷和業務具體來說,有一篇文章在Gizmoto叫做山姆的演示,引用,Photoshop魔棒工具。的一個記者Gizmoto實際使用它做很複雜的動態圖像編輯輕鬆就通過點擊刪除和調整一個圖像。
(00:05:47)麥克壞了的:現在這隻是皮毛。因為現在的模型隻能用於非商業測試。但是考慮到用例,您可以開始看到有許多可能的方法我們可以開始看到這真的先進計算機視覺模型被納入元平台作為創新援助。
(00:06:07)麥克壞了的:所以保羅,當你看到這個公告,你最初的
(00:06:11)保羅Roetzer:的想法嗎?幾件事。我認為一個人。很多人沒有意識到元有一個很大的人工智能研究實驗室。人不是人工智能空間有時會忘記或不知道元是一個主要玩家在這個空間,由Yann LeCun(巡回獲獎的人工智能研究人員,其中現代人工智能之父。
(00:06:36)保羅Roetzer:所以我認為這是一個很好的提醒。任何普通的聽眾,我們的節目,將召回可能談論從元AI西塞羅,這是一個,一個很酷的,研究模型,研究論文和模型。所以我認為隻是一個提醒,元是ai做一些非常有趣的事情。兩個,我想跳到我的第一件事是它的開放。
(00:07:01)保羅Roetzer:再次,一些關鍵去雅安·勒存足總什麼時候,Facebook在2013年開始,Facebook的人工智能研究實驗室,他想為一個組織工作,堅持開放的研究原則,分享他們創造的一切。現在,如果你是一個常規的偵聽器,關注空間,現在有一個戰鬥之間的開放和關閉。
(00:07:26)保羅Roetzer:和一些更傳統的開放實驗室OpenAI變得非常封閉,並繼續推動雅安·勒存的開放和共享。所以這個開放,似乎。,這裏的重大突破是一個基本的模型,所以人的能力來構建這個模型之上。
(00:07:45)保羅Roetzer:和開放的兩個數據集。所以他們說具體細分數據需要培訓這樣一個模型不是現成的網絡或其他地方。不同的圖像、視頻和文本,豐富的在互聯網上。如果我們思考如何像GPT-4學語言模型,它隻是去消耗一堆文本數據。
(00:08:05)保羅Roetzer:考慮,穩定擴散或中期的旅程。他們去消費一堆圖片。如果你覺得需要能夠識別與圖像不存在的對象。所以他們基本上建立數據集,使其可用。所以對我來說,最大的外賣。這可能導致爆炸的計算機視覺應用程序和公司。
(00:08:29)保羅Roetzer:所以那些以前不能建立這種東西,因為它需要大量的專業知識和他們沒有數據。他們使其能夠訪問這些開放和建立。是否,你知道的,你可以想象廣告應用,品牌,品牌監控應用,產品開發。
(00:08:46)保羅Roetzer:哦,有所有這些方法你可以考慮使用這種技術。但在此之前,它是構建的東西要困難得多。所以看起來這是一個非常重要的時刻對於那些想要建立在對象和分割。我知道他們說目前他們不能從視頻中提取。
(00:09:04)保羅Roetzer:從照片可以提取的視頻,但它不能從移動視頻本身,但他們詞的方式的確讓人聽起來像這樣可以應用到視頻。喜歡同樣的方法能夠適用於提取對象和你知道,掩蔽在視頻。
(00:09:20)保羅Roetzer:就好像它會打開一個全新的領域的創新。和任何時間,一些主要的紙或出來的元模型,通常是值得關注的,前奏可能來自它的其他事情。
(00:09:34)麥克壞了的:明白了。是的,這似乎是一個非常,非常令人興奮的時間在計算機視覺。
(00:09:42)麥克壞了的:沒有什麼激動人心的AI公司嗎?尤其是開放。我們的監管困境。我們上周談論OpenAI在意大利的問題,即意大利生效ChatGPT全麵禁令。這是不幸的是OpenAI。剛剛開始。新文章從有線分解意大利為什麼以及如何的禁令能刺激整個歐盟更廣泛的監管行動,實際上可以質疑整個人工智能工具的合法性。
(00:10:18)麥克壞了的:歐盟作為一個整體。現在,當禁止聊天,C B T意大利的數據監管機構最終引用幾個主要問題與工具,但從根本上講,他們的理由禁止鉸鏈的我們的好朋友G D P R,歐盟廣泛通用數據保護監管下隱私法G D P。
(00:10:41)麥克壞了的:有六個方法從歐盟公民可以合法地收集數據的4億個。這些範圍從諸如有人給你許可使用他們的數據在數據收集是一個合法的合同的一部分,你和別人進入。所以這六個方法你法律上允許得到別人的數據。
(00:11:02)麥克壞了的:現在的問題。OpenAI已從歐盟公民訓練ChatGPT收集個人數據和它的底層模型。實際上連線采訪了幾個監管專家說,看,隻有兩種方式OpenAI可以得到這個數據合法根據歐盟法律,歐盟法律像今天一樣。
(00:11:23)麥克壞了的:首先是如果他們已經同意從每個用戶,他們訓練模型,我們知道他們沒有。第二個會認為他們有報價,合法利益使用每個用戶的數據在培訓他們的模型。現在,專家引述說,第二個參數是歐盟regulat OpenAI極其難以證明。
(00:11:47)麥克壞了的:實際上,連線采訪了意大利的數據監管機構創造了禁令,他們說這種類型的防禦已經報價,不足。這真正重要的意大利,因為所有你以外的國家受gdpr,和本文引用數據監管機構在法國,德國,意大利和愛爾蘭,已經聯係了監管機構來獲得更多的信息在他們所做的,他們的研究結果。
(00:12:13)麥克壞了的:挪威的數據保護董事甚至說,如果一個模型是建立在數據非法收集,它提出了問題:是否合法甚至任何人都可以使用的工具。是建立在這些模型。這不僅僅是一個OpenAI問題了。大量的其他主要的AI公司可能已經訓練模型的方式可能有問題。
(00:12:38)麥克壞了的:首先,保羅,我想問一下,你希望看到額外的監管行動來自這樣的行為都是發生了的
(00:12:46)保羅Roetzer:歐盟?我不是專家,尤其是在歐洲法律和GDPR,但它肯定聽起來這是一個在歐洲越來越多的問題。和我們一直引導之前看看,你知道,AI行為在歐洲,努力構建,看看G D P R和假設這些相同級別的法規限製,將抵達美國。
(00:13:14)保羅Roetzer:頒布後不久,他們在歐洲和你,你就開始想,你知道,是什麼,這個後果是什麼?所以它肯定出現。多米諾效應開始發生在意大利是第一位,然後其他人可能效仿。所以我認為你必須密切關注。
(00:13:35)保羅Roetzer:現在,很明顯的我們現在正在討論的是OpenAI這裏。他們不是唯一的球員,這並不是唯一的語言模型公司。這不是唯一的應用程序,您可以使用。所以我立即開始思考,是什麼影響其他應用程序的生態係統,是建立在這些語言模型?
(00:13:50)保羅Roetzer:再一次,不僅。你知道,GPT-4和GPT-3 OpenAI模型。所以如果你是一個用戶的其中一個AI書寫工具使用這些技術,你在歐洲,這在短期內會立即影響你嗎?這是,這是一個認為我是,似乎這是一個多米諾骨牌效應,它似乎可以超越OpenAI至其它領域。
(00:14:12)保羅Roetzer:然後開始思考同樣的問題與任何生成人工智能技術在歐洲,然後再次的來到美國無論是圖像或視頻或任何地方,如果有,你質疑訓練數據。所以我認為我們以前說過,最大的問題是,有很多的不確定性,所以如果你,特別是如果你在一個更大的企業,你不能像大風險這個東西,如果你是一個小型企業或創業,你可能更願意,你知道,擲骰子,采取一些機會這些東西,看看結果會怎樣。
(00:14:46)保羅Roetzer:但如果你是一個大企業首席信息官,首席執行官,或者你知道的,類似的,向管理層提出建議關於這些技術的集成。我,我想我們整個位置你必須至少是關注。再一次,我們已經討論過,在某些時候,我們可能會需要開始引進一些客人。
(00:15:03)保羅Roetzer:就像你和我,完全沒有這些東西有利於人們表麵點。當我們開始進入這些技術問題和法律問題,這不是我們的領域提供指導的人,你應該做什麼。這是我們的感覺,給你自己的觀點,你需要思考這個問題,與正確的人是一種我們的角色。
(00:15:25)保羅Roetzer:所以我覺得這是,特別是對於我們的歐洲聽眾,我就在你家門口,你要注意。美國你知道,問題就來了,這是我們應該考慮嗎?像Sam Altman會議上我們知道,在華盛頓,立法者和,你知道,這裏關注的一部分,他們已經在訓練數據的擔憂。
(00:15:47)保羅Roetzer:現在有一些其他的想法我有在美國和他們是否會效仿。我,我的本能是他們不會,再一次,這是完全,沒有內部來源。美國擁有世界上每一個動機為美國公司是引領世界發展的這些技術。
(00:16:06)保羅Roetzer:所以有非常小的獎勵現在美國政府減緩這一創新,他們想要做安全。但他們也想要訪問這個級別的技術。我們知道就在上周,總統拜登是召集他的科學和技術小組討論人工智能。
(00:16:26)保羅Roetzer:這就像,這是在橢圓形辦公室的東西。像他們一樣,他們正在積極看人工智能。所以我隻是,我認為所有這些,周圍的相互競爭的利益是否這是好還是壞,是否我們應該減緩這種東西。回到上周談論生活的未來研究所的信,我覺得我一般外賣至少在美國,在那裏,沒有真正的放緩下來。
(00:16:51)保羅Roetzer:我認為這是對這個東西全速前進。我認為有法律問題在訓練數據。我認為他們會以某種方式得到解決,通過法院的情況下,通過定居點,一些東西。,這當然是值得密切關注,再一次,如果你是在歐洲真正接近離子不僅因為你可能沒有訪問ChatGPT,但所有其他生成的人工智能技術。
(00:17:13)保羅Roetzer:如果,如果這個經曆。
(00:17:16)麥克壞了的:這是一個很好的觀點。而且,你知道,有關這個話題,你也可以看到OpenAI做一些自己的因為。同時,他們發表自己的召喚,報價,我們的人工智能方法安全,這是一篇介紹具體步驟,公司正在考慮使其係統更安全、更一致的、更負責任。
(00:17:43)麥克壞了的:和。我發現這可能不是一個巧合,很多步驟都直接關係到意大利的監管機構提出的問題時,禁止它。所以我們談論諸如他們列出他們推遲了一般釋放係統,例如GPT-4確保他們是安全的之前廣泛,廣泛的訪問。
(00:18:05)麥克壞了的:他們保護兒童,特別是意大利的禁令的叫了出來。要求人們年滿18歲或13以上家長批準使用人工智能工具。他們說,他們也在調查選項來驗證用戶,雖然他們不指定看起來像什麼,他們說,尊重隱私,不使用他們收集的數據來銷售他們的服務。
(00:18:29)麥克壞了的:廣告或用戶配置文件。他們還說他們從模型中刪除個人信息工作。最後但並非最不重要的,他們說他們正在取得巨大的進步對改善事實的準確性ChatGPT之類的東西。所以他們說GPT-4。底層模型是40%更有可能產生事實的內容比之前的模型,3.5 G P T。
(00:18:55)麥克壞了的:所以很明顯,為什麼他們現在發布這些東西。是什麼。看到他們的方法。做給你的信心,他們正在開發的人工智能負責任,你沒有嗎
(00:19:11)保羅Roetzer:過嗎?不。我的意思是,聽,看,看。我們知道他們,這是一個主要的焦點。我們,你知道,我認為你可以睜開眼睛整體的動機和他們的問題,你知道,美國國際集團和是否他們在做什麼是人類的最佳利益。
(00:19:29)保羅Roetzer:但是我相信,在其核心,他們有很多很好的人在該組織工作,知道他們建築的危害,他們,他們試圖在競爭格局構建正確的安全與安全措施。現在,它是足夠的嗎?我不知道,但肯定有。
(00:19:52)保羅Roetzer:做出努力。很有意思的時機和劇情簡介你給的原因,因為它基本上反映他們在意大利被禁止。我也可以看到OpenAI的挫敗感,因為很有可能他們做超過其他組織來保護。
(00:20:16)保羅Roetzer:如果你和他們說,好吧,這些開放模型呢?就像他們沒有護欄。和我,所以我認為Sam Altman定位的方式方法,格雷格•布魯克曼你知道,,,我認為格雷格的首席運營官,或者是的,首席運營官,也許,OpenAI的創始人之一是,他們會盡他們的努力這樣做安全,但這些。
(00:20:38)保羅Roetzer:模型將出來,沒有護欄到位。所以我覺得在意大利和其他國家的挑戰,希望借此OpenAI,這是蛇的頭。喜歡那裏,所有這些其他的模型,要出去,你要能更危險模型和定製它們和微調。
(00:21:04)保羅Roetzer:和。我隻是不知道它會停止問題。但是我的意思是,我認為在一天結束的時候,我認為這是好的,他們被關押一個高標準,我認為這是必要的,其他主要技術玩家達到高標準。這些模型能夠做什麼。
(00:21:24)保羅Roetzer:但實際上這不是要慢下來。其他模型會。和作為一個社會,我們隻需要把這些對話的前沿。我認為在一個單獨的公司水平,盡所有可能去確保你使用的工具要以負責任的方式使用。
(00:21:41)保羅Roetzer:因為我認為很長一段時間展望未來,它會歸結到個人公司和個人以及他們如何選擇使用這些工具,因為他們不,他們不是。他們不會粘上了。在意大利ChatGPT可能消失。並不意味著沒有其他方法,可以使用的其他模型。
(00:21:59)保羅Roetzer:這使得很多
(00:21:59)麥克壞了的:有意義的。所以在我們深入幾個快速快速的話題,今天我想我們最後的大話題包括ChatGPT探測器的局限性。根據在《華盛頓郵報》一篇文章裏,一家名為轉它,這是一個流行的教育軟件工具,是激活一個新的人工智能寫作檢測功能。
(00:22:26)麥克壞了的:兩個教育軟件,推出超過10000中等和高等教育機構。基本上他們剽竊探測器和現在包括人工智能編寫檢測工具。這裏有一個問題。該工具不工作作為一個可靠的方法來檢測人工智能生成的內容。
(00:22:49)麥克壞了的:最新的帖子和一些實驗表明,該工具是不可靠的。其實失敗多次檢測充分AI寫的是什麼?人類產生的是什麼?有時候完全失敗。其他時候錯過的部分文本和miscategorize他們。最新的研究表明他們不可靠,它實際上看起來像的首席產品官Turnitin似乎也知道這一點,他說,我們的工作是為教師創建正確定向信息提示對話。
(00:23:24)麥克壞了的:我有足夠的信心把它的市場,隻要我們繼續教育教育者如何使用數據。這裏的問題是,該公司似乎是對衝如何,其軟件可以檢測到人工智能寫作,而教師、教育工作者、和家長可能會帶他們在票麵價值和假設這是準確的,99%的時間。
(00:23:49)麥克壞了的:現在,保羅,我知道這對你產生了共鳴。LinkedIn你寫了一篇關於這個軟件引用這種方法的一些問題。可能你走我們通過更多的你嗎
(00:23:59)保羅Roetzer:在想什麼?我認為這是一個可怕的想法。所以,我,我的基本結論是我們從最新的研究這些東西不工作。
(00:24:09)保羅Roetzer:是的,它可以一定程度的準確性。也許是50%,70%,不管它是什麼,預測,是由人工智能的東西。好失敗的學生和影響他們的職業,他們的聲譽和生活?不,絕對不是。所以我們把。的權力做決定未經訓練的老師。
(00:24:34)保羅Roetzer:所以未經驗證的技術的未經訓練的教師,在突然期待老師成為大型語言模型的專家,所以他們知道一些分數的有效性表示一個學生可能會作弊如果我們要考慮使用AI現在作弊。所以這裏的問題是雙重的。,學校還沒有趕上甚至有一種觀點是否學生應該使用ai,如果是這樣,如何?
(00:25:00)保羅Roetzer:現在有個別老師,你知道,那些不可思議的工作不僅接受這項技術,而是注入進教室,並使用它作為教學指導和助理,讓他們的技術是如何工作的。了不起的榮譽等所有的老師,教授這樣做,但這是例外,而不是。
(00:25:21)保羅Roetzer:所以在大多數情況下,學校係統,教師,管理員也不知道他們是否應該鼓勵使用這些東西,如何將它們集成到教室。現在我們突然的分數告訴老師,也許一個學生作弊,嗯,誰是仲裁員圖,是否他們所做的。
(00:25:40)保羅Roetzer:所以如果學生,如果老師會使判斷這個學生作弊,毫無辦法,學生挑戰這一決定。現在突然間學生慈愛和偏見不屬於這怎樣?現在你開始喜歡老師喜歡預先判斷這個人,可能作弊的人,你知道,所有這些,這隻是充斥著問題然而科技就在那裏。
(00:26:02)保羅Roetzer:像他們發布的,它是什麼,4月4日,這是喜歡,打開功能。現在所有這些老師都得到這個分數,像,是的,這個人可能會被騙了。20%的機會,80%的機會,老師應該做的是什麼信息?所以我覺得這是它的。這是錯誤的時間。
(00:26:21)保羅Roetzer:像我們教育的整體思想教育工作者。好的,我們首先教育教育者如何?我們有真正的對話,你滾出來在擴展的基礎上,你走到哪裏,什麼是語言模型和解釋為什麼這些東西,為什麼分數可能完全不準確以及如何正確定向並不是足夠的失敗。
(00:26:42)保羅Roetzer:的專業,就像我事先有問題,但我非常湊巧的是,我對董事會的青年成就所以我教一個星期類,兩個學生,高中學生,第一個問題我是從一個學生說,他有一個50的50篇。
(00:26:59)保羅Roetzer:然後一個星期後,老師回來,告訴我他有一個零的50因為老師認為他使用了人工智能的寫作工具。和孩子發誓他沒有,我不是說孩子或沒有,但那是它。孩子說,嗯,那是,我不喜歡,我不同意。她說,沒有什麼可以做的。
(00:27:15)保羅Roetzer:你有一個50 0。因此,這是一個真實的事情。現在老師的這些評分係統會告訴他們這一點。我隻是認為這是這樣的失敗,隻是因為我們不可以的意思。我們應該,因為我們可以人工智能寫作檢測工具並不意味著他們應該放在人的手中。
(00:27:35)保羅Roetzer:做決定在人們的期貨。所以,是的,我的意思是,你可以告訴我一些熱衷於這個話題,但是我一樣,有很多機會在教育注入人工智能,這就是我們要討論而不是可能發生的所有優點。
(00:27:55)保羅Roetzer:這是一個恥辱,我希望這適得其反像是真的。這樣我們就能把這種技術和有一個真正的談話是否現在甚至應該在學校。我,再一次,我不知道,把它。就像我在那不認識任何人。如果任何人了,喜歡,聽這個播客的觀點,我們應該理解,也許這裏有一些缺失的信息,但這是一個很徹底的從華盛頓郵報上的文章。
(00:28:20)保羅Roetzer:所以我當然願意聽到的替代品,但是我隻是覺得需要更多對話圍繞這個東西之前我們隻是放開它。
(00:28:31)麥克壞了的:有沒有辦法在這裏,在你看來,把魔鬼重新放回瓶子裏嗎?隻是,我的意思是,你有一個機會,學校將會意識到這是一個可怕的想法,。
(00:28:41)麥克壞了的:停止使用的技術?還是更多的我們需要更多的意識和教育現在我們堅持前進
(00:28:49)保羅Roetzer:的方法嗎?是的,我不知道。我不是,我不知道剛才的程度回絕實際上是采用,你知道,在每個老師的水平。如果是一樣,如果真正的作為,一個權威的來源。
(00:29:00)保羅Roetzer:所以我可能要做更多的家庭作業,你知道,這個功能的使用率會。你可能有一群人一樣,我不知道,,我不會使用它。我不明白是說什麼。和其他人可能會依賴它。所以如果他們,如果他們信任這是剽竊檢測工具和自信地做它,那麼我認為無論軟件公司提出,你會相信這是一個,一個真正的預測評分。
(00:29:22)保羅Roetzer:我以為我看到了一些像的影響,準確,像根據他們98%的時間。但是,你知道,16例,《華盛頓郵報》給了肯定是無處可接近98%。我還沒有看到一個研究報告說任何人工智能檢測工具可以接近98%。所以,再一次,就像你必須牢記的是這是一個種族。
(00:29:44)保羅Roetzer:隻是,即使它,即使它周二出來是98%準確的,30天現在應該有機會50%。因為麵具人工智能的方法創建的內容,所以它不會遇到像我創建它。如果遊戲,我要使用人工智能,像我要,我是一名學生,我知道我要惹上麻煩。
(00:30:05)保羅Roetzer:如果我使用的技術提供給我寫我的論文,我會找到一個方法來掩蓋了一個事實:我使用它。我會去一些其他應用程序,然後疊加的麵具我創建它,以便它不能檢測到,把它在軟件。我們真的想玩那個遊戲嗎?鼓勵孩子們找到更多創造性的方法。
(00:30:22)保羅Roetzer:基本上這是做什麼,因為這不會是萬無一失。所以你不會,你不會得到百分之一百的準確率。為什麼,為什麼還要玩這個遊戲呢?就像它一樣,它似乎是錯誤的事我們應該做的。我們應該關注好的可以做教具和個性化的教學為學生助理和豐富的教育方式,不是教他們獲得係統更先進的技術。
(00:30:48)麥克壞了的:明白了。這裏深入一些快速的話題,首先,我們有一些很棒的Twitter評論Yann LeCun(我們經常談論
(00:31:00)保羅Roetzer:播客。前麵提到的主要是我們的人,我們元的家夥。
(00:31:03)麥克壞了的:是的。他是首席元人工智能科學家。對於那些不知道的人,人工智能的曆史,他也基本上的教父之一現代人工智能基於他的研究在過去的幾十年。
(00:31:17)麥克壞了的:和他,我們還應該注意與我們要討論什麼,他口頭上站出來反對,周圍的一些言論公開信AI暫停人工智能研究的更多。極端觀點AI可能是多麼不安全,他常常試圖從更多的討論人工智能工程的角度而不是其他的一些評論和顏色。
(00:31:48)麥克壞了的:他在推特上回應一個N P R故事談到的一些細微差別聊天機器人和人工智能在醫學領域中使用。他給了我們一些很好的提醒。關於大型語言模型。他說,跟著我。當前汽車倒退llm大型語言模型非常有用,因為寫作艾滋病。
(00:32:11)麥克壞了的:是的。即使對於醫學報告中引用的N P R兩條,他們並不像事實信息的可靠來源。三、寫作幫助就像駕駛援助。你的手必須保持在鍵盤上削減輪。現在,保羅,我們剛剛AI作家峰會,我們談論很多的來龍去脈如何思考和考慮在使用這些工具。
(00:32:37)麥克壞了的:你覺得,Jann提醒在評論?
(00:32:41)保羅Roetzer:是的,我也正是我們談論作家的峰會。這些東西都是寫援助,而不是替代品。我隻是,我認為開車的類比援助的想法是好的。即使你有自動駕駛儀的特斯拉,你仍然要保持你的手在方向盤上。
(00:32:59)保羅Roetzer:這整個想法,我們不是試圖智能自動化的作家。和這些語言模型不能夠智能自動化的寫作工作。他們,你必須有人類的循環。他們做的東西,他們產生幻覺,他們不知道事實是什麼。甚至聊天底部的便宜,你說喜歡可以讓人們,地方,事實,錯誤,因為它不知道任何事情。
(00:33:23)保羅Roetzer:它讓預測單詞。有這麼多的誤解,這些東西的能力,我認為這是一個非常簡潔的三個點是一個寫作的援助。不可靠的事實和人類已經在循環,就像那些三件事。真的,真的好re再保險提醒人們,我們今天在與語言模型和Jann PO的意見,我們將繼續與語言模型。
(00:33:50)保羅Roetzer:他認為,我們將進入另一個時間,但他不相信語言模型是真正的一般智力的道路,這將。再次,更深層次的潛水。還有一次,不是一個快速的話題。
(00:34:01)麥克壞了的:很好。隻是好提醒人們,沒有一個答案或觀點甚至在人工智能領域最專業的人。
(00:34:12)麥克壞了的:我的意思是,當我們聽到這些評論關於禁止ai,禁止ChatGPT,公開信。僅僅因為Elon Musk信跡象並不意味著每一個人工智能研究人員同意。人們喜歡很嚴重,雅安·勒存很多這些東西對立的觀點。有對話,有爭論,有分歧。
(00:34:32)保羅Roetzer:這很好,就像我們總是說。的一部分,我們的角色是帶給你的信息所以你可以形成自己的觀點。就像我們的觀點的東西不一定是你的觀點,通常不應該你的觀點。浮出水麵很重要的話題讓你去做自己的工作。
(00:34:50)保羅Roetzer:然後你需要,你需要找到觀點的集合。就像生活中其他的事情。你必須找到一個透視圖集合,然後你需要綜合這些觀點和計算出你的觀點就是你自己。是的。像丫Yasua本是一個主要的意大利那封信。
(00:35:06)保羅Roetzer:嗯,Yaha Yasua和簡一起獲得了將獎傑夫•辛頓。喜歡,是的,甚至有人類曆史上最有成就的人工智能研究人員可以在前進道路不同意,他們經常做。這是健康的。其實我喜歡,我喜歡我們的回音室都不喜歡,這就是它需要發生。
(00:35:27)保羅Roetzer:絕對的。
(00:35:28)麥克壞了的:最後但並非最不重要,我們想給的2023 AI指數報告。AI指數的東西被斯坦福研究所推出定期以人為中心的人工智能,基本上他們與許多不同的組織工作,人工智能的進步跟蹤一年不如一年。
(00:35:53)麥克壞了的:許多不同領域的發展。所以我們不會,你知道,通過每一個找到這裏。但他們發現,諸如行業實際上是開始接管,釋放最先進的機器學習模型。在過去,從2014年開始,這些實際上是被學術界發布。
(00:36:13)麥克壞了的:因此,在市場上絕對是一個重大轉變。他們還。引用諸如同比改善許多AI基準實際上仍然是邊際。他們還發現,AI和爭議事件的數量自2012年以來增加了26倍。有噸的例子,在報告中數據和軼事。
(00:36:38)麥克壞了的:一定要看看。我們將在顯示notes鏈接到它。保羅,你最初的感受報告你的一些事情
(00:36:46)保羅Roetzer:發現?不,我的意思是,我們愛的組織。我們功能在市場營銷、人工智能書,這是一個偉大的組織在Twitter上,偉大的組織遵循他們的資源。伟德bv885
(00:36:56)保羅Roetzer:他們做一個了不起的,非常全麵的工作。沒有什麼像,人後的空間和閱讀之前的報告,沒有我跳了出來。我想,哦,哇,我沒想到。像很多這是說過,但是,如果你有,如果你更新的,和你想了解的背景下發生了什麼在一些更大的圖片,即使你剛讀十大外賣在報告的前麵。
(00:37:19)保羅Roetzer:這將給你一個很好的總結的在某種程度上,ai的狀態。所以,偉大的組織,總是一個偉大的報告。我沒有親自帶走大量的像啊哈時刻。但這並不意味著它不是一個很有價值的事,至少瀏覽。如果你找到有趣的領域,教育角或工作影響角,深入部分和閱讀。
(00:37:42)保羅Roetzer:有大量的信息和圖表。太棒了。
(00:37:46)麥克壞了的:保羅,一如既往,謝謝你的洞察力和本周打破人工智能的世界,為我們和我們的聽眾。感謝你的時間和你的見解。
(00:37:57)保羅Roetzer:謝謝每一個人。接下來我們將和你談談。
(00:37:59)保羅Roetzer:謝謝你聽營銷AI。如果你喜歡你所聽到的,你可以在你最喜歡的播客訂閱應用程序,如果你準備繼續你的學習,去www.135long.com。一定要每周訂閱我們的通訊,檢查我們的每月免費在線研討會,探索許多在線課程和專業認證。
(00:38:21)保羅Roetzer:直到下一次,保持好奇和探索人工智能。