Video Player
00:00
00:00
20:58
None
中文
Use Up/Down Arrow keys to increase or decrease volume.
S
@
你正在觀看的情境是時候了。
為了援助
[音樂]
解碼 歡迎來到 AI 解碼，這就是。
一週中我們深入探討的時刻。
最引人注目的故事在於
人工智慧的世界中，這
這週的網路安全，這需要多長時間才能...
需要一位高級黑客才能突破...
最複雜、最強大的人工智慧模型。
我們建造的這些模型需要 30 分鐘才能完成。
本週發生的事情，金融時報刊登了一篇...
獨家專訪神秘的...
無面黑客，名為 Plenny 的...
提示者，他正在進行壓力測試或...
破解大型語言模型
微軟的 Chat GPT 和谷歌擁有的這些模型。
一直在建立一個道德的線上戰士。
他是國際努力的一部分。
引起人們對...缺陷的注意。
他認為最大的科技公司。
正在將利潤置於安全之前，如果...
你認為這在某個地方存在風險嗎？
未來再想想，僅僅兩週前...
前，俄羅斯的網絡罪犯正在殺害...
使用先進的人工智慧工具來尋找...
進入 NHS 電腦系統的途徑，數十個...
數千名患者在英國曾經...
姓名、出生日期和私人資訊。
在暗網上發布的信息。
當測試公司Cinis拒絕...
付贖金時，駭客加密了...
重要資訊使得這一切變得...
兩家 NHS 醫院的系統變得無法使用。
那麼我們應該有多擔心呢？有哪些...
對於那些...的企業來說，會有什麼影響呢？
正在轉向人工智慧以改善他們的...
系統，今晚我們將聚集在一起...
前駭客Conor Lehi，現在是首席執行官。
人工智慧安全公司 Conjecture 的首席執行官 Darl。
Flack 在這裡，擔任網絡安全公司 Blockfish 的首席執行官，
一如既往，幫助我們指導的專家
和主持人 Stephanie Hair。讓我
先從你開始，Stephanie。
提示器所稱的白帽子是什麼？
一個友好的駭客，對吧？
是的，這些是隱藏在陰影中的好人，
他們正在對系統進行壓力測試。
他們能做到什麼呢？
他們能夠獲得大型語言模型。
模型來做一些他們不應該做的事情。
能夠做到這些的都是有保護措施的。
鐵軌，它們是用規則編碼的，並且
破解模型就像想像你
如果你有一個類似青少年的孩子，你會怎麼做？
在家裡，試圖玩弄一個
遊戲，看看他們能否破解它。
破解系統的許多工程師。
已經這樣成長並接受訓練的駭客。
他們喜歡這樣做，幾乎無法抗拒。
做這件事，我其實蠻喜歡的。
提示者的論點是他實際上是
為這些公司免費工作。
應該自己去做，以帶來
吸引公眾的注意力，所以我們在談論
關於編寫惡意軟體，我們在談論
關於展示如何 SC 呃，詐騙者可以
創建腳本讓人們點擊。
連結，這是一種你可以注入的方式。
各種非常惡劣的代碼進入。
人們的醫院，正如我們剛剛看到的。
這是一個非常柔軟的目標，非常成熟。
目標不僅是醫院，還有學校和個人。
而且這只會不斷增長，這只是個開始。
不斷增長的問題，因此我們剛剛經歷了上一次。
上個月，AI 安全研究所這裡的。
英國發布了一份。
開創性的報告，全新顯示。
每一個主要的 LLM（大型語言模型）都。
語言模型可以被破解，監禁是的。
如果你喜歡的話，這是相當令人擔憂的。
我今晚穿的紅色。
你知道，表達對我們的團結。
我們這個國家的研究人員。
他們試圖發出警告給。
公眾，對於所有那些公司來說，
正在說我有一點 FOMO（害怕錯過的心態），有點。
害怕錯過的心態，我真的覺得我。
需要與生成式 AI 進行接觸，這。
我在每一位客戶那裡都聽到。
我所接觸的每個團體都真的有。
對於錯過我們所做的事情感到焦慮。
聽到來自 AI 安全研究所的消息，還有。
來自國家網絡安全中心。
在英國這裡，有很多。
這項技術，我們真的應該。
認為這項技術仍處於測試階段，實際上並不算真正的。
準備好了，所以如果你在接觸這項技術，這是有趣的。
從工程的角度來看，但。
如果你是首席執行官或總法律顧問，那就不是這樣了。
誰需要保護你的。
風險，但 Conor 這些。
這些公司有紅隊駭客，他們。
被公司雇用來進行。
那裡，並嘗試找到一條路徑穿過。
系統，為什麼白帽子駭客像是。
你能做到這一點，他們的紅隊。
是
表現不佳，所以在駭客行業中，你。
通常會談論藍隊和紅隊。
團隊，所以紅隊是那些。
嘗試破壞事物，藍隊是那些。
嘗試防禦的人，而這種方式。
通常情況下，紅隊總是。
總是贏，紅隊總是贏，藍隊可以。
只是最小化傷害，而使用人工智慧。
系統，特別是我們所看到的。
由像 Py 這樣的人和許多其他人。
像我這樣的人，我的前同事和我的老朋友。
朋友們，回到你知道的那個時候。
知道 Discord 在線的日子，嗯，那是人工智慧。
在系統的成熟度方面，人工智慧系統仍然非常不成熟。
在安全方面，我們所做的很多事情。
對於網絡安全和安全性來說，簡單地說。
不適用於人工智慧系統。
在其他形式的軟體中，當一個
黑客發現漏洞時，你將會
讓你的程式設計師去查看這個。
系統的程式碼，修復問題，然後
然後部署一個修補程式來解決這個問題。
問題是，人工智慧的問題在於。
人工智慧系統與普通軟體不同。
它們不是逐行編寫的，與。
程式碼，更像是它們是被培育出來的。
它們更像是人工的，像是巨大的。
一堆數字，可以做出偉大的。
事情，但我們並不真正知道如何去。
修補它們，我們可以做一些，你。
你知道OpenAI和其他這些公司。
投資了大量資金來嘗試。
調整這些東西，但正如你所知，佩尼。
其他人也已經證明，這是非常。
在這個時候是無效的，所以。
親愛的，這個越獄的開始。
大約一年前，這些攻擊就開始了。
正如康納所描述的那樣，這些攻擊已經演變成。
這是一場不斷的貓鼠遊戲。
這就是固有的問題所在。
如果你是一家希望能夠的公司，
將其整合到你的系統中，我認為。
艾莉，這始終是一個未知的風險。
嗯，你正在放棄你的數據、你的
資訊，潛在的你的
知識產權、你的品牌和
你的聲譽，並且你將其
放入一個你希望能夠
保護和安全的系統中，因此
組織需要意識到他們在這方面
所承擔的風險。
嗯，正如我們所說，組織並不。
還不知道那些風險是什麼，並且
因為這是一項新技術，所以有
總是會有一點軍備競賽的情況。
將會有捍衛者。
對抗攻擊者的捍衛者已經被提及，並且
所以看著這場軍備競賽，一切都在變化。
最終取決於你想要多快地
跳入這些平台的速度以及多少
你想要提供給他們的數據，正如我們所見。
來自於那個，嗯，研究所，這非常。
嗯，早期階段，測試階段，所以這個。
事情出錯的風險相當。
目前風險相當高，所以，嗯，進行試點。
以合成數據進行的方法，與
匿名化數據將是一個良好的開始，以便於
測試它以確保你獲得的結果是
你所期望的結果類型是
期待的，但如果你直接跳進去
目前你們所有的數據嘗試。
以便在曲線的前端。
你必須意識到這個風險。
你所承擔的風險可能會導致。
成果實現的過程中，這真的很有趣。
這篇文章提供了一些預警。
加州的立法機構將會
將在八月對一項法案進行投票，該法案
將要求州內的任何公司因此
這包括 OpenAI、Google 和其他公司。
Meta 以確保他們不會開發。
具有危險能力的模型，以及。
提示者說，所有的 AI 模型。
都會符合這一要求。
標準，我我只是談論，嗯，嗯，關於。
NHS 模型，Connor，嗯，這是什麼？
系統中弱點是什麼？
那那那是否意味著我們所有的
系統根據你剛才描述的情況。
都面臨這種惡意的風險。
活動，簡短的回答是絕對的。
是的，這是一場完全的災難，這是一個……
完全的混亂，我們的任何方法都不是。
任何方面都不充分，這根本沒有準備好。
在任何方面的安全生產上根本沒有準備好。
董事會讓你有一種……的感覺。
這裡有一些系統是如此接近。
盡可能地無法被駭的系統，這些是……
通常用於軍事背景或……
像核電廠之類的東西，還有……
這被稱為正式驗證的軟體。
為了讓你對此有一個感覺，
開發即使是相對簡單的
一個軟體，假設是嵌入式的。
軟體，例如直升機或……
某些東西雖然不簡單，但像你……
你知道這通常需要……
可能需要幾年的時間來開發。
開發這類東西可能需要……
超過十年，並且可能花費數百萬或……
甚至數億美元，並且……
這是使用我們所掌握的技術。
了解最佳工具和最佳……
研究人員使用的工具是我們已經……
在許多年代中發展出來的人工智慧作為……
它今天實際上只存在了大約……
大約只有幾年的時間，也許是……
十年，所以我們對於我們的理解……
人工智慧模型在內部所做的事情是非常……
與我們的理解相比，這是非常不足的。
其他類型的軟體系統的理解相比，
即使是與其他類型的軟體相比，
系統，我們的安全是非常……
不穩定的，這讓我感到恐懼。我……
因為我在這裡寫下了一個問題……
早些時候問了Daryl，我想，如果……
我們將這項技術整合到……
我們的關鍵基礎設施系統中，那麼……
這就變得非常嚴重了。
有趣的是，Conor使用了關於……
核電廠的術語，但也許這並不是……
遙不可及的，也許我們的關鍵……
基礎設施面臨風險，我認為這與……
新技術的出現，嗯，立法……
總是有些滯後，因此……
組織將開始部署它以……
節省時間以加快運營，如果……
如果在某些情況下部署得太快，則……
那些關鍵的國家基礎設施
環境，那麼總是會有……
風險可能會出現問題，嗯，隨著……
康納在說，嗯，多年來……
花費在確保產品的質量上，以確保……
平台以確保軟體的質量，以便……
當它們被放置在，嗯，關鍵的……
國家基礎設施時，它們的表現應該是……
預期的，真的非常快。
史黛芬妮，我們在談論人工智慧的發展嗎？
人工智慧用來攻擊這些系統，絕對是如此，所以……
你可以使用人工智慧，這樣它會變得越來越……
更加複雜，潛在地……
問題是，什麼時候會……
超越我們的時候，我們將無法……
不一定能夠跟上那場戰爭。
那將會發生在……之間。
機器，好吧，你覺得這很可怕嗎？
接下來是前推特首席執行官傑克。
多爾西警告說，在接下來的5到10年內……
年內，我們將無法再分辨什麼是真實的了。
人工智慧生成的內容將會如此複雜。
內容將會如此，以至於他說……
說就像你身處於一個模擬中一樣。
這些技術進步帶來了……
讓我們所有人更接近奇點的那個時刻。
在我們的進化中，當我們分享這個……
與比我們更聰明的實體共享這個星球，我們……
我們在廣告後再討論這個話題。
歡迎回到《人工智慧解碼》。早些時候這個……
年，在紐約的初選期間。
新罕布什爾州數千名選民被寄送了……
喬·拜登發送了一條信息，你知道的……
當我們的民主黨投票的價值何在。
投票是重要的，您必須保存……
你的投票，為十一月的選舉投票。
我們需要你的幫助來選舉。
民主黨候選人全票支持投票。
這個星期二僅僅使得……
共和黨人在他們尋求連任的過程中……
唐納德·特朗普
再次強調，這是有說服力的，但任何人……
仔細聆聽那通自動電話。
可能會察覺到一些生硬的語言，這……
強調和停頓在錯誤的地方。
這會告訴你有些事情。
這裡面有些不對勁，事實上它已經被……
由一位政治顧問創建，他曾……
使用生成式人工智慧來影響投票。
這顯示了什麼是可能的，並且引發了……
這週出現了一些非常重大的議題，這……
前推特首席執行官及共同創辦人傑克……
多爾西警告說，在未來5到10年內，
現在將不可能去……
區分什麼是真實的，什麼是……
假的，不要相信，驗證。所以即使這個……
談談我所說的一切，不要相信。
你必須親身體驗。
你自己必須去學習。
這將變得非常關鍵，因為……
我們在接下來的5年內將進入這個時期。
到10年，因為影像的方式……
被創造出來的，呃，深度偽造視頻你……
你將無法，你將真的無法知道……
什麼是真實的，什麼是……
假的，幾乎不可能分辨。
這會讓你感覺像是在一個模擬中。
因為一切看起來都會是……
人工製造的，一切看起來都會是……
產出的，這非常重要的是……
你需要轉變你的心態，或者你嘗試去……
轉變你的心態，以驗證……
你認為你需要的事物，通過……
你的經驗，通過你的直覺。
因為你周圍的所有這些裝置……
你的包包和口袋裡的東西，全都是……
從那個神經元的影像中漂浮出來，我……
發送給你，因為所有這些東西……
現在都在你的手機上，你並不是……
沒有在你的……建立那些連結。
大腦
不再是這樣了，這是其中一個故事。
你不禁想知道多爾西先生會怎麼……
像我們所有人一樣，只通過……驗證。
這樣的體驗並不是一個可擴展的……
模型，讓一位科技首席執行官來推薦。
所以這真的很奇怪，我怎麼能知道……
例如在中國報導的內容？
我不在那裡，我在倫敦，我正在錄音。
新聞的整個重點在於我們需要……
一個貢獻者的系統，提出證據……
讓其他人進行同行評審，
然後這些證據被討論為……
真相。我是說，這讓我們回到了……
哲學，什麼是真實或研究……
歷史的研究，我們如何對待來源或……
甚至法律，什麼是證據，什麼是……
不是什麼在法庭上可接受的證據，而是什麼是……
不是告訴每個人我們只是有……
去……知道與我們的……
直覺感覺並不好，你能否……
保護民主，Connor，如果你不能……
區分什麼是真實的，什麼是……
假的，我是說，確實不容易。
這是肯定的，很多東西使得一個……
社會的可能性在於我們能夠達成共識。
某件事情是否真實，如果我們無法……
基本上對於什麼是真實的或……
如果不能，尤其是當事情……
我們相信是真實的事情或不是，可能……
被人們或不符合標準的事物所選擇。
是否考慮到我們的最佳利益。
是為了賣給我們某樣東西，或者讓我們……
生氣，或者讓我們做一些政治上的……
事情，那麼你就無法形成一個國家，你……
在極限情況下，你無法形成一個文明。
這有點有趣，親愛的，他是……
把責任推給我們，因為我會……
說如果你……
無法區分，那就是一個……
對他們來說是一種存在風險，對社會而言……
媒體公司，為什麼你會想要調整……
如果這只是帶給你虛假的……
新聞，絕對是的，我是說，試圖去……
將負擔放在消費者或……
使用者正在轉移責任的部分。
到了錯誤的地方，嗯，是科技……
提供這些的公司……
技術，他們應該負有……
這項技術背後的智慧應該要……
能夠辨別某件事情是否為真。
或者它是否為虛假，最終……
使用者最終是責任的最後一道防線。
防線，如果我們必須使用我們的……
定義，那麼系統就已經失敗了……
到達那個點，那麼……
水印技術，我以為 OpenAI 是……
會對他們的所有內容進行水印處理。
系統產生的水印技術通常是……
被拿出來作為這種嗯解決方案。
但大家都同意這也不是一個……
銀彈，所以讓我們來討論一下，為什麼……
每個人都必須想出……
一種水印技術，這樣……
他們都會達成共識並使用這個……
對於某些事情來說，變得非常有趣。
像區塊鏈這樣的方式，你將能夠……
甚至能夠建立一個證據鏈，如何……
你如何驗證是否存在網絡……
安全性和密碼學原則
我們可以在這個問題中使用的……
是的，它無法擴展，這真的……
真的很密集，所以你知道我們在做什麼？
每次我們檢查一個帖子時要做的事情。
在社交媒體上，我們將不得不……
進行某種解密以查看是否……
這是真的，這就是為什麼這行不通。
你說得對，他們不斷地這樣做。
科技公司將責任推給用戶。
來保護他們的數據，現在要決定……
根據什麼來判斷真實與否。
感覺很奇怪，你知道的，我們的想法。
我們在這個節目中不斷回到的主題是……
是什麼，以及我們剛剛想到的……
在這裡討論的就是這件事持續了多久……
我們要多久才能達到這個目標呢？
被稱為奇點，我的意思是什麼呢？
所謂的奇點是指……
人類歷史上當……
機器變得比那些……
編程它們，直到它們達到的那個點……
不再真正需要我們，這真的……
這是很可能發生的事情，還是只是一個概念呢？
由那些賺錢的人所創造的。
來自未來的科技。
沒有比這個小組更適合討論這個話題了。
那麼，讓我們從你開始，Connor。
你是相信……的嗎？
奇點，還是你是一個懷疑者？
我看不出任何科學上的理由……
目前為止我們擁有的證據顯示……
這不應該是可能的，人類是……
能夠創造的最愚蠢物種。
工業文明，我們是……
首批進化的物種，我們是第一個。
草擬一下，沒有理由我們不能這樣做。
建造人工智慧系統，使用你知道的……
更快，你知道我們的中央處理器（CPU）我們的……
電腦，你知道的，切換大約一個……
比我們的神經元快一百萬倍。
所以即使我們只是讓電腦變得聰明……
作為一個人類，現在假設它運行一個……
比人類快一千倍。
那麼這意味著它可以完成兩年的……
每天思考，相當於兩年的勞動。
每天，我的意思是如果這已經存在的話。
像是，我們知道這就像是……
從技術上來說……
可能的，看看那裡，有……
許多我們稱之為智慧的面向。
其中兩個已經是電腦擁有的。
精通的其中一個是記憶，另一個是……
是微積分，或者說如何正確計算。
那麼……
推理和情感智慧是……
那是天生的還是……
學習的，我的意思是這兩者都有，但我……
我的意思是這兩者都有，你知道的，你打開了……
你的大腦裡有一堆黏糊糊的東西在……
那些是由神經元組成的，這些神經元……
發送電信號到處走，當然。
這是一個相當複雜的系統，這……
大腦是最複雜的器官之一。
宇宙中的事物，但這並不……
我的意思是這並不是我們無法做到的，我們……
現在已經有像 GPT-4 這樣的系統了。
寫作方面比我好得多。
莎士比亞的詩歌，這個……它的……
知道的書比我讀得多得多。
它在理解方面真的很出色。
社交情境和分析情感。
它並不完美，沒錯，但我也不是。
我也不是，你也不是，達瑞爾才是關鍵。
機器變得……
更聰明，發展出情感的……
優越性，然後決定它們……
不想被轉變。
關掉，對，這就是關鍵所在。
他們到底在什麼時候說「其實我在……」呢？
充電，我想這就是為什麼它……
設定護欄真的很重要。
現在要理解如何的原則。
我們應該如何使用人工智慧及其應用案例。
在哪裡是有價值的，然後那裡……
將會是一些地方，在那裡它是非常……
具備那種速度是非常有價值的。
處理那種能力，能夠掃描大量的資訊。
數據，並找到解決方案。
我們一直在掙扎的問題。
數百年，但同樣地……
有些事情是人類非常擅長的。
在同理心方面的事情，
照顧彼此，以及這一點。
親密感和親近感，能夠……
擁有那種，嗯，也許我們必須去看……
在一個不同的未來，那裡的工作負載……
世界的一部分是由人工智慧來執行的。
我們還必須考慮其他的事情。
讓自己保持忙碌，並擁有一個觀點。
對於我們在馬斯洛需求層次理論中的最高層次。
自我實現的層次應該……
我正在進行一場哲學上的討論……
前幾天和某人進行了一次對話。
關於這一點，我相信很多人都在……
在家裡也有這樣的討論，關於我是否……
知道機器無法感受到觸覺或……
愛或恨的情感，它們無法反應。
對於花朵綻放、日落或……
其實它們能嗎？因為這一切都是……
學習的行為，其實還有這個……
智力的問題是否也關乎……
具體化，所以我們存在於一個物理的……
身體，我們知道我們感知事物。
但我也不必在身體上……
觸碰你以感知你的感受。
我在讀取你的情感，機器能做到這一點嗎？
真的，你知道它們無法在物理上做到。
存在於這個世界，除非它們是……
機器人，它擁有感應器和……
相機等等，它並不知道什麼是……
感覺是因為感覺是……
人腦中的生化產物
或者如果你有寵物，某些動物，嗯……
也許所有動物甚至植物……
我們仍在學習，甚至關於……
自然界，所以這方面有很多東西。
討論，你知道什麼是思考。
什麼是智慧，這不僅僅是……
關於機器或甚至人類，這是關於……
成為……的意義是什麼。
活著，你是否總是感覺到我們從未……
有足夠的時間去接觸所有的事情。
這個節目就這樣飛快地過去了。
每週都如此，我可以談論很久。
再談兩個小時關於這個，嗯，謝謝。
謝謝你，Connor，感謝你加入。
再次感謝你，能有你真是太好了。
在節目中，謝謝你，親愛的，我希望……
你會再回來，還有謝謝……
Stephanie，稍微整理一下事項。
在我們結束之前，我們下次將會暫停播出。
下週因為選舉的關係，我們將會暫停播出，但Aid coded將會……
會在下週四回來，來自於……
溫布頓錦標賽，呃，Priia 將會……
將會看看他們的情況如何。
使用人工智慧來改善整體體驗。
網球，不僅僅是網球，看看我……
甚至沒有提到，呃，請加入我們的……
那個