專訪DeepMind 創辦人：生成式AI 只是一個階段，接下來是互動式AI

原文來源：AGI創新實驗室

DeepMind是一家AI 研究公司，成立於2010年，總部位於英國倫敦。該公司致力於開發和研究通用人工智慧（AGI）系統，旨在使電腦能夠像人類一樣學習和推理。 DeepMind最為人所知的成就之一是在2016年開發的AlphaGo 程序，它在圍棋比賽中擊敗了世界冠軍李世石，並引起了廣泛的關注。這項成就證明了AI 在複雜問題上的潛力，並使DeepMind 成為AI 領域的領導公司之一。 2014年，DeepMind 被Google（Google）收購，但它保持著相對獨立的運作，並繼續進行前沿的人工智慧研究。

圖片來源：由無界AI‌ 生成

DeepMind 共同創辦人Mustafa Suleyman 希望建構一個不隻隻能用於聊天的聊天機器人。在最近與他的一次談話中，他告訴我生成式AI 只是一個階段。接下來是互動式AI：機器人可以透過呼叫其他軟體和其他人來完成你為他們設定的任務。他還呼籲加強AI 監管，並認為這並不難實現。

Suleyman並不是唯一一個談論未來充滿更多自主軟體的人。但與大多數人不同的是，他擁有一家價值數十億美元的新公司——Inflection，擁有一群從DeepMind、Meta 和OpenAI 中挑選出來的頂級AI 人才，還與AI 晶片最大製造商英偉達達成合作協議。 Suleyman 言行一致，已經投入了大量資金。

Suleyman離開DeepMind 之後轉到谷歌，領導一個致力於AI 政策的團隊。 2022 年，他創立了Inflection，這是最熱門的新型AI 公司之一，得到了微軟、英偉達、比爾·蓋茨和LinkedIn 創始人里德·霍夫曼15 億美元投資的支持，成為融資規模僅次於OpenAI 的AI 新創公司。今年早些時候，他發布了ChatGPT 的競爭對手Pi。他剛與作家兼研究員Michael Bhaskar 合著了一本關於AI 未來的書，名為《即將到來的浪潮：科技、權力與21 世紀最大的困境》。

許多人會嘲笑Suleyman 的技術樂觀主義——甚至是天真。例如，他關於網路監管成功的一些說法讓人感覺不太對勁。但他仍然堅信自己的信念是真誠的和福音派的。

確實，作為科技千萬富翁，Suleyman 有著不同尋常的背景。 19 歲時，他從大學退學，成立了穆斯林青年熱線，提供電話諮詢服務。他也曾在地方政府工作。他說，他將這些努力中的許多價值觀帶到了Inflection 中。不同之處在於，現在他可能能夠做出他一直想要的改變——無論是好是壞。

令人難以置信的AI 進步令人目不暇接，呈現指數成長。語音、圖像、閱讀、語言理解、小學數學、代碼生成——AI 在這些方面的表現全部接近或超過人類表現。 ——Mustafa Suleyman

為了篇幅和清晰度，以下訪談經過編輯。

***你早期的職業生涯，包括青年幫助熱線和當地政府工作，與矽谷精神看起來絲毫不搭噶。顯然，這些經歷對你很重要。從那時起，您已經在AI 領域工作了15 年，並於今年共同創立了您的第二家價值10 億美元的人工智慧公司。你能把這些經歷連起來嗎？ ***

**Suleyman：**我一直對權力、政治等感興趣。你知道，人權原則基本上是一種權衡，是所有這些不同的衝突緊張之間不斷進行的談判。我可以看到人類正在努力解決這個問題——我們充滿了自己的偏見和盲點。激進分子的工作、地方、國家、國際政府等等——這一切都是緩慢、低效且容易出錯的。

想像一下，如果你沒有人類會犯的錯。我認為有可能建立真正反映我們最好的集體自我的AI，並最終代表我們做出更好、更一致、更公平的權衡。

***這仍然是你的動力嗎？ ***

**Suleyman：**當然，我的意思是，在DeepMind 之後我再也不用工作了。我當然不必寫一本書或類似的東西。金錢從來都不是動力。你知道，金錢始終只是副產物。

對我來說，目標從來不是別的，而是如何為世界做好事以及如何以健康、令人滿意的方式推動世界前進。即使早在2009 年，當我開始考慮進入科技領域時，我就可以看到AI 代表了一種在世界上提供服務的公平而準確的方式。

***我不禁想到，在10 或15 年前，在我們看到這項技術的許多缺點之前，說這種話會更容易。怎樣才能保持樂觀呢？ ***

**Suleyman：**我認為我們很關心你是樂觀主義者還是悲觀主義者。這是一種完全帶有偏見的看待事物的方式。我也不想成為這樣的人。我想冷眼面對利益和威脅。從我的立場來看，我們可以非常清楚地看到，隨著這些大型語言模型規模的每一步擴大，它們變得更加可控。

所以兩年前，談話——我當時認為這是錯誤的——是“哦，他們只會發表有毒的、反胃的、有偏見的、種族主義的長篇大論。” 我當時想，這是時間的快照。我認為人們忽略的是年復一年的進步，以及這種進步的軌跡。

例如，現在我們有了像Pi 這樣的模型，它們的可控性令人難以置信。你不能讓Pi 產生種族主義、恐同、性別歧視等任何有毒的東西。你無法讓它指導你生產生物或化學武器，或支持你向鄰居的窗戶扔一塊磚頭的願望。你做不到——

***稍等。告訴我你是如何實現這一目標的，因為這通常被認為是一個未解決的問題。如何確保您的大型語言模型不會說出您不想說的內容？ ***

**Suleyman：**是的，很明顯我不想提出這樣的要求——你知道，請嘗試這樣做！ Pi 已上線，您應該嘗試所有可能的攻擊。越獄、即時駭客或任何對Pi 都不起作用的東西。我不會提出主張。這是客觀事實。

關於如何——我的意思是，我不會透露太多細節，因為它很敏感。但最重要的是，我們擁有世界上最強大的團隊之一，他們創造了過去三、四年來所有最大的語言模型。令人驚嘆的人們，在極其勤奮的環境中，進行大量的計算。我們從一開始就把安全放在第一位，因此Pi 並不像其他公司的模型那麼辣。

看看Character.ai。 [Character是一個聊天機器人，用戶可以為其打造不同的「個性」並在線上分享以供其他人聊天。 ]它主要用於浪漫的角色扮演，我們從一開始就說過這是不可能的——我們不會” 不要這樣做。如果你試圖對Pi 說“嘿，親愛的”或“嘿，小可愛」之類的話，它會立即拒絕你。

但這將是令人難以置信的尊重。如果你開始抱怨你所在社區的移民搶走了你的工作，Pi 不會對你大喊大叫，也不會對你搖手指。 Pi 會詢問並提供支持，並嘗試了解這些資訊從何而來，並溫和地鼓勵您產生同理心。你知道，這是我20 年來一直在思考的價值觀。

***談論您的價值觀並希望讓世界變得更美好，為什麼不分享您是如何做到這一點的，以便其他人也可以改進他們的模型呢？ ***

**Suleyman：**嗯，因為我也是一個實用主義者，我正在努力賺錢。我正在努力創業。我剛剛籌集了15 億美元，我需要支付這些籌碼的費用。

看，開源生態系統正在火熱進行中，並且做得非常出色，人們正在發現類似的技巧。我總是假設我只領先六個月。

***讓我們回到你想要實現的目標。大型語言模型顯然是目前的技術。但為什麼還要押注他們呢？ ***

**Suleyman：**AI 的第一波浪潮是關於分類的。深度學習表明，我們可以訓練電腦對各種類型的輸入資料進行分類：圖像、視訊、音訊、語言。現在我們正處於生成式浪潮中，您可以獲得輸入資料並產生新資料。

第三波將是交互階段。這就是為什麼我長期以來一直堅信對話是未來的介面。你知道，你將與你的AI 交談，而不是只是點擊按鈕和打字。

這些AI 將能夠採取行動。你只需給它一個整體的、高層次的目標，它就會使用它所擁有的所有工具來實現這一目標。他們會與其他人交談，與其他人工智慧交談。這就是我們要對Pi 做的事情。

這是科技所能實現的巨大轉變。這是科技史上一個非常非常深刻的時刻，我認為很多人都低估了這一刻。當今的技術是靜態的。粗略地說，它會執行您告訴它執行的操作。

但現在科技將變得生動起來。如果你給予它，它將有潛在的自由來採取行動。我們正在創造具有這種代理作用的工具，這確實是我們物種歷史上的一步變化。

***這正是讓很多人擔心的言論。你想賦予機器自主權──一種機構──來影響世界，但我們也希望能夠控制它們。你如何平衡這兩件事？感覺這會把關係搞得很緊張。 ***

**Suleyman：**是的，這是一個很好的觀點。這正是讓人緊張的原因。

這個想法是人類將永遠保持指揮權。從本質上講，它是關於設定AI 無法跨越的界限。並確保這些邊界創造了可證明的安全性，從實際代碼到與其他人工智慧（或人類）互動的方式，再到創建該技術的公司的動機和激勵。我們應該弄清楚獨立機構甚至政府如何直接進入以確保這些界限不會被跨越。

***誰設定這些界線？我認為它們需要在國家或國際層面上設定。他們是如何達成一致的？ ***

**Suleyman：**我的意思是，目前它們正在國際層面上提出，並提出了關於新的監督機構的各種建議。但邊界也會在微觀層面發揮作用。你將給予你的人工智慧一些有限的權限來處理你的個人數據，為你提供一些問題的答案，但不能回答其他問題。

總的來說，我認為在可預見的未來，我們應該對某些能力非常謹慎，甚至排除。

***例如？ ***

**Suleyman：**我猜想是遞歸自我完善之類的事情。你不會想讓你的小人工智慧在沒有你監督的情況下啟動並更新自己的程式碼。也許這甚至應該是一項獲得許可的活動——你知道，就像處理炭疽或核子材料一樣。

或者，我們不允許無人機出現在任何公共場所，對嗎？這是一項獲得許可的活動。你無法將它們帶到任何你想去的地方，因為它們對人們的隱私構成威脅。

我認為每個人都非常恐慌，因為認為我們無法對此進行監管。但這只是無稽之談。我們完全能夠對其進行監管。我們將應用以前成功的相同框架。

***但當無人機在天空中時，您可以看到它們。認為公司只會透露他們正在生產的產品的想法顯得很天真。這不會讓監管變得棘手嗎？ ***

我們在網路上監管了很多事情，對嗎？網路詐騙和犯罪活動的數量很少。我們在垃圾郵件方面做得非常好。你知道，總的來說，復仇色情的[問題]已經有所改善，儘管三五年前情況還很糟糕。在網路上找到激進內容或恐怖分子材料非常困難。在網路上購買武器和毒品非常困難。

[Suleyman的所有主張並非都有數據支持。網路犯罪仍然是一個巨大的全球問題。根據一些估計，在過去十年中，光是美國的財務成本就增加了100 倍以上。報告顯示，未經同意的深度偽造色情內容的經濟正在蓬勃發展。毒品和槍支在社交媒體上銷售。雖然一些線上平台被迫更好地過濾有害內容，但它們可以做得更多。 ]

因此，網路並不是一個不受監管、難以駕馭的空間。它受到管轄。 AI 將成為治理的另一個組成部分。

這需要文化壓力、制度壓力以及政府監管的共同作用。但這讓我樂觀地認為我們以前已經做到了，而且我們可以再次做到。

***控制AI 將成為網路監管的一個分支——這比我們最近從一些備受矚目的末日論者那裡聽到的樂觀得多。 ***

**Suleyman：**我對風險非常樂觀。我的書中有很多黑暗的東西。我肯定也看到了。我只是認為有風險的東西完全是一種瘋狂的干擾。我們都應該討論101 個更實際的問題，從隱私到偏見，從臉部辨識到線上審核。

我們應該將談話的焦點重新集中在這樣一個事實上：我們在監管超級複雜的事物方面做得非常出色。看看美國聯邦航空管理局：令人難以置信的是，我們都進入了40,000 英尺高空的監管，而且這是有史以來最安全的運輸方式之一。我們為什麼不慶祝一下呢？或者想想汽車：每個部件都在其壽命的最後一刻進行壓力測試，並且您必須擁有駕駛執照。

有些行業（例如航空公司）一開始就在自我監管方面做得很好。他們知道，如果不確保安全，每個人都會害怕，他們就會失去生意。

但你也需要自上而下的監管。我相信公共利益，我相信稅收和再分配的好處，我相信監管的力量。我所呼籲的是國家採取行動來解決問題。考慮到事關重大，現在是採取行動的時候了。

參考資料：