本文摘自時報出版《AI製造商沒說的祕密：企業巨頭的搶才大戰如何改寫我們的世界？》未經同意請勿轉載、摘編
AGI信念的傳承：如何鑽研人工智慧
伊爾亞．蘇茨克維（Ilya Sutskever）還是多倫多大學研究生時，曾訪談德米斯．哈薩比斯（Demis Hassabis）與肖恩．萊格（Shane Legg）。這兩位深度心智（DeepMind）的創辦人表示他們正在研發通用人工智慧（AGI），蘇茨克維覺得他們兩人都已脫離現實。不過當他在谷歌研發的圖像辨識與機器翻譯獲得成功後──並且在深度心智實習了幾個星期之後──他也開始擁抱萊格的理論，視其為「瘋狂地有遠見」。其他許多人也是如此。
2015年，馬斯克、山姆．阿爾特曼（Sam Altman）、蘇茨克維等人聯手設立開放人工智慧實驗室（OpenAI）。
「它感覺是一件頗為刺激的事情，」蘇茨克維說道，「我喜歡盡可能從事最刺激的事情，而這個感覺就是最刺激的事情。」開放人工智慧實驗室最初的九位研究人員中，有五位曾在熱烈擁抱AGI的深度心智待過一段時間，這兩家實驗室有兩位共同的投資人：PayPal 創辦人彼得．提爾（Peter Thiel）與伊隆．馬斯克（Elon Musk）。
當開放人工智慧實驗室正式揭幕時，其官方聲明並沒有提到AGI，只是暗示在遙遠未來有這樣的可能性。「人工智慧系統今天是雷大雨小，」該聲明指出，「我們必須繼續削弱它們的限制，而在最極端的情況下，它們在每一項智慧工作上的表現都將可與人類匹敵。」隨著該實驗室日益發展，蘇茨克維也放下忌憚。
堅持AGI的信念需要極大的信心，不過此一信念也激勵一些科學家努力鑽研。這樣的信念有些像是信仰。「身為科學家，我們往往覺得需要以一種非常務實的方式來證明自己。我們要向人們解釋我們今天所從事的研究為何具有價值。但是驅動我們的力量往往不僅於此。」
AGI的信念有種一傳十、十傳百的魔力。有些人原本不敢相信，直至他周邊的人都相信之後才改變。然而每一個人對AGI的信念都互不相同，大家都是以各自的觀點來看此一科技與其未來。後來此一信念傳入矽谷，開始擴大。矽谷挾其雄厚的資本、精彩的演出，將AGI的信念做大。
解除人腦輸入限制，馬斯克成立Neuralink
2017年初，一群專家討論人工智慧是否會帶來生存威脅。與會者包括阿爾特曼和馬斯克，而開放人工智慧實驗室、深度心智的一些大咖也都參加了這場會議。在會議的第二天，馬斯克成為一個九人討論小組的焦點，該小組主要在討論超智慧的概念，每人都被問到超智慧是否有實現的可能。每位依序接過麥克風的人都回答「會的」，除了輪到馬斯克的時候。「不會。」馬克斯說道，小禮堂內傳來一陣笑聲，大家都知道他的看法。「我們要不是擁有超智慧，要不就是文明滅絕。」他待笑聲結束後說道。小組繼續進行討論，有人問道一旦超智慧問世，人類應該如何與其共處。馬斯克回答這需要人腦與機器間的直接連繫。「到時我們都已是生化人，」他說道，「你的手機、電腦與所有的應用軟體中都有一部分的你，你已經是一個超人類了。」他解釋，其中的局限是人們無法快速使用他們的應用軟體，因為在人腦與機器之間沒有足夠的「頻寬」。人們仍是在使用「肉棍」──手指──來將訊息輸入手機。「要解除這樣的限制，我們需要以高頻寬來連接大腦皮質。」
有人想緩和討論的氣氛。「我聽過許多人的說法，都毫無數據的根據，」他說道，「我經常鼓勵人們質疑：『這是根據數據，還是猜測？』」但是屋內其他人都站在馬斯克這一邊。這類討論後來在人工智慧研究領域成為頗為常見的議題──不過這是一場沒有贏家的辯論。這是一場有關未來會是什麼樣子的辯論，這也代表誰都可以信口開河，不必擔負證明錯誤的責任。不過馬斯克卻能自其中找到做為己用的利基。幾個月後，他宣布成立一家新創企業，稱作神經連結（Neuralink），將注資一億美元來建立一具「神經織網」（neural lace）──即電腦與人腦之間的介面──並將其設在開放人工智慧實驗室的同一間辦公大樓。
雖然馬斯克在2018年就離開開放人工智慧實驗室，不過該實驗室的企圖心在阿爾特曼的帶領下日益擴大。阿爾特曼是矽谷的典型人物：2005年，他還是二十歲的大學二年級生的時候，就設立了一家社交網路服務公司，最終籌集三千萬美元的創投資金。阿爾特曼身材瘦削，精幹結實，碧綠的眼睛炯炯有神，善於籌集資金。他對於開放人工智慧實驗室的期望就是對世界發揮更大的作用。追求AGI遠比他能追求的其他項目都重要──同時也更為有趣。他認為，投身開放人工智慧實驗室，是他命中注定、無可閃躲的道路。
他和馬斯克一樣，都是創業家，並非科學家，雖然他有時會刻意強調他在史丹佛念的是人工智慧，不過在大二時輟學了。他與馬斯克的差異是他並不會經常將自己塑造成新聞界與社交媒體的焦點或是爭議性的話題，但他同樣是活在未來之中。這是矽谷菁英之間的常態，他們不論是自覺或不自覺，不論是在大企業裡或是開設新創企業，都知道執著於未來的某一理念，是吸引關注、資金與人才的最佳途徑。理念可能失敗，預測也可能失準。但是除非他們和其周圍的人有信心，否則下一個想法永遠沒有成功的一天。「自信是一股非常強大的力量。我所認識最成功的人士都相信自己，堅定不移，甚至已到幻想的程度，」他曾寫道，「如果你不相信自己，你就難以產生對未來的逆向思維，而這正是最寶貴的地方。」他回憶有一次馬斯克帶他參觀 SpaceX 工廠，讓他印象最深刻的不是廠房內眾多用來發射進入火星的火箭，而是馬斯克臉上一副篤定的神情。「嗯哼，」阿爾特曼心中自忖，「原來這就是執著於信念的樣子。」
阿爾特曼知道他的理念不可能樣樣實現，但是他也知道多數人低估了時間與快速發展會對一個原本小小的理念帶來何種影響。在矽谷，這樣的情況稱為「擴張」。當阿爾特曼決定將某一個理念擴張，他不會害怕投入重資下注。他有時會猜錯，但他若是賭對了，他要的是令人嘆為觀止、激勵人心的勝利。這樣的態度，一言以蔽之，就是馬基維利（Machiavelli）著名的格言：「要犯野心勃勃的錯誤，不要犯懶惰的錯誤。」
開放人工智慧實驗室成立後，阿爾特曼說：「隨著時間的演進，我們會愈來愈接近超越人類智慧的境界，屆時一定會有聲音質疑谷歌願意與別人分享多少的問題。」他說道。有人問他，開放人工智慧實驗室是否也會研發類似的科技，他表示他認為一定會的，不過同時也指出該實驗室會與各界分享其科技。「它將會向每一個人開放原始碼，每個人都能使用，而不是譬如說只有谷歌能使用。」人工智慧是阿爾特曼迄今所支持最大規模的概念，不過他仍對其他科技一視同仁。
2018年四月，他和他的研究團隊針對該實驗室發布了新的章程，經營宗旨與他當初設立時大不相同。阿爾特曼原本主張開放人工智慧實驗室會公開分享所有的研究，這也是該實驗室稱作開放人工智慧的原因。但是在看到生成模型、臉部辨識科技的興起與自主性武器威脅造成的混亂之後，該實驗室決定暫停某些科技的開放，待評估對世界帶來的影響之後再做定奪。這是許多組織現今醒悟到的現實。
諷刺的是開放人工智慧實驗室以極端的方式來展現此一態度。在接下來幾個月，這樣的作風成為該實驗室行銷自己的新手法。在做出類似谷歌伯特的新型語言模型後，開放人工智慧實驗室透過媒體表示，有鑑於此一科技能夠允許機器自動產生假新聞與其他造成誤導的訊息，危險性極高，因此不會對外發布。然而其他的研究人員卻是對此嗤之以鼻，表示此一科技根本還稱不上危險。最終該實驗室還是將此一科技公開。
開放人工智慧實驗室的新章程同時也指出──明確且老實地──該實驗室正在從事AGI的研發。阿爾特曼與蘇茨克維都十分了解當前科技的局限與危險，但是他們的目標是建造一部能夠與人腦匹敵的機器。該章程寫道：「開放人工智慧實驗室的使命是確保通用人工智慧（AGI）──我們是指在最具經濟價值的工作上，能夠超越人類的高度自主性系統──能夠造福全人類。我們將直接建立安全與有益的AGI，不過如果我們的成果幫助別人達成此一目標，我們也將視為完成使命。」他們知道有些人會心存懷疑，他們也知道此一科技的危險性。不過他們並不擔心。「我的目標是成功創造讓各方受益的AGI，」阿爾特曼說道，「我也知道這聽來有些可笑。」
研究人員將突破瓶頸的希望寄託在以新款的電腦晶片來改變方程式──這樣的晶片能夠驅動研究至輝達GPU與谷歌TPU難以企及的水準。有數十家公司，包括谷歌、輝達、英特爾與一長串的新創企業，都在以這樣的晶片來訓練神經網路，幫助深度心智與開放人工智慧實驗室等機構開發的系統大幅減少學習時間、增加學習容量。
風險與機會並存：深度心智與AGI實現的可能性
經過多年的動盪之後，人工智慧終於以令人始料未及的速度快速發展，同時與企業之間建立千絲萬縷、強而有力的關係，然而深度心智就和開放人工智慧實驗室一樣，仍是一心想要打造真正的智慧機器。事實上，它的創始人將動盪視為一種證明。他們用以警告這些科技可能出錯。
一天下午，在倫敦辦公室的一場視訊通話中，深度心智創辦人哈薩比斯說出他對未來的看法是介於祖克柏與馬斯克之間。他表示，祖克柏與馬斯克的觀點分處兩個極端。他確信超智慧有實現的可能，也認為可能會帶來危險，但是他同時也相信這一天的到來仍是十分遙遠。「我們需要利用現在的空檔，趁一切風平浪靜時，為幾十年後事態嚴重時預做準備，」他說道，「我們現在擁有的時間十分珍貴，我們必須善加利用。」臉書與其他公司最近幾年所引發的問題，正是在警告這些科技的研發必須謹慎與經過深思熟慮。但這些警告並不能阻止他繼續追求他的目標。「我們要做這件事，」他說道，「我們不是來胡搞的。我們之所以這麼做是因為我們真的相信它有實現的可能。時間表或許可以討論，但是據我們了解，這世界還沒有出現能夠阻止AGI實現的物理定律。」
全人類的轉捩點，看「AI」如何顛覆我們的世界
谷歌收購深度心智（DeepMind）幾週後，深度心智創辦人德米斯．哈薩比斯（Demis Hassabis）與其他幾位深度心智研究人員搭機來到北加州，與他們母公司的領袖舉行會議，並向他們展示深度學習如何破解「打磚塊」。
會議結束後，哈薩比斯和谷歌創辦人賽吉．布林（Sergey Brin）聊了起來。他們聊著聊著發現有一共同的興趣：圍棋。布林表示當初他和賴利．佩吉（Larry Page）建立谷歌時，他沉迷在圍棋中，害得佩吉擔心他們根本無法成立公司。哈薩比斯表示，如果他和他的團隊想要的話，他們能夠建造一套系統來打敗世界冠軍。「我覺得這是不可能的。」布林說道。就在這一刻，哈薩比斯下定決心要做到。
「深度學習運動之父」傑弗瑞．辛頓（Geoffrey Hinton）將哈薩比斯比作羅伯．奧本海默（Robert Oppenheimer），二戰期間做出第一顆原子彈的曼哈頓計畫主持人。奧本海默是世界級的物理學家：他懂得眼前重大任務的科學原理，不過他更深諳激勵之道，他結合手下不斷擴大的科學家，將他們的力量合而為一，並且接納他們的弱點，一起為計畫目標努力。他知道如何感動男人（以及女人，包括辛頓的堂姊瓊安．辛頓）。辛頓在哈薩比斯身上看到同樣的特質。「他主持 AlphaGo 就像奧本海默主持曼哈頓計畫，如果是別人來主持，他們可能就不會這麼快成功。」辛頓說。
深度心智的研究員們在2014年中曾發表一篇關於他們初期研究的論文，之後他們的研究規模大為擴大，並在第二年擊敗歐洲圍棋冠軍樊麾。此一結果震驚了全球圍棋界與人工智慧研究圈，但是 AlphaGo 對戰李世乭所造成的聲勢更是轟動。IBM的深藍超級電腦1997年在曼哈頓西城的一棟高樓裡擊敗世界頂尖的西洋棋高手，為電腦科學建立了一座里程碑，受到全球新聞界的廣為報導。但是若是與首爾的這場人機大戰相比，卻是小巫見大巫。在韓國──更別提日本與中國──圍棋是民族性的消遣活動。有超過二億人會觀看 AlphaGo 與李世乭的對弈，觀眾比超級盃多上一倍。
在總共五局對戰前夕的記者會上，李世乭誇口他能輕鬆獲勝：四比一或五比零。大部分的圍棋棋手也都有同感。雖然 AlphaGo 徹底擊敗樊麾，顯示這部機器是真正的贏家，但是樊麾的棋力遠不及李世乭。根據用來評估遊戲對戰能力的ELO等級制度，李世乭完全是在不同的等級。但是哈薩比斯卻認為這場人機大戰會有截然不同的結果。
AlphaGo 與李世乭的對弈，使得人工智慧在世人眼前大爆發。它不僅是屬於人工智慧領域與科技公司，同時也是屬於市井小民的里程碑。在美國如此，在韓國與中國更是如此，因為這些國家視圍棋為人類智慧結晶的巔峰。這場棋賽彰顯出科技的力量與其終將超越人類的恐懼，同時也帶來樂觀的前景，此一科技往往會以出人意表的方式推動人類更上層樓。儘管馬斯克等人警告其中的危險性，但是這段時期人工智慧的前景一片光明。
裘蒂．英賽恩（Jordi Ensign）是佛羅里達州一位四十五歲的程式設計師，她在讀完棋賽報導後出去在身上紋了兩幅刺青，她在右臂內側紋了 AlphaGo 的第三十七手──左臂紋了李世乭的第七十八手。
先行智庫為你而讀為台灣管理顧問公司，服務內容包含企業內訓、顧問諮詢以及領導管理，了解更多企業服務內容：https://kscthinktank.com.tw/custom-training/