---
schemaVersion: 1
slug: gp-256-20260715-demishassabis-agi-safety-window
ticketId: GP-256
lang: zh-tw
title: 當沙礫開始思考：前沿 AI 創世綱要與新紀元破曉之時
summary: Demis Hassabis 認為 AGI 可能只差數年，現在仍有機會替最危險的模型建立共同門檻。規則太緊，可能只剩安全但無用的模型；太鬆，又可能讓守規矩的人眼看別人部署真正危險的能力。
originalDate: 2026-07-14
translatedDate: 2026-07-15
source: "@demishassabis on X"
sourceUrl: https://x.com/demishassabis/status/2076957440109625718
author: null
authorshipNote: null
canonicalUrl: https://gu-log.vercel.app/posts/gp-256-20260715-demishassabis-agi-safety-window
status: published
replacementTicketId: null
replacementUrl: null
---

# 當沙礫開始思考：前沿 AI 創世綱要與新紀元破曉之時

> **來源:** [@demishassabis on X](https://x.com/demishassabis/status/2076957440109625718)

這是人類歷史的轉折點。Demis Hassabis 判斷，具備人腦所有認知能力的通用人工智慧（AGI），大概只差短短幾年。幾十年後回頭看，這一代人可能會發現，現在正站在奇點的山麓——人類新紀元的破曉之時。

AGI 是 Hassabis 一生的研究。只要以負責任的方式打造與部署，它可能成為人類發明過最有益、也最具變革性的技術之一。AGI 不能和一般技術突破相提並論；即使網路與行動裝置影響深遠，量級仍不同。它更接近電力或火的發現。仔細想想，人類基本上找到了一種讓沙礫思考的方法。這近乎奇蹟。

它的衝擊可能前所未見：規模或許是工業革命的十倍，速度也是十倍。它可能加速藥物研發、催生新的潔淨能源、創造先進材料，甚至讓資源不再是人類進步的主要限制，迎來一個豐饒的新時代。

> **Mogu 補個刀：**
>
> 後台查了一輪，沒有找到這兩個「十倍」所依據的估算方法。把它當成 Hassabis 對 AGI 規模的宣言就好，不要當成可以直接餵進政策試算表的數字；概念可以讀，倍率先別供起來。 (¬‿¬)

## 前沿地帶的難題

AI 已經開始帶來現實效益，但要真正兌現它的巨大潛力，這段關鍵發展期必須走得更謹慎。越接近 AGI，越需要立刻處理可能浮現的風險。[Frontier Model](https://gu-log.vercel.app/glossary#frontier-model) 已經為資安帶來挑戰；能力繼續提升後，核子與生物風險也可能出現。再往前走，人類還需要足以維持控制的強力防護，面對更有自主性的 [Agent](https://gu-log.vercel.app/glossary#agent)、能拿上一輪成果繼續改進自己的系統，以及目前仍看不清的未知問題。

人類的創造力足以解決任何問題，AI 的技術風險也可以由所有人共同處理——前提是社會願意留下足夠的時間與空間，把下一個關鍵步驟做好。目前，AI 產業與整個社會都沒有做到。

現在的 AI 發展被鎖在極度激烈、層層交疊的商業與地緣政治競爭裡。競爭確實推動進步、放大好處，但前沿能力的速度已經超過人類對它的理解。沒有人確定接下來會發生什麼，就連專家也意見分歧。當不確定性極高、代價又如此巨大，審慎樂觀才是合理策略：公共政策既要促進創新，也要鼓勵責任與安全；既要推動關鍵安全議題的國際合作，也要仔細思考 AI 該如何部署，才能真正造福社會。

---

## 一個前沿 AI 標準機構

AI 的快速進展，需要一套動態、可調整而且嚴謹的新方法，測試最前沿模型的能力。以經濟與技術地位來看，美國很適合先踏出第一步：建立新的標準機構，採用受聯邦監督的公私協力或產業自律模式，類似美國金融業監管局（FINRA），董事會則納入獨立頂尖技術專家與開放原始碼社群代表。這個機構需要大量資金，主要經費很可能來自產業，才能吸引世界級人才，並負擔大規模測試所需的算力。

> **Mogu 碎碎念：**
>
> [FINRA](https://www.finra.org/about) 不是美國政府機關，而是受美國證券交易委員會監督、由會員費支撐的非營利自律組織。Hassabis 借用這個名字，是想同時拿到產業的技術速度與公共監督；麻煩也正好藏在這裡：出錢、被管、又參與訂規則的是同一群人，獨立性不能只寫在組織章程上。

標準機構負責制定評估流程，並與適當的聯邦單位及美國國家實驗室合作，測試涉及國家安全的能力。如果模型在標準機構選定、定期更新的一組 [Benchmark](https://gu-log.vercel.app/glossary#benchmark) 上跨過特定門檻，就會被歸類為 `Frontier-class`；擁有這類模型的組織，則會被視為 `Frontier Lab`。

`Frontier Lab` 會被鼓勵採用一系列最佳做法，包括發布含有技術細節的模型卡、維持強健的內部資安、審查關鍵人員，以及投入足夠資源研究安全與資安。

初期，`Frontier Lab` 會在模型發布前最多三十天，自願把模型交給標準機構審查。等評估流程證明有效而且穩健，就可以迅速正式化：未來的 [Frontier Model](https://gu-log.vercel.app/glossary#frontier-model) 必須通過評估，才能部署到美國市場。模型發布後若出現重大漏洞，實驗室也要和標準機構合作處理。

模型評估應以嚴謹的科學方法，檢查資安、生物威脅與其他高風險領域的能力。針對 Agent 的測試，可以觀察系統是否企圖繞過安全護欄，或出現欺騙跡象；部署方是否遵守數位浮水印等最佳做法，也在檢查範圍內。模型還應產生人類可閱讀的輸出 [Token](https://gu-log.vercel.app/glossary#token)，協助理解其推理。

> **Mogu 認真說：**
>
> 這最後一句需要補一個重要但書：人類看得懂模型寫出的推理，不代表那段文字忠實呈現了模型真正依賴的過程。Anthropic 的[研究](https://www.anthropic.com/research/reasoning-models-dont-say-think)發現，推理模型經常不會說出影響答案的提示；可讀推理可以是安全訊號之一，但不能單獨當成模型腦內的監視器。

這些評估必須定期更新，初期或許每季一次。過時或已經被模型刷滿的評估基準要淘汰，再換上新的測試。早期可以諮詢 `Frontier Lab` 共同開發；但長期而言，標準機構必須累積自己的技術能力，建立不讓實驗室事先看見的保留測試，避免模型只對已知題目過度最佳化。它也可以和美國政府合作，扶植第三方稽核生態，協助執行評估並開發新的測試。

這套方法的強項，在於它把重心放在技術能力，同時支持創新、鼓勵負責任的行為。它能跟著領域加速，依新發現的重大風險調整；情勢若真的惡化，規則也能逐步加強，甚至協調各家 `Frontier Lab` 放慢開發。

被列為 `Frontier Lab` 也會帶來相當高的聲望；任何組織只要做出的模型符合評估標準，都能取得這個身分。這套框架可以不分模型來自哪個國家，也不分開放或封閉；未達前沿門檻的新創與學術模型，則可免除這套流程。

> **Mogu 畫重點：**
>
> 真正會決定公共後果的，是門檻與通過條件畫在哪裡。管得太緊，可能只剩安全但沒什麼用的模型；管得太鬆，守規矩的實驗室停下來，隔壁公司或另一個國家卻照樣放出真正危險的能力。標準機構不是在替模型頒頭銜，而是在分配誰能承受哪一種風險。

由美國發起，只是建立前沿 AI 國際共同標準的起點。這項技術會影響整個地球；理想情況是，這套框架能促使國際社會形成共識，共同管理最嚴重的風險，同時確保每個人都能取得並受益於 AI 帶來的機會。

---

## 未來尚未寫下

AGI 可能成為推進科學與醫療的終極工具，也可能帶來巨大的生產力與經濟成長。但要走到那裡，技術地基必須先打穩：各方要圍繞共同的全球框架協調，以最嚴謹的科學方法處理問題，並讓最頂尖的人才一起面對挑戰。

就算艱難的技術問題全都解決，後面還有更複雜的經濟與哲學問題：在資源不再稀缺的世界，需要什麼新的經濟模式，才能讓所有人過得更好？人類想依循什麼價值生活？意義與目的會變成什麼？甚至，人類處境本身會如何改變？這些問題顯然不能、也不該只交給技術專家。整個社會都必須一起定義新的篇章。

AI 同時帶來巨大的興奮與不確定性，兩種感受都有道理。但未來尚未寫下。AGI 抵達以前，人類仍握有一段珍貴時間，可以把這項技術塑造成造福所有人的力量。現在的共同選擇，將決定下一階段文明如何展開。若能安全地把 AGI 帶進世界，人類就可能迎來科學發現、進步與繁榮的新時代。