中文名稱：超人工智慧 英文名稱：Superintelligence
定義（Definition）
假想中在幾乎所有領域都超越人類智慧的 AI，包含科學發現、策略規劃、社交操作等，能力遠高於人類與強 AI，目前不存在，主要是風險與治理研究話題。
原理與技術
超人工智慧屬理論概念，常討論的要點：
- 能力爆炸假設：一旦 AI 能自我改進，可能出現快速進步（所謂「智慧爆炸」）。
- 工具使用與自動化研究：若 AI 能自主組合工具、指揮其他模型或人力，可能迅速擴展能力。
- 對齊與控制問題(Alignment/Control)：如何確保其目標符合人類利益，避免目標錯置或副作用。
- 可驗證性與監管：需要技術措施（紅隊、隔離、可證明的安全屬性）與政策（審批、稽核、責任制度）。
- 多代理互動：超 AI 可能與其他 AI、人類互動，需考慮博弈、安全協定。
- 硬體與能耗限制：即使能力假設成立，也受算力、能源與資料約束。 目前沒有實證技術能達成超 AI，研究更偏向安全框架、情境模擬與倫理政策。
應用領域
無實際落地案例，討論多集中於「如果出現」的影響與防範：
- 政策與治理：建立國際協議、審核流程、緊急停止機制，規範高能力系統的開發與部署。
- 安全研究：探索限制行為、可驗證約束、沙箱與監督學習方法。
- 社會與經濟評估：預估就業、市場與地緣政治衝擊，制定風險緩解計畫。
- 倫理與法律：責任歸屬、隱私、偏見、濫用防範。
- 教育與公眾溝通：提升社會對高階 AI 風險的理解，避免恐慌與誇大。 現階段重點在「預先防範與制定規範」，而非實作技術。
3 題模擬練習題
- 超人工智慧目前的狀態？
- A. 已商品化
- B. 尚未實現，停留在理論與風險討論
- C. 已經在手機裡
- D. 不需要算力
- 正確答案：B；解析：沒有實際系統，研究聚焦於安全與治理。
- Alignment 議題的重要性？
- A. 只為了減少耗電
- B. 確保強/超 AI 目標與人類價值一致，避免失控
- C. 增加模型大小
- D. 關閉訓練
- 正確答案：B；解析：對齊是防止高能力系統偏離人類利益的核心議題。
- 為何需要監管討論？
- A. 因為模型太小
- B. 如果出現超 AI，影響巨大，需事先規範責任、審核與緊急機制
- C. 為了行銷
- D. 沒必要
- 正確答案：B；解析：高風險技術需治理框架，避免濫用或失控。