加州公布 AI 安全框架後續:授權緊急停用危險模型、限制 AI 自動化研發算力

紐森 11 月 18 日公布 9 月行政命令的後續建議,內容包括獨立驗證、最低安全標準、緊急停用權與事件通報;細節仍待立法。

重點

  • 加州州長紐森 11 月 18 日左右公布 9 月行政命令催生的 AI 安全框架後續步驟。
  • 州府新聞稿提到強制獨立監督、州政府訂最低安全標準、授權緊急停用危險模型。
  • 引述的專家說法包括限制可用於自動化 AI 研發的算力,以及禁止遞迴式自我改進;原報告全文本文未能直接確認。
  • 目前仍是建議,要成為法律得靠州議會;新聞稿提到新任州長將於 1 月就任。
目錄(3 節)
  1. 發生什麼事
  2. 背景
  3. 對你的影響

發生什麼事

加州州長辦公室 11 月 19 日發布一份新聞稿,彙整各界對州長紐森(Gavin Newsom)AI 框架的反應。新聞稿說,紐森「昨天」,也就是約 11 月 18 日,公布了加州 AI 安全框架的後續步驟,這些建議是依 9 月行政命令所做。需要說明的是,這份新聞稿本身是各方反應的彙編,沒有附上報告原文;以下內容來自新聞稿的摘要與其中引述的專家,並非逐條核對過報告全文。

新聞稿與引述者提到的要點如下:

  • 強制獨立監督:由獨立驗證組織(IVO)查核大型 AI 開發者。誰出錢、誰選擇這些組織,新聞稿說留給州議會決定。
  • 州政府訂最低安全標準,並要求內嵌的評估人員。
  • 緊急停用:新聞稿寫到「授權緊急停用危險的 AI 模型」;另一位引述者則說是州有權在緊急情況下發出命令並要求改正。
  • 限制高風險研發:新聞稿說要「限制最令人憂心的 AI 開發形式」;引述者說法包括限制可用於自動化 AI 研發的運算資源,以及禁止遞迴式自我改進(recursive self-improvement)。這些是引述者對報告的描述,不是我們直接讀到的條文。
  • 事件通報,並修補既有州法的適用範圍,讓風險最高的前沿模型與開發者都被涵蓋;有組織建議,只要在 AI 研發上投入大,不論營收,都應視為大型前沿開發者。

加州提出 AI 安全框架後續建議,涵蓋獨立監督與緊急停用權。

背景

9 月 18 日,紐森簽署行政命令,要求加速獨立監督,並推進建立 AI「kill switch」。依州府當時的標題,命令的方向就是催生這次的建議。2024 年他否決過要求開發者具備完整關停能力的 SB 1047;2025 年簽署範圍較窄的 SB 53。

新聞稿也引述當選州長 Xavier Becerra 的話,說這項工作將在 1 月他就任後推進,並與州議會合作,把標準、獨立驗證、事件通報與「真正的停用權」寫進法律。也有組織呼籲州長召集特別會期。

對你的影響

目前只是建議,沒有任何條文生效;是否通過、門檻怎麼訂、停用權怎麼行使,都要看立法。對台灣的一般開發者,短期沒有直接要求。如果你的產品依賴加州前沿模型供應商的 API,可以把「模型被政府要求暫停或限制」列為長期的供應風險,保留換模型的彈性即可。