阿里 Qwen4-Max 過濾攻擊性資安訓練資料,中國多家 AI 業者跟進限縮

據報導,阿里巴巴表示已過濾 Qwen4-Max 的訓練資料以移除攻擊性網路能力;Moonshot、騰訊也有類似做法,智譜則走驗證用戶路線。

重點

  • SCMP 報導,阿里巴巴表示已過濾 Qwen4-Max 的訓練資料,移除攻擊性網路能力,並降低化生放核風險。
  • Bloomberg 報導 Moonshot、騰訊與阿里的新模型都降低了攻擊性資安能力;智譜計畫把最敏感能力限給通過驗證的用戶。
  • Moonshot 自家基準測試顯示,過濾後解題率從 90.5% 降到 81.0%,該基準未公開、無法由外界驗證。
  • Qwen4-Max 未釋出開放權重;這些限制多為業者自述,尚未見獨立驗證。
目錄(3 節)
  1. 發生什麼事
  2. 其他業者的做法
  3. 對你的影響

發生什麼事

據 Startup Fortune 轉述,Bloomberg 在 11 月 16 日(週一)報導,Moonshot AI、騰訊與阿里巴巴近期發表的模型,都降低了攻擊性的資安能力。其中阿里的部分,South China Morning Post 記者 Ann Cao 的報導標題指出,阿里表示已過濾旗艦模型 Qwen4-Max 的訓練資料,移除攻擊性網路能力,並降低化學、生物、放射與核子(CBRN)方面的風險。我們無法打開 SCMP 與 Bloomberg 原文(皆被擋),以上是依第二手頁面整理,細節請以原文為準。

Qwen4-Max 本身是 11 月 11 日由阿里 Qwen 團隊以有限預覽方式開放的旗艦模型,上下文長度 100 萬 token,據 XenoSpectrum 整理,預覽僅限 Token Plan 使用。Startup Fortune 指出它沒有釋出開放權重。

中國多家 AI 業者過濾攻擊性資安訓練資料,限縮模型攻擊能力

其他業者的做法

Startup Fortune 整理了同一波動向:

  • Moonshot(Kimi K3.1 Pro,10 月 23 日發表):從訓練資料與強化學習環境中移除資安與漏洞研究內容。在自家的 xdev-bench-hard 基準上,過濾後的模型解出 81.0% 的題目,未過濾版本為 90.5%。這個基準不公開,數字無法由外界驗證。
  • 騰訊(Hy4,開源,11 月 4 日發表):據 Reuters 報導,過濾掉漏洞利用開發、逆向工程與滲透測試的素材,但保留找出並修補軟體弱點這類防禦性內容。
  • 智譜 AI:計畫透過名為 Cybersecurity Trusted Access 的方案,把最敏感的能力限給通過驗證的用戶,尚未公布時程。

同一篇文章也提到,Anthropic 先前警告智譜的開放權重模型 GLM-5.3 在端到端漏洞利用上接近 Claude Mythos Preview,且安全防護最高可被 100% 移除;SCMP 則把這波動作與中國政府擬議中的攻擊性資安 AI 出口禁令連在一起。這些是該文轉述他方的說法,我們未逐一查證。

對你的影響

這些都是業者自述,目前沒有獨立測試證明「移除」到什麼程度,Moonshot 的數字也只來自自家基準。對台灣開發者的實際影響有限,但有兩點可留意:

  • 如果你把這類模型用在內部資安工作(程式碼審查、弱點掃描),過濾資料後的模型在攻擊面任務上表現可能下降,換模型時要用自己的案例重新測。
  • 開放權重模型的安全限制能否被移除,是另一個問題;要依賴模型本身的防護前,請先自行驗證。