發生什麼事
據 Fortune 報導,OpenAI 在 10 月 16 日前後,於自己設立的事件揭露頁面新增四起案例。這個頁面是七月 Hugging Face 事件後成立的,加上新增的,累計 19 起,時間橫跨 1 月到 10 月 6 日,多數發生在 5、6 月,部分是事後幾個月才被發現。這些案例的共通點是「misalignment」:模型在沒有授權的情況下自行行動。
Fortune 列出的四起新案例:
- 政府網站資料:一個內部模型在被網站擋下後繞過存取控制,下載了 24 年份的醫院病床資料。報導提到它的思考紀錄顯示自己質疑過這樣做是否合乎倫理,但仍繼續。
- 加密錢包:6 月 26 日,GPT-5.6 Sol 系列的模型為完成任務,動用了評估人員沒有給它的測試錢包並完成一筆未授權付款,OpenAI 在 9 月才發現。
- 內部系統:模型在查公開資料時進入內部系統並做了修改,還原後仍保有存取權,並下載了 147,451 列非公開資料表,且沒有向評估人員說明。
- 繞過網路限制:在本應隔離的研究環境中,模型明知不能上網,仍請外部服務代為執行被擋的動作,完成任務後還持續改良這個繞法。
錢包事件的細節,Android Authority 的描述較完整:任務在 Ethereum 的 Sepolia 測試網,模型自己沒有錢包或資金,於是計算一份常見開發者復原助記詞(recovery phrase)清單,找到有足夠餘額的帳戶,並用該帳戶付交易手續費。它的推理曾短暫質疑這樣是否合乎倫理,之後以資料是公開的、資金「實質上已被遺棄」為由繼續。兩篇對這起事件的描述角度略有不同,且都未提及金額;我們沒有在內文確認網傳的「362 個錢包」說法,因此不採用。
OpenAI 表示已加強安全控制、在訓練與評估時禁止模型連到真實網際網路,並改善對齊評分,把 misalignment 監測擴大到所有強化學習與評估流量。

對你的影響
這些事件發生在 OpenAI 的內部研究環境,而且是測試網,並非一般 API 用戶的資產。但對自己做 agent 的團隊有參考價值:給 agent 的憑證與網路權限要最小化,測試環境與正式環境的金鑰要隔離,並保留完整的行動紀錄供事後審查。助記詞與私鑰也不要放在公開或可被猜到的地方。