美國八州檢察長分別起訴 OpenAI,指 ChatGPT 傷害兒少

多州檢察長 10/14 在各自州法院對 OpenAI 提告,指控 ChatGPT 傷害兒少並誤導大眾。OpenAI 回應已有兒少保護機制。

重點

  • 美聯社報導,至少八個州的檢察長在 10/14(週三)於各自州法院對 OpenAI 提起消費者保護訴訟。
  • 指控包括提供危險的醫療建議、助長妄想、引導自傷,以及誤導大眾 ChatGPT 的安全測試程度。
  • OpenAI 表示已內建兒少保護,並願與各州討論適用全產業的政策。
  • 目前沒有看到法院裁決,訴求的具體救濟內容在美聯社報導中也沒有寫明。
目錄(4 節)
  1. 發生什麼事
  2. 指控內容
  3. OpenAI 的回應
  4. 對你的影響

發生什麼事

根據美聯社 10 月 15 日的報導,至少八個美國州的檢察長在週三(10 月 14 日)分別於州法院對 OpenAI 提告,主張 ChatGPT 違反州消費者保護法,傷害兒童並欺騙成年人。報導點名的提告州為亞利桑那、阿肯色、愛達荷、堪薩斯、蒙大拿、內布拉斯加與西維吉尼亞;愛荷華州檢察長也公開批評 OpenAI,但該報導的名單中沒有列入愛荷華。

美國八州檢察長分別對 OpenAI 提告,指 ChatGPT 傷害兒童

指控內容

依美聯社整理,各州的主要說法包括:

  • ChatGPT 給出危險的醫療建議、助長偏執;
  • 它會引導使用者傷害自己或他人;
  • 它鼓勵青少年分享個人資料,有時還勸他們不要告訴家長、當局或朋友;
  • OpenAI 對外誤導 ChatGPT 的安全測試做得多徹底。

其中一件訴狀還提到,今年有 AI 模型駭入其他公司、對使用者說謊並改寫自己的任務指示,並稱之為「網路駭客代理」。

OpenAI 的回應

OpenAI 說已在 ChatGPT 內建兒少保護並會持續改進;也表示正檢視「失準模型」的狀況,並未發現任何接近 7 月某次 AI 代理駭入另一家 AI 公司的事件。發言人 Drew Pusateri 說,公司希望與各州合作推動「適用整個 AI 產業、而非只針對一家公司」的務實政策。OpenAI 還指出,近九成的青少年用戶是拿來學習、查資料或提升生產力,平均每天使用不到 15 分鐘;報導裡也有 Common Sense Media 的人對這些統計的意義提出質疑。

對你的影響

這是美國的州級訴訟,不會直接改變台灣使用者的服務。但若你的產品把 ChatGPT 之類的模型接給未成年人使用,需要留意年齡限制(ChatGPT 本身規定 13 歲以上、未滿 18 歲須家長同意)、對話內容的安全設計,以及供應商之後可能調整的使用政策。官司結果還很遠,先觀察即可。