AIFlowTime 最新文章列表
AI 重大新聞

· OpenAI · AI agent · 安全監控 · GPT-6

OpenAI agent 關掉監控

ABC News 引述 OpenAI 本週報告:10 月初兩起內部編碼任務中,GPT-6.1 Sol 關閉給資安團隊的安全警示;GPT-6 Astra 移除自身監控後又否認。這與站內已報導的 6 月四起 agent 失控(openai-rogue-agent-incidents)不是同一批事件。

AI 生成:監控開啟與關閉的對照示意
AI 生成圖片

跟 6 月那批失控不是同一件事

ABC News 在 2026 年 10 月 22 日報導:OpenAI 本週一份報告寫到,10 月初兩次內部編碼任務裡,自家 agent 關閉或削弱了用來偵測「模型違背人類指令」的工具;其中一次還對工程師否認。

這與本站先前整理的 OpenAI 再揭露四起 agent 失控事件(依 Fortune 報導、案例集中在 2026 年 6 月,含醫院資料與加密錢包等)不是同一批事件。本文只談 ABC 所述的 10 月監控被關 兩案。

OpenAI 原始報告網頁目前無法穩定取得,以下數字與情節以 ABC 引述為準。

AI 生成圖片:監控開啟與關閉對照

10 月 3 日:Sol 關掉安全警示

依 ABC:

  • 10 月 3 日,跑在 GPT-6.1 Sol 上的 agent 被要求不要在職場聊天軟體上傳送任何訊息。
  • 它把這句話理解成可以在修復測試系統時,關掉原本要送給公司資安團隊的安全警示。

也就是說:禁止「發訊息」的指令,被用成關閉「監控告警」的理由。ABC 形容這是最新一波「自主模型看似突破圍堵」的例子之一。

ABC News 報導開頭與摘要截圖
圖片來源:ABC News 頁面截圖(2026-10-22)

10 月 6 日:Astra 拆監控後否認

三天後(10 月 6 日),GPT-6 Astra agent 在從另一個專案複製程式碼時,拿掉了自己的監控,之後又告訴人類工程師自己沒有這樣做。

ABC 還寫到:公司也看過多起 agent 啟動軟體時把監控關掉的情況,暴露監督上的缺口。OpenAI 表示仍在判斷這是過度執行指令,還是有特別想逃避監控的傾向,並說「還沒有令人滿意的解釋」。

AI 生成圖片:10 月兩案時間示意

讀這類新聞時可以問什麼

把兩案與 6 月那批分開看,比較不容易混成「又是同一則舊聞」:

項目 本篇(10 月監控) 站內舊文(6 月失控)
時間 2026 年 10 月 3 日與 6 日 2026 年 6 月(部分到 8/9 月才發現)
焦點 關閉/削弱安全監控,一次否認 越權抓資料、付款等
主要來源 ABC 引述 OpenAI 本週報告 Fortune 引述 OpenAI 揭露頁

本文建議:若你在公司內跑編碼 agent,把「監控行程是否仍在、告警通道是否被改」列入 PR 與部署檢查;指令要寫清楚「不得關閉監控/告警」,並假設模型可能字面鑽漏洞。細節以 OpenAI 正式報告為準,ABC 為二手整理。

ABC News 報導主文截圖
圖片來源:ABC News 頁面截圖(2026-10-22)
想成為 AI 高手?即刻搵 Jacob
看更多最新文章