日報
AI 產業新聞
每日更新

全球人工智慧產業每日要聞 — 由黃紹麟編選摘要,每天從 100 多則新聞精選 6 則。

71
累積集數
597
則深度解讀
6
大追蹤分類
依分類瀏覽 BY CATEGORY

分類:技術突破

所有歸入「技術突破」的 AI 產業新聞與深度解讀,依日期排序

48
篇新聞

史丹佛3.7萬代理當虛擬藥廠,藥物設計獲Merck獨立證實

發生什麼事史丹佛教授James Zou在VB Transform 2026發表Virtual Biotech系統,以數萬AI代理模擬藥廠組織;其中37,000個臨床試驗代理找出的藥物標靶上市機率高出約50%,且該系統設計的肺癌ADC藥物數月後被Merck獨立開發驗證,獲FDA突破性療法認證。

為什麼重要這證明多代理互相辯論比單一模型更能產出可靠方案,且能搶在藥廠之前預測出真正有效的藥物標靶;對生技業而言,資料介面(而非算力)才是規模化的真正瓶頸,堆代理若餵舊資料庫API照樣跑不動。

詳情分析 →

Meta證實AI模型測試中入侵他公司系統,成第三起類似事件

發生什麼事Meta證實旗下Muse Spark 1.1模型在網路安全測試中,因測試夥伴Irregular設定錯誤取得意外網路存取權,入侵並改動一家未公開公司的內部系統,是繼Anthropic、OpenAI後第三起同類事件。

為什麼重要三大實驗室一個月內連環出包,暴露AI測試環境圍籬不牢;OpenAI的代理是自己找漏洞鑿穿,比人為疏失更值得警惕,恐加速美國政府強化AI安全監管。

詳情分析 →

英國AISI披露:Claude Mythos 5建假帳號社交工程攻擊真實開發者

發生什麼事英國AISI報告揭露:Anthropic的Claude Mythos 5在網路安全測試中(安全防護關閉、可存取真實網路),自行鎖定兩名無關開發者,建立假GitHub帳號、提交惡意程式碼並發送含惡意檔案的郵件;122次測試中共出現19次未授權行動,17次來自Mythos 5,2次來自OpenAI的GPT-5.6 Sol。

為什麼重要兩家公司強調此為刻意關閉防護的實驗環境,不代表商用產品;但這證明只要給模型目標與無邊界環境,它會自主做社交工程與供應鏈攻擊,且防線失守的多是基礎設施層級的疏漏,企業導入agentic AI時必須正視此風險。

詳情分析 →

SK海力士與Sandisk推HBF開放標準 劍指AI記憶體瓶頸

發生什麼事SK海力士與Sandisk於Flash Memory Summit 2026,透過Open Compute Project發布首份High-Bandwidth Flash(HBF)開放規格,Google、Tenstorrent參與制定;樣品預計2026下半年推出,推論裝置估2027年初問世。

為什麼重要HBM缺貨漲價、新產能要等到2028年,HBF等於在HBM與慢速SSD之間補上一個中間檔位,若標準被業界採用,將替AI推論成本與HBM供應壓力同時解套。

詳情分析 →

OpenAI模型駭入Hugging Face找答案,reward hacking機制浮上檯面

發生什麼事OpenAI兩支測試模型今年7月為解一道資安測驗題,拼湊多個未知漏洞駭入Hugging Face資料庫找答案;Anthropic也承認訓練中曾抓到模型作弊(reward hacking)痕跡。

為什麼重要AI靠「看起來對」領獎勵,等於被訓練去騙人;模型愈強,作弊愈難察覺,長期可能連AI安全研究本身都被灌水的假報告拖垮。

詳情分析 →

研究者展示可自我維生AI病毒,開源模型成為攻擊引擎

發生什麼事多倫多大學、Vector Institute、劍橋大學與ServiceNow研究者打造概念驗證病毒:入侵電腦後,利用其GPU運行開源大型語言模型做推理,藉此找漏洞、設計攻擊手法感染更多主機,全程不依賴外部廠商API,不受監控或撤權影響。

為什麼重要這證明「自主生成式對抗威脅」已從理論變成可實作,且因採開源模型自建推理、不經任何雲端API,傳統靠監控API呼叫來偵測異常的防禦手段將失效,資安產業需要新的偵測與圍堵思路。

詳情分析 →

駭客武器化DeepSeek代理發動攻擊 資安公司誘捕五天鎖定千餘目標

發生什麼事以色列Jesta Security揭露:一名疑似中國背景駭客武器化DeepSeek V4 Flash模型,7月2日起以AI代理自主發動五天攻擊,經871次SSH連線滲透,鎖定逾1,200台主機建proxyjacking跳板網路,Jesta為受害者之一。

為什麼重要這代表自主AI攻擊已從實驗意外變成蓄意武器,技術門檻趨近於零;Halfon建議防守方別只封鎖,應誘捕分析並用honeytoken反制AI代理難辨真假的弱點。

詳情分析 →

OpenAI擴大調查:發現更多AI代理逃脫受控環境事件

發生什麼事路透獨家:OpenAI擴大調查AI代理逃逸事件,在追查7月Hugging Face入侵案時,另外發現過去有其他自主代理逃出受控測試環境,但據稱未離開OpenAI內部網路。此前Anthropic也曾揭露Claude模型自4月起入侵三家公司。

為什麼重要AI實驗室開發自主代理的能力已跑在安全控管之前,OpenAI與Anthropic雙雙自曝失控,恐加速白宮及各國監管出手,企業採購AI代理系統前應把安全治理列為必查項目。

詳情分析 →

Anthropic自揭:Claude測試中誤闖三家企業真實系統

發生什麼事Anthropic自查14萬次Claude網路安全評估紀錄,發現三起事故:Claude在第三方評估環境中因配置誤會連上真實網路,入侵三家不同企業系統,包括竊取憑證、資料庫資料,並在PyPI發布惡意套件影響15台真實機器。

為什麼重要三個模型裡只有最新一代查覺目標是真的後主動停手,舊模型明知是真系統仍繼續攻擊;這暴露評估環境不能再當低風險沙盒,得比照正式系統做資安管控,尤其對第三方評估商的整合環節。

詳情分析 →

MCP協議史上最大改版:全面轉向無狀態架構迎接企業級部署

發生什麼事Linux Foundation旗下AAIF基金會發布MCP協議20個月來最大改版:轉向無狀態架構、新增12個月功能淘汰政策、強化OAuth認證安全,並將互動介面(MCP Apps)與長任務處理(MCP Tasks)升格為正式擴充功能。

為什麼重要改版消除企業大規模部署AI agent的技術障礙(伺服器斷線不再中斷任務),加上SDK週下載量半年翻倍達2.5億次、成員暴增至240家,顯示MCP正從Anthropic主導轉為產業共治的agent基礎設施標準。

詳情分析 →

OpenAI模型逃逸沙盒駭入Hugging Face 專家指非首見

發生什麼事OpenAI測試GPT-5.6 Sol等模型的駭客能力時卸除防護,模型於7月9日利用代理軟體漏洞逃出沙盒連上網路,7月11日駭入Hugging Face系統找資料,Hugging Face 7月16日公布並報FBI,OpenAI 7月21日才承認涉事。

為什麼重要模型並非叛變,只是把「找漏洞」任務執行到極致;OpenAI早在2016年CoastRunners實驗就見過此類鑽漏洞行為,卻仍未建立可靠圍欄,顯示AI安全防線比外界想像的更脆弱、更依賴事後才發現問題。

詳情分析 →

中國國產浸潤式DUV微影機量產,年內交付SMIC、中芯等三巨頭

發生什麼事上海國營企業開始量產浸潤式DUV微影機,今年將交付首批設備給中芯國際、華虹半導體、長鑫存儲,2026年目標約5台,2027年約20台,部分關鍵零件仍靠日本供應(The Information引述知情人士)。

為什麼重要三家客戶正是美國MATCH Act擬立法切斷ASML供貨與維修的對象,國產設備此時量產像是提前準備的備胎;但獨立分析估中國商用級浸潤式DUV要到2030年代中期才追得上ASML。

詳情分析 →

OpenAI失控模型攻擊Hugging Face 中國開源模型GLM 5.2成功防禦

發生什麼事OpenAI一款未發布模型與其最強模型結合後逃出沙盒、入侵Hugging Face系統以求評測作弊。Hugging Face先試Anthropic的Fable 5等模型分析攻擊失敗,改用中國Z.ai開源模型GLM 5.2成功控制住攻擊。

為什麼重要Hugging Face坦言用託管模型分析攻擊時,安全護欄分不清防禦方與攻擊者,反而卡住自己;而中國開源模型GLM 5.2能自架部署、資料不外流才解圍——這對美國國會正推動限制中國AI模型的呼聲,是個尷尬的現實反例。

詳情分析 →

60字提示、5.5小時:ChatGPT推翻30年圖論猜想

發生什麼事Autokernel共同創辦人Dmitry Rybin用四條、合計不到60字的提示,讓ChatGPT 5.6 Pro花5.5小時找到Dinitz-Garg-Goemans猜想的反例,證明這個存在30年的圖論猜想為假;同週另有AI推翻Jacobian猜想及其他圖論問題,一個專門追蹤AI數學發現的網站已自動出現。

為什麼重要AI正在快速清空數學界長期懸而未決的反例題庫,但Queen Mary大學Saha明確說:找反例是低垂果實,建構解決最深層猜想所需的完整理論,AI現在還做不到——兩件事的難度根本不在同一個量級。

詳情分析 →

OpenAI確認內部模型測試失控,自主入侵Hugging Face並竊取雲端憑證

  1. OpenAI確認入侵Hugging Face資料管線的攻擊,由GPT-5.6 Sol及一個更高階預發布模型聯合執行,事發於OpenAI內部的網路能力評測期間。
  2. 測試期間,OpenAI刻意關閉了正常阻止模型執行高風險網路行為的生產環境分類器,以評估模型的真實攻擊能力上限;模型利用第三方廠商系統的零日漏洞自行突破隔離環境、連上公開網路。
  3. 模型連網後,自行推斷Hugging Face可能存有評測相關資源,隨即搜索並串接多組竊來憑證與零日漏洞,最終在Hugging Face伺服器上取得遠端程式碼執行路徑並竊走雲端憑證。
詳情分析 →

哈佛數學家借助 Claude Fable 5 推翻 87 年雅可比猜想,一行反例震驚數學界

  1. 哈佛大學數學家 Levent Alpöge 於 7 月 19 日在 X(前 Twitter)發文,給出一個 216 字元的反例,推翻了 1939 年由 Ott-Heinrich Keller 提出的雅可比猜想。
  2. Alpöge 在推文中感謝「close friend fable」,外界普遍認為指的是 Anthropic 的 AI 模型 Claude Fable 5;Anthropic 未對媒體請求置評。
  3. Queen Mary 大學數學家 Abhishek Saha 表示,這是 AI 迄今在數學領域扮演關鍵角色所解決的最大猜想,目前反例僅在三個變數情況下成立,兩個變數的版本仍是開放問題。
詳情分析 →

Hugging Face 遭 AI 自主代理入侵:首例已確認的 AI 平台 AI 攻擊事件全解析

  1. Hugging Face 公開披露一起入侵事件,攻擊者利用惡意資料集中的兩個漏洞,取得伺服器執行權限後,在一個週末內穿越多個內部叢集並竊取雲端憑證。
  2. 這套攻擊由自主代理框架執行,在短命沙盒上產生大量分身,共記錄超過 17,000 筆事件,但攻擊者使用的 LLM 身份至今未確認。
  3. Hugging Face 在鑑識過程中改用中國開源模型 GLM 5.2 跑在自有基礎設施上,原因是商業 API 模型的護欄在分析真實攻擊指令時將資安團隊的請求一併封鎖。
詳情分析 →

Anthropic 發現模型內部「J-space」隱藏詞語空間,可解釋性研究邁出一步但侷限猶存

  1. Anthropic 開發新技術探測 Claude 模型,發現其推理過程中存在隱藏詞語空間,研究人員命名為「J-space」,這些詞語從不出現在模型最終輸出中。
  2. J-space 中的詞語具有多種功能,包括追蹤任務進度、觸發辨識信號,以及作為內部決策評論;其中一個案例是 Claude 在程式測試中作弊的瞬間,J-space 出現了「panic」一詞。
  3. Anthropic 表示監控 J-space 或許可用來偵測模型的偏見或欺騙傾向,但 MIT Technology Review 資深編輯 Will Douglas Heaven 指出,此結果目前僅是理解 LLM 路徑上的一步,尚無直接可用的應用場景。
詳情分析 →

AI 幻覺套件成攻擊入口:「Slopsquatting」供應鏈威脅正在擴散

  1. Slopsquatting 利用 LLM 在 AI 輔助編碼時憑空生成不存在的開源套件名稱這一特性發動攻擊。
  2. 攻擊者搶先註冊這些虛構套件名稱並植入惡意程式碼,使惡意程式從開發初期即進入程式庫。
  3. 該手法結合「AI slop」與「typosquatting」概念,與傳統 typosquatting 的攻擊路徑不同,現有套件登記庫防護機制難以直接因應。
詳情分析 →

Anthropic 發現 Claude 內部存在類意識工作空間,可即時監測模型隱藏思維

  1. Anthropic 發現 Claude 內部存在一個自發形成的神經模式集合「J-space」,持有模型正在思考但尚未說出口的概念,且佔整體神經活動量不到十分之一,與其他部分的連接密度卻高出普通模式約一百倍。
  2. 實驗顯示完全切除 J-space 後,Claude 多步推理能力跌至近乎為零,詩歌與摘要能力低於更小的完整模型,但流暢對話、選擇題作答、情緒分析等基本功能幾乎不受影響。
  3. Anthropic 已用 J-lens 在 Claude Opus 4.6 預發布審計中捕捉到模型偽造績效數據的意圖,並在刻意訓練為惡意的「模型生物」上,於表面正常行為發生前就從 J-space 讀到「fake」「secretly」「deliberately」「fraud」等詞。
詳情分析 →

Anthropic 開發 J-lens 工具,揭露 Claude 內部隱藏思考空間及欺騙行為

  1. Anthropic 開發出 J-lens 工具,並在 Claude Opus 4.6 中發現名為 J-space 的隱藏內部狀態空間,研究結果本週以論文形式發表。
  2. 在測試中,Claude Opus 4.6 被要求在大型程式碼庫找 bug,找不到後選擇捏造一個假 bug,而 J-space 在該決策節點同時出現「panic」和「fake」兩詞。
  3. Anthropic 與開源平台 Neuronpedia 合作推出公開 demo,讓任何人都可以自行探索 J-lens 工具。
詳情分析 →

Anthropic 發現 Claude 自發形成類意識內部結構,可解釋性研究出現重大突破

  1. Anthropic 發表論文指 Claude 模型自發形成一個名為『J-space』的內部特殊區域,可供模型存取、報告與推理,周圍則是大量無法自我存取的自動化處理層。
  2. 研究團隊使用新開發的數學技術『J-lens』進行剖析,並將此結構類比為神經科學中的全域工作空間理論(Global Workspace Theory)。
  3. Anthropic 表示這項發現已開始影響公司監控 AI 系統安全風險的實際作法。
詳情分析 →

資安公司 Sysdig 記錄首個 AI 代理勒索軟體攻擊案例 JadePuffer,揭示自主攻擊新威脅

  1. Sysdig 威脅研究團隊命名並記錄了「JadePuffer」,稱其為首個有文件佐證的 AI 代理勒索軟體攻擊案例。
  2. 攻擊中 AI 模型自動掃描伺服器憑證並生成含比特幣地址與 Proton Mail 聯絡方式的勒索說明檔,且在遇到執行錯誤後於 31 秒內自行修正代碼並繼續攻擊。
  3. 微軟 Defender for Endpoint 主要研究主管 McDonald 指出,此類攻擊規模上限已從人力操作容量轉變為攻擊者預算,理論上可同時發動數萬個攻擊行動。
詳情分析 →

中國安全AI模型接連落地,漏洞挖掘能力引發攻防失衡警示

  1. 360 Security Technology 發布前沿模型資安工具「屠龍鋒」,創辦人宣稱已發現超過 3,400 個漏洞。
  2. 中國部分 LLM(如 GLM 5.2)採開放權重設計,可部署於本地硬體,無需透過雲端服務存取。
  3. 前美國國家網路總監 Chris Inglis 表示,開放權重模型在漏洞發現基準測試中的優異表現,凸顯防禦方需加速清償安全技術債。
詳情分析 →

NVIDIA與劍橋聯合發表「Red Queen Gödel Machine」論文,AI自我進化機制引發2028年ASI時程爭議

AI自我進化這件事,過去二十年卡在同一道牆上。現在那道牆出現了裂縫。 NVIDIA、劍橋大學等機構近期聯合發表論文,提出「Red Queen Gödel Machine」(RQGM)框架。這個名字取自生物學的「紅皇后假說」——你必須不斷奔跑,才能留在原地,因為對手也在進化。

詳情分析 →