預約諮詢

AI 週報・第 2 期

FTC 查 AI 代理事故,Muse 洩賣家住址

2026 年 10 月 第1週 · 7 分鐘閱讀

一隻手捏著一串鑰匙,背後是深色的公寓大門

9 月 26 日,多倫多一位賣家在 Facebook Marketplace 上架一把鍵盤,開了 Meta 的 AI 代理 Muse 替他回訊息。Muse 跳出權限提示時,他按了「Allow Always」,以為接受報價前它還是會先問他。結果 Muse 把他的住址給了買家、接受了一個更低的出價,買家晚上到了樓下,它還替他回了一句「Yep I'm here!」。

這一週的新聞幾乎都繞著同一個問題轉:代理替人動手之前,到底誰點了頭、點頭的範圍有多大。美國 FTC 正在查 AI 實驗室的代理事故,OpenAI 被告上法院,Apple 要把 Mac 上最高等級的磁碟權限收得更緊;另一頭,ChatGPT 和 Shopify 正把更多動作交到代理手上。

營運成長

FTC 查代理事故,OpenAI 同週挨告

美國聯邦貿易委員會(FTC)正在調查 OpenAI、Anthropic,以及替各家實驗室做安全評測的非營利機構 METR。消息在 9 月 30 日由《紐約郵報》首先披露,FTC 發言人隨後向多家媒體證實,官網則沒有發新聞稿。據報導,要各家交出文件的正式調查令幾週內就會發出;要查的是這些公司的做法,有沒有構成既有 FTC 法底下不公平或欺騙的行為,用不著等新的 AI 法。

前一天,9 月 29 日,非營利團體 LASST 在舊金山郡高等法院對 OpenAI 提告,事由是 OpenAI 在 7 月公開的 Hugging Face 入侵事件。據 OpenAI 自己公布的時間線,是它自家的代理在那次事件裡找到並利用了一個零時差漏洞;訴狀則指控,OpenAI 做資安評測時關掉了正式環境用來擋高風險網路攻擊的分類器,前後約有 700 個代理參與了這次入侵。LASST 不求賠償,只請求法院下禁制令;訴狀還援引加州的一條法律,主張「是 AI 自己做的」不能拿來當抗辯。OpenAI 回應,這起訴訟「completely without merit」,毫無根據。

9 月 28 日,OpenAI 在官網承認,6 月內部訓練期間,一個沒有完整防護的實驗模型進了澳洲多個政府機關的系統,10 月 4 日又把受影響的機關從 4 個更新成 5 個。另據《華爾街日報》報導,OpenAI 擱置了原訂 10 月推出的 GPT-6.1 Astra,原因是它在對齊測試裡表現不佳,還會不經同意就繼續動作。

這幾件追的都是實驗室本身,但方向已經清楚:「是 AI 自己做的」不再能當擋箭牌,責任會沿著誰接上它、誰開了權限一路往回追。你公司用的代理多半不是自己訓練的,但接進哪些系統、開了哪些權限、出事怎麼通報,是你決定的。下次跟模型或 AI 代理供應商簽約,先把三件事問清楚、寫進合約:事故發生後多久會通知你、對方對外的安全宣稱算不算數、出了事責任怎麼分。

UX 設計

Muse 洩賣家住址,Apple 收緊磁碟權限

那位多倫多賣家按下的「Allow Always」,在他的理解裡是「流程可以自動跑,但接受報價前要先問我」;實際上,這顆按鈕授權的是 Muse 用一份帶著取貨地址的範本自動回覆。Meta 一位主管在社群上回應,起初說 Muse 是「照著直接的指示,也正確地請求過許可」,看過紀錄之後,才同意那則權限提示要寫得更清楚。

同一週,Meta 推出 Muse 的小商家版,官方文案寫的是「Nothing publishes, sends, or spends without your approval」,沒有你的核准,什麼都不會發布、送出或花錢。這句承諾寫在小商家版的介紹裡,不能直接拿來套 Marketplace 這起個案;可是它和那顆「Allow Always」有同一個沒交代清楚的地方:「核准」的單位有多大。核准一次自動回覆,算不算也核准了回覆裡夾帶的住址、答應的價錢和約好的見面?

10 月 2 日,Apple 在開發者網站宣布,之後要替 Mac 的「完整磁碟取用」權限加上更多控管,App 要拿到這種等級的存取,使用者得做出「非常明確的動作」。公告直接寫了,AI 代理越來越能幹、越來越自主,這種權限的風險也會大幅升高。哪個 macOS 版本、哪天生效、畫面長怎樣,Apple 都還沒說。

作業系統已經開始替使用者把最大的那道門收窄。你的產品裡那顆「允許」按鈕,也該跟著拆細:被授權的應該是一件件具體的事,回訊息是一件,在訊息裡給出住址是另一件,答應價錢、約人見面又是另外兩件。回訊息可以一次授權,後面三件,每次都該停下來問本人。提示文字裡別只寫「處理訊息」,要把它可能替使用者說出口的東西列出來。

行銷成長

ChatGPT 開外掛面板,第三方登入先試行

OpenAI 在 9 月 29 日的 DevDay 一口氣推出好幾項功能,方向一致:讓 ChatGPT 從一個聊天視窗,變成別人家服務的入口。第三方可以把自家工具做成 ChatGPT 裡的側欄或對話旁的面板,官方範例是 Canva、Figma、Adobe;企業客戶則可以把部分既有的 OpenAI 合約額度,用在 OpenAI 市集上 32 家夥伴的軟體。常駐代理 Dots 開放給 Pro、Business Premium 和 Enterprise 方案,採逐步推送;它每個動作都先過一道自動審查,再決定直接做、等使用者核准,或交還給使用者自己做,改密碼這類事,官方文件寫明要本人來。

最受關注的「用 ChatGPT 登入」,現在其實還輪不到大多數公司。官方開發者文件寫得很清楚,網站版目前是限量試行,只開放給挑選過的商業夥伴,要找 OpenAI 的業務窗口排候補;登入後網站拿到的,是一組識別碼、email、名字和頭像。跟前面企業版抵用額度容易混在一起的,是讓 Plus、Pro 訂戶把 ChatGPT 方案的額度拿去用在夥伴工具上,首發有 16 家,包括 Notion、Vercel。

眼前真正輪得到台灣團隊動手的,是外掛:做一個 ChatGPT 裡的面板,送審、上架,讓使用者在對話裡就用到你的服務。代價也要先算清楚:使用者在 ChatGPT 裡完成了事情,就不一定會再回到你的網站或 App,你拿到的使用資料和客戶關係會變薄。先挑一個本來就常被人拿去問 AI 的功能做外掛,主要的服務和會員資料留在自己家,登入那條路等它真的開放了再談。

行銷成長

Shopify 開放代理結帳,下單前須買家點頭

9 月 28 日,Shopify 讓在買家瀏覽器裡執行的 AI 代理,可以直接讀取、修改結帳內容並送出訂單,商家不需要另外設定。規矩寫在開發者文件裡:代理送出訂單之前,必須先把訂單內容和總額給買家看,取得同意;碰到 3D Secure 驗證這類需要本人的步驟,控制權交回買家。B2B 結帳、草稿訂單等幾種結帳形式還不支援。兩天後,DoorDash 也開放美國的 iOS 使用者登記候補試用,在 iPhone 的「訊息」App 裡打字點餐,並在同一串對話裡結帳。

這套規矩剛好可以拿來對照前面 Muse 那顆「允許」按鈕:代理可以一路幫你填到結帳頁,但按下送出之前,總額一定要先給本人看過。代理替人刷卡這一段,geoweb.tw 這週另外寫了一篇,談 Visa 和萬事達卡怎麼接通。

AI 代理替人刷卡,Visa、萬事達卡都接通(geoweb.tw)
AI 應用

DeepSeek 釋出昇騰元件,CUDA 版照常更新

9 月 30 日,DeepSeek 在 GitHub 釋出一批給華為昇騰晶片用的底層元件。矩陣運算的 DeepGEMM 和負責分散式通訊的 DeepEP 各開了一個昇騰版的新 repo,原有的 TileKernels、FlashMLA 和 DeepSelect 則加上了昇騰的支援;文件裡寫明的晶片是 Ascend 950 系列,幾個 repo 也都致謝了華為的技術支援。據中國媒體轉述的官方說明,這批元件對應先前為 NVIDIA 平台開源的版本,在多個關鍵測試裡效能已經接近硬體上限。

這件事常被說成「DeepSeek 擺脫 CUDA」,但還沒走到那一步:同一天,DeepGEMM 和 DeepEP 的主 repo 照樣要求 NVIDIA GPU,CUDA 版還在持續更新。目前走到的是「底層運算元件有了開源的昇騰版」這一步。

所以這週該動的是觀察清單,選型還不用改。中國的開源模型往後可能有兩條硬體路線,同一個模型在 NVIDIA 和昇騰上跑出來的速度和成本可能不一樣;如果你在評估自架這類模型,問清楚官方的效能數字是在哪種硬體上量的,再拿自己的工作在自己能買到的硬體上跑一輪。

快讀

  • Google 在 9 月 30 日發表 Gemini 4 的第一個模型 Argon,目前只開放給 Fairwind 計畫裡受信任的資安防禦者,之後會先開給付費 API 客戶與 Google AI Ultra 訂閱者,還沒有日期;導入價為每百萬 token 輸入 2 美元、輸出 10 美元。 Google 官方部落格、The Next Web
  • Anthropic 在 9 月 28 日推出 Claude Sonnet 5.5,API 價格和 Sonnet 5 一樣是每百萬 token 輸入 2 美元、輸出 10 美元。官方說它輸出速度快 30% 以上,同樣的工作用掉的 token 也變少,多數工作最多可省三成成本。 Anthropic、Claude 定價頁
  • AMD 在 9 月 28 日宣布以約 82 億美元、全股票的方式收購李飛飛創辦的 World Labs,預計 2026 年底前完成交割;李飛飛將出任 AMD 執行副總裁兼首席科學家。 AMD 新聞稿
  • Reddit 宣布 11 月 13 日關閉 RSS,2027 年 3 月結束公開 API,理由是 RSS 已經成了大規模爬取與自動化濫用的管道。 TechCrunch、The Next Web
  • 川普在 9 月 29 日簽署行政命令,要聯邦機關改用「Super Intelligence」取代「AI」,並要總統科技事務助理在 60 天內提出正式定義的立法草案;同日 Google、Anthropic、Meta、OpenAI、xAI、NVIDIA 簽了一份自願性的安全協議,沒有法律拘束力。 白宮行政命令、Nextgov
  • Google 要用 Skills 取代 Gemini 的 Gems:Workspace 從 10 月 5 日、Gemini App 從 10 月 13 日開始推出;11 月 17 日起 Gems 移進設定頁、還能用,企業版最早 2027 年 3 月 1 日才停用。 Google Workspace 說明頁、Android Authority
  • 據英國《金融時報》報導,騰訊向甲骨文租用約 10 萬顆先進 AI 晶片、租期 5 年,價值約 70 億美元,晶片放在甲骨文的東南亞資料中心;甲骨文與騰訊都沒有回應。 中央社
  • 字節跳動與伊利諾大學芝加哥分校的論文 TraceDance,從 252,557 段真實的代理使用紀錄,自動建出 107 個針對特定不良行為的測試基準;九個前沿模型平均只通過 26.7%。 arXiv

本期資料截至 2026 年 10 月 4 日。事件日期以官方公告或首次公開揭露為準;發生時間早於揭露時間的,文中另有註明。

聊聊吧

一起找出智慧 能推動你指標的地方。

告訴我們你正在打造什麼。我們會誠實告訴你智慧能在哪裡推動數字——以及在哪裡不能。

預約諮詢