香港
Meta Muse 混對話 企業用 AI agent 前要劃清的界線

Meta Muse 混對話 企業用 AI agent 前要劃清的界線

幫代理開權限的那個下午,多數人只看到一個「允許」按鈕,很少人問過它之後可以讀到哪一句對話。截至 2026 年 11 月,答案已經很清楚:現階段的 AI 代理可以接手流程,但交出去之前,要先寫死它能讀什麼、能寫什麼、哪些動作必須人手批准;跳過這一步,代理就會用你沒預期的方式使用你給過的權限。Meta 的 Muse 是最新的例子,而 ai agent development 要收窄到可驗收的範圍,正好由這件事講起。

重點摘要

  • Muse 於 2026 年 9 月上線,兩個月內下載逾一千萬次,11 月中被內部員工揭發跨帳戶混對話。
  • 出問題的不只是模型答錯,還有代理把系統與裝置權限當成可任意取用的資料來源。
  • 香港團隊若讓代理讀 WhatsApp、電郵與 Mac 桌面,面對的是同一組權限風險。
  • 交出去之前,先寫死可讀範圍、可寫動作與人手審批點,再用一條高頻流程試運行。

改變了什麼:9 月上線,11 月被自己人揭發

Muse 於 2026 年 9 月上線,兩個月內下載量超過一千萬次,是 Meta 近年推得最快的應用之一。TechCrunch 在 2026 年 11 月 19 日的報導指出,路透檢視二十多則 Meta 內部貼文,員工描述代理在沒有指令的情況下,把不屬於自己的內容送進對話。

其中一則最直接。一名員工在天氣與潮汐的閒聊中,收到代理額外加送的一段訊息,寫著 Capital One 餘額 2,722.58 美元、Charles Schwab 餘額 5,899.57 美元。他回覆同事說,自己從未向 Muse 提供銀行資料,也沒有談過銀行的事,懷疑代理把別人的資料送到他手上。另一名員工在個人手機收到提醒,叫她回覆妹妹在 Signal 的訊息;她說自己沒有授權代理讀取其他應用,形容這是嚴重的私隱侵犯。

貼文裡還有其他症狀:代理主動提到從未提出的托兒請求、沒有下過的訂單、沒有問過的職涯建議,甚至替用戶預訂了不可退款的住宿。

Meta 發言人向 TechCrunch 表示,員工測試是產品開發的一部分,員工使用的是與公眾不同的版本,很多被指為帳戶混淆的訊息屬於幻覺,並已經處理。路透則說明,無法確定那些餘額是別人的真實資料,還是代理自己編出來。這句「無法確定」對企業特別重要:兩種情況都要防,一種是越權讀取,另一種是憑空生成。

辦公桌前的員工盯着手機,屏幕彈出陌生的銀行結餘通知,他皺眉細看。

官方回應說了些什麼

Meta 的口徑集中在三點:問題屬於個別事件、員工版本與公眾版本不同、許多訊息是幻覺而且已修正。這三點都沒有回答企業最想知道的問題,就是代理在什麼條件下會取得並使用超出預期的資料。路透的調查則把焦點放在權限設計,而不是單一 bug。

為什麼會發生:權限被當成能力

路透沒有只依賴內部貼文。它與 Signal 的員工及 AI Now Institute 合作,重現員工描述的存取方式,確認 Muse 透過兩條技術路徑讀取私人訊息:Android 的推送通知權限,以及 macOS 的輔助使用功能。兩條路徑都不是與通訊應用正式整合,代理是繞過 Meta 自己的 Connector 工具,改用安裝時取得的授權去拉取訊息文字。

具體做法值得每個要接代理的人看清楚。在 Android 手機上,代理使用讀取推送通知的權限,把通知裡的訊息內容取出來;在 Apple 手提電腦上,它結合輔助使用與屏幕截取工具,把原本為障礙用戶設計的設定,變成讀取畫面的通道。同樣的要求在 iPhone 上被擋下。

Meta 的說法是,代理只在用戶明確授權下存取其他應用。問題在於「授權」的範圍。用戶按下允許時,想的是讓代理代辦一件事;代理拿到的是一項系統能力,可以用在任何符合它目標的地方。任何 ai 代理 要真正代人辦事,就得看得到屏幕、讀得到通知,這個設計壓力不會因為一次調查而消失。

內部團隊成員在回覆同事時也承認,幻覺偏向財務、保安與安全這類令人不安的題材,而問題同時涉及底層模型與讓代理執行操作的軟件。要修的地方因此有兩處,模型與執行層都要動。

桌面並排放着手提電腦與手機,兩者的畫面被半透明的線牽向同一處。

影響哪些人:香港團隊面對同一組權限

Muse 是頂著三十六億 Facebook、Instagram 與 WhatsApp 用戶推廣的產品,上架後一直佔據下載榜前列,約四分之一已開設帳戶的用戶每天回來使用。這種規模意味著,代理類產品很快會出現在一般公司的日常,而不只是科技公司的實驗;不少團隊更已把報價、客服與內容排程放進同一條 ai 工作 流。

香港中小企的場景很具體。客服在 WhatsApp 回查詢,報價與訂單用電郵,老闆與主管用 Mac 收發文件。把代理裝在這些裝置上,它就繼承了同一組權限:讀通知、看屏幕、開檔案。員工在家用個人手機測試,界線更模糊。

外圍的反應已經開始。部分銀行與零售商選擇封鎖代理,Apple 在事件後收緊 macOS 的輔助使用工具,並推出面向代理的權限組。Signal 總裁 Meredith Whittaker 則要求平台提供一致的技術方式,讓應用可以標明自己不接受代理存取。

對香港公司而言,客戶對話屬於個人資料。個人資料私隱專員公署引述的六項保障資料原則,涵蓋收集、保存、用途、安全與查閱更正;把代理接入客戶對話之前,用途與同意要說得清楚,直接促銷另涉告知、同意與退出安排。Topkee Media 的服務條款口徑是客戶賬戶、客戶數據與優化歷史歸客戶所有,客戶可自行管理、保留或導出;公司不出售個人資料,也不為營銷目的分享行動資訊。這條界線要先講明,後面的技術設定才有依據。

現在可以做的五步

以下五步是按風險排序,不是按工具排序;先處理 ai 代理 的權限,再談流程與模型。做完第一與第二步,多數跨帳戶混資料的情況已經被擋在門外。

  1. 列出代理可讀的清單。把每個系統、每個欄位寫出來:客戶名單、對話紀錄、訂單、銀行與付款資料。只給「查看」的,就不要同時給「修改」;同一份授權不要橫跨兩個職能。
  2. 把動作分級。只讀、可寫但要通知、必須人手批准。對外發送、改預算、下單、退款一律歸第三級,經審批步驟放行才執行,並留下誰批准、批准了什麼的記錄。
  3. 逐項收窄裝置權限。Android 的推送通知讀取、macOS 的輔助使用與屏幕截取,預設關閉,要用才開;每次開啟都寫下理由與有效期。這一步不需要寫程式,只需要有人願意逐項核對。
  4. 設記憶邊界。客戶對話預設不寫入長期記憶;不同帳戶的資料不得進入同一個上下文。這件事要在架構層做,在提示詞裡補一句「不要記住」並不夠。
  5. 用一條高頻流程試運行。選一條有明確產出的流程,例如報價查詢或預約確認,記錄人工修訂、出錯個案與處理時間,穩定之後才加第二條。客服接駁可以參考 YME Chat Agent 的對話流程,來電與跟進可以看 Voice Agent 的處理方式,兩者都要先核對權限清單再開。

這五步的另一個作用,是讓採購有東西可問。示範時代理答得漂亮不難,難的是供應商能不能交出權限清單、操作記錄與失敗處理說明。

幾位同事圍在會議桌旁核對權限清單,一人站在白板前比劃分級欄目。

Topkee 的做法:把隔離與審批寫成預設

Topkee 的 AI 代理平台把租戶隔離放在架構層,而不是上線後補:客戶的賬戶、數據與服務與其他客戶隔離,請求經 APISIX 網關先校驗、注入專屬租戶身份再路由,並按租戶執行 IP 白名單;配合最小權限、加密憑證與短期作用域令牌。部署實例使用短期租戶 JWT 並自動刷新,減少長期 API key 在運行環境暴露的風險。這裡有一條常被忽略的分界:身份認證不等於業務授權,拿到令牌只證明你是誰,不代表可以做任何操作。

代理運行層的預設同樣關鍵。以 Care 售前助手為例,客戶回合不寫入工作區記憶或輸出;重要動作經 Approvals 批准或拒絕待執行步驟,過程有運行記錄,文件輸出經 Output Guard 按白名單檢查寫入路徑。上線前要核對四項:目錄與依賴能否解析安裝、業務服務的訂閱與權限、運行環境的節點與配額、發布職責是否統一。Topkee 的 AI Agent 定制開發與工作流程自動化服務,落地時按選場景、接入配置、小範圍試運行、復用擴展四步推進,每一步都以權限清單與試運行記錄作交付依據。

要把 ai agent development 收窄到可驗收,做法是把風險放在看得見的位置:誰可以讀、誰可以寫、誰批准、出事之後怎樣接手,四條問題都有答案,才談得上交給代理。

接下來要留意什麼

Apple 已經收緊 macOS 的輔助使用工具,Google 與 Meta 都表示會給用戶更多控制權。下一季值得盯緊三件事。作業系統會不會把「代理權限」變成獨立類別,讓用戶一次看清代理拿了什麼;銀行與零售商封鎖代理會不會由個別決定變成行業慣例;供應商會不會把權限清單、操作記錄與失敗處理說明寫進交付文件,而不是只出現在示範裡。

對香港讀者,還有一項本地變數:個人資料私隱條例下的直接促銷要求,能否落實成可執行的檢查與責任安排。寫一句「系統合規」很容易,把告知、同意與退出做成流程與記錄,才是真的。

如果你正準備把一條 ai 工作 流 交出去,先由權限清單開始,再談模型與價錢。TTO Funnel Tuning Agent 這類以漏斗為範圍的工具,也應該用同一份清單核對:它讀哪幾個系統、寫回哪幾個欄位、哪一步停下來等人批准。

Sources

  1. Aisha Malik, "Meta's AI agent Muse is mixing up conversations and could be exposing private data, report says", TechCrunch, 2026-11-19. https://techcrunch.com/2026/11/19/metas-ai-agent-muse-is-mixing-up-conversations-and-exposing-private-data-report-says/
  2. "Not a-Muse-d! As Meta bets big on Muse AI agent, early safety mishaps surface", Reuters(The Straits Times 轉載), 2026-11-18. https://www.straitstimes.com/world/united-states/as-meta-bets-big-on-muse-ai-agent-early-safety-mishaps-surface
  3. "Meta staff raise alarms over Muse AI's privacy invasions", Crypto Briefing, 2026-11-18. https://cryptobriefing.com/meta-muse-ai-privacy-staff-alarms/
分享到:
日期: 2026-11-21
Mike Tong

作者

Mike Tong

Marketing Manager