從能讀到能改:ChatGPT 寫入權進入企業工作流
過去,ChatGPT 讀錯一份文件,使用者大不了忽略答案;如今,若人工智慧取得授權後能建立、編輯或更新雲端內容,錯誤就可能直接進入公司的正式工作流程。
OpenAI近期把Google Docs、Sheets與Slides相關操作整合至Google Drive actions,讓ChatGPT在支援的方案、工作區設定及授權範圍內,不只搜尋或分析資料,也能建立及修改文件。這代表ChatGPT正從「提供建議」走向「操作工作資產」,企業面對的問題也從要不要使用AI,轉變為應該授予多少權限。
從讀錯到改錯
讀取權限的主要風險,是ChatGPT可能理解、引用或推論錯誤,但使用者通常仍能在採用答案前檢查;寫入權限則不同。若AI修改試算表公式、簡報內容或正式文件,錯誤可能直接影響其他共用者,甚至成為後續流程的輸入。因此,企業不應只用模型準確率評估這類功能。AI產出的文字流暢,不代表數據、引用及推論正確,一旦具備寫入能力,版本紀錄、變更預覽、人工審核與復原機制,都應成為AI內控的一部分。
值得留意的是,風險分界已不只是能讀或能寫,是每次動作是否仍需要人工確認。OpenAI目前的App permissions可依環境提供Always ask、Any changes、Important actions與Never ask等模式。其中Important actions是預設選項,系統會在可能對ChatGPT外部造成重大影響、揭露敏感資訊或難以復原的操作前要求確認;Never ask則代表部分操作可能在沒有確認提示下執行,風險也相對提高。
Google與Adobe走向不同
Google Workspace是最直接的例子。ChatGPT對Google Drive的操作仍受到使用者原有檔案權限、OAuth授權、工作區政策與App action設定限制,因此不能簡化成「ChatGPT可以任意修改Google Drive」。
OpenAI已把企業App治理拆成不同層級,RBAC或使用者存取權決定誰能使用App,Action control決定App能做什麼,App permissions則決定執行前何時需要人工確認。對支援Action control的App,管理員還可設定只允許read actions、允許全部操作,或自行指定可執行項目。
Adobe也正把工作流程搬進對話介面,Adobe於8月6日推出Adobe for ChatGPT,整合超過70項創意與生產力工具,涵蓋Photoshop、Firefly、Acrobat、Express等,讓使用者可透過自然語言製作影像、影片、設計與文件,再與既有Adobe工具鏈銜接。
但兩者的風險模型並不完全相同,Google更直接涉及企業既有文件與試算表的修改,Adobe目前則偏向把多項創作能力集中至ChatGPT,再與原有工具銜接。
真正的分水嶺是授權後自動執行
AI治理正從傳統的「誰可以存取什麼資料」,進一步變成「AI代表這個人,可以執行什麼動作」。
當AI只能提供答案,錯誤成本主要停留在資訊層;當AI能修改文件,風險開始進入作業層;若更多低風險操作能在授權後自動執行,企業治理核心就會從內容審核轉向權限設計。
必須注意的是,權限風險還具有累積效果。單一次自動修改可能影響有限,但若AI同時連接文件、郵件、雲端儲存與其他企業系統,一個錯誤判斷就可能跨越多個工具。未來企業評估AI代理時,除了模型能力,也要評估它能接觸多少系統、可以採取多少動作,以及錯誤是否容易被攔截與復原。較成熟的做法應遵循最小權限原則,先開放搜尋、摘要與草稿,再依需求逐步增加建立及修改權限,並對高影響操作保留人工確認。
ChatGPT從能讀到能改,AI開始有能力改動企業的正式工作資產,下一階段企業要管理的,是AI被允許改變多少。
Adobe's new ChatGPT plugin brings 70 of its tools to OpenAI's chatbot
Admin controls, security, and compliance for plugins and apps
(首圖來源:shutterstock)