Meta蒐集員工鍵盤滑鼠資料訓練AI 爆權限漏洞急喊停計畫
Meta昨日(6月22日)宣布暫停內部AI訓練計畫「Model Capability Initiative(MCI)」,原因是部分透過該系統蒐集的員工資料被發現存取權限設定不當,導致大量內部員工可查看相關資料,引發隱私與資安疑慮。Meta表示,目前尚無證據顯示資料遭員工不當使用,但在調查完成前,將暫停相關計畫。
MCI於今年4月推出,目的是透過蒐集員工日常工作過程中的鍵盤輸入、滑鼠移動、點擊位置及部分螢幕內容等資訊,作為訓練Meta AI模型的資料來源。根據規劃,該計畫最初適用於多數美國員工,且對多數員工屬強制參與,因此從推出之初便引發部分員工反彈。
根據《Business Insider》取得的內部截圖,此次事件被Meta列為SEV 2等級(在0到5的嚴重性評級中,0為最嚴重)。涉及資料包括員工輸入的提示詞、對話逐字稿、私人通訊內容、人事與績效資料,以及內部敏感度分級資訊等。
Meta發言人Tracy Clayton表示,公司在設計MCI時已加入隱私保護機制,目前沒有跡象顯示資料遭不當存取,但仍決定暫停計畫並展開全面調查。由於系統仍在部分員工設備上運作,全面停止蒐集作業可能需要一定時間。
事實上,MCI推出後便持續受到員工質疑。部分員工認為,公司先前承諾相關資料將受到嚴格保護,然而此次事件顯示資料存取權限控管並未如預期落實。有員工在內部討論區表示,自己曾透過工作電腦處理個人稅務及醫療資訊,如今得知相關資料可能暴露於內部系統,令人難以接受。
這並非Meta近期首次面臨資安爭議。上個月,Meta旗下AI聊天機器人被發現存在漏洞,可能遭到利用以劫持多個Instagram帳號;今年3月,一個失控的AI代理程式也引發了嚴重資安事故。一連串事件也再度引發外界對Meta AI系統安全性與內部治理機制的關注。
目前Meta表示,MCI的暫停作業正在分批推進,但拒絕說明計畫何時恢復。《路透社》消息人士透露,截至周一下午,該工具仍在部分員工設備上運作。