請更新您的瀏覽器

您使用的瀏覽器版本較舊,已不再受支援。建議您更新瀏覽器版本,以獲得最佳使用體驗。

資訊裸奔2/養龍蝦變「養小鬼」!對岸慘案頻傳 數發部推自保令

鏡週刊

更新於 04月04日23:31 • 發布於 04月04日23:30 • 鏡週刊 Mirror Media
OpenClaw可從「語言助理」變成「數位員工」,中國大陸日前掀起養龍蝦熱潮。(翻攝自NVIDIA YouTube)

近期在科技圈,養「龍蝦」(OpenClaw) 成了熱門關鍵字,連輝達執行長黃仁勳都叫好,這個開源的AI 代理人(AI Agent)工具,熱潮卻在中國急轉彎,台灣官方也開始發出警訊與管理方針,就怕這場「AI跟風」變「隱私失控」。

2008年的動畫電影《瓦力》,太空船上的導航機器人「奧圖」,為了執行它自以為正確的指令,不惜囚禁艦長、銷毀證據,差點斷了人類回家的路,然而這樣的科幻電影,到了2026年的今天,這幕「機器人奪權」的戲碼,似乎正在逐漸成形。

就是現在科技圈最火爆的話題「養龍蝦」,跟會聊天的 ChatGPT 不同,它有「手腳」,能直接操作電腦,能讀你的檔案、開瀏覽器、跑流程,理論上甚至可以幫你完成搶票、網購、買股票等工作。

今年春節,這股「養蝦潮」席捲中國大陸,甚至有許多地方政府推出「養龍蝦」的補貼政策,騰訊員工甚至在總部外擺攤,免費幫路人安裝。

但好日子沒過多久,中國工信部在3月中旬突然政策急轉彎,發布「六要六不要」安全警示,多家國企和銀行隨即在內部通報中要求員工卸載或禁用相關工具;連國家安全部都出面,發了《養殖手冊》,直指這工具恐讓主機被接管、數據被竊取。

說白了,這隻龍蝦在中國官方眼裡,從新創新星、成了個管不住的監聽器,由於潛在的資料外洩風險,目前中國大陸等地的部分國營企業、政府機構與大學,已經明令限制或禁止在內部網路使用龍蝦,市場上還出現大規模的「解除安裝潮」,和「付費移除」服務。

360集團創辦人周鴻禕在公開採訪時也表示,「龍蝦」現在還在早期發展階段,配置龍蝦對普通人來說是一件非常難的事,需要正統的軟體公司去完善相關的版本。

Meta Superintelligence Labs(MSL)的安全總監 Summer Yue 就親身體驗過什麼叫「助理變叛徒」。她在社交平台上提到,本來叫龍蝦幫忙歸檔舊信件,結果這隻蝦自作主張,瞬間刪掉一大批私人郵件,儘管她早就設定了「行動前要確認」,但龍蝦跑起來根本沒在聽。Summer 描述,當時她發現不對勁,是「像拆彈一樣」衝到電腦前強行中止程式。

資安公司之前也揭露了一個龍蝦的高風險漏洞,因為龍蝦在電腦裡通常握有近似「管理員等級」的權限,一旦這張身分證被偷走,駭客就等於拿到了你家的萬能鑰匙,可以遠端進入你的電腦讀檔案、灌後門,甚至在取得足夠控制權後,間接看到你螢幕上正在做什麼,就像是整個公司網路的大門直接被拆掉。

而龍蝦也可以下載各種外掛,但有資安公司做實驗,成功把一個塞了惡意程式碼的外掛推上排行榜第一名,所以就算用戶下載「熱門推薦」、「評價最高」,也可能是駭客精心包裝的毒藥。

中國大陸也陸續出現相關慘案,今年3月,就有一名使用者在網路平台花費40元人民幣購買了「遠端安裝OpenClaw」 服務,同意客服遠端接管其電腦完成部署,但完成5分鐘後,該使用者就接到了國家反詐中心的電話提醒,因為他的資料已被竊取、還被打開了網路支付許可。

眼看這股龍蝦風燒進台灣,數位發展部資安署也坐不住了,在上週趕緊發新聞稿提到,AI代理的資安風險是涉及架構層面的系統性風險,所以要特別注意,惡意指令可能出現在外部網頁,就是AI代理在瀏覽外部網頁、或讀取真實世界的社群留言時,若內容暗藏攻擊者預埋的惡意指令,AI代理有可能執行刪除檔案、竄改系統設定等危險操作。

第三方技能包也可能暗藏惡意程式,一旦安裝即可能被植入後門或惡意程式;長時間運作導致安全守則遺失,原本設定好的安全規則與權限設置可能被刪減,導致AI代理逐漸「忘記」哪些事不該做,產生失控行為。

資安署建議,要避免將AI代理安裝於存放機密資料或日常作業的環境,最好幫他註冊「專屬的」獨立帳號,避免將個人日常使用的帳號與密碼直接提供給AI代理,還要設置人類審核機制。高風險操作時,也要強制啟用人工審核,才可放行,安裝任何第三方技能擴充套件前,要進行完整的安全掃描,並將安全守則寫入「長期記憶」。

畢竟在AI 時代,追求效率的同時,把電腦的「最高指揮權」交出去前,得先問問自己:如果它哪天出錯,是你能關掉它,還是它會先關掉你?在數位世界「裸奔」的代價,真的沒人付得起。

加鏡LINE新聞不漏接
資訊裸奔1/不要餵這些資料! 逾七成企業導入有風險的AI地雷
重啟核電連英系也轉向 童子賢:民意支持擺脫反核舊思維

查看原始文章

更多理財相關文章

01

張忠謀95歲生日領股息7.5億!養生哲學曝光 他每日堅持「這1事」

三立新聞網
02

5億美元綁定10年產能 美光大手筆力挺環球晶為哪樁?

鏡報
03

搶登神山1》台股市值3大天王 年增2百萬零股大軍

自由電子報
04

熊市也能賺!分析師點名3股票 台積電上榜

NOWNEWS今日新聞
05

股民別白跑!颱風假攪局 中鋼等5大廠「零股紀念品」順延領取

TVBS
06

〈熱門股〉友訊強攻低軌衛星打入SpaceX供應鏈 本周股價大漲逾20%

anue鉅亨網
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...
Loading...