Claude 擴充功能預覽版登陸 Chrome，Anthropic 強化防禦注入攻擊
Anthropic 宣布推出一款用於 Chrome 瀏覽器的代理工具預覽版，由 Claude 模型所驅動。這款名為 Claude for Chrome 的擴充功能，率先提供給Claude Max 方案中的 1,000 名訂閱用戶，並開放候補名單給有興趣的使用者登記。
安裝 Anthropic 開發的 Chrome 擴充功能後，使用者可在側邊欄與 Claude 對話，並且保留在 Chrome 所有操作的上下文。使用者還能授予 Claude 代理工具權限，讓它在瀏覽器中採取行動，代替使用者完成某些任務。
▲ Anthropic 開發由 Claude 驅動的 Chrome 擴充功能。
就像人們遭遇網路釣魚攻擊一樣，使用瀏覽器內建 AI 也面臨注入攻擊（Injection Attack）的威脅，惡意分子會在網站、電子郵件或文件中隱藏指令，誘騙 AI 在使用者不知情的情況下執行有害操作，例如 AI 自行刪除檔案、竊取資料或進行金融交易。Anthropic 警告，擁有瀏覽器存取權限的 AI 代理興起帶來新的安全風險。
開發 Chrome 擴充功能過程中，Anthropic 反覆進行紅隊測試和安全評估，並希望利用預覽版來發現並修補安全風險。
Anthropic 已經採取多項防範注入攻擊的措施，將攻擊成功率從 23.6% 降至 11.2%。比方說，使用者在設定中隨時授予或撤銷 Claude 對特定網站的存取權限；封鎖 Claude 不得使用某些高風險網站，例如線上金融服務、成人網站及盜版網站等；Claude 在進行「發表、購買或分享個人資料」等高風險操作前，必須取得使用者同意。
瀏覽器迅速成為各大 AI 公司的新戰場，想透過 AI 整合瀏覽器以提供無縫的使用體驗。Perplexity 最近推出全新瀏覽器 Comet，內建 AI 代理工具可為使用者分擔日常任務，Google 近期也在 Chrome 推出 Gemini 整合功能，據傳 OpenAI 也在開發瀏覽器產品，可望具備類似功能。
（首圖來源：Anthropic）