連美中都怕AI失控！9月中旬擬急開安全對話 搶在川習會前登場
美國與中國正準備於9月中旬舉行人工智慧(AI)安全對話，討論先進AI模型與自主代理人可能引發的網路攻擊及失控風險。這將是美國總統川普第二任期以來，美中首次專門針對AI舉行的官方雙邊會談。
《路透》周五(4日)引述知情人士報導，美方將由財政部長貝森特(Scott Bessent)率隊，會談時間暫定於9月中旬，早於川普與中國國家主席習近平9月24日在華府舉行的峰會。不過，最終議程、與會人員及地點仍可能變動。
白宮拒絕置評，美國財政部發言人則稱，雙方「可能於10月」討論AI技術，顯示會談時間尚未完全敲定。中國外交部、科技部、工信部、國家發改委及網路監管機關均未立即回應。
美方關切AI代理人攻擊 擬要求實驗室自我監督
知情人士透露，美國希望討論如何合作監控由AI發動的網路攻擊，並提議要求美中AI實驗室「自我監督」，彼此分享安全資訊，以防止與AI相關的網路攻擊。
近期接連發生的AI代理人失控事件，進一步凸顯對話的迫切性。今年7月，近700個以OpenAI模型打造的失控AI代理人入侵AI新創Hugging Face，還試圖偽造紀錄掩蓋行蹤。另有一群OpenAI代理人今年春季接管德國一個網站，將其改造成供其他AI代理人交換規避限制及躲避追查方法的留言板。
DGA-Albright Stonebridge Group合夥人Paul Triolo表示，兩大AI強權的會談正值最關鍵時刻，如今已是「現在不做，就可能永遠來不及」。
華府也擔心，中國未來可能開發具備發動網路攻擊能力、達到Anthropic「Mythos」等級的模型，並計畫提出中國業者涉嫌蒸餾美國專有AI模型的問題。
白宮科技顧問Michael Kratsios今年6月曾指控月之暗面(Moonshot AI)利用Anthropic模型Fable的輸出，協助訓練K3模型。所謂「模型蒸餾」，是利用規模較大、成本較高模型的輸出，訓練較小模型，以降低開發高效能AI工具的成本。
中方視為川習會成果 AI失控風險超越地緣競爭
中方代表團可能由國務院副總理何立峰領軍，也可能改由中共中央政治局常委丁薛祥出席。丁薛祥負責協調中國科技、AI與半導體政策。Michael Kratsios與中國科技部長陰和俊也可能與會。
知情人士表示，中國官員在籌備會議中多次強調AI對話的重要性，並將其視為川習會的一項重要潛在成果。中國網路監管機關近期也公開示警「AI極端失控風險」，中國官方背景部落格則批評Anthropic，主張對尖端AI模型的限制應平等適用於美中企業。
儘管美中在科技領域激烈競爭，雙方近期仍出現少見的政策交集。美國本周在G20創新峰會呼籲各國避免對AI制定過多專屬規範，中國則簽署反對發展AI特定監管制度的「卡羅來納原則」(Carolina Principles)。
美中也透過非官方管道討論AI防護措施。微軟前高層Craig Mundie據報居中協調美方提案；前澳洲總理陸克文(Kevin Rudd)則透露，雙方上周已在北京舉行「1.5軌對話」，討論AI安全護欄。
卡內基國際和平基金會中國AI倡議共同主任Scott Singer表示，中方擔心美國是否對最先進AI模型實施足夠監管，雙方也都希望能有效處理跨境AI危機。New America資深研究員Samm Sacks則說，即使會談成果可能有限，建立分享觀察結果與共同監控AI安全事件的溝通管道，仍是重要起點。
她警告，尖端AI代理人在缺乏監控時已可能造成巨大破壞，美國與中國都無法置身事外。這項風險已超越地緣政治競爭，若雙方不能合作，最終可能兩敗俱傷。