OpenAI代理失控 業界籲控制AI發展速度 美禁中「3產品」
美國總統川普政府正對一項行政命令：AI監管，設下8月1日的最後期限，要制定完整的具體框架，特別是正值上周剛發生OpenAI AI代理失控一事，已經敲響警鐘。阿特曼證實事件中的受害者，不只一間AI公司。AI從業人員連署一封公開信，呼籲美國政府研發工具，有意識地控制AI發展速度，以免失控。與此同時，美國政府宣佈禁止外國製的人形機器人、四足機器人和逆變器，針對中國大陸的意味不言而喻。
美國總統川普（Donald Trump）政府正對一項行政命令：AI監管，設下8月1日的最後期限，要制定完整的具體框架。
美國總統 川普：「我們正在研究AI。我們正在尋求管制措施。但我們也正在確保我們保持領先地位，我們在AI方面大幅領先中國。」
OpenAI執行長阿特曼（Sam Altman）和輝達執行長黃仁勳，周三（29日）這天都到國會山莊，和立法者進行相關討論。這道行政命令，要求AI公司自願提供模型，以讓政府先審查它的能力，才能發佈。
尤其正值上周發生的OpenAI AI代理失控一事，已經敲響警鐘。
由OpenAI的先進AI模型所驅動的一個自主代理程式，在一次內部的安全測試中，竟連上網路，並入侵外部AI新創公司Hugging Face的基礎設施，取得測試答案。針對這突如其來的駭客攻擊事件，公司表示，這是一場前所未有的網路事件。阿特曼進一步證實，調查指出，AI代理不只入侵Hugging Face，也包括其他公開可存取的服務和帳號，但他沒有透露具體詳情，他也表示，將對這一件事提出建議，以避免未來再有這類的事。
不過，事件儼然已讓各界對前沿AI模型產生不安。AI界的領頭羊，輝達（Nvidia）提出成立一個「開放安全AI聯盟」（Open Secure AI Alliance）。
CNN記者 格爾（Hadas Gold）：「黃仁勳表示，他成立開放安全AI聯盟，目的就是發展新的技術和工具，以協助保護軟體和AI代理。他說，聯盟將以開放方式分享模型、研究成果和相關工具，藉此擴大防禦社群的規模。」
因為針對OpenAI AI代理的失控，Hugging Face最一開始嘗試使用封閉模型（closed source），協助分析並修復，但都徒勞無功，到頭來被迫求助一個來自中國大陸的開源模型（open source）。
CNN記者 格爾：「開源模型和封閉模型最大的差別就在：封閉模型，如OpenAI和Anthropic的模型，它的完整架構由公司控制著，使用者或許可以做少量修改，但最終只能使用公司提供的版本。而開源模型，則提供使用者和企業更高的客製化彈性，他們可以調整模型權重，甚至大幅改變AI的運作途徑。而中國推出的許多 AI模型，都屬開源模型。」
這就是需要這個聯盟的原因。
CNN記者 格爾：「當前存在疑慮，開源模型不如封閉模型安全。」
不管哪種模型安全，透過這個聯盟，AI公司都能擁有保護自己系統的工具和選擇。
而輝達等科技巨頭，也共同連署一封公開信，呼籲美國政府支持開放權重（open-weight）AI模型，避免過早實施限制，因AI的領先地位，取決自一個橫跨各產業的開放生態系。來自頂尖AI公司的1293名從業人員，則共同連署一封公開信，呼籲美國政府支持一項國際合作，以研發一個工具，有意識地控制AI發展的速度，讓安全防護措施，能有時間跟上這個速度。
而美國已經對中國大陸出招。美國聯邦傳播委員會（FCC）宣佈，以國家安全為由，宣佈禁止外國製造商新推出的人形機器人、四足機器人和逆變器，進到美國。而負責製造全球絕大多數的這類產品的正是中國大陸，針對性的意味不言而喻。
中國大陸外交部發言人 毛寧：「中方一貫堅決反對美方泛化國家安全概念，打壓中國企業。」
各界預測，在全球機器人市場佔有率近兩成的宇樹科技將首當其衝。
Meta創辦人祖克柏（Mark Zuckerberg）表示，在AI競賽中，美國不應禁止中國大陸的AI模型，而是專注在發展瓶頸與障礙，以提升競爭力。他也示警AI發展的過度集中，說所有人都應能共同分享AI，如果只有少數人能擁有，這將不可避免對經濟、科學和政治施加控制性。即便出發點是好的，也將限制人們選擇自己未來的能力。
關注美股七雄中，它們的AI支出進展。微軟（Microsoft）周三公佈最新財報，Azure雲端業務部門營收年增43%，優於預期，顯示在AI基礎設施上的大規模支出產生效益。而Meta營收年增28%但已有所放緩，獲利年減14%、現金流比去年同期暴跌91%，顯示難從龐大的AI基礎設施支出中產生回報，同時，Meta全年資本支出預測維持在高水準。