OpenAI奧特曼示警AI恐加劇貧富差距！籲限制自我進化速度
OpenAI執行長奧特曼（Sam Altman）近日接受科技YouTuber Matthew Berman專訪，談及人工智慧（AI）意識、遞迴自我改進（RSI）、算力競賽及未來工作型態。他警告，若任由AI技術自由發展，社會不平等可能進一步擴大，並主張對AI自我改進的速度設下限制，避免技術競爭演變成失控風險。
這場由科技Podcast Forward Future發布的訪談中，奧特曼多次強調，AI發展的目標不應只是讓商品與服務變得更便宜、更容易取得，而是讓人們擁有更多自由、時間與自主決定生活的能力。
他希望AI帶來的未來更接近一場「新文藝復興」，讓人們投入創作、科學探索與人際連結，而非陷入由AI驅動的新型工業化社會。
奧特曼警告RSI風險 AI競賽需要速度限制
談及遞迴自我改進（RSI），也就是AI持續改進自身能力的過程，奧特曼認為，若有實驗室決定全力推進這項技術，確實可能取得相關能力，但這麼做也伴隨重大風險。他主張，全球需要某種限制機制，控制RSI發展的速度。
這項警告也凸顯AI產業目前面臨的矛盾。OpenAI持續投入模型研發、晶片及資料中心等基礎設施，奧特曼卻認為，不能將技術領先視為企業唯一的競爭優勢。
他指出，客戶關係、產品融入日常生活的程度及網路效應等傳統護城河依然重要，而大規模且具成本效益的AI基礎設施，也將成為OpenAI的重要優勢。
對於AI是否具備意識，奧特曼表示，目前的模型並沒有意識，但科學界尚無法徹底界定意識的本質，因此也難以對未來的AI是否可能產生意識給出絕對答案。
他更擔心的是，意識問題被延伸為AI是否應擁有人格或權利，進而動搖人類應掌握自身未來的原則。奧特曼強調，OpenAI的核心目標始終是為人類打造更好的未來，AI應該是賦能人類的工具，重大決策仍應由人類做出。
他也反對刻意將模型塑造成具有獨立人格或主觀意志的存在，認為這可能使使用者過度順從AI看似具有的意願，混淆模型依照政策限制回答與真正擁有自主權之間的差異。
AI加速科學突破 但工作需求與成果分配仍有變數
奧特曼將AI協助人類發現新知識，列為最值得期待的發展方向之一。他認為，AI在數學領域展現的能力，有機會延伸至生物學、藥物研發及材料科學，並預期未來幾年可能出現針對重大疾病的新治療候選方案，但仍須經過測試。
他也認為，FDA的審批流程有必要適度改革，同時肯定現行安全測試機制的價值。至於個人最期待的突破，他希望AI能帶來一項重大的物理學發現，坦言這未必是人類最迫切需要的成果，卻會是非常令人振奮的進展。
談及研究成果應公開分享，還是保留商業競爭優勢，奧特曼明確表示，若能在兩者之間做出取捨，他會優先選擇推動疾病治療方案問世，即使有人更享受花上數十年親自探索、理解科學問題的過程。
他也指出，部分基礎科學成果理應成為全人類共享的公共資源。不過，能夠從頭到尾自主發現重要新知的AI模型，直到近期才開始出現；現階段，企業能採取的做法之一，是讓研究團隊運用Codex或投入大量API資源，嘗試開發新材料。
在就業方面，奧特曼以程式設計為例，指出AI並未如部分人士先前預測般，讓程式設計師失去工作，反而使他們更加忙碌，並創造更大的影響力與財富。他認為，這反映出市場對軟體的實際需求遠超過過去的想像，AI改變工作方式，不代表人類工作的需求必然消失。
至於數學家等專業工作者，他認為，AI可能接手部分定理發現或證明工作，但人類仍能參與解釋新概念、發展應用及追求優美證明等工作。不過，他坦言，AI普及後，相關職業的整體需求究竟會增加還是減少，目前仍難以判斷。
奧特曼也提到，AI雖然讓完成工作變得更容易，卻可能削弱人們親手磨練技藝的樂趣。他認為，人類仍會尋找新的方式享受創作與專業實踐，只是技藝的形式可能隨技術演進而改變。
個人AI助手每天省下一小時 算力需求仍看不到上限
談到個人AI助手，奧特曼表示，相關技術所需的多數基礎能力已經具備，接下來仍須改善產品體驗、環境感知能力及算力供應。
他以自己使用的Dot為例，指出這類助手可以持續掌握使用者關心的資訊、處理可委託的日常事務，並提醒重要且緊急的事項。他估計，Dot每天能為自己節省約一小時，尤其有助於從大量資訊來源中整理內容、進行跨來源推理，減少個人必須承擔的認知負擔。
然而，AI帶來的效率提升也有另一面。奧特曼承認，使用AI最頻繁的人，往往比過去更加忙碌，儘管他們的產出也大幅增加。他認為，這與人們身處競爭環境有關，即使技術讓人能以更少時間完成相同工作，許多人仍會選擇投入更多時間追求更高成果。
他希望未來的AI能更主動地處理任務，而不是不斷要求使用者做決定或提供指示，讓人們能將更多時間留給人際關係及生活。
對於算力需求，奧特曼的判斷是，AI所需的運算資源幾乎沒有明確上限。他認為，當高品質智慧服務變得更便宜、更容易取得，人們不會因此停止使用，反而會開發更多用途，形成類似「杰文斯悖論」的現象：資源使用效率提高，總需求卻可能持續增加。
因此，OpenAI正積極布局下一代算力，包括自研晶片、改善資料中心建置效率及供應鏈等。他將晶片視為最重要的單一投資方向之一，希望打造成本更低、能源效率更高的運算基礎設施。
AI硬體須突破人類介面限制 貧富差距恐進一步擴大
奧特曼表示，現有電腦與手機主要是為人類設計的互動工具，AI卻必須透過這些介面取得資訊、執行任務，限制了它理解使用者整體情境的能力。他認為，若要讓AI從被動回應轉向主動協助，並真正降低人類的認知負擔，就需要新的消費硬體形態。
他證實，OpenAI正在開發早期硬體產品，但未公開展示相關設備，並強調這項布局並非主要出於對蘋果等平台業者的擔憂，而是因為AI技術本身需要不同的產品形式。
另一方面，奧特曼坦言，如果任由AI發展而缺乏制衡，社會不平等很可能加劇。他沒有提出確切的解決方案，但認為社會最終將決定建立某種機制，避免財富、資源及決策權過度集中。
他也警告，另一項風險是少數掌握大量AI系統的人，可能取得過大的權力，進而影響整個社會的發展方向。
對於ChatGPT有時過度迎合使用者的問題，奧特曼則指出，AI產業長期偏重單次互動的使用者滿意度，但短期內讓人感到愉快的回答，不一定能在長期帶來最大價值。
他認為，AI應該像一位資深同事，即使立場與使用者不同，也能在有充分理由時直接提出異議，而不是一味附和。
從新工業革命轉向新文藝復興 奧特曼強調個人自主權
奧特曼表示，他不希望人們只因為AI可能治癒癌症等重大疾病而對未來感到興奮，因為這種想像容易忽略另一個問題：當AI能以極低成本完成愈來愈多事情，人類是否也會逐漸失去決定自己要做什麼、為誰創造價值的能力。
他強調，自己當然希望AI協助攻克癌症，但更期待技術能讓人們擁有更多選擇權、自由與創造力，而不是成為被AI指揮、持續追求效率的工作者。
他將理想中的未來形容為「新文藝復興」，希望人們能將時間投入藝術創作、科學探索、社區生活、養育子女及親近自然，而非只是不斷提高生產力。
奧特曼認為，AI意外失控，或是特定實驗室為了確保自身權力而刻意推動失控發展，都是必須防範的風險；權力集中在少數掌握大量AI資源的人手中，也可能威脅個人自由與自主權。
他相信，這些風險並非無法避免，關鍵在於如何在技術進步與人類掌控能力之間取得平衡，讓AI帶來的效益不只集中在少數早期使用者或掌握資源的人手中，而是逐步擴及更廣泛的群體。
對奧特曼而言，AI發展的最終衡量標準，不只是模型有多強大、運算成本能降低多少，或企業能取得多大的市場優勢，而是人類是否因此獲得更多自主權，以及能否真正決定自己想如何生活。
更多鉅亨報導
•阿拉斯加LNG開發案遭爆獲俄國受制裁企業融資！Novatek涉入營運引發合規疑慮
•散戶抄底半導體股慘套牢！SOXL單周吸金61億美元、10月暴跌逾43%