中國工程院院士：今天AI仍屬低水平智能

中國工程院院士高文在世界人工智能大會表示，大語言模式原則上仍是低水平智能，有一點中水平的假像，相當於熟讀唐詩三百首，不會作詩也會吟，屬於熟能生巧的範疇。

他指，AI技術的智能水平可以劃分為低中高三階段。低水平智能，是對顯式知識的記憶和使用來表現智能，即所謂的記憶學習。中水平智能，是利用得到的少量顯式知識，能夠舉一反三，觸類旁通。高水平智能，是利用極少的線索，創造新知識和知識體系，例如牛頓力學和相對論。

高文表示，今天的人工智能，主要還是低水平智能，因為深度神經網絡是使用數據訓練出來的，是基於統計的模型，連知識都不能算，等到甚麼時候可解釋，才能算知識。

他說，如果"強人工智能"時代到來，可能存在三大安全風險，即模型的不可解釋性、算法和硬件的不可靠性、自主意識的不可控性。他認為，AI技術的進步需要大家思考：怎樣的人工智能技術更容易被惡意使用？哪些新技術可以更好地抵禦可能的攻擊？哪些機構和制度的建立可以幫助我們最大限度利用人工智能的好處？同時最大限度降低安全風險？

針對這些問題，高文認為，首先，AI技術需要完善理論基礎驗證，並實現模型的可解釋性；其次，要嚴格控制人工智能的底層價值取向，實現技術的標準化；在應用階段，需要預防人為造成的人工智能安全問題，對人工智能進行動機選擇。他同時指出，應對強人工智能，必須加強國際合作。