AI教父辛頓敦促各國 應對人工智慧的風險
被稱為人工智慧(AI)教父的AI研究先驅辛頓(Geoffrey Hinton)28日敦促各國政府，應介入並確保機器人不會控制社會。
辛頓曾在今年5月躍上新聞頭條。當時他宣佈，已辭去在谷歌(Google)的10年工作，以便能更自由的談論人工智慧的危險。這是在Google打造出熱門AI聊天機器人ChatGPT，引發世界無限想像力之後不久。
備受尊敬的人工智慧科學家辛頓，在多倫多大學(University of Toronto)舉行的Collision科技大會上，向座無虛席的觀眾發表講話。
這項北美最大的科技會議，聚集了3萬多名初創公司創始人、投資者和科技行業工作者。他們大多希望學習如何駕馭人工智慧浪潮，而不是聽到關於其危險的教訓或呼籲政府干預。
辛頓說，「在人工智慧比我們更聰明之前，我認為應該鼓勵開發者，投入更大量工作，來理解人工智慧將如何試圖奪走控制權」。
辛頓指出，「現在有99個非常聰明的人，試圖讓人工智慧變得更好，還有一個非常聰明的人，試圖弄清楚如何阻止人工智慧接管人工智慧，也許你想更加平衡」。
辛頓警告，應該認真看待人工智慧的風險。「我認為重要的是，讓人們明白這不是科幻小說，這不僅僅是散佈恐懼…這是一個我們必須考慮的真正風險，我們需要提前弄清楚如何應對」。
辛頓也對人工智慧將加深不平等，表達憂慮。人工智慧所帶來的巨大生產力提升，將有利於富人而不是勞工。他說，「財富不會流向做這項工作的人，而是會讓富人變得更富，這將會是一個非常糟糕的社會」。
辛頓也提到ChatGPT式機器人創造的「假新聞」的危險，並表示他希望人工智慧生成的內容，可以像中央銀行為現金加浮水印一樣，進行標記。
他說，「例如，嘗試將所有假貨標記為假貨，非常重要。我們是否可以在技術上做到這一點，我不知道」。