谷歌前CEO施密特：若AI開始自我改進，我們應“認真考慮”暫停它

鳳凰科技 2024-12-24 01:33:40 2

IT之家 12 月 23 日訊息，當前 AGI（IT之家注：通用人工智慧）的熱度一直有增無減。OpenAI CEO 阿爾特曼認為，AGI 將會在現有硬體的支援下比預期更早實現；而前谷歌 CEO 埃裡克・施密特則表示，一旦 AI 開始自我改進，我們應考慮暫停其進一步發展。

在本月 17 日接受美國電視網 ABC 新聞採訪時，施密特表示：“最終你可能會告訴計算機，‘學會一切，做到一切。’當系統能夠自我改進時，我們必須認真考慮是否要拔掉它的電源。這將是極其艱難的，如何保持平衡將非常具有挑戰性。”

施密特預測，AI 將從特定任務助手逐漸發展為能夠獨立決策的複雜系統。當 AI 發展到這種程度時，人類就應介入並考慮關閉系統，施密特指出。人類還需要確保 AI 無法反制關閉系統的努力。“從理論上講，我們最好有個人能‘掌控電源’，就像比喻中所說的那樣。”

馬斯克在 10 月表示，AI“最有可能是偉大的”，但也有 10% 到 20% 的機率可能走向壞的一面。他強調，AI“變壞”的可能性並非零。

儘管如此，施密特也對 AI 的積極潛力持樂觀態度。他表示：“重要的是，這種強大的智慧意味著每個人都將擁有一個像博學者一樣的助手，隨時都在口袋裡。除了筆記和寫作助手，每個人還會有像愛因斯坦和達芬奇這樣的智慧人物為自己提供建議。這將適用於全球每一個人。”

谷歌 eo 施密特若ai 開始自我改進我們認真考慮暫停