ChatGPT之父：AI安全始于足下_世界觀熱點

6月10日，在2023北京智源大會“AI安全與對齊”論壇上，被稱為“ChatGPT之父”的OpenAI創(chuàng)始人兼CEO Sam Altman(薩姆·奧特曼)以視頻連線的方式現(xiàn)身，首次對中國觀眾發(fā)表演講。

圖：張宏江和Sam Altman對話

在他的開場主題演講中，薩姆·奧特曼圍繞模型的可解釋性、可擴展性和可泛化性給出了見解。隨后，薩姆·奧特曼與北京智源研究院理事長張宏江開展了尖峰對話，主要探討在當前的AI大模型時代，如何深化國際合作，如何開展更安全的AI研究，以及如何應對AI的未來風險。

【資料圖】

“我們正在看到人工智能能力的迅速增長，現(xiàn)在需要做的是負責任地將其應用到世界中去。”薩姆·奧特曼說。

“未來10年內，我們可能會擁有超強的AI系統(tǒng)。”在與張宏江的對話中，薩姆·奧特曼認為，這些系統(tǒng)最終可能超過人類最大體量公司的總體生產力，這里的潛在收益是巨大的。

與此同時，管理風險、共同努力實現(xiàn)預期目標非常必需。隨著越來越強大的人工智能系統(tǒng)的出現(xiàn)，全球合作的利益也變得前所未有地重要。如果不做好規(guī)劃，一個未對齊的AI系統(tǒng)可能會通過提供不平衡的建議來破壞整個集體系統(tǒng)。因此，薩姆·奧特曼強調，推進AGI安全是行業(yè)尋找共同立場的最重要領域之一。

薩姆·奧特曼認為，保證AGI技術的安全需要國際合作與協(xié)調。首先，需要在具備包容性的過程中建立國際規(guī)范和標準，并為所有國家使用AGI設置平等、統(tǒng)一的護欄。其次，需要通過國際合作，以可驗證的方式建立全球對AI系統(tǒng)安全開發(fā)的信任機制。

“千里之行，始于足下?！彼_姆·奧特曼援引《道德經(jīng)》的話表示，最具建設性的第一步是國際科技界的合作，推動增加AGI安全技術進展的透明度和知識的機制，發(fā)現(xiàn)緊急問題的研究人員應該與更多人共享研究成果。更加深入地思考如何在鼓勵推動國際合作的同時尊重和保護知識產權，推動并引導與安全研究一致的投資。

同時，薩姆·奧特曼還介紹，GPT-4從完成預訓練到部署，花了8個月的時間來研究如何前置預判風險并給出對策，“GPT-4的對齊程度超過當前所有的代碼”。

“隨著未來的模型變得越來越智能和強大，作為助手，我們將找到更好的學習技術，在充分發(fā)揮AI的非凡好處的同時降低風險?！彼_姆·奧特曼說。

在回應張宏江關于國際合作的相關問題時，薩姆·奧特曼表示，保證AI的安全和有益不僅是一個技術問題，這還需要了解不同國家的用戶偏好。中國擁有一些世界上最優(yōu)秀的AI人才，“我希望中國的AI研究人員在解決AI系統(tǒng)對齊難題上做出重要貢獻?！?/p>

“我們看到中美和世界各地的研究人員為實現(xiàn)共同目標而攜手努力的巨大潛力?！彼_姆·奧特曼說，“我們希望全世界的研究人員參與其中，在應對AI領域的技術挑戰(zhàn)方面開展合作，利用AI解決全球重大問題，改善人類生存條件和質量?！?/p>

關鍵詞：