中新網上海7月7日電 題：大模型勿成“脫韁野馬” 人工智能何以“上善若水”？

中新網記者 鄭瑩瑩

勿以惡小而為之，勿以善小而不為。對于正在飛速發展的人工智能，人類期待它為善去惡。

(資料圖片僅供參考)

正在上海舉辦的2023世界人工智能大會(WAIC)上，大模型發展之熱、人工智能發展之安全，備受業界關注。

2023世界人工智能大會于7月6日至7月8日在上海舉辦，伴隨人工智能發展，機器人越來越“聰明”，通用人工智能的發展備受期待。中新網記者 湯彥俊 攝

不能讓大模型成為“脫韁野馬”

“大模型要監管和發展兼顧，我們不能盲目發展，讓大模型變成脫韁的野馬。”復旦大學教授、上海市數據科學重點實驗室主任肖仰華7日在2023世界人工智能大會“數據要素與隱私計算高峰論壇”上說。

他指出，大模型的負面影響已經顯現，比如對隱私的侵犯，“我們還是要建立大模型發展的安全底線、倫理標準和一些規范。”

另一方面，他也指出，我們不能因為有隱私方面的顧慮而放棄對大模型的應用，“從某種程度上說，大模型是一種先進生產力，是個人和企業都要積極擁抱的。我們要正視隱私問題，但也要積極應用大模型。”

如何在應用的同時保護用戶隱私？他表示，需要建立系統性的防范體系。

一方面，我們要建立起用戶對大模型隱私的安全意識，用戶要意識到：在使用大模型過程當中，數據有可能被服務方收集。

另一方面，提供大模型服務的廠商要提升服務的規范性，給用戶充分的知情權，要在用戶完全授權的情況下，在合理范圍內收集用戶數據。

肖仰華說，大模型，尤其是生成式大模型發展起來后，對隱私帶來了前所未有的挑戰，“生成式大模型往往是一種概率化的生成，是從海量的語料中拼接式生成的，所以傳統意義上的一些隱私侵犯認定在大模型時代就會失效，識別上困難，保護上更加困難。”

但在大模型領域，可以“用魔法打敗魔法”。

肖仰華表示，在大模型隱私保護方面，除了技術、法規方法，我們還有一條很重要的路徑——利用大模型自身的能力來保護我們的隱私，“其實大模型能力很強，可以識別出語料當中哪些內容是可能侵犯隱私的，我們已經有那么多大模型，我們可以把它用在保護隱私的場景。”

2023世界人工智能大會于7月6日至7月8日在上海舉辦，今年的主題是“ 智聯世界 生成未來”。　中新網記者 鄭瑩瑩 攝

人工智能何以“上善若水”？

“即使通用人工智能真正‘上善若水’，人與人工智能是否可以和諧共生，最終取決于人如何行為，而不是人工智能。”中國科學院自動化研究所研究員、人工智能倫理與治理研究中心主任曾毅7日在2023世界人工智能大會“聚焦·大模型時代AIGC新浪潮可信Al論壇”上說。

他將“人工智能與人類”“人類與螞蟻”作了類比，指出：當我們的人工智能是人類，就像人類是現在的螞蟻時，如果人類還在破壞環境、破壞其他生命，超級智能為什么要給人類生存的權利？人類沒有給超級智能更多的理由。

他說這是一個開放性的問題，是一個科學問題，是一個社會問題，更是一個歷史問題。

在曾毅看來，最開始的人工智能，當它沒有接受任何人類數據的時候，它是一個無善無惡的算法。當它接觸到了社會和人類的數據的時候，它變得有善有惡，這個時候它還不能明辨善惡。當與人類價值觀校準、與環境價值觀校準的時候，它變得知善知惡。

“我們最終希望的是人工智能可以為善去惡。”他說。

他還指出，人工智能的倫理道德既不應該僅由研究人工智能的工程師來定義，更不應該在實驗室里主觀臆想，而是需要群體智慧，需要更多公眾參與定義。(完)

關鍵詞：