(相關資料圖)
中新網(wǎng)上海9月7日電 (高志苗 王夢瑤)“伏羲”說：9月1日上海不下雨。中國科學院院士、復旦大學副校長張人禾7日在2023外灘大會上表示，20年來復旦大學首次舉辦戶外開學典禮背后有氣象大模型的“預測助力”。
他介紹，“伏羲”是復旦基于學校自有云上科研智算平臺訓練出的氣象大模型，擁有45億參數(shù)，可以成功預報未來15天的全球天氣，每次預報耗時在3秒以內(nèi)?！啊恕A報的9月1日天氣與當天結果完全一致，不僅為師生帶來難忘的青春回憶，也是高校創(chuàng)造全新科研范式的一大體現(xiàn)?！?/p>
從ChatGPT到文心一言、盤古、曹植……2022年年底OpenAI發(fā)布的ChatGPT掀起了全球大模型浪潮。以“科技·創(chuàng)造可持續(xù)未來”為主題的2023 INCLUSION·外灘大會7日開幕。大模型成為大會關鍵詞的同時，大模型安全等“冷思考”也成為專家關注的重點。
美國科學院院士、美國工程院院士、英國皇家學會外籍院士邁克爾·喬丹(Michael I.Jordan)表示，ChatGPT無法確定自己所寫內(nèi)容的正確性，因為它技術上是存在問題的，而這個問題它還沒有真正有效解決。在講到“不確定”時，人非常擅長處理溝通以及應對不確定信息，ChatGPT沒有辦法對不確定性進行量化，要找到可能的方法去應對這些挑戰(zhàn)。
針對大模型的安全問題，中國科學院院士何積豐認為，主要體現(xiàn)在未經(jīng)同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發(fā)生在訓練過程，也可能發(fā)生在使用過程中，大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護更加困難。
“為了應對這些問題，我們需要大模型對齊技術。”何積豐說，“對齊”是指系統(tǒng)的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產(chǎn)生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為。”
何積豐介紹，反饋強化學習是實現(xiàn)對齊的技術途徑，目前有兩種方式，一是通過人工反饋給模型不同的獎勵信號，引導模型的高質(zhì)量輸出；另一種方式是事先給大模型提供明確的原則，系統(tǒng)自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”
邁克爾·喬丹強調(diào)，人工智能不會替代人，它只是一個新的工程系統(tǒng)?！翱萍际且粋€很好的工程系統(tǒng)，它應該服務于每個人，應該是公平、誠實、透明、穩(wěn)定的，這些特性是整個工程系統(tǒng)的特點，而不是系統(tǒng)當中個體的特點。所以AI它是集體性的，是將我們團結在一起的技術?！?完)
（原標題：中外院士共談AI大模型：應對大模型安全問題需設好“緊箍咒”）
標簽：
