中新網(wǎng)北京2月24日電 (記者 張素)2月23日，清華大學(xué)與瑞萊智慧聯(lián)合團隊推出大語言模型RealSafe-R1。研發(fā)團隊代表介紹說，實驗數(shù)據(jù)表明RealSafe-R1安全性提升顯著，“安全增強版DeepSeek”可為更多應(yīng)用提供可靠堅實基座。
連日來，國產(chǎn)開源大模型DeepSeek的優(yōu)異表現(xiàn)備受關(guān)注，其在自然語言處理和多任務(wù)推理方面的能力展現(xiàn)了強大的技術(shù)實力，尤其是在復(fù)雜問題解決和創(chuàng)造性任務(wù)中表現(xiàn)出色。業(yè)內(nèi)專家同時提醒，DeepSeek R1和V3在面對一些安全性挑戰(zhàn)時仍存在一定的局限性。
針對“安全對齊機制不足”這一當(dāng)前開源大模型的通病，清華瑞萊聯(lián)合團隊提出基于模型自我提升的安全對齊方式?！按竽Ｐ偷陌踩云款i是本質(zhì)的，只有通過持續(xù)投入和攻堅補齊短板弱項，人工智能產(chǎn)業(yè)才能真正實現(xiàn)高質(zhì)量發(fā)展?！比鹑R智慧首席執(zhí)行官田天說。
據(jù)介紹，研發(fā)團隊將安全對齊與內(nèi)省推理相結(jié)合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風(fēng)險，實現(xiàn)基礎(chǔ)模型自身能力的自主進化。具體來說，研發(fā)團隊對DeepSeek-R1系列模型進行后訓(xùn)練，正式推出RealSafe-R1系列大模型。
實驗數(shù)據(jù)表明，RealSafe-R1安全性提升顯著，在多個基準測試中有效增強了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間“蹺蹺板”現(xiàn)象。有評論認為，這為開源大模型安全發(fā)展與風(fēng)險治理提供了創(chuàng)新性解決方案。
田天表示，RealSafe-R1各尺寸模型及數(shù)據(jù)集，將于近期向全球開發(fā)者開源。他進一步指出，這一創(chuàng)新成果將為開源大模型的安全性加固提供有力支持，也為政務(wù)、金融、醫(yī)療等場景的應(yīng)用提供更為可靠的堅實基座。(完)
（原標題：清華瑞萊聯(lián)合團隊：“安全增強版DeepSeek”可為應(yīng)用提供堅實基座）
本文鏈接：http://www.020gz.com.cn/news-8-2115-0.html清華團隊與合作者推出大語言模型RealSafe-R1
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
