6 月 20 日消息,近年來,代碼大模型已成為企業研發人員輔助編程必備助手,能夠生成、翻譯、補全代碼,幫助定位和修復錯誤。然而,代碼大模型背后隱藏的風險挑戰還有待討論。
中國信息通信研究院(以下簡稱“中國信通院”)依托中國人工智能產業發展聯盟(AIIA),聯合業內近 30 家單位共同編制了《代碼大模型安全風險防范能力要求及評估方法》規范(簡稱“規范”),聚焦代碼大模型的安全能力,從基礎功能出發,評估代碼大模型的基礎能力和安全風險防范能力。
2024 年 6 月 18 日,規范第三次研討會成功舉辦,對規范內容做出進一步的完善和修訂,現已完成定稿。
附部分參編單位如下(排名不分先后):
中國信息通信研究院
北京百度網訊科技有限公司
科大訊飛股份有限公司
螞蟻科技集團股份有限公司
中國郵儲銀行
中國民生銀行
中債金科信息技術有限公司
交通銀行
華夏銀行
龍盈智達(北京)科技有限公司
北京市商湯科技開發有限公司
阿里云計算有限公司
北京大學
小米移動軟件有限公司
維沃移動通信有限公司
海信視像科技股份有限公司
浪潮軟件科技有限公司
北京云起無垠科技有限公司
浙江大學濱江研究院
廣東拓思軟件科學園有限公司
浙江御安信息技術有限公司
萬商天勤(上海)律師事務所
深圳開源互聯網安全技術有限公司
據介紹,規范的制定旨在全面評估代碼大模型在安全風險防范方面的能力,通過分析和測試,確保模型在各個關鍵環節的安全性能。
本規范的評估不僅包括代碼大模型的核心功能,也涵蓋了與之相關的多個細分領域,如數據集、算法、模型、網絡以及服務等。
根據評估結果,規范將確定代碼大模型的安全能力級別,為模型的進一步優化和安全加固提供指導,同時也為用戶從安全性角度提供選型依據。
目前,中國信通院正式啟動首輪代碼大模型安全風險防范能力試評估工作,報名將于 8 月底截止,預計年底發布評估結果。
本文鏈接:http://www.www897cc.com/showinfo-45-4716-0.html代碼大模型安全規范正式定稿:百度阿里小米 vivo 等參與,中國信通院啟動首輪評估
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com