《生成式人工智能服務(wù)管理暫行辦法》發(fā)布
促進(jìn)產(chǎn)業(yè)健康發(fā)展和規(guī)范應(yīng)用
近日,國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布了《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),該《辦法》自2023年8月15日起施行。
國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,出臺(tái)《辦法》,旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,維護(hù)國(guó)家安全和社會(huì)公共利益,保護(hù)公民、法人和其他組織的合法權(quán)益。
ChatGPT這一現(xiàn)象級(jí)的產(chǎn)品“騰空出世”,在國(guó)內(nèi)外掀起了一場(chǎng)大語(yǔ)言模型產(chǎn)業(yè)和生成式人工智能產(chǎn)業(yè)的熱潮。然而,熱潮背后,通過(guò)生成式人工智能偽造內(nèi)容導(dǎo)致的詐騙事件也屢有發(fā)生。“AI詐騙成功率接近100%”的話題甚至一度沖上熱搜,利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為引起社會(huì)關(guān)注。
“作為今年最熱門的新技術(shù),生成式人工智能給社會(huì)生產(chǎn)生活帶來(lái)了很多便利,但也給數(shù)據(jù)安全、隱私保護(hù)帶來(lái)更加復(fù)雜的風(fēng)險(xiǎn)和挑戰(zhàn)。”奇安信集團(tuán)副總裁張卓在接受記者采訪時(shí)表示。
據(jù)悉,《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,明確了提供和使用生成式人工智能服務(wù)總體要求。張卓認(rèn)為,促進(jìn)發(fā)展和防范風(fēng)險(xiǎn)需要兩者并重,從《辦法》中可以看出,數(shù)據(jù)安全和隱私保護(hù)貫穿于生成式人工智能數(shù)據(jù)的標(biāo)注、模型預(yù)訓(xùn)練、模型訓(xùn)練、提供服務(wù)等各個(gè)環(huán)節(jié),避免了監(jiān)管盲區(qū)導(dǎo)致的安全風(fēng)險(xiǎn)。
在張卓看來(lái),《辦法》從源頭層面對(duì)數(shù)據(jù)標(biāo)注提出了明確規(guī)范。所謂數(shù)據(jù)標(biāo)注,指的是對(duì)未經(jīng)處理的語(yǔ)音、圖片、文本、視頻等原始數(shù)據(jù)進(jìn)行加工處理,使其成為結(jié)構(gòu)化數(shù)據(jù)讓機(jī)器可識(shí)別的過(guò)程。因此,它決定著生成式人工智能最底層“原材料”的安全屬性。《辦法》第八條要求,在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的,生成式人工智能服務(wù)提供者(以下稱提供者)應(yīng)當(dāng)制定符合本辦法要求的清晰、具體、可操作的標(biāo)注規(guī)則;開展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估,抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性;對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn),提升尊法守法意識(shí),監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開展標(biāo)注工作。
張卓表示,《辦法》從數(shù)據(jù)訓(xùn)練處理環(huán)節(jié),明確并細(xì)化了監(jiān)管要求。《辦法》第七條指出,提供者應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),遵守以下規(guī)定:使用具有合法
本文鏈接:http://www.www897cc.com/showinfo-46-1856-0.html《生成式人工智能服務(wù)管理暫行辦法》發(fā)布
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com