作者：趙志東 蔡佳雯gig28資訊網(wǎng)——每日最新資訊28at.com

來(lái)源：區(qū)塊鏈日?qǐng)?bào)gig28資訊網(wǎng)——每日最新資訊28at.com

6月14日，歐洲議會(huì)（European Parliament）以499票贊成、28票反對(duì)、93票棄權(quán)的結(jié)果通過(guò)了《關(guān)于“歐洲議會(huì)和理事會(huì)條例：制定人工智能的統(tǒng)一規(guī)則（人工智能法案）并修訂某些聯(lián)盟立法”的提案》（以下簡(jiǎn)稱“歐盟人工智能法案”）。gig28資訊網(wǎng)——每日最新資訊28at.com

人工智能已成為全球科技行業(yè)的一個(gè)關(guān)鍵戰(zhàn)場(chǎng)，各家科技公司都在爭(zhēng)奪技術(shù)開(kāi)發(fā)方面的主導(dǎo)地位。歐洲議會(huì)批準(zhǔn)了全球首個(gè)針對(duì)人工智能行業(yè)的綜合性法規(guī)，邁出了歐盟人工智能法案正式生效的重要一步。gig28資訊網(wǎng)——每日最新資訊28at.com

該法案采用風(fēng)險(xiǎn)分級(jí)的規(guī)制路徑，將人工智能系統(tǒng)的風(fēng)險(xiǎn)劃分成不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和輕微風(fēng)險(xiǎn)四種類型，并針對(duì)不同類型施加了不同的監(jiān)管措施。本文將進(jìn)一步展開(kāi)解讀歐盟人工智能法案的監(jiān)管框架及監(jiān)管措施。gig28資訊網(wǎng)——每日最新資訊28at.com

gig28資訊網(wǎng)——每日最新資訊28at.com

 gig28資訊網(wǎng)——每日最新資訊28at.com

圖源：歐洲政策研究中心（Centre for European Policy Studies，CEPS）

一、禁用不可接受的風(fēng)險(xiǎn)類型的人工智能系統(tǒng)

根據(jù)歐盟人工智能法案，部分人工智能系統(tǒng)因嚴(yán)重侵犯基本人權(quán)或違反歐盟價(jià)值觀，故而被歸類為不可接受的風(fēng)險(xiǎn)類型的人工智能系統(tǒng)，無(wú)論是其投放市場(chǎng)，或是投入服務(wù)或使用的行為均應(yīng)被禁止。gig28資訊網(wǎng)——每日最新資訊28at.com

在被禁用的人工智能系統(tǒng)中，有一類是涉及該人工智能系統(tǒng)可能會(huì)通過(guò)潛意識(shí)操縱用戶，或利用特定用戶在年齡、身體或精神殘疾或其他方面的弱點(diǎn)，實(shí)質(zhì)性地改變用戶的行為，并可能給該用戶造成身體或心理傷害。gig28資訊網(wǎng)——每日最新資訊28at.com

舉例而言，當(dāng)前市場(chǎng)上面向青少年如同的語(yǔ)音集成類玩具，若其使用的人工智能系統(tǒng)與用戶進(jìn)行游戲或交互過(guò)程中，會(huì)鼓勵(lì)未成年人進(jìn)行一些危險(xiǎn)的行為或挑戰(zhàn)，則是利用兒童在年齡、心智方面的不成熟影響其安全。再如，對(duì)于通過(guò)聲音頻率潛意識(shí)影響用戶行為的人工智能系統(tǒng)，如果該系統(tǒng)用于讓卡車司機(jī)長(zhǎng)時(shí)間駕駛，就屬于通過(guò)潛意識(shí)操控司機(jī)，影響了司機(jī)的健康和安全，故而被禁用。gig28資訊網(wǎng)——每日最新資訊28at.com

另一類被禁止的人工智能系統(tǒng)，則涉及不當(dāng)?shù)臄?shù)據(jù)評(píng)估。這類人工智能系統(tǒng)可根據(jù)采集/提供的個(gè)人信息、數(shù)據(jù)、資料等，對(duì)相關(guān)個(gè)人進(jìn)行評(píng)估、分類或行為預(yù)測(cè)，若該人工智能系統(tǒng)的評(píng)估或預(yù)測(cè)結(jié)果會(huì)導(dǎo)致某些人受到不合理的待遇或不公允的評(píng)價(jià)，則該人工智能系統(tǒng)屬于不可接受的風(fēng)險(xiǎn)類型。gig28資訊網(wǎng)——每日最新資訊28at.com

此外，為執(zhí)法目的在公共場(chǎng)所使用實(shí)時(shí)遠(yuǎn)程生物識(shí)別系統(tǒng)也被列入不可接受的風(fēng)險(xiǎn)類型，例如在公共場(chǎng)所使用該系統(tǒng)以抓取生物識(shí)別數(shù)據(jù)來(lái)創(chuàng)建面部識(shí)別數(shù)據(jù)庫(kù)的行為，就是法案所禁止的。gig28資訊網(wǎng)——每日最新資訊28at.com

但是，不同于前述兩類，在公共場(chǎng)所使用實(shí)時(shí)遠(yuǎn)程生物識(shí)別系統(tǒng)有例外許可情形。當(dāng)使用該系統(tǒng)的執(zhí)法目的為有針對(duì)性地尋找特定的潛在犯罪受害者；或預(yù)防對(duì)人身安全的重大威脅或恐怖主義威脅；或偵查、定位、識(shí)別或起訴刑事犯罪嫌疑人時(shí)，若事先得到司法機(jī)關(guān)的授權(quán)，并在時(shí)間、地理和范圍上符合最小必要原則，則在公共場(chǎng)所使用實(shí)時(shí)遠(yuǎn)程生物識(shí)別系統(tǒng)是被允許的。gig28資訊網(wǎng)——每日最新資訊28at.com

二、重點(diǎn)監(jiān)管高風(fēng)險(xiǎn)類型的人工智能系統(tǒng)

高風(fēng)險(xiǎn)類型的人工智能系統(tǒng)是歐盟法案的監(jiān)管重點(diǎn)，具體包括應(yīng)用于自然人生物識(shí)別和分類、關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)營(yíng)、教育和職業(yè)培訓(xùn)、就業(yè)和員工管理、獲得和享受基本公共服務(wù)及福利資格的評(píng)估、執(zhí)法、移民、庇護(hù)和邊境管制、司法程序和民主程序等領(lǐng)域的人工智能系統(tǒng)。gig28資訊網(wǎng)——每日最新資訊28at.com

法案針對(duì)該類型的人工智能系統(tǒng)，規(guī)定了從入市前到入市后的全流程風(fēng)險(xiǎn)管理措施，以預(yù)防并控制高風(fēng)險(xiǎn)類型人工智能系統(tǒng)對(duì)人類安全或基本人權(quán)產(chǎn)生負(fù)面影響。該等義務(wù)的承擔(dān)主體主要是為人工智能系統(tǒng)的服務(wù)提供者。gig28資訊網(wǎng)——每日最新資訊28at.com

所謂提供者，系指開(kāi)發(fā)人工智能系統(tǒng)或以自身名義/商標(biāo)將人工智能系統(tǒng)投入市場(chǎng)或投入使用(無(wú)論是收費(fèi)還是免費(fèi))的自然人、法人、機(jī)構(gòu)或其他團(tuán)體。也就是說(shuō)，無(wú)論是開(kāi)發(fā)、發(fā)行、還是僅僅作為經(jīng)銷商或中間授權(quán)方，只要是提供高風(fēng)險(xiǎn)類型的人工智能系統(tǒng)服務(wù)的主體，都屬于受監(jiān)管的對(duì)象。gig28資訊網(wǎng)——每日最新資訊28at.com

在人工智能系統(tǒng)投入市場(chǎng)前，提供者應(yīng)建立和維持風(fēng)險(xiǎn)管理系統(tǒng)，識(shí)別已知的和可預(yù)見(jiàn)的投入使用后可能存在的風(fēng)險(xiǎn)，并確保人工可對(duì)人工智能系統(tǒng)進(jìn)行監(jiān)督，能通過(guò)對(duì)系統(tǒng)輸出的存在“自動(dòng)化偏見(jiàn)”的結(jié)果進(jìn)行人為干預(yù)，以調(diào)整或終止其結(jié)果輸出。此外，對(duì)于利用數(shù)據(jù)訓(xùn)練模式的人工智能系統(tǒng)，提供者還應(yīng)確保其數(shù)據(jù)訓(xùn)練、驗(yàn)證和測(cè)試均符合歐盟數(shù)據(jù)立法的相關(guān)要求。gig28資訊網(wǎng)——每日最新資訊28at.com

人工智能系統(tǒng)在投放入市時(shí)，應(yīng)當(dāng)進(jìn)行合格評(píng)估，提供者應(yīng)向主管機(jī)關(guān)提供AI系統(tǒng)及其開(kāi)發(fā)過(guò)程的描述、關(guān)于AI系統(tǒng)檢測(cè)、運(yùn)作和控制的描述等系統(tǒng)相關(guān)必要信息，確保Al系統(tǒng)的性能始終符合其預(yù)期目的及各項(xiàng)管理要求，并貼上歐洲共同市場(chǎng)安全標(biāo)志（“CE標(biāo)志”），附有CE標(biāo)志的人工智能系統(tǒng)產(chǎn)品方可在歐盟成員國(guó)內(nèi)自由流通。gig28資訊網(wǎng)——每日最新資訊28at.com

人工智能系統(tǒng)在投入使用后，提供者應(yīng)當(dāng)建立入市后檢測(cè)系統(tǒng)，收集、記錄和分析人工智能系統(tǒng)在整個(gè)生命周期的可靠性、性能和安全性的相關(guān)數(shù)據(jù)，并評(píng)估人工智能系統(tǒng)對(duì)法規(guī)的持續(xù)遵守情況。當(dāng)人工智能系統(tǒng)發(fā)生嚴(yán)重故障或侵犯人類基本權(quán)利的事件時(shí)，提供者應(yīng)當(dāng)在發(fā)現(xiàn)該事件后的72小時(shí)內(nèi)向國(guó)家監(jiān)督機(jī)構(gòu)報(bào)告。gig28資訊網(wǎng)——每日最新資訊28at.com

三、有限風(fēng)險(xiǎn)或輕微風(fēng)險(xiǎn)類型的人工智能系統(tǒng)

有限風(fēng)險(xiǎn)類型的人工智能系統(tǒng)，是指使用者在應(yīng)用系統(tǒng)時(shí)能夠意識(shí)到在與人工智能互動(dòng)，且使用者仍然能以自己的判斷做出明智的決定。該風(fēng)險(xiǎn)類型的人工智能系統(tǒng)在歐盟法案的監(jiān)管框架下有較高的自由度，投放市場(chǎng)或投入使用前無(wú)需取得特殊的牌照、認(rèn)證或履行繁雜的報(bào)告、監(jiān)督、記錄留存等義務(wù)。當(dāng)前市場(chǎng)上常見(jiàn)的聊天機(jī)器人、文字和圖片識(shí)別及生成軟件、AI伴侶等大多屬于此一風(fēng)險(xiǎn)類型。gig28資訊網(wǎng)——每日最新資訊28at.com

而未歸類在不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)或有限風(fēng)險(xiǎn)類型的其他人工智能系統(tǒng)，都屬于輕微風(fēng)險(xiǎn)類型。該風(fēng)險(xiǎn)類型的人工智能系統(tǒng)沒(méi)有特殊的干預(yù)和審查制度，但提供者可自愿建立各行業(yè)的行為準(zhǔn)則。gig28資訊網(wǎng)——每日最新資訊28at.com

當(dāng)然，與人類交互的人工智能系統(tǒng)仍需要符合透明度規(guī)則，即提供者應(yīng)當(dāng)告知用戶的交互對(duì)象是AI而非真人，告知的內(nèi)容根據(jù)人工智能系統(tǒng)的類型有所差異：（1）對(duì)于情感識(shí)別系統(tǒng)或生物識(shí)別分類系統(tǒng)，提供者應(yīng)當(dāng)將系統(tǒng)的運(yùn)作情況和結(jié)果告知使用者；（2）對(duì)于生成或操縱圖像、音頻或視頻內(nèi)容的人工智能系統(tǒng)，如果該種深度偽造會(huì)讓人誤以為是真實(shí)內(nèi)容的，提供者應(yīng)當(dāng)就深度偽造內(nèi)容進(jìn)行披露和提示，以幫助用戶區(qū)分深度偽造信息和真實(shí)信息。gig28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-40-4-0.html歐盟人工智能法案：四種AI系統(tǒng)風(fēng)險(xiǎn)類型的劃分及監(jiān)管措施

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： 清華、北大等86所高校布局元宇宙，是風(fēng)口還是噱頭？

下一篇： AI網(wǎng)紅能年賺百萬(wàn)，普通人的新機(jī)會(huì)來(lái)了？