AI大模型“戰火”燒到了教育領域
作者：劉曠自2023年開年以來，AI大模型這股風是越吹越猛烈了。隨著ChatGPT的出圈爆火，再度掀起了一波AI熱浪，無論是在國內還是國外都有不少企業宣布入局或者跟進AI大模型領域。與
作者：趙志東 蔡佳雯
來源：區塊鏈日報
6月14日，歐洲議會（European Parliament）以499票贊成、28票反對、93票棄權的結果通過了《關于“歐洲議會和理事會條例：制定人工智能的統一規則（人工智能法案）并修訂某些聯盟立法”的提案》（以下簡稱“歐盟人工智能法案”）。
人工智能已成為全球科技行業的一個關鍵戰場，各家科技公司都在爭奪技術開發方面的主導地位。歐洲議會批準了全球首個針對人工智能行業的綜合性法規，邁出了歐盟人工智能法案正式生效的重要一步。
該法案采用風險分級的規制路徑，將人工智能系統的風險劃分成不可接受的風險、高風險、有限風險和輕微風險四種類型，并針對不同類型施加了不同的監管措施。本文將進一步展開解讀歐盟人工智能法案的監管框架及監管措施。
根據歐盟人工智能法案，部分人工智能系統因嚴重侵犯基本人權或違反歐盟價值觀，故而被歸類為不可接受的風險類型的人工智能系統，無論是其投放市場，或是投入服務或使用的行為均應被禁止。
在被禁用的人工智能系統中，有一類是涉及該人工智能系統可能會通過潛意識操縱用戶，或利用特定用戶在年齡、身體或精神殘疾或其他方面的弱點，實質性地改變用戶的行為，并可能給該用戶造成身體或心理傷害。
舉例而言，當前市場上面向青少年如同的語音集成類玩具，若其使用的人工智能系統與用戶進行游戲或交互過程中，會鼓勵未成年人進行一些危險的行為或挑戰，則是利用兒童在年齡、心智方面的不成熟影響其安全。再如，對于通過聲音頻率潛意識影響用戶行為的人工智能系統，如果該系統用于讓卡車司機長時間駕駛，就屬于通過潛意識操控司機，影響了司機的健康和安全，故而被禁用。
另一類被禁止的人工智能系統，則涉及不當的數據評估。這類人工智能系統可根據采集/提供的個人信息、數據、資料等，對相關個人進行評估、分類或行為預測，若該人工智能系統的評估或預測結果會導致某些人受到不合理的待遇或不公允的評價，則該人工智能系統屬于不可接受的風險類型。
此外，為執法目的在公共場所使用實時遠程生物識別系統也被列入不可接受的風險類型，例如在公共場所使用該系統以抓取生物識別數據來創建面部識別數據庫的行為，就是法案所禁止的。
但是，不同于前述兩類，在公共場所使用實時遠程生物識別系統有例外許可情形。當使用該系統的執法目的為有針對性地尋找特定的潛在犯罪受害者；或預防對人身安全的重大威脅或恐怖主義威脅；或偵查、定位、識別或起訴刑事犯罪嫌疑人時，若事先得到司法機關的授權，并在時間、地理和范圍上符合最小必要原則，則在公共場所使用實時遠程生物識別系統是被允許的。
高風險類型的人工智能系統是歐盟法案的監管重點，具體包括應用于自然人生物識別和分類、關鍵基礎設施的管理和運營、教育和職業培訓、就業和員工管理、獲得和享受基本公共服務及福利資格的評估、執法、移民、庇護和邊境管制、司法程序和民主程序等領域的人工智能系統。
法案針對該類型的人工智能系統，規定了從入市前到入市后的全流程風險管理措施，以預防并控制高風險類型人工智能系統對人類安全或基本人權產生負面影響。該等義務的承擔主體主要是為人工智能系統的服務提供者。
所謂提供者，系指開發人工智能系統或以自身名義/商標將人工智能系統投入市場或投入使用(無論是收費還是免費)的自然人、法人、機構或其他團體。也就是說，無論是開發、發行、還是僅僅作為經銷商或中間授權方，只要是提供高風險類型的人工智能系統服務的主體，都屬于受監管的對象。
在人工智能系統投入市場前，提供者應建立和維持風險管理系統，識別已知的和可預見的投入使用后可能存在的風險，并確保人工可對人工智能系統進行監督，能通過對系統輸出的存在“自動化偏見”的結果進行人為干預，以調整或終止其結果輸出。此外，對于利用數據訓練模式的人工智能系統，提供者還應確保其數據訓練、驗證和測試均符合歐盟數據立法的相關要求。
人工智能系統在投放入市時，應當進行合格評估，提供者應向主管機關提供AI系統及其開發過程的描述、關于AI系統檢測、運作和控制的描述等系統相關必要信息，確保Al系統的性能始終符合其預期目的及各項管理要求，并貼上歐洲共同市場安全標志（“CE標志”），附有CE標志的人工智能系統產品方可在歐盟成員國內自由流通。
人工智能系統在投入使用后，提供者應當建立入市后檢測系統，收集、記錄和分析人工智能系統在整個生命周期的可靠性、性能和安全性的相關數據，并評估人工智能系統對法規的持續遵守情況。當人工智能系統發生嚴重故障或侵犯人類基本權利的事件時，提供者應當在發現該事件后的72小時內向國家監督機構報告。
有限風險類型的人工智能系統，是指使用者在應用系統時能夠意識到在與人工智能互動，且使用者仍然能以自己的判斷做出明智的決定。該風險類型的人工智能系統在歐盟法案的監管框架下有較高的自由度，投放市場或投入使用前無需取得特殊的牌照、認證或履行繁雜的報告、監督、記錄留存等義務。當前市場上常見的聊天機器人、文字和圖片識別及生成軟件、AI伴侶等大多屬于此一風險類型。
而未歸類在不可接受的風險、高風險或有限風險類型的其他人工智能系統，都屬于輕微風險類型。該風險類型的人工智能系統沒有特殊的干預和審查制度，但提供者可自愿建立各行業的行為準則。
當然，與人類交互的人工智能系統仍需要符合透明度規則，即提供者應當告知用戶的交互對象是AI而非真人，告知的內容根據人工智能系統的類型有所差異：（1）對于情感識別系統或生物識別分類系統，提供者應當將系統的運作情況和結果告知使用者；（2）對于生成或操縱圖像、音頻或視頻內容的人工智能系統，如果該種深度偽造會讓人誤以為是真實內容的，提供者應當就深度偽造內容進行披露和提示，以幫助用戶區分深度偽造信息和真實信息。
本文鏈接：http://www.www897cc.com/showinfo-40-4-0.html歐盟人工智能法案：四種AI系統風險類型的劃分及監管措施
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 清華、北大等86所高校布局元宇宙，是風口還是噱頭？
下一篇： AI網紅能年賺百萬，普通人的新機會來了？
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號