生成式人工智能（Generative AI）系統不斷進化，雖可加快科學發現的速度，卻也可能讓犯罪分子在2~3年內具備制造生化武器和危險病毒的能力。多位AI領域專家，包括新創AnthropicCEODario Amodei，均呼吁應透過監管來解決濫用AI的犯罪問題。qkt28資訊網——每日最新資訊28at.com

據The Register報導，打造出大型語言模型（LLM）聊天機器人Claude的AI新創Anthropic，以注重安全聞名，并與生化安全專家合作研究神經網絡被用于武器制造的可能性。CEODario Amodei日前在美國參議院科技小組委員會上表示，應透過監管來解決網絡安全、核子技術、化學和生物等科學和工程領域濫用強大AI模型從事惡意行為的問題。qkt28資訊網——每日最新資訊28at.com

Amodei表示，如果不針對AI系統發展采取適當的防護及緩解措施，可能會擴大進行大規模生化攻擊技術能力的參與者范圍。這些接受大量科學期刊和教科書論文訓練的模型，可能會隨著AI進化，而將過去因安全理由嚴格保密的答案，被公開在大眾眼前。qkt28資訊網——每日最新資訊28at.com

來自北卡羅來納州的Collaboration Pharmaceuticals藥廠也擔心，開發藥物的技術被有心人拿來制造生化武器。qkt28資訊網——每日最新資訊28at.com

大型語言模型對國家安全帶來了潛在威脅，敵國或恐怖分子可能利用這些知識進行大規模攻擊，且危險程度將隨著強大開源模型的發布而加劇。qkt28資訊網——每日最新資訊28at.com

與AI研究先驅Geoff Hinton和Yann LeCun并稱AI教父的Yoshua Bengio，也敦促立法者透過立法管控AI模型的能力。Bengio認為政府需要提出定義并與時俱進，確保未來的AI版本在發布之前均進行過仔細評估。qkt28資訊網——每日最新資訊28at.com

Bengio指出，如果可以控制所部署的模型，就能夠監控其使用情況，透過改變模型、撤銷用戶存取權限等方式緩解濫用。qkt28資訊網——每日最新資訊28at.com

另外就是責任歸屬問題，加州大學伯克萊分校電腦科學系教授Stuart Russell表示，這就好像某家企業決定公開販售可制造核武的濃縮鈾，如果有人利用濃縮鈾制造出炸彈，該企業應負有連帶責任。qkt28資訊網——每日最新資訊28at.com

不過開源AI社群似乎并不認同這樣的觀點。由GitHub、Hugging Face、Eleuther AI等公司組成的聯盟便呼吁《歐盟AI法案》應保護開源創新，相關AI計劃的監管審查應與私人企業制造的產品和服務有所區別。qkt28資訊網——每日最新資訊28at.com

qkt28資訊網——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-27-1192-0.htmlAnthropic：監管AI應用 避免犯罪分子惡意濫用

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 華邦電稼動率逐步改善 高雄廠1.4萬片推進中

下一篇： 【智能城市專欄】以XR造一座永不下線的智能之城