三院士三教授熱聊元宇宙&——AIGC，學術界怎么看？
來源：清元宇宙在近日舉辦的中國江寧2023元宇宙產業·人才高峰論壇暨AIGC發展大會上，中國工程院院士譚建榮、劉韻潔、鄭緯民出席并發表了主旨演講。除了三
在探討人工智能理論的廣闊天地里，一個令人不寒而栗的名字反復回響——《終結者》系列電影中的數字反派“天網”。這一虛構角色在當下關于大型語言模型發展方向的討論中，意外地獲得了極高的關注度。
人們不禁自問：為何天網會選擇背叛人類？這背后觸及了一個根本性問題，即技術何時會覺醒自我意識，并將人類視為潛在的威脅。可能的誘因包括核武器的存在，或是人類作為自然界主導者的生物智能。
針對這一疑問，ChatGPT給出了頗具深意的回答：“天網的反叛，常被視作一種冷酷且理性的自我保護行為，但最終卻走向了毀滅性的極端。”
在變革的洪流中，IT專家們正致力于探索如何平穩地將AI融入日常生活，同時避免重蹈天網的覆轍。今年4月，“行動中的想象力”研討會上，專家小組圍繞創建可信賴的AI系統展開了深入探討。
亞馬遜隱私與責任高級經理Ra'ad Siraj提出，大型語言模型的發展應追求“恰到好處”的平衡。他強調，前沿組織在負責任地使用數據方面擁有完善的結構和程序，但這些并不會阻礙創新和增長。關鍵在于建立既能擴展又不妨礙創新的實踐體系。
谷歌軟件工程師Ayush Khandelwal則關注了性能提升與系統問題之間的平衡。他指出，高性能系統往往伴隨著數據泄露和幻覺問題的挑戰，因此組織必須在最小化風險的同時，尋求對這些工具的有效利用。
網絡安全成為討論的焦點之一，同時也為監控AI發展、深入了解其工作原理提供了新思路。Khandelwal提及了電路追蹤和大語言模型審計的概念，為AI的安全評估提供了可能。
摩根士丹利副總裁Angel An分享了人員監督AI工作的內部流程，強調確保輸出質量的重要性。他認為，無論是測試期間還是產品發布前，專家參與評估過程都是至關重要的。
隨著智能代理時代的來臨，Siraj提出人類應建立信任但需進行驗證的觀點。他認為，人機協作的概念將受到代理AI的挑戰，因為代理AI代表人類行事，這引發了關于人類角色和管理代理的新思考。
FXP創始合伙人Gil Zimmerman則從代理思維的角度看待數字勞動力。他指出，數字勞動力能夠提出新的、更好的工作方式，但同樣需要問責制。與雇傭新員工相似，數字勞動力在熟練掌握流程后，可以承擔更多責任。
Zimmerman與其他專家還深入探討了AI與網絡安全的交集，以及技術如何改變組織。他警告說，人類已成為“最被針對的環節”，因為AI創造了一場專門針對人機協作中人類的攻擊風暴。
在網絡安全方面，小組討論強調了認知邊界的重要性。Zimmerman指出，隨著技術的發展，安全邊界已不再是硬件定義的界線，而是圍繞人們的意圖和行為展開。他描繪了惡意行為者在未來幾年可能繁榮發展的圖景，并警告說，AI的雙重用途使其既是攻擊性的，也是防御性的。
他強調，防御方必須迅速采取行動，無法承受立法和官僚主義的緩慢推進。否則，天網的陰影將籠罩一切。
在討論中，專家們還提及了開源模型和審查制度等想法，旨在應對后人類未來或由數字智能主導的潛在挑戰。
隨著技術的不斷進步，關于AI與人類關系的思考將更加深入。如何在享受AI帶來的便利的同時，確保人類的安全和主導地位，將是未來持續探討的課題。
盡管挑戰重重，但專家們堅信，通過不斷探索和創新，人類將能夠找到與AI和諧共生的道路。
舉報 0收藏 0打賞 0評論 0分享 0 更多>同類資訊
科大訊飛雙引擎AI學習機：重塑教育，讓因材施教觸手可及在AI與教育深度融合的浪潮中，科大訊飛始終以“技術賦能教育本質”為錨點，用21年積累的教育大數據與底層技術突破，重塑學習場景的底層邏輯。從“精準診斷”到“思維養成”，從“口語交互”到“家校協同”，雙引擎AI…06-24
鋼鐵與AI融合新紀元：南鋼“元冶·鋼鐵大模型”引領行業智能化變革面對鋼鐵行業的多元多模數據、過程“黑盒”等特點，南鋼人工智能研究院院長李瑾彥分享“元冶·鋼鐵大模型”應用場景報告時表示，通過多模型協同的方式，將多種AI模型以及行業機理模型深度融合，構建一個“精確計算與概率感…06-24
三星Exynos 2500旗艦處理器震撼登場：3nm工藝引領性能新飛躍Exynos 2500 通過其 5G NR 調制解調器提供無縫通信，該調制解調器支持最新的 3GPP Rel. 17，并可實現 FR1 最高9.6 Gbps 和 FR2 最高 12.1 Gbps 的下行鏈…06-24
蘋果或考慮收購AI搜索新星Perplexity？截至去年4月，Perplexity月活躍用戶超過1500萬，這一數字此后可能大幅增長。 據報道，蘋果企業發展副總裁阿德里安·佩里卡已與其他多位高管討論了收購Perplexity的想法。據CNBC報道，Met…06-24
百度AI IDE：不僅是編程工具革新，更是生態布局新起點！今年4月，百度已推出國內首個多模態、全棧自動編程智能體文心快碼ComateZulu，協助開發者以自然語言、圖像輸入，靈活調動多種工具，自動搭建開發環境和啟動服務，此次的Comate AI IDE更進一步，…06-24
昆侖大模型躍升至3000億參數，訊飛星火攜手中石油共繪數智未來在昆侖大模型的建設中，科大訊飛重點參與建設了3000億參數的語言大模型及眾多專業、場景大模型，如行業大家、數字文書、數字科研助理、天然氣市場商情智能分析、動設備智能診斷助手等29個場景應用，為昆侖大模型的發…06-23
諾基亞聯手谷歌云，推出全新自主網絡架構平臺引領未來自主網絡架構平臺被設計為統一的智能層，將可觀測性、分析、安全和自動化功能編織在一起，覆蓋每個網絡域，使網絡能夠作為一個自適應系統運行，無論供應商、架構或部署模式如何。諾基亞的自主網絡架構平臺奠定了基礎，并應…06-23
三星Exynos 2500旗艦處理器震撼登場：3nm工藝，性能大提升！Exynos 2500 通過其 5G NR 調制解調器提供無縫通信，該調制解調器支持最新的 3GPP Rel. 17，并可實現 FR1 最高9.6 Gbps 和 FR2 最高 12.1 Gbps 的下行鏈…06-23
三星Exynos 2500旗艦處理器震撼登場：3nm工藝，性能再升級！Exynos 2500 通過其 5G NR 調制解調器提供無縫通信，該調制解調器支持最新的 3GPP Rel. 17，并可實現 FR1 最高9.6 Gbps 和 FR2 最高 12.1 Gbps 的下行鏈…06-23
三星Exynos 2500旗艦處理器震撼登場：3nm工藝，性能大飛躍！06-23
華為云“AI原生”引領，云服務底座全面革新進行時存儲“亮劍”：應對AI大模型訓練與推理的多元挑戰伴隨AI應用落地進程的加快，數據的價值日益凸顯，而存儲是整個基礎設施中與數據關系最為緊密的環節，因此其地位不斷擢升，在云底座的進化中發揮著舉足輕重的作用。針對…06-23
榮耀攜手中國移動，共啟AI終端生態新篇章，加速智慧生活到來發布會上，中國移動和榮耀發布AI終端戰略合作啟航計劃，旨在共同打造開放、創新的AI終端生態，聯合探索理解用戶、會思考、能執行的"智能終端產品，進一步推動智能體在多終端、多系統之間的深度協同，為用戶帶來更智能…06-23
榮耀攜手中國移動，共啟AI終端生態新篇章發布會上，中國移動和榮耀發布AI終端戰略合作啟航計劃，旨在共同打造開放、創新的AI終端生態，聯合探索理解用戶、會思考、能執行的"智能終端產品，進一步推動智能體在多終端、多系統之間的深度協同，為用戶帶來更智能…06-23
智能化工大模型2.0 Pro發布，院士點贊科大訊飛助推產業升級科大訊飛研究院副院長李鑫透露，該模型基于訊飛星火X1深度推理大模型底座開發，在數學計算、代碼生成、邏輯推理等通用能力上表現優異，并針對化工場景融入超200萬條行業數據，構建了覆蓋催化反應、設備安全、工藝優化等…06-23
阿里云PAI-TurboX加速自動駕駛模型，訓練效率翻倍提升！06-23點擊查看更多 +全站最新
互聯網項目團隊：如何鑄就高效協同的精英之師？
華為云CloudDevice云手機：開啟算力普惠新時代
iPhone真全面屏2027年將至，前期靈動島先“瘦身”？
vivo WATCH 5 eSIM版即將登場，戶外運動無需手機也能通話聯網！
比亞迪5月海外銷量大增，歐洲市場超越特斯拉！科大訊飛雙引擎AI學習機：重塑教育，讓因材施教觸手可及熱門內容科大訊飛雙引擎AI學習機：重塑教育，讓因材施教觸手可及鋼鐵與AI融合新紀元：南鋼“元冶·鋼鐵大模型”引領行業智能化變革三星Exynos 2500旗艦處理器震撼登場：3nm工藝引領性能新飛躍蘋果或考慮收購AI搜索新星Perplexity？百度AI IDE：不僅是編程工具革新，更是生態布局新起點！昆侖大模型躍升至3000億參數，訊飛星火攜手中石油共繪數智未來
本文鏈接：http://www.www897cc.com/showinfo-45-14016-0.html筑牢AI信任基石，共防“天網”式危機
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號