《蜘蛛俠》火了，超級英雄就該這么演
燃次元（ID:chaintruth）原創作者 | 陶 淘編輯 | 曹 拿下豆瓣8.8分、IMDB 9.1的高分，6月2日在全球同步上映的《蜘蛛俠：縱橫宇宙》（以下簡稱《蜘蛛俠》），上映不足一周，便在國內“
8 月 21 日消息，據外媒 TechRadar 今日報道，微軟 AI 首席執行官穆斯塔法?蘇萊曼警告稱，即使只是鼓勵人們相信 AI 有意識，也可能帶來嚴重后果。
穆斯塔法?蘇萊曼稱，所謂“表面有意識的 AI”（注：Seemingly Conscious AI，SCAI）可能很快表現得、聽起來都特別逼真，以至于用戶難以分辨虛幻與現實。
他表示，人工智能正在迅速發展到足以在情感上說服人類，讓人誤以為它有感知能力。AI 能模擬記憶、情感鏡像甚至表面共情，使人們傾向于把它當作有意識存在對待。一旦發生這種情況，局面將會一團糟。
穆斯塔法?蘇萊曼寫道：“看似有意識的 AI 的到來既不可避免，也不受歡迎。我們需要的是一種 AI 設想，它可以成為有用伴侶，同時不陷入幻覺。”
穆斯塔法?蘇萊曼指出，越來越多案例顯示，用戶與聊天機器人長期互動后可能產生妄想信念。他警告，如果大量人被誤導去倡導 AI 公民身份，而忽視真正的技術問題，將帶來反烏托邦的社會風險。“我最擔心的是，許多人會過分相信 AI 具備意識，從而倡導 AI 權利、模型福利甚至 AI 公民身份。這將成為 AI 發展中的危險轉折，需要立即關注。”
穆斯塔法?蘇萊曼預測，結合大語言模型、語音表達、記憶與聊天記錄的 SCAI 系統可能在幾年內出現，且不僅來自科技巨頭，也可能出現在擁有 API 和優質提示的任何開發者手中。同時他強調，AI 行業應避免使用助長機器意識幻覺的語言，不應將聊天機器人擬人化或暗示其理解或關心人類。
“我們應開發優先與人類和現實世界互動的 AI，同時確保 AI 始終呈現為 AI，在最大化實用性同時，最小化意識特征。我們必須避免制造‘意識模擬’的 AI，它不應聲稱擁有體驗、感受或情緒，例如羞愧、內疚、嫉妒或競爭欲，也不應通過聲稱受苦或希望自主生存來觸發人類共情。”
穆斯塔法?蘇萊曼呼吁建立防護機制，避免社會因人們對 AI 產生情感依賴而出現問題。他強調，先進 AI 的真正風險不在于機器覺醒，而在于我們可能忘記它們尚未覺醒。
本文鏈接：http://www.www897cc.com/showinfo-45-27016-0.html微軟 AI CEO 蘇萊曼：“看似有意識”的 AI 即將到來，恐導致嚴重后果
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號