07月06日消息，OpenAI公司最近發(fā)出警告，稱未來的人工智能可能對人類構(gòu)成威脅，甚至導(dǎo)致人類滅絕。OpenAI聯(lián)合創(chuàng)始人伊利亞·蘇斯克維爾和對齊團(tuán)隊負(fù)責(zé)人簡·萊克在一篇博客文章中指出，超級智能的強(qiáng)大力量可能會使人類失去控制權(quán)，他們還沒有找到解決方案來操縱或控制這種潛在的超智能人工智能，以防止其失控。fSB28資訊網(wǎng)——每日最新資訊28at.com

據(jù)ITBEAR科技資訊了解，OpenAI公司認(rèn)為，超智能人工智能可能在接下來的十年內(nèi)問世。然而，目前人類還沒有足夠先進(jìn)的技術(shù)來控制超級智能，因此他們迫切需要在對齊研究方面取得突破。所謂的對齊研究旨在確保人工智能對人類是有益的。fSB28資訊網(wǎng)——每日最新資訊28at.com

fSB28資訊網(wǎng)——每日最新資訊28at.com

為了解決這個問題，OpenAI計劃投入大量資源成立一個名為超級對齊團(tuán)隊的研究團(tuán)隊，以確保他們的人工智能系統(tǒng)對人類是安全的，并且最終實現(xiàn)人工智能對自身的監(jiān)督。OpenAI計劃通過利用人類的反饋來訓(xùn)練AI系統(tǒng)，輔助人類評估，最終實現(xiàn)實際的對齊研究。fSB28資訊網(wǎng)——每日最新資訊28at.com

然而，對于這一計劃，也有人提出了反對意見。人工智能安全倡導(dǎo)者康納·萊希指出，在構(gòu)建具有人類水平智能之前，必須先解決對齊問題，否則無法控制超級智能。他認(rèn)為OpenAI的計劃并不是一個特別好的或安全的方案。fSB28資訊網(wǎng)——每日最新資訊28at.com

盡管人工智能技術(shù)的發(fā)展帶來了許多創(chuàng)新和便利，但OpenAI的警告提醒我們，應(yīng)該謹(jǐn)慎對待超級智能的發(fā)展，并重視對齊研究的重要性，以確保人工智能對人類的未來發(fā)展是有益的，同時也能保障人類的安全和權(quán)益。這需要全球范圍內(nèi)的共同努力和合作，以確保人工智能技術(shù)的良性發(fā)展。fSB28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-1033-0.htmlOpenAI發(fā)出警告：未來人工智能或?qū)е氯祟悳缃^

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： OpenAI成立新團(tuán)隊，探索超智能人工智能的引導(dǎo)和控制方法

下一篇： OpenAI首席科學(xué)家領(lǐng)導(dǎo)新團(tuán)隊 探索超級智能人工智能的引導(dǎo)與限制