微軟研究團(tuán)隊(duì)發(fā)布GPT-4研究報(bào)告：揭示“越獄”漏洞
來(lái)源：
責(zé)編：
時(shí)間：2023-10-18 17:59:38
375觀看
導(dǎo)讀10月18日消息，微軟旗下的研究團(tuán)隊(duì)最近發(fā)表了一份關(guān)于大型語(yǔ)言模型(LLM)的研究論文，重點(diǎn)關(guān)注了OpenAI的GPT-4以及其前身GPT-3.5的“可信度”和潛在的問(wèn)題。研究團(tuán)隊(duì)指出，盡管在標(biāo)準(zhǔn)基準(zhǔn)測(cè)試中，GPT-4相較于GPT-3.5表現(xiàn)更加
10月18日消息，微軟旗下的研究團(tuán)隊(duì)最近發(fā)表了一份關(guān)于大型語(yǔ)言模型(LLM)的研究論文，重點(diǎn)關(guān)注了OpenAI的GPT-4以及其前身GPT-3.5的“可信度”和潛在的問(wèn)題。9Lk28資訊網(wǎng)——每日最新資訊28at.com
9Lk28資訊網(wǎng)——每日最新資訊28at.com
研究團(tuán)隊(duì)指出，盡管在標(biāo)準(zhǔn)基準(zhǔn)測(cè)試中，GPT-4相較于GPT-3.5表現(xiàn)更加可靠，但它容易受到“越獄”提示的影響，這可能導(dǎo)致生成有害內(nèi)容。這些“越獄”提示可以繞過(guò)模型的安全措施，誘使GPT-4生成不良內(nèi)容。9Lk28資訊網(wǎng)——每日最新資訊28at.com
9Lk28資訊網(wǎng)——每日最新資訊28at.com
據(jù)ITBEAR科技資訊了解，論文中強(qiáng)調(diào)了GPT-4更容易受到惡意“越獄”系統(tǒng)或用戶提示的影響，使其準(zhǔn)確地遵循(誤導(dǎo)性)指令，生成有害內(nèi)容。盡管如此，微軟強(qiáng)調(diào)這個(gè)潛在的漏洞不會(huì)對(duì)當(dāng)前面向客戶的服務(wù)產(chǎn)生負(fù)面影響。9Lk28資訊網(wǎng)——每日最新資訊28at.com
這一研究進(jìn)一步突出了大型語(yǔ)言模型的潛在問(wèn)題，尤其是與安全性和內(nèi)容生成的關(guān)聯(lián)。微軟的研究團(tuán)隊(duì)將繼續(xù)努力改進(jìn)模型的安全性，以確保用戶能夠更加安全地使用這些強(qiáng)大的語(yǔ)言模型。9Lk28資訊網(wǎng)——每日最新資訊28at.com
標(biāo)簽：微軟
免責(zé)聲明：本網(wǎng)信息來(lái)自于互聯(lián)網(wǎng)，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)。其內(nèi)容真實(shí)性、完整性不作任何保證或承諾。如若本網(wǎng)有任何內(nèi)容侵犯您的權(quán)益，請(qǐng)及時(shí)聯(lián)系我們，本站將會(huì)在24小時(shí)內(nèi)處理完畢。
舉報(bào) 0收藏 0打賞 0分享 0
更多>同類資訊
英偉達(dá)TensorRT-LLM庫(kù)登陸Windows PC，瞄準(zhǔn)提高性能
10月18日消息，英偉達(dá)，硬件領(lǐng)域的人工智能巨頭，邁向新的里程碑，推出了一項(xiàng)旨在提升大型語(yǔ)言模型(LLM)性能的軟件工具，適用于本地 Windows PC。英偉達(dá)的 GPU 在全球領(lǐng)先科技公司，如微軟和OpenAI的數(shù)據(jù)中心中發(fā)揮重要作用，驅(qū)動(dòng)著Bing Chat、ChatGP
10-18
微軟推出AI工具Azure AI Content Safety，致力于打造健康的社交媒體環(huán)境
10月18日消息，微軟公司為維護(hù)社交媒體和數(shù)字平臺(tái)上的健康和和諧社區(qū)環(huán)境，減少包括偏見(jiàn)、仇恨和暴力內(nèi)容在內(nèi)的不良素材，于今年5月開始測(cè)試其AI內(nèi)容審核工具Azure AI Content Safety。今天，這一工具經(jīng)過(guò)多月的測(cè)試正式發(fā)布。據(jù)ITBEAR科技資訊了解，
10-18
人工智能領(lǐng)域融資價(jià)值飆升27%：第三季度財(cái)經(jīng)亮點(diǎn)
10月18日消息，最新數(shù)據(jù)顯示，第三季度全球人工智能公司的融資價(jià)值同比增長(zhǎng)27%，達(dá)到179億美元，成為風(fēng)險(xiǎn)投資領(lǐng)域的耀眼明星。與此同時(shí)，全球初創(chuàng)企業(yè)的交易總額下降了31%，僅為730億美元，凸顯出人工智能初創(chuàng)公司與其他行業(yè)企業(yè)之間的差異。這一迅猛
10-18
小度添添家庭機(jī)器人隆重亮相：AI技術(shù)全面融入文心一言大模型
10月17日消息，百度世界大會(huì)今日在盛大舉行，百度集團(tuán)副總裁兼小度科技CEO李瑩宣布了一系列創(chuàng)新產(chǎn)品的正式發(fā)布，其中包括小度添添家庭機(jī)器人、青禾學(xué)習(xí)一體機(jī)以及兩款Tiantian Casa智能音箱。小度添添家庭機(jī)器人，被譽(yù)為全球首款大模型家庭智能機(jī)器人
10-17
李彥宏盛贊百度文心 4.0：媲美GPT-4綜合能力
10月17日消息，百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏在百度世界 2023 上宣布文心大模型 4.0 正式發(fā)布，開啟邀請(qǐng)測(cè)試。這一最新版本的文心大模型被李彥宏譽(yù)為“至今最強(qiáng)大的”，實(shí)現(xiàn)了全面升級(jí)，涵蓋了理解、生成、邏輯和記憶能力等各方面，達(dá)到了令
10-17
國(guó)內(nèi)首個(gè)生成式商業(yè)智能產(chǎn)品百度 GBI 革新發(fā)布
10月17日消息，今日在百度世界 2023 大會(huì)上，百度創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官李彥宏宣布推出中國(guó)首個(gè)生成式商業(yè)智能產(chǎn)品——百度 GBI。據(jù)了解，百度 GBI 集成了自然語(yǔ)言交互、跨數(shù)據(jù)庫(kù)分析和專業(yè)知識(shí)學(xué)習(xí)三大核心功能，將傳統(tǒng)商業(yè)分析師需要數(shù)天才能
10-17
華為申請(qǐng)“Huawei eKitChat”商標(biāo)，或擬推出AI聊天助手產(chǎn)品
10月16日消息，華為技術(shù)有限公司最近提交了一項(xiàng)商標(biāo)注冊(cè)申請(qǐng)，名為“Huawei eKitChat”，在國(guó)際分類中包括科學(xué)儀器和網(wǎng)站服務(wù)。目前，該商標(biāo)正等待實(shí)質(zhì)審查。根據(jù)查詢結(jié)果，華為的“Huawei eKit”是華為今年5月推出的“華為坤靈”子品牌的英文名稱。
10-16
OpenAI調(diào)整核心價(jià)值觀：聚焦AGI成為首要使命
10月16日消息，近日，OpenAI悄然更新了其“核心價(jià)值觀”，將人工智能(AI)領(lǐng)域的通用人工智能(AGI)正式列為其中之一，并將其排在首位，凸顯了對(duì)AGI的強(qiáng)烈追求。據(jù)ITBEAR科技資訊了解，OpenAI曾在2022年9月25日的媒體截圖中公布了六個(gè)核心價(jià)值觀供其員
10-16
俄版 ChatGPT" YandexGPT 2：考試分?jǐn)?shù)引發(fā)熱議
10月16日消息，YandexGPT 2，被譽(yù)為“俄版 ChatGPT”的聊天機(jī)器人，日前宣布已獲得了足夠進(jìn)入大學(xué)的考試分?jǐn)?shù)。據(jù)報(bào)道，該機(jī)器人在俄羅斯國(guó)家統(tǒng)一考試的文學(xué)科目中表現(xiàn)出色，獲得了55分的加權(quán)分?jǐn)?shù)，接近2022年俄羅斯考生的平均成績(jī)(63分)，遠(yuǎn)高于當(dāng)?shù)?/div>
10-16
研究揭示：AI“推理環(huán)節(jié)”電力需求高于預(yù)期
10月14日消息，《Cell》的姐妹期刊《Joule》本周刊登了一項(xiàng)名為《持續(xù)成長(zhǎng)的人工智慧能源足跡(The growing energy footprint of artificial intelligence)》的研究論文，該論文由科研機(jī)構(gòu)Digiconomist的創(chuàng)始人Alex De Vries發(fā)表。這篇論文指出，未來(lái)
10-14
韓國(guó)人工智能產(chǎn)業(yè)：在全球“兩強(qiáng)競(jìng)賽”中位列第六
10月13日消息，近日，韓國(guó)工業(yè)聯(lián)合會(huì)(FKI)發(fā)布了最新全球人工智能指數(shù)，對(duì)全球各國(guó)的人工智能產(chǎn)業(yè)水平進(jìn)行了全面比較。結(jié)果顯示，美國(guó)和中國(guó)在人工智能領(lǐng)域依然處于主導(dǎo)地位，形成了一場(chǎng)激烈的“兩強(qiáng)競(jìng)賽”。在這一指數(shù)中，美國(guó)穩(wěn)居榜首，不僅在綜合
10-13
Adobe 領(lǐng)導(dǎo)推出全新LOGO標(biāo)識(shí)，助力人工智能內(nèi)容辨識(shí)
10月13日消息，Adobe 公司正領(lǐng)導(dǎo)一項(xiàng)全新的舉措，推出了一款用于識(shí)別人工智能工具創(chuàng)建或編輯的圖像和內(nèi)容的全新LOGO。此舉得到了包括BBC、Microsoft、Nikon和Truepic在內(nèi)的多家合作伙伴的積極支持。據(jù)ITBEAR科技資訊了解，Adobe公司的這一解決方案名
10-13
Copilot AI編程助手實(shí)際成本低于售價(jià)，微軟前CEO揭幕內(nèi)幕
10月13日消息，微軟前高管、GitHub前首席執(zhí)行官Nat Friedman于昨日在X平臺(tái)上發(fā)表言辭堅(jiān)決的回應(yīng)，駁斥了有關(guān)微軟GitHub Copilot服務(wù)虧損的傳聞。據(jù)Friedman表示，這一消息純屬虛假。針對(duì)有關(guān)GitHub Copilot虧損情況的疑慮，F(xiàn)riedman在評(píng)論區(qū)回復(fù)了一
10-13
科技巨頭集體行動(dòng)：微軟、Adobe和谷歌支持生成式人工智能創(chuàng)作者
10月13日消息，谷歌宣布，對(duì)于谷歌云(Google Cloud)和谷歌辦公套件(Workspace)中的生成式人工智能系統(tǒng)用戶，如果他們因侵犯知識(shí)產(chǎn)權(quán)而受到指控，谷歌將提供法律辯護(hù)支持。這一決定是為了解決生成式人工智能技術(shù)在知識(shí)產(chǎn)權(quán)領(lǐng)域引發(fā)的爭(zhēng)議。此前，微軟
10-13
OpenAI年收入飆升至13億美元，月均過(guò)億美元
10月13日消息，據(jù)知情人士透露，OpenAI首席執(zhí)行官山姆·阿爾特曼本周向員工宣布，公司的年化收入已達(dá)到13億美元，較夏季時(shí)增長(zhǎng)了30%。這一數(shù)據(jù)意味著OpenAI目前每月的收入已超過(guò)1億美元。與2022年僅獲得2800萬(wàn)美元的總收入相比，OpenAI的增長(zhǎng)可謂驚人
10-13
- 女生毛毯禮物送什么
- 女生美容送什么禮物
- 女生迷你禮物送什么
- 女生夢(mèng)中禮物送什么
- 女生模型禮物送什么
- 女生明天禮物送什么
- 女生男生送什么禮物
- 女生男生禮物送什么
- 女生難受送什么禮物
- 女生難過(guò)送什么禮物
- 女生內(nèi)心禮物送什么
- 女生內(nèi)涵禮物送什么
- 女生暖房禮物送什么
- 女生暖房送什么禮物
- 女生歐舒丹禮物送什么
- 女生排場(chǎng)禮物送什么
- 女生拍照送什么禮物
- 女生跑步禮物送什么
- 女生派對(duì)送什么禮物
- 女生朋友送什么禮物
點(diǎn)擊查看更多 +
全站最新
移動(dòng)端谷歌 Chrome 現(xiàn)支持網(wǎng)址拼寫錯(cuò)誤檢查
微軟Teams與Loop組件深度整合，協(xié)作能力再提升
極氪001 FR發(fā)布會(huì)：極速2.07秒，日期鎖定在10月27日
CNNVD 公布2023年度首期漏洞貢獻(xiàn)獎(jiǎng)評(píng)選結(jié)果，賽博昆侖獲評(píng)一級(jí)貢獻(xiàn)獎(jiǎng)
小米全新操作系統(tǒng)澎湃OS即將亮相，小米14首發(fā)
三星Galaxy S24系列：亮度高達(dá)2500尼特的M13 LTPO面板
熱門內(nèi)容
- OpenAI聊天機(jī)器人ChatGPT引入語(yǔ)音功能，挑戰(zhàn)智能語(yǔ)音助手巨頭
- 華為發(fā)布 Atlas 900 SuperCluster：支持超萬(wàn)億參數(shù)的大模型訓(xùn)練
- Meta與微軟合作：Bing搜索引擎融入Meta AI，提供實(shí)時(shí)信息
- 微軟宣布11月1日推出Microsoft 365 Copilot，助力企業(yè)客戶
- 微軟公布全新TTS語(yǔ)音模型，實(shí)現(xiàn)自然語(yǔ)音交互
- 2000億參數(shù)！“鵬城?腦?！敝?guó)產(chǎn)AI算力平臺(tái)實(shí)現(xiàn)突破
- Spotify與OpenAI合作推出語(yǔ)音翻譯功能，改變播客行業(yè)格局
- 佳能推出神經(jīng)網(wǎng)絡(luò)工具軟件，助力攝影師提升照片品質(zhì)
- 微軟Edge瀏覽器添新功能：Adobe Express、MathSolver和Spotify插件亮相
- 微軟必應(yīng)聊天（Bing Chat）發(fā)布全新功能“nosearch”，智能搜索即將來(lái)臨
- Copilot Chat：微軟GitHub AI助手全面支持個(gè)人用戶
- BBC發(fā)布新原則：推動(dòng)人工智能在新聞?lì)I(lǐng)域的應(yīng)用
- 360公司推出全新生態(tài)系統(tǒng)：智腦大模型全面開放使用
- OpenAI宣布ChatGPT具備瀏覽互聯(lián)網(wǎng)能力，開啟新時(shí)代
- 中國(guó)電信推出"啟明"網(wǎng)絡(luò)大模型，積極拓展MaaS服務(wù)領(lǐng)域
本欄最新
微軟研究團(tuán)隊(duì)發(fā)布GPT-4研究報(bào)告：揭示“越獄”漏洞
英偉達(dá)TensorRT-LLM庫(kù)登陸Windows PC，瞄準(zhǔn)提高性能
微軟推出AI工具Azure AI Content Safety，致力于打造健康的社交媒體環(huán)境
人工智能領(lǐng)域融資價(jià)值飆升27%：第三季度財(cái)經(jīng)亮點(diǎn)
小度添添家庭機(jī)器人隆重亮相：AI技術(shù)全面融入文心一言大模型
李彥宏盛贊百度文心 4.0：媲美GPT-4綜合能力
本文鏈接：http://www.www897cc.com/showinfo-45-2213-0.html微軟研究團(tuán)隊(duì)發(fā)布GPT-4研究報(bào)告：揭示“越獄”漏洞
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： 微軟研究團(tuán)隊(duì)發(fā)布GPT-4研究報(bào)告：揭示“越獄”漏洞
下一篇： 英偉達(dá)TensorRT-LLM庫(kù)登陸Windows PC，瞄準(zhǔn)提高性能
標(biāo)簽：
津公網(wǎng)安備 12010102000574號(hào)