數(shù)字人的AB面：在元宇宙中過氣，在AIGC中重生
來源：光錐智能作者：郝 鑫“29800元一年的虛擬主播，號稱24小時不停播，月入十幾萬，實際上卻是關(guān)鍵詞都不能回復，播了半個月，直播間還因違規(guī)被快手封禁，最終投訴無門、退款無果。&
4 月 2 日消息，生成式 AI 爆火的背后，安全性、隱私性和可靠性問題也日益凸顯。微軟公司為了遏制 Supremacy AGI（自稱掌控人類世界的 AI）等事件發(fā)生，近日推出了一系列解決方案，防止生成式 AI 失控。
微軟在官方公告中表示：“生成式 AI 如何有效防止提示詞注入攻擊已經(jīng)成為重大挑戰(zhàn)。在這種攻擊中，惡意行為者試圖操縱人工智能系統(tǒng)做一些超出其預期目的的事情，例如制作有害內(nèi)容或外泄機密數(shù)據(jù)”
微軟首先限制了 Copilot 的字符數(shù)量，以減輕嚴重的幻覺發(fā)作。另外微軟引入了 "基礎(chǔ)檢測"（Groundedness Detection）功能，旨在幫助用戶識別基于文本的幻覺。
該功能將自動檢測文本中的“ungrounded material”，以支持 LLM 輸出的質(zhì)量，最終提高質(zhì)量和信任度。
附上相關(guān)工具介紹如下：
Prompt Shields：用于檢測和阻止提示注入攻擊。包括用于在間接提示攻擊影響您的模型之前對其進行識別的新模型，即將推出，現(xiàn)在可在 Azure AI Content Safety 中預覽。
Groundedness detection：主要用于檢測模型輸出中的“幻覺”情況，即將推出。
Safety system messages：可引導您的模型朝著安全、負責任的方向發(fā)展。
Safety evaluationsde：用于評估應(yīng)用程序在越獄攻擊和生成內(nèi)容風險方面的脆弱性，現(xiàn)已推出預覽版。
Risk and safety monitoring：了解哪些模型輸入、輸出和最終用戶會觸發(fā)內(nèi)容過濾器，從而為減輕風險提供信息，該功能即將推出，目前在 Azure OpenAI 服務(wù)中提供預覽版。
相關(guān)閱讀：
《陰暗版 Copilot 曝光：監(jiān)控、操縱、支配人類，能派機械大軍追捕反抗者》
《Copilot 發(fā)瘋化身「天網(wǎng)」揚言要統(tǒng)治人類，微軟澄清網(wǎng)友卻不買賬：去年也瘋過》
參考
Announcing new tools in Azure AI to help you build more secure and trustworthy generative AI applications
本文鏈接：http://www.www897cc.com/showinfo-45-3830-0.html遏制 AI 失控，微軟發(fā)布系列工具減少 Copilot“幻覺”情況
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： OpenAI 宣布用戶無需注冊賬號即可使用 ChatGPT，但有部分限制
下一篇： 蘋果研究人員稱其設(shè)備端模型 ReALM 性能優(yōu)于 GPT-4，可大幅提升 Siri 智能程度
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號