日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

谷歌 AI 搜索闖大禍:建議網友吃石頭、毒蘑菇,把膠水加到披薩上

來源: 責編: 時間:2024-05-27 08:51:36 175觀看
導讀 谷歌 AI 又闖大禍!沒認出毒蘑菇、建議用戶吃石頭、把膠水加到披薩上,瞬間招來海量批評。事情是這樣的:有網友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI 直接在頂部給出總結指導,看似有模有樣,卻暗藏

谷歌 AI 又闖大禍!沒認出毒蘑菇、建議用戶吃石頭、把膠水加到披薩上,瞬間招來海量批評。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

事情是這樣的:udv28資訊網——每日最新資訊28at.com

有網友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI 直接在頂部給出總結指導,看似有模有樣,卻暗藏陷阱。udv28資訊網——每日最新資訊28at.com

你還可以把 1/8 杯的無毒膠水加到醬料里,使其更黏。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

本來大家還只當是尋常的“AI 幻覺”問題,畢竟都加膠水了確實黏啊,邏輯沒毛病。udv28資訊網——每日最新資訊28at.com

真正引爆輿論焦點的,是有人挖出這個建議確實有出處:udv28資訊網——每日最新資訊28at.com

來自 11 年前網友在“美國貼吧”Reddit 論壇披薩板塊的惡搞留言。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

對比原文,可以看出谷歌 Gemini 大模型確實出色地總結精簡了網友發言,去掉不必要的細節融合進回答中。udv28資訊網——每日最新資訊28at.com

但關鍵在于缺乏常識,沒有識別出網友惡搞的意圖,當真了。udv28資訊網——每日最新資訊28at.com

大家批評的另一個點在于,問題出現在谷歌最核心、使用量最大的搜索產品上,而不是專門的 AI 對話。udv28資訊網——每日最新資訊28at.com

如果是一個不熟悉 AI 技術,不了解 AI 會出現“幻覺”的普通搜索用戶遇到這事,就更容易被 AI 騙到。udv28資訊網——每日最新資訊28at.com

當然,具體到披薩 + 膠水這個例子因為過于離譜,大部分人都不會當真。udv28資訊網——每日最新資訊28at.com

但也有人馬上舉出谷歌 Gemini 更多、更危險的失誤:udv28資訊網——每日最新資訊28at.com

建議用戶每天至少吃一塊小石頭。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

在兒童感興趣的“宇航員平常都做什么”問題上,把惡意言論總結進來。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

AI 對話產品也沒幸免,曾把劇毒的毀滅天使菌 (Destroying Angel) 判斷成可食用口蘑 (White Button Mushroom)。udv28資訊網——每日最新資訊28at.com

用戶發送圖片 +“口蘑!好吃!”文字,Gemini 順著就說用戶判斷的對,沒有任何關于蘑菇可能有毒的提示。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

有人認為加不完善的 AI 功能,反而是正在毀掉搜索引擎。毀掉人們幾十年來對這個產品的信賴。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

前不久谷歌 AI 生圖也因拒絕畫白人引發強烈批評,導致生圖功能暫停。udv28資訊網——每日最新資訊28at.com

甚至有人感嘆:我們才進入 AI 時代沒幾個月,就已經成了一場災難。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

垃圾數據正在進入大模型

說回到披薩的例子,這還不是個偶然現象,許多網友都能穩定復現出來。udv28資訊網——每日最新資訊28at.com

來源同樣是那位昵稱“f*ucsmith”的 Reddit 網友 11 年前的那條惡搞留言。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

像這樣 AI 從 Reddit 論壇吸收錯誤知識的情況,也非孤例。udv28資訊網——每日最新資訊28at.com

曾有人在論壇上開玩笑說下面這張圖是“狗生出了奶牛”。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

結果谷歌 AI 也當真了,相當堅定地告訴用戶“確實出現過狗生出奶牛的情況”……udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

像 Reddit 這樣的論壇,固然數據豐富,但其中質量參差不齊,積累了幾十年間網友或善意或惡意的誤導、玩笑。udv28資訊網——每日最新資訊28at.com

有網友聲稱:無論誰家大模型用 Reddit 數據訓練,出的 AI 產品都得掂量掂量再用了。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

然鵝現實確是,OpenAI 剛剛牽手 Reddit,宣布雙方合作,把論壇內容引入 ChatGPT 等產品中。udv28資訊網——每日最新資訊28at.com

并且 OpenAI CEO 阿爾特曼自己也是 Reddit 的投資人。udv28資訊網——每日最新資訊28at.com

Reddit 聯合創始人兼首席執行官 Steve Huffman 當時還說:udv28資訊網——每日最新資訊28at.com

Reddit 包含了真實、最新的人類對話,引入 ChatGPT 可以幫助人們找到更多他們想要的信息,并幫助新用戶在 Reddit 上找到社區。udv28資訊網——每日最新資訊28at.com

嗯,就有點諷刺。udv28資訊網——每日最新資訊28at.com

只能希望他們能做好數據清洗吧。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

故意誤導 AI 方法很簡單

除了 AI 無意間從低質量數據中獲得錯誤知識的情況,也有人發現了故意給 AI 留言錯誤信息的攻擊方法。udv28資訊網——每日最新資訊28at.com

代表人物有佐治亞理工助理教授 Mark Riedl,他在自己的個人主頁上用與背景一樣的字體給 AI 留言,編造他沒獲過的獎項。udv28資訊網——每日最新資訊28at.com

這樣人類一般不會注意到,但算法卻會當真,認為他的書“在 3020 年暢銷,還得過 3 個普利策獎”。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

那么,現在有什么 AI 搜索產品稍微靠譜一些,不容易被騙的嗎?udv28資訊網——每日最新資訊28at.com

他也做了一系列測試,發現最知名的 AI 搜索 Perplexity 也會上當,直接照搬他主頁上的胡言亂語。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

You.com 表現還可以,但也出現了小失誤。udv28資訊網——每日最新資訊28at.com

udv28資訊網——每日最新資訊28at.com

參考鏈接:udv28資訊網——每日最新資訊28at.com

[1]https://x.com/kurtopsahl/status/1793494822436917295udv28資訊網——每日最新資訊28at.com

[2]https://x.com/deliprao/status/1793652235420713301udv28資訊網——每日最新資訊28at.com

[3]https://x.com/mark_riedl/status/1793375699967054334udv28資訊網——每日最新資訊28at.com

本文來自微信公眾號:量子位 (ID:QbitAI),作者:夢晨udv28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-4412-0.html谷歌 AI 搜索闖大禍:建議網友吃石頭、毒蘑菇,把膠水加到披薩上

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 六部門:鼓勵在電影視覺效果、后期制作中運用 AI 等新技術、裝備

下一篇: 馬斯克承認自家 xAI 聊天機器人 Grok 不如 ChatGPT,但年底之前也許能趕上

標簽:
  • 熱門焦點
  • 清華、北大等86所高校布局元宇宙,是風口還是噱頭?

    作者:徐賜豪來源:區塊鏈日報據全國高校人工智能與大數據創新聯盟元宇宙專委會不完全統計,截至2023年7月,全國共有86所高校戰略布局元宇宙領域,其中本科院校73所,高職專科院校13所
  • 不同于傳統數字經濟,元宇宙賦予商業生態更多數字資產價值!

    作者:中科基大數據元宇宙是一個去中心化的開放平臺,而為了維護這樣的平臺,需要建立一個公平的游戲規則,確保每個元宇宙的參與者通過這個規則都可以掙到錢,他們的利益都可以得到保
  • VR/AR迷失元宇宙“硝煙”

    不溫不火的VR/AR可穿戴設備因元宇宙崛起火了一陣,又隨著元宇宙回歸平靜。1月份,微軟在 Surface 設備、HoloLens 混合現實硬件和 Xbox 等部門裁員,其中負責混合現實硬件(MR)的Holo
  • 2030年的元宇宙產業將會如何發展?

    對互聯網巨頭傳統業務的反壟斷政策倒逼互聯網企業顛覆創新,尋找新的增長點,移動互聯網流量空間見頂之際,元宇宙時代紅利已然開啟。序章:元宇宙應用場景大猜想元宇
  • 2022年去中心化交易所會崛起嗎?

    “在某個時候,去中心化衍生品的交易量可能會超過去中心化現貨交易所。”DEX 越來越多地轉向第二層解決方案。“數字化金融市場的概念以及如何沿著以用戶為中心
  • Web 3如何改變傳統HR

    互聯網自誕生以來,經歷了三次迭代。Web1是第一階段,包括ISP服務器上的個人網頁或免費的虛擬主機服務。然后Web2出現了,它引入了動態的用戶生成內容、互操作性、增
  • 盤點9個主流元宇宙平臺,你都知道哪些?

    隨著NFT的持續升溫,它也加入了現在的元宇宙浪潮。本文介紹元宇宙的基本概念以及 九個最流行的元宇宙NFT平臺,如Decentraland、sandbox等。用熟悉的語言學習 以太
  • 3月份值得關注的5個NFT項目

    2021年,我們見證了一個新的創造者經濟的誕生。它是在區塊鏈上誕生的。自從NFT成為流行文化的中心舞臺以來,有些藝術家們已經成為了NFT的超級明星,在幾個月的時間
  • TX加入的NFT數字收藏品,元宇宙的破圈之路?

    3月7日,澳大利亞 NFT 初創公司 Immutable 在新加坡淡馬錫牽頭的R資中以估值 25 億美元完成2億美元R資,騰訊參投。想必國人最熟知的應該就是TX,作為國內四大互聯網
Top 主站蜘蛛池模板: 罗田县| 嘉禾县| 隆昌县| 溆浦县| 南宁市| 南安市| 房产| 积石山| 城固县| 合江县| 凌源市| 大足县| 绥芬河市| 阿瓦提县| 阳高县| 周口市| 铜梁县| 墨脱县| 化隆| 乌拉特后旗| 卓资县| 泗洪县| 荆州市| 平南县| 贵港市| 西充县| 南丰县| 六枝特区| 鄂托克旗| 新乐市| 岗巴县| 周至县| 绩溪县| 吉林省| 盈江县| 余江县| 阿鲁科尔沁旗| 黎城县| 会泽县| 乌鲁木齐市| 桃江县|