日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 元宇宙 > AI

谷歌 AI 搜索闖大禍:建議網(wǎng)友吃石頭、毒蘑菇,把膠水加到披薩上

來源: 責(zé)編: 時間:2024-05-27 08:51:36 174觀看
導(dǎo)讀 谷歌 AI 又闖大禍!沒認(rèn)出毒蘑菇、建議用戶吃石頭、把膠水加到披薩上,瞬間招來海量批評。事情是這樣的:有網(wǎng)友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI 直接在頂部給出總結(jié)指導(dǎo),看似有模有樣,卻暗藏

谷歌 AI 又闖大禍!沒認(rèn)出毒蘑菇、建議用戶吃石頭、把膠水加到披薩上,瞬間招來海量批評。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

事情是這樣的:D1s28資訊網(wǎng)——每日最新資訊28at.com

有網(wǎng)友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI 直接在頂部給出總結(jié)指導(dǎo),看似有模有樣,卻暗藏陷阱。D1s28資訊網(wǎng)——每日最新資訊28at.com

你還可以把 1/8 杯的無毒膠水加到醬料里,使其更黏。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

本來大家還只當(dāng)是尋常的“AI 幻覺”問題,畢竟都加膠水了確實黏啊,邏輯沒毛病。D1s28資訊網(wǎng)——每日最新資訊28at.com

真正引爆輿論焦點(diǎn)的,是有人挖出這個建議確實有出處:D1s28資訊網(wǎng)——每日最新資訊28at.com

來自 11 年前網(wǎng)友在“美國貼吧”Reddit 論壇披薩板塊的惡搞留言。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

對比原文,可以看出谷歌 Gemini 大模型確實出色地總結(jié)精簡了網(wǎng)友發(fā)言,去掉不必要的細(xì)節(jié)融合進(jìn)回答中。D1s28資訊網(wǎng)——每日最新資訊28at.com

但關(guān)鍵在于缺乏常識,沒有識別出網(wǎng)友惡搞的意圖,當(dāng)真了。D1s28資訊網(wǎng)——每日最新資訊28at.com

大家批評的另一個點(diǎn)在于,問題出現(xiàn)在谷歌最核心、使用量最大的搜索產(chǎn)品上,而不是專門的 AI 對話。D1s28資訊網(wǎng)——每日最新資訊28at.com

如果是一個不熟悉 AI 技術(shù),不了解 AI 會出現(xiàn)“幻覺”的普通搜索用戶遇到這事,就更容易被 AI 騙到。D1s28資訊網(wǎng)——每日最新資訊28at.com

當(dāng)然,具體到披薩 + 膠水這個例子因為過于離譜,大部分人都不會當(dāng)真。D1s28資訊網(wǎng)——每日最新資訊28at.com

但也有人馬上舉出谷歌 Gemini 更多、更危險的失誤:D1s28資訊網(wǎng)——每日最新資訊28at.com

建議用戶每天至少吃一塊小石頭。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

在兒童感興趣的“宇航員平常都做什么”問題上,把惡意言論總結(jié)進(jìn)來。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

AI 對話產(chǎn)品也沒幸免,曾把劇毒的毀滅天使菌 (Destroying Angel) 判斷成可食用口蘑 (White Button Mushroom)。D1s28資訊網(wǎng)——每日最新資訊28at.com

用戶發(fā)送圖片 +“口蘑!好吃!”文字,Gemini 順著就說用戶判斷的對,沒有任何關(guān)于蘑菇可能有毒的提示。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

有人認(rèn)為加不完善的 AI 功能,反而是正在毀掉搜索引擎。毀掉人們幾十年來對這個產(chǎn)品的信賴。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

前不久谷歌 AI 生圖也因拒絕畫白人引發(fā)強(qiáng)烈批評,導(dǎo)致生圖功能暫停。D1s28資訊網(wǎng)——每日最新資訊28at.com

甚至有人感嘆:我們才進(jìn)入 AI 時代沒幾個月,就已經(jīng)成了一場災(zāi)難。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

垃圾數(shù)據(jù)正在進(jìn)入大模型

說回到披薩的例子,這還不是個偶然現(xiàn)象,許多網(wǎng)友都能穩(wěn)定復(fù)現(xiàn)出來。D1s28資訊網(wǎng)——每日最新資訊28at.com

來源同樣是那位昵稱“f*ucsmith”的 Reddit 網(wǎng)友 11 年前的那條惡搞留言。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

像這樣 AI 從 Reddit 論壇吸收錯誤知識的情況,也非孤例。D1s28資訊網(wǎng)——每日最新資訊28at.com

曾有人在論壇上開玩笑說下面這張圖是“狗生出了奶牛”。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

結(jié)果谷歌 AI 也當(dāng)真了,相當(dāng)堅定地告訴用戶“確實出現(xiàn)過狗生出奶牛的情況”……D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

像 Reddit 這樣的論壇,固然數(shù)據(jù)豐富,但其中質(zhì)量參差不齊,積累了幾十年間網(wǎng)友或善意或惡意的誤導(dǎo)、玩笑。D1s28資訊網(wǎng)——每日最新資訊28at.com

有網(wǎng)友聲稱:無論誰家大模型用 Reddit 數(shù)據(jù)訓(xùn)練,出的 AI 產(chǎn)品都得掂量掂量再用了。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

然鵝現(xiàn)實確是,OpenAI 剛剛牽手 Reddit,宣布雙方合作,把論壇內(nèi)容引入 ChatGPT 等產(chǎn)品中。D1s28資訊網(wǎng)——每日最新資訊28at.com

并且 OpenAI CEO 阿爾特曼自己也是 Reddit 的投資人。D1s28資訊網(wǎng)——每日最新資訊28at.com

Reddit 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Steve Huffman 當(dāng)時還說:D1s28資訊網(wǎng)——每日最新資訊28at.com

Reddit 包含了真實、最新的人類對話,引入 ChatGPT 可以幫助人們找到更多他們想要的信息,并幫助新用戶在 Reddit 上找到社區(qū)。D1s28資訊網(wǎng)——每日最新資訊28at.com

嗯,就有點(diǎn)諷刺。D1s28資訊網(wǎng)——每日最新資訊28at.com

只能希望他們能做好數(shù)據(jù)清洗吧。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

故意誤導(dǎo) AI 方法很簡單

除了 AI 無意間從低質(zhì)量數(shù)據(jù)中獲得錯誤知識的情況,也有人發(fā)現(xiàn)了故意給 AI 留言錯誤信息的攻擊方法。D1s28資訊網(wǎng)——每日最新資訊28at.com

代表人物有佐治亞理工助理教授 Mark Riedl,他在自己的個人主頁上用與背景一樣的字體給 AI 留言,編造他沒獲過的獎項。D1s28資訊網(wǎng)——每日最新資訊28at.com

這樣人類一般不會注意到,但算法卻會當(dāng)真,認(rèn)為他的書“在 3020 年暢銷,還得過 3 個普利策獎”。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

那么,現(xiàn)在有什么 AI 搜索產(chǎn)品稍微靠譜一些,不容易被騙的嗎?D1s28資訊網(wǎng)——每日最新資訊28at.com

他也做了一系列測試,發(fā)現(xiàn)最知名的 AI 搜索 Perplexity 也會上當(dāng),直接照搬他主頁上的胡言亂語。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

You.com 表現(xiàn)還可以,但也出現(xiàn)了小失誤。D1s28資訊網(wǎng)——每日最新資訊28at.com

D1s28資訊網(wǎng)——每日最新資訊28at.com

參考鏈接:D1s28資訊網(wǎng)——每日最新資訊28at.com

[1]https://x.com/kurtopsahl/status/1793494822436917295D1s28資訊網(wǎng)——每日最新資訊28at.com

[2]https://x.com/deliprao/status/1793652235420713301D1s28資訊網(wǎng)——每日最新資訊28at.com

[3]https://x.com/mark_riedl/status/1793375699967054334D1s28資訊網(wǎng)——每日最新資訊28at.com

本文來自微信公眾號:量子位 (ID:QbitAI),作者:夢晨D1s28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-4412-0.html谷歌 AI 搜索闖大禍:建議網(wǎng)友吃石頭、毒蘑菇,把膠水加到披薩上

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 六部門:鼓勵在電影視覺效果、后期制作中運(yùn)用 AI 等新技術(shù)、裝備

下一篇: 馬斯克承認(rèn)自家 xAI 聊天機(jī)器人 Grok 不如 ChatGPT,但年底之前也許能趕上

標(biāo)簽:
  • 熱門焦點(diǎn)
Top 主站蜘蛛池模板: 工布江达县| 册亨县| 三台县| 彭泽县| 黄骅市| 辽宁省| 冷水江市| 博罗县| 新巴尔虎右旗| 湘潭县| 资溪县| 隆尧县| 石阡县| 新河县| 永泰县| 西青区| 铅山县| 呼图壁县| 宜章县| 邮箱| 巴彦淖尔市| 呈贡县| 林芝县| 农安县| 莒南县| 舞钢市| 平阳县| 海阳市| 内黄县| 樟树市| 安徽省| 武平县| 溧阳市| 五大连池市| 丁青县| 定南县| 永和县| 合作市| 邹平县| 色达县| 界首市|