歐盟人工智能法案：四種AI系統風險類型的劃分及監管措施
作者：趙志東 蔡佳雯來源：區塊鏈日報該法案采用風險分級的規制路徑，將人工智能系統的風險劃分成不可接受的風險、高風險、有限風險和輕微風險四種類型，并針對不同類型施加了不同
就離譜，都 2024 了，人工智能靠人工的戲碼還在上演。而且是類似 ATM 機背后坐真?柜員給你遞錢的那種！
當你走進一家超市，挑選完商品，無需人工、自助結賬，直接拿好東西走人，等待一段時間，AI 就能基于視頻識別出你選了哪些東西，然后把賬單發送過來，你只需點擊付款。
聽著是不是很方便？
“拿 1000 個印度人換來的”。
在攝像頭背后，有一個規模達千人的印度團隊，需要通過肉眼遠程查看顧客拿了什么商品。
好家伙，新的等式出現了：
AI=AnonymousIndians（姓名不詳的印度人）？？？
這就是最近被曝光的亞馬遜無人超市“黑科技”。
它本來號稱使用 AI 技術，即拿即走、無需掃碼、事后扣款，完全自動化。適用于亞馬遜生鮮連鎖商店，從 2020 年開始在美國洛杉磯、芝加哥以及英國等地區推廣使用。
結果使用 4 年，真實面目是人類給 AI 打工。
“非常依賴人類的 CV”亞馬遜這個引發大吐槽的服務，叫做“Just walk out”。
它主打的就是節省顧客逛超市時等候結賬的時間。在 2016 年推出，號稱是完全由計算機視覺技術驅動，通過超市內的監控攝像頭和傳感器來追蹤人們離店時拿走的商品。
過去幾年里，44 家亞馬遜生鮮商店中，有 27 家支持了這一服務，還有一些有機食品連鎖店也支持。
不過當時這種模式就有一些小問題，顧客往往在離店幾小時后才能接收到賬單，因為人工要重新審核視頻，確保賬單正確。
據 The Information 數據，直到 2022 年，每 1000 個“Just walk out”服務中，還有 700 個需要人工審核。
這遠遠沒有達到亞馬遜內部本來的目標，1000 個 case 中僅有 50 個需要審核。
亞馬遜當然不承認該業務其實是靠人工來運轉，他們給出的解釋是：
機器學習的過程里，人工標注是必需的。當然如果 AI 實在無法判斷的時候，人工也有參與“一小部分”。
至于具體比例，就很值得玩味了。
不過，為啥這個偽人工智能會被揪出來呢？
還得從亞馬遜最近的大裁員說起。
亞馬遜剛剛公布的一波大裁員包括線下門店技術團隊，幾百個崗位被裁掉。消息稱，身份識別和結賬團隊部分業務受到影響。
這個以奇怪方式運行起來的“Just walk out”，也要 walk 不動了。之后只保留英國的部分門店和亞馬遜便利店。
未來他們打算押注到“Dash Carts”服務上。給線下商店的購物車里嵌入掃描儀，識別顧客購買的商品，然后自助結賬。
相對來說，這種模式不用在超市內部裝一大堆攝像頭，成本和技術難度都降低了，準確性也能有所提高。
不只亞馬遜一家實際上，搞這樣騷操作的，遠不止亞馬遜一家。
2017 年，研究咨詢公司 Gartner 就發布了一份關于新型技術炒作周期的報告。
報告顯示，許多 AI 技術，如 DL 和 ML，當時都處于炒作高峰期。
人們和市場對其的高度追捧，讓許多軟件供應商開始追逐熱潮，把 AI 技術納入自家的產品戰略。
然鵝，報告中明確顯示，這些公司中的大多數實際上掛羊頭賣狗狗，它們產品中對 AI 的應用以及所用 AI 的能力，往往夸大其詞。
這種現象在當年被 Gartne 稱為“AI 洗白”。
事件曝光后，這種現象并沒有得到遏制：
2019 年，盡調公司 West Monroe Partners 對 40 家美國公司的營銷材料進行了檢查。
檢查結果顯示，這 40 家公司在其營銷聲明中對 AI 和 ML 的能力進行了夸大，平均夸大程度超過 30%。
同年，倫敦風險投資公司 MMC 研究了 2830 家被歸類為 AI 公司的歐洲初創企業。
MMC 發現在這些公司中，真正符合 AI 公司描述的僅有 1580 家。
具體有哪些公司干過這些事兒呢？
比如，Facebook（現 Meta）。
2015 年 8 月，Facebook 推出了名為 M 的文本型虛擬 AI 助理；2018 年年初，該項目被關停。
當時，M 助理號稱腳踢 Siri，拳打搜索引擎。
回溯那時的用戶反饋發現，M 助理很像今天火爆的 ChatBot，但其相應速度，比《瘋狂動物城》里的樹懶閃電還要慢。
《連線》雜志文章中寫道，一位用戶讓 M 助理推薦加州的知名景點，結果 M 花了 15 分鐘才推薦出 22 個結果 —— 有這時間，早能把 Google 搜索結果看上十頁八頁了。
但是這不是 M 助理的致命 bug。
消息人士后來曝光，稱該項目運營的 2 年多里，Facebook 一直使用人工在背后操作其所謂的 AI 系統。
這騷操作和亞馬遜無人超市如出一轍，怪不得反應這么慢……
還有一家叫 x.ai 的初創公司（不是馬一龍現在的那家大模型公司哈），曾推廣自己在用“AI 個人助手”來安排會議。
但其實是由人類員工來完成安排會議的工作。
2021 年，x.ai 因為難以實現算法獨立運作，最終關門大吉。
為啥都干不下去？發現沒有，如上幾家雖然“詐騙場景”不同，但原因基本一致：過分夸大 AI 能力，落地存疑、賺錢更存疑。
以亞馬遜的“Just walk out”為例，有人就分析了這種模式注定不可行，“就是個營銷噱頭”。
即使有大量傳感器，也還是會漏掉顧客拿的物品。而且傳感器還不是唯一的成本，人工標注也很貴。只要有新產品上貨架，就需要幾張帶注釋的圖片來重新校準傳感器。只要廠家重新設計產品，原本數據集的準確性就會降低。
數據集、技術成本、研究成本、機器操作成本等，導致開銷非常大。即便是大模型對其幫助也不大，可能會稍微降低標注成本，但是計算成本又增加了。
據公開信息，每家亞馬遜無人商店配備的掃描儀和攝像機系統非常昂貴。
據亞馬遜內部人員所說，每個門店可能都要投入上千萬美元。
其次，Just walk out 對技術的要求也不低。
在去年 9 月，亞馬遜官方發布的介紹中提到，為了弄清商店顧客誰拿了金槍魚三明治，誰拿了雞肉沙拉，并算出正確費用，背后技術大有來頭：
Just Walk Out 是計算機視覺、目標識別、高級傳感器、深度機器學習模型和生成式 AI 的結合。
每一項都是最前沿的計算機技術。
再者說，超市里光線晦暗，而非貨架密布，AI 很難精準判別顧客拿走了哪一份商品。
識別效果不穩定，數據需求總是在變，所以“識別顧客買了啥”這個問題會變得很復雜。
當然有網友質疑亞馬遜每家無人超市都采用“ATM 藏人”策略的真實性。
有人甚至算了一筆賬：
哪怕是雇傭了 1000 名印度員工，三班倒來盯著無人超市的顧客到底買了些什么，這點人力還是遠不足以支撐所有超市的運作的。
得出結論，Just walk out 可能不是完全 AI，但也絕不是完全人工遠程操作結賬。
有網友嘲諷拉滿：
好事兒呀！這證明 AI 并不會真的讓人們失業（狗頭）。
甚至對比一下，這樣做還不如換回人類員工，效果又穩定、成本還沒這么高。
One More Thing當然，創新永無止境，一種更加抽象的結賬模式出現了。
菲律賓收銀員通過 Zoom 接入，跨過半個地球來到紐約為您結算。
據說是一家名叫“快樂收銀員”的公司搞出來的，沒有網站，在紐約的 5 個亞洲快餐店里推行。
參考鏈接：
[1]https://gizmodo.com/amazon-reportedly-ditches-just-walk-out-grocery-stores-1851381116
[2]https://twitter.com/themaxburns/status/1775215997898698907
[3]https://www.mturk.com/
[4]https://arstechnica.com/information-technology/2017/11/expensify-acknowledges-potential-privacy-problem-by-calling-it-a-feature/
本文來自微信公眾號：量子位 （ID：QbitAI），作者：明敏 衡宇
本文鏈接：http://www.www897cc.com/showinfo-45-3968-0.html亞馬遜 AI 超市「無人」收款，1000 個印度人藏在背后……
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號