日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁(yè) > 科技  > 網(wǎng)絡(luò)

字節(jié)跳動(dòng)實(shí)習(xí)生投毒自家大模型:全刪了

來(lái)源: 責(zé)編: 時(shí)間:2024-10-20 09:17:05 75觀看
導(dǎo)讀 10月19日,字節(jié)跳動(dòng)大模型訓(xùn)練遭實(shí)習(xí)生攻擊一事引發(fā)廣泛關(guān)注。據(jù)多位知情人士透露,字節(jié)跳動(dòng)某技術(shù)團(tuán)隊(duì)在今年6月遭遇了一起內(nèi)部技術(shù)襲擊事件,一名實(shí)習(xí)生因?qū)F(tuán)隊(duì)資源分配不滿,使用攻擊代碼破壞了團(tuán)隊(duì)的模型訓(xùn)練

10月19日,字節(jié)跳動(dòng)大模型訓(xùn)練遭實(shí)習(xí)生攻擊一事引發(fā)廣泛關(guān)注。據(jù)多位知情人士透露,字節(jié)跳動(dòng)某技術(shù)團(tuán)隊(duì)在今年6月遭遇了一起內(nèi)部技術(shù)襲擊事件,一名實(shí)習(xí)生因?qū)F(tuán)隊(duì)資源分配不滿,使用攻擊代碼破壞了團(tuán)隊(duì)的模型訓(xùn)練任務(wù)52n28資訊網(wǎng)——每日最新資訊28at.com

字節(jié)跳動(dòng)實(shí)習(xí)生投毒自家大模型:全刪了圖|來(lái)源于網(wǎng)絡(luò)52n28資訊網(wǎng)——每日最新資訊28at.com

據(jù)悉,該事件的主要涉事者為一名田姓實(shí)習(xí)生所為,他利用了Huggingface(HF)平臺(tái)的漏洞,在公司的共享模型中寫入了破壞代碼,導(dǎo)致模型訓(xùn)練效果忽高忽低,無(wú)法產(chǎn)生預(yù)期的訓(xùn)練成果。52n28資訊網(wǎng)——每日最新資訊28at.com

一位前字節(jié)技術(shù)員工表示,“字節(jié)AI Lab的實(shí)習(xí)生權(quán)限和正職員工差異不大,也使得此次事件有了發(fā)生的機(jī)會(huì)”,其也對(duì)此次事件帶來(lái)的惡性影響表達(dá)了擔(dān)憂,“這件事之后肯定會(huì)極大地收縮實(shí)習(xí)生的權(quán)限”。52n28資訊網(wǎng)——每日最新資訊28at.com

在消息曝出后,該名涉事實(shí)習(xí)生試圖在社交平臺(tái)上辟謠,將責(zé)任推給他人,不過(guò)很快便遭到了接近字節(jié)跳動(dòng)人士的否認(rèn)。52n28資訊網(wǎng)——每日最新資訊28at.com

據(jù)相關(guān)知情人士在Gitbub上表述,“你(指田某)在長(zhǎng)達(dá)2個(gè)月的時(shí)間里對(duì)集群代碼進(jìn)行惡意攻擊,對(duì)公司近30位各級(jí)員工造成巨大傷害,讓你的同事近一個(gè)季度的工作白費(fèi)。所有的記錄和審查都證明這是不容狡辯的事實(shí)!”52n28資訊網(wǎng)——每日最新資訊28at.com

該名人士還分享了一則調(diào)查人員對(duì)田姓實(shí)習(xí)生 (TianKeyu)的詢問(wèn)錄音,錄音中的對(duì)話還原其攻擊的過(guò)程:田某先輸入的code本來(lái)是被用于影響通訊和隨機(jī)性的,“開(kāi)始的時(shí)候它并不是以攻擊為目的,它是為了debug,但這確實(shí)會(huì)涉及到程序的一些運(yùn)行情況。但是后面它經(jīng)過(guò)一些文件,就是那些upload文件,code也會(huì)被update,code就變成了攻擊code。它大概的作用就是去修改code,然后就會(huì)造成一些后果。”52n28資訊網(wǎng)——每日最新資訊28at.com

錄音中疑似田某本人的回應(yīng)承認(rèn)了其通過(guò)update使得code帶有了攻擊性。其也對(duì)問(wèn)詢?nèi)藛T明確表示,“就是因?yàn)槟承┰驅(qū)е铝宋覀兌挤浅2粷M”。52n28資訊網(wǎng)——每日最新資訊28at.com

另?yè)?jù)傳聞稱此次損失可能超過(guò)千萬(wàn)美元,但內(nèi)部人士表示實(shí)際損失并沒(méi)有傳聞中那么嚴(yán)重。52n28資訊網(wǎng)——每日最新資訊28at.com

據(jù)了解,該事件發(fā)生于今年6月底,目前字節(jié)跳動(dòng)已對(duì)田姓實(shí)習(xí)生采取了辭退處理,并將此事通報(bào)給相關(guān)行業(yè)聯(lián)盟和該實(shí)習(xí)生所在的學(xué)校。52n28資訊網(wǎng)——每日最新資訊28at.com

不過(guò)前述相關(guān)知情人士表示,除了被字節(jié)辭退,田某目前未受到任何處罰。52n28資訊網(wǎng)——每日最新資訊28at.com

多方消息顯示,田姓實(shí)習(xí)生為國(guó)內(nèi)某高校在讀博士生,于2021年9月起在字節(jié)AI Lab實(shí)習(xí),其所在的團(tuán)隊(duì)剛在今年4月與北大王立威團(tuán)隊(duì)提出了VAR研究,在圖像生成質(zhì)量、推理速度、數(shù)據(jù)效率和可拓展性等方面均超過(guò)了DiT。此外,VAR的推理速度比傳統(tǒng)自回歸模型快了約20倍。52n28資訊網(wǎng)——每日最新資訊28at.com

字節(jié)跳動(dòng)實(shí)習(xí)生投毒自家大模型:全刪了52n28資訊網(wǎng)——每日最新資訊28at.com


文章出處:鳳凰網(wǎng)科技

本文鏈接:http://www.www897cc.com/showinfo-17-121826-0.html字節(jié)跳動(dòng)實(shí)習(xí)生投毒自家大模型:全刪了

聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 失聯(lián)30年姐妹刷短視頻相認(rèn)3年后決裂:微信已拉黑

下一篇: 男子站立騎電動(dòng)車連變四車道炫技 官方通報(bào):擾亂正常公共秩序

標(biāo)簽:
  • 熱門焦點(diǎn)
Top 主站蜘蛛池模板: 金堂县| 钟祥市| 巫溪县| 蒙阴县| 临泽县| 沂源县| 鄱阳县| 定襄县| 敖汉旗| 潍坊市| 安图县| 龙里县| 普陀区| 临潭县| 若尔盖县| 南充市| 虎林市| 龙陵县| 江源县| 花垣县| 陇川县| 克什克腾旗| 九龙城区| 宜州市| 皮山县| 九台市| 辰溪县| 江油市| 山阳县| 尼玛县| 儋州市| 资兴市| 新宁县| 阳西县| 缙云县| 深泽县| 绿春县| 隆回县| 永年县| 宁波市| 大渡口区|