大模型訓練遭實習生攻擊?字節跳動:損失慘重,真相如何?

   時間:2024-10-25 08:24 來源:天脈網作者:楊凌霄

近日,一則關于某知名科技大廠內部大模型訓練遭遇實習生惡意攻擊的傳言在網絡上引起軒然大波。據傳,一名實習生利用開源平臺HF(Hugging Face)的安全漏洞,在公司的共享模型代碼中植入了破壞代碼,導致模型訓練結果不穩定,效果大打折扣,甚至可能需要全面重新訓練。

傳言進一步指出,此次攻擊波及范圍廣泛,涉及8000多張高性能計算卡,經濟損失可能超過千萬美元。一時間,該事件成為公眾關注的焦點,引發了關于企業內部安全管理和實習生權限控制的廣泛討論。

然而,針對這一傳言,涉事大廠字節跳動于10月19日正式發表聲明進行澄清。聲明中表示,確有實習生惡意干擾了商業化技術團隊的研究項目模型訓練任務,但此次事件并未對公司的正式商業化項目及線上業務造成影響,也未涉及字節跳動的大模型等其他核心業務。

字節跳動進一步指出,網傳的“涉及8000多張卡、損失上千萬美元”的說法純屬夸大其詞,與事實嚴重不符。據字節跳動核實,涉事實習生一直在商業化技術團隊實習,并未有過AI Lab的實習經歷,其社交媒體個人簡介及部分媒體報道中的相關信息存在誤導。

據了解,此次事件的起因是該實習生對團隊內部資源分配的不滿。為了發泄情緒,他利用技術手段在團隊的模型訓練任務中植入了攻擊代碼,導致模型訓練效果不穩定。字節跳動表示,在發現此事后,公司立即采取了行動,涉事實習生于8月被辭退。

字節跳動還透露,公司已將此事件同步給行業聯盟和涉事實習生所在學校,交由校方進行進一步處理。字節跳動強調,公司將持續加強內部安全管理,確保類似事件不再發生。

 
 
更多>同類天脈資訊
全站最新
熱門內容
媒體信息
新傳播周刊
新傳播,傳播新經濟之聲!
網站首頁  |  關于我們  |  聯系方式  |  版權隱私  |  RSS訂閱  |  違規舉報 魯公網安備37010202700497號