字節跳動實習生攻擊大模型訓練?公司回應:已辭退涉事者

   時間:2024-10-21 18:29 來源:天脈網作者:朱天宇

近期,關于“字節跳動實習生攻擊大模型訓練”的傳聞在網絡上引發熱議。對此,字節跳動公司于10月19日正式發表聲明,澄清相關情況。聲明指出,此次事件系一名商業化技術團隊的實習生惡意干擾模型訓練任務,但并未對字節跳動的商業化正式項目及線上業務造成實質性影響,更未波及大模型等其他業務領域。關于網絡上流傳的“涉及8000多張顯卡、損失上千萬美元”的說法,字節跳動強調這一數字嚴重失實。

據字節跳動詳細調查,涉事實習生在商業化技術團隊實習期間,因個人原因對團隊資源分配表達不滿,進而采取了不當行為,通過技術手段干擾了模型訓練。值得注意的是,該實習生并未在AI Lab有過實習經歷,其社交媒體上的個人簡介及部分媒體報道存在誤導性信息。字節跳動已于8月對該實習生進行了辭退處理,并已將此事通報給相關行業聯盟及其所在學校,以便校方進一步處理。

字節跳動聲明截圖

據知情人士透露,事件具體發生在今年6月,涉事實習生姓田,為某高校博士生。因對團隊內部資源分配感到不公,他利用技術手段,據稱是通過HF(Hugging Face)平臺的某漏洞,在字節跳動公司的共享模型中植入了破壞代碼。這一行為導致模型訓練效果極不穩定,團隊難以達到預期的訓練成果,且排查問題源頭困難重重。然而,事件曝光后,該實習生卻在社交媒體上試圖撇清責任,聲稱自己早已離職,并指責是他人所為。

字節跳動內部經過深入調查,確認了田姓實習生的行為是此次事件的直接原因。公司在處理此事的同時,也反思了自身在技術安全管理方面的不足。技術安全專家指出,此次事件暴露出字節跳動在代碼權限管理、共用代碼審計等方面的漏洞。正常情況下,企業應實施嚴格的權限隔離措施,并對重大代碼變動進行詳盡的審計和記錄,以防止類似事件再次發生。

目前,字節跳動已采取一系列措施加強技術安全管理,確保類似事件不再重演。同時,公司也呼吁社會各界共同關注并提升對技術安全的認識,共同維護網絡安全環境。

 
 
更多>同類天脈資訊
全站最新
熱門內容
媒體信息
新傳播周刊
新傳播,傳播新經濟之聲!
網站首頁  |  關于我們  |  聯系方式  |  版權隱私  |  RSS訂閱  |  違規舉報 魯公網安備37010202700497號