字節跳動商業化團隊模型訓練遇“投毒”風波,豆包大模型安然無恙?

   時間:2024-10-21 08:31 來源:天脈網作者:陸辰風

近日,科技界傳出一則引人關注的消息,涉及知名科技公司字節跳動內部發生的一起安全事件。據內部消息人士透露,這起事件與一名實習生的不當行為有關,其通過技術手段對商業化團隊的模型訓練過程進行了干擾,但具體細節與外界流傳的版本存在顯著出入。

據稱,該實習生田某因對團隊內部資源分配感到不滿,利用開源框架HF(Hugging Face)存在的安全漏洞,向共享模型中注入了破壞性代碼。這一行為不僅影響了團隊的模型訓練進程,還觸動了業界對于技術安全與權限管理的敏感神經。然而,字節跳動方面迅速澄清,指出事件的實際影響范圍被外界夸大,實際受損的并非公司核心的豆包大模型,而是專注于商業化技術領域的模型訓練任務,主要涉及廣告部門的部分技術工作。

字節跳動事件相關圖片

公司內部人士進一步強調,雖然事件確實造成了損失,但所謂“千萬美元”的經濟損失數字存在夸大成分。此事件的核心在于暴露了字節跳動在大型模型訓練過程中的安全管理短板,特別是權限隔離和共用代碼審計方面的不足。這一問題的暴露,促使公司開始重新審視并加強其內部的安全管理體系。

行業專家指出,加強權限隔離與定期審計是提升數據安全與系統安全性的關鍵措施。通過實時監控權限使用情況,企業能夠及時發現并阻止權限濫用和異常操作;而定期的權限審計則能確保團隊成員的權限設置符合既定的安全策略,有效防止內部風險的發生。然而,這些措施的實施也面臨著不小的挑戰,包括跨部門協作的復雜性以及持續的資源投入等。

針對此次事件,字節跳動已迅速采取行動,涉事實習生已被辭退,并已將相關情況通報給行業聯盟及其實習所在的學校。公司表示,將以此為契機,全面升級內部的安全管理機制,確保類似事件不再發生。

盡管遭遇了這次風波,字節跳動在技術創新方面并未止步。就在近期,火山引擎在視頻云技術大會上發布了針對視頻大模型訓練的視頻預處理方案,該方案旨在優化視頻大模型訓練的成本、質量和性能,并已成功應用于豆包視頻生成模型,展現出公司在技術創新領域的持續探索與突破。

 
 
更多>同類天脈資訊
全站最新
熱門內容
媒體信息
新傳播周刊
新傳播,傳播新經濟之聲!
網站首頁  |  關于我們  |  聯系方式  |  版權隱私  |  RSS訂閱  |  違規舉報 魯公網安備37010202700497號