小紅書近日在北京舉辦“AI治理開放日”活動，明確提出以真實性與原創價值為核心，構建AI內容治理新框架。平臺用戶信任中心負責人表示，發布治理主張并非限制創作自由，而是為創作者提供更清晰的創作指引，同時將公域流量優先分配給優質內容。
根據新規，平臺鼓勵創作者將AI作為創意工具，生產具有審美價值、敘事邏輯和真實信息增量的內容。例如，利用AI技術將復雜知識轉化為可視化科普作品，或創作具有獨特辨識度的虛擬角色。視覺創作領域同樣受到支持，包括藝術插畫、繪畫以及具備電影級敘事邏輯的短片制作。
針對違規行為，平臺劃定四條紅線：嚴禁利用AI進行賬號托管、造假營銷、侵權行為及低質創作。具體包括反對全自動運營賬號、仿冒名人身份、偽造個人經歷、惡搞經典作品等擾亂社區秩序的行為；禁止侵犯肖像權、著作權等法律權益；抵制批量生產同質化內容、傳播獵奇畫面或不良價值觀的創作方式。相關負責人強調，此類行為破壞了社區真誠分享的生態，擠壓了真實創作者的生存空間。
在技術治理層面，平臺采用“主動標識+智能識別”雙軌機制。創作者發布AI參與內容時需自行標注參與方式，未標注內容經系統識別后將自動添加標識。技術團隊持續優化圖片視頻中的AI生成痕跡檢測能力，重點提升對人臉深度偽造、合成畫面的識別精度，并結合賬號歷史行為、內容相似度等維度建立風險預警模型。目前，平臺已開通AI標注申訴通道，創作者可對系統判定結果提出異議。
數據顯示，2024年以來平臺累計處理AI違規案例超百萬起，其中托管賬號占比超80%，涉及造假筆記近15萬篇。對于確認由AI完全托管且無人類參與的賬號，平臺將采取封禁措施，其他違規行為則根據嚴重程度實施限制曝光、警告等梯度處罰。
