小紅書近日在北京舉辦了首屆AI治理開放日活動，首次系統性地公開了平臺對人工智能生成內容的治理框架。該框架以“真實性”與“原創價值”為核心標尺，通過“鼓勵清單”與“禁止清單”雙軌機制，為創作者提供明確的創作指引。平臺明確要求所有AI參與生成的內容必須主動標識，未標識內容將由系統自動添加識別標簽，但標識行為不會影響內容流量分發。
在內容鼓勵方向上，平臺重點支持三類AI創作場景：一是知識可視化創新，如將專業領域知識轉化為動態科普內容；二是虛擬角色與IP衍生創作，鼓勵開發具有辨識度的數字形象；三是高質量視覺創作，涵蓋藝術插畫、敘事性繪畫及具有電影質感的短片制作。央美國畫專業畢業生@一方畫貓呢 在活動中分享了創作案例，其通過AI技術將靜態院體畫轉化為動態影像，在保持原創筆觸的同時，使畫面呈現穿云動效等視覺突破。該創作者強調，AI僅作為最終階段的視覺增強工具，核心創意與手繪部分仍由人工完成。
針對AI濫用問題，平臺劃定了四條治理紅線：嚴厲打擊利用AI進行賬號托管、批量造假、侵權創作及低質內容生產。具體包括禁止全自動運營賬號、仿冒名人身份、虛構人設經歷、惡意篡改經典作品等行為，同時對批量生成同質化內容、傳播極端畫面或不良價值觀的內容采取限制曝光直至封禁的處罰措施。據用戶信任中心負責人披露，2024年以來平臺已處置超百萬例AI違規行為，其中托管賬號超80萬個，虛假筆記近15萬篇。
為保障治理措施落地，平臺建立了多層次保障機制：開通AI標識申訴通道，允許創作者對系統誤判進行反饋；優化流量分配算法，確保優質內容獲得公域推薦；定期更新技術識別模型，提升對新型違規行為的監測能力。AI科普創作者@大師的AI小灶 在討論中指出，當前技術發展速度遠超公眾認知水平，平臺治理規則的及時完善對維護內容生態健康至關重要。
此次治理框架的推出，是平臺對“真誠分享”社區價值觀的延續性實踐。通過建立AI創作行為規范，小紅書試圖在技術革新與人文價值之間尋找平衡點，既為創新工具提供應用空間，又堅守真實人際連接的核心屬性。該舉措也為行業提供了治理樣本，顯示頭部平臺正在通過制度設計應對人工智能帶來的內容生態挑戰。
