隨著人工智能技術(shù)的飛速發(fā)展，AI大模型正以前所未有的速度滲透到各行各業(yè)，成為人們工作生活中不可或缺的“數(shù)字助手”。然而，這項技術(shù)帶來的便利背后，也潛藏著不容忽視的數(shù)據(jù)安全風(fēng)險。近期國家安全部門披露的典型案例，為公眾敲響了警鐘。

某單位工作人員在處理內(nèi)部文件時，違規(guī)使用開源AI工具進行文本分析。由于電腦系統(tǒng)默認開啟公網(wǎng)訪問權(quán)限且未設(shè)置密碼保護，導(dǎo)致存儲在設(shè)備中的敏感資料被境外IP地址非法訪問并下載。這一事件暴露出開源框架大模型在聯(lián)網(wǎng)環(huán)境下存在的重大安全隱患。

據(jù)網(wǎng)絡(luò)安全專家介紹，開源大模型是指將模型架構(gòu)、參數(shù)及訓(xùn)練數(shù)據(jù)完全公開供免費使用的人工智能系統(tǒng)。這類模型在互聯(lián)網(wǎng)上種類繁多，功能各異：有的擅長邏輯推理，有的精通代碼編寫，有的專長文本處理，還有的能夠分析醫(yī)學(xué)影像。例如，用戶上傳體檢報告后，模型可自動識別異常指標(biāo)并提供健康建議。

中國網(wǎng)絡(luò)空間安全協(xié)會專家王媛媛指出，數(shù)據(jù)存儲機制是開源大模型的核心工作原理，但這也成為其最大的安全漏洞。當(dāng)用戶上傳文件或圖片時，系統(tǒng)會自動保存這些數(shù)據(jù)以便進行分析處理。若涉及企業(yè)機密或個人隱私信息，就相當(dāng)于主動將數(shù)據(jù)暴露在開放網(wǎng)絡(luò)環(huán)境中。

數(shù)據(jù)泄露風(fēng)險主要來自兩個方面：一是模型開發(fā)者本身具有數(shù)據(jù)訪問權(quán)限，可能通過后臺查看用戶上傳內(nèi)容；二是開源代碼存在的技術(shù)漏洞可能被黑客利用，通過攻擊模型服務(wù)器獲取存儲數(shù)據(jù)。某安全團隊演示顯示，攻擊者僅需利用系統(tǒng)未修復(fù)的漏洞，即可在數(shù)分鐘內(nèi)提取模型數(shù)據(jù)庫中的全部敏感信息。

針對日益嚴(yán)峻的安全形勢，專家建議普通用戶應(yīng)避免在開源AI平臺上傳身份證號、銀行賬戶、健康檔案等敏感信息。企業(yè)用戶若需使用大模型處理業(yè)務(wù)數(shù)據(jù)，必須采用私有化部署方案，將所有計算過程限制在內(nèi)部網(wǎng)絡(luò)環(huán)境，并配備專業(yè)團隊進行安全維護。雖然這種方案需要投入更多基礎(chǔ)設(shè)施成本，但能有效阻斷數(shù)據(jù)外泄途徑。

當(dāng)前，我國已出臺多項人工智能安全治理規(guī)范，要求開發(fā)者在模型設(shè)計階段就嵌入數(shù)據(jù)加密、訪問控制等安全機制。網(wǎng)絡(luò)安全部門將持續(xù)加強對開源項目的審查力度，定期通報高危漏洞信息，督促相關(guān)平臺及時修復(fù)系統(tǒng)缺陷。