隨著人工智能大模型在各行業(yè)的廣泛應(yīng)用，這位“數(shù)字助手”正深度融入人們的日常生活。然而，其快速普及也帶來(lái)了新的安全隱患。國(guó)家安全部門(mén)近期披露的案例顯示，部分單位因不當(dāng)使用開(kāi)源AI工具，導(dǎo)致內(nèi)部網(wǎng)絡(luò)遭受攻擊，敏感數(shù)據(jù)面臨泄露風(fēng)險(xiǎn)。

某單位工作人員在處理內(nèi)部文件時(shí)，違規(guī)使用開(kāi)源AI工具，且未關(guān)閉電腦系統(tǒng)的公網(wǎng)訪問(wèn)權(quán)限、未設(shè)置密碼保護(hù)。這一疏忽導(dǎo)致境外IP地址非法訪問(wèn)并下載了存儲(chǔ)在系統(tǒng)中的敏感資料，引發(fā)嚴(yán)重?cái)?shù)據(jù)安全事件。類(lèi)似案例中，攻擊者通過(guò)開(kāi)源框架建立的聯(lián)網(wǎng)大模型，未經(jīng)授權(quán)即可自由訪問(wèn)目標(biāo)網(wǎng)絡(luò)，暴露出技術(shù)使用中的潛在風(fēng)險(xiǎn)。

開(kāi)源大模型指將模型架構(gòu)、參數(shù)及訓(xùn)練數(shù)據(jù)向公眾免費(fèi)開(kāi)放的人工智能系統(tǒng)。這類(lèi)模型在互聯(lián)網(wǎng)上廣泛存在，功能涵蓋推理、代碼編寫(xiě)、文本處理及影像分析等領(lǐng)域。例如，用戶(hù)上傳體檢報(bào)告后，模型可分析身體異常并提供調(diào)整建議。然而，其開(kāi)放特性也埋下了安全隱患。

專(zhuān)家指出，數(shù)據(jù)安全是開(kāi)源大模型最易被忽視的風(fēng)險(xiǎn)點(diǎn)。根據(jù)技術(shù)原理，AI工具需存儲(chǔ)用戶(hù)輸入的數(shù)據(jù)以完成分析任務(wù)。若企業(yè)或個(gè)人將機(jī)密信息上傳至開(kāi)源平臺(tái)，這些數(shù)據(jù)實(shí)際上已處于泄露邊緣。開(kāi)發(fā)者因權(quán)限設(shè)置可查看用戶(hù)數(shù)據(jù)，而黑客則可能利用模型漏洞入侵后臺(tái)，進(jìn)一步加劇風(fēng)險(xiǎn)。

針對(duì)上述問(wèn)題，安全專(zhuān)家建議普通網(wǎng)民避免向開(kāi)源AI工具上傳個(gè)人隱私或敏感信息；企業(yè)若需使用此類(lèi)模型訓(xùn)練數(shù)據(jù)，應(yīng)采用私有化部署方案，將所有數(shù)據(jù)存儲(chǔ)于本地服務(wù)器，并配備專(zhuān)業(yè)團(tuán)隊(duì)維護(hù)。盡管私有化部署需投入更多基礎(chǔ)設(shè)施成本，但可有效阻斷數(shù)據(jù)外流途徑。