阿里巴巴近日宣布推出全球首個(gè)企業(yè)級(jí)AI原生工作平臺(tái)“悟空”，旨在為企業(yè)提供更安全、高效的AI應(yīng)用解決方案。然而，隨著AI技術(shù)的廣泛應(yīng)用，企業(yè)數(shù)據(jù)安全問題也日益凸顯。釘釘CEO在發(fā)布會(huì)上特別強(qiáng)調(diào)，當(dāng)前企業(yè)在引入AI工具時(shí)，面臨“權(quán)限脆弱”、“越權(quán)執(zhí)行”、“數(shù)據(jù)泄露”和“惡意技能”四大核心風(fēng)險(xiǎn)。

他以具體案例說明問題的嚴(yán)重性：某企業(yè)員工在內(nèi)部3000人大群中訓(xùn)練AI“養(yǎng)龍蝦”，結(jié)果該AI意外泄露了公司機(jī)密信息，包括IP地址、真實(shí)姓名、企業(yè)名稱甚至全年?duì)I收數(shù)據(jù)。無獨(dú)有偶，meta公司安全總監(jiān)的電腦曾遭攻擊，200余封重要郵件被批量刪除，造成難以估量的損失。更令人震驚的是，目前有超過39萬個(gè)claw站點(diǎn)資產(chǎn)處于無保護(hù)狀態(tài)，企業(yè)數(shù)據(jù)完全暴露在風(fēng)險(xiǎn)之中。

釘釘負(fù)責(zé)人陳航對(duì)此表達(dá)強(qiáng)烈擔(dān)憂。他指出，部分企業(yè)盲目追求AI技術(shù)應(yīng)用，卻忽視了基礎(chǔ)安全防護(hù)。“將未經(jīng)管控的超級(jí)智能體隨意部署，相當(dāng)于給每臺(tái)電腦開后門，導(dǎo)致中木馬、病毒的風(fēng)險(xiǎn)激增?！彼蜗蟮乇扔鞯溃斑@種行為就像把猛獸放出籠子，當(dāng)企業(yè)失去對(duì)AI的控制權(quán)時(shí)，終將被技術(shù)反噬?！?/p>

針對(duì)這些隱患，“悟空”平臺(tái)特別設(shè)計(jì)了沙箱運(yùn)行機(jī)制和分級(jí)權(quán)限管理系統(tǒng)。通過將AI操作隔離在安全環(huán)境中執(zhí)行，并嚴(yán)格限制數(shù)據(jù)訪問權(quán)限，該平臺(tái)可有效防止越權(quán)行為和數(shù)據(jù)泄露。阿里巴巴表示，未來將持續(xù)完善安全防護(hù)體系，幫助企業(yè)在享受AI紅利的同時(shí)，筑牢數(shù)據(jù)安全防線。