OpenAI近期通過官方博客詳細(xì)闡述了其AI代理在網(wǎng)頁訪問過程中，針對(duì)惡意鏈接與提示注入攻擊所采取的防護(hù)策略。這一機(jī)制旨在平衡安全性與靈活性，避免因過度限制訪問范圍而影響用戶體驗(yàn)。

在互聯(lián)網(wǎng)環(huán)境中，AI代理常需代表用戶操作瀏覽器并與外部網(wǎng)站交互，但釣魚網(wǎng)站、惡意頁面及數(shù)據(jù)竊取風(fēng)險(xiǎn)對(duì)系統(tǒng)安全構(gòu)成威脅。OpenAI未選擇僅允許訪問“白名單網(wǎng)站”的保守方案，認(rèn)為此舉雖能提升安全性，卻會(huì)大幅降低代理的實(shí)用性和適應(yīng)性。為此，公司開發(fā)了一套獨(dú)立的網(wǎng)絡(luò)索引系統(tǒng)，僅記錄互聯(lián)網(wǎng)上已公開的URL地址，且不依賴任何用戶數(shù)據(jù)。

根據(jù)新機(jī)制，AI代理訪問的鏈接若存在于獨(dú)立索引中，系統(tǒng)將直接放行；若未被記錄，則會(huì)提示用戶明確授權(quán)后方可繼續(xù)。這一設(shè)計(jì)將安全判斷標(biāo)準(zhǔn)從“是否信任網(wǎng)站”轉(zhuǎn)變?yōu)椤暗刂肥欠窆_存在于開放網(wǎng)絡(luò)中”，從而在保障安全的同時(shí)保留了訪問的開放性。

OpenAI還關(guān)注到網(wǎng)頁可能通過“提示注入”等手段隱蔽操控AI模型，誘導(dǎo)其執(zhí)行非預(yù)期操作，例如泄露敏感信息或破壞系統(tǒng)。公司此前發(fā)布的研究論文已對(duì)此類攻擊方式及防范技術(shù)進(jìn)行了深入分析。

盡管新機(jī)制是多層防護(hù)體系的一部分，但OpenAI明確表示，其無法確保所有網(wǎng)頁內(nèi)容絕對(duì)安全。部分網(wǎng)站可能采用社會(huì)工程學(xué)或其他惡意設(shè)計(jì)，而AI代理在現(xiàn)階段仍難以完全識(shí)別此類風(fēng)險(xiǎn)。用戶在使用過程中仍需保持警惕，避免因過度依賴技術(shù)防護(hù)而忽視潛在威脅。