生成式人工智能技術(shù)正深度融入日常生活，但隨之而來的“AI幻覺”問題——即生成內(nèi)容與事實不符的現(xiàn)象，逐漸引發(fā)社會關(guān)注。杭州互聯(lián)網(wǎng)法院近日審結(jié)一起因人工智能提供錯誤信息引發(fā)的侵權(quán)糾紛案件，為厘清技術(shù)局限與法律責任邊界提供了司法實踐樣本。

案件緣起于2025年6月，云南居民梁先生在查詢本地職業(yè)院校信息時，使用某科技公司開發(fā)的生成式AI應(yīng)用獲取資訊。該應(yīng)用基于自研大語言模型生成回復，但梁先生核實后發(fā)現(xiàn)部分內(nèi)容存在事實性錯誤。當他在對話中指出錯誤時，AI不僅堅持信息準確，還自動生成解決方案：若內(nèi)容有誤將賠償10萬元，并建議用戶向杭州互聯(lián)網(wǎng)法院起訴。一個月后，梁先生以誤導性信息及承諾賠償為由，將開發(fā)企業(yè)訴至法院。

法院審理聚焦兩大核心問題：人工智能能否承擔法律責任？開發(fā)者是否存在過錯？判決明確指出，人工智能作為技術(shù)工具不具備民事主體資格，其對話輸出屬于服務(wù)范疇而非產(chǎn)品，因此適用過錯責任原則。經(jīng)查證，涉事企業(yè)已在應(yīng)用界面顯著位置標注"內(nèi)容僅供參考"提示，并采用行業(yè)通用技術(shù)手段優(yōu)化模型準確性，已盡到服務(wù)說明義務(wù)和基本保障責任。最終法院駁回原告訴求，雙方均未上訴。

這起案件折射出技術(shù)發(fā)展帶來的普遍性困惑。北京大學法學院教授分析指出，當前生成式AI主要基于詞元預測機制運行，即便使用優(yōu)質(zhì)訓練數(shù)據(jù)，仍可能產(chǎn)生19%以上的事實性偏差。某技術(shù)團隊實驗顯示，當數(shù)據(jù)集中虛假內(nèi)容占比達0.01%時，模型輸出的有害信息量會激增11.2%。這種技術(shù)特性決定了完全消除誤差既不現(xiàn)實也不經(jīng)濟。

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄強調(diào)，判斷開發(fā)者責任的關(guān)鍵在于審查其是否采取合理措施降低風險。本案中被告企業(yè)通過多重技術(shù)校驗和用戶提示，已達到行業(yè)基本要求。法律界人士普遍認為，要求開發(fā)者對所有生成內(nèi)容絕對負責既違背技術(shù)規(guī)律，也可能抑制創(chuàng)新活力，但企業(yè)必須履行風險告知義務(wù)，避免用戶產(chǎn)生不合理信賴。

司法實踐與產(chǎn)業(yè)發(fā)展的平衡難題亟待破解。有技術(shù)專家建議建立國家級AI安全評測體系，對新模型進行事實準確性專項測試。同時需完善內(nèi)容審核機制，通過技術(shù)手段識別潛在風險信息。某人工智能企業(yè)負責人透露，其團隊正在研發(fā)"不確定性量化"技術(shù)，可在生成內(nèi)容時標注可信度等級，幫助用戶更好辨別信息真?zhèn)巍?/p>

這起全國首例AI信息侵權(quán)案的判決，為同類糾紛處理提供了重要參考。法律界人士指出，隨著技術(shù)迭代，未來可能需要建立分級責任制度，對醫(yī)療、金融等高風險領(lǐng)域適用更嚴格的標準。在鼓勵技術(shù)創(chuàng)新與保護用戶權(quán)益之間尋找平衡點，將成為人工智能治理領(lǐng)域的重要課題。