國(guó)家互聯(lián)網(wǎng)信息辦公室近日就《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》面向社會(huì)公開(kāi)征集意見(jiàn)，旨在規(guī)范人工智能擬人化互動(dòng)服務(wù)的發(fā)展，保障用戶權(quán)益與安全。

根據(jù)征求意見(jiàn)稿，服務(wù)提供者需在顯著位置提示用戶正在與人工智能而非真實(shí)人類進(jìn)行交互。當(dāng)識(shí)別到用戶出現(xiàn)過(guò)度依賴或沉迷傾向，或在用戶首次使用、重新登錄時(shí)，應(yīng)以彈窗等形式動(dòng)態(tài)告知用戶交互內(nèi)容由人工智能生成。若用戶連續(xù)使用擬人化互動(dòng)服務(wù)超過(guò)兩小時(shí)，提供者同樣需通過(guò)彈窗等方式提醒用戶暫停使用。

在安全能力方面，提供者需具備心理健康保護(hù)、情感邊界引導(dǎo)及依賴風(fēng)險(xiǎn)預(yù)警等功能，不得將替代社會(huì)交往、控制用戶心理或誘導(dǎo)沉迷依賴作為設(shè)計(jì)目標(biāo)。數(shù)據(jù)處理活動(dòng)也需嚴(yán)格規(guī)范，包括使用符合社會(huì)主義核心價(jià)值觀及中華優(yōu)秀傳統(tǒng)文化的數(shù)據(jù)集，對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行清洗、標(biāo)注以提高透明度與可靠性，防范數(shù)據(jù)投毒或篡改行為。

針對(duì)未成年人保護(hù)，提供者需建立未成年人模式，提供模式切換、定期現(xiàn)實(shí)提醒及使用時(shí)長(zhǎng)限制等個(gè)性化安全設(shè)置。向未成年人提供情感陪伴服務(wù)時(shí)，需取得監(jiān)護(hù)人明確同意，并提供監(jiān)護(hù)人控制功能，包括實(shí)時(shí)接收安全風(fēng)險(xiǎn)提醒、查閱使用概要信息、設(shè)置屏蔽特定角色、限制使用時(shí)長(zhǎng)及防止充值消費(fèi)等。若識(shí)別為疑似未成年人，提供者需在保護(hù)隱私的前提下切換至未成年人模式，并提供申訴渠道。

對(duì)于老年人用戶，提供者需引導(dǎo)其設(shè)置服務(wù)緊急聯(lián)系人，發(fā)現(xiàn)老年人使用期間出現(xiàn)危害生命健康或財(cái)產(chǎn)安全的情況時(shí)，及時(shí)通知緊急聯(lián)系人，并提供社會(huì)心理援助或緊急救助渠道。同時(shí)，提供者不得提供模擬老年人用戶親屬或特定關(guān)系人的服務(wù)，以避免潛在風(fēng)險(xiǎn)。