近日，工業(yè)和信息化部聯(lián)合國家發(fā)展改革委、教育部、科技部等十部門共同發(fā)布《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），旨在規(guī)范人工智能科技活動(dòng)中的倫理治理，推動(dòng)產(chǎn)業(yè)健康有序發(fā)展。該文件明確要求將科技倫理要求貫穿人工智能研發(fā)、應(yīng)用全流程，并確立了可控可信、公平公正等核心倫理原則。

根據(jù)《辦法》，我國將構(gòu)建多層次人工智能倫理標(biāo)準(zhǔn)體系，涵蓋國際標(biāo)準(zhǔn)、國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)及團(tuán)體標(biāo)準(zhǔn)，同時(shí)支持搭建國際標(biāo)準(zhǔn)化交流平臺(tái)。文件特別強(qiáng)調(diào)強(qiáng)化倫理服務(wù)供給，要求建立風(fēng)險(xiǎn)監(jiān)測預(yù)警、檢測評估、認(rèn)證咨詢等全鏈條服務(wù)體系，并加大對中小微企業(yè)的支持力度。針對高風(fēng)險(xiǎn)領(lǐng)域，文件列出了需開展專家復(fù)核的研發(fā)活動(dòng)清單，包括人機(jī)融合系統(tǒng)、輿論引導(dǎo)算法模型及高度自主決策系統(tǒng)等三類重點(diǎn)場景。

在實(shí)施主體方面，《辦法》明確高校、科研機(jī)構(gòu)、企業(yè)等需設(shè)立倫理委員會(huì)，配備專業(yè)人員及經(jīng)費(fèi)保障其獨(dú)立運(yùn)作。地方主管部門可依托相關(guān)單位建立專業(yè)性審查服務(wù)中心，但禁止同一機(jī)構(gòu)同時(shí)承擔(dān)審查與復(fù)核職能。對于合作項(xiàng)目，允許開展跨單位倫理審查結(jié)果互認(rèn)，以提升審查效率。

審查程序分為一般、簡易和應(yīng)急三種模式。常規(guī)項(xiàng)目需在30日內(nèi)完成審查，涉及重大倫理風(fēng)險(xiǎn)的項(xiàng)目則需啟動(dòng)專家復(fù)核機(jī)制。針對突發(fā)公共事件等緊急情況，文件規(guī)定了72小時(shí)內(nèi)完成應(yīng)急審查的特殊流程，并要求加強(qiáng)過程監(jiān)督。所有納入復(fù)核清單的項(xiàng)目需每6個(gè)月接受跟蹤審查，風(fēng)險(xiǎn)變化時(shí)需重新申請復(fù)核。

監(jiān)督管理機(jī)制方面，科技部將統(tǒng)籌全國科技倫理監(jiān)管工作，工業(yè)和信息化部牽頭人工智能領(lǐng)域?qū)ｍ?xiàng)治理。各單位需通過國家科技倫理管理信息平臺(tái)登記審查情況，地方主管部門與行業(yè)部門按職責(zé)分工開展監(jiān)督。對違反規(guī)定的機(jī)構(gòu)，將依據(jù)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》等法律法規(guī)追究責(zé)任。

附件清單明確三類需重點(diǎn)監(jiān)管的研發(fā)活動(dòng)：一是影響人類行為認(rèn)知的人機(jī)融合系統(tǒng)；二是具備輿論動(dòng)員能力的算法模型；三是應(yīng)用于安全風(fēng)險(xiǎn)場景的自主決策系統(tǒng)。該清單將根據(jù)技術(shù)發(fā)展動(dòng)態(tài)調(diào)整，確保監(jiān)管措施與時(shí)俱進(jìn)。