人工智能是人類發(fā)展新領(lǐng)域，給世界帶來巨大機(jī)遇，也帶來了各類風(fēng)險(xiǎn)挑戰(zhàn)。9月9日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)制定的《人工智能安全治理框架》1.0版（以下簡稱《框架》）對外公開發(fā)布。《框架》將人工智能安全風(fēng)險(xiǎn)按內(nèi)生安全和應(yīng)用安全分類，并給出相應(yīng)的技術(shù)應(yīng)對措施。圍繞“鼓勵(lì)創(chuàng)新，對人工智能研發(fā)及應(yīng)用采取包容態(tài)度”“快速動(dòng)態(tài)精準(zhǔn)調(diào)整治理措施”“明確主體安全責(zé)任”“共享最佳實(shí)踐”的原則，《框架》推動(dòng)各方就人工智能安全治理達(dá)成共識，促進(jìn)人工智能安全有序發(fā)展。

《框架》提出，人工智能系統(tǒng)設(shè)計(jì)、研發(fā)、訓(xùn)練、測試、部署、使用、維護(hù)等生命周期各環(huán)節(jié)都面臨安全風(fēng)險(xiǎn)，既面臨自身技術(shù)缺陷、不足帶來的風(fēng)險(xiǎn)，也面臨不當(dāng)使用、濫用甚至惡意利用帶來的安全風(fēng)險(xiǎn)。

其中人工智能內(nèi)生安全風(fēng)險(xiǎn)包括模型算法安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、系 ……