?
?■ 受訪專家：中國科學(xué)院自動化研究所多模態(tài)人工智能系統(tǒng)全國重點實驗室研究員 赫 然
二〇二二年十一月十五日，在第二十四屆中國國際高新技術(shù)成果交易會上，參觀者體驗AI“換臉”。新華社記者 毛思倩攝
??中國規(guī)范深度合成技術(shù)的新規(guī)定《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》自1月10日起施行。
??法新社報道稱，新規(guī)定要求深度合成服務(wù)提供者對使用者進(jìn)行真實身份信息認(rèn)證，同時要求對深度合成內(nèi)容進(jìn)行合理標(biāo)識，避免公眾混淆。
??“算法監(jiān)管的先行者——中國，近期將注意力轉(zhuǎn)向治理深度合成。”《華爾街日報》網(wǎng)站報道稱，所謂深度合成，就是由人工智能軟件生成或
編輯內(nèi)容，可以讓人們看起來完成了一些從未做過的事情。
??深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。合成的虛擬內(nèi)容有
極佳的視覺、聽覺等效果，具有“以假亂真”的特點。深度合成技術(shù)的代表性研究——2014年提出的生成對抗網(wǎng)絡(luò)（GANs）、2020年提出的生成
式預(yù)訓(xùn)練模型（GPT-3），大幅提升了多媒體數(shù)據(jù)合成的逼真程度，推動了“人工智能生成內(nèi)容”和“元宇宙”等一系列新型智能應(yīng)用形態(tài)。目前，
深度合成技術(shù)已衍生出面部替換、表情操縱、語音合成、文章生成、智能對話等不同技術(shù)分支，在教育、影視、傳媒等領(lǐng)域扮演著越來越重要的角色，
對升級傳統(tǒng)內(nèi)容制作方法、改善制作效果、提高制作效率有積極作用。但同時，該技術(shù)也可能被不法分子用于深度偽造，如偽造公眾人物發(fā)言，進(jìn)行
誹謗、詐騙等，給國家安全和社會穩(wěn)定帶來挑戰(zhàn)。
??智能技術(shù)本身是中立的，但技術(shù)的使用蘊(yùn)含價值取向。針對深度合成技術(shù)帶來的風(fēng)險和安全挑戰(zhàn)，中國正在積極探索治理路徑。
??2022年11月25日，中國國家互聯(lián)網(wǎng)信息辦公室會同工信部、公安部發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）。《規(guī)定》
根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法
規(guī)制定，是中國第一部針對深度合成人工智能技術(shù)治理的專門性規(guī)章。《規(guī)定》一方面為防范深度合成的潛在風(fēng)險提出了科學(xué)且系統(tǒng)的治理方案，另一
方面有效統(tǒng)籌了深度合成的風(fēng)險管理與技術(shù)創(chuàng)新，有利于促進(jìn)深度合成相關(guān)人工智能技術(shù)健康有序發(fā)展。
??《規(guī)定》厘清了深度合成技術(shù)定義與應(yīng)用范圍，確定了生成合成類算法的監(jiān)管對象，明確了深度合成服務(wù)提供者、技術(shù)支持者和使用者及應(yīng)用程序
分發(fā)平臺的各方責(zé)任，提出建立健全行業(yè)標(biāo)準(zhǔn)和自律管理制度。
??《規(guī)定》有效銜接現(xiàn)行法規(guī)制度，在延續(xù)互聯(lián)網(wǎng)信息服務(wù)算法治理思路的基礎(chǔ)上，對利用深度合成技術(shù)危害國家安全和人民利益、侵害公民合法權(quán)
益和隱私的行為及法律責(zé)任作出了全面、具體的規(guī)定，進(jìn)一步細(xì)化了現(xiàn)行算法應(yīng)用的監(jiān)管規(guī)則，給出了合成類算法服務(wù)的監(jiān)督管理樣板。
??實現(xiàn)網(wǎng)絡(luò)綜合治理、構(gòu)建網(wǎng)絡(luò)生態(tài)，是世界各國面臨的共同課題。《規(guī)定》的出臺，是中國加強(qiáng)互聯(lián)網(wǎng)智能技術(shù)依法治理、規(guī)范產(chǎn)業(yè)服務(wù)健康發(fā)展、
推進(jìn)人工智能倫理進(jìn)步、引導(dǎo)科學(xué)技術(shù)向上向善的重要舉措，具有一定的全球示范效應(yīng)。同時，《規(guī)定》的多項內(nèi)容處于國際領(lǐng)先地位，具有針對性、前
瞻性和引導(dǎo)性和可操作性。近期，美國人工智能實驗室OpenAI最新發(fā)布的對話式大型語言模型ChatGPT引起廣泛關(guān)注。該算法模型可以智能書寫情書、
辭職信、文章等，也可以模仿特定人物的風(fēng)格發(fā)布推文。使用這類算法模型提供智能寫作、對話服務(wù)也應(yīng)當(dāng)遵守《規(guī)定》。
??下一步，中國在規(guī)范深度合成技術(shù)方面還可進(jìn)行三方面探索：一是在技術(shù)基礎(chǔ)研究方面，可進(jìn)一步研究智能合成類算法的機(jī)制機(jī)理和深度合成鑒別等
關(guān)鍵技術(shù)，推動深度合成技術(shù)管理能力和技術(shù)保障措施建設(shè)，提升視頻、圖像、音頻、虛擬場景生成等應(yīng)用服務(wù)領(lǐng)域的合成效果。二是在安全與監(jiān)管方面，
可研究深度合成與鑒別的博弈對抗機(jī)制，研究媒體數(shù)字水印、算法模型水印和內(nèi)容安全溯源等深度合成標(biāo)識技術(shù)，建設(shè)面向移動互聯(lián)網(wǎng)全媒體的監(jiān)測管理平
臺，加強(qiáng)技術(shù)和人工審核交互的人機(jī)混合監(jiān)管方式，建立深度合成服務(wù)提供者的安全可控技術(shù)保障方案以及辟謠投訴機(jī)制。三是可開展深度合成相關(guān)智能算
法標(biāo)準(zhǔn)和安全評估標(biāo)準(zhǔn)等的研究與制定，進(jìn)一步支撐技術(shù)服務(wù)規(guī)范和安全能力建設(shè)等工作。
??中國積極探索規(guī)范深度合成技術(shù)，有利于引導(dǎo)以深度學(xué)習(xí)為主的新興智能技術(shù)健康發(fā)展，促進(jìn)人工智能算法在音頻、視頻、圖像和文本等多媒體信息處
理領(lǐng)域的應(yīng)用。隨著深度合成技術(shù)應(yīng)用的普及和拓展，深度合成檢測分析技術(shù)也將順勢而來。通過深度合成與檢測分析技術(shù)的對抗演練良性迭代，深度合成
技術(shù)將有望實現(xiàn)安全、可靠、可控發(fā)展，推動新興人工智能技術(shù)應(yīng)用落地。（記者 林子涵采訪整理）
