2月(yue)8日，在北(bei)京冬(dong)奧會自由式滑雪女(nv)子大(da)跳臺決賽中(zhong)，中(zhong)國選手(shou)谷愛凌憑借(jie)最(zui)后一(yi)跳的出色發揮逆轉奪冠(guan)，AI合成(cheng)主(zhu)播(bo)“小聰”用手(shou)語(yu)解說(shuo)了這(zhe)個激動人心的奪冠(guan)時刻(ke)。作(zuo)為全球首(shou)個手(shou)語(yu)AI合成(cheng)主(zhu)播(bo)，“小聰”利用深(shen)度合成(cheng)技術，為聽障人士獲(huo)取信息(xi)帶來極大(da)便利。
作為(wei)人(ren)工智能(neng)領域的新應用，深度(du)合(he)成(cheng)(cheng)(cheng)技術(shu)以(yi)深度(du)學習、虛擬現(xian)實(shi)為(wei)代表(biao)的生成(cheng)(cheng)(cheng)合(he)成(cheng)(cheng)(cheng)類算法制作文本(ben)、圖像、音頻(pin)、視(shi)頻(pin)，因較(jiao)強(qiang)娛樂性在社(she)交(jiao)媒(mei)體平臺廣受關注。相關研究顯示，在國內(nei)外(wai)主(zhu)流音視(shi)頻(pin)網站(zhan)、社(she)交(jiao)媒(mei)體平臺上(shang)，2021年新發布的深度(du)合(he)成(cheng)(cheng)(cheng)視(shi)頻(pin)數量較(jiao)2017年增長10倍以(yi)上(shang)。
但(dan)大規(gui)模(mo)普及也導(dao)致(zhi)濫用(yong)案例頻出。不(bu)久前，國家(jia)網信(xin)辦公布《互(hu)聯網信(xin)息服務深(shen)度合成管理(li)規(gui)定(征(zheng)求意見稿)》，對深(shen)度合成內容的用(yong)途、標記(ji)、使用(yong)范圍(wei)以及濫用(yong)處罰作出具體規(gui)定。業內認為，管理(li)新規(gui)的即將出臺(tai)，意味著深(shen)度合成將迎來(lai)規(gui)范化發展關(guan)鍵期。
應用豐富 帶動產業快速發展
清華大學(xue)人(ren)工智能研(yan)究(jiu)院、國(guo)家工業信息安全(quan)發(fa)展研(yan)究(jiu)中心(xin)等(deng)日前聯合發(fa)布的《深度合成十大趨勢報告(2022)》指出，2017年(nian)以來，深度合成內容被大量(liang)創作和傳播，數量(liang)逐(zhu)年(nian)高速增長。
技(ji)(ji)(ji)術不斷成(cheng)熟是深度合成(cheng)內容快速(su)(su)增長(chang)的(de)重要原(yuan)因。自(zi)2017年(nian)(nian)開(kai)始，深度合成(cheng)領域(yu)新發表論文數量和開(kai)源(yuan)項(xiang)目均以(yi)每年(nian)(nian)30%的(de)速(su)(su)度增長(chang)。“研究論文持(chi)續增多(duo)，開(kai)源(yuan)技(ji)(ji)(ji)術工具(ju)、大量代(dai)表性(xing)方法集中涌現，使得深度合成(cheng)內容的(de)效(xiao)(xiao)果更加(jia)逼真、制作更加(jia)高(gao)效(xiao)(xiao)。”北京(jing)瑞萊(lai)智(zhi)慧科技(ji)(ji)(ji)有限公司CEO田(tian)天告訴記者(zhe)，縱觀計算機行業(ye)發展(zhan)，開(kai)源(yuan)項(xiang)目已成(cheng)為推(tui)動(dong)(dong)產業(ye)進步的(de)強(qiang)大力量，深度合成(cheng)在開(kai)源(yuan)社(she)區中備受(shou)青睞(lai)，將繼續推(tui)動(dong)(dong)該技(ji)(ji)(ji)術在產業(ye)中落地。
通(tong)過升級傳統內容制作(zuo)方法(fa)，深度合(he)成(cheng)在(zai)影視(shi)制作(zuo)、廣(guang)告營(ying)銷(xiao)、社交娛樂等領(ling)域應用(yong)不斷(duan)豐富，包括AI合(he)成(cheng)主播、虛(xu)擬偶像、修復歷史(shi)老(lao)照片等。2021年，虛(xu)擬偶像洛天依(yi)登(deng)上(shang)央(yang)視(shi)春晚(wan)，2022年，已經(jing)“出道”10年的她再次現身元宵晚(wan)會舞臺(tai)。公開數據顯示(shi)，2020年6月(yue)至2021年5月(yue)，共(gong)有32412位虛(xu)擬主播在(zai)嗶(bi)哩嗶(bi)哩開播，同(tong)比增長40%。
與(yu)此同(tong)時，越來(lai)越多的企(qi)業機(ji)構開(kai)始利用深度(du)合(he)成(cheng)技術提供面向公眾的產品和(he)服務，涵蓋圖像(xiang)、視頻、音頻、文(wen)本等(deng)多個領域。語(yu)音合(he)成(cheng)已(yi)經(jing)成(cheng)為(wei)人機(ji)交互的重要(yao)一環，被應用于(yu)智能客服、語(yu)音導航、有聲讀物、語(yu)音助手等(deng)場(chang)景(jing)，多家(jia)企(qi)業機(ji)構已(yi)發布基于(yu)深度(du)神經(jing)網絡技術合(he)成(cheng)音頻的商用開(kai)放平臺(tai)，而以文(wen)本為(wei)形式的深度(du)合(he)成(cheng)在新聞報道(dao)、詩文(wen)創(chuang)作(zuo)、聊天(tian)問(wen)答等(deng)方(fang)面顯現(xian)出巨(ju)大(da)的創(chuang)作(zuo)效(xiao)率和(he)潛力。
此(ci)外，“元宇宙”等新(xin)商(shang)業(ye)思維的(de)提(ti)出也為深(shen)(shen)度合成提(ti)供更廣闊的(de)應用場景(jing)。“深(shen)(shen)度合成將重新(xin)定義虛擬數(shu)字化(hua)空(kong)間(jian)，從傳播社會學意義上(shang)看，一個新(xin)的(de)人類生存場景(jing)將以深(shen)(shen)度合成技術為基(ji)石展開。”清(qing)華大學新(xin)聞與傳播學院(yuan)(yuan)常(chang)務副院(yuan)(yuan)長陳昌鳳說。
風險加劇 檢測技(ji)術持續更新(xin)
深(shen)(shen)度(du)合成(cheng)(cheng)激發(fa)新(xin)形式內容(rong)創造的同時，也帶(dai)來新(xin)威脅、新(xin)挑戰。《深(shen)(shen)度(du)合成(cheng)(cheng)十大(da)趨(qu)勢報(bao)告(2022)》分析認為(wei)，深(shen)(shen)度(du)偽造影響新(xin)聞(wen)對(dui)真(zhen)相的記錄(lu)，對(dui)虛(xu)假內容(rong)高難度(du)甄別也降(jiang)低了事實(shi)核查的有效(xiao)性。在社會重(zhong)大(da)突發(fa)事件上(shang)，深(shen)(shen)度(du)合成(cheng)(cheng)技術可能(neng)被用于(yu)操作輿論意見，借助社交媒(mei)體，使虛(xu)假信息短時間內發(fa)酵。
隨著負面(mian)風險日(ri)益(yi)加(jia)劇，以(yi)及合(he)成(cheng)(cheng)質量不(bu)斷提升，基于生物特征的(de)(de)傳(chuan)統(tong)鑒別方式(shi)越(yue)來越(yue)難(nan)以(yi)發揮作用。“目前對(dui)深度(du)合(he)成(cheng)(cheng)內容的(de)(de)自(zi)動(dong)化(hua)鑒別主要依靠人工(gong)智能技術完(wan)成(cheng)(cheng)。”浙(zhe)江大(da)學(xue)網絡空(kong)間安全(quan)學(xue)院院長任奎介紹，訓練人工(gong)智能模型需要大(da)量真(zhen)實(shi)和偽造數據(ju)，人臉和音(yin)頻(pin)數據(ju)都是(shi)高度(du)敏感的(de)(de)個(ge)人信息，難(nan)以(yi)獲取，而偽造數據(ju)也包含(han)各種不(bu)同方法合(he)成(cheng)(cheng)的(de)(de)數據(ju)，這都給構(gou)建自(zi)動(dong)化(hua)檢(jian)測能力帶來不(bu)小挑戰。
新型偽(wei)造(zao)方法(fa)的層出不(bu)窮(qiong)，加上檢(jian)(jian)測算法(fa)存在結構性缺陷，反深(shen)度(du)偽(wei)造(zao)檢(jian)(jian)測技(ji)(ji)術面臨“強對(dui)抗(kang)性”。田天解釋說，這類(lei)似于“貓鼠游戲”，深(shen)度(du)合成和檢(jian)(jian)測在不(bu)斷學(xue)習攻防過程(cheng)中會(hui)自(zi)我進化，規(gui)避上一代對(dui)抗(kang)技(ji)(ji)術，因此檢(jian)(jian)測技(ji)(ji)術需要持續更新與迭代優(you)化。
目(mu)前(qian)學(xue)術界(jie)和(he)產(chan)業(ye)界(jie)均已(yi)對(dui)反(fan)深(shen)偽檢(jian)(jian)測(ce)(ce)投入了大量研究，谷歌、微軟等機構均推(tui)出(chu)深(shen)度合成視頻(pin)認證(zheng)的(de)(de)(de)方法或產(chan)品。在(zai)國內(nei)，瑞萊(lai)智(zhi)慧(hui)推(tui)出(chu)的(de)(de)(de)深(shen)度偽造內(nei)容檢(jian)(jian)測(ce)(ce)平臺DeepReal，擁(yong)有工業(ye)級(ji)的(de)(de)(de)檢(jian)(jian)測(ce)(ce)性能和(he)應對(dui)實(shi)網環境對(dui)抗變化的(de)(de)(de)檢(jian)(jian)測(ce)(ce)能力(li)。“深(shen)度偽造檢(jian)(jian)測(ce)(ce)面臨(lin)持續(xu)的(de)(de)(de)攻(gong)防(fang)和(he)博弈，未來(lai)還需(xu)融(rong)合多模態(tai)內(nei)容的(de)(de)(de)取證(zheng)分析、基于數字水印的(de)(de)(de)溯源技術等多方面能力(li)，實(shi)現精(jing)準識別。”清華大學(xue)人工智(zhi)能研究院基礎(chu)理論研究中心主(zhu)任朱軍說。
構建多維度(du)治理機制
近年來，針對(dui)深度合成(cheng)技術惡意使用所帶來的問(wen)題，世界各(ge)國(guo)紛(fen)紛(fen)出臺管理(li)法(fa)律(lv)法(fa)規(gui)，探索深度合成(cheng)的治理(li)路徑。歐盟(meng)將深度合成(cheng)納入《通用數(shu)據保護條例(GDPR)》等現有(you)法(fa)律(lv)框(kuang)架規(gui)制，德國(guo)、新加坡、英國(guo)、韓國(guo)等國(guo)家，均有(you)適(shi)用于深度合成(cheng)技術相關犯(fan)罪案件(jian)審理(li)的法(fa)律(lv)法(fa)規(gui)。
我國正積(ji)極(ji)探(tan)尋建(jian)設有效(xiao)治(zhi)理機制。自2019年11月起，先后出臺的《網(wang)絡音視頻信息服(fu)務(wu)(wu)管(guan)(guan)理規(gui)定(ding)》《網(wang)絡信息內容生(sheng)態治(zhi)理規(gui)定(ding)》《互聯網(wang)信息服(fu)務(wu)(wu)算(suan)法推(tui)薦管(guan)(guan)理規(gui)定(ding)》等文(wen)件，均對生(sheng)成合成類內容提(ti)出不同程(cheng)度的監管(guan)(guan)要求。
中國工(gong)程院院士鄔賀銓認為(wei)，治(zhi)理深(shen)度(du)合成不(bu)能搞(gao)“一刀切”，要持(chi)續發(fa)展(zhan)技術(shu)，避免(mian)阻礙其(qi)正向(xiang)應用與創(chuang)新。其(qi)衍生(sheng)出的(de)安全問題需從源(yuan)頭解決(jue)，引導(dao)人工(gong)智(zhi)能學術(shu)界、產(chan)業界不(bu)斷加強技術(shu)研(yan)發(fa)，并(bing)擴展(zhan)深(shen)度(du)合成溯源(yuan)、深(shen)度(du)合成鑒定等方(fang)面的(de)研(yan)究，防范倫(lun)理安全風(feng)險(xian)和合規風(feng)險(xian)。
引導深度(du)合(he)(he)成(cheng)(cheng)技(ji)術良性(xing)發展，需(xu)探(tan)索多維度(du)治理機制。中(zhong)國社(she)科(ke)院哲學(xue)所科(ke)技(ji)哲學(xue)研(yan)究室主任段偉(wei)文建(jian)議，加強對深度(du)合(he)(he)成(cheng)(cheng)的(de)技(ji)術、法律和倫理問題展開系(xi)統性(xing)前瞻性(xing)跨(kua)學(xue)科(ke)研(yan)究，對其可(ke)能出(chu)現的(de)高風險應用場景采取有(you)針(zhen)對性(xing)的(de)治理與監管。
中(zhong)科院自動(dong)化所(suo)研(yan)究員曾毅則倡導(dao)產學(xue)研(yan)發(fa)展自律自治，他表(biao)示，在法律法規(gui)未(wei)形成體系化之前，產業界自身應強化理論先行(xing)意(yi)識，防范濫(lan)用、嚴(yan)禁惡用。
在(zai)對(dui)(dui)外經濟貿易大學法學院(yuan)副教授許(xu)可看來，社(she)(she)會層面(mian)應加(jia)大宣傳普及力度，強(qiang)化公民(min)對(dui)(dui)深度合(he)成(cheng)等人工智能技術(shu)的認識(shi)，提高全社(she)(she)會防(fang)范意(yi)識(shi)。
田天對此(ci)(ci)有相同看法，他(ta)認(ren)為深(shen)度偽造(zao)的(de)本(ben)質問(wen)題(ti)是透明度不(bu)足，因此(ci)(ci)提高(gao)公眾對深(shen)度合成(cheng)技術的(de)認(ren)知尤為重要，只有將門檻降低到所(suo)有受眾能(neng)夠(gou)在共同框架(jia)下認(ren)識(shi)、討論(lun)、理解這個問(wen)題(ti)的(de)時候，深(shen)度合成(cheng)技術才能(neng)健康良性(xing)發展。
業(ye)內專家建(jian)議，各方應當落(luo)實好新的規范要(yao)求，在此前提下不斷(duan)追求技術突破，開拓深(shen)度合成技術應用場(chang)景(jing)，形(xing)成對人工智能(neng)產(chan)業(ye)的帶動效應。（文(wen)章采集自(zi)經濟日報(bao)，如(ru)涉及版(ban)權問(wen)題(ti)請聯系我們(men)刪(shan)除）
