張文宏醫(yī)生“被AI帶貨”可謂當(dāng)下人工智能技術(shù)被濫用的一個(gè)縮影。近年來(lái)，人工智能技術(shù)飛速發(fā)展，基于大模型的生成式人工智能技術(shù)更是突飛猛進(jìn)。人們可以方便地使用人工智能技術(shù)來(lái)生成、合成具有較高自然度和真實(shí)感的圖像及音視頻內(nèi)容，特別是能夠模擬真實(shí)人物的聲音，并生成表情和口型都與講述內(nèi)容相符的視頻，達(dá)到以假亂真的效果。這類技術(shù)在電影修復(fù)、數(shù)字人主播、便利聽(tīng)障人士的手語(yǔ)動(dòng)作生成以及電商平臺(tái)的數(shù)字虛擬“試衣”“試妝”等領(lǐng)域發(fā)揮了積極作用，但其濫用也帶來(lái)了一系列問(wèn)題，其中非常突出的就是通過(guò)生成知名人物的虛假視頻進(jìn)行“知識(shí)傳播”或產(chǎn)品銷售，進(jìn)而誤導(dǎo)消費(fèi)者。

我國(guó)對(duì)深度合成技術(shù)應(yīng)用治理高度重視。民法典明確規(guī)定，不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，并特別規(guī)定了對(duì)自然人聲音的保護(hù)，為人工智能時(shí)代的權(quán)利保護(hù)奠定了堅(jiān)實(shí)基礎(chǔ)。此外，類似知名人物“被AI帶貨”的事件，還涉及損害被模仿者的名譽(yù)權(quán)等權(quán)利，同時(shí)也損害了消費(fèi)者的知情權(quán)、選擇權(quán)等權(quán)益，并對(duì)合法商家造成不正當(dāng)競(jìng)爭(zhēng)。從中長(zhǎng)期來(lái)看，如果不對(duì)濫用人工智能技術(shù)的行為加以規(guī)制，還可能造成社會(huì)信任危機(jī)，使人們對(duì)真實(shí)信息也產(chǎn)生懷疑，進(jìn)而影響社會(huì)的效率、秩序和安定。

針對(duì)這一問(wèn)題，我國(guó)已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等部門(mén)規(guī)章，從構(gòu)建技術(shù)與法律相結(jié)合的解決機(jī)制的角度，作出了一系列針對(duì)性規(guī)定。首先，明確任何組織和個(gè)人不得使用人工智能技術(shù)生成虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；深度合成服務(wù)提供者應(yīng)當(dāng)加強(qiáng)對(duì)深度合成內(nèi)容的管理，采取措施進(jìn)行審核。當(dāng)然，在當(dāng)前技術(shù)條件下，法律無(wú)法、也不宜要求深度合成服務(wù)提供者消除所有風(fēng)險(xiǎn)。其次，深度合成服務(wù)提供者對(duì)于提供的深度合成服務(wù)，應(yīng)當(dāng)按照法律規(guī)定，根據(jù)具體情況進(jìn)行必要的、顯著的標(biāo)識(shí)，或進(jìn)行隱式標(biāo)識(shí)以便機(jī)器識(shí)別。同時(shí)，任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。這種標(biāo)識(shí)義務(wù)為后續(xù)可信數(shù)據(jù)空間的建立奠定了重要基礎(chǔ)。

开云体育登录入口近日，張文宏醫(yī)生“被AI帶貨”一事引發(fā)社會(huì)廣泛關(guān)注。有網(wǎng)友反映家中老人在網(wǎng)絡(luò)上看到了一個(gè)視頻，視頻中“張文宏醫(yī)生”正在推薦一款蛋白棒，出于對(duì)張文宏醫(yī)生的信賴，老人不僅自己下單購(gòu)買，還將相關(guān)視頻轉(zhuǎn)發(fā)到多個(gè)微信群。經(jīng)核實(shí)，該視頻為AI（人工智能）合成。對(duì)于“被AI帶貨”，張文宏醫(yī)生無(wú)奈地回應(yīng)，其本人多次向平臺(tái)投訴，但虛假視頻屢禁不絕，賣貨賬號(hào)也一直在更換。

盡管我們已經(jīng)初步建立了必要的法律體系，也在進(jìn)一步完善技術(shù)與法律相結(jié)合的標(biāo)識(shí)——核驗(yàn)制度，但違反法律規(guī)定、濫用人工智能技術(shù)進(jìn)行虛假宣傳、虛假帶貨等情況依然存在。要想有效治理此類亂象，一方面，政府部門(mén)、平臺(tái)企業(yè)和科研工作者應(yīng)加強(qiáng)協(xié)作，積極探索有效措施，不斷增強(qiáng)在人工智能時(shí)代抵御技術(shù)濫用的能力；另一方面，監(jiān)管機(jī)構(gòu)可與各傳播平臺(tái)合作，通過(guò)推動(dòng)傳播科普、防詐騙視頻等方式，進(jìn)一步普及相關(guān)科技知識(shí)和法律知識(shí)，提升人民群眾在人工智能時(shí)代的風(fēng)險(xiǎn)防范意識(shí)。

今年9月，國(guó)家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》，中央網(wǎng)信辦也同步發(fā)布了《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法（征求意見(jiàn)稿）》強(qiáng)制性國(guó)家標(biāo)準(zhǔn)，擬進(jìn)一步提供細(xì)致規(guī)范。相關(guān)規(guī)范擬規(guī)定用戶上傳人工智能生成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)，這樣可以進(jìn)一步擴(kuò)展具有標(biāo)識(shí)義務(wù)的主體范圍，為人工智能生成內(nèi)容的識(shí)別提供多一重保障。同時(shí)擬規(guī)定“提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)”，以明確傳播平臺(tái)的核驗(yàn)和提示義務(wù)，即信息內(nèi)容傳播平臺(tái)應(yīng)當(dāng)核驗(yàn)相關(guān)內(nèi)容是否已經(jīng)被標(biāo)識(shí)或聲明為人工智能生成內(nèi)容，并應(yīng)當(dāng)根據(jù)生成合成痕跡等信息提醒用戶疑似生成合成內(nèi)容，幫助用戶避免被誤導(dǎo)或欺騙。