AIGC加速走向規(guī)范

(資料圖)

5月7日消息，參照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)，抖音提出十一條平臺(tái)規(guī)范與行業(yè)倡議。其中提到，創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，發(fā)布者應(yīng)對人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶區(qū)分虛擬與現(xiàn)實(shí)，特別是易混淆場景；發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)，無論內(nèi)容是如何生成的；虛擬人需在平臺(tái)進(jìn)行注冊，虛擬人技術(shù)使用者需實(shí)名認(rèn)證；禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。

在海外，蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）最近警告說，人工智能（AI）可能使詐騙和錯(cuò)誤信息更難發(fā)現(xiàn)。他擔(dān)心這項(xiàng)技術(shù)會(huì)被“壞人”所利用。

技術(shù)本身并無原罪，就看如何使用及其目的。AI繪畫作品、換臉視頻等工具，從積極角度看，這類技術(shù)讓生活更有趣，讓制作或創(chuàng)作更加高效、逼真。但有些時(shí)候，深度合成工具也成為詐騙、侵權(quán)、違法等違法犯罪活動(dòng)的“幫兇”。

在短視頻及短視頻分享潮流的興起下，在國家持續(xù)加強(qiáng)互聯(lián)網(wǎng)監(jiān)管的背景下，上述規(guī)范與行業(yè)倡議的可以說是互聯(lián)網(wǎng)內(nèi)容領(lǐng)域亟需的，有助于防范深度偽造和ChatGPT等人工智能技術(shù)各種潛在風(fēng)險(xiǎn)。去年年底由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布并在今年初（在ChatGPT大熱之前）生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求：“深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)”。該規(guī)定還明確，深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。而根據(jù)微信公號“甘肅公安”5月7日消息，近日平?jīng)鍪泄簿志W(wǎng)安大隊(duì)就偵破一起利用AI人工智能技術(shù)炮制虛假不實(shí)信息的案件。

而更早之前的2019年，國家互聯(lián)網(wǎng)信息辦公室等三部門就頒發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，針對網(wǎng)絡(luò)視頻的“深度偽造”進(jìn)行適時(shí)管控，要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)”，“不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息”（參考《暢語快評|ChatGPT變臉,中移動(dòng)“算聯(lián)網(wǎng)》）。

今年一季度，全國網(wǎng)信系統(tǒng)還進(jìn)一步加大網(wǎng)絡(luò)執(zhí)法力度，持續(xù)推進(jìn)“清朗”系列專項(xiàng)行動(dòng)，堅(jiān)決依法查處網(wǎng)上各類違法違規(guī)行為，累計(jì)約談網(wǎng)站2203家，暫停功能或更新網(wǎng)站48家，下架應(yīng)用程序55款，關(guān)停小程序12款，會(huì)同電信主管部門取消違法網(wǎng)站許可或備案、關(guān)閉違法網(wǎng)站4208家。在今年ChatGPT大熱之際，4月12日國家互聯(lián)網(wǎng)信息辦公室還起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》。更不用說，5月8日國家網(wǎng)信辦已經(jīng)派出工作組進(jìn)駐斗魚平臺(tái)以治理相關(guān)的色情、低俗等嚴(yán)重生態(tài)問題。這些都表明：互聯(lián)網(wǎng)信息治理是當(dāng)下重點(diǎn)之一。

而作為短視頻行業(yè)龍頭的抖音，在取得行業(yè)地位而亂象漸起之時(shí)，按照國家監(jiān)管需求不斷加強(qiáng)平臺(tái)自治、加強(qiáng)平臺(tái)內(nèi)容管理規(guī)范也是理所當(dāng)然的。因?yàn)槠渑e措已經(jīng)部分代表了短視頻乃至互聯(lián)網(wǎng)內(nèi)容平臺(tái)的治理態(tài)度。例如此前2023年2月，抖音就在“治理詐騙開放日”上就發(fā)布智能交互反詐產(chǎn)品“抖音小安”。

預(yù)計(jì)未來在互聯(lián)網(wǎng)UGC領(lǐng)域，深度合成與AIGC應(yīng)用管理業(yè)將更為規(guī)范，為大眾筑起數(shù)字時(shí)代的安全防護(hù)欄。

責(zé)任編輯：李楠

關(guān)鍵詞：