南都訊 記者樊文揚(yáng) 11月14日，據(jù)“網(wǎng)信中國”消息，近期宏源證券有網(wǎng)絡(luò)賬號利用AI技術(shù)仿冒公眾人物形象，在直播、短視頻等環(huán)節(jié)發(fā)布營銷信息，誤導(dǎo)網(wǎng)民，涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán)。網(wǎng)信部門嚴(yán)厲處置“百貨超市小店”“娜娜好物聯(lián)盟”“環(huán)球護(hù)膚美妝甄選”等一批違法違規(guī)網(wǎng)絡(luò)賬號。同時，督促網(wǎng)站平臺發(fā)布治理公告，舉一反三宏源證券，開展集中清理整治，目前已累計清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號1.1萬余個。
該消息稱，下一步，網(wǎng)信部門將繼續(xù)壓實(shí)網(wǎng)站平臺主體責(zé)任，對利用AI仿冒公眾人物開展直播營銷問題保持高壓嚴(yán)管態(tài)勢，對惡意營銷賬號，發(fā)現(xiàn)一批、處置一批、曝光一批，維護(hù)良好網(wǎng)絡(luò)生態(tài)。
近期，演員溫崢嶸自曝被AI換臉盜播一事引發(fā)廣泛關(guān)注。據(jù)報道，當(dāng)前有多個直播間同時出現(xiàn)“溫崢嶸”的帶貨形象，視頻內(nèi)容要么是AI合成的虛假直播，要么是盜播、錄播的過往片段。溫崢嶸提問“你是溫崢嶸我是誰”后，反而被對方拉黑。
11月6日，南都N視頻記者從抖音電商方面獲悉，不少商家和達(dá)人在未取得授權(quán)情況下，利用AI、特效仿冒名人等方式進(jìn)行帶貨營銷，誤導(dǎo)消費(fèi)者。平臺已啟動專項(xiàng)治理，處置涉及侵權(quán)仿冒違規(guī)的達(dá)人賬號1.1萬個，其中涉及仿冒溫崢嶸、李玫瑾、羅永浩、董宇輝等多位名人的賬號。
隨著近年來AI飛速發(fā)展，利用該技術(shù)為名人換臉換聲進(jìn)行虛假宣傳等事件屢見不鮮。今年5月，演員鄧超和孫儷旗下工作室相繼發(fā)文稱，發(fā)現(xiàn)有部分網(wǎng)絡(luò)用戶通過技術(shù)合成的方式，利用鄧超、孫儷的形象和聲音制作虛假廣告宣傳視頻為某些商家的產(chǎn)品進(jìn)行推薦宏源證券，部分視頻播放量超百萬次。
今年6月，北京海淀區(qū)市場監(jiān)管局查處了某公司利用AI技術(shù)冒用央視主持人李梓萌名義和形象的虛假廣告案，并對其進(jìn)行了行政處罰。該案中的涉事直播間，憑借高度仿真的合成影像吸引了88萬關(guān)注者，開播后銷量迅速突破萬單，讓不少消費(fèi)者誤以為是本尊推薦。
據(jù)央視新聞8月報道，某社交平臺上，有博主利用AI仿冒奧運(yùn)冠軍全紅嬋的聲音賣土雞蛋；孫穎莎、王楚欽的聲音也被“克隆”，用來給“嬋寶家土雞蛋”高調(diào)帶貨……評論區(qū)顯示，不少網(wǎng)友誤以為這就是奧運(yùn)冠軍本人，紛紛下單購買。此外，還有博主“克隆”演員靳東等的聲音，進(jìn)行24小時語音直播。
今年9月起，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，其中明確提出強(qiáng)制添加顯式和隱式標(biāo)識等規(guī)范要求，為治理亂象提供了政策依據(jù)。然而現(xiàn)實(shí)情況中，這一規(guī)定的落實(shí)仍存在難點(diǎn)。據(jù)了解，有部分造假者將標(biāo)識藏在視頻、直播簡介的角落，用極小的字體顯示；有的商家利用技術(shù)手段對AI生成內(nèi)容進(jìn)行去標(biāo)識化處理，或讓AI造假內(nèi)容混跡在正常信息流中，難以被精準(zhǔn)識別。
針對頻現(xiàn)的AI換臉造假事件宏源證券，北京乾成律師事務(wù)所律師王琮瑋給出了維權(quán)建議。當(dāng)用戶發(fā)現(xiàn)遭到他人侵權(quán)等非法利用時，應(yīng)當(dāng)?shù)谝粫r間固定證據(jù)，并要求平臺下架侵權(quán)內(nèi)容；通過行政投訴舉報，向公安機(jī)關(guān)報案等尋求救濟(jì)措施。
傳金所提示：文章來自網(wǎng)絡(luò)，不代表本站觀點(diǎn)。
