全國咨詢(xún)熱線(xiàn):010-67877741/42/43

“技術(shù)標準+管理制度”規范人工智能發(fā)展

發(fā)布時(shí)間:2025-03-17 01:06:53 人氣:293 來(lái)源:中國安全防范產(chǎn)品行業(yè)協(xié)會(huì )

  近日,國家網(wǎng)信辦聯(lián)合多部門(mén)發(fā)布《人工智能生成合成內容標識辦法》(以下簡(jiǎn)稱(chēng)《標識辦法》),自9月1日起施行。
  生成式人工智能、深度合成等新技術(shù)快速發(fā)展,為生成合成文本、圖片、音視頻等提供了便利工具,在促進(jìn)經(jīng)濟發(fā)展、豐富網(wǎng)上內容、便利公眾生活的同時(shí),也造成虛假信息傳播、破壞網(wǎng)絡(luò )生態(tài)等問(wèn)題。
  國家網(wǎng)信辦有關(guān)負責人表示,《標識辦法》聚焦人工智能“生成合成內容標識”關(guān)鍵點(diǎn),通過(guò)標識提醒用戶(hù)辨別虛假信息,明確相關(guān)服務(wù)主體的標識責任義務(wù),規范內容制作、傳播各環(huán)節標識行為,以合理成本提高安全性,促進(jìn)人工智能在文本對話(huà)、內容制作、輔助設計等各應用場(chǎng)景加快落地。同時(shí),減輕人工智能生成合成技術(shù)濫用危害,防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為,推動(dòng)人工智能健康有序發(fā)展。
   探索顯隱雙標識機制
  “生成合成內容標識已成為國際慣例?!惫膊康谌芯克彼L(cháng)金波介紹,歐盟《人工智能法》、美國《編輯和深度偽造內容來(lái)源保護完整性法案》、英國《人工智能(監管)法案》等均對水印、標識義務(wù)有要求。在我國,2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》提出針對文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息內容的標識要求,2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》承襲相關(guān)規定。
  此次《標識辦法》明確,人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式。顯式標識是指在生成合成內容或者交互場(chǎng)景界面中添加的,以文字、聲音、圖形等方式呈現并可以被用戶(hù)明顯感知到的標識;隱式標識是指采取技術(shù)措施在生成合成內容文件數據中添加的,不易被用戶(hù)明顯感知到的標識。
  《標識辦法》要求,服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》第十七條第一款情形的,應當按照要求對生成合成內容添加顯式標識;服務(wù)提供者應當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》第十六條的規定,在生成合成內容的文件元數據中添加隱式標識;提供網(wǎng)絡(luò )信息內容傳播服務(wù)的服務(wù)提供者應當采取技術(shù)措施,規范生成合成內容傳播活動(dòng)。
  “我國迄今已備案生成式人工智能產(chǎn)品300余款,生成合成服務(wù)3000余個(gè),有力推動(dòng)了人工智能行業(yè)的快速發(fā)展?!眹矣嬎銠C網(wǎng)絡(luò )應急技術(shù)處理協(xié)調中心正高級工程師張震表示,《標識辦法》是對我國人工智能算法治理體系的進(jìn)一步完善。
   實(shí)現全鏈條治理
  《標識辦法》明確,互聯(lián)網(wǎng)應用程序分發(fā)平臺在應用程序上架或者上線(xiàn)審核時(shí),應當要求服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)。
  對此,張震談到,《標識辦法》明確了文本、圖像、音頻、視頻等多模態(tài)的標識要求,將安全治理深入到內容模態(tài)層面,并創(chuàng )新性地將傳播平臺納入監管范疇,實(shí)現從生成到傳播的全鏈條治理。
  值得注意的是,配套《標識辦法》,強制性國家標準《網(wǎng)絡(luò )安全技術(shù) 人工智能生成合成內容標識方法》(以下簡(jiǎn)稱(chēng)《標識標準》)將于9月1日同步實(shí)施,以更好指導相關(guān)主體規范開(kāi)展標識活動(dòng)。
  “這開(kāi)創(chuàng )了技術(shù)標準與管理制度配合實(shí)施的新型治理模式,標志著(zhù)我國人工智能安全治理邁入‘技管雙強’的新階段?!敝袊娮蛹夹g(shù)標準化研究院副院長(cháng)范科峰認為,二者協(xié)同發(fā)布,破解了以往治理中管理規范與技術(shù)標準銜接不暢的問(wèn)題。
  在他看來(lái),作為我國人工智能領(lǐng)域首部“辦法+強標”組合拳,其在管理維度明確生成、傳播、分發(fā)全鏈條主體責任,在監管維度建立審核、監測、追責的閉環(huán)機制,在技術(shù)維度規范顯隱標識體系并預留創(chuàng )新空間,這種三位一體的治理架構為人工智能安全治理提供了清晰的實(shí)施路徑。
聯(lián)系我們
聯(lián)系方式

熱線(xiàn)電話(huà)

13910555092

上班時(shí)間

周一到周五

公司電話(huà)

010-67877741/42/43

二維碼
聯(lián)
色欲天堂久久亚洲综合网_色偷偷88888欧美精品久久久_人人澡人人澡人人看_涩爱AV色欲AV极品一区二区