4月12日，公安部公布10起打擊整治網(wǎng)絡(luò )謠言違法犯罪典型案例，其中4起典型案例涉及使用人工智能（以下簡(jiǎn)稱(chēng)AI）技術(shù)編造虛假信息；4月23日，北京互聯(lián)網(wǎng)法院一審開(kāi)庭宣判AI生成聲音人格權侵權案……
近年來(lái)，隨著(zhù)AI技術(shù)的快速發(fā)展，越來(lái)越多的人在工作生活中開(kāi)始享受到該技術(shù)所帶來(lái)的全新體驗，但伴隨而來(lái)的是，利用或濫用AI技術(shù)從事違法犯罪的活動(dòng)（以下簡(jiǎn)稱(chēng)AI犯罪）日益增多。
對此，政法機關(guān)依法履職，持續深挖徹查AI犯罪，不斷擴大辦案戰果，努力提升打擊治理質(zhì)效，全力維護人民群眾合法權益。
“政法機關(guān)立足主責主業(yè)，發(fā)揮職能作用，全力打擊治理AI犯罪，防范不法分子利用或濫用AI技術(shù)侵犯公民權利、危害公共安全，保證AI技術(shù)始終沿著(zhù)正確的軌道向前發(fā)展?！笔锥紟煼洞髮W(xué)政法學(xué)院法律系副教授崔俊杰對《法治日報》記者說(shuō)。
AI犯罪“花樣”層出不窮
“電腦AI去衣，白菜價(jià)?！?
2023年6月，原是北京一家互聯(lián)網(wǎng)公司技術(shù)員的白某某，在境外的社交媒體上接觸到了“一鍵去衣”的AI技術(shù)，便動(dòng)起了歪心思。
白某某通過(guò)境外的網(wǎng)站發(fā)布廣告，在某社交軟件上販賣(mài)深度偽造淫穢圖片近7000張，獲利一萬(wàn)多元。目前白某某已被提起公訴。
“一鍵去衣”究竟是怎樣的一種技術(shù)？記者了解到，這項技術(shù)并不是真的“去衣”，而是在圖片的基礎上，通過(guò)AI自行運算使用相關(guān)的淫穢圖像素材對圖片進(jìn)行重繪，和“AI換臉”“AI變聲”一樣，屬于利用AI深度學(xué)習、虛擬現實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。
“電詐犯罪團伙能夠通過(guò)AI技術(shù)‘換臉’‘變聲’，甚至是‘動(dòng)態(tài)換臉’，增加了傳統犯罪活動(dòng)的危害性，還產(chǎn)生了新型的違法行為，如使用AI‘繪畫(huà)’技術(shù)生成的繪畫(huà)作品可能會(huì )對他人著(zhù)作權造成侵權?！贝蘅〗鼙硎?，當前AI技術(shù)已被不法分子使用于網(wǎng)絡(luò )釣魚(yú)、深度偽造、繞過(guò)身份檢查、“越獄”式服務(wù)、人肉搜索和
監視五個(gè)方面，進(jìn)一步降低了犯罪的門(mén)檻。
5月6日下午，江西省鷹潭市余江區人民法院公開(kāi)宣判全國首例“AI游戲外掛”案，依法對被告人王某合以提供侵入、非法控制計算機信息系統程序、工具罪判處有期徒刑三年，緩刑五年。宣判后，王某合表示服從判決，不上訴。
經(jīng)審理查明：王某合通過(guò)制作出售“AI外掛”的方式牟利，2022年，其先后聯(lián)系萬(wàn)某至、張某（另案處理）等人編寫(xiě)“AI外掛”程序。至案發(fā)，王某合非法獲利共計629萬(wàn)余元。
據悉，該程序可對多款游戲的畫(huà)面數據進(jìn)行未授權獲取，對游戲中處理的鼠標數據指令進(jìn)行未授權修改，造成玩家在玩游戲時(shí)，不用操作就可以“自動(dòng)瞄準”“自動(dòng)開(kāi)槍”，干擾了游戲的正常運行環(huán)境，屬于破壞性程序。
在崔俊杰看來(lái)，AI技術(shù)標準化程度低、可定制性強、應用場(chǎng)景廣泛，不法分子作案手法越發(fā)多樣，導致AI犯罪不斷衍生升級，如不及時(shí)進(jìn)行打擊治理，會(huì )給網(wǎng)絡(luò )安全，甚至廣大群眾的生命財產(chǎn)
安全帶來(lái)嚴峻挑戰。
從嚴打擊形成有效震懾
為應對挑戰，政法機關(guān)采取一系列措施打擊AI犯罪，維護AI技術(shù)良好的發(fā)展環(huán)境，避免其在應用過(guò)程中引發(fā)失序和失范。
2023年9月，最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布《關(guān)于依法懲治網(wǎng)絡(luò )暴力違法犯罪的指導意見(jiàn)》，明確對“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形予以從重處罰。
4月23日，全國首例AI生成聲音人格權侵權案在北京互聯(lián)網(wǎng)法院一審開(kāi)庭宣判，法院認定被告方使用原告聲音、開(kāi)發(fā)涉案AI文本轉語(yǔ)音產(chǎn)品未獲得合法授權，構成侵權，賠償原告各項損失25萬(wàn)元，并書(shū)面賠禮道歉。
6月25日，江蘇省張家港市人民檢察院向市人民法院就一起敲詐勒索、詐騙案件提起公訴。據悉，犯罪嫌疑人所在的境內團伙通過(guò)虛擬定位、AI技術(shù)合成照片等方式，在交友軟件上將自己包裝成在外國的中國女留學(xué)生，隨后以談戀愛(ài)等名義，向在國外的留學(xué)生索取錢(qián)財。目前已查實(shí)該團伙敲詐勒索、詐騙50余人，涉案金額達100余萬(wàn)元。
自最高檢去年11月發(fā)布《檢察機關(guān)打擊治理電信網(wǎng)絡(luò )詐騙及其關(guān)聯(lián)犯罪工作情況（2023年）》后，各地檢察機關(guān)按照相關(guān)要求，加大對侵犯公民個(gè)人信息尤其是非法獲取人臉、聲紋等敏感信息、利用AI等前沿技術(shù)偽造人臉、聲紋以及獲取其他信息犯罪的打擊力度。
此外，全國公安機關(guān)去年依托“凈網(wǎng)”專(zhuān)項行動(dòng)組織專(zhuān)項會(huì )戰，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲利用AI技術(shù)“換臉”進(jìn)行詐騙犯罪案件79起，抓獲犯罪嫌疑人515名，有效遏制了該類(lèi)犯罪勢頭。
政法機關(guān)依法打擊AI犯罪，并通過(guò)辦理典型案例的方式形成震懾，讓想用AI技術(shù)非法獲利的人心生畏懼。
強化治理實(shí)現標本兼治
記者了解到，在依法打擊AI犯罪的過(guò)程中，政法機關(guān)深挖這一違法犯罪的規律特點(diǎn)，堅持以打開(kāi)路、打防并舉、源頭治理、綜合施策，會(huì )同相關(guān)部門(mén)單位深入推進(jìn)行業(yè)治理、綜合治理，壓實(shí)主體責任，強化行業(yè)監督，堵住監管漏洞，全力擠壓相關(guān)違法犯罪活動(dòng)空間，加速完善常態(tài)化治理機制，切實(shí)提高其違法成本。
據悉，為防范和打擊“AI換臉”犯罪，全國公安機關(guān)聯(lián)合國家重點(diǎn)實(shí)驗室等單位，開(kāi)展人臉識別與活體檢測技術(shù)安全測評，覆蓋即時(shí)通信、網(wǎng)絡(luò )直播、網(wǎng)絡(luò )社交、電商平臺、金融支付等重點(diǎn)App，及時(shí)發(fā)現人臉識別驗證系統存在的風(fēng)險隱患，通報運營(yíng)主體升級安全保護措施和人臉識別算法，不給不法分子可乘之機。
與此同時(shí)，各地通過(guò)多種形式的宣傳教育，幫助群眾更加清晰認識到AI技術(shù)被利用或濫用所帶來(lái)的法律風(fēng)險，增強了大家對AI犯罪的防范意識。
今年4月，安徽省合肥市警方通過(guò)中央媒體在關(guān)于“AI軟件成造謠工具”節目中揭秘謠言制作過(guò)程，讓網(wǎng)民更直觀(guān)地加深了對AI造謠的認識，起到了較好的宣傳效果。
2024年以來(lái)，浙江省杭州市臨平區借助“反詐智能AI宣防外呼系統”，自動(dòng)識別、分析和預警潛在的詐騙風(fēng)險，并以電話(huà)語(yǔ)音形式向市民發(fā)送提醒信息，不僅大幅提升工作效能，也切實(shí)提高了市民對詐騙風(fēng)險的警覺(jué)性，降低了詐騙案件的發(fā)生率。
“隨著(zhù)AI技術(shù)的快速迭代，對其被不法分子利用或濫用進(jìn)行防治提出了更高要求。如AI犯罪行為更為隱蔽和復雜，證據收集難度大?！贝蘅〗苷f(shuō)，因此，如何更好地防治AI犯罪，對內容生成平臺、行業(yè)監管部門(mén)乃至政法機關(guān)等各方都提出了挑戰。
崔俊杰建議，要堅持以科學(xué)適度的治理方式和治理手段回應技術(shù)發(fā)展和社會(huì )變遷，針對AI犯罪特點(diǎn)，相關(guān)部門(mén)需及時(shí)推動(dòng)相關(guān)法律的立改廢釋纂，以良法促善治，提高依法治理水平；加大全鏈條打擊力度，強化各部門(mén)協(xié)同配合，加強大數據法律監督模型應用，善于從中發(fā)現重點(diǎn)監督線(xiàn)索和社會(huì )治理存在的難點(diǎn)問(wèn)題，實(shí)現精準監督、有效監督，在確保行業(yè)良性健康發(fā)展的基礎上實(shí)現精準治理。
