弱人工智能背景下的犯罪治理
每一次科技領域的重大變革，都會顯著改變犯罪的方式及應對策略。人工智能的快速興起，亦會改變犯罪的方式及其防治對策。人工智能技術主要包括計算機視覺、自然語言處理、圖像識別、機器學習等，其實質(zhì)在于強大的數(shù)據(jù)識別、分析、學習能力。對于人工智能背景下可能引發(fā)的犯罪問題以及如何利用人工智能預防犯罪，理論上進行了諸多富有建設性、前瞻性的研究。人工智能根據(jù)其智能化的程度，大致可以分為弱人工智能、強人工智能、超強人工智能，強人工智能及超強人工智能是指人工智能能夠獨立于程序、軟件的設計者設定的算法、學習范圍而進行思考與行動，接近甚至超過人。目前科學界較為普遍的認識是，走向強人工智能、超強人工智能可能還需要經(jīng)歷至少四五十年。人工智能仍將長期處于弱人工智能發(fā)展階段，正確認識當前弱人工智能背景下的犯罪現(xiàn)狀，運用人工智能防范、懲治犯罪，是當前更為緊迫的現(xiàn)實任務。
一、弱人工智能背景下的犯罪現(xiàn)狀
在弱人工智能背景下，風險更多的是來源于“人”的風險，即人利用人工智能或發(fā)現(xiàn)人工智能的漏洞實施犯罪。由于人工智能在數(shù)據(jù)獲取、數(shù)據(jù)分析、風險規(guī)避等方面的技術優(yōu)勢，使得諸多犯罪更具有“智能化”的特征，部分特定犯罪的數(shù)量也呈現(xiàn)出幾何式的遞增，犯罪方式也更加隱蔽。通過對“北大法寶”上的裁判文書的梳理，2015年至今，涉“人工智能”這一關鍵詞的刑事判決書有106份，實際上利用人工智能所實施的犯罪可能遠超這一數(shù)據(jù)。
較為突出的是“人工智能”被用于對公民個人數(shù)據(jù)信息的獲取，據(jù)《中國網(wǎng)民權(quán)益保護調(diào)查報告2021》顯示，網(wǎng)民在網(wǎng)購過程中遭受個人信息泄露的高達68％。通過人工智能手段獲取公民個人信息在當下已經(jīng)具有一定的典型性，危害性也較以往更為突出。例如，我國于2017年成功破獲的首例利用人工智能所實施獲取驗證碼案件，犯罪分子利用人工智能技術打造出一條從盜號撞庫、破解驗證碼到販賣公民信息、實施網(wǎng)絡詐騙的全鏈條黑產(chǎn)。“快啊答題”人工智能“打碼”平臺在此黑色產(chǎn)業(yè)鏈中起著重要作用，該平臺接入“曬密”軟件100多款，接入用戶高達1萬余人，在2017年一季度內(nèi)破解驗證碼259億次，累計破解驗證碼1204億次。域外人工智能被用于非法獲取個人信息也較為突出，例如，2018年3月，F(xiàn)acebook發(fā)生大規(guī)模用戶數(shù)據(jù)泄露事件，有大約8700萬名用戶的數(shù)據(jù)遭到侵害。隨著人工智能對信息采集的能力進一步增強，利用人工智能所收集的信息進一步實施犯罪的危害性更大。
諸多傳統(tǒng)型的財產(chǎn)犯罪，如詐騙、盜竊、敲詐勒索罪等，也因人工智能的“智能化”使犯罪方式更為便捷、危害性更大、隱蔽性更強。例如，在電信網(wǎng)絡詐騙案件中，犯罪行為人運用人工智能，能同時與多達5000名被害人通話。又如，我國現(xiàn)階段也出現(xiàn)了在面部識別支付的技術應用下，通過技術手段從海量數(shù)據(jù)中，模仿他人面部特征而竊取他人賬戶資金。實踐中，行為人將淫穢色情電影中的演員的臉與被害人進行交換，利用人工智能大規(guī)模地進行數(shù)據(jù)信息匹配，進而實施詐騙、敲詐勒索等犯罪亦較為典型。更值得注意的是，現(xiàn)今的人工智能技術，可以讓人工智能軟件模仿特定人的聲音，進而對被害人實施詐騙。據(jù)英國《每日郵報》報道，2019年3月，一名詐騙犯利用AI語音模仿軟件冒充公司大老板，成功讓一家英國能源公司的CEO相信自己正在與德國母公司的老板通電話，騙取其22萬歐元。諸多財產(chǎn)犯罪都有人工智能的特征，尤其是詐騙與敲詐勒索犯罪?！?017年度網(wǎng)絡空間安全報告》指出，全球約6300個平臺提供勒索軟件交易，勒索軟件在2016至2017年的銷售量增加了約2502％。犯罪分子傾向于加密被感染設備的數(shù)據(jù)，向受害者勒索比特幣等加密貨幣。還有諸多利用人工智能所實施的犯罪行為，未被實務充分認識。例如，大數(shù)據(jù)殺熟也是非法獲取他人財物，可能涉及詐騙罪、盜竊罪，但實踐中更多的是作為一般違法行為處理。2021年《深圳經(jīng)濟特區(qū)數(shù)據(jù)條例》規(guī)定，不得通過數(shù)據(jù)分析無正當理由對交易條件相同的交易相對人實施差別待遇，違反以上規(guī)定者最高可被處以5000萬元人民幣的罰款。
其他犯罪也因人工智能的運用，出現(xiàn)了新的表現(xiàn)形式，或者出現(xiàn)了新類型的犯罪。例如，人工智能的水平不斷提高，可以制造出更逼近真人效果并能夠順利溝通的機器人，利用機器人與人發(fā)生性關系，或者組織機器人進行淫穢表演。又如，在交通領域，隨著自動輔助駕駛技術的快速發(fā)展，駕駛?cè)吮救嗽诤艽蟪潭壬蠒Ⅰ{駛的責任、注意義務寄托于系統(tǒng)本身，對于此種背景下出現(xiàn)的交通事故，涉及如何劃分駕駛員、自動駕駛程序的設計者與經(jīng)營者的責任。
二、人工智能在應對犯罪中的現(xiàn)狀
宏觀層面而言，人工智能已經(jīng)被逐步運用于犯罪預警、偵查、防控方面。人工智能犯罪預警機制作為大數(shù)據(jù)技術的產(chǎn)兒，在對社會各類信息、犯罪模型分析的基礎上，可以做出預測性分析和自主布置防控措施的機制。例如，近年來，刑事司法領域主動與大數(shù)據(jù)、人工智能領域協(xié)作，開展了一系列國家重點研發(fā)計劃，如“犯罪嫌疑人特征精確刻畫與精準識別”“職務犯罪智能評估、預防”等一系列以人工智能犯罪風險評估為主題的跨學科科研項目，其效果也被實證數(shù)據(jù)所肯定。域外的相關做法亦值得我們借鑒，美國普利策獎得主ProPublica調(diào)研了佛羅里達州布勞沃德縣的重新犯罪風險評估情況，通過人工智能對多種數(shù)據(jù)進行量化分析，將被逮捕的1萬余人的風險評估結(jié)論與實際發(fā)生的重新犯罪率進行比較，結(jié)果準確。
針對具體犯罪的防治，理論研究與實務已經(jīng)逐步開展。例如，實證研究表明，充分運用人工智能進行數(shù)據(jù)分析，認為運用數(shù)據(jù)挖掘模型是探索有效防控貸款詐騙風險的重要路徑。通過客戶受教育程度、工作年限、家庭收入、債務收入比率、信用卡負債、其他債務和風險分類等變量，對于貸款詐騙罪的發(fā)生有著較為合理的解釋，也有助于防范風險。又如，醫(yī)療技術領域，運用人工智能完成諸多輔助工作，可以減少醫(yī)生的過失進而防范醫(yī)療事故犯罪。武漢同濟醫(yī)院在2016年就上線試用了AI-DR輔助診斷技術，5個月的時間，使用AI-DR共診斷X線片8093張。在測試實際病人X線片的過程中，AI-DR于160例病例中發(fā)現(xiàn)了2例醫(yī)生診斷中遺漏的病灶。
人工智能對于犯罪的防治已經(jīng)從具體個罪的理論模型走向?qū)嵺`。例如，對于拐賣兒童犯罪的打擊，人工智能系統(tǒng)可以對拐賣犯罪所有的數(shù)據(jù)快速做出整合，對拐賣兒童犯罪模式和犯罪規(guī)律進行提煉，可以較為準確地鎖定哪些人是潛在的拐賣犯罪高危人群。同時，智能系統(tǒng)可以通過社會網(wǎng)絡智能化分析，將拐賣犯罪嫌疑人復雜的人際關系變?yōu)樾蜗蟮木W(wǎng)絡圖形，使得偵查人員迅速獲取整個拐賣團伙交易鏈。又如，近年來，經(jīng)濟犯罪愈發(fā)智能化、職業(yè)化、信息化，經(jīng)偵工作中的重點是“資金流”，當前人工智能技術在對經(jīng)濟犯罪案件涉案資金查控方面的應用主要體現(xiàn)在經(jīng)偵云系統(tǒng)、違法資金查控平臺以及包括可視化數(shù)據(jù)分析在內(nèi)的軟件和硬件設備。部分地方的經(jīng)偵部門多利用中國銀聯(lián)警銀協(xié)助“JASS”系統(tǒng)，查詢銀聯(lián)轉(zhuǎn)賬（跨境、跨行轉(zhuǎn)賬）；利用可視化數(shù)據(jù)分析系列軟件用于研判分析涉眾型、犯罪人員關系復雜、資金交易來往頻繁的傳銷和非法集資等案件。
三、幾點思考
進入弱人工智能時代，如何在人工智能的初級階段完善相關的立法及制度，以期進一步防范利用人工智能所實施的犯罪，發(fā)揮人工智能在犯罪防治中的意義，需要進行更加規(guī)范化的思考。
首先，對于犯罪的治理，應該從事后回應式打擊向犯罪預防、預警、預測的治理模式轉(zhuǎn)變。傳統(tǒng)的犯罪偵查、治理模式，無法應對人工智能背景下犯罪的技術與數(shù)量的雙重升級。應建立好的智能系統(tǒng)、營造好的網(wǎng)絡環(huán)境、數(shù)據(jù)保護措施等，解決人工智能被用來犯罪的問題。而我國目前尚沒有對人工智能產(chǎn)品的研發(fā)、流通、使用等制定出較為全面的管理制度，技術規(guī)范的介入應當始于人工智能技術生產(chǎn)應用之前，嚴格控制研發(fā)后投入使用的人工智能產(chǎn)品類型。同時，完善過程的跟蹤監(jiān)管，避免產(chǎn)生算法、功能上的改變，防止數(shù)據(jù)被盜用的風險，加強事后的危害處置。例如，隨著自動駕駛技術的推廣，技術本身存在的缺陷亦會導致交通事故等，因此，如何在合適的時機，推廣何種自動駕駛技術，對于自動駕駛過程中所可能出現(xiàn)的責任各方應如何承擔，都是需要進一步防范的。對于犯罪的具體治理策略，也應從簡單的經(jīng)驗主義模式轉(zhuǎn)向更為精準的數(shù)據(jù)、科學的量化分析等模式。早期的經(jīng)驗主義的犯罪治理觀，更多的是通過司法人員的經(jīng)驗，而人工智能有助于我們用更為科學、量化的數(shù)據(jù)研判犯罪的形成、發(fā)展、變化趨勢，可以更為精準地提供策略。這也需要相關部門和單位精準認識數(shù)據(jù)，合理的規(guī)范數(shù)據(jù)的范圍。
其次，通過制度、規(guī)范權(quán)衡人工智能在具體場景中運用的利與弊。例如，自動駕駛技術整體上對于防范交通事故具有積極意義，但自動駕駛系統(tǒng)的風險降至何種程度才可以推向市場、不同智能等級背景下的駕駛?cè)藛T對事故承擔責任的大小、自動駕駛中遇到突發(fā)情況如何選擇優(yōu)先保護的利益，均需要通過制度、立法予以規(guī)范。又如，“人工智能”應受倫理道德標準的約束。再如，對于過度依賴人工智能所造成的問題，亦值得警醒。
最后，刑法理論亦應積極回應人工智能對犯罪的變革。例如，人工智能輔助系統(tǒng)，包括自動駕駛、醫(yī)療輔助等，在一定程度上承擔了人的義務，此種背景下人的過失責任如何認定，需要對過失犯罪理論賦予新的內(nèi)容。又如，在鼓勵科技創(chuàng)新的同時，如何從制度、立法層面容忍其可能存在的風險，亦是需要解決的問題。人工智能在整體上減少醫(yī)療事故、交通事故的同時，亦可能會因為使用人工智能而誘發(fā)新的事故，在對人的責任從寬處理的同時，對被害人的救助也需要進行制度、立法上的完善。
（郭曉紅，江西財經(jīng)大學法學院）
編輯：張怡時
京公網(wǎng)安備 11010502000576號