“人工智能與刑法的對話：AI時代詐騙犯罪的理論與實務(wù)問題研討會”在京舉行
法治網(wǎng)全媒體記者 蔣安杰
10月11日，首師大政法學院舉辦的一場聚焦法學前沿、引領(lǐng)學術(shù)潮流的學術(shù)研討會——“人工智能與刑法的對話：AI時代詐騙犯罪的理論與實務(wù)問題研討會”在京舉行。首都師范大學政法學院院長吳高臣主持開幕式。
首都師范大學黨委書記繆勁翔指出，政法學院在人工智能時代的來臨這個前提下，立足法學研究的本位，積極研究交叉學科所帶來的新的制度治理難題，符合學校發(fā)展和學科發(fā)展的需求。
中國法學會副會長姜偉提到，人工智能是一把雙刃劍，既可以提高社會生產(chǎn)力，也給社會治理帶來新的風險，作為技術(shù)工具，價格低廉容易操作，迭代速度遠超監(jiān)管部門的反應(yīng)速度，幾乎可以觸及社會各領(lǐng)域的法益?！吨泄仓醒腙P(guān)于進一步全面深化改革、推進中國式現(xiàn)代化的決定》明確要求完善生成式人工智能發(fā)展和管理機制也就成了應(yīng)有之義。
研討會第一單元“AI時代詐騙犯罪的理論問題研討”由北京師范大學教授黃曉亮主持。
北京外國語大學法學院教授王文華認為，AI詐騙問題不僅是刑法問題，更多的還延伸到前置法的問題，即具有外擴性，是一個技術(shù)治理的問題，同時也是商業(yè)、產(chǎn)業(yè)邏輯的問題。只有將AI置于不同的應(yīng)用場景，才能具體確定應(yīng)用AI平臺是否進入了詐騙犯罪的規(guī)制領(lǐng)域。
中國人民大學法學院教授付立慶認為，我國刑法第二百六十六條詐騙罪的罪狀描述是極為簡約的，若放棄對欺騙行為的限縮，過度擴張詐騙罪法網(wǎng)范圍的后果是：詐騙罪的構(gòu)成要件喪失定型性和罪刑法定主義機能，其與盜竊罪的區(qū)分將變得極為困難。
北京航空航天大學教授孫運梁認為，法學概念要著重考量其本身概念特征，一方面它要比日常生活概念更規(guī)范，另一方面它也達不到科學概念能夠測量的程度。具體到詐騙罪的領(lǐng)域，傳統(tǒng)法學中“占有”和“財產(chǎn)處分”的概念就受到了沖擊，很多爭論與分歧其實就來源于概念的流變，這需要學者們審慎觀察。
北京大學法學院文科一級教授陳興良點評時表示，此前他對人工智能犯罪的研究方向有一點“跑偏”的擔心，但在對相關(guān)領(lǐng)域進行了解以及參與本次研討會的基礎(chǔ)上產(chǎn)生了幾點新的想法：第一，刑法學者應(yīng)當積極應(yīng)對人工智能犯罪時代的到來，刑法理論研究應(yīng)當有所作為；第二，在探討人工智能犯罪問題時，要區(qū)分弱人工智能和強人工智能，前者只有在將其作為犯罪的工具考察時才有意義，至于強人工智能的犯罪主體性能否成立問題，我們可以做適度的預見性研究，但不能將研究基礎(chǔ)完全放在幻想上，這樣會導致研究走向沒有根基的“科幻法學”。
北京師范大學教授盧建平用《貓和老鼠》動畫片做了一個比喻，認為我們的研究不能僅局限于“貓捉老鼠”的追趕式治理，要進行一定的前瞻性研究，相信人類的智慧，從人類的基本理性出發(fā)去做前瞻性的思考，當然，也要承認人類普遍理性的固有局限。他又舉了電影《機械姬》中所涉及的阿西莫夫機器人三定律作為點評的未來展望，并作出了期待“后浪們”作為新一代“深度學習機器”帶來新成果的結(jié)束語。
研討會第二單元“AI時代詐騙犯罪的實踐問題研討”由首都經(jīng)濟貿(mào)易大學副教授劉傳稿主持。
北京市公安局警官楊燕燕介紹，盜取采集自然人音視頻信息生成的視頻為重災區(qū)，所以大家在接到詐騙分子電話和視頻的時候應(yīng)該及時掛斷，不宜再和以往一樣抱著“逗一逗”的心情與詐騙犯罪“周旋”，這樣會增加自己音視頻被盜取然后用于犯罪的風險。從實務(wù)經(jīng)驗來看，已經(jīng)出現(xiàn)了幾乎可以反向欺騙“圖靈測試”的人工智能，強人工智能乃至超人工智能的到來可能比我們預想得更快。
北京市公安局警官孟凡芹提到，目前警方有關(guān)人工智能的業(yè)務(wù)就包括大模型的測評，北京地區(qū)作為高校和研究機構(gòu)重鎮(zhèn)，產(chǎn)出了許多大模型，公安機關(guān)都需要配合網(wǎng)信辦對其進行安全測試，包括測試平臺和專家審核的模式。
北京尚梓律師事務(wù)所律師李紅釗認為，有必要將人工智能做弱人工智能與強人工智能的區(qū)分。不能對超人工智能的刑事責任采取簡單的否定說或肯定說，因為其設(shè)計者和產(chǎn)品本身都具備自由自主決定并實施行為的能力，應(yīng)該采取二元限制刑事責任結(jié)構(gòu)較為合理。
北京市朝陽區(qū)人民檢察院檢察官石林山從案例出發(fā)，讓與會者有了更為直觀的感受。其中一起案件涉及跨境電信詐騙，田某通過加密軟件與境外電詐團伙取得聯(lián)系，伙同團伙在北京市朝陽區(qū)多個酒店輾轉(zhuǎn)，假設(shè)維護手機口的設(shè)備，為境外電詐分子提供通訊傳輸幫助，最后查證田某等人手機號關(guān)聯(lián)到的詐騙金額為100多萬元。該案件事實簡單，但實際辦理并不簡單。首先是上游犯罪在境外與犯罪分子頻繁更換地點、手機號等導致的破案難；其次是證據(jù)的收集與金額認定難；再次是對于主觀明知的認定，本案的主要犯罪嫌疑人都不能主動供述，嫌疑人之間也不會談及具體作案情況，很難通過聊天記錄等客觀證據(jù)來印證主觀明知，辦案人員從初犯偶犯進行突破，通過口供和部分聊天記錄相互印證的方式來綜合證明；最后是罪名認定問題，公安機關(guān)移送的罪名是幫助信息網(wǎng)絡(luò)犯罪活動罪，檢察院的起訴書中還包含了對詐騙罪的指控。該案最終被評為2023年度電信網(wǎng)絡(luò)詐騙的典型案件，對于之后可能出現(xiàn)的類似案件的偵辦也起到了很大程度的幫助與指引。
北京市第二中級人民法院法官楊子良主要探討的是在現(xiàn)有的法律框架下，有些罪名能不能夠用來應(yīng)對AI時代的詐騙犯罪。第一個罪名是提供侵入、非法控制計算機信息系統(tǒng)程序、工具罪，生成式人工智能雖然不屬于專門用來犯罪的工具，但刑法第二百八十五條第3款規(guī)定的罪狀從文義理解上可以將其囊括進去，在司法實務(wù)中也可以檢索到相關(guān)生效裁判，例如全國首例的“AI外掛”案。第二個罪名是幫助信息網(wǎng)絡(luò)犯罪活動罪，楊法官認為認定提供者“明知”是符合事實的，依據(jù)是充分的，即使需要平衡科技創(chuàng)新和風險防范，也應(yīng)當是在法律框架下進行。第三個罪名是拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，對于人工智能的提供者來說，目前出臺了新的法規(guī)與司法解釋，為其設(shè)置了相應(yīng)的義務(wù)，該罪名的適用，對于打擊防范也能起到一定的作用。
北京理工大學教授彭海青介紹，AI詐騙呈現(xiàn)出手段多樣化、精準高效性與隱蔽性三個特點，受害群體有著年輕化趨勢，且除了經(jīng)濟損失嚴重外，還存在著心理創(chuàng)傷與社會信任危機。技術(shù)應(yīng)對不足、跨部門協(xié)作不暢、法律法規(guī)滯后與公眾防范意識薄弱是目前所面臨的治理困境，并且提出相應(yīng)的措施。
清華大學法學院院長、全國人大常委會委員、憲法和法律委員會副主任委員周光權(quán)對本次會議進行了點評。周光權(quán)認為，無論人工智能技術(shù)多么強大，它都不能成為獨立的犯罪主體或是獨立承擔侵權(quán)責任。刑法學中講責任主義、罪責原則的時候，包含了憲法的要求，即憲法尊重個人有自己獨立的意識，因此要為自己的行為負責，而機器通過分析數(shù)據(jù)來學習，其所謂的“意志”，實際上是生產(chǎn)者使用者灌輸?shù)?。將機器視為犯罪主體，違背了憲法基本要求，是對刑法教義學的一些基本原理和底線的沖擊，也與法學上的自由意志相矛盾，再高級的人工智能，追根溯源仍然是人的價值取向與選擇。人工智能技術(shù)，它確實對犯罪學思維和刑法學思維怎么緊密地結(jié)合起來提出了新的考慮，面對人工智能提出來的這些新的問題，我們不禁去思考教義學是不是需要調(diào)整？總的來講，教義學確實要認識到犯罪學當中所提的一些基本理念，比如說犯罪是正常的，雖然這令人遺憾。犯罪同樣對這個社會有一些正面的功能。犯罪一個現(xiàn)實的功能就是讓我們在發(fā)展人工智能技術(shù)的同時，要想到這個技術(shù)有可能有什么漏洞，可能被犯罪分子利用，那就要把這些補丁都打出來，這對于法律的發(fā)展，無疑起著推動的作用。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號