AI使用者需對內(nèi)容的合法性負責(zé)，不可觸碰法律紅線。利用AI撰寫色情小說的行為存在嚴重的法律風(fēng)險，一旦色情小說通過網(wǎng)絡(luò)或其他途徑傳播，無論傳播范圍大小，都可能觸犯傳播淫穢物品罪或傳播淫穢物品牟利罪

《法治周末》記者 答笛

□ 楊運紅

近年來，AI技術(shù)的逐漸普及，極大地方便了人們的生活與工作，但也因此被一些不法分子盯上。有人為賺取平臺流量補貼，獲得流量變現(xiàn)，利用AI合成技術(shù)編造謠言，擾亂社會秩序。更有甚者，利用AI技術(shù)寫起了色情小說，再通過AI軟件翻譯成外文版本，放到境外網(wǎng)站銷售牟利，還試圖通過虛擬幣收款逃避打擊。

《法治周末》記者近日從湖北省大冶市人民檢察院了解到，該院辦理了首例利用AI技術(shù)撰寫色情小說并販賣的案件，經(jīng)該院提起公訴，被告人柯某某因犯制作、販賣、傳播淫穢物品牟利罪，被法院判處有期徒刑10個月，并處罰金5000元，同時追繳全部違法所得?？履衬澄瓷显V，該判決已生效。

“翻墻”瀏覽境外網(wǎng)站后用AI寫色情小說

湖北男子柯某某是一名“95后”，平時喜歡在家寫些“二次元”小說發(fā)布到相關(guān)平臺上，供讀者付費閱讀。由于創(chuàng)作量較大，他每月能從該網(wǎng)絡(luò)小說平臺收入四五千元。

2022年11月的一天，柯某某偶然從一個“二次元”小說網(wǎng)站上了解到某境外網(wǎng)站，就使用“翻墻”軟件進入該網(wǎng)站瀏覽色情小說，并通過另一家關(guān)聯(lián)的境外網(wǎng)站購買其中付費內(nèi)容。

在該網(wǎng)站看過兩三部色情小說之后，柯某某就弄清了其中的賺錢方式，他覺得光靠寫正常的“二次元”小說掙錢還是不夠，便產(chǎn)生了寫色情小說多賺錢的想法。

為了提高“產(chǎn)量”，柯某某先是自己寫一點，在網(wǎng)上摘抄一部分，然后把這些內(nèi)容一起交給AI平臺，讓它按照自己的要求去創(chuàng)作，柯某某再對生成的內(nèi)容進行潤色，最終得到一篇完整的色情小說。

就這樣，從2022年11月至2023年3月，柯某某利用AI“寫”出了十余篇色情小說，再用AI工具翻譯成外文，發(fā)布在境外網(wǎng)站上，先后售賣約760篇（次），共計獲利22800余元。

柯某某事后供述稱，他當時也是存有僥幸心理，以為通過國外網(wǎng)站寫色情小說，在國內(nèi)就查不到。

然而，在大數(shù)據(jù)時代，即便有AI加持，犯罪也終將現(xiàn)形。

鎖定證據(jù)后男子被起訴

2023年8月，四川省某市偵辦了一起制售淫穢漫畫案，其中一條關(guān)聯(lián)線索涉及湖北省大冶市的柯某某。大冶市公安機關(guān)獲悉線索后，迅速立案偵查，于同年8月31日在柯某某的住所將其抓獲，查獲了他使用的電腦主機，并對其采取了刑事強制措施。

經(jīng)訊問，柯某某如實供述了其于2022年11月至2023年3月期間，以非法獲利為目的傳播淫穢物品的犯罪事實，在他的電腦里也找到了相應(yīng)的小說文件。

2023年9月25日，該案被移送到檢察機關(guān)審查逮捕，承辦檢察官審閱案卷后，訊問了犯罪嫌疑人?！霸趯彶榇峨A段，我們主要引導(dǎo)公安機關(guān)做了兩方面工作，一是對相關(guān)小說做了鑒定，確認其全部屬于淫穢物品，再就是查清其違法所得金額?！背修k該案的檢察官方雪告訴記者。由于柯某某是通過虛擬幣收款，再兌換成人民幣，偵查人員調(diào)取柯某某的支付寶、微信流水后，查清其共計獲利2.2萬多元。在證據(jù)面前，柯某某自愿認罪認罰，并退繳了全部違法所得。

大冶市檢察院認為，柯某某以牟利為目的，制作、販賣、傳播淫穢物品，總計售賣約760篇次，非法獲利22873.95元，犯罪事實清楚，證據(jù)確實、充分，其行為觸犯了刑法相關(guān)規(guī)定。2024年10月18日，該院以柯某某涉嫌制作、販賣、傳播淫穢物品牟利罪提起公訴。法院開庭審理后，采納了公訴機關(guān)的量刑建議，依法作出前述判決。

技術(shù)中立并不意味著價值中立

隨著AI技術(shù)的迅猛發(fā)展，其應(yīng)用已滲透到社會生活的方方面面。記者注意到，除了上述“AI撰寫色情小說案”，近年來，我國其他地區(qū)亦有人因通過AI制作、販賣、傳播其他淫穢物品，而被追究刑事責(zé)任。

2023年7月，陜西咸陽人周某某利用從網(wǎng)上下載的“AI修圖”軟件，在電腦上制作淫穢圖片4369張，通過QQ向他人販賣53次，獲利2035元。2024年3月18日，周某某因犯制作淫穢物品牟利罪，被咸陽市秦都區(qū)人民法院判處有期徒刑四年，并處罰金1萬元，違法所得予以追繳；同年4月28日，咸陽市中級人民法院二審維持了原判。

從2021年至2022年8月，浙江杭州的虞某某利用“AI換臉”軟件，將從網(wǎng)上收集到的人臉信息與淫穢視頻進行替換合成，制作出虛假的換臉視頻，在成員共計2000多人的多個網(wǎng)絡(luò)社交軟件群中傳播，被換臉的有不少是明星，虞某某通過“收紅包”獲利6萬余元。2023年11月，虞某某因犯制作、傳播淫穢物品牟利罪，被杭州市蕭山區(qū)人民法院判處有期徒刑七年三個月，并處罰金六萬元。

記者注意到，杭州市蕭山區(qū)人民檢察院還針對虞某某“AI換臉”案提起了個人信息保護民事公益訴訟，杭州互聯(lián)網(wǎng)法院支持了公益訴訟起訴人的訴訟請求，判令被告虞某某刪除其在社交軟件群中留存的涉案個人信息，并支付侵害社會公共利益的損害賠償款6萬元（此款專門用于個人信息保護、人臉深度合成技術(shù)不當應(yīng)用的治理等公益事項），在《法治日報》向公眾刊發(fā)賠禮道歉聲明。

“技術(shù)本身是中立無害的，技術(shù)本身也不應(yīng)當直接受到法律的負面評價?！焙贾莼ヂ?lián)網(wǎng)法院的法官在上述判決書中強調(diào)說，但技術(shù)中立并不意味著價值中立，特別是開發(fā)、應(yīng)用者的價值中立，更不等于“深度合成”的參與者不應(yīng)當受到來自法律的規(guī)制。

方雪 湖北省大冶市人民檢察院第一檢察部檢察官

■ 說案

AI雖作為工具，但利用它創(chuàng)作色情小說，等同于利用傳統(tǒng)手段進行違法活動，同樣要承擔(dān)相應(yīng)法律責(zé)任。

AI使用者需對內(nèi)容的合法性負責(zé)，不可觸碰法律紅線。利用AI撰寫色情小說的行為存在嚴重的法律風(fēng)險，一旦色情小說通過網(wǎng)絡(luò)或其他途徑傳播，無論傳播范圍大小，都可能觸犯傳播淫穢物品罪或傳播淫穢物品牟利罪。

根據(jù)我國刑法和相關(guān)司法解釋，制作、復(fù)制、出版、販賣、傳播淫穢電子圖片、文章等一百件以上，或利用淫穢電子信息獲取違法所得五千元以上的，即可定罪處罰。該案中柯某某先后售賣利用AI撰寫的色情小說760篇（次），獲利兩萬余元，遠超過上述標準，且跨境傳播次數(shù)多，性質(zhì)惡劣。因此，盡管柯某某到案后如實供述，自愿認罪認罰并退贓，已依法在量刑起點基礎(chǔ)上從寬處理，但依然不適用緩刑。

技術(shù)的運用是把“雙刃劍”，用之為善可以造福社會，不當濫用則會造成社會風(fēng)險和損害。人們在享受AI帶來的便利與創(chuàng)新時，要堅守法律底線。廣大AI開發(fā)者、使用者及相關(guān)平臺應(yīng)加強自律，平臺有責(zé)任阻止違法內(nèi)容傳播，個人更要自覺遵守法律法規(guī)，不涉足違法創(chuàng)作。