隨著AI技術不斷發展，一些新型違法犯罪行為開始冒頭，給網絡空間安全和群眾人身財產安全帶來威脅，記者采訪多地公安機關，揭示犯罪手法，提升防范意識。
學AI，竟為“換臉”行騙
“你們公眾號怎么開始推薦投資理財App了？靠譜嗎？”今年6月10日，某機構工作人員像往常一樣打開公司公眾號評論區，卻被一連串粉絲留言驚出了一身冷汗。
工作人員發現，其運營的公眾號不知何時竟發文稱即將停更，并號召粉絲關注另一個投資理財類賬號。工作人員嘗試登錄賬號后臺，發現不僅密碼被修改，連公司法人代表信息都被篡改了。
意識到事態嚴重，工作人員第一時間報案。這也是湖北省首起利用AI換臉技術非法侵入計算機信息系統案。
接警后，武漢網警迅速成立專案組，研判發現被盜公眾號的操作痕跡為：犯罪分子通過“AI換臉”技術，更換了公司法人信息，又用新的“臉”識別登錄該賬號，進而發布涉詐引流信息。
順著線索追蹤，專案組很快鎖定了遠在山東濰坊的犯罪嫌疑人阿成（化名）。
站在民警眼前的阿成，衣著樸素，從事大棚種植，一度令警察懷疑追錯了人。但對其住所搜查時，辦案民警通過技術手段從其電腦已刪除的電子數據中，找到了大量AI換臉素材及非法所得的虛擬貨幣。
圖為被抓獲的阿成（中）。（武漢市公安局供圖）
原來，阿成本是美術技工，嫌尋常做圖收入不高，就改行務農，又動了做AI圖掙“輕松錢”的歪腦筋。
2022年5月，他在外網接觸“人臉代過”灰色產業，加入相關群組后，先在各類小型電商平臺接單制作人臉圖像，每張收費200元；隨著技術提升，他掌握了生成動態人臉視頻的方法，“報價”也水漲船高，破解一張AI動態的人臉最高能賣到1000元。案發時，已非法獲利40余萬元。
“跑馬機”作弊成黑產
還有不法分子瞄上培訓學時，用AI幫人“打卡”。
今年3月，重慶警方偵查發現，一些駕校學員無需實際練車即可刷滿學時，背后是不法分子使用“跑馬機”并結合AI技術實施作弊。這一犯罪鏈條涉及生產、銷售、使用等多個環節，已形成黑色產業。
什么是“跑馬機”？重慶市南岸區公安分局網安支隊民警介紹，這是利用汽車脈沖信號原理制作的設備，其核心功能是通過侵入并篡改駕培計時系統，并運用AI技術模擬學員動態人像，達成偽造培訓記錄目的。
通過涉案資金追溯顯示，利益鏈條的源頭是駕校為了降低運營成本，以提供“快速拿證”為噱頭，吸引學員大量報名繳費獲利。與此同時，上游負責銷售“跑馬機”的黑代理商也獲利不菲。此外，部分駕校還外接訂單“代打卡”獲利，其規模化運作模式顯示，涉“跑馬機”犯罪已演變為機構化犯罪。
截至目前，重慶警方已打掉涉案違法犯罪團伙2個，抓獲犯罪嫌疑人70名，查扣“跑馬機”設備384臺，查處涉案駕校34家。
AI寫代碼，竟成了黑產源頭
今年2月，重慶萬州區網安部門發現，轄區犯罪嫌疑人王某針對某社交軟件開發群控程序。經調查，一個使用黑產軟件從事各類違法犯罪的團伙浮出水面。
據萬州區公安局網安支隊民警介紹，大專學歷的王某自學掌握相關技術后，開始招募多名同伙用AI技術編寫程序代碼，制作各類黑產應用程序。這類黑產軟件無需使用官方客戶端，即可直接與后臺服務器進行數據交互，具有“多開”“群控”“批量管理”等功能，可實現批量發送消息、紅包等操作。
圖為重慶市網安干警正在研判案情。（重慶市公安局供圖）
令人驚訝的是，王某還根據下游團伙的犯罪需求，“定制”出各種黑產軟件，成為賭博、網絡水軍、電詐等多個犯罪鏈條的技術源頭。
比如，一到案的犯罪嫌疑人曾是電商從業者，因覺得來錢慢，便與王某技術對接，“轉行”專門從事刷單水軍活動，其在城中村租下一套房子設立“工作室”，招募多人加入。抓捕時，警方在房間里當場查獲多臺用于作案的電腦和手機。
目前，專案組已順藤摸瓜，先后打掉位于重慶、福建、江蘇等地從事黑產軟件開發及網絡水軍犯罪團伙4個，抓獲犯罪嫌疑人15名，查獲各類黑產程序軟件25個，查扣資金500余萬元，作案電腦、手機100余臺。
AI時代已來臨，新技術能做的事越來越多，也越來越有想象力。但筑牢安全底線的第一守則就是：AI可以很“忙”，但使用它的人不能法盲。掌握AI技術的專業人員，切勿因貪欲走上違法犯罪道路。同時各方應加強技術監管，進一步完善生物特征檢測等AI時代的防偽技術，強化落實對個人隱私和信息的技術保護和法律責任。（記者 周聞韜、宋立崑）
寧公網安備 64010402000050號
