AI 運算能力進步讓自駕車成為可能，但同時也讓壞人有機可乘，像是 DeepFake 移花接木將受害女生臉接到色情影片女主角身上，及DeepNude 也是運用同一相似技術，將受害人的衣服脫光(除衫)相片，造成似假還真的效果。不但製作成本低，而且越來越容易製作，但偵測造假的成本卻相當高。如今有美國的州立法機構看到新科技的危險，決定將散播 DeepFake 影片或DeepNude 相片列為犯罪情事。

全球不少國家都有針對報復式色情影像內容的法例，最近美國弗吉尼亞州更新相關法例，將利用 Deepfake 人工智能技術合成的圖片和影片，和DeepNude 製作的裸露相片。由 2019年7月1日起，以裸體或色情影像脅逼、騷擾或恐嚇另一個人，就算是虛構的合成照片或影片，一律都屬於違法。

在弗吉尼亞州傳播報復式色情內容，有機會被罰最高 12 個月監禁和 2,500 美元罰款。外國傳媒指，有紐約的參議員提交類似的聯邦法案，如果獲得通過，散佈 Deepfakes and DeepNude  APP 製造的報復式色情內容將會成為全國性罪行。雖然對受害人來說，條例作出更新將會帶來更大保障，可惜這類法例現時無法接受受害者以匿名方式舉報，很多人仍然害怕身份因此公開而不敢舉報。

新華社北京（記者陳旭）“AI換臉”APP 詐騙利用模擬技術冒充親人、同事或公職人員聲音相貌行騙，此類新型網路詐騙手段多樣、門檻降低、辨別難度加大，常令公眾放鬆警惕，短時間內造成較大損失。國家金融監督管理總局北京監管局近日發佈風險提示：眼見不為真，謹防新型欺詐手段，提高打假維權本領，守護家人親朋財產安全。

國家金融監督管理總局北京監管局介紹，不法分子利用非法獲取的個人資訊，通過電腦演算法模擬合成受騙者親人、領導同事或公職人員的肖像面容與聲音，冒充上述人員身份行騙。在獲得受害者信任後使用事先準備好的套路話術向受害人發送銀行卡轉帳、虛擬投資理財、刷單返利等詐騙資訊，並利用視頻通話、語音轟炸等手段進一步降低受害者的防備心，受害者往往在短時間內難以察覺異樣，一旦聽信詐騙分子的騙術並完成轉帳，對方便杳無音信。

此外，校園貸款詐騙呈現連環套特點，不法分子偽裝成政府工作人員，以禁止大學生網貸、查詢徵信為由，誘導學生將網絡貸款轉至所謂的「清查帳戶」導致借貸學生陷入資金和信用的雙重危機。更有甚者，冒充金融監管部門工作人員，利用非法獲取的消費者個人資訊，以「解決投訴」等理由聯繫消費者，引誘消費者向其繳納保證金等作為回款條件實施詐騙。

利用新技術詐騙與傳統詐騙行為在本質上沒有區別，防範方式也萬變不離其宗。國家金融監督管理總局北京監管局提示：加強個人信息保護，謹防重要信息洩露，仔細辨識存在個人信息洩露的風險點; 在涉及轉賬匯款等資金往來時，要通過撥打對方手機號、當面核實等管道多方核實、查驗真偽，請勿僅憑單一溝通管道未經核實就轉帳匯款。