【新聞發佈日期：2024年10月20日 下午09:48, 張宇 北京報導】
#生成式AI #詐騙手段 #公共安全 #AI立法 #數據保護 #犯罪應對 #技术滥用 #法律監管 #信息安全 #犯罪案例 #生成式AI與詐騙風險 #資安部門對AI詐騙的應對策略 #全球首部生成式AI立法
生成式人工智能（AIGC）的出現，為我們的生活帶來了無窮的可能性。然而，隨著這一技術的快速發展，它也被不法分子用作詐騙的新工具，對公共安全構成了前所未有的威脅。公安部門在對抗這一新型犯罪方面面臨著巨大挑戰。
生成式AI成為詐騙新利器
生成式AI，特別是深度學習和神經網絡技術的進步，使得AI能夠生成高度逼真的圖像、聲音和視頻。這一技術的滥用導致了一系列詐騙案件的發生。例如，犯罪分子利用AI換臉技術，假扮成受害者的親友進行詐騙，或者通過AI合成技術製造假的新聞和消息，導致受害者財產損失。
根據澎湃新聞的報導，2020年以來，中國公安部門已經破獲了79起利用AI換臉技術的犯罪案件。這些案件涉及金額巨大，對受害者的生活造成了嚴重影響。
資訊安全部門的應對AI詐騙策略
面對生成式AI詐騙的挑戰，多國的資訊安全部門正在採取多種措施進行應對。一方面，加强技術研發，提高對AI詐騙的檢測和預防能力。另一方面也加強與其他政府部門和科研機構的合作，共同打擊這一新型犯罪。
中國頒布生成式人工智能服务管理暂行办法
中國已經實施了全球首部針對生成式AI的立法——《生成式人工智能服务管理暫行辦法》，這一法律強調了AI服務提供者的責任，並對違法行為進行了明確規定。此暫行辦法或為全球首部生成式AI立法，這一立法的實施標誌著全球對AI技術監管的進一步加強。不僅為打擊AI相關犯罪提供了法律依據，同時也為其他國家和地區提供了監管AI的參考。
然而，由於AI技術的快速發展，AI詐騙手法不斷推陳出新，法律與技術之間的博弈仍然在不斷進行修改與成長。
小結
生成式AI的出現不僅帶來了便利，也引發了對公共安全的關注。建議各國資訊安全部門在面對這一挑戰時，需要不斷更新技術和策略，以保護人民群眾的財產安全。我們期待在法律和技術的雙重保障下，能夠有效對抗AI詐騙這一新型犯罪。
資料來源
澎湃新聞
新華每日電訊
新華網
中國法院網
Comentarios