admin 所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
现在，得益于人工智能，“换脸”变得很容易。当被犯罪分子利用时，它们可能会对公众造成严重伤害。近日，辽宁省沉阳市警方公布了一起利用人工智能技术合成他人淫秽视频并恶意传播的案件。一段恶意修改女性脸部的淫秽视频在网上疯传。今年5月，辽宁人王某在浏览某短视频平台时发现自己的“淫秽照片”被公开流传。视频中，他的脸叠加在一个裸体女人的身上，并附有贬义文字。尽管王某此前从未录制过类似视频，但他还是决定立即向警方报案。胡军卓 胜利派出所副所长辽宁省沉阳市平县公安局：我报警的时候就觉得这件事很尴尬。他一边说一边哭了。主要是不知道有多少人看到了那个视频，对她的影响有多大。经过技术调查，警方发现该恶意视频的发布者针对的是一名刘姓男子。案发后，刘某承认，他发布的淫秽视频是网络上有人利用人工智能合成的。据了解，王先生在当地经营一家理发店，刘先生曾在那里短暂工作过。试用期间双方在薪资问题上产生分歧，刘某萌生了通过发布恶意短视频报复王某的想法。最终，刘某因违反《中华人民共和国治安管理处罚法》，被辽宁省警方判处有期徒刑10日行政拘留，并处罚金500元中国公共。 AI合成存在缺陷。警察会告诉您如何识别他们。近年来，利用人工智能生成表情的违法犯罪行为时有发生。除了在网上发布恶意视频外，还有改变AI面貌、拨打虚假视频电话实施诈骗的方法。 AI脸部修饰在日常生活中存在哪些风险？消费者该如何防范？近年来，记者注意到，因人工智能导致面部变化而导致消费者遭受损失的案例已经多发。今年5月，上海警方破获一起涉案金额超过200万元、专门利用情报人工机构生成假网恋女友的诈骗案。 2024年，内蒙古自治区鄂尔多斯市一名消费者遭遇AI换脸诈骗，差点损失40万元。视频通话过程中，诈骗者利用换脸AI技术冒充消费者朋友并骗其转出40万余元进行资金交易。所幸警方及时介入，未造成实质损失。同年，安徽省一名消费者遭遇类似的人工智能换脸骗局，损失超过60万元。记者调查发现，人工智能技术在快速发展的同时，也成为一些不法分子的攻击目标和非法获利的工具。据警方介绍，实现IA搞笑脸的过程非常简单：只需要一张照片，10秒内即可组成搞笑脸。辽宁省沉阳市康平县公安局网安大队大队长龚超：我们在网上找到了这个软件。首先，选择一张脸部照片。选择所需的照片后，单击开始生成。这就是最基本、最简单的AI换脸流程以及生成的图像。然而，AI 面临这些变化的视频相当混乱，但它们也有一些缺陷。辽宁省沉阳市康平县公安局网安大队大队长龚超：直播时AI换脸时，AI旋转脸部时，人脸轮廓变形。如果你将其向上、向下、向左或向右移动，就会出现鬼魂。是的，有人正在和你进行视频通话。我们建议对方上下移动头部并用您的方言与您交谈。他不可能模仿你的声音，然后再模仿你的方言。警方警告称，互联网不是非法场所，非法活动会留下痕迹。利用人工智能技术进行非法活动最终将导致罚款。警方提醒广大消费者保护个人隐私，未经允许不得上传含有个人信息的照片或视频。尊敬的康平县公安局网络安全大队大队长龚超先生，辽宁省沉阳市：您可以提交照片，但您的个人信息、联系方式、地点和工作单位不会被透露。这将降低被骗的风险。成本将会降低。如果发生什么事，不要惊慌。相信我拨打poAlicia会帮助大家解决问题。