据悉，该AI换脸诈骗风险提醒功能将在手机端本地运行，不会泄露用户数据。用户在授权后，当有人使用AI换脸技术与用户发起视频通话时，测试手机会提示对方身份可能假冒。此外，该功能还能对AI换脸进行风险预警，帮助用户识别诈骗行为。
近期，湖北黄石破获了一起利用AI换脸技术解锁社交账号并倒卖的诈骗案。不法分子通过AI换脸技术，将受害者的照片与视频进行合成，冒充受害者与亲友进行视频通话，骗取钱财。此类诈骗手段隐蔽性强，给受害者带来极大损失。
为应对AI换脸诈骗风险，工信部将与手机终端企业合作，推出AI换脸诈骗风险提醒功能。该功能将在手机本地运行，不会泄露用户数据，为用户提供AI换脸诈骗风险预警。测试显示，该功能可以准确提示AI换脸诈骗风险，有效保护用户通信安全。
为规范深度合成技术应用，我国《互联网信息服务深度合成管理规定》要求对深度合成内容添加水印，以标明其为AI生成或合成，并便于追溯来源。此举有助于打击AI换脸诈骗，保护用户权益。
AI换脸诈骗风险提醒功能的推出，将为用户通信安全提供有力保障。广大用户应积极关注并使用该功能，提高自身防范意识，共同打击AI换脸诈骗，维护网络空间安全。
随着AI技术的不断发展，我们应时刻保持警惕，提高自身防范意识。同时，相关部门和企业也应共同努力，加强技术创新，为用户创造一个安全、健康的网络环境。
