工信部力推手机本地运行的 AI 换脸诈骗风险提醒功能_合成_用户 购买AI实时换脸模型只需3万5？可随意替换素材

工信部力推手机本地运行的 AI 换脸诈骗风险提醒功能_合成_用户 购买AI实时换脸模型只需3万5？可随意替换素材， 

工信部力推手机本地运行的 AI 换脸诈骗风险提醒功能_合成_用户

IT时代网报道 据 8 月 18 日央视网消息，AI 换脸诈骗检测与预警技术正在进行测试。工业和信息化部反诈工作专班专家透露，将联合行业内手机终端企业推出 AI 换脸诈骗风险提醒功能，且该功能仅在手机端本地运行。

专家李坤指出：“我们正携手手机终端企业，即将推出的这一功能仅于手机端本地运作，能有力保障用户数据安全，防止泄露。在获取用户授权后，可为其提供 AI 换脸诈骗的风险预警。”

当有采用 AI 换脸技术的人员与记者进行视频通话时，测试手机终端给出 “对方疑似假冒身份” 的提示。点击检测按钮，经过图像扫描，系统显示 “AI 换脸合成概率 93%”。

需知，AI 换脸主要运用深度合成技术。《互联网信息服务深度合成管理规定》明确提出算法备案、安全评估等手段，并要求深度合成服务提供者为深度合成内容添加显性或隐性水印。

中国信通院人工智能所安全与元宇宙部的专家陈文弢表示：“给生成合成的内容添加水印，本质上一方面是向公众提示此内容由 AI 生成或合成，另一方面也是为了追溯其来源。”

分析

：

此则消息表明工信部将推出的这一功能意义重大。它能够在手机端本地识别 AI 换脸诈骗风险，为用户提供及时的预警。

意义

：

增强公众防范意识：能让用户在接收到可疑视频通话等信息时提高警惕，降低被骗几率。

比如，以往用户可能因难以辨别真假而轻易相信对方，有了该功能的提醒，就会多一份谨慎。

保障数据安全：仅在本地运行避免了用户数据外传，消除了用户对数据泄露的担忧。

假设数据被传到云端，就可能面临被黑客攻击或被非法利用的风险，本地运行则可避免此类情况。

利于打击犯罪：通过添加水印追溯内容来源，能为打击 AI 换脸诈骗犯罪提供有力帮助。

一旦发生诈骗案件，可根据水印快速锁定犯罪嫌疑人使用的技术和来源渠道。

可能面临的挑战

：

技术优化难题：要确保风险提醒功能精准识别，减少误判和漏判，技术优化难度较大。

例如，复杂的环境因素或新型换脸技术可能干扰判断的准确性。

平衡用户授权与隐私保护：在获取必要授权时，需避免过度收集用户信息，以免引发用户不满。

若授权过程过于繁琐或涉及过多敏感信息，可能导致用户拒绝使用。

持续跟进技术更新：AI 换脸技术不断发展，风险提醒功能也需持续升级以适应新变化。

新的换脸手段出现时，如果不能及时更新功能，防范效果就会大打折扣。

展望未来

：

随着该功能的推广和改进，有望营造更安全的网络环境，推动 AI 技术合规、有序地发展。同时，可能激发更多创新手段来应对不断变化的网络诈骗形势。返回搜狐，查看更多

责任编辑：


购买AI实时换脸模型只需3万5？可随意替换素材

【购买#AI实时换脸模型只需3万5#？可随意替换素材】#直播间里为何出现了很多明星脸#？

据央视财经报道，近日一些电商直播间使用AI换脸技术，冒充明星进行直播带货。据悉，这种AI换脸技术可以在几个小时内完成，只需花3.5万元就可以购买一套实时换脸的模型，可以随意替换素材，AI实时换脸，适用于各大直播平台。

业内人士指出，这种行为可能涉嫌欺诈和侵权，根据今年一月起实施的《互联网信息服务深度合成管理规定》，使用AI换脸技术或合成人声服务时，应有显著标识，以免公众混淆。此外，未经明星同意使用其肖像直播带货，可能侵犯了明星的肖像权和隐私权。

发布于：北京