 大家好，我是刘晶晶，数字联盟公司的联合创始人，很高兴和各位一起进行交流和探讨，我今天分享的主题是《AIGC 技术对互联网风控行业的挑战——数字联盟基于底层逻辑的预防策略》。 近 20 年互联网安全行业从业经验，先后就职于国内多家安全头部企业及上市公司，现在公司负责整体产品线构建、产品市场、营销体系及各地分公司办事处管理。 数字联盟公司（简称：数盟）成立于 2014 年，拥有领先的移动设备识别及反欺诈技术服务商，成立九年来通过自主研发“可信 ID”技术方案助力企业在 APP 和小程序端完善设备识别基准，有效识别推广、运营等场景中相关业务风险，现已为超 1000 家行业知名企业及 20 余家上市公司提供全面技术方案，多数合作七年以上。如 BOSS 直聘、知乎、网易新闻、探探、瓜子二手车、喜马拉雅、映客、泰康保险、快看漫画、七猫小说、瑞幸咖啡等均与数盟长期合作，助力完善设备识别基准和打造更高速有效的应用增长和运营体系。  AI 技术经历了起步发展期、应用发展期、平稳发展期，目前已经进入了蓬勃发展阶段。今年以来，人工智能生成内容技术快速普及。人工智能生成内容技术可以根据给定的输入和模型自动生成文本、图像、音频等让更多领域得以简易应用，如文案创作、广告创意、音视频创作、设计等。 不同互联网公司正在进行对 AIGC 技术的跟进，百度、腾讯、阿里、华为等大企业已经有了自研发基础大模型。我们至今已新合作超 50 款不同类型 AIGC 应用 APP，提供具有写大众点评、写电商评论、发朋友圈、发微博等内容生产功能的 AI 工具。  AIGC 技术，正在对应用领域产生许多影响。 如在文本生产领域，AIGC 技术能够快速生成文章、处理文本风格、整理摘要和框架等，甚至已经实现通过插件组合和声音条件来制作高度拟真的“聊天机器人”。在图像生成领域，AIGC 技术具备图像生成和编辑、去除水印和背景等功能，能够批量生成图片。在音视频生成领域，AIGC 技术通过将文本生成语音、文案生成视频、模拟人声人脸等功能快速生成音视频。在多模态生成领域，AIGC 技术能够将文本、图像、音视频等进行组合搭配，在不同场景中自动实现快速创作。 在 AIGC 技术引发的内容爆炸加速内容生成的同时，对风险控制的挑战却不如忽视！  AIGC 生成的图像对图像审查的挑战。随着深度学习和神经网络技术的发展，通过 AIGC 技术生成的图像真实度大大提高，导致虚假图像的数量急剧增加。在图文审核过程中，人工和传统的计算机程序已经难以分辨出 AIGC 的生成图像。这表明传统的审查方法，如基于内容的分析和图像特征识别，已经无法有效地应对这种挑战。 AIGC 文本生成对传统文本审核方案的影响。AIGC 文本生成技术不断进步，既能产生逻辑严谨、风格独特的文章，也能生成涵盖方言、儿化音以及更多口语化表达的文案，无限模拟和接近真实用户生产的内容文本。这导致虚假文本内容急速增加，且这些虚假和误导内容能够通过灵活调整风格规避关键词检测，关键词审查、违禁词黑名单等传统审查策略已无法有效应对这种挑战。 AIGC 音视频生成对内容检测的冲击。AIGC 音视频自动生成技术的发展生成了大量模拟数字人播报（AI 主播）、模拟聊天产品，这些产品在人工审核环节难以被直观分辨，根据音视频样本检测项次内容等传统审查策略已难以对其做有效鉴别。 AIGC 生成伪造聊天等已开始在社交场景实施欺诈。例如，某些黑产借助 AIGC 用虚假信息伪装高净值人士，在征友、征婚、玩伴等互动群里实施拟真的聊天套路，骗取信任。黑产团伙借助 AIGC 技术，可打造角色 + 语言攻势，每个环节都可以利用 AIGC 伪造身份并产生虚假内容进行一步步的诈骗行为，直到骗取到受害者的金钱。 AIGC 可实现自动聊天、作画、虚拟主播、模拟人声等产品种类繁多、风格各异，使得此前更多基于聚类分析的风控方案已难以对其进行有效识别，基于特征（图像音频等）和主题模型及行为逻辑判定等技术手段，也都已无法有效应对 AIGC 技术带来的挑战。  对于 AIGC 带来的挑战，我们需要一种全新的策略，创建一个比内容审核更底层的身份识别系统，避免受到 AIGC 的挑战。 数盟产品，正是基于底层逻辑的预防策略，核心能力是通过数盟自主研发的“弱特征”归因技术为每个设备发出更稳定唯一的标识标签，通过判定载体 – 设备唯一及有效来大幅提升黑产成本，这样即使黑产通过 AIGC 技术生成大量文案、图片、音视频内容，却必须找到足够多的账号和对应最够多的设备，通过可信 ID 技术一旦有效识别设备唯一及伪装新设备行为，即可有效阻止相关内容的快速传播。 应用可信 ID 技术，可以在 APP 及小程序端在安装、运行、业务事件等节点，实时识别虚拟机、群控篡改等，迅速识别和追踪黑产借助 AIGC 生成的虚假图文音视频内容。识别设备唯一，定位追踪设备行为，有利于对发布欺诈内容的设备进行封禁，大幅提升黑产门槛。  以某社交 APP 为例，此前，其更多是应用图文审核等技术方案来判定新注册用户发布内容是否包含欺诈内容等，今年以来，发现已有黑产利用 AIGC 大量生成不同内容甚至刻意躲避部分关键词屏蔽的内容，近几个月的图文审核接口月识别效果骤降。从设备层面其应用可信 ID 技术后，发现实际批量发布欺诈内容的设备，均为黑产通过群控篡改伪装的。可信 ID 实时识别发布设备的唯一性，限制同一设备关联账号数，并对群控篡改设备实时封禁。 某内容问答 APP，此前在给回答作者提供创造奖励时，会通过文本过滤及“查重”来识别是否存在抄袭行为，已发现有创作者通过不同账号在利用 AIGC 生成文字重复率极低但实际故事内容仍存在雷同的内容，传统方式以难有效识别。通过应用设备可信 ID 技术，直接识别伪装设备和篡改设备，限制设备个数，导致黑产无法快速完成批量回答领取问答奖励。 同时，可信 ID 技术与目前常见的“设备指纹”技术相比也存在着明显的区别和优势。可信 ID 技术采集设备网络环境周边弱特征，并非依赖一些虽单独具备一定唯一性但很易被篡改的强特征标识，采集和颁发是两套独立的系统，可在黑产篡改设备信息时下发可信 ID 仍稳定归一。而传统的“设备指纹”更多依赖强特征，采集与颁发是一对一映射转换，当设备强特征一旦被篡改、无效、采集错误而发生变化时，该“设备指纹”也会发生相应变化。 可信 ID 可以帮助 APP 及小程序客户内部有效完善设备识别基准，内部多 APP ID 相同，助力完善推广去重和分层。应用场景广泛，如可应用于推广反作弊、运营反欺诈、业务行为风控、ID 补齐、ID 全局映射、全局设备感知等。 AIGC 技术正改变互联网行业，却对风控行业带来更大挑战。对此，保持警惕，持续创新，让我们一起面对未来的挑战！期待与所有鲲鹏会的伙伴未来广泛交流和合作，共同成长。  |
|
|
