你要知道UGC垃圾信息绝对不可能做到100% 我们的产品是如何发现UGC垃圾信息的?1. UGC垃圾信息的一些案例垃圾广告在应用中的出现 在UGC中(用户内容产出)中,UGC是一个能够为用户提供互动的地区,增加用户粘度,并吸引用户达到产品转化。 那么在KEVIN产品中,目前的产品有类似QQ群 的一个用户群的交流UGC,以及与微信朋友圈的UGC分享广场。那么我们看看微信和QQ是怎么做的? 微信朋友圈 微信朋友圈是没有UGC相关的举报功能或发消息的审核步骤是不可见的。 在这里KEVIN分析是因为如下: 微信UGC的机制 微信虽然作为社交的鼻祖,但可以看出微信不是以平台为主,反而是把UGC的相关权益都放在用户那里,你发广告、发垃圾,我可以拉黑你、不看你的,或者删除你,就算你要添加我,我不理你,你也不能发。 那么,我们看下QQ空间的UGC返垃圾的方法: QQ空间用户权益 可以看出QQ空间对于用户来说,第一通过发布的时候以腾讯UGC系统过滤,第二就是通过用户举报,第三,就算举报了没有效果我也可以不看你的垃圾信息,第四,当然和微信一样拉黑 删除好友等。
作为其他公司来说,除了社交鼻祖或你用户以及达到了千万级别或者百万级别,UGC的系统需要单独考虑外,其余的产品往往需要做一些基本的反垃圾机制。 2. UGC反垃圾的机制从产品的角度考虑点UGC返垃圾产品设计考虑点 以上是UGC的产品设计的出发点,从用户、浏览用户、产品本身来进行考虑。以下是细化后的内容:
以上3点是从不同角度出发,那么KEVIN继续细化。 逻辑考虑点: 首先是设置发布门槛,用户达到一定级别才能发布内容;发布内容进行审核,该屏蔽的还是要屏蔽,该举报的还是要举报,但是人工审核还是为主,举报应该是有奖励机制的;出台相应规则入口,根据规则来处罚。 细化后:
但一定要切记,举报这种其实是亡羊补牢的做法,不健康信息已经发出了,再举报意义并不是很大了。 3. 我们可以怎么做?第一个机制: 用户可以根据颜色、字体大小、展示方式甚至自定义的文本来进行屏蔽,同时,在视频右边还有专门的弹幕栏,也就是说,我可以弹幕内容当做评论一条条地看而不受其干扰 第二个机制: 主要做的屏蔽是广告过滤、黄赌毒、暴力恐怖、谣言排查等几种。不同的场合屏蔽的级别不同,而且基于传播时效性的不同,屏蔽方式分为同步过滤和异步召回。 4. 机制的技术说明和其他办法(1)关键词模糊匹配技术,实时过滤垃圾消息
(2)基于用户内容检测,精准识别伪装型垃圾消息
(3)基于用户行为检测,准确定位恶意消息发送者
(4)最后,找供应商(腾讯云、阿里云等) 5. 最后关于UGC,KEVIN要说的是(1)现在技术手段可以屏蔽暴露的色情图片、敏感词。但是敏感词会有很多替代的,微信这个词能编出N多种谐音,或者其他方式,所以敏感词屏蔽其实屏蔽不了的。以下QQ群的垃圾广告就是一例(不能做到100%) 系统自身垃圾广告 (2)UGC的系统屏蔽,虽然可以前期采用关键词和图片检索自动化来解决文字类和图片类的UGC不适合内容,但是还是需要一定的运营人员定期维护。 (3)同时还需要从源头来控制,即需要注重用户群体的维护,对于不适合的用户进行及时的监控和处理才是最重要的。 |
|