Post on 03-Dec-2014
description
腾 讯 大 讲 堂
第五十六期
研发管理部
大讲堂主页: http://km.oa.com/class与讲师互动: http://km.oa.com/group/class
QQ 空间产品中心PM : alanzhou
互联网运营部PM : bluezhou
QQ 空间产品中心PDM : cicichen
(以上以 abc 为顺序排名)
回顾历史安全系统大揭密
分享
Qzone 的安全工作• 保证发表的日志内容健康• 日志评论及留言的内容不涉及色情、政治,也不是垃圾留言• 其它模块的内容保证(小纸条、用户昵称……)
审核系统
怎么都变成了 ***
老要审三天…… 发表日志真方便!
国际 ** 势力
日志差异化系统
竞争对手恶意炒作…… 不用逛论坛我也能知道!
垃圾留言打击系统
中奖了?? …… 清静许多了……
三大系统保驾护航
欢迎主角 ~~~~
回顾历史安全系统大揭密
日志差异化系统垃圾留言打击旁路系统
分享
QQ 空间信息安全整体方案
用户 数据:
日志 +留言板
旁路过滤 系统
过滤后的数据
安全中心 审核系统
经过审核后的数据
差异化访问系统
外网
举报平台
根据用户行为实施安全措施 阻止发帖 +
批量删除
根据访问量决定: 差异化显示 +
重新入库审核
根据命中关键字分级审核 人工 + 机器
日志差异化访问系统——需求
...
黑 / 白名单 用户的来源 / 身份不同,提供的服务不同
不同时期对于非法文章的判断标准不同
避免敏感文章被大量恶意传播访问阀值
审核过期
日志差异化访问系统——系统结构
差异化 server
黑 / 白名单 访问量
审核过期时间
访问量阀值
用户访问
差异返回 日志存储
审核平台
对于每篇日志设置一个审核过期时间,避免超过阀值后重复发送审核平台。
访问阀值,根据安全形势的严峻程度来调整。
日志差异化访问系统——策略 白名单: qq.com, paipai.com, taotao.com, .tencent.com
黑名单: sina.com.cn, .baidu.com, .google.com, .donews.com
… 白名单来源权重为 1,黑名单权重为 100,其他来源为 10
1
2
3
4
5
分级可见(后续实现): 主人可见 好友可见 特定白名单网站可见
日志差异化访问系统——流程
日志差异化访问系统——效果
•以12 月 7 日数据为例,当天差异化入库 586篇日志,有问题并被删除的日志为 34 篇,删除率达 5.8% ;
回顾历史安全系统大揭密
日志差异化系统垃圾留言打击旁路系统
分享
验证码的烦恼—前世
验证码的烦恼—今生
Why ?
•挑战:– 为什么要使用验证
码?– 不用可以吗?–如何保护安全用户
,打击恶意行为?
前因例如 : 打击 Qzone中的恶意诈骗消息例如 : 打击 Qzone中的恶意诈骗消息
后果
欺诈消息投诉量
0
100
200
300
400
500
600
700
2008
-5-1
2008
-5-1
1
2008
-5-2
1
2008
-5-3
1
2008
-6-1
0
2008
-6-2
0
2008
-6-3
0
2008
-7-1
0
2008
-7-2
0
2008
-7-3
0
2008
-8-9
2008
-8-1
9
2008
-8-2
9
2008
-9-8
2008
-9-1
8
2008
-9-2
8
2008
-10-
8
2008
-10-
18
2008
-10-
28
2008
-11-
7
2008
-11-
17
2008
-11-
27
2008
-12-
7
欺诈消息投诉量
应用场景空间小纸条 留言板
日志 /评论 个人资料
Qzone 上旁路系统的需求
自学习 对于新增的恶意信息能初步自我学习,避免过多的人工干预
全面保护 覆盖 Qzone各个模块
高性能 / 低耦合 支持 Qzone 平台下高并发,同时不能影响用户使用的性能
高准确性 精确打击恶意用户,对正常用户尽量影响最小
系统架构
用户数据:
日志留言板相册
旁路分析模块
离线分析中心
外网
人工审核系统
全量转发
过滤后内容
Process
接入消息
•留言板•日志回复•转载空间•小纸条•滔滔心情•相册评论•Q 吧•Qzone投票•校友•QQ交友
安全旁路引擎
预处理
关键字分析消息样本频率分析行为模式分析
实时删除
命中删除特殊地区可疑信息识别
分析模块
用户信用度行为分析
用户影响
•普通用户
踩踩族敌人
问答时间
谢谢!