分享

使用Wappalyzer API进行Web应用指纹识别

 5与时间为敌 2015-02-28

提醒:点上方黑客技术”即可免费订阅我。


Web应用指纹识别,是web渗透信息收集最关键的一步,这方面开源的工具也非常多,像BlindElephant,whatweb 以及在非安全圈都很火的wappalyzer。本文主要描述如何使用wappalyzer的perl与php接口进行指纹识别。

Wappalyzer的功能是识别单个uri的指纹,其原理就是给指定URI发送HTTP请求,获取响应头与响应体并按指纹规则进行匹配。这也是web应用指纹识别最基础的部分,除此之外,还有指纹置信度计算(如何去处伪造指纹,多种指纹特征如何综合判断,隐藏指纹信息如何提取),整个站点的指纹识别还涉及到有效爬虫抓取,分布式计算等问题,这些都不在本文内容中。

小科普:了解wappalyzer

Wappalyzer是一款浏览器插件,通过Wappalyzer可以识别出网站采用了那种web技术。它能够检测出CMS和电子商务系统、留言板、javascript框架,主机面板,分析统计工具和其它的一些web系统。The company behind Wappalyzer还能够收集web程序的一些信息用于统计分析,揭示出各种web系统的使用率即增长情况。实际Wappalyzer就是一个指纹识别工具。更多信息请点击:http://www./tools/7391.html

官方地址:https:///


一、perl版本


原理:


给指定uri发送HTTP请求,通过分析HTTP相应的以下部分来判断指纹


(1) headers特征


响应头key:value对,多个key:value用逗号隔开,例如


'headers': { 'X-AMP-Version': '([\d.]+)\;version:\1', 'Set-Cookie': '^AMP=' },

(2) html特征

响应体内容,多个规则用逗号隔开,例如

'html': [ '<div class='[^']*parbase', '_jcr_content', '/etc/designs/', '/etc/clientlibs/' ]

特别注意:html全文匹配的规则一定要谨慎编写


(3) url特征


url内容,例如


'url': '/cgi-bin/UCEditor\?(?:.*&)?merchantid=.'

(4) meta特征

响应html 页面中诸如<meta name='version' content='neblog-1.0'/>中的名字name:内容content对,多个规则用逗号隔开,例如

'meta': { 'generator': 'webEdition', 'DC.title': 'webEdition' }

(5) script特征

响应html页面中诸如<script type='text/javascript' src='http://b1.bst.126.net/newpage/r/j/ec.js?v=1413881655525'></script> src中中url内容,多个规则用逗号隔开,例如

'script': [ 'angular(?:\-|\.)([\d.]*\d)[^/]*\.js\;version:\1', '/([\d.]+(\-?rc[.\d]*)*)/angular(\.min)?\.js\;version:\1', 'angular.*\.js' ]

局限性

不支持规则文件中APP版本号与置信度的获取

对非utf8的中文编码可能会存在问题

优点:

较之PHP版本,使用qr正则预编译处理,可以提前发现正则的问题,这是我选择该语言版本的主要原因。

(接下来的php版本就能让你知道正则不预编译处理有多坑了!)

脚本的功能:

(1)指纹识别结果按JSON格式返回,以便后续指纹信息入库等处理

(2)支持批量uri查询

(3)支持指定自定义JSON格式的指纹规则文件

(默认的指纹文件放置在/usr/lib/perl5/WWW/apps.json ,具体的路径会因cpan模块的安装路径有区别

可以使用perl -V 察看@INC变量来确定路径,或者更暴力的find吧)

安装

cpan -i  WWW::Wappalyzerclone https://github.com/tanjiti/FingerPrint.git

运行

(1)获取单个uri的指纹

perl FingerPrint.pl www.xxx.com<uri 必选> tanjiti.json[指纹规则文件,可选]

返回结果

{
'www.xxx.com': {
'blogs': [
'WordPress'
],
'web-servers': [
'Nginx'
],
'cdn': [
'CloudFlare'
],
'cms': [
'WordPress'
],
'font-scripts': [
'Google Font API'
],
'javascript-frameworks': [
'jQuery'
],
'javascript-graphics': [
'Javascript Infovis Toolkit'
]
}
}

(2) 从文件读取url列表进行批量指纹识别,并将结果输出到文件中

perl FingerPrint.pl url.txt<uri 文件路径 必选> tanjiti.json[指纹规则文件,可选]

结果输出到 url.txt__fingerprint 文件里

指纹规则文件编写示例

more tanjiti.json

'apps': {
'Discuz!':{
'website': 'www.discuz.net/forum.php',
'cats': [ 1 ],
'meta': { 'generator': 'Discuz'},
'headers': {'Set-Cookie': '_lastact.*_sid|_sid.*_lastact|_sid.*smile|smile.*_sid'},
'url': '/uc_server[/$]|uc_client[/$]',
'html': 'Powered by (?:Discuz!|<a href='http://www\.discuz\.net/'|UCenter)',
'implies': 'php'
},
'PHP': {
'website': 'php.net',
'cats': [ 27 ],
'headers': { 'Server': 'php/?([\d.]+)?\;confidence:40\;version:\1', 'X-Powered-By': 'php/?([\d.]+)?\;confidence:40\;version:\1', 'Set-Cookie': 'PHPSESSID' },
'url': '\.php(?:$|\?)'
}

}


二、php版本


原理

同perl版本,区别有两点:

1. HTTP请求部分:较之perl使用LWP发送HTTP请求,php使用curl发送HTTP请求

2. 规则匹配部分:指纹规则的匹配部分使用javascript语法,然后通过php的v8js模块来解析。(为什么要这样做呢?当返回响应体内容很多,指纹正则写的很烂的时候,会卡死在规则匹配这一过程中,现在的规则下sina,163等大站基本卡死!)

运行

PHP版的接口已经能直接使用了,只是需要替换规则文件,囧

第一步:安装php、curl及v8js

apt-get install php5-dev php-pear build-essential libv8-dev php5-curlpecl install channel://pecl.php.net/v8js-0.1.3echo extension=v8js.so >> /etc/php5/cli/php.ini

验证是否安装成功

php -m | grep v8jsv8js -----------OK

第二步:下载Wappalyzer脚本

git clone https://github.com/ElbertF/Wappalyzer.gitcp -R Wappalyzer/drivers/php/* .cp Wappalyzer/share/js/wappalyzer.js js/cp Wappalyzer/share/apps.json .  (指纹规则文件) 该规则文件的正则编写的有问题,所以我使用的以前版本的规则文件cp /usr/lib/perl5/WWW/apps.json .

php版指纹识别程序结构如下:

index.php 主程序Wappalyzer.phpWappalyzerException.phpjs/driver.js js/wappalyzer.jsapps.json 指纹规则文件

第三步:验证是否成功

php index.php www.tanjiti.com

输出格式为

应用名,版本号,置信度,app类型 (比perl版本多了对版本号,置信度的获取)

CloudFlare, , 100%, cdn
Javascript Infovis Toolkit, , 100%, javascript-graphics
jQuery, , 100%, javascript-frameworks
Nginx, , 100%, web-servers
PHP, 5.5.9, 100%, programming-languages
Ubuntu, , 100%, operating-systems
WordPress, 4.0, 100%, cms, blogs

接下来的优化输出为json格式与批量处理uri同perl版本。

最后寄言,一定一定要写好正则,NFA引擎正则优化TIPS、Perl正则技巧及正则性能评测方法



——————————

关注微信号:hackdig 学习最新黑客技术!


    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多