htcap：一款实用的递归型Web漏洞扫描工具

今天给大家介绍的是一款名叫 htcap 的开源 Web 漏洞扫描工具，它通过拦截 AJAX 调用和页面 DOM 结构的变化并采用递归的形式来爬取单页面应用（SPA）。htcap 并不是一款新型的漏洞扫描工具，因为它主要针对的是漏洞扫描点的爬取过程，然后使用外部工具来扫描安全漏洞。在 htcap 的帮助下，我们就可以通过手动或自动渗透测试来对现代 Web应用进行漏洞扫描了。

环境要求

1.      Python 2.7
2.      PhantomJS v2
3.      Sqlmap
4.      Arachni

工具下载和运行

$ git clonehttps://github.com/segment-srl/htcap.git htcap
$ htcap/htcap.py

命令行参数

$ htcap crawl -h
usage: htcap [options] url outfile
Options:
-h 帮助菜单
-w 覆盖输出文件
-q 不显示处理过程信息
-mMODE 设置爬取模式：
- passive:不与页面交互
- active:触发事件
- aggressive:填写输入值并爬取表单 (默认)
-sSCOPE 设置爬取范围：
- domain:仅爬取当前域名 (默认)
- directory:仅爬取档期那目录 (以及子目录)
- url: 仅分析单一页面
-D 最大爬取深度 (默认: 100)
-P 连续表单的最大爬取深度 (默认: 10)
-F 主动模式下不爬取表单
-H 保存页面生成的HTML代码
-dDOMAINS 待扫描的域名，多个域名用逗号分隔 (例如*.target.com)
-cCOOKIES 以JSON格式或name=value键值对的形式设置cookie，多个值用分号隔开
-CCOOKIE_FILE 包含cookie的文件路径
-rREFERER 设置初始引用
-xEXCLUDED 不扫描的URL地址，多个地址用逗号隔开
-pPROXY 设置代理，protocol:host:port- 支持'http'或'socks5'
-nTHREADS 爬虫线程数量 (默认: 10)
-ACREDENTIALS 用户HTTP验证的用户名和密码，例如username:password
-UUSERAGENT 设置用户代理
-tTIMEOUT 分析一个页面最长可用时间(默认300)
-S 跳过初始url检测
-G 分组query_string参数
-N 不使用标准化URL路径 (保留../../)
-R 最大重定向数量 (默认10)
-I 忽略robots.txt

htcap简单介绍

htcap的扫描过程分为两步，htcap首先会尽可能地收集待测目标可以发送的请求，例如url、表单和AJAX请求等等，然后将收集到的请求保存到一个SQLite数据库中。爬取工作完成之后，我们就可以使用其他的安全扫描工具来测试这些搜集到的测试点，最后将扫描结果存储到刚才那个SQLite数据库之中。

htcap内置了sqlmap和arachni模块，sqlmap主要用来扫描SQL注入漏洞，而arachni可以发现XSS、XXE、代码执行和文件包含等漏洞。

htcap所采用的爬虫算法能够采用递归的方式爬取基于AJAX的页面，htcap可以捕获AJAX调用，然后映射出DOM结构的变化，并对新增的对象进行递归扫描。当htcap加载了一个测试页面之后，htcap会尝试通过触发所有的事件和填充输入值来触发AJAX调用请求，当htcap检测到了AJAX调用之后，htcap会等待请求和相关调用完成。如果之后页面的DOM结构发生了变化，htcap便会用相同算法对新增元素再次进行计算和爬取，直到触发了所有的AJAX调用为止。

爬虫模块

Htcap支持三种爬取模式：被动型、主动型和攻击型。在被动模式下，htcap不会与任何页面进行交互，这意味着爬虫不会触发任何页面事件，它只会收集页面现有的链接。在这个模式下，htcap就跟普通的Web爬虫一样，只会收集页面<a>标签中的链接。在主动模式下，htcap会触发所有发现的事件，相当于模拟用户与页面进行交互，但不填写任何表单数据。在攻击模式下，htcap会向所有扫描到的表单和输入框中填写测试数据，即尽可能地模拟用户与页面进行交互。