互联网上存在很多开源情报(Open-Source Intelligence,OSINT)信息,其中开源是指公众容易获取和分发的信息或程序;情报是获取和应用知识的能力。总的来说,开源情报就是从公开来源获取、收集和分析信息以产生有价值情报的过程,其来源包括互联网、社交媒体、学术和专业期刊、报纸、电视甚至某些被违规泄露的数据。
在这个信息大爆炸的时代,OSINT 对于深度依赖有效信息获取的安全防护工作显得尤为重要。如果被合理利用,这些数据将能帮助分析师更准确了解事件的真相。然而,手动检索开源情报是一项艰巨的任务,有太多的记录和数据需要处理。值得庆幸的是,市场上存在许多工具可以自动化完成开源情报信息的搜集。以下整理了目前业界常用的 12 种功能强大的 OSINT 工具,即便是非专业安全人员,也能够轻松使用。
1. OSINT Framework
OSINT Framework 是一个包含不同工具的网站,用户可以使用这些工具在不同的系统和知识库中查询开源情报信息,包括电子邮件地址、社交媒体、域名、搜索引擎、公共记录、文档甚至电话号码等。
比如用户想了解 “社交媒体” 相关信息,OSINT Framework 就会将其细分出子部分列表,如 Facebook、Twitter、Instagram、Reddit、LinkedIn 等,用户可以进一步选择子分类,其中就会包含搜索、分析、图片、位置和存储 / 删除的推文等。当选择 “分析” 后,它还会呈现推文元数据、Birdwatcher、Tinfoleak 等细分部分。
2. Wayback machine
Wayback Machine 被称为互联网的数字档案馆。它用于管理、捕获和归档网站在一段时间内的快照,即使原始网页被删除或改动,用户仍然可以查阅曾经的网页快照。目前,Wayback Machine 每天收到的请求数(包括查阅和存档请求)超过 10 亿次,累计已经缓存了近 7000 亿个不同时刻下的各种网页页面。
用户可以通过 Wayback Machin 的 “保存页面” 服务存档上亿个网站,如果注册了免费账户,还可以要求抓取相关页面的 “外部链接”(outlink),并通过电子邮件接收抓取情况的报告。
当需要回溯历史信息时,Wayback Machin 会以 “年份选择器” 和 “日期选择器” 的形式向用户呈现该网站的所有保存记录。如果想比较两个不同网页存档之间的差异,可以使用 Wayback Machin 的 “查阅改动”(Changes)功能来实现这一点。
3. Maltego
Maltego 主要通过使用开源情报技术查询诸如 DNS 记录、whois 记录、搜索引擎、社交网络、各种在线 API 和元数据提取之类的源头,从而发现这些信息之间的链接。Maltego 程序通过自动搜索不同的公共数据源来工作,因此用户可以单击一个按钮并执行多个查询,每次执行的查询可以返回多达 12 个实体。由于该程序使用公共接口来执行搜索,因此它几乎可以与任何具有公共接口的信息源兼容。
一旦收集到信息,Maltego 就会建立链接,以展现姓名、电子邮件地址、别名、公司、网站、文档所有者、附属机构和其他可能对调查有用的信息之间的隐藏关系,或寻找潜在的未来问题。它可以在 windows、linux 和 Mac 上下载,并且预装在 Kali Linux 中。
该程序有一个免费版本,功能有限,称为 Maltego CE。Maltego PRO 版本主要针对专业调查人员和小型团队的计划,包括 Maltego One 桌面、所有 Maltego 标准转换,以及访问商业转换中心(查看所有功能的完整列表)。
4. Have I Been Pwned
Have I Been Pwned 是 Troy Hunt 创建的免费网站资源,该网站收集了大量被拖库的数据库,可供用户查询自己的个人信息是否因数据泄露受到损害。用户只需在搜索框中输入要查询的姓名或电话号码,它就会搜索泄露数据库以查看对应的凭据是否已遭泄露。如果发现相关泄露事件,下滑页面就可以看到泄漏的信息。
5. Shodan
Shodan 是一个专用搜索引擎,用于搜索互联网和连接到它的不同网络服务器。这意味着使用 Shodan,用户就可以浏览其数据库以查找连接到互联网的设备,例如路由器、物联网(IoT)设备、监视器、安全摄像头、交通信号灯等。
作为一款功能强大的 OSINT 工具,Shodan 可以监控和搜索的范围体量令人震惊。它是少数能够检查操作技术(OT)的引擎之一。如果没有像 Shodan 这样的工具,想要在部署 IT 和 OT 的行业中收集开源情报会存在很大的缺失。
Shodan 创建账号是免费的,但是可以免费查询到的信息少得可怜。如果要进一步查询更多的信息,用户需要购买 Shodan 的会员服务。除了个人版本,Shodan 还推出了小型企业版和企业高级版的收费版本,其中小型企业可扫描多达 65,536 个 IP 地址,并返回多达两千万个结果;企业高级版提供无限的返回结果以及每月最多 327,680 个 IP 扫描,还包括漏洞搜索过滤器和高级支持等服务。
6. ZoomEye
ZoomEye 是由我国安全公司知道创宇(Knownsec Inc.)创建的搜索引擎。最初上线时,很多人将 ZoomEye 视为国内版本的 Shodan,但实际上 ZoomEye 和 Shodan 还是有差别的,因为 ZoomEye 除了设备指纹的扫描以外,还增加了对域名和 Web 服务器的指纹扫描,包括前端框架、后端框架、服务端语言、服务器操作系统、网站容器、内容管理系统和数据库等。
ZoomEye 拥有两大探测引擎:Xmap 和 Wmap,通过持续性的探测、识别,可有效标识出互联网设备及网站所使用的服务及组件。研究人员可以通过 ZoomEye 方便地了解网络资产分布情况及漏洞的危害范围等信息。
7. TinEye
TinEye 是 Idée 公司所开发的一个反向图像搜索和图像识别网站,2008 年就已经正式上线应用。它使用计算机视觉、模式识别、神经网络和机器学习来提供快速准确的搜索解决方案。要使用 TinEye,只需将用户想要获取信息的图像上传到网站即可。该站点将获取有关图片位置、来源、使用甚至更高分辨率的信息。
8. Censys Search
Censys Search 是一个基于网络的搜索引擎,其创建之初的目的主要是用作学术研究,自身定位也是一个公益项目,由密歇根大学和 Rapid7 公司合作完成。Censys 官网上这样定义该搜索引擎:“Censys Search 是一款搜索引擎,它允许计算机科学家了解组成互联网的设备和网络。Censys 由互联网范围的扫描驱动,使得研究人员能够找到特定的主机,并能够将设备、网站和证书的配置和部署信息创建到一个总体报告中。” 像 Shodan 一样,它会在互联网上搜索服务器以及联网设备。此外,它还能够识别联网的工业控制系统和平台。
9. BuiltWith
BuiltWith 是一款用于发现流行网站构建技术和编程语言的工具。它是一个网站分析器、商业智能(BI)、潜在客户生成和竞争分析工具。BuiltWith 还会生成一个网站使用的已知 JAVAScript/css 库(例如 jQuery 或 Bootstrap)的完整列表。此外,该服务还提供安装在网站上的插件列表、框架、服务器信息、分析和跟踪信息等。在实际应用中,如果将 BuiltWith 与 wpscan 等网站安全扫描程序结合使用,可以让安全人员更容易发现影响网站安全的常见漏洞。
10. Nmap
Nmap 是一款免费的网络和端口扫描器,用于发现在网络或网站上运行的服务操作系统、主机和开放端口。它在 Web 上可用,并且在大多数常见操作系统上都能被支持。
Nmap 的功能包括:
・ 主机发现:识别网络上的主机;
・ 端口扫描:枚举目标主机上的开放端口;
・ 版本检测:询问远程设备上的网络服务以确定应用程序名称和版本号;
・OS 检测:确定网络设备的操作系统和硬件特性;
・ 脚本交互:使用 Nmap 脚本引擎(NSE)和 Lua 编程语言。
11. Recon-ng
Recon-ng 是一款基于 Python/ target=_blank class=infotextkey>Python 开发,通过命令行来操作的信息收集工具。Recon-ng 可以进行 DNS 信息收集、域名信息收集、邮件信息收集、结合搜索引擎进行信息收集,是一个功能强大的 Web 侦察框架。
Recon-ng 采用模块化设计框架,具有许多内置功能,使得即便是最初级 Python 开发人员也可以创建公开可用数据搜索并返回良好的结果。开发人员无需编写 Recon-ng 脚本来执行搜索,只需选择他们希望其执行的功能,就可以在几分钟内构建一个自动化模块。
12. The Harvester
The Harvester 是一款开源情报工具,用于收集有关电子邮件、网站、子域、开放端口、虚拟主机等信息。The Harvester 使用的来源包括流行的搜索引擎,如 Bing 和 google,以及较少见的搜索引擎,如 dogpile、DNSdumpster 和 Exalead 元数据引擎。它甚至可以利用 Shodan 搜索引擎来寻找已发现主机上的开放端口。
The Harvester 无需任何特殊准备即可访问大多数公共资源。但是,其使用的部分功能需要 API 密钥。此外,用户的使用环境中还必须有 Python 3.6 或更高版本。
来源:安全牛
原文链接:https://mp.weixin.qq.com/s/h5urkIlULd3T6z3iRTgIrw
————————————————
原文作者:安全牛
转自链接:https://www.wangan.com/p/7fy7f8fc2d2761ae
版权声明:著作权归作者所有。商业转载请联系作者获得授权,非商业转载请保留以上作者信息和原文链接。