爬虫

​提起JSON格式化插件，想必大家都能列出来好多，几乎是每个开发人员必备。 身为一名爬虫工程师，为了工作的舒服，为了舒服的工作，结合自己工作中实际遇到的情况，最近我也做了一个JSON格式化工具，之所以称它为工具，而不是插件，是因为它不单单是一个Chrome插件，还提供了https...

阅读(2834)评论(0)赞 (12)

对于暗网想必不用我过多解释，在https://www.torproject.org/download 下载Tor Browser安装即可，当然国内得配合SS使用。 但我们作为一名爬虫工程师，如何写爬虫去访问暗网网址才是我们需要的；如何最简单的实现暗网爬取呢？ 首先需要一台香港的服...

阅读(5653)评论(2)赞 (2)

在后端开发时经常在HTML页面使用相对路径，然而这个对于爬虫来说有时候却很难受，虽然Jsoup提供了.attr("abs:href")用来来获取绝对路径，但还是不够方便。 在HTML中href跟src是这两个属性是用来填url的，也是我们需要处理的地方，相对路径一般是/，./，....

阅读(3772)评论(1)赞 (0)

在做网银爬虫时用swt处理密码控件，做成web服务供外部调用，时间一长总会跪掉，控制台显示 org.eclipse.swt.SWTError no more handles然后java进程就没了，这个错误，注意是错误，不是异常!!!翻译过来就是句柄用完了，那么如何让程序知道自己到...

阅读(2798)评论(0)赞 (0)