搜索资源列表
SubjectSpider_ByKelvenJU
- 1、锁定某个主题抓取； 2、能够产生日志文本文件，格式为：时间戳(timestamp)、URL； 3、抓取某一URL时最多允许建立2个连接（注意：本地作网页解析的线程数则不限） 4、遵守文明蜘蛛规则：必须分析robots.txt文件和meta tag有无限制；一个线程抓完一个网页后要sleep 2秒钟； 5、能对HTML网页进行解析，提取出链接URL，能判别提取的URL是否已处理过，不重复解析已crawl过的网页； 6、能够对spider/crawler程序的一些基本参数进行
spider
- 网页抓取器又叫网络机器人(Robot)、网络爬行者、网络蜘蛛。网络机器人（Web Robot），也称网络蜘蛛(Spider)，漫游者（Wanderer）和爬虫（Crawler），是指某个能以人类无法达到的速度不断重复执行某项任务的自动程序。他们能自动漫游与Web站点，在Web上按某种策略自动进行远程数据的检索和获取，并产生本地索引，产生本地数据库，提供查询接口，共搜索引擎调用。
spidertotxt
- 本程序是一段抓取工具代码，通过google的搜索结果，将网页中的文本内容以txt格式储存，作者：唐志祥-This program is a crawler code, through the google search results, web page text to txt format, the author: Tang Zhixiang
HeritrixSpd
- 本源码是用java编写的，运用hertrix工具实时抓取ku6动态网页的信息。希望更多的爬虫爱好者和我一起来学习。-The source code is written in Java hertrix tool, using real-time grasping he plays tennis dynamic web pages of information. Hope more crawler enthusiasts and I together to learn.
MySprider
- 网络蜘蛛程序，爬虫网页内容！建立本地索引-Web spider, crawler web content! Establishing a local index
Spider
- 使用java语言编写的网页捉取。类似于现在的爬虫技术-Using java language web capture. Crawler technology similar to the current
1-120P1142U8
- java实现的爬虫程序。可以下载web上的资源-crawler implement by java
9555149
- 一个Web爬虫Java类库,最初由Carnegie Mellon 大学的Robert Miller开发,-A Web crawler Java class library, originally developed by Carnegie Mellon university s Robert Miller,
librarz
- 一个Web爬虫Java类库,最初由Carnegie Mellon 大学的Robert Miller开发,(A Web crawler Java class library, originally developed by Carnegie Mellon university's Robert Miller,)
Arachnid_src0[1].40
- 网络爬虫为搜索引擎从万维网下载网页。一般分为传统爬虫和聚焦爬虫。 传统爬虫从一个或若干初始网页的URL开始，获得初始网页上的URL，在抓取网页的过程中，不断从当前页面上抽取新的URL放入队列，直到满足系统的一定停止条件。通俗的讲，也就是通过源码解析来获得想要的内容。 聚焦爬虫的工作流程较为复杂，需要根据一定的网页分析算法过滤与主题无关的链接，保留有用的链接并将其放入等待抓取的URL队列。然后，它将根据一定的搜索策略从队列中选择下一步要抓取的网页URL，并重复上述过程，直到达到系统的某一条件时
AljazeeraArabicSpider-master
- 编写的一个基于Java-web的爬虫项目，非常适合于学习。(Prepared a Java-web based crawler project, very suitable for learning.)
pachong
- 用JAVA实现简单的网络爬虫，可以爬取网页的内容。(Using JAVA to achieve simple web crawler, you can crawl the content of the web page.)
WebMagic
- 爬虫小样例,去爬取豆瓣的数据并保存，需要jdk1.7(a demo of Crawler,Climb the data of douban and save it,need jdk 1.7.Research and Implementation of Distributed and Multi-topic Web Crawler System)
WebCrawler
- 对于我们当代的大学生来说，就业一直以来就是我们应届毕业生的一大难题，如何用最快的时间获取最有效的招聘信息，成为我们关注的焦点。 本课题正是为适应广大应届毕业生的需求，并分析了近几年内网络爬虫技术的研究和发展，对网络爬虫相关技术进行了分析与总结，使用Java语言、SQL Server数据库以及HTML的页面解析工具Jsoup，设计了一个简单的主题爬虫模块，最终实现了对河北师范大学就业信息网上现场招聘会的招聘信息的采集入库功能。(For our contemporary college stude
HttpUtils
- java基于httpclient开发的网络爬虫通用实例，带登录后获取数据(Java based on httpclient development of a common example of web crawler, with login to obtain data)
Java爬虫网页上的所有链接网址
- 爬虫文件，此Java文件可以爬取网页中所有的链接网址。(Crawler files, this Java file can crawl all the linked URLs in the web page.)
014_java+applet 聊天系统
- jave 程序好用，网络聊天,大家可以学习一下，谢谢！(Web crawler, you can learn, thank you!)