Java实现利用搜索引擎收集网址的程序.docVIP

我这里讲的不是怎用搜索引擎取到的，如果您需要某类网址信息数据，就跟我来一起研究一下，非常简单。 　　本文采用Java语言写成，以google和百度搜索引擎为对象。 　　我们要利用google、百度搜索引擎的搜索规则中的两条，关键字搜索和inurl搜索。什么是inurl搜索，就是你所要搜索的网址中本身带有的关键字，比如/post.asp ,这个网址就含有post.asp这样的关键字，在搜索引擎中填写规则是 inurl:post.asp,这是收集网址的关键，因为很多网址本身会带有特定的信息，比如软件发布的网页网址信息中多含有 publish、submit、tuijian这样的信息，如/publish.asp,这样的网址多是发布信息的网页，在结合网页中本身可能含有的关键字，就可以用搜索引擎搜索出结果，然后我们利用程序将结果取回，对HTML页面进行分析，去除没有用的信息，将有用的网址信息写入文件或者数据库，就可以给其它应用程序或者人来使用了。 　　第一步，用程序将搜索结果取回，先以百度为例，比如我们要搜索软件发布的网页，关键字采用 “软件发布 版本 inurl:publish.asp,先登录百度看看，将关键字写入，然后提交，在地址栏就会看到 /s?ie=gb2312bs=%C8%ED%BC%FE%B7%A2%B2%BC+%C8%ED%BC%FE%B0%E6%B1%BE+inurl%3Apublish.aspsr=z=cl=3f=8wd=%C8%ED%BC%FE%B7%A2%B2%BC+%B0%E6%B1%BE+inurl%3Apublish.aspct=0 ,中文关键字全都变成编码了，没有关系，我们在程序中直接用中文也是可以的，其中多个关键字用＋号相连，去掉一些没有用的信息，我们可以把地址优化成 /s?lm=0si=rn=20ie=gb2312ct=0 wd=软件发布+版本+inurl%3Apublish%2Easppn=0cl=0，其中rn表示一页显示多少个结果，wd=表示你要搜索的关键字，pn表示从第几条开始显示，这个pn将是我们程序循环取结果的变量，每20条循环一次。我们用Java写的程序来模拟这个搜索的过程，用到的关键类为 .HttpURLConnection,.URL，先写一个提交搜索的class,关键代码如下： 以下是引用片段：　　class?Search? 　　{? 　　public?URL?url;? 　　public?HttpURLConnection?http;? 　　public?java.io.InputStream?urlstream;? 　　......? 　　for(int?i=0;i++;i?100)? 　　{? 　　......? 　　try?{? 　　　url?=?new?URL(/s?lm=0si=rn=20ie=gb2312ct=0?wd=软件发布+版本+inurl%3Apublish%2Easppn=+beginrecord+cl=0);? 　　}catch(Exception?ef){};? 　　try?{? 　　　http?=?(HttpURLConnection)?url.openConnection();? 　　　http.connect();? 　　　urlstream?=?http.getInputStream();? 　　}catch(Exception?ef){};? 　　java.io.BufferedReader?l_reader?=?new?java.io.? 　　BufferedReader(new?java.io.InputStreamReader(urlstream));? 　　try?{? 　　　while?((currentLine?=?l_reader.readLine())?!=?null)?{? 　　　　totalstring?+=?currentLine;? 　　　}? 　　}?catch?(IOException?ex3)?{}? 　　....? 　　//本次搜索的结果已经放到totalstring中了，是一些HTML代码，需要下一步进行分析了。? 　　}? 　　再以google为例，稍微有些不同，google对浏览器进行了一些检测，编码也不同，URL为http: ///search?q=软件发布+版本+inurl:publish.asphl=zh-CNlr= newwindow=1start=0sa=Nie=UTF-8,其中编码要用ie=UTF-8,start表示从第几条记录显示，需要注意的是google对浏览器还要检查，如果浏览器不符合它的要求，将返回错误代码，所以在模拟浏览器