nutch 配置

我的jdk 是1.5.x ,Tomcat是5.0.x

1 下载0.9版本的包:里面已经包含了war文件,所以不需要Ant编译了

2 安装Cygwin,这个没什么好说的(可以到网上搜到相关资料)。

3 把Nutch借压缩到D:/nutch

4 在D:/nutch下面建立一个文件 urls (没有后缀)

http://www.xxx.edu.cn/

5 在D:\nutch\conf\crawl-urlfilter.txt里面,加入

+^http://www.xxx.edu.cn/

6 环境变量加入

NUTCH_JAVA_HOME = D:/jdk1.5.0_06   (注意 / 不要写成 \    否则出现 找不到路径 )

7 打开cygwin窗口,

cd D:\nutch

在D:\nutch下面执行

bin/nutch crawl urls -dir crawled -depth 3 >& crawl.log
这个命令会在当前目录下建立一个crawled的文件夹,然后对刚才的http://www.xxx.edu.cn/的网站开始检索。
层数是3层,一般最好10层。然后结果输出在crawl.log里面
8 将nutch-0.7.2.war拷贝到tomcat/webapps下面,改名nutch
9 在D:\tomcat\conf\Catalina\localhost\ 建立nutch.xml
<Context path="" debug="5" privileged="true" docBase="nutch"/>
10 启动tomcat,等war解开以后,打开
D:\tomcat\webapps\nutch\WEB-INF\classes\nutch-site.xml
修改如下
<nutch-conf><property>     <name>searcher.dir</name>     <value>D:/nutch/crawled/</value></property></nutch-conf>
11 D:\tomcat\webapps\nutch\zh\include 下面新建header.jsp,内容就是复制header.html,但是
前面加上
<%@ page    contentType="text/html; charset=UTF-8"   pageEncoding="UTF-8"%>
在D:\tomcat\webapps\nutch\search.jsp里面,找到并修改为
<jsp:include page="<%= language + "/include/header.jsp"%>"/>
顺便把下面js注释掉
function queryfocus() { 
//search.query.focus();   }
12 D:\tomcat\conf\server.xml 找到以下段,并修改
     <Connector port="8080"                maxThreads="150" minSpareThreads="25" maxSpareThreads="75"                enableLookups="false" redirectPort="8443" acceptCount="100"                debug="0" connectionTimeout="20000"                 disableUploadTimeout="true"                 URIEncoding="UTF-8" useBodyEncodingForURI="true" />
好了,到此,重启tomcat,访问 http://localhost:8080/ 就可以看到搜索主页了,而且搜索支持中文
和分词,虽然分得不是很好。