百度云网盘搜索引擎安装部署教程

更新时间：2018-10-06 分类：网络技术 浏览量：3287

百度云网盘搜索引擎安装部署教程

项目地址：https://github.com/k1995/BaiduyunSpider

运行环境

开始之前你需要安装

  • PHP 5.3.7 +
  • MySQL
  • Python 2.7 ~
  • xunsearch 搜索引擎

获取源码

ssh 方式:
git clone git@github.com:k1995/BaiduyunSpider.git
https 方式:
git clone https://github.com/k1995/BaiduyunSpider
或手动下载
https://github.com/k1995/BaiduyunSpider/archive/master.zip
下载完毕后，项目的目录结构大致是这样的


--- indexer/  #索引
--- spider/   #爬虫
--- sql/      
--- web/      #网站
    --- application/
        --- config/ # 配置相关
                --- config.php
                --- database.php # 数据库配置
                ...
        ...
    --- static/ # 存放静态资源，css|js|font
    --- system/
    --- index.php
    ...

开始部署

创建数据库

创建名为pan的数据库，编码设为utf-8。然后导入sql，完成表的创建。

网站部署

支持nginx，apache 服务器。

apache 需要开启 mod_rewrite 。

nginx 配置如下


location /
{   
    index index.php;
    try_files $uri $uri/ /index.php/$uri;
}

location ~ [^/]\.php(/|$)
{
    fastcgi_pass  127.0.0.1:9000;
    fastcgi_index index.php;
    include fastcgi.conf;
    include pathinfo.conf;
}

配置文件修改

config.php 文件修改网站标题，描述等信息

database.php 修改数据库账号，密码等信息

网站是基于CodeIgniter 框架开发的，如安装，部署，或二次开发有问题，请参考官网文档

启动爬虫

进入 spider/目录，修改spider.py 中数据库信息。

如果你是第一次部署，需运行下面命令，完成做种
python spider.py --seed-user
上面其实就是抓取百度云热门分享用户的相关信息，然后从他们开始入手爬取数据

然后运行
python spider.py
此时爬虫已经开始工作了

安装xunsearch

目前使用xunsearch作为搜索引擎，后面会更换为elasticsearch。

安装过程请参考（不需要安装，PHP SDK，我已经整合到web里了）

http://xunsearch.com/doc/php/guide/start.installation

索引数据

上面我们完成了爬虫的数据抓取，网站的搭建，但还不能搜索，下面开始最后一步，索引的建立。

进入 indexer/目录，在indexer.php中将$prefix，替换为你web的根路径
require '$prefix/application/helpers/xs/lib/XS.php';
并修改数据库账号密码

然后运行
./indexer.php
到此为止程序已全部安装完毕，若有疑问请在 github 中文社区 发帖。

来源：Github中文社区

标签： , ,