实现了一个搜索引擎,能够检索csdn站点的全部博客文章,当然。最新的文章是没有的。

   先说下项目思路吧。 整个项目分为6个子程序:

       爬虫1:爬取全部csdn站点的网页,并将爬到的博客文章url存入数据库。(python)

       爬虫2:从数据库中取文章url,并爬取文章内容到数据库。(python)

      分词程序:利用friso分词库,将全部文章内容切分成词语。(c/c++)

      建立倒排索引程序:处理全部分词程序产生的结果文件,建立倒排索引。(c/c++)

      搜索程序:将输入句子切分成关键词,并依据关键词和倒排索引文件计算出相关文章的TF-IDF(词频-逆文件频率),最后依据TF-IDF对搜索结果进行排序。(c/c++)

      搜索站点:类似百度等搜索引擎,应用的入口。输入搜索的内容。输出搜索的结果。(java)


    程序比較复杂,又用到了不同的语言。所以分成了这么多子程序。

    以下是终于的执行效果,看起来还不错

    主页(百度即视感)

自己动手写搜索引擎_搜索

 搜索结果:

自己动手写搜索引擎_c++_02


自己动手写搜索引擎_搜索引擎_03


    界面比較简单。只是确实能够搜索了,点击蓝色字就会打开博文原地址。



    整个项目做了非常多天,做的也非常非常辛苦,只是做出来后还是相当有成就感的。感兴趣的能够试试。