5738936 100649879 1394550848 MH370航班假护照乘客身份查明（更新） 11失联 311 三周年 马方 偷渡客 隐形 护照 吉隆坡 航班 护照者 import Get_day_data
import Get_keywords
import Get_keynews
import Delete_Repeat
import Get_hot_result
import Global_param
def main():
for i in range(1,Global_param.number_day):
Get_day_data.TransforData(i)
Get_day_data.TransforDataset(i)
Get_keywords.Get_keywords(i)
Get_keynews.Get_keynews(i)
Delete_Repeat.Delete_Repeat()
Get_hot_result.get_hot_result(Global_param.hot_rate)
main()
14年的时候，我还在读研究生，那时候机器学习还算不上是一个重要的计算机学科，如果能顺嘴说一说TF-IDF、Collaborative Filtering这种算法（虽然现在听起来很naive），在当时基本上就是技术潮男一般的存在，在五道口咖啡厅能横着“骗项目”、“骗钱”。
我因为当时正好在微创业，当时准备做一个智能猎头的项目，用算法去给每个程序员的能力打分，再把程序员推送给合适的公司应聘，然后给B端猎头公司做ToB服务（当时这个理念有点太geek，不过现在有些PAI的客户确实把这种事做起来了，我很欣慰）。
这其中涉及到很多文本分析和推荐相关的技术，于是我就自己开发了一套新闻推荐系统锤炼相关技术，从网上爬了真实的新闻数据，并把这个项目开源。
https://github.com/X-Brain/News-Recommend-System
项目动图：
还成了相关项目的搜索头条：
万万没想到，我的无心之举没想到成就了很多在校同学。每年毕设季都能收到非常多的来自同学们的私信，大致是下面这种。
也有很多同学在我的微信公众号留言，想交流这个项目。所以我想还是有必要跟大家把这个项目好好介绍下，因为这个项目虽然目前来看技术比较老，但是作为本科生毕设项目还是OK的，而且吃透后会给同学们很多收获。
做这个项目一定要动手去做，去读代码，不要直接拿过来用。最核心的几个技术点我列一下：
1.crawler爬虫
做训练要有数据，可以在网上找下相关的爬虫开源项目，直接爬搜狐、新浪这样的网站。他们有反扒机制，如何破解这种机制是大家要掌握的。
2.分词
做文本分析一定要用到分词，我在项目里用的是jieba分词，14年的时候这个项目还是在比较初级阶段，现在应该好很多，大家可以看看有啥新功能。比如词性提取，新闻推荐系统建议只提取名词性相关的词语做TF-IDF。
3.算法
在项目里用了协同过滤和TF-IDF，这两个算法我是自己实现的，基本上是机器学习里最简单的算法，用的好像是hashtable的方式--具体想不起来了。虽然有很多开源版本，但是我建议有能力的同学这两个算法要自己写。我在做TF-IDF的时候有大量中间计算结果需要先落盘到硬盘上，这个主要是当时我的电脑内存太小，貌似只有1个G，所以没办法把所有计算压到内存做，现在大家可以试试全部内存计算的方式。
4.架构设计
其实前面三点，对于目前的本科同学应该都不难，因为现在网上的资料很多。真正要学习的是架构设计，因为一个推荐系统不光只有原子化的算法还要有一个好的设计把算法结果串起来。要思考哪些功能可以抽象成util或者tools这种工具包，比如统计、排序等功能。哪些计算中间结果可以在多个模块复用？
这个项目是14年的老项目，算法更新迭代很快，那如何在这个基础上优化呢？
1.从词到主题
在整个项目里，我是基于每个人过去浏览的新闻中的关键词进行推荐。关键词的上一级是主题，能不能给每个用户喜爱的主题打标，基于主题推荐。比如现在的项目里可以抽象出用户A喜欢 费德勒、乔丹、跑步这样的关键词，那么能不能向上抽象一层，显示出用户A喜欢体育并且推送体育相关的新闻。
2.增加排序模型
现在的推荐系统只有召回没有排序，也就是说可以基于协同过滤或者TF-IDF计算出每个用户潜在的喜欢的文章，但是并不能确定这些文章哪个是用户最喜欢，哪个是第二喜欢。如果可以基于文本做特征提取，并且使用逻辑回归等排序算法训练出排序模型，那么推荐的准确率会大大增加。
这一点我在后续的很多项目做了类似的工作，比如：
https://blog.csdn.net/buptgshengod/article/details/40541949
羡慕大家现在毕设就能接触到推荐系统，在我毕业那个年代还是比较少见的，给大家的建议就是一定要自己动手，能自己写的模块尽量自己写~还有就是，这个项目比较简单，可能只适合本科生，研究生同学建议搞点更高深的。这篇文章我会加到新闻推荐那个项目介绍的博客后面，方便以后更多的同学看到。