基于协同过滤算法的电影推荐系统
————————————————————————————————作者：————————————————————————————————日期：
高级数据挖掘期末大作业
基于协同过滤算法的电影推荐系统
本电影推荐系统中运用的推荐算法是基于协同过滤算法（Collaborative Filtering Recommendation）。协同过滤是在信息过滤和信息系统中正迅速成为一项很受欢迎的技术。与传统的基于内容过滤直接分析内容进行推荐不同，协同过滤分析用户兴趣，在用户群中找到指定用户的相似（兴趣）用户，综合这些相似用户对某一信息的评价，形成系统对该指定用户对此信息的喜好程度预测。
电影推荐系统中引用了Apache Mahout提供的一个协同过滤算法的推荐引擎Taste，它实现了最基本的基于用户和基于内容的推荐算法，并提供了扩展接口，使用户方便的定义和实现自己的推荐算法。
电影推荐系统是基于用户的推荐系统，即当用户对某些电影评分之后，系统根据用户对电影评分的分值，判断用户的兴趣，先运用UserSimilarity计算用户间的相似度.UserNeighborhood根据用户相似度找到与该用户口味相似的邻居，最后由Recommender提供推荐个该用户可能感兴趣的电影详细信息。将用户评过分的电影信息和推荐给该用户的电影信息显示在网页结果页中，推荐完成。
一、Taste 介绍
Taste是Apache Mahout 提供的一个个性化推荐引擎的高效实现，该引擎基于java实现，可扩展性强，同时在mahout中对一些推荐算法进行了MapReduce 编程模式转化，从而可以利用hadoop的分布式架构，提高推荐算法的性能。
在Mahout0.5版本中的Taste，实现了多种推荐算法，其中有最基本的基于用户的和基于内容的推荐算法，也有比较高效的SlopeOne算法，以及处于研究阶段的基于SVD和线性插值的算法，同时Taste还提供了扩展接口，用于定制化开发基于内容或基于模型的个性化推荐算法。
Taste 不仅仅适用于Java 应用程序，还可以作为内部服务器的一个组件以HTTP 和Web Service 的形式向外界提供推荐的逻辑。Taste 的设计使它能满足企业对推荐引擎在性能、灵活性和可扩展性等方面的要求。
下图展示了构成Taste的核心组件：
从上图可见，Taste由以下几个主要组件组成：
DataModel：DataModel是用户喜好信息的抽象接口，它的具体实现支持从指定类型的数据源抽取用户喜好信息。在Mahout0.5中，Taste 提供JDBCDataModel 和两种类的实现，分别支持从数据库和文件文件系统中读取用户的喜好信息。对于数据库的读取支持，在Mahout 0.5中只提供了对MySQL和PostgreSQL的支持，如果数据存储在其他数据库，或者是把数据导入到这两个数据库中，或者是自行编程实现相应的类。
UserSimilarit和ItemSimilarity：前者用于定义两个用户间的相似度，后者用于定义两个项目之间的相似度。Mahout支持大部分驻留的相似度或相关度计算方法，针对不同的数据源，需要合理选择相似度计算方法。
UserNeighborhood：在基于用户的推荐方法中，推荐的内容是基于找到与当前用户喜好相似的“邻居用户”的方式产生的，该组件就是用来定义与目标用户相邻的“邻居用户”。所以，该组件只有在基于用户的推荐算法中才会被使用。
Recommender：Recommender是推荐引擎的抽象接口，Taste 中的核心组件。利用该组件就可以为指定用户生成项目推荐列表。
二、相似性度量
本章节将系统中用到的几个相似性度量函数作以介绍，taste中已经具体实现了各相似性度量类。User CF 和Item CF 都依赖于相似度的计算，因为只有通过衡量用户之间或物品之间的相似度，才能找到用户的“邻居”，才能完成推荐。下面就对常用的相似度计算方法进行详细的介绍：
1. 基于皮尔森相关性的相似度—— Pearson correlation-based similarity
皮尔森相关系数反应了两个变量之间的线性相关程度，它的取值在[-1, 1]之间。当两个变量的线性关系增强时，相关系数趋于1或-1；当一个变量增大，另一个变量也增大时，表明它们之间是正相关的，相关系数大于0；如果一个变量增大，另一个变量却减小，表明它们之间是负相关的，相关系数小于0；如果相关系数等于0，表明它们之间不存在线性相关关系。
用数学公式表示，皮尔森相关系数等于两个变量的协方差除于两个变量的标准差。
Pearson correlation-based similarity
协方差（Covariance）：在概率论和统计学中用于衡量两个变量的总体误差。如果两个变量的变化趋于一致，也就是说如果其中一个大于自身的期望值，另一个也大于自身的期望值，那么两个变量之间的协方差就是正值；如果两个变量的变化趋势相反，则协方差为负值。
Covariance
其中u表示X的期望E(X), v表示Y的期望E(Y)
标准差（Standard Deviation）：标准差是方差的平方根
Standard Deviation
方差(Variance)：在概率论和统计学中，一个随机变量的方差表述的是它的离散程度，也就是该变量与期望值的距离。
Variance
即方差等于误差的平方和的期望
基于皮尔森相关系数的相似度有两个缺点：
(1) 没有考虑（take into account）用户间重叠的评分项数量对相似度的影响；
(2) 如果两个用户之间只有一个共同的评分项，相似度也不能被计算
Table1
上表中，行表示用户（1～5）对项目（101～103）的一些评分值。直观来看，User1和User5用3个共同的评分项，并且给出的评分走差也不大，按理他们之间的相似度应该比User1和User4之间的相似度要高，可是User1和User4有一个更高的相似度1。
同样的场景在现实生活中也经常发生，比如两个用户共同观看了200部电影，虽然不一定给出相同或完全相近的评分，他们之间的相似度也应该比另一位只观看了2部相同电影的相似度高吧！但事实并不如此，如果对这两部电影，两个用
户给出的相似度相同或很相近，通过皮尔森相关性计算出的相似度会明显大于观看了相同的200部电影的用户之间的相似度。
Mahout对基于皮尔森相关系数的相似度给出了实现，它依赖一个DataModel 作为输入。
PearsonCorrelationSimilarity
同时，Mahout还针对缺点(1)进行了优化，只需要在构造PearsonCorrelationSimilarity时多传入一个Weighting.WEIGHTED参数，就能使有更多相同评分项目的用户之间的相似度更趋近于1或-1。
UserSimilarity similarity1 = new PearsonCorrelationSimilarity(model);
double value1 = https://www.doczj.com/doc/7f10450517.html,erSimilarity(1, 5);
UserSimilarity similarity2 = new PearsonCorrelationSimilarity(model, Weighting.WEIGHTED);
double value2 = https://www.doczj.com/doc/7f10450517.html,erSimilarity(1, 5);
结果：
Similarity of User1 and User5: 0.944911182523068
Similarity of User1 and User5 with weighting: 0.9655694890769175
2. 基于欧几里德距离的相似度—— Euclidean Distance-based Similarity
欧几里德距离计算相似度是所有相似度计算里面最简单、最易理解的方法。它以经过人们一致评价的物品为坐标轴，然后将参与评价的人绘制到坐标系上，并计算他们彼此之间的直线距离。
Euclidean Distance 2-Coordinate
Table2
图中用户A和用户B分别对项目X、Y进行了评分。用户A对项目X的评分为2，对项目Y的评分为4，表示到坐标系中为坐标点A(1.8, 4)；同样用户B 对项目X、Y的评分表示为坐标点B(4.5, 2.5)，因此他们之间的欧几里德距离（直线距离）为：sqrt((B.x - A.x)^2 + (A.y - B.y)^2)
Euclidean Distance
计算出来的欧几里德距离是一个大于0的数，为了使其更能体现用户之间的相似度，可以把它规约到(0, 1]之间，具体做法为：1 / (1 + d)。参见Table2
Euclidean Distance-based
Similarity
只要至少有一个共同评分项，就能用欧几里德距离计算相似度；如果没有共同评分项，那么欧几里德距离也就失去了作用。其实照常理理解，如果没有共同评分项，那么意味着这两个用户或物品根本不相似。
3. 余弦相似度—— Cosine Similarity
余弦相似度用向量空间中两个向量夹角的余弦值作为衡量两个个体间差异的大小。相比距离度量，余弦相似度更加注重两个向量在方向上的差异，而非距离或长度上。
Cosine Similarity
与欧几里德距离类似，基于余弦相似度的计算方法也是把用户的喜好作为n-维坐标系中的一个点，通过连接这个点与坐标系的原点构成一条直线（向量），两个用户之间的相似度值就是两条直线（向量）间夹角的余弦值。因为连接代表用户评分的点与原点的直线都会相交于原点，夹角越小代表两个用户越相似，夹角越大代表两个用户的相似度越小。同时在三角系数中，角的余弦值是在[-1, 1]之间的，0度角的余弦值是1，180角的余弦值是-1。
借助三维坐标系来看下欧氏距离和余弦相似度的区别：
Distance and Cosine 3-Coordinates
从图上可以看出距离度量衡量的是空间各点间的绝对距离，跟各个点所在的位置坐标（即个体特征维度的数值）直接相关；而余弦相似度衡量的是空间向量的夹角，更加的是体现在方向上的差异，而不是位置。如果保持A点的位置不变，B点朝原方向远离坐标轴原点，那么这个时候余弦相似度cosθ是保持不变的，因为夹角不变，而A、B两点的距离显然在发生改变，这就是欧氏距离和余弦相似度的不同之处。
根据欧氏距离和余弦相似度各自的计算方式和衡量特征，分别适用于不同的数据分析模型：欧氏距离能够体现个体数值特征的绝对差异，所以更多的用于需要从维度的数值大小中体现差异的分析，如使用用户行为指标分析用户价值的相似度或差异；而余弦相似度更多的是从方向上区分差异，而对绝对的数值不敏感，更多的用于使用用户对内容评分来区分用户兴趣的相似度和差异，同时修正了用户间可能存在的度量标准不统一的问题（因为余弦相似度对绝对数值不敏感）。Mahout没有专门给出基于余弦相似度的实现。
4. 调整余弦相似度—— Adjusted Cosine Similarity
在余弦相似度的介绍中说到：余弦相似度更多的是从方向上区分差异，而对
绝对的数值不敏感。因此没法衡量每个维数值的差异，会导致这样一个情况：比如用户对内容评分，5分制，X和Y两个用户对两个内容的评分分别为(1,2)和(4,5)，使用余弦相似度得出的结果是0.98，两者极为相似，但从评分上看X似乎不喜欢这2个内容，而Y比较喜欢，余弦相似度对数值的不敏感导致了结果的误差，需要修正这种不合理性，就出现了调整余弦相似度，即所有维度上的数值都减去一个均值，比如X和Y的评分均值都是3，那么调整后为(-2,-1)和(1,2)，再用余弦相似度计算，得到-0.8，相似度为负值并且差异不小，但显然更加符合现实。
5. 斯皮尔曼相关—— Spearman Correlation
斯皮尔曼相关性可以理解为是排列后（Rank）用户喜好值之间的Pearson相关度。《Mahout in Action》中有这样的解释：假设对于每个用户，我们找到他最不喜欢的物品，重写他的评分值为“1”；然后找到下一个最不喜欢的物品，重写评分值为“2”，以此类推。然后我们对这些转换后的值求Pearson相关系数，这就是Spearman相关系数。
斯皮尔曼相关度的计算舍弃了一些重要信息，即真实的评分值。但它保留了用户喜好值的本质特性——排序（ordering），它是建立在排序（或等级，Rank）的基础上计算的。
回顾前面表中User1～5对Item101～103的喜好（评分）值，通过斯皮尔曼相关系数计算出的相似度为：
Table3
我们发现，计算出来的相似度值要么是1，要么是-1，因为这依赖于用户的喜好值和User1的喜好值是否趋于“一致变化”还是呈“相反趋势变化"。
Mahout对斯皮尔曼相关系数给出了实现，具体可参考SpearmanCorrelationSimilarity，它的执行效率不是非常高，因为斯皮尔曼相关性的计算需要花时间计算并存储喜好值的一个排序（Ranks），具体时间取决于数据的数量级大小。正因为这样，斯皮尔曼相关系数一般用于学术研究或者是小规模的计算。
UserSimilarity similarity1 = new SpearmanCorrelationSimilarity(model); // construct a Spearman Correlation-based Similarity
User1 to User1 : 1.0
User2 to User1 : -1.0
User3 to User1 : NaN
User4 to User1 : 1.0
User4 to User1 : 1.0
考虑到Spearman Correlation的效率，可以把SpearmanCorrelationSimilarity 包装一层Cache，具体做法为：UserSimilarity similarity2 = new CachingUserSimilarity(new SpearmanCorrelationSimilarity(model), model);
这样，每次计算的结果会直接放入Cache，下一次计算的时候可以立即得到结果，而不是重新再计算一次。
6. 基于谷本系数的相似性度量—— Tanimoto Coefficient-based Similarity
Tanimoto Coefficient和前面的5中相关度计算方式有很大的不同，它不关心用户对物品的具体评分值是多少，它在关心用户与物品之间是否存在关联关系。Tanimoto Coefficient依赖于用户和物品之间的这种Boolean关系作为输入。
更准确的说法为：Tanimoto Coefficient主要用于计算符号度量或布尔值度量的个体间的相似度，因为个体的特征属性都是由符号度量或者布尔值标识，因此无法衡量差异具体值的大小，只能获得“是否相同”这个结果，所以Tanimoto Coefficient只关心个体间共同具有的特征是否一致这个问题。Tanimoto Coefficient又被叫做Jaccard Coefficient，其值等于两个用户共同关联（不管喜欢还是不喜欢）的物品数量除于两个用户分别关联的所有物品数量。
Intersection/Union
也就是关联的交集除于关联的并集，用公式表示为：
Tanimoto/Jaccard
Coefficient
其值介于[0, 1]之间，如果两个用户关联的物品完全相同，交集等于并集，值为1；如果没有任何关联，交集为空，值为0。
三、电影推荐系统的实现
1.数据下载：
到grouplens网站（）上下载Data Sets，在该电影系统中我们使用了将近900多用户为1683的电影评了近100000行的数据集。将下载的ml-data_0.zip里的评分数据和电影信息数据取出。将评分文件转换成类似于csv文件格式的文本文件，CSV是逗号分隔值文件(Comma Separated value)，是一种用来存储数据的纯文本文件格式,文件名为rating.TXT。可以用写字板打开，如图4.1：
图4.1 rating.txt示意图
然后将数据导入到mysql数据库中，将电影数据文件也转换成CSV格式文
件，然后也导入数据库中，Mysql中数据库为movierecommendation，上述两个文件对应的表分别为movies和rating。由于taste引擎需要频繁进行数据库操作，所以可以对mysql数据库进行一般的调优，在mysql安装目录的my.ini文件中设置一些参数，从而加快数据库操作运行的时间。
2.系统结构：
本电影推荐系统前台导航栏有三个菜单，分别为首页，推荐电影，参数设置。
首页：
首页上显示综合评分最高的前20部电影，综合评分是指对于一部电影，所有观看改电影的用户的评分的期望值。实现为在index.jsp页面中调用数据库接口，查询数据库，然后将结果显示出来：
参数设置页面：
由于协同过滤算法需要设置推荐的参数，在本系统主要是考虑邻居个数和相似度度量函数这两个参数：
在相似性度量下拉列表框中，一共可以选择四种相似度度量类，分别为：基于欧几里得距离的相似度、基于皮尔森相关性的相似度、基于斯皮尔曼相关的相似度、基于古本系数的相似性度量。各相关性度量类的说明都在第二章节中有详细介绍。系统使用application对象保存这些参数设置，并且在web.xml中设置了初始化的值，分别为6、PearsonCorrelationSimilarity。当用户在该页面设置参数后，将传给websetting.java servlet，将这些参数保存在application中，并且跳转到推荐电影页面。在setting.jsp页面中也使用javascript验证用户输入数据的合法性。
推荐电影页面：
在推荐电影页面，用户首先需要输入用户ID和推荐数，在jsp页面中使用javascript验证用户输入数据的合法性，用户ID的范围,1到990。推荐数范围为1到30，如果输入数据非法，将跳转到错误页面：
当输入合法参数之后，系统将会将推荐结果展示出来：
在该页面中，首先输出数据库中总共的用户数，电影数，以及要推荐的用户ID，然后下面左边为用户所有评分过的电影，右边为给用户推荐的电影。具体实现见程序源代码。
四、总结
本系统是基于Apache Mahout的taste所做的一个电影推荐系统，使用的数据为grouplens网站的990个用户，1618部电影，近10万行的评论数据集。并且使用MySql数据库作为数据源。提供用户参数选择，用户可以设置邻居个数和相似性度量类。最终系统给用户输出用户打分过的电影以及给用户推荐的电影。本系统缺点就是由于频繁的数据库操作，导致系统性能有待提高。给用户显示结果时间过长，用户交互性不是很好。
图片简介:
本技术介绍了一种改进了协同过滤推荐算法的推荐系统，属于推荐系统技术相关领域。该推荐系统包括输入模块、推荐算法和输出模块三个部分，输入模块用于输入用户个人基本信息、用户对项目的评分和用户历史信息等；推荐算法根据输入信息分析用户兴趣爱好，寻找最相似用户和项目，给出预测的评分结果；输出模块依据用户输入请求，输出相应的推荐项目。其中改进部分是对推荐算法中冷启动问题进行优化。针对新用户、新项目和新系统不同的冷启动问题，提出了优化解决方法。 技术要求 1.一种改进了协同过滤推荐算法的推荐系统，其特征在于，包括输入模块、推荐算法和输出模块；输入模块用于输入用户个人基本信息、用户对项目的评分、用户历史信息和当 前的点击操作；推荐算法根据输入信息分析用户兴趣爱好，寻找最相似用户和项目，给 出预测的评分结果；输出模块依据用户输入请求，输出相应的推荐项目到客户端。 2.如权利要求1所述的一种改进了协同过滤推荐算法的推荐系统，其特征在于，所述推荐算法为协同过滤推荐算法，所述协同过滤推荐算法冷启动实现方式为：一、提供非个性 化的推荐，非个性化推荐的最简单例子就是热门排行榜，可以给用户推荐热门排行榜， 然后等到用户的反馈足够多，数据收集到一定的时候，再转换为个性化推荐；二、利用 用户的注册信息，提供的年龄、性别、职业等数据做粗粒度的个性化；三、利用用户的 社交网络账号登录，导入用户在社交网站上的好友信息，然后给用户推荐其好友喜欢的 物品；四、利用物品的内容信息计算物品相关表，利用专家进行标注。 3.如权利要求2所述的一种改进了协同过滤推荐算法的推荐系统，其特征在于，在所述推荐算法中，用户点击商品链接后，推荐系统会记录用户的点击行为，然后系统计算用户 间相似度，找出与当前用户最相似的前N个用户，接着在这前N个用户中找出当前用户没有点击的商品，将点击率最高的几个商品加入推荐列表，最后将推荐列表发往客户端向 用户展示推荐的商品。
本文从互联网收集并整理了推荐系统的架构，其中包括一些大公司的推荐系统框架（数据流存储、计算、模型应用），可以参考这些资料，取长补短，最后根据自己的业务需求，技术选型来设计相应的框架。后续持续更新并收集。。。 图1 界面UI那一块包含3块东西：1) 通过一定方式展示推荐物品(物品标题、缩略图、简介等)；2) 给的推荐理由；3) 数据反馈改进个性化推荐；关于用户数据的存放地方：1)数据库/缓存用来实时取数据；2) hdfs文件上面； 抽象出来的三种推荐方式 图2
图3 图3中，推荐引擎的构建来源于不同的数据源(也就是用户的特征有很多种类，例如统计的、行为的、主题的)+不同的推荐模型算法，推荐引擎的架构可以试多样化的(实时推荐的+离线推荐的)，然后融合推荐结果（人工规则+模型结果），融合方式多样的，有线性加权的或者切换式的等 图4 图4中，A模块负责用户各类型特征的收集，B模块的相关表是根据图3中的推荐引擎来生成的，B模块的输出推荐结果用来C模块的输入，中间经过过滤模块(用户已经产生行为的物品，非候选物品，业务方提供的物品黑名单等)，排名模块也根据预设定的推荐目标来制定，最后推荐解释的生成（这是可能是最容易忽视，但很关键的一环，微信的好友推荐游戏，这一解释已经胜过后台的算法作用了） HULU的推荐系统
总结：这个也就跟图3有点类似了，葫芦的推荐系统，至少在他blog中写的比较简单。更多的是对推荐系统在线部分的一种描述，离线部分我猜想也是通过分布式计算或者不同的计算方式将算法产生的数据存储进入一种介质中，供推荐系统在线部分调用。系统的整个流程是这样的，首先获取用户的行为，包括(watch、subscribe、vote)，这样行为会到后台获取show-show对应的推荐数据。同时这些行为也会产生对应的topic，系统也会根据topic 到后台获取topic-show对应的推荐数据。两种数据进行混合，然后经过fliter、explanation、ranking这一系列过程，最后生成用户看到的推荐数据。 淘宝的推荐系统(详细跟简单版)
基于协同过滤的推荐算法与代码实现 什么是协同过滤？ 协同过滤是利用集体智慧的一个典型方法。要理解什么是协同过滤(Collaborative Filtering, 简称CF)，首先想一个简单的问题，如果你现在想看个电影，但你不知道具体看哪部，你会怎么做？大部分的人会问问周围的朋友，看看最近有什么好看的电影推荐，而我们一般更倾向于从口味比较类似的朋友那里得到推荐。这就是协同过滤的核心思想。 协同过滤一般是在海量的用户中发掘出一小部分和你品位比较类似的，在协同过滤中，这些用户成为邻居，然后根据他们喜欢的其他东西组织成一个排序的目录作为推荐给你。当然其中有一个核心的问题： 如何确定一个用户是不是和你有相似的品位？ 如何将邻居们的喜好组织成一个排序的目录？ 简单来说： 1. 和你兴趣合得来的朋友喜欢的，你也很有可能喜欢； 2. 喜欢一件东西A，而另一件东西B 与这件十分相似，就很有可能喜欢B； 3. 大家都比较满意的，人人都追着抢的，我也就很有可能喜欢。 三者均反映在协同过滤的评级（rating）或者群体过滤（social filtering）这种行为特性上。 深入协同过滤的核心 首先，要实现协同过滤，需要一下几个步骤： 1. 收集用户偏好 2. 找到相似的用户或物品 3. 计算推荐 (1)收集用户偏好 要从用户的行为和偏好中发现规律，并基于此给予推荐，如何收集用户的偏好信息成为系统推荐效果最基础的决定因素。用户有很多方式向系统提供自己的偏好信息，而且不同的应用也可能大不相同，下面举例进行介绍：
以上列举的用户行为都是比较通用的，推荐引擎设计人员可以根据自己应用的特点添加特殊的用户行为，并用他们表示用户对物品的喜好。 在一般应用中，我们提取的用户行为一般都多于一种，关于如何组合这些不同的用户行为，基本上有以下两种方式： 将不同的行为分组：一般可以分为“查看”和“购买”等等，然后基于不同的行为，计算不同的用户/物品相似度。类似于当当网或者Amazon 给出的“购买了该图书的人还购买了...”，“查看了图书的人还查看了...”
个性化推荐系统研究综述 【摘要】个性化推荐系统不仅在社会经济中具有重要的应用价值，而且也是一个非常值得研究的科学问题。给出个性化推荐系统的定义，国内外研究现状，同时阐述了推荐系统的推荐算法。最后对个性化推系统做出总结与展望。 【关键词】推荐系统；推荐算法；个性化 1.个性化推荐系统 1.1个性化推荐系统的概论 推荐系统是一种特殊形式的信息过滤系统（Information Filtering），推荐系统通过分析用户的历史兴趣和偏好信息，可以在项目空间中确定用户现在和将来可能会喜欢的项目，进而主动向用户提供相应的项目推荐服务[1]。传统推荐系统认为推荐系统通过获得用户个人兴趣，根据推荐算法，并对用户进行产品推荐。事实上，推荐系统不仅局限于单向的信息传递，还可以同时实现面向终端客户和面向企业的双向信息传递。 一个完整的推荐系统由3个部分组成：收集用户信息的行为记录模块，分析用户喜好的模型分析模块和推荐算法模块，其中推荐算法模块是推荐系统中最为核心的部分。推荐系统把用户模型中兴趣需求信息和推荐对象模型中的特征信息匹配，同时使用相应的推荐算法进行计算筛选，找到用户可能感兴趣的推荐对象，然后推荐给用户。 1.2国内外研究现状 推荐系统的研宄开始于上世纪90年代初期，推荐系统大量借鉴了相关领域的研宄成果，在推荐系统的研宄中广泛应用了认知科学、近似理论、信息检索、预测理论、管理科学以及市场建模等多个领域的知识。随着互联网的普及和电子商务的发展，推荐系统逐渐成为电子商务IT技术的一个重要研究内容，得到了越来越多研究者的关注。ACM从1999年开始每年召开一次电子商务的研讨会，其中关于电子商务推荐系统的研究文章占据了很大比重。个性化推荐研究直到20世纪90年代才被作为一个独立的概念提出来。最近的迅猛发展，来源于Web210技术的成熟。有了这个技术，用户不再是被动的网页浏览者，而是成为主动参与者[2]。 个性化推荐系统的研究内容和研究方向主要包括：（1）推荐系统的推荐精度和实时性是一对矛盾的研究；（2）推荐质量研究，例如在客户评价数据的极端稀疏性使得推荐系统无法产生有效的推荐，推荐系统的推荐质量难以保证；（3）多种数据多种技术集成性研究；（4）数据挖掘技术在个性化推荐系统中的应用问题，基于Web挖掘的推荐系统得到了越来越多研究者的关注；（5）由于推荐系统需要分析用户购买习惯和兴趣爱好，涉及到用户隐私问题，如何在提供推荐服务的
高级数据挖掘期末大作业
基于协同过滤算法的电影推荐系统 本电影推荐系统中运用的推荐算法是基于协同过滤算法（Collaborative Filtering Recommendation）。协同过滤是在信息过滤和信息系统中正迅速成为一项很受欢迎的技术。与传统的基于内容过滤直接分析内容进行推荐不同，协同过滤分析用户兴趣，在用户群中找到指定用户的相似（兴趣）用户，综合这些相似用户对某一信息的评价，形成系统对该指定用户对此信息的喜好程度预测。 电影推荐系统中引用了Apache Mahout提供的一个协同过滤算法的推荐引擎Taste，它实现了最基本的基于用户和基于内容的推荐算法，并提供了扩展接口，使用户方便的定义和实现自己的推荐算法。 电影推荐系统是基于用户的推荐系统，即当用户对某些电影评分之后，系统根据用户对电影评分的分值，判断用户的兴趣，先运用UserSimilarity计算用户间的相似度.UserNeighborhood根据用户相似度找到与该用户口味相似的邻居，最后由Recommender提供推荐个该用户可能感兴趣的电影详细信息。将用户评过分的电影信息和推荐给该用户的电影信息显示在网页结果页中，推荐完成。 一、Taste 介绍 Taste是Apache Mahout 提供的一个个性化推荐引擎的高效实现，该引擎基于java实现，可扩展性强，同时在mahout中对一些推荐算法进行了MapReduce 编程模式转化，从而可以利用hadoop的分布式架构，提高推荐算法的性能。 在Mahout0.5版本中的Taste，实现了多种推荐算法，其中有最基本的基于用户的和基于内容的推荐算法，也有比较高效的SlopeOne算法，以及处于研究阶段的基于SVD和线性插值的算法，同时Taste还提供了扩展接口，用于定制化开发基于内容或基于模型的个性化推荐算法。 Taste 不仅仅适用于Java 应用程序，还可以作为内部服务器的一个组件以HTTP 和Web Service 的形式向外界提供推荐的逻辑。Taste 的设计使它能满足企业对推荐引擎在性能、灵活性和可扩展性等方面的要求。 下图展示了构成Taste的核心组件：
Xiaol v2009-Relevance is more significant than correlation: Information filtering on sparse data 本文提出了在针对数据稀疏时，使用相关性信息比关联性信息效果更好，因为在关联性信息中，会用到更多的数据， Recommendation System 推荐系统存在的主要挑战： 1.Data sparsity. 2.Scalability 解决该问题的一般方法（28-30） a)有必要考虑计算成本问题和需找推荐算法,这些算法要么是小点的要求 或易于并行化(或两者) b)使用基于增量的算法，随着数据的增加，不重新计算所有的数据，而是 微调的进行 3.Cold start 解决该问题的方法一般有 a)使用混合推荐技术，结合content和collaborative数据，或者需 要基础信息的使用比如用户年龄、位置、喜好genres（31、32） b)识别不同web服务上的单独用户。比如Baifendian开发了一个可以 跟踪到单独用户在几个电子商务网站上的活动，所以对于在网站A的一 个冷启动用户，我们可以根据他在B，C，D网站上的记录来解决其冷启 动问题。 4.Diversity vs. Accuracy（多样性和精确性） 将一些很受欢迎的且高评分的商品推荐给一个用户时，推荐非常高效，但是这种推荐不起多少作用，因为这些商品可以很容易的找到。因此一个好的推荐商
品的列表应该包含一些不明显的不容易被该用户自己搜索到的商品。解决该问题 的方法主要是提高推荐列表的多样性，以及使用混合推荐方法。（34-37） 5.Vulnerability to attacks 6.The value of time. 7.Evaluation of recommendations 8.er interface. 除了这些问题外，还有其他的。随着相关学科分支的出现，特别是网络分析工具，科学家考虑网络结构对推荐的效果影响，以及如何有效使用已知的结构属性来提 高推荐。比如，（45）分析了消费者-商品网络并提出了一个基于喜好边（preferring edges）改进的推荐算法，该算法提高了局部聚类属性。（46）设计并提高了算法，该算法充分利用了社区结构（community structure）。随之而来的挑战主要有：带有GPS移动手机成为主流，并且可以访问网络，因此，基于位置的推荐更需要精确的推荐，其需要对人的移动有一个高效预测能力（47、48）并且高质量的定义位置和人之间的相似性的方法。（49、50）。智能推荐系统需考虑不同人的不同行为模式。比如新用户比较喜欢访问popular商品并且选择相似的商品，而老的用户有更不同的喜好（51,52）用户行为在低风险商品和高风险商品之间更加的不同。（53,54） 推荐系统的一些概念 网络 网络分析对于复杂系统的组织原则的发现是一个万能的工具（5-9）。网络是 由一些元素点和连接点的边组成的。点即为个人或者组织，边为他们之间的交互。 网络G可用（V，E）表示，V（vertice）为节点的集合，E为边（edge）的 集合。在无向网络中，边无方向。在有向网络中，边有向。我们假设网络中不存 在回路以及两个节点之间不存在多条边。G(V,E)图中，一些参数表示是指与节点x连接的节点（即x的邻居）的集合。 即为x节点的度。
种改进的协同过滤推荐算法 摘要：协同过滤算法自提出以来便得到了广泛运用，但 协同过滤算法本身具有的数据稀疏性及冷启动问题也制约了算法的性能。通过分析协同过滤算法的原理和不足，提出了一种改进协同过滤算法的思路，并在MovieLens 数据集上进行了验证，一定程度上提高了 算法性能。 关键词关键词：推荐系统；协同过滤；数据稀疏性文献标识码：A 文章编号：1672-7800（2016）004-0063-03 0 引言网络技术的 迅猛发展使得互联网上的信息呈现爆炸式 中图分类号：TP312 增长，为人们的生活和学习提供了便利，与此同时，海量的数据也带来了一些问题，其中最主要的就是“信息过载”问题。所谓信息过载问题，是指由于不相关的垃圾数据过多从而导致用户无法准确找到自己想要信息的问题。 为应对信息过载问题，人们提出了各种解决方案，其中 最为用户所熟悉的无疑是搜索引擎技术。但搜索引擎的服务是被动的，它要求使用者必须先给出一个搜索关键字，然后才能提供与该关键字相关的信息。这种完全依赖于关键字的服务模式要求用户能用关键字准确描述自己所需信息，否则
无法提供服务，但是现实中用户很多时候并不能精确描述自己的需求信息。这种情况下，以推荐系统为代表的技术可以较好地解决该问题，提高用户的使用体验。 1 协同过滤算法 1.1算法介绍 “协同过滤”技术最早由GlodBerg等于20世纪90年代 提出，该技术最初被用来过滤电子邮件[1]，此后这种技术取得了商业上的巨大成功，得到了广泛使用[2-3] 。协同过滤的基本思想是，如果两个用户在一些项目上具有相似的评价信息，包括显示的直接评分信息或者点击、购买等隐式评价信息，则这两个用户具有相似兴趣。一般而言，协同过滤需要使用到的用户评价信息会被存储在一个数据表中，该表可以被称为用户评分矩阵。 协同过滤技术的关键在于计算两个用户或者项目的相 似度，然后根据相似的用户或者项目进行推荐。其中如果根据某一用户的评分数据寻找到与其相似的用户，并依据相似用户的爱好对活动用户进行推荐的思想被称为基于用户的协同过滤。如果知道用户对某一项目评分较高，则可以根据评分矩阵寻找与这一项目相似的项目推荐给用户，这种思想被称为基于项目的协同过滤。 两种协同过滤算法的基本步骤比较相似。首先，依据用 户对物品的评分建立用户评分矩阵，矩阵的行数为系统中用
基于混合推荐的电影推荐系统设计 绪论 随着经济的快速发展，人们的娱乐生活越来越丰富。电影，作为娱乐的重要组成部分，越来越受到大众的欢迎，特别是受到年轻人的喜爱。但是，如何在海量的电影中找到满足自己喜爱的电影却成为一个难题。电影个性化推荐应运而生，它就是来解决如何在海量信息中寻找关键点，向用户推荐出符合用户要求的电影。 本文，基于内容和协同过滤混合的推荐算法，建立一个个性化的电影推荐系统。电影作为推荐给用户的一种产品，其对特定的时间依赖性并不强。基于内容的推荐系统可以有效地克服冷启动和数据稀疏性问题，在系统初运行阶段和有新用户进入阶段可以提供较高的准确性。当数据评估到达一定程度后，使用协同过滤推荐系统进行推荐。协同过滤技术，不仅可以提供同类型的优质产品给用户，还可以根据近邻集的不同进行跨类型的推荐。并且随着时间的增加，用户评价数的增多，更多的用户加入到系统中后，会找到更匹配的近邻用户，使得推荐质量得到提升。 系统设计 一、总体构架设计 电影推荐系统采用B/S模式的三层框架设计，分为表示层、业务层和数据层。这样的设计模式达到了分散关注、松散耦合、逻辑复用和标准定义的目的。系统总体框架结构图如图1所示。 二、对象关系及动态模型 a)对象关系 电影管理中的主要对象有：管理员和电影。管理员对电影的操作有：查询、修改、删除、添加等。管理员与电影是一对多的关系。 电影推荐中的对象是电影，系统在这些电影信息的基础上进行推荐，系统和电影的关系是多对多的关系。用户对象可以细分为普通用户和管理员。对象详细关系图如图2所示。
图1 总体构架设计 图2 对象间关系图 b)动态模型 电影推荐模块是系统主要的动态模型。电影推荐系统的状态转化图如3所示。 电影信息，用户信息，用户浏览信息等 数据层 实时业务数据数据仓库(历史数据) 电影查阅，电影修改，电影删除，电影添加等 业务层 电影管理业务 电影推荐系统算法 注册，登陆，浏览，观看，添加，删除，修改等 表示层 页面浏览器 网络应用客户端 用户 管理员 普通用户 电影管理 浏览 观看 电影信息 推荐算法
推荐系统的出现 推荐系统的任务就是解决，当用户无法准确描述自己的需求时，搜索引擎的筛选效果不佳的问题。联系用户和信息，一方面帮助用户发现对自己有价值的信息，另一方面让信息能够展现在对他感兴趣的人群中，从而实现信息提供商与用户的双赢。 推荐算法介绍 基于人口统计学的推荐 这是最为简单的一种推荐算法，它只是简单的根据系统用户的基本信息发现用户的相关程度，然后将相似用户喜爱的其他物品推荐给当前用户。 系统首先会根据用户的属性建模，比如用户的年龄，性别，兴趣等信息。根据这些特征计算用户间的相似度。比如系统通过计算发现用户A和C比较相似。就会把A喜欢的物品推荐给C。 优缺点： ?不需要历史数据，没有冷启动问题 ?不依赖于物品的属性，因此其他领域的问题都可无缝接入。 ?算法比较粗糙，效果很难令人满意，只适合简单的推荐 基于内容的推荐 与上面的方法相类似，只不过这次的中心转到了物品本身。使用物品本身的相似度而不是用户的相似度。
系统首先对物品（图中举电影的例子）的属性进行建模，图中用类型作为属性。 在实际应用中，只根据类型显然过于粗糙，还需要考虑演员，导演等更多信息。 通过相似度计算，发现电影A和C相似度较高，因为他们都属于爱情类。系统还会发现用户A喜欢电影A，由此得出结论，用户A很可能对电影C也感兴趣。 于是将电影C推荐给A。 优缺点： ?对用户兴趣可以很好的建模，并通过对物品属性维度的增加，获得更好的推荐精度 ?物品的属性有限，很难有效的得到更多数据 ?物品相似度的衡量标准只考虑到了物品本身，有一定的片面性 ?需要用户的物品的历史数据，有冷启动的问题 协同过滤 协同过滤是推荐算法中最经典最常用的，分为基于用户的协同过滤和基于物品的协同过滤。那么他们和基于人口学统计的推荐和基于内容的推荐有什么区别和联系呢？ 基于用户的协同过滤——基于人口统计学的推荐 基于用户的协同过滤推荐机制和基于人口统计学的推荐机制都是计算用户的相似度，并基于“邻居”用户群计算推荐，但它们所不同的是如何计算用户的相似度，基于人口统计学的机制只考虑用户本身的特征，而基于用户的协同过滤机制可是在用户的历史偏好的数据上计算用户的相似度，它的基本假设是，喜欢类似物品的用户可能有相同或者相似的口味和偏好。 基于物品的协同过滤——基于内容的推荐
第４５卷 第６A 期 ２０１８年６月 计算机科学COMPUTER SCIENCE Vol．４５No．６A June ２０１８ 本文受国家自然科学基金项目(７１６７１１２１,１１４７１１５２)资助.孙丽华(１９７９-),女,博士生,主要研究方向为个性化推荐算法,E-mail :sunlh６８＠t j u．edu．cn ;张兴芳(１９５７-) ,女,教授,主要研究方向为不确定性的数学理论与应用. 基于在线评论情感分析的改进协同过滤推荐算法 孙丽华１ 张兴芳２ (天津大学管理与经济学部 天津３０００７２)１ ( 聊城大学数学科学学院 山东聊城２５２０００)２ 摘 要 针对在线中文评论中用户主观意见的不确定性,提出了一种基于不确定理论的情感分析模型,并结合情感分析模型设计了一种个性化推荐算法.首先,采用分词工具ICTCLAS 和IKAnal y zer 预处理在线中文评论,并基于情感词典(HowNet )计算特征词的点互信息值;然后,应用不确定变量与不确定集设计情感分析模型;最后,根据情感分析模型设计搜索K 最近邻居的新方法,并产生推荐.实验结果表明,该方法能够有效提高推荐的准确率,缓解数据稀疏问题. 关键词 推荐算法,不确定统计,在线评论,情感分析中图法分类号 TP３９１ 文献标识码 A Im p roved Collaborative Filterin g Recommendation Al g oritbm Based on Sentiment Anal y sis of Online Review SUN Li-hua １ ZHANG Xin g -fan g ２ (Colle g e of Mana g ement and Economics ,Tian j in Universit y ,Tian j in ３０００７２,China ) １(School of Mathematical Sciences ,Liaochen g Universit y ,Liaochen g ,Shandon g ２５２０００,China ) ２ Abstract Aimin g at the uncertaint y of users sub j ect o p inions in online Chinese review ,a sentiment anal y sis model based on uncertaint y theor y was p ro p osed．An individual recommendation al g orithm was desi g ned on the basis of the p ro p osed sentiment anal y sis model． First ,the tokenizers of ICTCLAS and IKAnal y zer was used to p re p rocess online Chinese review to g enerate characteristic words ,and the p oint mutual information value of characteristic words accoun-tin g for the sentiment direction were com p uted based on HowNet dictionar y ．Then ,the sentiment anal y sis model was established via uncertaint y theor y of uncertain variables and uncertain sets．In addition ,the new similarit y formula based on the p ro p osed model was used to search the K-nearest nei g hbors．Finall y ,the recommendation lists were g iven．Ex p eri- mental results show that the p ro p osed method can effectivel y im p rove the accurac y of recommendation and alleviate the s p arse data p roblem． Ke y words Recommendation al g orithm ,Uncertain statistics ,Online review ,Sentiment anal y sis １ 引言 随着互联网的发展,电子商务逐步进入社会化商务时代,用户可以发布和获得网络信息的渠道日益增多. 以 协同过 滤 思想为基础的推荐技术[１] 很好地帮助用户提高了信息利 用率.基于用户或项目的协同过滤推荐算法,无论是在实际应用领域还是理论发展方面,都取得了丰富的成果.但是,在电子商务网站中,普遍存在数据稀疏问题,国内外一些学者通 过改进推荐算法来提高推荐精度[２-３] ,从而满足用户的需求. 然而,随着用户需求的不断细化,学者们发现评分数据中包含的信息量有限,不可避免地忽略了用户的某些特征信息,限制了推荐的精度. 在线评论是用户对项目使用经验的具体反馈,从评论信息中挖掘用户意见,无疑能完善用户偏好模型,提高推荐精度.由于自然语言本身具有不确定性,使得用户反馈的体验信息具有不确定性.为解决这类问题,现有文献多采用概率 [２] 或模糊 [４-５] 的方法.例如,Dra g oni 等 [６] 利用模糊的方法 刻画情感倾向,并将该方法应用到不同的领域来分析评论中的情感倾向性.Ha q ue 等 [７] 基于模糊逻辑的方法分析用户正 面或者负面的情绪来判断用户对产品的兴趣.Loia 等[８] 和 Wan g 等[９] 利用模糊的方法来识别文本中用户的情感倾向. Fu 等[１２] 利用模糊方法从句子级别来研究情感分类, 提高了情感分类的准确性.因此,情感分析技术很快被应用到推荐 系统中[１０-１１].Fu 等[１３] 结合评论信息来丰富用户的偏好信 息,利用HowNet 情感词典分析评论中用户的情感倾向,挖 掘用户情感倾向来提高推荐结果的准确性.De 等[２] 利用概率推断的方法从模糊观测的结果中改进协同过滤推荐算法, 提高推荐结果的精度. 然而,概率论和模糊数学中并没有涵盖所有的非确定性,例如,在情感分析过程中,分析用户的情感倾向是正向的程度或者是负向的程度;类似地,分析用户的情感强度是无法用工 具测量的.不确定理论[１４]对这些问题给出了合理的解释,并对其做了进一步的完善[ １５] .可以利用不确定理论来更好地描述这些既不是随机也不是模糊的非确定问题. 本文针对在线中文评论中用户主观意见的不确定问题,建立了一种基于不确定理论的情感分析模型,并在此基础上设计了个性化推荐算法,以提高推荐结果的精度和缓解数据稀疏问题.最后,在Java 环境下,利用两个真实数据集验证 了该算法的有效性. 万方数据
数学建模暑期培训论文 第1题 基于用户聚类的协同过滤电影推荐系统 姓名方向 谢瑜建模 舒浩浩建模 吴杨君编程 徐婷婷编程 黄睿论文 吴双论文
2014年7月20日
承诺书 我们仔细阅读了中国大学生数学建模竞赛的竞赛规则. 我们完全明白，在竞赛开始后参赛队员不能以任何方式（包括电话、电子邮件、网上咨询等）与队外的任何人（包括指导教师）研究、讨论与赛题有关的问题。 我们知道，抄袭别人的成果是违反竞赛规则的, 如果引用别人的成果或其他公开的资料（包括网上查到的资料），必须按照规定的参考文献的表述方式在正文引用处和参考文献中明确列出。 我们郑重承诺，严格遵守竞赛规则，以保证竞赛的公正、公平性。如有违反竞赛规则的行为，我们将受到严肃处理。 我们参赛选择的题号是（从A/B/C/D中选择一项填写）：B 我们的参赛报名号为（如果赛区设置报名号的话）： 所属学校（请填写完整的全名）：武汉理工大学 参赛队员(打印并签名) ：1. 2. 3. 指导教师或指导教师组负责人(打印并签名)：数模组 日期：2014年 7 月 20 日赛区评阅编号（由赛区组委会评阅前进行编号）：
编号专用页 赛区评阅编号（由赛区组委会评阅前进行编号）：赛区评阅记录（可供赛区评阅时使用）： 全国统一编号（由赛区组委会送交全国前编号）：全国评阅编号（由全国组委会评阅前进行编号）：
基于用户聚类的协同过滤电影推荐系统 摘要 本文通过对网站电影推荐系统的探究，采用基于用户聚类的协同过滤分析方法[1]与Topsis（逼近理想点法）建立用户喜好模型与电影推荐模型，尝试模拟电影推荐系统的主要功能，对用户的信息与兴趣进行分析与呈现。 针对问题一，我们分析建立了两个关于用户喜好的评判指标：其观看同一类电影的数量以及对该类电影观后所给出的均分（通过统计方法求得）。其后建立用户观影类型矩阵，由此计算观看某一类的数量与对该类电影的打分，再根据对用户喜好体现程度的大小，采用Topsis法，即将每个电影打分与理想分数（5分）进行比较，如果该分数在设定条件下与理想分数距离更接近，则可以认为此电影更好。因此我们取欧氏距离得到评价函数，将两者综合后从而得到函数值大小对应用户对电影类型好恶的评价标准。 针对问题二，我们考虑寻找与目标用户喜爱电影类型相同的其他用户，其后再将其他用户观影评分高的同类电影筛选5部对目标用户进行推荐。具体而言，我们采用协同过滤分析法，即在用户群中找到指定用户的相似兴趣用户，综合这些相似用户的评价，进而对该用户的喜好进行预测。经与问题一中类似的处理，我们构建其他用户喜好矩阵（0-1化），较之于目标用户喜好矩阵（0-1化），同样采用欧氏距离比较两矩阵异同（相同则入选）。确定了相同偏好用户群后，通过设计筛选流程、算法编程，从用户群相同偏好电影中便可得到所推荐的5部电影。 针对问题三，由于用户观影信息未知，故我们将用户职业和年龄与已知观影用户信息进行整合归类，即建立职业-喜好、年龄-喜好的两个映射，得到职业喜好矩阵，并由系统聚类法中的Ward法经SPSS年龄分类得到年龄喜好矩阵，通过比较得出三种推荐电影类型，再采用问题二中的筛选流程即可得到针对用户的5部推荐电影。 综上所述，本文主要综合了基于用户的协同过滤分析法、聚类分析法、逼近理想点法等模型，结合了MATLAB、Excel、SPSS等分析软件，初步构建了模拟电影推荐系统，并结合数据对用户喜好电影类型进行了有效分析、能够结合用户喜爱电影类型对特定用户进行电影推荐、能对新用户的可能喜好电影进行预测和不完全推荐。本模型的预测结果具有代表性和通用性，虽然在制定评价指标时有一定的主观性，但对于实际电影推荐应用有较大的参考价值。 关键词：协同过滤，聚类分析，Topsis，欧氏距离，电影推荐系统
浅谈基于协同过滤 算法的个性化推荐 姓名： 学号： 班级: 学院: 年月日
摘要 协同过滤是如今推荐系统中最为成熟的的一个推荐算法系类，是利用群体的喜好来推测使用者的喜好，从而向用户产生推荐的算法。当前协同过滤算法大致可以分为基于用户的协同过滤算法和基于项目的协同过滤算法。协同过滤为主要算法的推荐系统的应用领域日益广泛，电子商务是其应用的最主要和最成功的领域。但协同过滤算法仍具有很多不足之处，最突出的不足分别是数据稀疏性问题，冷启动问题和系统延伸性问题。在已有的理论和实践研究基础上，个人提出了协同过滤推荐值得深入研究的方向应包括多维数据的交叉利用，从而提高协同过滤推荐的精准度。 关键字：协同过滤推荐，基于用户，基于项目，数据稀疏，冷启动，系统延 伸性，多维数据的交叉利用 正文 一、协同过滤推荐的基本定义 （一）协同过滤推荐的概念 协同过滤是如今推荐系统中最为成熟的的一个推荐算法系类，简单来说是利用某兴趣相投、拥有共同经验之群体的喜好来推荐使用者感兴趣的资讯，个人透过合作的机制给予资讯相当程度的回应(如评分)并记录下来以达到过滤的目的进而帮助别人筛选资讯，回应不一定局限于特别感兴趣的，特别不感兴趣资讯的纪录也相当重要。 （二）协同过滤推荐的主要算法概述 当前协同过滤算法大致可以分为两类，一类是基于用户的协同过滤算法，一类是基于项目的协同过滤算法。 基于用户的协同过滤推荐根据相似用户群的观点来产生对目标用户的推荐。基本思想是如果某些用户对部分项目的评分趋于一致或是很接近，可以认为他们对其它项目的评分差异就比较小，进一步，可以使用这些相似用户的项目评分值对目标用户的未评分项目进行估计。基于用户的协同过滤使用数理统计的方法来寻找与目标用户有相似兴趣偏好的最近邻居用户集合，再以最近邻居用户对特定项目的评分为基础使用一定的数学方法来预测目标用户对该特定项目的评分，而预测评分最高的前N个商品可以看作是用户最有可能感兴趣top-N商品返回给目标用户（这就是所谓的top-N推荐）。基于用户的协同过滤推荐算法的核心思想是利用数理统计的方法为目标用户寻找他的最近邻居用户集，再以最近邻居用户对特定项目的评分为基础使用一定的数学方法来预测目标用户对该特定项目的评分，最终产生最后的推荐结果。通过最近邻居用户对目标用户未评分项目的评分值进行加权平均来逼近，这是该算法思想的关键。基于用户的协同过滤推荐算法的主要工作有：用户之间相似性的衡量、最近邻居集的查找和评分预测值的计算。 和基于用户的协同过滤相比，基于项目的协同过滤推荐算法的思想出发点是完全相反的，但是计算方法一致。基于项目的协同过滤推荐算法是根据用户对与
机器学习算法day03_协同过滤推荐算法及应用课程大纲 课程目标： 1、理解协同过滤算法的核心思想 2、理解协同过滤算法的代码实现 3、掌握协同过滤算法的应用步骤：数据处理、建模、运算和结果判定
4、 1. CF协同过滤推荐算法原理 1.1 概述 什么是协同过滤(Collaborative Filtering, 简称CF)？ 首先想一个简单的问题，如果你现在想看个电影，但你不知道具体看哪部，你会怎么做？ 大部分的人会问问周围的朋友，看看最近有什么好看的电影推荐，而我们一般更倾向于从口味比较类似的朋友那里得到推荐。这就是协同过滤的核心思想。 协同过滤算法又分为基于用户的协同过滤算法和基于物品的协同过滤算法 1.2 案例需求 如下数据是各用户对各文档的偏好： 现在需要基于上述数据，给A用户推荐一篇文档
1.3 算法分析 1.3.1 基于用户相似度的分析 直觉分析：“用户A/B”都喜欢物品A和物品B，从而“用户A/B”的口味最为相近 因此，为“用户A”推荐物品时可参考“用户B”的偏好，从而推荐D 这种就是基于用户的协同过滤算法UserCF指导思想 1.3.2 基于物品相似度的分析 直觉分析：物品组合(A,D)被同时偏好出现的次数最多，因而可以认为A/D两件物品的相似度最高，从而，可以为选择了A物品的用户推荐D物品
这种就是基于物品的协同过滤算法ItemCF指导思想 1.4 算法要点 1.4.1、指导思想 这种过滤算法的有效性基础在于： 1、用户偏好具有相似性，即用户可分类。这种分类的特征越明显，推荐准确率越高 2、物品之间具有相似性，即偏好某物品的人，都很可能也同时偏好另一件相似物品 1.4.2、两种CF算法适用的场景 什么情况下使用哪种算法推荐效果会更好？ 不同环境下这两种理论的有效性也不同，应用时需做相应调整。 a.如豆瓣上的文艺作品，用户对其的偏好程度与用户自身的品位关联性较强；适合UserCF b.而对于电子商务网站来说，商品之间的内在联系对用户的购买行为影响更为显著。 1.5 算法实现 总的来说，要实现协同过滤，需要一下几个步骤： 1．收集用户偏好 2．找到相似的用户或物品 3．计算推荐
基于协同过滤算法的电影推荐系统
————————————————————————————————作者：————————————————————————————————日期：
高级数据挖掘期末大作业
基于协同过滤算法的电影推荐系统 本电影推荐系统中运用的推荐算法是基于协同过滤算法（Collaborative Filtering Recommendation）。协同过滤是在信息过滤和信息系统中正迅速成为一项很受欢迎的技术。与传统的基于内容过滤直接分析内容进行推荐不同，协同过滤分析用户兴趣，在用户群中找到指定用户的相似（兴趣）用户，综合这些相似用户对某一信息的评价，形成系统对该指定用户对此信息的喜好程度预测。 电影推荐系统中引用了Apache Mahout提供的一个协同过滤算法的推荐引擎Taste，它实现了最基本的基于用户和基于内容的推荐算法，并提供了扩展接口，使用户方便的定义和实现自己的推荐算法。 电影推荐系统是基于用户的推荐系统，即当用户对某些电影评分之后，系统根据用户对电影评分的分值，判断用户的兴趣，先运用UserSimilarity计算用户间的相似度.UserNeighborhood根据用户相似度找到与该用户口味相似的邻居，最后由Recommender提供推荐个该用户可能感兴趣的电影详细信息。将用户评过分的电影信息和推荐给该用户的电影信息显示在网页结果页中，推荐完成。 一、Taste 介绍 Taste是Apache Mahout 提供的一个个性化推荐引擎的高效实现，该引擎基于java实现，可扩展性强，同时在mahout中对一些推荐算法进行了MapReduce 编程模式转化，从而可以利用hadoop的分布式架构，提高推荐算法的性能。 在Mahout0.5版本中的Taste，实现了多种推荐算法，其中有最基本的基于用户的和基于内容的推荐算法，也有比较高效的SlopeOne算法，以及处于研究阶段的基于SVD和线性插值的算法，同时Taste还提供了扩展接口，用于定制化开发基于内容或基于模型的个性化推荐算法。 Taste 不仅仅适用于Java 应用程序，还可以作为内部服务器的一个组件以HTTP 和Web Service 的形式向外界提供推荐的逻辑。Taste 的设计使它能满足企业对推荐引擎在性能、灵活性和可扩展性等方面的要求。 下图展示了构成Taste的核心组件：
在推荐系统众多方法中，基于用户的协同过滤推荐算法是最早诞生的，原理也较为简单。该算法1992年提出并用于邮件过滤系统，两年后1994年被GroupLens 用于新闻过滤。一直到2000年，该算法都是推荐系统领域最著名的算法。 本文简单介绍基于用户的协同过滤算法思想以及原理，最后基于该算法实现园友的推荐，即根据你关注的人，为你推荐博客园中其他你有可能感兴趣的人。 基本思想 俗话说“物以类聚、人以群分”，拿看电影这个例子来说，如果你喜欢《蝙蝠侠》、《碟中谍》、《星际穿越》、《源代码》等电影，另外有个人也都喜欢这些电影，而且他还喜欢《钢铁侠》，则很有可能你也喜欢《钢铁侠》这部电影。 所以说，当一个用户A 需要个性化推荐时，可以先找到和他兴趣相似的用户群体G，然后把G 喜欢的、并且A 没有听说过的物品推荐给A，这就是基于用户的系统过滤算法。 原理 根据上述基本原理，我们可以将基于用户的协同过滤推荐算法拆分为两个步骤： 1. 找到与目标用户兴趣相似的用户集合 2. 找到这个集合中用户喜欢的、并且目标用户没有听说过的物品推荐给目标用户1. 发现兴趣相似的用户 通常用Jaccard 公式或者余弦相似度计算两个用户之间的相似度。设N(u) 为用户u 喜欢的物品集合，N(v) 为用户v 喜欢的物品集合，那么u 和v 的相似度是多少呢： Jaccard 公式： 余弦相似度：
假设目前共有4个用户：A、B、C、D；共有5个物品：a、b、c、d、e。用户与物品的关系（用户喜欢物品）如下图所示： 如何一下子计算所有用户之间的相似度呢？为计算方便，通常首先需要建立“物品—用户”的倒排表，如下图所示： 然后对于每个物品，喜欢他的用户，两两之间相同物品加1。例如喜欢物品a 的用户有A 和B，那么在矩阵中他们两两加1。如下图所示：
基于用户协同过滤算法的电影推荐系统 摘要 随着电子商务的高速发展和普及应用，个性化推荐的推荐系统已成为一个重要研究领域。个性化推荐算法是推荐系统中最核心的技术，在很大程度上决定了电子商务推荐系统性能的优劣。协同过滤是应用最为广泛的一种个性化推荐技术。协同过滤主要分为基于用户的协同过滤和基于项目的协同过滤。 本文研究了基于用户的协同过滤推荐算法及其在电影推荐系统中的应用，设计开发了相应的电影推荐系统中个性化推荐原型系统，并对该算法的推荐质量进行了深入的实验分析。本文也介绍了协同过滤推荐的基本思想。在介绍电影推荐系统推荐技术研究与应用现状的基础上，详细说明了基于用户的协同过滤推荐算法及其具体实现步骤。采用Java Web 实现了原型系统。对于挖掘结果从算法效率及应用意义上进行比较分析 关键词：电影基于用户的协同过滤推荐余弦相似性相关相似性
目录 基于用户协同过滤算法的电影推荐系统 (1) 摘要 (1) 第 1 章绪论 (3) 1.1、研究背景 (3) 1.2、国际发展形势 (4) 第 2 章基于用户协同过滤推荐技术 (5) 2.1 电子商务推荐系统概述 (5) 2.2 协同过滤推荐技术 (5) 第 3 章基于用户的协同过滤推荐算法 (7) 3.1 基于用户协同过滤算法的介绍 (7) 3.2、基于用户喜好值推荐算法的思路 (7) 3.2.1 建立用户模型 (7) 3.2.2 寻找最近邻居 (8) 3.3 算法的实现 (9) 3.4 电影推荐系统界面实现 (10) 第 4 章算法推荐质量的实验分析 (11) 4.1 算法推荐质量的衡量方法 (11) 4.2 验证推荐方法采用的数据集 (11) 4.3 实验结果分析 (12) 4.3.1 余弦相似性 (12) 4.3.2 相似相关性 (13) 4.3.3 基于用户评分次数的相似相关性计算方法 (14) 4.3.4 两种算法的对比分析 (15) 第五章总结 (16) 参考文献 (17) 附录 (18)