2017‐2018 学期数据分析与挖掘课程试题
1.请简要介绍数据挖掘技术的产生背景。（5’）
答：随着通信、计算机和网络技术的快速发展，数据正以空前的速度产生和被收集。在各
行各业许多公司已经开始认识到客户对业务非常重要，客户信息是他们的宝贵财富。大量信息
在给人们带来方便的同时也带来了一大堆问题:信息冗余、信息真假难以辨识、信息安全难以
保证、信息形式不一，难以统一处理等，人们淹没在数据中而难以快速制定合适的决策。在强
大的商业需求驱动下，商家开始注意到有效的解决大容量数据的利用问题具有巨大商机，学者
们开始思考如何从大容量数据集中获取有用信息和知识。面对这一挑战，数据挖掘技术应运而生，并显示出强大的生命力。利用数据挖掘工具进行数据分析可以发现重要的数据模式，这对
商务策略、知识库、科学有重大贡献。
2.请介绍数据挖掘包括哪些任务，并简要描述具体任务的工作内容。（5’）
答：数据挖掘任务可以分为预测性和描述性任务。预测性任务如回归、分类、离群点检测，描述性任务如聚类分析、关联分析、序列模式挖掘。
(1)聚类(Clustering)分析：“物以类聚，人以群分”。聚类分析技术试图找出数据集中的共性和
差异，并将具有共性的对象聚合在相应的类中。聚类可以帮助决定哪些组合更有意义，广泛应用于客户细分、定向营销、信息检索等等。
(2)分类(Classification)分析：通过分析示例数据库中的数据为每个类别做出准确的描述或建
立分析模型或挖掘出分类规则，然后用此分类规则对其它数据库中的记录进行分类。分类分析广泛应用于用户行为分析、风险分析、生物科学等。
(3)关联(Association)分析：关联分析，发现特征之间的相互依赖关系，通常是从给定的数据
集中发现频繁出现的模式知识(又称为关联规则)。关联分析广泛用于市场营销、事务分析等领域。
(4)离群点(Outlier)检测：离群点检测就是发现与众不同的数据。可应用于商业欺诈行为的自
动检测，网络入侵检测，金融欺诈检测，反洗钱，犯罪嫌疑人调查，海关、税务稽查等。
(5)回归(Regression )分析：回归分析是确定两种或两种以上变数间相互依赖的定量关系的一
种分析方法。其可应用于风险分析、作文自动评分等领域。
(6)序列模式(Sequential Pattern)挖掘：序列模式挖掘是指分析数据间的前后序列关系，包括
相似模式发现、周期模式发现等。其应用领域包括客户购买行为模式预测、Web访问模式预测、疾病诊断、网络入侵检测等
3.请简要介绍C
4.5 决策树算法。（5’）
答：C4.5是一系列用在机器学习和数据挖掘分类问题中的算法。它的目标是监督学习，给定一个数据集,其中的每一个元组都能用一组属性值来描述,每一个元组属于一个互斥的类别中的某一类。C4.5的目标是通过学习,找到一个从属性值到类别的映射关系,并且这个映射能用于对新的类别未知的实体进行分类。
C4.5决策树的生长算法描述如下：
（a）如果训练集全部属于同一个类别，那么创建一个叶节点；
（b）否则计算训练集中每个属性的信息增益率，选择增益率最大的属性作为决策属性，并以该决策属性创建结点；
（c）对上一步中决策属性结点的每个取值添加一个分支；
（d）对每个分支的训练集，转至（a）。
C4.5决策树的剪枝处理算法描述如下：
（a）计算待剪子枝中叶结点的加权估计误差；
（b）如果待剪子枝是一个叶结点，则结束；
（c）否则，计算其子树误差和所有的分支误差；
（d）如果叶结点误差小于子树误差和最大的分支误差，则剪枝，设置待剪子枝的根节点为叶结点；
（e）如果最大的分支误差小于子树误差，则剪枝，以误差最大的分支替换待剪子树；
（f）否则，不剪枝。
4.请简要介绍K‐Means 算法及其优缺点并阐述你对可能改进K‐Means 算法的方法。
答：简介:
K-Means其核心思想是找出K个簇中心，使得每一个数据点到其最近的簇中心的平方距离和被最小化。
k-means聚类算法的形式化描述如下：从数据集D中任意选择k个对象作为初始簇中心；计算对象P到k个簇中心的距离,将对象P指派到与其最近(距离最短)的簇；计算每个簇中对象的均
值，做为新的簇的中心；一直重复操作，一直到k个簇的簇中心不再发生变化。
优点：K-Means算法描述容易、实现简单、快速
缺点：
（1）簇个数k需要预先指定，但实际上难以确定；
（2）算法对初始值的选取依赖性极大以及算法常陷入局部最优解；
（3）由于将簇的质心作为簇中心进行新一轮聚类计算，远离数据密集区的孤立点和噪声点会导致簇的质心偏离真正的数据密集区，所以K-Means算法对噪声点和孤立点很敏感；
（4）不能用于发现非凸形状的簇，或具有各种不同大小或密度的簇，即很难检测到“自然的”簇；
（5）只能用于处理数值属性的数据集，不能处理包含分类属性的数据集。
改进K-Means算法方法：
(a)将分类型数据转换为数值型数据，再利用K-Means算法进行聚类分析；
（b）适用于纯分类属性数据集的K-modes算法和适用于混合属性数据集的K-prototypes 算法；
（c）适用于混合属性数据集的K-Summary算法，它使用簇的摘要信息表示簇的质心。5.现有A、B、C、D、E 五种商品的交易记录表，试找出满足最小支持度为50%，最小置信
度为60%
答：首先列出所有频繁项目及大于或等于最小支持度的项集
{A}-50%,{B}-75%,{C}-50%,{D}-50%,{E}-75%,{A,C}-50%.{B,E}-75%
{B,E} 3
support(A,B)= support(A,D)= support(A,E)= support(B,C)= support(B,D)= support(C,D)= support(C,E)= support(D,E)=25%<50%，所以剔除
得到关联规则：
对于A->C:
支持度=support({A,C})=50%
置信度=support({A,C})/support({A})=100%
对于B->E:
支持度=support({B,E})=75%
置信度=support({B,E})/support({B})=100%
所以A,C与B,E都满足规则，可得到：A->C，C->A，B->E，E->B的强关联规则.
6.一家著名高尔夫俱乐部在2周共计14天的时间内记录了每天的天气信息以及顾客是否光顾
俱乐部的信息，如下表所示。请用朴素贝叶斯算法预测第15
天X={sunny, mild, normal, false,?}的“是否打球人多” 的类标号。（20 分）
答：思路:我们可以求出在{sunny,mild,normal,false}发生的条件下,事件play=yes和事件play=no的概率,谁的概率大,最终答案就选谁
解：根据贝叶斯公式,有P(play=yes|X)=P(X|play=yes)*P(play=yes)/P(X)
P(play=no|X)=P(X|play=no)*P(play=no)/P(X)
我们要比较这两个概率的大小，由于分母相同且大于0，所以我们只需比较分子
P(X|play=yes)*P(play=yes)=P(x1|play=yes)
其中
P(x1|play=yes)=P(天气状况=sunny|play=yes)=2/9
P(x2|play=yes)=P(温度=mild|play=yes)=4/9
P(x3lplay= yes)=P(湿度=normallplay=yes)=6/9
P(x4lplay=yes)=P(风=false|play=yes)=6/9
P(play=yes)=9/14
P(play=yes|X)≈2/9*4/9*6/9*6/*9/14=16/567
同理可得
P(x1|play=no)=P(天气状况=sunny|play=no)=3/5
P(x2|play=no)=P(温度=mild|play=no)=1/5
P(x3lplay=no)=P(湿度=normallplay=no)=1/5
P(x4lplay=no)=P(风=false|play=no)=2/5
P(play=no)=5/14
P(play=no|X)3/5*1/5*1/5*2/5*5/14=16/567=3/875
根据结果 P(play=yes|X>P(play=no|X)
所以,样本X={sunny,mild,normal,false？}的play类标号值为yes
7.请计算第7 题中属性“湿度”的信息增益和信息增益率。并请用C4.5 算法预测第15 天
X={sunny, mild, normal, false,?}的“是否打球人多”的类标号。（20’）
答：
思路：假定S为训练集，S的目标属性C具有m个可能的类标号值，C={，，…}，在所有样本中出现的概率(i=1,2,3,…，m)，则该信息熵Entropy(S)为：
Entropy(S)=Entropy(，，，)=--=0.9403
（）= Entropy()
（1）
湿度
=)+)
=0.7885
（）=0.1518
信息增益:Gain(S,湿度)=Entropy(S)-
湿度
SplitE（S,湿度）=--=1
信息增益率:GainRation(S,湿度)=湿度
=0.1518
（湿度）
同理可得：
(2)Gain(S,天气状况)=Entropy(S)-
（）=0.9403-0.6935=0.2468
天气状况
SplitE（S,天气状况）=---=1.5774
GainRation(S,天气状况)=天气状况
=0.1565
（天气状况）
(3)Gain(S,温度)= Entropy(S)-
（）=0.9403-0.5586=0.2468
温度
SplitE（S,天气状况）=---=1.5774
=0.3817
GainRation(S,天气状况)=天气状况
（天气状况）
（）
(4)有风= Entropy(S)-
天气状况
=0.9403-（)+)）
=0.0481
SplitE（S,有风）=--=0.9852
=0.0488
GainRation(S,有风)=有风
（有风）
判断的优先级为：温度>天气状况>湿度>是否有风
所以X={sunny,mild,normal,false,?}的“是否打球人多”的类标号为yes
8.试举一例数据挖掘技术可被应用的具体领域与场景，
并简要描述其所用到的数据挖掘算法与数据挖掘过程。（10’）
答：数据挖掘技术在生物信息学领域也被广泛应用。广义上讲生物信息学是指利用先进的数据管理技术、数据分析模型、计算软件对各种生物信息数据(特别是分子生物学数据)进行提取、加工、存储、分类、检索和分析等，以达到阐明和理解大量数据所蕴含的生物学意义的目的。但是生物信息学中的数据挖掘研究仍然处于起步阶段，有很多问题需要解决。所涉及实际问题的复杂性，往往需要结合其他专业领域内的挖掘方法，配合本领域的挖掘算法进行具体操作。以下介绍生物信息学研究中可以借鉴的常用数据挖掘算法。
决策树算法应用：决策树算法是一种常用算法，它是一种贪心算法，采用自顶向下的递归方法构造决策树。不同的算法在构造决策树时采用的策略也不同。例如：CART采用深度优先策略，SLIQ采用广度优先策略。在解决实际问题时，往往需要对各种算法进行改进以适应新问题。或需要结合多种算法的优势，从而确保得到更合理的分类效果。例如：GA—NN—
C4．5算法它就是一种将基因算法、神经网络算法和C4．5决策树算法相结合的新的算法。
如今数据挖掘技术已广泛的应用于金融、医药、通信等各个领域。它既验证了各行业内长期形成的经验和规律，又发现了隐藏的新模型新规律。在生物信息学领域中，生物信息或基因的数据挖掘和通常的数据相比。无论是数据的复杂性还是数据量，还是建立模型的算法都要复杂的多，这更需要一些新的更有效更准确的算法。虽然，在未来我们还面临很多的挑战。但我相信随着各应用领域信息化的推进都会逐步得到解决，我们将迎来数据挖掘大发展的时代。
9.通过本门课程学习之后，试谈谈你对本门课程的体会。（10’）
答：学习过数据挖掘这门课程已经有一个学期了，我对数据挖掘这门课程的一些技术也有了一定的了解。数据挖掘就是从大量的数据中，抽取出潜在的、有价值的知识、模型或规则的过程。作为一类深层次的数据分析方法，它利用了数据库、人工智能和数理统计等多方面的技术。
首先要将庞大的数据转换成为有用的信息，必须先有效率地收集信息。随着科技的进步，功能完善的数据库系统就成了最好的收集数据的工具。数据挖掘的研究领域非常广泛，主要包括数据库系统、基于知识的系统、人工智能、机器学习、知识获取、统计学、空间数据库和数据可视化等领域。主要是可以做以下几件事：分类、估计、预测、关联分析、聚类分析、描述和可视化、复杂数据类型挖掘。
其次，在学习关联规则的时候，提出了一个关于啤酒与纸尿布的故事：在一家超市里，纸
尿布与啤酒被摆在一起出售，但是这个奇怪的举措却使得啤酒和纸尿布的销量双双增加了。其实，这是由于这家超市对其顾客的购物行为进行购物篮分析，在这些原始交易数据的基础上，利用数据挖掘方法对这些数据进行分析和挖掘。从而意外的发现跟纸尿布一起购买最多的商品竟是啤酒。按我们的常规思维，啤酒与纸尿布是两个毫无关联的商品，但是借助数据挖掘技术对大量交易数据进行挖掘分析后，却可以寻求到这一有价值的规律。这个故事在一定程度上说明了数据挖掘技术的巨大价值。
总之，非常感谢老师在这几周的精彩授课，让我受益匪浅，我会继续学习这门课程的，再次感谢！
网络教育学院 《数据挖掘》课程大作业 题目： 姓名： 学习中心： 第一大题：讲述自己在完成大作业过程中遇到的困难，解决问题的思路，以及相关感想，或者对这个项目的认识，或者对Python与数据挖掘的认识等等，300-500字。 《数据挖掘》这门课程是一门实用性非常强的课程，数据挖掘是大数据这门前沿技术的基础，拥有广阔的前景，在信息化时代具有非常重要的意义。数据挖掘的研究领域非常广泛，主要包括数据库系统、基于知识的系统、人工智能、机器学习、知识获取、统计学、空间数据库和数据可视化等领域。学习过程中，我也遇到了不少困难，例如基础差，对于Python基础不牢，尤其是在进行这次课程作业时，显得力不从心；个别算法也学习的不够透彻。在接下来的学习中，我仍然要加强理论知识的学习，并且在学习的同时联系实际，在日常工作中注意运用《数据挖掘》所学到的知识，不断加深巩固，不断发现问题，解决问题。另外，对于自己掌握不牢的知识要勤复习，多练习，使自己早日成为一名合格的计算机毕业生。 第二大题：完成下面一项大作业题目。
2020春《数据挖掘》课程大作业 注意：从以下5个题目中任选其一作答。 题目一：Knn算法原理以及python实现 要求：文档用使用word撰写即可。 主要内容必须包括： （1）算法介绍。 （2）算法流程。 （3）python实现算法以及预测。 （4）整个word文件名为 [姓名奥鹏卡号学习中心]（如 戴卫东101410013979浙江台州奥鹏学习中心[1]VIP ）作业提交： 大作业上交时文件名写法为：[姓名奥鹏卡号学习中心]（如：戴卫东101410013979浙江台州奥鹏学习中心[1]VIP） 以附件形式上交离线作业（附件的大小限制在10M以内），选择已完成的作业（注意命名），点提交即可。如下图所示。 。 注意事项： 独立完成作业，不准抄袭其他人或者请人代做，如有雷同作业，成绩以零分计！
第 1 章 1.6 定义下列数据挖掘功能：特征化、区分、关联和相关分析、预测聚类和演变分析。 使用你熟悉的现实生活的数据库，给出每种数据挖掘功能的例子。 ?特征化是一个目标类数据的一般特性或特性的汇总。例如，学生的特征可被提出，形成所 有大学的计算机科学专业一年级学生的轮廓，这些特征包括作为一种高的年级平均成绩 (GPA：Grade point a ve r s ge) 的信息，还有所修的课程的最大数量。 ?区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比 较。例如，具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最 终的描述可能是学生的一个一般可比较的轮廓，就像具有高GPA 的学生的75%是四年级 计算机科学专业的学生，而具有低GPA 的学生的65%不是。 ?关联是指发现关联规则，这些规则表示一起频繁发生在给定数据集的特征值的条件。 例如，一个数据挖掘系统可能发现的关联规则为： m a j or(X,“c omput i ng s c i e nc e”) ?owns(X, “pe r s ona l c omput e r”) [s uppor t=12%,c on f i d e nc e=98%] 其中，X 是一个表示学生的变量。这个规则指出正在学习的学生，12%（支持度）主修计算机科学并且拥有一台 。 个人计算机。这个组一个学生拥有一台个人电脑的概率是98%（置信度，或确定度） ?分类与预测不同，因为前者的作用是构造一系列能描述和区分数据类型或概念的模型（或，而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的 功能） 相似性是他们都是预测的工具：分类被用作预测目标数据的类的标签，而预测典型的应用是 预测缺失的数字型数据的值。 ?聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式，将观测组织成类分层结构，把类似的事件组织在一起。 ?数据延边分析描述和模型化随时间变化的对象的规律或趋势，尽管这可能包括时间相关数 据的特征化、区分、关联和相关分析、分类、或预测，这种分析的明确特征包括时间序列数据分 析、序列或周期模式匹配、和基于相似性的数据分析 1.9 列举并描述说明数据挖掘任务的五种原语。 五种原语是： ?任务相关数据：这种原语指明给定挖掘所处理的数据。它包括指明数据库、数据库表、或 数据仓库，其中包括包含关系数据、选择关系数据的条件、用于探索的关系数据的属性或 维、关于修复的数据排序和分组。 ?挖掘的数据类型：这种原语指明了所要执行的特定数据挖掘功能，如特征化、区分、关 联、分类、聚类、或演化分析。同样，用户的要求可能更特殊，并可能提供所发现的模式必 须匹配的模版。这些模版或超模式（也被称为超规则）能被用来指导发现过程。 ?背景知识：这种原语允许用户指定已有的关于挖掘领域的知识。这样的知识能被用来指导 知识发现过程，并且评估发现的模式。关于数据中关系的概念分层和用户信念是背景知识的 形式。 ?模式兴趣度度量：这种原语允许用户指定功能，用于从知识中分割不感兴趣的模式，并且 被用来指导挖掘过程，也可评估发现的模式。这样就允许用户限制在挖掘过程返回的不感兴 趣的模式的数量，因为一种数据挖掘系统可能产生大量的模式。兴趣度测量能被指定为简易 性、确定性、适用性、和新颖性的特征。 ?发现模式的可视化：这种原语述及发现的模式应该被显示出来。为了使数据挖掘能有效地
《数据挖掘》Weka实验报告 姓名＿学号＿ 指导教师 开课学期2015 至2016 学年 2 学期完成日期2015年6月12日
1.实验目的 基于https://www.doczj.com/doc/c515852662.html,/ml/datasets/Breast+Cancer+WiscOnsin+%28Ori- ginal%29的数据，使用数据挖掘中的分类算法，运用Weka平台的基本功能对数据集进行分类，对算法结果进行性能比较，画出性能比较图，另外针对不同数量的训练集进行对比实验，并画出性能比较图训练并测试。 2.实验环境 实验采用Weka平台，数据使用来自https://www.doczj.com/doc/c515852662.html,/ml/Datasets/Br- east+Cancer+WiscOnsin+%28Original%29，主要使用其中的Breast Cancer Wisc- onsin (Original) Data Set数据。Weka是怀卡托智能分析系统的缩写，该系统由新西兰怀卡托大学开发。Weka使用Java写成的，并且限制在GNU通用公共证书的条件下发布。它可以运行于几乎所有操作平台，是一款免费的，非商业化的机器学习以及数据挖掘软件。Weka提供了一个统一界面，可结合预处理以及后处理方法，将许多不同的学习算法应用于任何所给的数据集，并评估由不同的学习方案所得出的结果。 3.实验步骤 3.1数据预处理 本实验是针对威斯康辛州(原始)的乳腺癌数据集进行分类，该表含有Sample code number（样本代码)，Clump Thickness（丛厚度），Uniformity of Cell Size （均匀的细胞大小），Uniformity of Cell Shape （均匀的细胞形状），Marginal Adhesion（边际粘连），Single Epithelial Cell Size（单一的上皮细胞大小），Bare Nuclei（裸核），Bland Chromatin（平淡的染色质），Normal Nucleoli（正常的核仁），Mitoses（有丝分裂），Class（分类），其中第二项到第十项取值均为1-10，分类中2代表良性，4代表恶性。通过实验，希望能找出患乳腺癌客户各指标的分布情况。 该数据的数据属性如下： 1. Sample code number（numeric），样本代码； 2. Clump Thickness（numeric），丛厚度；
数据挖掘的其他基本功能介绍 一、关联规则挖掘 关联规则挖掘是挖掘数据库中和指标（项）之间有趣的关联规则或相关关系。关联规则挖掘具有很多应用领域，如一些研究者发现，超市交易记录中的关联规则挖掘对超市的经营决策是十分重要的。 1、 基本概念 设},,,{21m i i i I =是项组合的记录，D 为项组合的一个集合。如超市的每一张购物小票为一个项的组合（一个维数很大的记录），而超市一段时间内的购物记录就形成集合D 。我们现在关心这样一个问题，组合中项的出现之间是否存在一定的规则，如A 游泳衣，B 太阳镜，B A ?，但是A B ?得不到足够支持。 在规则挖掘中涉及到两个重要的指标： ① 支持度 支持度n B A n B A )()(?= ?，显然，只有支持度较大的规则才是较有价值的规则。 ② 置信度 置信度)() ()(A n B A n B A ?=?，显然只有置信度比较高的规则才是比较可靠 的规则。 因此，只有支持度与置信度均较大的规则才是比较有价值的规则。 ③ 一般地，关联规则可以提供给我们许多有价值的信息，在关联规则挖掘时，往往需要事先指定最小支持度与最小置信度。关联规则挖掘实际上真正体现了数据中的知识发现。 如果一个规则满足最小支持度，则称这个规则是一个频繁规则； 如果一个规则同时满足最小支持度与最小置信度，则通常称这个规则是一个强规则。 关联规则挖掘的通常方法是：首先挖掘出所有的频繁规则，再从得到的频繁规则中挖掘强规则。在少量数据中进行规则挖掘我们可以采用采用简单的编程方法，而在大量数据中挖掘关联规则需要使用专门的数据挖掘软件。关联规则挖掘可以使我们得到一些原来我们所不知道的知识。 应用的例子： * 日本超市对交易数据库进行关联规则挖掘，发现规则：尿片→啤酒，重新安排啤酒柜台位置，销量上升75%。 * 英国超市的例子：大额消费者与某种乳酪。 那么，证券市场上、期货市场上、或者上市公司中存在存在哪些关联规则，这些关联规则究竟说明了什么？ 关联规则挖掘通常比较适用与记录中的指标取离散值的情况，如果原始数据
数据挖掘期末大作业 1.数据挖掘的发展趋势是什么？大数据环境下如何进行数据挖掘。 对于数据挖掘的发展趋势，可以从以下几个方面进行阐述： (1)数据挖掘语言的标准化描述:标准的数据 挖掘语言将有助于数据挖掘的系统化开发。改进多个数据挖掘系统和功能间的互操作,促进其在企业和社会中的使用。 (2)寻求数据挖掘过程中的可视化方法:可视 化要求已经成为数据挖掘系统中必不可少的技术。可以在发现知识的过程中进行很好的人机交互。数据的可视化起到了推动人们主动进行知识发现的作用。 (3)与特定数据存储类型的适应问题:根据不 同的数据存储类型的特点,进行针对性的研究是目前流行以及将来一段时间必须面对的问题。 (4)网络与分布式环境下的KDD问题:随着 Internet的不断发展,网络资源日渐丰富,这就需要分散的技术人员各自独立地处理分离数据库的工作方式应是可协作的。因此,考虑适应分布式与网络环境的工具、技术及系统将是数据挖掘中一个最为重要和繁荣的子领域。 (5)应用的探索:随着数据挖掘的日益普遍,其应用范围也日益扩大,如生物医学、电信业、零售业等 领域。由于数据挖掘在处理特定应用问题时存在局限性,因此,目前的研究趋势是开发针对于特定应用的数据挖掘系统。 (6)数据挖掘与数据库系统和Web数据库系统的集成:数据库系统和Web数据库已经成为信息处 理系统的主流。 2. 从一个3输入、2输出的系统中获取了10条历史数据，另外，最后条数据是系统的输 入，不知道其对应的输出。请使用SQL SERVER 2005的神经网络功能预测最后两条数据的输出。 首先，打开SQL SERVER 2005数据库软件，然后在界面上右键单击树形图中的“数据库”标签，在弹出的快捷菜单中选择“新建数据库”命令，并命名数据库的名称为YxqDatabase，单击确定，如下图所示。 然后，在新建的数据库YxqDatabas中，根据题目要求新建表，相应的表属性见下图所示。
数据仓库与数据挖掘 第一章课后习题 一：填空题 1）数据库中存储的都是数据，而数据仓库中的数据都是一些历史的、存档的、归纳的、计算的数据。 2）数据仓库中的数据分为四个级别：早起细节级、当前细节级、轻度综合级、高度综合级。3）数据源是数据仓库系统的基础，是整个系统的数据源泉，通常包括业务数据和历史数据。4）元数据是“关于数据的数据”。根据元数据用途的不同将数据仓库的元数据分为技术元数据和业务元数据两类。 5）数据处理通常分为两大类：联机事务处理和联机事务分析 6）Fayyad过程模型主要有数据准备，数据挖掘和结果分析三个主要部分组成。 7）如果从整体上看数据挖掘技术，可以将其分为统计分析类、知识发现类和其他类型的数据挖掘技术三大类。 8）那些与数据的一般行为或模型不一致的数据对象称做孤立点。 9）按照挖掘对象的不同，将Web数据挖掘分为三类：web内容挖掘、web结构挖掘和web 使用挖掘。 10）查询型工具、分析型工具盒挖掘型工具结合在一起构成了数据仓库系统的工具层，它们各自的侧重点不同，因此适用范围和针对的用户也不相同。 二：简答题 1）什么是数据仓库？数据仓库的特点主要有哪些？ 数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合，用于支
持管理决策。 主要特点：面向主题组织的、集成的、稳定的、随时间不断变化的、数据的集合性、支持决策作用 2）简述数据挖掘的技术定义。 从技术角度看，数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中，提取隐含在其中的、人们不知道的、但又是潜在有用的信息和知识的过程。 3）什么是业务元数据？ 业务元数据从业务角度描述了数据仓库中的数据，它提供了介于使用者和实际系统之间的语义层，使得不懂计算机技术的业务人员也能够读懂数据仓库中的数据 4）简述数据挖掘与传统分析方法的区别。 本质区别是：数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。数据挖掘所得到的信息应具有先前未知、有效和实用三个特征。 5）简述数据仓库4种体系结构的异同点及其适用性。 a.虚拟的数据仓库体系结构 b.单独的数据仓库体系结构 c.单独的数据集市体系结构 d.分布式数据仓库结构
数据仓库与数据挖掘课后习 题答案 -标准化文件发布号：（9456-EUATWK-MWUB-WUNN-INNUL-DDQTY-KII
数据仓库与数据挖掘 第一章课后习题 一：填空题 1）数据库中存储的都是数据，而数据仓库中的数据都是一些历史的、存档的、归纳的、计算的数据。 2）数据仓库中的数据分为四个级别：早起细节级、当前细节级、轻度综合级、高度综合级。 3）数据源是数据仓库系统的基础，是整个系统的数据源泉，通常包括业务数据和历史数据。 4）元数据是“关于数据的数据”。根据元数据用途的不同将数据仓库的元数据分为技术元数据和业务元数据两类。 5）数据处理通常分为两大类：联机事务处理和联机事务分析 6）Fayyad过程模型主要有数据准备，数据挖掘和结果分析三个主要部分组成。 7）如果从整体上看数据挖掘技术，可以将其分为统计分析类、知识发现类和其他类型的数据挖掘技术三大类。 8）那些与数据的一般行为或模型不一致的数据对象称做孤立点。 9）按照挖掘对象的不同，将Web数据挖掘分为三类：web内容挖掘、web结构挖掘和web使用挖掘。 10）查询型工具、分析型工具盒挖掘型工具结合在一起构成了数据仓库系统的工具层，它们各自的侧重点不同，因此适用范围和针对的用户也不相同。 二：简答题 1）什么是数据仓库数据仓库的特点主要有哪些 2） 数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合，用于支持管理决策。 主要特点：面向主题组织的、集成的、稳定的、随时间不断变化的、数据的集合性、支持决策作用 3）简述数据挖掘的技术定义。 从技术角度看，数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中，提取隐含在其中的、人们不知道的、但又是潜在有用的信息和知识的过程。 4）什么是业务元数据？ 业务元数据从业务角度描述了数据仓库中的数据，它提供了介于使用者和实际系统之间的语义层，使得不懂计算机技术的业务人员也能够读懂数据仓库中的数据 5）简述数据挖掘与传统分析方法的区别。 本质区别是：数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。数据挖掘所得到的信息应具有先前未知、有效和实用三个特征。 6）简述数据仓库4种体系结构的异同点及其适用性。 a.虚拟的数据仓库体系结构 b.单独的数据仓库体系结构
第 - 1 - 页 共 4 页 数据挖掘试卷 课程代码： C0204413 课程： 数据挖掘A 卷 一、判断题（每题1分，10分） 1. 从点作为个体簇开始，每一步合并两个最接近的簇，这是一种分裂的层次聚类方法。（ ） 2. 数据挖掘的目标不在于数据采集策略，而在于对已经存在的数据进行模式的发掘。（ ） 3. 在聚类分析当中，簇内的相似性越大，簇间的差别越大，聚类的效果就越差。（ ） 4. 当两个点之间的邻近度取它们之间距离的平方时，Ward 方法与组平均非常相似。（ ） 5. DBSCAN 是相对抗噪声的，并且能够处理任意形状和大小的簇。（ ） 6. 属性的性质不必与用来度量他的值的性质相同。（ ） 7. 全链对噪声点和离群点很敏感。（ ） 8. 对于非对称的属性，只有非零值才是重要的。（ ） 9. K 均值可以很好的处理不同密度的数据。（ ） 10. 单链技术擅长处理椭圆形状的簇。（ ） 二、选择题（每题2分，30分） 1. 当不知道数据所带标签时，可以使用哪种技术促使带同类标签的数据与带其他标签的数据相分离？( ) A.分类 B.聚类 C.关联分析 D.主成分分析 2. ( )将两个簇的邻近度定义为不同簇的所有点对邻近度的平均值，它是一种凝聚层次聚类技术。 A.MIN(单链) B.MAX(全链) C.组平均 D.Ward 方法 3.数据挖掘的经典案例“啤酒与尿布试验”最主要是应用了( )数据挖掘方法。 A 分类 B 预测 C 关联规则分析 D 聚类 4.关于K 均值和DBSCAN 的比较，以下说法不正确的是( ) A.K 均值丢弃被它识别为噪声的对象，而DBSCAN 一般聚类所有对象。 B.K 均值使用簇的基于原型的概念，DBSCAN 使用基于密度的概念。 C.K 均值很难处理非球形的簇和不同大小的簇，DBSCAN 可以处理不同大小和不同形状的簇 D.K 均值可以发现不是明显分离的簇，即便簇有重叠也可以发现，但是DBSCAN 会合并有重叠的簇 5.下列关于Ward ’s Method 说法错误的是：( )
第5章关联分析 5.1 列举关联规则在不同领域中应用的实例。 5.2 给出如下几种类型的关联规则的例子，并说明它们是否是有价值的。 (a)高支持度和高置信度的规则； (b)高支持度和低置信度的规则； (c)低支持度和低置信度的规则； (d)低支持度和高置信度的规则。 5.3 数据集如表5-14所示： (a) 把每一个事务作为一个购物篮，计算项集{e}, {b, d}和{b, d, e}的支持度。 (b) 利用(a)中结果计算关联规则{b, d}→{e} 和 {e}→{b, d}的置信度。置信度是一个对称的度量吗？ (c) 把每一个用户购买的所有商品作为一个购物篮，计算项集{e}, {b, d}和{b, d, e}的支持度。 (d) 利用(b)中结果计算关联规则{b, d}→{e} 和 {e}→{b, d}的置信度。置信度是一个对称的度量吗？ 5.4 关联规则是否满足传递性和对称性的性质？举例说明。 5.5 Apriori 算法使用先验性质剪枝，试讨论如下类似的性质 (a) 证明频繁项集的所有非空子集也是频繁的 (b) 证明项集s 的任何非空子集s ’的支持度不小于s 的支持度 (c) 给定频繁项集l 和它的子集s ，证明规则“s’→(l – s’)”的置信度不高于s →(l – s)的置信度，其中s’是s 的子集 (d) Apriori 算法的一个变形是采用划分方法将数据集D 中的事务分为n 个不相交的子数据集。证明D 中的任何一个频繁项集至少在D 的某一个子数据集中是频繁的。 5.6 考虑如下的频繁3-项集：{1, 2, 3}，{1, 2, 4}，{1, 2, 5}， {1, 3, 4}，{1, 3, 5}，{2, 3, 4}，{2, 3, 5}，{3, 4, 5}。 (a)根据Apriori 算法的候选项集生成方法，写出利用频繁3-项集生成的所有候选4-项集。 (b)写出经过剪枝后的所有候选4-项集 5.7 一个数据库有5个事务，如表5-15所示。设min_sup=60%，min_conf = 80%。
1.4 数据仓库和数据库有何不同？有哪些相似之处？ 答：区别：数据仓库是面向主题的，集成的，不易更改且随时间变化的数据集合，用来支持管理人员的决策，数据库由一组内部相关的数据和一组管理和存取数据的软件程序组成，是面向操作型的数据库，是组成数据仓库的源数据。它用表组织数据，采用ER数据模型。 相似：它们都为数据挖掘提供了源数据，都是数据的组合。 1.3 定义下列数据挖掘功能：特征化、区分、关联和相关分析、预测聚类和演变分析。使用你熟悉的现实生活的数据库，给出每种数据挖掘功能的例子。 答：特征化是一个目标类数据的一般特性或特性的汇总。例如，学生的特征可被提出，形成所有大学的计算机科学专业一年级学生的轮廓，这些特征包括作为一种高的年级平均成绩(GPA：Grade point aversge)的信息， 还有所修的课程的最大数量。 区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比较。例如，具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最终的描述可能是学生的一个一般可比较的轮廓，就像具有高GPA 的学生的75%是四年级计算机科学专业的学生，而具有低GPA 的学生的65%不是。 关联是指发现关联规则，这些规则表示一起频繁发生在给定数据集的特征值的条件。例如，一个数据挖掘系统可能发现的关联规则为：major(X, “computing science”) ? owns(X, “personal computer”) [support=12%, confidence=98%] 其中，X 是一个表示学生的变量。这个规则指出正在学习的学生，12% （支持度）主修计算机科学并且拥有一台个人计算机。这个组一个学生拥有一台个人电脑的概率是98%（置信度，或确定度）。 分类与预测不同，因为前者的作用是构造一系列能描述和区分数据类型或概念的模型（或功能），而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的相似性是他们都是预测的工具： 分类被用作预测目标数据的类的标签，而预测典型的应用是预测缺失的数字型数据的值。 聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式，将观测组织成类分 层结构，把类似的事件组织在一起。 数据演变分析描述和模型化随时间变化的对象的规律或趋势，尽管这可能包括时间相关数据的特征化、区分、关联和相关分析、分类、或预测，这种分析的明确特征包括时间序列数据分析、序列或周期模式匹配、和基于相似性的数据分析 2.3 假设给定的数据集的值已经分组为区间。区间和对应的频率如下。――――――――――――――――――――――――――――――――――――― 年龄频率――――――――――――――――――――――――――――――――――――― 1~5 200 5~15 450 15~20 300 20~50 1500 50~80 700 80~110 44 ―――――――――――――――――――――――――――――――――――――计算数据的近似中位数值。 解答：先判定中位数区间：N=200+450+300+1500+700+44=3194；N/2=1597 ∵ 200+450+300=950<1597<2450=950+1500； ∴ 20~50 对应中位数区间。
第一章作业 1．数据库与数据仓库的本质差别是什么？书P2 （1）数据库用于事务处理，数据仓库用于决策分析。（2）数据库保持事物处理的当前状态，数据仓库即保存过去的数据又保存当前的数据。（3）数据仓库的数据是大量数据库的集成。（4）对数据库的操作比较明确，操作数量较小。对数据仓库操作不明确，操作数据量大。 2．从数据库发展到数据仓库的原因是什么？书P1 （1）数据库数据太多，信息贫乏。如何将大量的数据转化为辅助决策信息成为了研究热点。（2）异构环境数据的转换和共享。随着各类数据库产品的增加，异构环境的数据也逐渐增加，如何实现这些异构环境数据的转换的共享也成了研究热点。（3）利用数据进行事物处理转变为利用数据支持决策。 3．举例说明数据库与数据仓库的不同。 比如，银行中储蓄业务要建立储蓄数据库，信用卡要建立信用卡数据库，贷款业务要建立贷款数据库，这些数据库方便了银行的事务处理。但是要对这些独立数据库进行决策分析就很复杂了。因此可以把这些数据库中的数据存储转化到数据仓库中，方便进行决策。 4. OLTP(On Line Transaction Processing,联机事物处理)是在网络环境下的事务处理工作，以快速的响应和频繁的数据修改为特征，使用户利用数据库能够快速地处理具体的业务。 OLAP（On Line Analytical Processing，联机分析处理）是使用多维数据库和多维分析的方法，对多个关系数据库共同进行大量的综合计算来得到结果的方法。 5. OLTP是用户的数据可以立即传送到计算中心进行处理，并在很短的时间内给出处理结果。 6. OLTP OLAP 细节性数据综合性数据 当前数据历史数据 经常更新不更新，但周期性刷新 一次性处理的数据量小一次处理的数据量大 对响应时间要求高响应时间合理 面向应用，事务驱动面向分析，分析驱动 7．包括数据项、数据结构、数据流、数据存储和处理过程五个部分。 8．定义为关于数据的数据，描述数据仓库中数据及其环境的数据。 9．元数据不仅仅是数据仓库的字典，而且还是数据仓库本身功能的说明数据，是整个数据仓库的核心。数据字典是关于数据库中数据的描述，而不是数据本身，数据字典是数据库的元数据。 10 .数据仓库的定义是什么？ 答：（1）W.H.Inmon对数据仓库的定义：数据仓库是面向主题的，集成的、稳定的、不同时间的数据集合，用于支持经营管理中决策制定过程。 （2）SAS软件研究所的观点：数据仓库是一种管理技术，旨在通过通畅、合理、全面的信息管理，达到有限的决策支持。 从数据仓库定义可以看出，数据仓库是明确为决策支持服务的，而数据库是为事务处理服务的。
1.音乐分类的数据集 在这个题目中，使用了SVM分类器和贝叶斯分类器，并通过sklearn库中的GridSearchCV方法对SVM分类模型的参数进行调优，使最终的正确率提高了5个百分点左右。但仍没有文档中的论文达到的分类正确率高，因为论文中的分类器的设计使专一对音乐音调分类的，其中设计到神经网络和深度学习的一些方法。而我使用的分类器使对大部分分类问题都有效的方法。下面是对数据集的一个简单的介绍： 数据标签 第3-14列:YES or NO 第15列:共16个取值('D', 'G#', 'D#', 'Bb', 'Db', 'F#', 'Eb', 'F', 'C#', 'Ab', 'B', 'C', 'A#', 'A', 'G', 'E') 第16列:共5个取值(1,2,3,4,5) 第17列:共102个类别('C#M', 'F_m', 'D_m', 'D_d7', 'G#m', 'D_m6', 'C_m6', 'C_d7', 'F_M', 'D_M', 'BbM7', 'F#d', 'C#d', 'E_d', 'F_d7', 'F#d7', 'G_m', 'C#d7', 'AbM', 'EbM', 'D#d', 'Bbm6', 'G_M7', 'F#m6', 'Dbd', 'B_m6', 'G#M', 'D_m7', 'B_M', 'F#M7', 'Bbm', 'A#d', 'D#d7', 'Abd', 'G_M', 'F#M4', 'E_M', 'A_M4', 'E_m7', 'D#M', 'C_M7', 'A_m6', 'Dbm', 'A#d7', 'F#M', 'C#m7', 'F_m7', 'C_M', 'C#M4', 'F_M6', 'A_M', 'G_m6', 'D_M4', 'F_M7', 'B_M7', 'E_M4', 'E_m6', 'A_m4', 'G#d', 'C_m7', 'C_M6', 'Abm', 'F_m6', 'G_m7', 'F_d', 'Bbd', 'G_M4', 'B_d', 'A_M7', 'E_m', 'C#M7', 'DbM', 'EbM7', 'C#d6', 'F#m', 'G_M6', 'G_d', 'Dbd7', 'B_m7', 'DbM7', 'D_M6', 'D#d6', 'G#d7', 'A_m7', 'B_d7', 'B_M4', 'A_d', 'A_m', 'C_d6', 'D#m', 'C_M4', 'A_M6', 'BbM', 'C#m', 'D_M7', 'E_M7', 'F_M4', 'F#m7', 'Dbm7', 'B_m', 'C_m', 'Ebd') 这是一个多分类问题 1.1数据读取与训练集和测试集分离
浙江大学远程教育学院 《数据挖掘》课程作业 姓名：学号： 年级：学习中心：————————————————————————————— 第一章引言 一、填空题 （1）数据库中的知识挖掘(KDD)包括以下七个步骤：数据清理、数据集成、数据选择、数据交换、数据挖掘、模式评估和知识表示 （2）数据挖掘的性能问题主要包括：算法的效率、可扩展性和并行处理 （3）当前的数据挖掘研究中，最主要的三个研究方向是：统计学、数据库技术和机器学习 （4）孤立点是指：一些与数据的一般行为或模型不一致的孤立数据 二、简答题 （1）什么是数据挖掘？ 答：数据挖掘指的是从大量的数据中挖掘出那些令人感兴趣的、有用的、隐含的、先前未知的和可能有用的模式或知识。 （2）一个典型的数据挖掘系统应该包括哪些组成部分？ 答：一个典型的数据挖掘系统应该包括以下部分：1、数据库、数据仓库或其他信息库，2、数据库或数据仓库服务器，3、知识库，4、数据挖掘引擎，5、模式评估魔磕，6图形用户界面。 （3）Web挖掘包括哪些步骤？ 答：数据清理：（这个可能要占用过程60%的工作量）、数据集成、将数据存入数据仓库、建立数据立方体、选择用来进行数据挖掘的数据、数据挖掘（选择适当的算法来找到感兴趣的模式）、展现挖掘结果、将模式或者知识应用或者存入知识库。 （4）请列举数据挖掘应用常见的数据源。 （或者说，我们都在什么样的数据上进行数据挖掘） 答：常见的数据源包括关系数据库、数据仓库、事务数据库和高级数据库系统和信息库。其中高级数据库系统和信息库包括：空间数据库、时间数据库和时间序列数据库、流数据、多媒体数据库、面向对象数据库和对象——关系数据库、异种数据库和遗产数据库、文本数据库和万维网等。
Data Mining Take Home Exam 学号: xxxx 姓名: xxx （1）计算整个数据集的Gini指标值。 （2）计算属性性别的Gini指标值 （3）计算使用多路划分属性车型的Gini指标值 （4）计算使用多路划分属性衬衣尺码的Gini指标值 （5）下面哪个属性更好，性别、车型还是衬衣尺码为什么 (3)
/20+{1-(1/8)^2-(7/8)^2}*8/20=26/160 = /4)^2-(2/4)^2}*4/20]*2=8/2 5+6/35= (5) 比较上面各属性的Gini值大小可知，车型划分Gini值最小，即使用车型属性更好。 2. （ (1) 将每个事务ID视为一个购物篮，计算项集{e}，{b,d} 和{b,d,e}的支持度。（2）使用（1）的计算结果，计算关联规则{b,d}→{e}和{e}→{b,d}的置信度。（3）将每个顾客ID作为一个购物篮，重复（1）。应当将每个项看作一个二元变量（如果一个项在顾客的购买事务中至少出现一次，则为1，否则，为0）。（4）使用（3）的计算结果，计算关联规则{b,d}→{e}和{e}→{b,d}的置信度。答：（1）由上表计数可得{ｅ}的支持度为8/10=；{ｂ，ｄ}的支持度为2/10=；｛b,d,e｝ 的支持度为2/10=。 （2）c[{b,d}→{e}]=2/8=; c[{e}→{b,d}]=8/2=4。 （3）同理可得：{e}的支持度为4/5=，{b,d}的支持度为5/5=1，{b,d,e}的支持度为4/5=。
（4）c[{b,d}→{e}]=5/4=，c[{e}→{b,d}]=4/5=。 3. （20分）以下是多元回归分析的部分R输出结果。 > ls1=lm(y~x1+x2) > anova(ls1) Df Sum Sq Mean Sq F value Pr(>F) x1 1 *** x2 1 ** Residuals 7 > ls2<-lm(y~x2+x1) > anova(ls2) Df Sum Sq Mean Sq F value Pr(>F) x2 1 ** x1 1 *** Residuals 7 （1）用F检验来检验以下假设(α = H0: β1 = 0 H a: β1≠ 0 计算检验统计量；是否拒绝零假设，为什么 （2）用F检验来检验以下假设(α = H0: β2 = 0 H a: β2≠ 0 计算检验统计量；是否拒绝零假设，为什么 （3）用F检验来检验以下假设(α = H0: β1 = β2 = 0 H a: β1和β2 并不都等于零 计算检验统计量；是否拒绝零假设，为什么 解：（1）根据第一个输出结果F=>F（2，7）=，p<，所以可以拒绝原假设，即得到不等于0。 （2）同理，在α=的条件下，F=>F(2,7)=，p<，即拒绝原假设，得到不等于0。（3）F={（+）/2}/（7）=>F=(2,7)=,即拒绝原假设，得到和并不都等于0。 4. （20分）考虑下面20个观测值： [1] [6] [11] [16]
期末大作业 数据挖掘和基于数据的决策是目前非常重要的研究领域，是从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的特殊过程。在商业上，数据挖掘是一种决策支持过程，它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等，高度自动化地分析技术，可用于分析企业数据，做出归纳性的推理，从中挖掘出潜在的模式，帮助决策者调整市场策略，减少风险，做出正确的决策。 本次作业要求完成一个相亲配对程序，让相亲者更容易找到自己的意中人。查阅相关文献，以python为工具实现K-近邻算法，从而完成一个基本版的相亲配对系统，在此基础上深入研究聚类算法（K-近邻算法为其中一种），讨论各种聚类思路及算法优劣，完成相应的研究论文。 基本的设计思路提示如下：利用附件datingTestSet.txt文档中提供的三种属性（前三列，其中第1列为对方每年出差/旅行的公里数，第2列为对方玩游戏消耗时间的百分比，第3列为对方每周消费的冷饮公升数）作为测度是否和对方匹配的标准。附件文件第4列表示了你遇到此类人产生的好恶情感，其中largeDoses表示对你极有吸引力，smallDoses表示对你吸引力一般，didntLike 表示是你不喜欢的类型。利用此文件提供的数据，以K-近邻算法为工具，进行数据挖掘，发现你的喜好标准，对新的未标定的待匹配方（即只有前三行数据）给出第4行的好恶情感标签（即largeDoses、smallDoses或didntLike）。 具体要求如下： 1.查找文献，理解完整的K-近邻算法；
2.使用python语言编程实现K-近邻算法，解决相亲配对这一明确的应用问题； 3.撰写的研究论文要有关于聚类算法的详细叙述，论文中的算法应该与程序实 现的算法相印证。 大作业要求： 1.自己设计解决方案，简易的解决方案得分较低，完整的解决方案，即使部分 完成，得分也会较高； 2.作业上交形式为电子版文件。所有文件打包为一个文件，以“学号+姓名” 的方式命名； 3.算法的python源程序（py文件）； 4.对此问题进行研究得到的研究性论文，论文包括前言（简介），算法部分（算 法流程图为核心），程序设计部分（程序流程图为核心），实验结果和分析，小结等内容（doc文件）； 5.论文必须有规范的发表论文格式，包括题目、作者、单位、摘要、关键字、 正文及参考文献； 6.附有少量参考资料。 字数：论文部分字数限于2000±300，太多太少均扣分。 上交期限：19周周日，由学习委员收齐统一上交。 抄袭0分！
数据挖掘——概念概念与技术 Data Mining Concepts and T echniques 习题答案 第1章引言 1.1 什么是数据挖掘？在你的回答中，针对以下问题： 1.2 1.6 定义下列数据挖掘功能：特征化、区分、关联和相关分析、预测 聚类和演变分析。使用你熟悉的现实生活的数据库，给出每种数据 挖掘功能的例子。 解答： ?特征化是一个目标类数据的一般特性或特性的汇总。例如，学生的特征可被提出，形成所有大学的计算机科学专业一年级学生的轮廓， 这些特征包括作为一种高的年级平均成绩(GPA：Grade point aversge) 的信息，还有所修的课程的最大数量。 ?区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比较。例如，具有高GPA 的学生的一般特性可被用来 与具有低GPA 的一般特性比较。最终的描述可能是学生的一个一 般可比较的轮廓，就像具有高GPA 的学生的75%是四年级计算机科 学专业的学生，而具有低GPA 的学生的65%不是。 ?关联是指发现关联规则，这些规则表示一起频繁发生在给定数据集的特征值的条件。例如，一个数据挖掘系统可能发现的关联规则 为： major(X, “c omputing science”) owns(X, “personal computer”) [support=12%, c onfid e nce=98%] 其中，X 是一个表示学生的变量。这个规则指出正在学习的学生，12% （支持度）主修计算机科学并且拥有一台个人计算机。这个组一个学 生拥有一台个人电脑的概率是98%（置信度，或确定度）。 ?分类与预测不同，因为前者的作用是构造一系列能描述和区分数据类型或概念的模型（或功能），而后者是建立一个模型去预测缺失的 或无效的、并且通常是数字的数据值。它们的相似性是他们都是预 测的工具：分类被用作预测目标数据的类的标签，而预测典型的应用 是预测缺失的数字型数据的值。 ?聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式，将观测组织成类分层结构，把类似的事件组织在一起。 ?数据延边分析描述和模型化随时间变化的对象的规律或趋势，尽管这可能包括时间相关数据的特征化、区分、关联和相关分析、分类、或预测， 这种分析的明确特征包括时间序列数据分析、序列或周期模式匹配、和 基于相似性的数据分析 1.3 1.9 列举并描述说明数据挖掘任务的五种原语。 解答： 用于指定数据挖掘任务的五种原语是：
简略介绍如下聚类方法：划分方法、层次方法。每种给出两个例子。 (1)划分方法：给定一个有N个对象的集合，划分方法构造数据的K个分区，每一个分区表示一个簇，且K≤N。而且这K个分组满足下列条件：第一，每一个分组至少包含一条记录；第二，每一条记录属于且仅属于一个分组(注意：这个要求在某些模糊聚类算法中可以放宽)；对于给定的K，算法首先给出一个初始的分组方法，以后通过反复迭代的方法改变分组，使得每一次改进之后的分组方案都较前一次好，而所谓好的标准就是：同一分组中的记录越近越好，而不同分组中的记录越远越好。 使用这个基本思想的算法有：K-MEANS 算法、K-MEDOIDS 算法、CLARANS 算法。 (2)层次方法：这种方法对给定的数据集进行层次似的分解，直到某种条件满足为止。具体又可分为“自底向上”和“自顶向下”两种方案。例如在“自底向上”方案中，初始时每一个数据记录都组成一个单独的组，在接下来的迭代中，它把那些相互邻近的组合并成一个组，直到所有的记录组成一个分组或者某个条件满足为止。 代表算法有：BIRCH 算法、CURE 算法、CHAMELEON 算法等。 假设数据挖掘的任务是将如下的8个点（用(x, y)代表位置）聚类为3个簇。 A1(2,10), A2(2,5), A3(8,4), B1(5,8), B2(7,5), B3(6,4), C1(1,2), C2(4,9)距离函数是欧氏距离。假设初始我们选择A1、B1和C1分别为每个簇的中心，用k-均值算法给出： （a）在第一轮执行后的3个簇中心。 （b）最后的3个簇。 (a)第一轮后, 三个新的簇为(1){A1} (2){B1,A3,B2,B3,C2} (3){C1,A2} 簇中心分别为(1) (2, 10), (2) (6, 6), (3) , . (b)最后3个簇为(1) {A1,C2,B1}, (2) {A3,B2,B3}, (3) {C1,A2}. k-均值和k-中心点算法都可以进行有效的聚类。 (a)概述k-均值和k-中心点相比较的优缺点。 (b)概述这两种方法与层次聚类方法(如AGNES)相比有何优缺点。 (a)当存在噪声和离群点时, k-中心点算法比k-均值具有更强的鲁棒性。因为在中心点不像均值那样容易受离群值或其他极端值影响。但是, 它的计算开销更大。 (b)k-均值和k-中心点都是划分方法。这种划分方法分优点是，可以撤销之前的聚类步骤(通过迭代迁移), 不像层次方法, 一旦执行了拆分或合并, 就不能做出调整。层次方法的这种弱点可能使产生的聚类的质量受到影响。 划分方法找球形簇的效果很好。一般来说,对于中小型数据库, 结果聚类的质量很好。他们需要提前知道簇的数量可以被认为是一个弱点。层次聚类方法可以自动确定集群的数量。然而,他们难以扩展,因为每个分裂或合并的决定可能要求大量对象或集群的检查和评价。然而, 层次方法可以与其他聚类方法集成, 改进聚类, 如BIRCH, ROCK, 和Chameleon. 聚类已经被认为是一种具有广泛应用的、重要的数据挖掘任务。对如下每种情况给出一个应用实例：
武汉大学计算机学院 2014级研究生“数据仓库和数据挖掘”课程期末考试试题 要求：所有的题目的解答均写在答题纸上，需写清楚题目的序号。每张答题纸都要写上姓名和学号。 一、单项选择题（每小题2分，共20分） 1. 下面列出的条目中，（）不是数据仓库的基本特征。B A.数据仓库是面向主题的 B.数据仓库是面向事务的 C.数据仓库的数据是相对稳定的 D.数据仓库的数据是反映历史变化的 2. 数据仓库是随着时间变化的，下面的描述不正确的是（）。 A.数据仓库随时间的变化不断增加新的数据内容 B.捕捉到的新数据会覆盖原来的快照 C.数据仓库随事件变化不断删去旧的数据内容C D.数据仓库中包含大量的综合数据，这些综合数据会随着时间的变化不断地进行重新综合 3. 以下关于数据仓库设计的说法中（）是错误的。A A.数据仓库项目的需求很难把握，所以不可能从用户的需求出发来进行数据仓库的设计，只能从数据出发进行设计 B.在进行数据仓库主题数据模型设计时，应该按面向部门业务应用的方式来设计数据模型 C.在进行数据仓库主题数据模型设计时要强调数据的集成性 D.在进行数据仓库概念模型设计时，需要设计实体关系图，给出数据表的划分，并给出每个属性的定义域 4. 以下关于OLAP的描述中（）是错误的。A A.一个多维数组可以表示为（维1，维2，…，维n） B.维的一个取值称为该维的一个维成员 C.OLAP是联机分析处理 D.OLAP是数据仓库进行分析决策的基础 5. 多维数据模型中，下列（）模式不属于多维模式。D A.星型模式 B.雪花模式 C.星座模式 D.网型模式 6. 通常频繁项集、频繁闭项集和最大频繁项集之间的关系是（）。C A.频繁项集?频繁闭项集?最大频繁项集 B.频繁项集?最大频繁项集?频繁闭项集 C.最大频繁项集?频繁闭项集?频繁项集 D.频繁闭项集?频繁项集?最大频繁项集