聚类分析法 常用的聚类方法有哪几种??
聚类分析，亦称群分析或点分析，是研究多要素事物分类问题的数量方法。其基本原理是，根据样本自身的属性，用数学方法按照某些相似性或差异性指标，定量地确定样本之间的亲疏关系，并按亲疏关系的程度对样本进行聚类（徐建华，1994）。
聚类分析方法，应用在地下水中，是在各种指标和质量级别标准约束条件下，通过样品的各项指标监测值综合聚类，以判别地下水质量的级别。常见的聚类分析方法有系统聚类法、模糊聚类法和灰色聚类法等。
（一）系统聚类法
系统聚类法的主要步骤有：数据标准化、相似性统计量计算和聚类。
1.数据标准化
在聚类分析中，聚类要素的选择是十分重要的，它直接影响分类结果的准确性和可靠性。在地下水质量研究中，被聚类的对象常常是多个要素构成的。不同要素的数据差异可能很大，这会对分类结果产生影响。因此当分类要素的对象确定之后，在进行聚类分析之前，首先对聚类要素进行数据标准化处理。
假设把所考虑的水质分析点（G）作为聚类对象（有m个），用i表示（i=1，2，…，m）；把影响水质的主要因素作为聚类指标（有n个），用j表示（j=1，2，…，n），它们所对应的要素数据可用表4-3给出。在聚类分析中，聚类要素的数据标准化的方法较多，一般采用标准差法和极差法。
表4-3 聚类对象与要素数据
对于第j个变量进行标准化，就是将xij变换为x′ij。
（1）总和标准化
区域地下水功能可持续性评价理论与方法研究
这种标准化方法所得的新数据x′ij满足
区域地下水功能可持续性评价理论与方法研究
（2）标准差标准化
区域地下水功能可持续性评价理论与方法研究
式中：
由这种标准化方法所得的新数据x′ij，各要素的平均值为0，标准差为1，即有
区域地下水功能可持续性评价理论与方法研究
（3）极差标准化
区域地下水功能可持续性评价理论与方法研究
经过这种标准化所得的新数据，各要素的极大值为1，极小值为0，其余的数值均在［0，1］闭区间内。
上述式中：xij为j变量实测值；xj为j变量的样本平均值；sj为样本标准差。
2.相似性统计量
系统聚类法要求给出一个能反映样品间相似程度的一个数字指标，需要找到能量度相似关系的统计量，这是系统聚类法的关键。
相似性统计量一般使用距离系数和相似系数进行计算。距离系数是把样品看成多维空间的点，用点间的距离来表示研究对象的紧密关系，距离越小，表明关系越密切。相似系数值表明样本和变量间的相似程度。
（1）距离系数
常采用欧几里得绝对距离，其中i样品与j样品距离dij为
区域地下水功能可持续性评价理论与方法研究
dij越小，表示i，j样品越相似。
（2）相似系数
常见的相似系数有夹角余弦和相关系数，计算公式为
1）夹角余弦
区域地下水功能可持续性评价理论与方法研究
在式（4-20）中：-1≤cosθij≤1。
2）相关系数
区域地下水功能可持续性评价理论与方法研究
式中：dij为i样品与j样品的欧几里得距离；cosθij为i样品与j样品的相似系数；rij为i样品与j样品的相关系数；xik为i样品第k个因子的实测值或标准化值；xjk为j样品第k个因子的实测值或标准化值；
3.聚类
在选定相似性统计量之后，根据计算结果构成距离或相似性系数矩阵（n×n），然后通过一定的方法把n个样品组合成不同等级的分类单位，对类进行并类，即将最相似的样品归为一组，然后，把次相似的样品归为分类级别较高的组。聚类主要有直接聚类法、距离聚类法（最短距离聚类法、最远距离聚类法）。
（1）直接聚类法
直接聚类法，是根据距离或相似系数矩阵的结构一次并类得到结果，是一种简便的聚类方法。它首先把各个分类对象单独视为一类，然后根据距离最小或相似系数最大的原则，依次选出一对分类对象，并成新类。如果一对分类对象正好属于已归的两类，则把这两类并为一类。每一次归并，都划去该对象所在的列与列序相同的行。经过n-1次把全部分类对象归为一类，最后根据归并的先后顺序作出聚类分析谱系图。
（2）距离聚类法
距离聚类法包括最短距离聚类法和最远距离聚类法。最短距离聚类法具有空间压缩性，而最远距离聚类法具有空间扩张性。这两种聚类方法关于类之间的距离计算可以用一个统一的公式表示：
区域地下水功能可持续性评价理论与方法研究
当γ=-0.5时，式（4-22）计算类之间的距离最短；当γ=0.5时，式（4-22）计算类之间的距离最远。
最短、最远距离法，是在原来的n×n距离矩阵的非对角元素中找出dpq=min（dij）或dpq=max（dij），把分类对象Gp和Gq归并为一新类Gr，然后按计算公式：
dpq=min（dpk，dqk）（k≠ p，q） （4-23）
dpq=max（dpk，dqk）（k≠ p，q） （4-24）
计算原来各类与新类之间的距离，这样就得到一个新的（n-1）阶的距离矩阵；再从新的距离矩阵中选出最小或最大的dij，把Gi和Gj归并成新类；再计算各类与新类的距离，直至各分类对象被归为一类为止。最后综合整个聚类过程，作出最短距离或最远距离聚类谱系图（图4-1）。
图4-1 地下水质量评价的聚类谱系图
（二）模糊聚类法
模糊聚类法是普通聚类方法的一种拓展，它是在聚类方法中引入模糊概念形成的。该方法评价地下水质量的主要步骤，包括数据标准化、标定和聚类3个方面（付雁鹏等，1987）。
1.数据标准化
在进行聚类过程中，由于所研究的各个变量绝对值不一样，所以直接使用原始数据进行计算就会突出绝对值大的变量，而降低绝对值小的变量作用，特别是在进行模糊聚类分析中，模糊运算要求必须将数据压缩在［0，1］之间。因此，模糊聚类计算的首要工作是解决数据标准化问题。数据标准化的方法见系统聚类分析法。
2.标定与聚类
所谓标定就是计算出被分类对象间的相似系数rij，从而确定论域集U上的模糊相似关系Rij。相似系数的求取，与系统聚类分析法相同。
聚类就是在已建立的模糊关系矩阵Rij上，给出不同的置信水平λ（λ∈［0，1］）进行截取，进而得到不同的分类。
聚类方法较多，主要有基于模糊等价关系基础上的聚类与基于最大树的聚类。
（1）模糊等价关系方法
所谓模糊等价关系，是指具有自反性（rii=1）、对称性（rij=rji）与传递性（R·R⊆R）的模糊关系。
基于模糊等价关系的模糊聚类分析方法的基本思想是：由于模糊等价关系R是论域集U与自己的直积U×U上的一个模糊子集，因此可以对R进行分解，当用λ-水平对R作截集时，截得的U×U的普通子集Rλ就是U上的一个普通等价关系，也就是得到了关于U中被分类对象元素的一种。当λ由1下降到0时，所得的分类由细变粗，逐渐归并，从而形成一个动态聚类谱系图（徐建华，1994）。此类分析方法的具体步骤如下。
第一步：模糊相似关系的建立，即计算各分类对象之间相似性统计量。
第二步：将模糊相似关系R改造为模糊等价关系R′。模糊等价关系要求满足自反性、对称性与传递性。一般而言，模糊相似关系满足自反性和对称性，但不满足传递性。因此，需要采用传递闭合的性质将模糊相似关系改造为模糊等价关系。改造的方法是将相似关系R自乘，即
R2=R·R
R4=R2·R2
︙
这样计算下去，直到：R2k=Rk·Rk=Rk，则R′=Rk便是一个模糊等价关系。
第三步：在不同的截集水平下进行聚类。
（2）最大树聚类方法
基于最大树的模糊聚类分析方法的基本思路是：最大树是一个不包含回路的连通图（图4-2）；选取λ水平对树枝进行截取，砍去权重低于λ 的枝，形成几个孤立的子树，每一棵子树就是一个类的集合。此类分析方法的具体步骤如下。
图4-2 最大聚类支撑树图
第一步：计算分类对象之间的模糊相似性统计量rij，构建最大树。
以所有被分类的对象为顶点，当两点间rij不等于0时，两点间可以用树干连接，这种连接是按rij从大到小的顺序依次进行的，从而构成最大树。
第二步：由最大树进行聚类分析。
选择某一λ值作截集，将树中小于λ值的树干砍断，使相连的结点构成一类，即子树，当λ由1到0时，所得到的分类由细变粗，各结点所代表的分类对象逐渐归并，从而形成一个动态聚类谱系图。
在聚类方法中，模糊聚类法比普通聚类法有较大的突破，简化了运算过程，使聚类法更易于掌握。
（三）灰色聚类法
灰色聚类是根据不同聚类指标所拥有的白化数，按几个灰类将聚类对象进行归纳，以判断该聚类对象属于哪一类。
灰色聚类应用于地下水水质评价中，是把所考虑的水质分析点作为聚类对象，用i表示（i=1，2，…，n）；把影响水质的主要因素作为聚类指标，用j表示（j=1，2，…，m），把水质级别作为聚类灰数（灰类），用k表示（k=1，2，3）即一级、二级、三级3个灰类（罗定贵等，1995）。
灰色聚类的主要步骤：确定聚类白化数、确定各灰色白化函数fjk、求标定聚类权重ηjk、求聚类系数和按最大原则确定聚类对象分类。
1.确定聚类白化数
当各灰类白化数在数量上相差悬殊时，为保证各指标间的可比性与等效性，必须进行白化数的无量纲化处理。即给出第i个聚类对象中第j个聚类指标所拥有的白化数，i=1，2，…，n；j=1，2，…，m。
2.确定各灰色白化函数
建立满足各指标、级别区间为最大白化函数值（等于1），偏离此区间愈远，白化函数愈小（趋于0）的功效函数fij（x）。根据监测值Cki，可在图上（图4-3）解析出相应的白化函数值fjk（Cik），j=1，2，…，m；k=1，2，3。
3.求标定聚类权重
根据式（4-25），计算得出聚类权重ηjk的矩阵（n×m）。
区域地下水功能可持续性评价理论与方法研究
式中：ηjk为第j个指标对第k个灰类的权重；λjk为白化函数的阈值（根据标准浓度而定）。
图4-3 白化函数图
注：图4-3白化函数f（x）∈［0，1］，具有下述特点：①平顶部分，表示该量的最佳程度。这部分的值为最佳值，即系数（权）为1，f（x）=max=1（峰值），x∈［x2，x3］。②白化函数是单调变化的，左边部分f（x）=L（x），单调增，x∈（x1，x2］，称为白化的左支函数；右边部分f（x）=R（x），单调减，x∈［x3，x4），称为白化的右支函数。③白化函数左右支函数对称。④白化函数，为了简便，一般是直线。⑤白化函数的起点和终点，一般来说是人为凭经验确定。
4.求聚类系数
σik=∑fjk（dij）ηjk （4-26）
式中：σik为第i个聚类对象属于第k个灰类的系数，i=1，2，…，n；k=1，2，3。
5.按最大原则确定聚类对象分类
由σik构造聚类向量矩阵，行向量最大者，确定k样品属于j级对应的级别。
用灰色聚类方法进行地下水水质评价，能最大限度地避免因人为因素而造成的“失真、失效”现象。
聚类方法计算相对复杂，但是计算结果与地下水质量标准级别对应性明显，能够较全面反映地下水质量状况，也是较高层次定量研究地下水质量的重要方法。
如何运用聚类分析法？~
聚类分析法是理想的多变量统计技术，主要有分层聚类法和迭代聚类法。聚类通过把目标数据放入少数相对同源的组或“类”（cluster）里。分析表达数据，（1）通过一系列的检测将待测的一组基因的变异标准化，然后成对比较线性协方差。（2）通过把用最紧密关联的谱来放基因进行样本聚类，例如用简单的层级聚类（hierarchical clustering）方法。这种聚类亦可扩展到每个实验样本，利用一组基因总的线性相关进行聚类。（3）多维等级分析（multidimensional scaling analysis,MDS）是一种在二维Euclidean “距离”中显示实验样本相关的大约程度。（4）K-means方法聚类，通过重复再分配类成员来使“类”内分散度最小化的方法。
聚类方法有两个显著的局限：首先，要聚类结果要明确就需分离度很好（well-separated）的数据。几乎所有现存的算法都是从互相区别的不重叠的类数据中产生同样的聚类。但是，如果类是扩散且互相渗透，那么每种算法的的结果将有点不同。结果，每种算法界定的边界不清，每种聚类算法得到各自的最适结果，每个数据部分将产生单一的信息。为解释因不同算法使同样数据产生不同结果，必须注意判断不同的方式。对遗传学家来说，正确解释来自任一算法的聚类内容的实际结果是困难的（特别是边界）。最终，将需要经验可信度通过序列比较来指导聚类解释。
第二个局限由线性相关产生。上述的所有聚类方法分析的仅是简单的一对一的关系。因为只是成对的线性比较，大大减少发现表达类型关系的计算量，但忽视了生物系统多因素和非线性的特点。
从统计学的观点看，聚类分析是通过数据建模简化数据的一种方法。传统的统计聚类分析方法包括系统聚类法、分解法、加入法、动态聚类法、有序样品聚类、有重叠聚类和模糊聚类等。采用k-均值、k-中心点等算法的聚类分析工具已被加入到许多著名的统计分析软件包中，如SPSS、SAS等。
从机器学习的角度讲，簇相当于隐藏模式。聚类是搜索簇的无监督学习过程。与分类不同，无监督学习不依赖预先定义的类或带类标记的训练实例，需要由聚类学习算法自动确定标记，而分类学习的实例或数据对象有类别标记。聚类是观察式学习，而不是示例式的学习。
从实际应用的角度看，聚类分析是数据挖掘的主要任务之一。就数据挖掘功能而言，聚类能够作为一个独立的工具获得数据的分布状况，观察每一簇数据的特征，集中对特定的聚簇集合作进一步地分析。
聚类分析还可以作为其他数据挖掘任务（如分类、关联规则）的预处理步骤。
数据挖掘领域主要研究面向大型数据库、数据仓库的高效实用的聚类分析算法。
聚类分析是数据挖掘中的一个很活跃的研究领域，并提出了许多聚类算法。
这些算法可以被分为划分方法、层次方法、基于密度方法、基于网格方法和
基于模型方法。
1 划分方法(PAM:PArtitioning method) 首先创建k个划分，k为要创建的划分个数；然后利用一个循环
定位技术通过将对象从一个划分移到另一个划分来帮助改善划分质量。典型的划分方法包括：
k-means,k-medoids,CLARA(Clustering LARge Application),
CLARANS(Clustering Large Application based upon RANdomized Search).
FCM
2 层次方法(hierarchical method) 创建一个层次以分解给定的数据集。该方法可以分为自上
而下（分解）和自下而上（合并）两种操作方式。为弥补分解与合并的不足，层次合
并经常要与其它聚类方法相结合，如循环定位。典型的这类方法包括：
第一个是;BIRCH(Balanced Iterative Reducing and Clustering using Hierarchies) 方法，它首先利用树的结构对对象集进行划分；然后再利
用其它聚类方法对这些聚类进行优化。
第二个是CURE(Clustering Using REprisentatives) 方法，它利用固定数目代表对象来表示相应聚类；然后对各聚类按照指定
量（向聚类中心）进行收缩。
第三个是ROCK方法，它利用聚类间的连接进行聚类合并。
最后一个CHEMALOEN，它则是在层次聚类时构造动态模型。
3 基于密度方法，根据密度完成对象的聚类。它根据对象周围的密度（如
DBSCAN）不断增长聚类。典型的基于密度方法包括：
DBSCAN(Densit-based Spatial Clustering of Application with Noise):该算法通过不断生长足够高密
度区域来进行聚类；它能从含有噪声的空间数据库中发现任意形状的聚类。此方法将一个聚类定义
为一组“密度连接”的点集。
OPTICS(Ordering Points To Identify the Clustering Structure):并不明确产生一
个聚类，而是为自动交互的聚类分析计算出一个增强聚类顺序。。
4 基于网格方法，首先将对象空间划分为有限个单元以构成网格结构；然后利
用网格结构完成聚类。
STING(STatistical INformation Grid) 就是一个利用网格单元保存的统计信息进行基
于网格聚类的方法。
CLIQUE(Clustering In QUEst)和Wave-Cluster 则是一个将基于网格与基于密度相结合的方
法。
5 基于模型方法，它假设每个聚类的模型并发现适合相应模型的数据。典型的
基于模型方法包括：
统计方法COBWEB:是一个常用的且简单的增量式概念聚类方法。它的输入对象是采
用符号量（属性-值）对来加以描述的。采用分类树的形式来创建
一个层次聚类。
CLASSIT是COBWEB的另一个版本.。它可以对连续取值属性进行增量式聚
类。它为每个结点中的每个属性保存相应的连续正态分布（均值与方差）；并利
用一个改进的分类能力描述方法，即不象COBWEB那样计算离散属性（取值）
和而是对连续属性求积分。但是CLASSIT方法也存在与COBWEB类似的问题。
因此它们都不适合对大数据库进行聚类处理.
#易胆莺# 怎么用UPGMA法做聚类分析 -
(13826635666)： 聚类分析:将个体(样品)或者对象(变量)按相似程度(距离远近)划分类别,使得同一类中的元素之间的相似性比其他类的元素的相似性更强.目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化.其主要依据是聚到同一个数据集中的样
#易胆莺# 为什么要进行聚类分析
(13826635666)： 聚类分析是研究“物以类聚”的一种科学有效的方法,由实验测试得到的数据是原始数据,原始数据是没有进行分类的、无规律的、错综复杂的变量,要使得这些数据能够反映出一定的规律性或特殊的分类性,需要对数据或变量进行聚类分析,以使数据或变量呈现一定的分门别类的特征. 聚类分析的一般做法是:先确定聚类统计量,然后利用统计量对样品或者变量进行聚类,对n个样品进行聚类的方法称为Q型聚类,常用的统计量称为“距离”;对m个变量进行聚类的方法称为R型聚类,常用个统计量称为“相似系数”.
#易胆莺# 聚类分析的应用领域有哪些? -
(13826635666)： 聚类在以下几个领域中是非常有用的:模式分析的浏览、聚集、决策制定及机器学习,还包括数据挖掘、文件恢复、图像分割及模式分类.但在这些问题中,几乎没有有关数据的先验信息(如统计模型)可用,而用户又要求尽可能地对数据的可能性少进行假设.在这些限制条件下,聚类方法特别适合于查看数据点中的内在关系以对它们的结构进行评估.
#易胆莺# 谁知道系统聚类法 -
(13826635666)： 系统聚类法是聚类分析诸方法中用得最多的一种,其基本思想是:开始将 n个样品各自作为一类,并规定样品之间的距离和类与类之间的距离,然后将距离最近的两类合并成一个新类,计算新类与其它类的距离;重复进行两个最近类的合并,每次减少一类,直至所有的样品合并为一类.一般常用的有八种系统聚类方法,所有这些聚类方法的区别在于类与类之间距离的计算方法不同.
#易胆莺# 聚类分析主要解决什么类型的实际问题 -
(13826635666)： 主要解决实现不知道类别标签的样本集的分类问题.聚类其实也是实现分类的功能.聚类和分类的区别:分类是用知道类别标签的样本集去训练一个分类器,然后用该分类器对其他未知类别的样本进行归类,由于训练分类器用到了知道类别的样本,所以属于有导师学习;聚类是完全不知道各个样本的类别,按照一定的聚类度量准则直接进行聚类,所以属于无导师的学习. 聚类可以用在图像处理,模式识别,客户信息分析,金融分析,医学等很多领域.用模糊聚类进行图像分割就是一个非常典型的应
#易胆莺# 什么叫层次聚类分析 -
(13826635666)： 聚类通过把目标数据放入少数相对同源的组或“类”(cluster)里.分析表达数据,(1)通过一系列的检测将待测的一组基因的变异标准化,然后成对比较线性协方差.(2)通过把用最紧密关联的谱来放基因进行样本聚类,例如用简单的层级聚类(...
#易胆莺# 聚类分析的算法 -
(13826635666)： 聚类分析是数据挖掘中的一个很活跃的研究领域,并提出了许多聚类算法.传统的聚类算法可以被分为五类:划分方法、层次方法、基于密度方法、基于网格方法和基于模型方法. 1 划分方法(PAM:PArtitioning method) 首先创建k个划分,k...
#易胆莺# 哪位大神能介绍一下聚类分析法啊? -
(13826635666)： 聚类分析法是理想的多变量统计技术,主要有分层聚类法和迭代聚类分析法,聚类分析也称群分析 点群分析,是研究分类的一种多元统计方法
#易胆莺# 聚类分析方法如何选择 -
(13826635666)： 聚类分析指将物理或抽象对象的集合分组成为由类似的对象组成的多个类的分析过程.它是一种重要的人类行为.聚类分析的目标就是在相似的基础上收集数据来分类.聚类源于很多领域,包括数学,计算机科学,统计学,生物学和经济学.在不同的应用领域,很多聚类技术都得到了发展,这些技术方法被用作描述数据,衡量不同数据源间的相似性,以及把数据源分类到不同的簇中.
