机器学习中的度量——相似度

  • 时间:
  • 浏览:0
  • 来源:大发快三_快三网站_大发快三网站

      机器学习是时下流行AI技术中有一5个 多多有点痛 要的方向,无论是有监督学习还是无监督学习都使用各种“度量”来得到不同样本数据的差异度机会不同样本数据的同类 度。良好的“度量”可不可以 能 显著提高算法的分类或预测的准确率,本文中将介绍机器学习中各种“度量”,“度量”主要由并不是,分别为距离、同类 度和相关系数,距离的研究主体一般是线性空间中点;而同类 度研究主体是线性空间中向量;相关系数研究主体主可是我分布数据。本文主要介绍同类 度。

      Jaccard同类 度,机会叫做并交比。是用于比较样本集的同类 性与多样性的统计量。雅卡尔系数可不可以 量度有限样本集合的同类 度,其定义为有一5个 多多集合交集大小与并集大小之间的比例:

      设A和B是有一5个 多多集合,则A和B的Jaccard同类 度为:

\[ sim_{Jaccard}(A,B) = sim_{Jaccard}(B,A)=\frac{{\left| {A \cap B} \right|}}{{\left| {A \cup B} \right|}} = \frac{{\left| {A \cap B} \right|}}{{\left| A \right| + \left| B \right| - \left| {A \cap B} \right|}} \]

      若集合A和B完整一样则定义J(A,B)=1,显示0<=J(A,B)<=1



图1 集合A和集合B的交集和并集

      下面通过简单例子来说明Jaccard同类 度怎么可不可以计算的,设

      集合A = {“A”,“B”, “C”,“D“}

      集合B = {“A”,“B”, “E”,F“, “G”}

      A和B的并集A∪B = {“A”,“B”, “C”,“D“, “E”,“F”, “G”}

      A和B的交集A∩B = {“A”, “B” }

      很多很多 |A∪B| = 7, | A∩B| =2

      很多很多 A和B的Jaccard同类 度为2/7

      余弦同类 度通过测量有一5个 多多向量内积空间的夹角的余弦值来度量它们之间的同类 性。0度角的余弦值是1,而许多任何厚度的余弦值前会 大于1。用向量空间中有一5个 多多向量夹角的余弦值作为衡量有一5个 多多个体间差异的大小的度量,也可是我衡量有一5个 多多向量在方向上的差别。

      机会向量a = (a1, a2,..., an) 和向量b = (b1, b2, ..., bn) 是有一5个 多多欧式空间点,则两向量的点积为a⋅b=|a|⋅|b|⋅cos⁡⟨a,b⟩,向量前会 有方向的量,cos⁡⟨a,b⟩可是我a和b夹角的余弦,很多很多 有一5个 多多向量a和b的余弦同类 度计算公式为:

\[\begin{array}{l} si{m_{Cos}}\left( {{\bf{a}},{\bf{b}}} \right){\rm{ = }}si{m_{Cos}}\left( {{\bf{a}},{\bf{b}}} \right) = \frac{{{\bf{a}} \cdot {\bf{b}}}}{{{{\left\| {\bf{a}} \right\|}_2}{{\left\| {\bf{b}} \right\|}_2}}} \\ \quad \quad \quad \quad \quad \quad \quad \quad \quad \; = \frac{{{a_1}{b_1} + {a_2}{b_2} + \cdots + {a_n}{b_n}}}{{\sqrt {a_1^2 + a_2^2 + \cdots + a_n^2} \sqrt {b_1^2 + b_2^2 + \cdots + b_n^2} }} \\ \end{array}\]

      比如向量x=(0,1,2)和y=(1,0,2),那末它们余弦距离为

\[\cos \left( {x,y} \right) = \frac{{0 \times 1 + 1 \times 0 + 2 \times 2}}{{\sqrt {{0^2} + {1^2} + {2^2}} \cdot \sqrt {{1^2} + {0^2} + 2} }} = \frac{4}{5}\]

      余弦同类 度通常用于信息检索中。在信息检索领域中,每个词条拥有不同的度,有一5个 多多文档是由有一5个 多多由有权值的社会形态向量表示的,权值的计算取决于词条在该文档中出显的频率。余弦同类 度许多可不可以 能 给出两篇文档其主题方面的同类 度。另外,它通常用于文本挖掘中的文件比较。此外,在数据挖掘领域中,用它来衡量集群内部人员的凝聚力。