当前位置：网站首页>技术干货 | 基于 MindSpore 实现 CosineSimilarity

技术干货 | 基于 MindSpore 实现 CosineSimilarity

2022-07-20 02:58:00 【昇思MindSpore】

Embedding Similarity 介绍

原理介绍及公式

Embedding Similarity，顾名思义就是通过嵌入向量来计算相似度，这个评价指标在网上的资料比较少，我今天来总结一哈。

相似度度量（Similarity），即计算个体间的相似程度，相似度度量的值越小，说明个体间相似度越小，相似度的值越大说明个体差异越大。

对于多个不同的文本或者短文本对话消息要来计算他们之间的相似度如何，一个好的做法就是将这些文本中词语，映射到向量空间，形成文本中文字和向量数据的映射关系，通过计算几个或者多个不同的向量的差异的大小，来计算文本的相似度。

MindSpore 代码实现

好了，原理已经讲完，话不多说，我们开始上代码。使用的是MindSpore框架实现的代码。

"""CosineSimilarity."""
import numpy as np
from mindspore._checkparam import Validator as validator
from .metric import Metric


class CosineSimilarity(Metric):
    def __init__(self, similarity='cosine', reduction='none', zero_diagonal=True):
        super().__init__()
        similarity_list = ['dot', 'cosine']
        reduction_list = ['none', 'sum', 'mean']
        similarity = validator.check_value_type("similarity", similarity, [str])
        # 度量方式有两种，dot和cosine
        self.similarity = validator.check_string(similarity, similarity_list, "similarity")
        # reduction有三种，none', 'sum', 'mean'
        reduction = validator.check_value_type("reduction", reduction, [str])
        self.reduction = validator.check_string(reduction, reduction_list, "reduction")
        self.zero_diagonal = validator.check_value_type("zero_diagonal", zero_diagonal, [bool])
        self.clear()

    def clear(self):
        """清除历史数据"""
        self.sqr_mtx_res = 0
        self._is_update = False

    def update(self, *inputs):
        """
        更新输入数据，输入为1个
        """
        # 输入必须是一个tensor，numpy或者list
        input_data = self._convert_data(inputs[0])
        # 选择使用的度量方式
        if self.similarity == 'cosine':
            data = np.linalg.norm(input_data, ord=2, axis=1)
            input_data = input_data / np.expand_dims(data, 1)

        self.sqr_mtx_res = np.dot(input_data, input_data.transpose(1, 0))
        self._is_update = True

    def eval(self):
        """
         计算cosine similarity，返回的是一个矩阵
        """
        if not self._is_update:
            raise RuntimeError('Call the update method before calling eval.')

        if self.zero_diagonal:
            np.fill_diagonal(self.sqr_mtx_res, 0)

        if self.reduction == 'mean':
            self.sqr_mtx_res = np.mean(self.sqr_mtx_res, axis=-1)

        if self.reduction == 'sum':
            self.sqr_mtx_res = np.sum(self.sqr_mtx_res, axis=-1)

        return self.sqr_mtx_res

使用方法如下：

import numpy as np
from mindspore.nn.metrics import CosineSimilarity

test_data = np.array([[5, 8, 3, 2], [5, 8, 3, 2], [4, 2, 3, 4]])
metric = CosineSimilarity()
metric.clear()
metric.update(test_data)
square_matrix = metric.eval()
print(square_matrix)

np.array([[0, 1, 0.78229315], [1, 0, 0.78229315], [0.78229315, 0.78229315, 0]])

这里说明一下，通常计算相似度都是有两个输入，比如A和B，通过Embedding similarity来计算两个输入的相似度，结果是一个数值。我们这里使用的是将A、B、C放到了一个矩阵里，比如 np.array([[5,8,3,2],[5,8,3,2],[4,2,3,4]])，