vsm

胡牧之.8 个月前
矩阵·tf-idf·svd·词嵌入·vsm
词嵌入（一）：基于矩阵分解的静态词嵌入（VSM、TF-IDF、SVD）在Transformer中使用了词嵌入层，下文将先从几种直观的思路出发，说明其中的不足，然后提出一个理想的Word Representation应该需要满足哪些要求，将如今主要使用的词嵌入方法分为静态和动态进行说明，介绍实现的不同思路。 此处不讨论分词策略，仅讨论不同的词向量构建方法。