技术栈

词表示

cooldream2009
1 年前
词向量·词表示·one-hot·上下文·分布式表示
词表示:语言与计算的桥梁在自然语言处理领域,词语的表示是一个基本挑战。将词语转换为计算机可以理解的符号,衡量词语之间的相似度,捕捉它们之间复杂的关系,是使机器能够理解和处理人类语言的关键任务。在本文中,我们将探讨各种词表示的方法,它们的优势、局限性以及为解决这些挑战而演变的技术。
lanmengyiyu
1 年前
人工智能·自然语言处理·word2vec·词表示
Word2Vec浅谈论文地址:Efficient Estimation of Word Representations in Vector Space 个人认为,word2vec主要解决的问题是one-hot中维度过高并且稀疏的问题。word2vec是Google团队在2013年发表的一篇paper,当时一经问世直接将NLP领域带到了一个新的高度,在2018年bert被提出之前,word2vec一直是NLP算法工程师追捧的预训练词向量模型。 Word2Vec是轻量级的神经网络,其模型仅仅包括输入层、隐藏层和输出层,模型框架根