skip-gram

以玄幻小说方式打开深度学习词嵌入算法！！使用Skip-gram来完成 Word2Vec 词嵌入（Embedding）在浩瀚的修真界中，存在一种上古秘术名为《词嵌真经》。修士们发现，世间万物皆有其“道韵”，而语言中的每个字词都暗含天地法则。传统修炼方式需逐个参悟字词，耗时千年方能小成。

一文了解Word2vec 阐述训练流程在机器学习领域，嵌入（embeddings）的概念无疑是其中最令人兴奋的创新之一。想象一下，每当你与Siri、Google Assistant、Alexa或Google Translate互动，甚至在使用具有下一个词预测功能的手机输入法（比如苹果输入法、搜狗输入法）时，你其实都在享受词嵌入模型带来的便利。这些技术在过去几十年里取得了巨大进步，尤其是近期基于上下文的词嵌入技术的发展，催生了BERT、GPT2、ChatGPT等领先的预训练模型。