请简要说明 Word2Vec 中的 Skip-gram 和 CBOW 模型的区别。

Word2Vec中的Skip-gram和CBOW模型的区别

Skip-gram模型是将目标词的上下文作为输入,预测目标词的概率分布;而CBOW模型是将目标词作为输入,预测目标词的上下文的概率分布。

示例:

在Skip-gram模型中,对于句子"The quick brown fox jumps over the lazy dog",目标词为"fox",上下文为"The quick brown jumps over the lazy dog"。

在CBOW模型中,对于句子"The quick brown fox jumps over the lazy dog",目标词为"fox",上下文为"quick brown jumps over the lazy"。