请简要说明 Word2Vec 中的 Skip-gram 和 CBOW 模型的区别。
Word2Vec中的Skip-gram和CBOW模型的区别
Skip-gram模型是将目标词的上下文作为输入,预测目标词的概率分布;而CBOW模型是将目标词作为输入,预测目标词的上下文的概率分布。
示例:
在Skip-gram模型中,对于句子"The quick brown fox jumps over the lazy dog",目标词为"fox",上下文为"The quick brown jumps over the lazy dog"。
在CBOW模型中,对于句子"The quick brown fox jumps over the lazy dog",目标词为"fox",上下文为"quick brown jumps over the lazy"。