使用python进行自然语言处理的示例

程序功能

分词：将输入句子拆分为单词。

词性标注：为每个单词标注其词性。

命名实体识别：识别命名实体（如人名、地名、组织等）。

这段代码展示了如何用 nltk 进行基础的 NLP 任务，包括分词、词性标注和命名实体识别。

代码

import nltk
from nltk.tokenize import word_tokenize
from nltk.tag import pos_tag
from nltk.chunk import ne_chunk

# 下载nltk需要的资源
nltk.download('punkt')
nltk.download('averaged_perceptron_tagger')
nltk.download('maxent_ne_chunker')
nltk.download('words')

# 输入的示例句子
sentence = "Sun Wukong, the Monkey King, traveled from China to India with Tang Sanzang."

# 1. 分词
tokens = word_tokenize(sentence)
print("分词结果：", tokens)

# 2. 词性标注
tagged = pos_tag(tokens)
print("词性标注结果：", tagged)

# 3. 命名实体识别
entities = ne_chunk(tagged)
print("命名实体识别结果：")
print(entities)