华为OD-2024年E卷-中文分词模拟器[200分] -- python

问题描述:

给定一个连续不包含空格的字符串,该字符串仅包含英文小写字母及英文标点符号(逗号、分号、句号),同时给定词库,对该字符串进行精确分词。

说明:

  1. 精确分词:字符串分词后,不会出现重叠。即"ilovechina",不同词库可分割为"i,love,china","ilove,china",不能分割出现重叠的"i,ilove,china",i 出现重叠
  2. 标点符号不成词,仅用于断句
  3. 词库:根据外部知识库统计出来的常用词汇例:dictionary = ["i", "love", "china", "lovechina", "ilove"]
  4. 分词原则:采用分词顺序优先且最长匹配原则"ilovechina",假设分词结果 [i,ilove,lo,love,ch,china,lovechina],则输出 [ilove,china]

错误输出:[i,lovechina],原因:"ilove" > 优先于 "lovechina" 成词

错误输出:[i,love,china],原因:"ilove" > "i"遵循最长匹配原则

输入描述

第一行输入待分词语句 "ilovechina"

字符串长度限制:0 < length < 256

第二行输入中文词库 "i,love,china,ch,na,ve,lo,this,is,this,word"

词库长度限制:1 < length < 100000

输出描述

按顺序输出分词结果 "i,love,china"

复制代码
ilovechina
i,love,china,ch,na,ve,lo,this,is,the,word

i,love,china

iat
i,love,china,ch,na,ve,lo,this,is,the,word,beauti,tiful,ful

i,a,t
#说明:单个字母,不在词库中且不成词则输出单个字母

解题思路:

按照分词规则:

  1. 分词顺序优先、不能重叠:分词从头开始,分完一个进入下一个
  2. 最长匹配原则:优先匹配最长符合条件的单词
  3. 英文标点符号:处理时将其加入ans结果列表,在输出ans时,判断是否需要额外补逗号','

可能的问题:由示例2可看出并没有保证词库单词能完全匹配目标字符串,如果当前最长匹配的单词,后续却没有其他单词能够与其组成目标字符串,会输出单个字母

代码实现:

python 复制代码
s = input()
arr = input().split(',')
ans = []
i = 0
while i < len(s):
    #标点符号处理:直接加入ans并跳过后续单词处理
    if not ('a' <= s[i] <= 'z'):
        ans.append(s[i])
        i += 1
        continue
    temp = s[i]
    curr_temp = s[i]
    curr_i = i+1
    #从当前字符开始,最长匹配,若curr_temp能在词库找到,则更新加入ans的temp及当前索引
    for j in range(i+1,len(s)):
        curr_temp += s[j]
        if curr_temp in arr:
            curr_i = j+1
            temp = curr_temp
    i = curr_i
    ans.append(temp)
#判断是否需要输出逗号','
for i in range(len(ans)):
    print(ans[i],end = '',sep = '')
    if i+1 < len(ans) and 'a' <= ans[i][0] <= 'z' and 'a' <= ans[i+1][0] <= 'z':
        print(',',end = '',sep = '')
相关推荐
金玉满堂@bj3 分钟前
PyCharm 中 Python 解释器的添加选项及作用
ide·python·pycharm
程序员三藏7 分钟前
如何使用Pytest进行测试?
自动化测试·软件测试·python·测试工具·职场和发展·测试用例·pytest
随心点儿43 分钟前
使用python 将多个docx文件合并为一个word
开发语言·python·多个word合并为一个
不学无术の码农1 小时前
《Effective Python》第十三章 测试与调试——使用 Mock 测试具有复杂依赖的代码
开发语言·python
sleepybear11131 小时前
在Ubuntu上从零开始编译并运行Home Assistant源码并集成HACS与小米开源的Ha Xiaomi Home
python·智能家居·小米·home assistant·米家·ha xiaomi home
纪伊路上盛名在1 小时前
(鱼书)深度学习入门1:python入门
人工智能·python·深度学习
夏末蝉未鸣011 小时前
python transformers笔记(TrainingArguments类)
python·自然语言处理·transformer
德育处主任Pro1 小时前
「py数据分析」04如何将 Python 爬取的数据保存为 CSV 文件
数据库·python·数据分析
咸鱼鲸1 小时前
【PyTorch】PyTorch中数据准备工作(AI生成)
人工智能·pytorch·python
遇见你很高兴2 小时前
Pycharm中体验通义灵码来AI辅助编程
python