【Python机器学习】NLP概述——自然语言智商

就像人类的智能一样,如果不考虑多个智能维度,单凭一个智商分数是无法轻易衡量NLP流水线的能力的。

衡量机器人系统能力的一种常见方法是:根据系统行为的复杂性和所需的人类监督成都这两个维度来衡量。但是对自然语言处理流水线而言,其目标是建立一个完全自动化的自然语言处理系统,会消除所有的人工监督(一旦模型被训练和部署)。因此,一对更好的IQ维度应该能捕捉到自然语言流水线复杂的广度和深度。

像Alexa或Allo这样的消费产品聊天机器人或者虚拟助手,通常设计为具有极其广泛的知识和功能。然而,用于响应请求的逻辑往往比较浅显,通常由一组触发短语组成的,这些短语都使用单个if-then决策分支来生成相同的回复。Alexa的行为类似于一个单层的、扁平的(if...elif...elif...)语句树。

另一方面,谷歌翻译流水线依赖于一个由特征提取器、决策树和知识图谱组成的深层树结构,其中知识图谱连接着世界知识。有时,这些特征提取器、决策树和知识图谱被显式地编程到系统中。另一种快速超越这种手工编码流水线的方法是基于深度学习的数据驱动方法。深度神经网络的特征提取器是自动学习而不是硬编码的,但它们通常需要更多的训练数据才能达到与精心设计的算法相同的性能。

聊天机器人需要所有的NLP工具才能很好的工作:

1、特征提取(通常产生一个向量空间模型);

2、通过信息提取回答事实型问题;

3、通过语义搜索从自然语言文本或对话的历史记录中学习;

4、通过自然语言生成来构成有意义的新语句。

机器学习给我们一种方式,让机器表现得就像我们花了一辈子时间用数以百计的复杂正则表达式或算法在它身上一样。只需要提供用户语句以及期望聊天机器人模拟的回复的示例,我们就可以教会机器对正则表达式中定义的模式进行回复。而由机器学习产生的语言"模型",而有限状态机好得多,它们对拼写和录入错误不那么敏感。

此外,基于机器学习的NLP流水线更容易用编程实现,我们不需要预测语言符号的每一种可能用法,而只需要给训练流水线提供匹配和不匹配的短语样本。只需要在训练过程中给它们贴上标签,聊天机器人就知道哪些是正样本,哪些是负样本,它就会学会对正负样本进行区分,甚至还有一些机器学习方法,几乎不需要"标记"数据。

相关推荐
野小生3 分钟前
从零搭建越用越聪明的 AI 第二大脑:Claude Code + Obsidian 9 步实战
人工智能
猫先生Mr.Mao11 分钟前
具身智能语言规划之SayCan详解:让大模型“会说”,也让机器人“能做”
机器人·大语言模型·论文解读·具身智能·saycan
两万五千个小时11 分钟前
DeepSeek Harness 从 0 开始:09 System Prompt 模块(提示词组装)
人工智能·程序员·架构
刘海东刘海东16 分钟前
一条新的人工智能道路(刘海东)第一章、第二章
人工智能
刘新洲17 分钟前
我以为 AI Agent 只是调模型,直到我亲手补上审批、Outbox 和故障恢复
python·agent·fastapi
lovingsoft18 分钟前
AI Agent 不是复读机:一个“计划-观察-执行“闭环,把大模型从聊天框变成能闭环干活的实习生
人工智能
临江仙45518 分钟前
同一个 AI Agent 如何同时服务 Web、微信和 QQ:PureChat 的渠道架构实践
前端·人工智能·后端
码路漫漫20 分钟前
人类程序员还有用,记一次 GPT 把 Figma 两个接口搞反的事
人工智能·程序员
云存储小精灵22 分钟前
DeepSeek Harness COS 插件上线:让 Agent 管理文件更简单
人工智能·产品
乐橙开放平台27 分钟前
监控开放平台是什么?从设备接入到视频能力开放一次讲清
网络·人工智能·音视频