大模型基础名词概念

token:大模型处理数据的最基本单元,2个汉字约等于一个token,一个短单词约等于一个token

context:大模型每次处理任务时接收到的信息综合

context Windows:大模型的context最多能够存储tocken量

prompt:用户或者系统当前给大模型下达的具体指令或问题

  1. System Prompt(系统提示词)

会话最开头的全局设定,固定角色、约束、底线,属于上下文最顶层内容。

  1. User Prompt(用户提示词)

你每一轮手动发的问题、要求,追加到上下文末尾。

tool:大模型外部可调用的独立能力组件

mcp:统一规范了工具接入平台格式的标准协议

agent:能自主规划和调用工具,直至解决用户问题的程序

agent skills:相当于一份Markdown文档,针对具体问题给大模型规范一份标准回答格式

文档分为两部分,上半部分为元数据层,至少包含两个属性(name和description),下半部分为指令层

平台:一整套完整的集成化基础设施总和,不是单一零件,把 LLM大模型、上下文Context、Prompt管理、Tool工具、Agent调度、MCP协议、账号权限、监控计费、前端界面、安全审核 全部打包整合在一起,对外提供统一入口使用。

相关推荐
小羊没烦恼!3 天前
微服务化的基石——持续集成
java·大数据·word·powerpoint·.net
一隅论数智3 天前
给AI一张“业务概念地图“:本体如何从哲学走向企业智能
大数据·人工智能·经验分享·笔记·学习·学习方法·政务
尧炎科技3 天前
防潮抗变形,就选纯品梅花全桉多层板
大数据
程序员大阳3 天前
副队长大数据教程(5)--集群情况下虚拟机网络配置
大数据·集群·nat·网路
自由能燃气设备3 天前
商用全预混低氮冷凝锅炉免费方案vs付费方案对比+选型避坑指南
大数据·数据库·人工智能
科创致远3 天前
科创致远 ESOP 系统核心效能与实战价值展示
大数据·数据库·人工智能·精益工程
嘉立创FPC苗工3 天前
FPC与机器人的双向赋能,解锁智能装备进化新势能
大数据·人工智能·制造·fpc·电路板
AI职业加油站3 天前
AI智能体应用工程师证书:政策红利下的职业新风口
大数据·运维·人工智能·学习·职场发展
龙亘川3 天前
一网统管AI平台民生业务实践:基于城市数字底座赋能公积金业务服务升级
大数据·安全·智慧城市·开源软件·数据可视化·政务
码流子3 天前
高速公路安全监测实践:碰撞监测预警+物联网底座,从感知到处置的闭环
大数据·人工智能·物联网·算法·架构