大模型基础名词概念

token:大模型处理数据的最基本单元,2个汉字约等于一个token,一个短单词约等于一个token

context:大模型每次处理任务时接收到的信息综合

context Windows:大模型的context最多能够存储tocken量

prompt:用户或者系统当前给大模型下达的具体指令或问题

  1. System Prompt(系统提示词)

会话最开头的全局设定,固定角色、约束、底线,属于上下文最顶层内容。

  1. User Prompt(用户提示词)

你每一轮手动发的问题、要求,追加到上下文末尾。

tool:大模型外部可调用的独立能力组件

mcp:统一规范了工具接入平台格式的标准协议

agent:能自主规划和调用工具,直至解决用户问题的程序

agent skills:相当于一份Markdown文档,针对具体问题给大模型规范一份标准回答格式

文档分为两部分,上半部分为元数据层,至少包含两个属性(name和description),下半部分为指令层

平台:一整套完整的集成化基础设施总和,不是单一零件,把 LLM大模型、上下文Context、Prompt管理、Tool工具、Agent调度、MCP协议、账号权限、监控计费、前端界面、安全审核 全部打包整合在一起,对外提供统一入口使用。

相关推荐
Leo.yuan6 小时前
企业Data Agent架构选型:帆软Dora基于NL2BI的现有BI体系复用方案
大数据·人工智能
Elastic 中国社区官方博客7 小时前
一条 ES|QL 查询,涵盖365天的审计日志:在热数据和可搜索快照上执行相同的搜索
大数据·运维·服务器·elasticsearch·搜索引擎·全文检索
亚川楼宇自控系统数据中心厂家8 小时前
事故风机监控:守护机房电池间等特殊区域的安全底线
大数据·安全
科技看点说10 小时前
2026年AI安全上市公司梳理:产品、认证与商业化进展
大数据·人工智能
镜子AI10 小时前
RPA智能名单激活系统设计:拟人化触达引擎与风控机制实践(镜子AI技术拆解)
大数据·人工智能·rpa
水圈模拟10 小时前
一场洪水的 AI 推演
大数据·人工智能
对空六课10 小时前
指标口径生效时间的版本查询实现
大数据·服务器·前端·算法·数据分析
liliangcsdn10 小时前
服务消费参数指标的解析与应用
大数据
对空六课11 小时前
RFM分层边界变化的回溯计算
大数据·服务器·前端·数据库·人工智能·算法·数据分析
大大大大晴天11 小时前
每天认识一个组件:Spark Catalyst
大数据