大语言模型LLM应用篇

大模型席卷全球,彷佛得模型者得天下。对于IT行业来说,以后可能没有各种软件了,只有各种各样的智体(Agent)调用各种各样的API。在这种大势下,笔者也阅读了很多大模型相关的资料,和很多新手一样,开始脑子里都是一团乱麻,随着相关文章越读越多,再进行内容梳理,终于理清了一条清晰的脉络。笔者希望通过三篇文章总结(入门篇、原理篇和应用篇)将思路写下来,以便跟我一样的新手读者快速了解大模型的方方面面。在这里,笔者先强调一下,本系列文章的深度有限,只是个人对大模型知识脉络的梳理,同时也会借鉴一下同行的博客内容充实本文,文末将会注明参考来源。

本文着重介绍大语言模型本身的开发应用,而不是大模型在行业的应用,如果要了解在行业的应用,读者可以直接上字节跳动的Coze平台或者百度的千帆平台,上面已经有很多通过大模型实现的智能体Agent,也许有一款满足你的需求。

笔者认为大语言模型本身的开发应用可以分为三层:

  • 模型基础研发

    从0开始研发大模型或者基于现有开源模型打造自己的大模型,这种方式需要大量人才和资金,成本非常高。

  • 模型定制优化

    基于现有模型进行调整优化,打造满足自身需求的定制化大模型。该方式定制化程度比较高,成本投入相对较多。主要实现方式有三种:

    • 模型训练(Training)
    • 模型微调(FineTune)
    • 提示词工程(Prompt Engneering)
  • 模型应用开发

    针对用户需求,基于大模型开发各种AI应用。该方式投入成本比较少,实现速度快。目前开发AI应用有两个途径:

    • 基于大模型开发框架实现,该方式需要进行编码。常用框架有:LangChain、AutoGPT等;
    • 基于AI开发平台实现,该方式无需编码。国内主要平台有:字节跳动Coze、百度的千帆平台。

笔者针对上述内容绘制了一张开发应用分层图,如下:

上图中每一个开发应用方向都值得我们深入研究,就看读者对哪个方向最感兴趣了。

相关推荐
IvanCodes7 小时前
RAG 实战教程(一):RAG 工作原理与完整流程——分片、索引、召回、重排和生成
人工智能·后端·agent
今天AI了吗7 小时前
合规场景下的 AI 推理可解释性:Attention 可视化与推理路径追踪的工程实践
人工智能
周末程序猿8 小时前
浅析大模型推理十二篇之KV Cache
人工智能
鱼樱前端8 小时前
用 AI 做内容变收入
前端·人工智能·ai编程
eric-sjq8 小时前
10 分钟实战:用 0.6B 本地模型生成中文网页(WanlyFrontend + 编译器全流程)
javascript·机器学习·自然语言处理·html
Dawson Zhu9 小时前
基于Palantir Foundry构建半导体制造AI友好型数据中台:从良率分析场景谈起
人工智能·语言模型·架构·制造·agi
fthux9 小时前
装闭 RenoPit 源码解析(04):装修图纸和合同文件上传处理流程
人工智能·ai·开源·github·open source·renopit
weixin_4462608510 小时前
从被动镜像到主动智能体:面向网络物理人工智能的整体论数字孪生(HDT-Net)
网络·人工智能
秋枫要学习10 小时前
你的鼠标,正在被 AI 抢走
人工智能·计算机外设