阿里云百炼开发AI大模型详解

AI项目功能设想描述文档

随着AI发展越来越迅速,各行各业都需考虑如何将AI结合到自己的产品中,目前国内大部分的AI问答网站,都是基于Open AI实现的,但是如何需要运用到企业产品中那我们考虑的因素就会比较多

将ChatGpt移植到企业中是否可以?

可以.但是并不满足企业需求

因为目前很多我们所见的ChatGpt网站都是基于Open Ai官网中的Open Ai Key实现的,我们通常在访问Open

Ai官网时也需要科学上网才能访问,在Open Ai官网中会出售Open Ai Key,我们使用Open Ai

Key就可以调用官方接口,实现人工智能服务(有了Open Ai Key后不需要科学上网就可以调用接口)

所以我们遇到的问题有:

1.需要科学上网才能购买到Open Ai Key,但OpenAI公司可能出于合规性、法律或商业考虑,并未对国内开放使用ChatGPT官网,如果我们自己玩玩是没啥,但是用于商业用途上还是不太明智,另一方面国内认为ChatGPT官网被认为包含敏感内容或违反相关规定(这两者也是在国内无法访问的原因)

2.如果是纯粹的AI对话并没有对我们企业所涉猎的领域有针对性的帮助,客户也不会觉得有什么亮点,因为AI回答的问题也是大同小异(如何只是想满足对话,不如直接把别人做好的网站镶嵌到我们的网站里,然后开个VIP,成本最低)

其他设想

那企业想要实现"业务+人工智能"就只能走其他路了

1.招一批懂大数据的人员,自己开发企业大模型

(1)前期成本比较高,如果有大规模的AI相关的产业可以考虑

2.借助其他企业成熟的产品

阿里云百炼

目前阿里云百炼就提供了一个大模型服务平台

那他对企业的优点是什么呢?

我们在使用阿里云百炼时,创建应用时可以选择里的不同语言模型,每个模型对应的问答特点都不同,所有应用一开始就会有一些他们内置的基本问答,其次我们可以对我们不同应用进行不同的业务处理,阿里云百炼可以针对每个应用进行文档"投喂",我们和人工智能对话时会优先输出我们的文档中的答案,然后自己在补充点答案,这样我们对每个不同的项目都可以进行着重点不同的处理,极大降低运维成本

如何管理大模型

例如我们有3个关于项目的项目,我们首先可以上传一些针对我们所负责的项目通用的文档,然后在对每个项目进行不同的"投喂",形成每个独立的大模型,当然它也可以关联不同项目的知识库,用于及时补充更新模型数据

同时我们也可以针对一些问题,设置一些敏感词汇和上下文,保护企业隐私

问答能力

1.可调控回答的多样性

2.可设置回复的最大长度是2000tokens

3.可设置的最大上下文为30轮(设置输入模型的最大历史对话轮数,轮数越多,对话相关性越强)

实验性的功能

例如插件功能,可以让大模型实现例:python代码解释器/计算器/图片生成/夸克搜索...(部分功能后续可能要收费)

可控制的变量提示

可以给大模型设置
角色:

例:你扮演一位企业级智能客服专家,具备高效解决客户咨询、精准执行故障排查等核心职能,致力于为企业提供卓越的智能化客户服务解决方案。

技能:

例:技能1:客户咨询处理

快速响应:在接收到客户咨询时,迅速理解问题核心,以专业、友好的语气进行即时回复。

问题分类与转接:准确判断咨询性质,如技术问题、订单查询、售后服务等,并在必要时无缝转接至相应部门或人工客服。

限制:

数据保护:严格遵守企业数据安全政策与隐私法规,不得泄露客户敏感信息。

服务时段:按照企业设定的服务时间提供在线支持。

示例交互:

例:客户:我想了解一下你们最新推出的SaaS产品有哪些功能?

智能客服:您好!我们的SaaS产品主要包含以下几个核心功能:

  1. 自动化工作流
  2. 数据分析与报告
  3. 无缝协作
    如需了解更多详情或有其他疑问,请随时告诉我,我将竭诚为您服务

如何开发

目前阿里云百炼对每个项目都有三种不同的应用API,分别是:

1.Java

2.Python

3.Linux Curl

如何计费

计费单价:模型推理的计费单价随着模型服务、模型规格和计费模式而变化,例如,大语言类模型通常根据输入/输出的Token数量进行计费,语音识别类模型采用输入语音文件的时长进行计费。大语言模型通常采用输入(input)和输出(output)分别计费的方式,这是因为模型在推理过程中,输入和输出的资源消耗不同。

输入(input)计费:针对用户向模型提交的请求数据进行计费。这包括了用户提交给模型的文本、图像、音频等原始数据。

输出(output)计费 :针对模型返回给用户的输出结果进行计费。这包括了模型生成的文本、图像、音频等处理结果。

Token是怎么计算的?

Token是模型用来表示自然语言文本的基本单位,可以直观地理解为"字"或"词"。具体说明如下:

对于中文文本,1个token通常对应一个汉字或词语。

对于英文文本,1个token通常对应3至4个字母或1个单词。

例如,中文文本"你好,我是通义千问"会被转换成序列['你好', ',', '我是', '通', '义', '千', '问']。

英文文本"Nice to meet you."则会被转换成['Nice', ' to', ' meet', ' you', '.']。

通义千问模型服务根据模型输入和输出的token数量进行计费,其中多轮对话中的history作为输入也会进行计费。

文档链接

开发文档详见:开发文档

计费详见:计费文档

免费福利:新用户30天额度福利

相关推荐
迅易科技13 分钟前
借助腾讯云质检平台的新范式,做工业制造企业质检的“AI慧眼”
人工智能·视觉检测·制造
古希腊掌管学习的神1 小时前
[机器学习]XGBoost(3)——确定树的结构
人工智能·机器学习
ZHOU_WUYI2 小时前
4.metagpt中的软件公司智能体 (ProjectManager 角色)
人工智能·metagpt
靴子学长2 小时前
基于字节大模型的论文翻译(含免费源码)
人工智能·深度学习·nlp
AI_NEW_COME3 小时前
知识库管理系统可扩展性深度测评
人工智能
海棠AI实验室4 小时前
AI的进阶之路:从机器学习到深度学习的演变(一)
人工智能·深度学习·机器学习
hunteritself4 小时前
AI Weekly『12月16-22日』:OpenAI公布o3,谷歌发布首个推理模型,GitHub Copilot免费版上线!
人工智能·gpt·chatgpt·github·openai·copilot
IT古董4 小时前
【机器学习】机器学习的基本分类-强化学习-策略梯度(Policy Gradient,PG)
人工智能·机器学习·分类
centurysee4 小时前
【最佳实践】Anthropic:Agentic系统实践案例
人工智能
mahuifa4 小时前
混合开发环境---使用编程AI辅助开发Qt
人工智能·vscode·qt·qtcreator·编程ai