大模型时代,如何快速开发AI应用

本文分享自华为云社区 《【云享问答】第3期:大模型时代,如何快速开发AI应用》,作者:华为云社区精选。

大模型快速普及应用的当下,AI浪潮汹涌而至,对于开发者来说,开发一款属于自己的AI应用并不是遥不可及。华为云AI生态技术专家、中科院计算所博士坐阵,从数据处理、算法开发、模型训练到部署,全方位拆解AI开发全流程,本期 【云享问答】 通过这14个问题,带你上手华为云一站式AI开发平台ModelArts,实现AI应用的快速开发。

Q1、AI开发的基本流程是怎样的?

一个典型的AI应用开发包括数据处理、算法开发、模型训练、模型部署等,在ModelArts上可以完成以上所有流程。数据处理主要是对上传到云端的数据进行标注和特征分析,算法开发可以使用ModelArts官方发布或自己开发的算法,模型训练即使用云上的CPU/GPU/NPU等资源创建训练作业,最终的模型部署可部署为在线服务或者边缘服务,可以参考这个👉免费案例 实操一下。

Q2、零基础小白,也可以快速上手AI开发吗?

零基础小白,可以使用ModelArts进行AI开发体验,推荐尝试ModelArts自动学习功能, 自动学习不需要AI能力和编码能力,只需上传数据,通过图像化界面操作即可完成模型训练和部署,当前支持图像分类、物体检测、预测分析、声音分类和文本分类等任务。 👉指导手册

也可以前往华为云AI开发交流社区------👉AI Gallery,里面有很多算法、模型、notebook等资产(这些资产的运行依赖的就是ModelArts),也有课程和讨论区。

Q3、华为云ModelArts是如何简化AI开发过程的?

简单的说,ModelArts解决了AI开发最关键的算力和算法获取问题:1、作为云平台,它提供非常方便的算力资源;2. AI Gallery作为社区,提供非常多开箱即用的模型。

AI开发包括多个步骤,每个步骤也有很多细节,ModelArts提供足够丰富的功能满足不同的需求。另一方面,ModelArts也提供了工作流能力(Workflow),覆盖数据标注、数据处理、模型开发/训练、模型评估、应用开发、应用评估等AI开发的多个步骤,使用者可以通过可视化配置运行开发好的工作流。

Q4、与本地开发相比, 在云上进行AI应用开发有什么优势?

以华为云一站式AI开发平台ModelArts为例,它的优势体现在:

  1. 数据智能标注、团队标注、特征分析,可以提高数据处理的效率;

  2. 自动学习、AI Gallery的预置算法,无需编写代码开发算法,可以快速进行实验;

  3. 推理部署,不用自己去开发Web服务、用户鉴权等模块,可以快速将模型部署成在线服务;

  4. 丰富的案例资料,在AI Gallery上可以学习了解当前热门的AI模型、算法等案例。

Q5、如何从本地IDE连接ModelArts,进行AI应用开发?

ModelArts支持通过本地IDE远程连接到云上的Notebook中,开发基于Pytorch、Tensorflow和MindSpore引擎的AI模型:👉具体操作指导参考

Q6、海量数据处理很繁琐,ModelArts可以简化这个流程吗?

可以的,ModelArts提供数据标注功能,即在云上提供图像、文本、音频、视频等数据的标注作业,除了人工标注外,ModelArts还提供自动标注、团队标注等;另外也提供数据特征分析功能,可以根据数据集中图片特征绘制曲线。

Q7、当前在ModelArts上能获得哪些公开的数据集?

数据集公开在AI Gallery上,一部分是常见的公开数据集,如ImageNet、COCO、CitySpaces、Imdb情感分析等;一部分是华为云以往的AI比赛中使用的数据集,如无人车比赛的交通标志识别、疲劳驾驶检测比赛的视频、OCR比赛的中英文购物小票等;最后就是开发者自发上传的各式数据集。可以去👉AI Gallery逛逛。

Q8、如何将本地训练的模型迁移上云?

我们既可以将模型部署到云上作为Web服务👉参考文档,也支持下发到端边侧
👉参考文档

如果自己线下训练的模型,部署到ModelArts平台成为一个API服务,不需要做模型转换,可以参考如下👉指导手册

Q9、其他格式的AI模型支持导入到ModelArts继续训练吗?

1、如果是简单的实验,可以用ModelArts的Notebook,这个环境比较自由,跟你在本地做AI开发差不多,比如Keras模型导入后用Keras API操作就行👉指导手册

2、如果是正式的训练/推理作业,需要适配ModelArts的规范,建议也是先参考1在Notebook里调通,再创建正式作业,需要注意的点是云上作业存储用的是华为云OBS(代码/数据需要先传到OBS),相关的规范可参考👉参考1👉参考2

Q10、ModelArts上会有训练好的开放模型吗?提供模型市场或线上调优服务吗?

模型资产发布在AI Gallery中,大部分没有公开权重,但是可以在ModelArts上部署使用,如往届华为云AI大赛的优秀作品;另外值得一提的是,最近火爆的开源大模型也陆续上架到AI Gallery中,如Stable Diffusion、MPT、Falcon等。

Q11、ModelArts中如何进行大规模分布式训练?

ModelArts主要支持数据并行方式的分布式训练,包括单机多卡、多机多卡,与单机单卡相比,借助PyTorch、MindSpore等框架能力,仅需修改几行代码即可。可参考以下链接👉了解详情和查看代码示例

Q12、目前ModelArts平台支持哪些AI框架?

PyTorch/TensorFlow/MindSpore都支持,CPU/GPU/Ascend版本都有。

Q13、ModelArts是否有像GPT那样的通用生成能力呢?

ModelArts是开发平台,你可以使用ModelArts开放自己的大语言模型,AI Gallery中也有👉ChatGLM这样的案例。

Q14、ModelArts会有一些支持开发者的活动吗?

近期上线了👉昇腾AI·玩转AIGC实战营活动,后续陆续有更多活动推出,敬请期待。

如果你有更多关于AI应用开发的问题,可以前往华为云开发者社区论坛提问,参与每个月的提问活动,有机会赢取精美礼品。

点击关注,第一时间了解华为云新鲜技术~

相关推荐
西西弗Sisyphus7 小时前
探索多模态大语言模型(MLLMs)的推理能力
人工智能·计算机视觉·语言模型·大模型
暮暮七19 小时前
理想很丰满的Ollama-OCR
linux·python·大模型·ocr·markdown·ollama
ibrahim2 天前
Llama 3.2 900亿参数视觉多模态大模型本地部署及案例展示
ai·大模型·llama·提示词
威化饼的一隅2 天前
【多模态】swift-3框架使用
人工智能·深度学习·大模型·swift·多模态
伯牙碎琴3 天前
智能体实战(需求分析助手)二、需求分析助手第一版实现(支持需求提取、整理、痛点分析、需求分类、优先级分析、需求文档生成等功能)
ai·大模型·agent·需求分析·智能体
聆思科技AI芯片3 天前
实操给桌面机器人加上超拟人音色
人工智能·机器人·大模型·aigc·多模态·智能音箱·语音交互
zaim13 天前
计算机的错误计算(一百八十七)
人工智能·ai·大模型·llm·错误·正弦/sin·误差/error
weixin_468466853 天前
医学影像数据集汇总分享
深度学习·目标检测·数据集·图像分割·机器视觉·医学影像·ct影像
Engineer-Yao4 天前
【win10+RAGFlow+Ollama】搭建本地大模型助手(教程+源码)
docker·大模型·win10·wsl·ollama·本地大模型·ragflow
AI程序猿人4 天前
三种Transformer模型中的注意力机制介绍及Pytorch实现:从自注意力到因果自注意力
人工智能·pytorch·深度学习·自然语言处理·大模型·transformer·llms