2023 re:Invent 使用 PartyRock 和 Amazon Bedrock 安全高效构建 AI 应用程序

前言

" Your Data , Your AI , Your Future .(你的数据,你的 AI ,你的未来。)

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点这里让它成为你的技术宝库!

如果问 2023 年,大家谈论频率最多的几个技术词汇,我想生成式 AI 、大模型一定有一席之地。

11 月 6 日,OpenAI 发布的 GPT Builder ,让 AI App 的开发门槛,降到了"搭积木"的程度。通过将应用开发程序封装进不同的流程模块,用户可以在 GPT Builder 中用设置参数的方式完成应用的开发。

怎样的开发模式,才能做到比 GPTs 的门槛更低?一年一度的 re:Invent 用PartyRock 给出了答案。只要一句话,就能搞定所有的开发流程。Swami 博士在开场中这样说道:"今天,人类和技术之间正展现出前所未有的紧密关系,生成式 AI 正以许多意想不到的方式提升人类的生产力。这种关系让人类与人工智能共同形成新的创新充满了无限可能性。"

以往的生成式 AI ,更像是一本自带操作手册的工具书,你需要遵循规则去不断的进行尝试,比如提示词工程、模型微调掌握各种技能,逐渐熟悉一个全新的领域。从创意到应用落地就更加离不开一定的编程基础了,如果你想创建有特色的AI 应用,又苦于自己不会编程,那么用 PartyRock 就可以很方便创建自定义的 GPT 。最近这是一次让所有普通人都能够平等的享受 AI 红利的机会。

PartyRock 提供的轻量化的 To C 应用的开发环境,无论你是否懂代码、懂架构,都可以快速搭建一个属于你自己的生成式 Al 应用。利用 PartyRock 以及其背后亚马逊云科技强大的生成式 Al 能力( PartyRock 由 Amazon Bedrock 提供支持,它是一项全面管理服务,借助 API 来使用领先各种人工智能基础模型),你可以用拖拽的方式构建一个自己的对话助手,设计一个人物角色生成器,甚至生成一款小游戏。

趁着大会发布,我也体验了一把快速探索 AI 应用的乐趣,接下来让我们动手实验一下吧!

PartyRock - 只需要一个 Idea ,轻松探索 AI 应用

之所以想用 PartyRock 做一些小应用,是源于我自己困扰的一些场景。

提高效率也好,放松娱乐也罢,一直以来个人习惯于将工作中的一些有意思的轮子保留下来,但是由于精力有限,很多 demo 是不连续性的,也意味着没有持续产出。伴随生成式 AI 火热起来,个人也尝试搭建过一些个人知识库。但是效果也比较有限,数据量级太小没有办法对于训练产生有效影响。所以不了了之。

实践下来,倒是一些轻量级的 AI 工具经常收藏,比如 AI 生成周报,AI 的格式整理工具,但是比较难以定制一些个性化需求,比如当我想对现有的工具影响它的输出,比如,我希望对于周报可以进行 AI 工时统计量化的需求,我便无能为力。

Everyone can build AI apps.

PartyRock 的官网简明扼要的概述了它的作用,让每个人都可以构建 AI 应用。PartyRock 的核心在于无代码的应用程序生成器,你可以向它提出任何要求,在短暂的等待后,会给你生成一个满足基本需求的 AI 应用。

一段话生成 AI 应用------面试宝典

一句话实现 AI 应用,真的这么神奇吗?这里我们在 APP builder 里输出一个具体的想法,尽量描述清楚应用的需求及细节,比如我们想要生成一个面试题库 APP ,输入我们的需求,PartyRock 是支持多语言的,我们这里提出中文需求,看看 AI 模型的理解程度,点击 Generate app 就开始生成了

稍等一到两分钟,一个面试题库 APP 就生成了,PartyRock 程序较好的理解了我们的语义,并且生成了一个程序。

通过输入关键词和难度,随机生成问题。用户回答后输出正确答案。

语义识别及 GUI 生成是最基础的,我们还是要实际使用下,生成软件的功能性是否满足我们的需求,

这里我们输入几个关键词: " CSS3 " "自适应" "兼容性" 选择难度为困难,可以看到 LLM 比较清晰的输出了一个选择题。

这里我们选择回答选项,验证一下结果,可以看到整个流程下来还是很好的满足了我们的需求。

体验到这里,我已经大体了解 PartyRock 的设计,不得不佩服 PartyRock 的脑洞还是很大的,通过生成式 AI+ 工作流的形式,解决了低代码时代的一些问题,在另一个维度实现了无代码编程。

这是一个跨时代的改变,之前的低代码工具大多定位很尴尬,对于程序员只能体现部分生产力的解放,并且随着业务量的积累,在制造轮子维护轮子及平衡定制中不得抽身。另一维度,对于无编程经验的人来说,拖拉拽的实现方式仍然不够友好,做出合格的 UE ,上手成本还是比较高。

与其他细分模型的 AI 助手而言,PartyRock 不仅仅是一个定制版助手,它更是一个普通人快速验证想法的一个工具,真的简约而不简单。

应用拆解分析 一句话生成应用固然便捷,但是提示词工程的试错成本还是比较高的,如果我们有一定的编程基础,还能不能玩一点新花样出来呢?答案是显而易见的。

无论是空模版创建还是,AI 生成的应用,我们会发现,它是有很多小框框组成的,这里我们叫它"元组件"或者"小部件"吧,这和工作流的节点思想是有共性的。

这里我们点击刚刚生成的应用,右上角的编辑发现,实际上小部件是存在不同类型的。挂载着不同的模型实例,并且通过提示词工程,使得用户的输入输出与模型直接进行通信和交互。

其中使用 @ 符合直接引用其他 widget 生成的内容,让不同小部件建立关联。

比如,我需要根据用户输入的内容进行生成问题,那么我在提示词里面就可以直接引用用户输入的部分;比如利用 "@keywaord" 引用扩写的内容。如下图 Prompt 中高亮的部分。

如果我们想要改变整个流程的话,只需要增加一个新的 widget ,并且建立上下文的引用就可以进行改造

而新建的 widget 目前有以上几类,用户输入,文本模型输出、图像模型输出、机器人。

构建一个应用就变成了构建一个工作流或者任务流。我们可以使用 widget 积木式的构建应用,并通过 @ 建立输入输出流的联系,让想象插上翅膀,大脑洞的奇思妙想以及清晰的逻辑,就可以组成很多有趣的创新应用。

分享创意与应用共建

ChatRPG 是官方提供的一个最有趣的案例,而且是比较典型的案例。这个应用利用了 AI 对话实现了文字游戏,你可以通过对话的形式选择不同的事件来推进剧情,同时通过多种组件的灵活运用,让整个文字游戏变的更加场景感。

受到这个应用的启发,我连夜写了一个小游戏---是男人就活过 100 天。哇太好玩了,根本停不下来。

没有思路怎么办,没有关系,PartyRock 提供了 remix 的功能,你可以直接复制 ( remix ) 一个别人已经发布的应用,直接修改里面的参数或者提示词。

独乐乐不如众乐乐,当你创建了一个有趣的应用,也可以通过分享自己的应用让大家一起来玩。是不是很有意思呢

到这里,基本的 PartyRock 的体验接近尾声,我们来做个简短的总结:

  • 无代码 AI 生成:PartyRock 以生成式 AI + 工作流的形式实现了一个无代码生成器。实现了 AI 的自建
  • 组件化工作流:通过小组件 widget 的形式,可视化的创建引用关系。其背后是强大的 AI 模型能力集、以及云上能力。
  • 生态共建:通过工作台、分享、clone 的模式,鼓励大家共创共建应用。

观一点而探其貌,究竟是什么赋予了 PartyRock 这么灵活的能力,这就不得不提一下 - Amazon Bedrock

Amazon Bedrock

本次大会还发布了全面托管的生成式 AI 服务-Bedrock,提供了多个领先的高性能基础模型,同时增加了对于 Amazon Titan Embeddings 、 Meta Llama2 的支持。

而 PartyRock 实际上依托于 Bedrock 的强大能力,当开发者或者具有开发能力的公司有相关需求时,可以使用 Bedrock 提供的 AI21 Labs、Anthropic 、 Cohere Inc. 、 Meta Platforms Inc. 、 Stability AI Ltd .等领先人工智能公司的高性能模型以及亚马逊的定制模型,构建自己的人工智能应用。

简单来讲,常见的汇总文档、对话助手、生成图像以及提供人工智能驱动的搜索等实用功能都可以通过 Amazon Bedrock 去构建。

2023 re:Invent 思考与展望

通过本次大会的学习与产品体验,我感觉 AI 的应用重构未来会成为一种趋势。

看本次发布的产品,从基础设施层的 Inferentia 和 Trainium ,模型工具层的 Amazon Bedrock 再到应用层的 Amazon CodeWhisperer 。这说明 AI 的深度基建正在逐步建立起来,完整的产品体系逐步的形成共识。

未来会出现越来越多类似 PartyRock 的应用,会将基础建设进行封装,用户看到的是所见即所得的轻量化应用。越来越多的应用都会 AI 化

未来的交互式 AI

我一直在想未来的生成式 AI 的交互会向什么方向发展。简单、高效、准确是我在使用 C 端 AI 产品的几个核心需求。

结合大会及动手实验,PartyRock 相较于 GPTs 的优势,除了亚马逊云科技自研的模型 Titan 支撑,灵活性也是非常可圈可点的,PartyRock 的 0 代码交互十分适合小白,通过工作流的形式串联起多个 AI 模型,"搭积木"的方式快速的实现一个定制应用。

另一方面相较于已经展露头角的 OpenAI ,PartyRock 生成的 AI 应用,既可以上架 IOS 和安卓等主流操作系统,也能作为一个网站发布。多种形态意味着有更多种可能,甚至跨平台进行互动。这点希望后面会产生相关的应用或者功能,一定会非常吸引眼球的。

安全的 AI

大会的一个重要议题,是如何高效快速的让 AI 应用落地,同时保证数据安全。

生成式 AI 作为一把双刃剑,在创立发展的数十年都饱受争议,前段时间沸沸扬扬的奥特曼离职时间也为商业化与 AI 伦理,安全问题敲响了警钟。这次大会中 Adam Selipsky 博士也提出了"负责任的 AI 。"这个概念。我认为,AI 安全性在两个维度去思考。一方面是生成的内容一定应该是合规的;另一方面是作为模型基础的训练数据应该是安全的。数据安全及知识产权是企业应用 AI 的一个重要考量。作为一个团队的 leader ,工程化、安全性、稳定性、以及投入产出比是我在研发基础建设上考虑的几个核心维度。企业应用,只有确保安全,AI 才能越走越稳,长期发展。

同时本次大会很多创新案例,也真正体现了在 AI 浪潮中把握数据价值的重要性,给创业者使用 AI 创业提供了一些可行性的思路,在 AI 在逐步替代劳动生产力的同时,对于个人而言,如何在 AI 浪潮的风口上提升个人能力,把握时代的机会,这个课题,即是挑战,同时也是机遇!

文章来源:dev.amazoncloud.cn/column/arti...

相关推荐
終不似少年遊*12 分钟前
美国加州房价数据分析01
人工智能·python·机器学习·数据挖掘·数据分析·回归算法
区块链小八歌30 分钟前
链原生 Web3 AI 网络 Chainbase 推出 AVS 主网, 拓展 EigenLayer AVS 场景
人工智能
禾高网络33 分钟前
租赁小程序成品|租赁系统搭建核心功能
java·人工智能·小程序
湫ccc2 小时前
《Opencv》基础操作详解(3)
人工智能·opencv·计算机视觉
Jack_pirate2 小时前
深度学习中的特征到底是什么?
人工智能·深度学习
微凉的衣柜2 小时前
微软在AI时代的战略布局和挑战
人工智能·深度学习·microsoft
GocNeverGiveUp2 小时前
机器学习1-简单神经网络
人工智能·机器学习
Schwertlilien2 小时前
图像处理-Ch2-空间域的图像增强
人工智能
智慧化智能化数字化方案3 小时前
深入解读数据资产化实践指南(2024年)
大数据·人工智能·数据资产管理·数据资产入表·数据资产化实践指南
哦哦~9213 小时前
深度学习驱动的油气开发技术与应用
大数据·人工智能·深度学习·学习