亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

意料之中

2023年9月25日,亚马逊宣布与 Anthropic 正式展开战略合作,结合双方在更安全的生成式 AI 领域的先进技术和专业知识,加速 Anthropic 未来基础模型的开发,并将其广泛提供给亚马逊云科技的客户使用。

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点这里让它成为你的技术宝库!

在2023年即将结束之际,亚马逊云科技在9月底宣布于Anthropic展开战略合作,此次合作是亚马逊云科技在生成式 AI "三层架构"中持续扩展其独特服务的最新发布。在底层,亚马逊云科技继续提供来自英伟达的计算实例,以及亚马逊云科技的自研芯片,包括用于 AI 训练的 Amazon Trainium 以及用于 AI 推理的 Amazon Inferentia 实例。

中间层,亚马逊云科技专注于为客户提供来自多个领先模型供应商的最受欢迎的基础模型。此外,客户可以定制这些模型,确保自己数据的隐私和安全,同时还能与亚马逊云科技其他工作负载无缝集成,这一切都由亚马逊云科技的新服务 Amazon Bedrock 提供支持。即日起,客户将能够提前使用定制 Anthropic 模型的功能,利用自己的专有数据来创建自己的私有模型,并且可以通过 Amazon Bedrock 的自助服务使用微调功能。

在顶层,亚马逊云科技为客户提供了生成式 AI 应用程序和服务,比如功能强大的 AI 编程助手 Amazon CodeWhisperer,它可以直接在代码编辑器中生成代码编写建议,从而提高开发人员编写代码的效率。

至此,我们已经可以看到的是亚马逊云科技在 AI 方面的长远布局,也为后面的发展奠定了良好的基础。

Amazon Q

在 Amazon CodeWhisperer 推出之后,就对于 Amazon CodeWhisperer 的一些功能提出了期待,果然不出意料,在2023亚马逊云科技re:Invent大会推出在全新的 AI 生成式助手---Amazon Q

Amazon Q 可以帮助您使用公司信息存储库、代码和企业系统中的数据和专业知识,快速获得紧迫问题的相关答案、解决问题、生成内容并采取行动。 当您与 Amazon Q 聊天时,它会提供即时的相关信息和建议,以帮助简化任务、加快决策速度并帮助激发工作中的创造力和创新。

有问题必定有答案,Amazon Q:一款基于生成式人工智能(AI)的新型助手,专为辅助工作而设计,可以针对客户的业务量身定制,可为开发人员和 IT 专业人员提供支持,可在亚马逊云科技的多个领域提供,无论您在哪里工作,都可以快速访问答案和创意

提供多种功能和使用场景

借助 Amazon Q,AI 专家将随时待命,回答问题、更快地编写代码、排查问题、优化工作负载,甚至可以帮助您编写新功能。这些功能简化了在亚马逊云科技上构建应用程序的所有阶段的工作。

如果需要额外的帮助,Amazon Q 还支持您直接从 Q 界面与 AmazonS Support 座席进行互动,从而消除客户自助服务体验中的任何难题。与 Amazon Support 的集成在控制台中提供,并提供 Amazon Support 套餐中包含的权益。

视频演示

点击下方链接,观看视频演示:

www.bilibili.com/video/BV1Vc...

亚马逊云科技 re:Invent 2023 产品体验:亚马逊云科技产品应用实践 王炸产品 Amazon Q,你的 AI 助手

实践复现

在官方博文中,有给出很多使用方法,比如对话式问答、故障排除、代码转换升级应用程序等等,都是极为实用的功能,那么就带着这些答案来复现官方的案例吧

对话式问答

想必大家都用过很多的生成式 AI 助手,例如 OpenAI 的 ChatGPT、Google 的 Bard、阿里的通义千问、百度的文心一言等等,这种都是对话式的问答,那么大家有没有用过在一家云平台上面的AI助手?直接在控制台上,就立马可以和 AI 对话,那么亚马逊云科技的 Amazon Q(预览版)是你绝对不能错过的一款 AI 助手,其具备亚马逊云科技专业知识,能够让你在迷茫的时候,得到快速、正确的帮助。

入门级问答:

基础知识简单问答:

vbnet 复制代码
Q:Hi,I want create a linux system instance to host my website,I should choose ec2 or lightsail?
A:Here are the key factors to consider when choosing between Amazon EC2 and Lightsail for hosting your website:

- Lightsail is easier to use and manage if you have a simpler workload like a basic website or app. It provides pre-configured options that can be set up with just a few clicks. 

- EC2 gives you more flexibility and control over your server configuration but requires more devops knowledge. You have to manage components like networking and security groups yourself.

- Lightsail instances have fixed configurations while EC2 allows you to choose the exact compute, memory, storage and networking capabilities you need.

- The Lightsail interface provides an all-in-one dashboard for managing your resources while EC2 requires using different AWS console pages for different tasks.

- Basic Lightsail plans have all the necessary components included in a monthly flat fee. With EC2 you pay separately for individual resources like instances, storage, networking etc.

For a simple website that doesn't have demanding technical requirements, Lightsail would be easier to get started with. But for more complex or resource-intensive workloads, EC2 gives you more power and customization options at the cost of requiring more devops expertise.
Sources
[1] [What are the differences between Amazon EC2 and Amazon Lightsail?] (https://repost.aws/knowledge-center/lightsail-differences-from-ec2)
专业知识问答
vbnet 复制代码
Q:If routes are advertised outside of AWS network, will this ASN be
pre-pend to the AS-path attribute of a route? If routes are advertised inside
AWS network, will this ASN be pre-pend to the AS-path attribute of a route?

A:
If routes are advertised outside of the AWS network, the ASN associated with the AWS Direct Connect connection or AWS Transit Gateway will not be prepended to the AS-path attribute of the route. This is because AWS does not actually handle routing or see the traffic in this case. 

If routes are advertised within the AWS network (e.g. between a VPC and a Direct Connect gateway or Transit Gateway), the ASN will not be prepended to the AS-path either. AWS uses other mechanisms like local preference to determine the best path within AWS without modifying the AS-path. 

The AS-path is generally not modified by AWS, but customers can influence route selection and traffic flow within AWS by configuring:

1. Local preference BGP communities 
2. Advertising routes with different AS-path lengths
3. Configuring the AS-path attribute for interfaces in the same region

For more details on routing and BGP configurations within AWS, please refer to the AWS documentation pages on Direct Connect, Transit Gateway and VPC routing. The documentation provides the most accurate and up-to-date information.
Sources
[1] [Using AS-Path attribute to influence routing over multiple regions] (https://repost.aws/questions/QUPLkeHS0oT5qkHJv0d_9owA/using-as-path-attribute-to-influence-routing-over-multiple-regions)
[2] [AWS Transit Gateway ASN visibility ] (https://repost.aws/questions/QUbFjl8tPNS7uwBFMtQGdJFw/aws-transit-gateway-asn-visibility)
[3] [How Amazon Route 53 uses EDNS0 to estimate the location of a user - Amazon Route 53] (https://docs.aws.amazon.com/Route53/latest/DeveloperGuide/routing-policy-edns0.html)

EC2 实例选型优化

作者也体验了这个功能(注意要使用英文界面 ),从新手的视野来看,那么这个确实还蛮不错的,毕竟亚马逊云科技的 EC2 实例族太多了,用最优的实例,才会从性价比上得到优势。

那么就在此处用默认的一个选项 WebHost 来看看 Amazon Q 的一个建议

比如说,咱们要考虑一个性价比,那么就是 "Price/Performance"

可以看到的是,推荐的几乎都是新的机型,比如 M7、C7、T4g,正好也践行了亚马逊云科技推荐用户使用更新的服务的一个原则

故障排除

这块其实可以有几个案例,

  • 比如我们给定一个用户/角色,限制的权限,让它去执行已经被限制的操作
  • 官方示例,EC2 服务器连不上的故障

因为时间比较紧,还是仅做 EC2 网络故障的难题,同时也加一点难度

EC2 网络排障

预置一台 EC2 实例,该实例对应的安全组和路由表都有问题,看看 Amazon Q 能不能分析出来

提示安全组修复:那么我们就去将安全组修改为正常状态,再问 Amazon Q

重问一遍,似乎只是建议我们去检查安全组,这边故意设置障碍"破坏了路由",好像没有识别到

IDE 集成对话

不知道啥时候 Amazon Q 就已经在我的 VSCode 中了,看官方的示例是我安装了 Amazon Toolkit,所以 Amazon Q 就自然而然地出现在了我的 vSCode 左侧的功能栏中了

要使用 Amazon Q,须登录 Amazon Builder,才可在 IDE 中使用 Amazon Q,同时,还可以描述咱们在 VScode 中编写的代码,讲述咱们的代码是干什么用的,对于最近兴起的"防御性代码"和"祖传屎山代码",我觉得是有不错的体验的,不在那么繁杂的去理解分析代码了

总结

总体体验下来,Amaon Q 的表现中规中矩,对于亚马逊云科技的专业知识,确实是的十分熟悉

  • 触手可及,集成在平台、IDE 中十分便捷
  • 专业性强,对于亚马逊云科技的专业知识回答的很精准
  • 代码好助手,结合 Amazon CodeWhisperer,在编写代码的时候应该有奇效

期待改进之处

  • 网络故障排除应该更深层次,而非安全组的表象,网络本身就是一个很复杂的东西
  • 期待能够推出多语言版本,毕竟开发者的语言水平参差不齐

文章来源: dev.amazoncloud.cn/column/arti...

相关推荐
北京搜维尔科技有限公司15 分钟前
搜维尔科技:【应用】Xsens在荷兰车辆管理局人体工程学评估中的应用
人工智能·安全
说私域18 分钟前
基于开源 AI 智能名片 S2B2C 商城小程序的视频号交易小程序优化研究
人工智能·小程序·零售
YRr YRr18 分钟前
深度学习:Transformer Decoder详解
人工智能·深度学习·transformer
知来者逆23 分钟前
研究大语言模型在心理保健智能顾问的有效性和挑战
人工智能·神经网络·机器学习·语言模型·自然语言处理
云起无垠32 分钟前
技术分享 | 大语言模型赋能软件测试:开启智能软件安全新时代
人工智能·安全·语言模型
老艾的AI世界1 小时前
新一代AI换脸更自然,DeepLiveCam下载介绍(可直播)
图像处理·人工智能·深度学习·神经网络·目标检测·机器学习·ai换脸·视频换脸·直播换脸·图片换脸
翔云API1 小时前
PHP静默活体识别API接口应用场景与集成方案
人工智能
浊酒南街1 小时前
吴恩达深度学习笔记:卷积神经网络(Foundations of Convolutional Neural Networks)4.9-4.10
人工智能·深度学习·神经网络·cnn
Tony聊跨境2 小时前
独立站SEO类型及优化:来检查这些方面你有没有落下
网络·人工智能·tcp/ip·ip
懒惰才能让科技进步2 小时前
从零学习大模型(十二)-----基于梯度的重要性剪枝(Gradient-based Pruning)
人工智能·深度学习·学习·算法·chatgpt·transformer·剪枝