Github 推出免费使用的 Github Models,助力用户快速成为 AI 工程师

首先三金先介绍一下什么是 Github Models

Github Models 是 Github 推出的一款新产品,旨在快速推动开发人员使用、体验各种 AI 大模型,并在自己的应用上集成模型。

Github 地址

支持 24 种模型

目前支持 24 种模型,按照类型有 Cohere、Llama 3 及 3.1、Mistral、OpenAI 的 ChatGPT 及 Phi-3

如何使用?

Github Models 还不是全量开放给用户的,还需要进行申请 ,只有申请通过的用户才可以使用,申请链接

三金已经提交申请了,但暂时还没有啥音讯😓

不过也不妨碍咱继续介绍它。

免费使用的 Playground

要进入到 Github Models 的 Playground 也很简单,直接从模型列表页面点击想要测试的 AI 进入到详情页面,在右上角有一个 Playground 的按钮,这个就是免费演练场的入口:

申请还没有通过会看到这样的页面:

正常通过的话是这样的:

免费 API

除了免费的 Playground 之外,Github 还提供了免费的 API 使用,这使得开发者可以更方便地在自己的应用中调试 AI。和 Playground 的入口一样,API 也是在模型的详情页面获取:

  • 点击右上角的「Get started」
  • 在弹出的对话框中,我们可以在左侧菜单里选择 Language(比如 JavaScript)和 SDK
  • 然后右边的内容区域会给出将该 SDK 接入应用的步骤,最关键的第一步是创建一个 Access Token

简单来说,上图中红框框住的部分,我们操作到了第三步就基本 OK 了:

  1. 创建个人访问令牌
  2. 安装依赖
  3. 运行基本代码示例

后面两个一个是更多的示例探索,另外一个则是介绍了一下这些免费资源的速率限制。

速率限制

在生成环境中使用

如果要将做好的 AI 应用放到生产环境,那么 Github 的 Access Token 就不可用了,因为 GIthub Models 里提供的免费资源只是在帮助开发者试验模型并使用模型开发 AI 应用程序。所以在生产环境需要付费使用 Azure 中的 API Key。

详细信息,请参考 Azure AI 的文档

相关推荐
测试员周周2 分钟前
【AI测试系统】第6篇:需求扔进去,3 分钟出测试用例?AI测试系统的 RAG 知识增强实战
人工智能·python·功能测试·测试工具·测试用例
Godspeed Zhao5 分钟前
具身智能中的传感器技术40.2——事件相机0.2
人工智能·科技·数码相机·机器学习·事件相机
庞轩px6 分钟前
大模型为什么会有“幻觉”——从训练方式到推理局限
人工智能·prompt·rag·大模型幻觉·engineering·训练方式
Empty-Filled8 分钟前
AI Agent 测试入门:从回答问题到执行任务
网络·人工智能
链上杯子13 分钟前
OpenAI 兼容 API:多厂商模型切换时要懂的端点、密钥与限流常识
人工智能
冬奇Lab13 分钟前
一天一个开源项目(第92篇):OpenHands - 全能型开源 AI 软件工程师
人工智能·开源·agent
weixin_4080996714 分钟前
身份证OCR API怎么选?对比4款主流产品后,我选择了石榴智能(含Python/Java调用示例)
人工智能·ocr·文字识别·api接口·身份证ocr·石榴智能·ocr api
AI创界者15 分钟前
FaceFusionFree 4.6 加速版实测:深度解决黑边与源识别痛点
人工智能
qcx2317 分钟前
【AI Agent通识九课】05 · AI 的红绿灯 — 长任务怎么管
人工智能·ai·agent·warp
AAI机器之心17 分钟前
在 macOS 上本地部署 Ollama + LLaMA3(附教程)
人工智能·macos·langchain·llm·知识库·大模型部署