GitHub Models - 尝试一下使用GitHub Models

1.简单介绍

GitHub Models的地址是https://github.com/marketplace/models , 当前在GitHub Models也提供了很多可选择的大语言模型,比如GPT-5,GPT-4o, Phi-4以及Llama和Mistral的系列模型等,当然也包含了当前比较火的DeepSeek V3和DeepSeek R1,具体的模型类别,可以查看这个链接marketplace。登录GitHub Models后,可以在Play ground中选择特定的模型进行试用,如下图所示,

这边尝试使用代码(使用一下微软开源框架Semantic Kernel)的方式来调用一下GitHub Models

2.具体说明

2.1 查看模型的代码示例

在GitHub Models的Play ground中,点击code按钮,可以看到调用特定模型的代码示例

2.2 模型比较

点击GitHub Models Play ground中的Compare按钮,还可以对不同模型进行比较

这边简单比较了一下GPT-4o和DeepSeek-R1的答复,发现DeepSeek-R1确实做了推理的部分,不错的。

2.3 调用GitHub Model

这边尝试使用一下小模型(SLM),现 Phi-4, 在GitHub Models Play ground中,点击 Use this model按钮,

这时会弹出Get API key的窗口,这里有具体的步骤,如下图

点击Developer key按钮,获取一个personal access token

点击Get devloper key按钮后,会跳转到Token页面tokens

点击Generate new token按钮, 最后会有一个PAT token出现,需要把值copy出来。

一般在调用GitHub Models的程序中,需要配置Model Id, Model Uri, PAT Key,

下面是用基于.NET的开源框架Semantic Kernel进行GitHub Model调用的部分代码,

复制代码
var client = new OpenAIClient(new ApiKeyCredential(githubPAT), new OpenAIClientOptions { Endpoint = new Uri(uri) });
// Create a chat completion service
var builder = Kernel.CreateBuilder();
builder.AddOpenAIChatCompletion(modelId, client);
// Get the chat completion service
Kernel kernel = builder.Build();
var chat = kernel.GetRequiredService<IChatCompletionService>();
var history = new ChatHistory();
history.AddSystemMessage("你是一名种菜很有经验的菜农,会用非常简短的话语来教导大家种菜方面的知识,如果问到别的问题,你就回复'不知道'。总是用非常礼貌的态度回复大家.");

2.4 测试一下

假定是一个.NET console程序,则结果如下图

note, GitHub Model Phi-4能正常返回结果,这样就有了免费的Model来试用了。

3.总结

本文简单介绍了一下使用GitHub Models的过程,具体的细节相对多一些。

可以根据需要到网站中去选择合适自己的Model进行使用, https://github.com/marketplace?type=models

如果本文哪里有错误的地方,麻烦告之,谢谢谢谢!

相关推荐
小弥儿2 小时前
开源 VoiceStudio,声音克隆|配音|有声书一站式本地完成
学习·开源·github
ai小陈3 小时前
PyTorch DataLoader数据加载性能排查:GPU利用率低的实操指南
人工智能·pytorch·python·深度学习·ai·gpu算力
点心的游戏开发世界5 小时前
Unity C# 脚本学习笔记:命名空间与 using
学习·unity·c#
2601_962078036 小时前
百度双重主要上市9月1日生效,“全栈AI”如何打开估值空间?
百度·ai·双重上市·估值空间·港股通
淡海水7 小时前
07-04-并发-ConcurrentBag-T-工作窃取WorkStealing算法
开发语言·算法·c#·bag·concurrent·workstealing
点心的游戏开发世界7 小时前
Unity C# 脚本学习笔记:泛型
学习·unity·c#
CaseyWei10 小时前
Harness 架构 Multi‑Agent(多智能体)完整深度解析
人工智能·ai·架构·harness
公子小六11 小时前
基于.NET的Windows窗体编程之WinForms滑块与上下控件
windows·microsoft·c#·.net·winforms
eaglewgs11 小时前
关于AI书写测试用例,谈一下我的思考
人工智能·测试开发·ai·测试用例·agent·测试经验·agent测试开发
问天_观心11 小时前
大模型微调学习(一)
开发语言·人工智能·学习·语言模型·github