Ollama系列教程(八):semantic kernel调用ollama接口

我是对本地大模型有执念的!因为它安全性好,数据完全被自己掌控。在前面的内容里面分享了如何使用OllamaSharp访问ollama接口,今天分享如何使用Semantic Kernel来访问ollama接口。

关于Semantic Kernel

Semantic Kernel(SK) 是一款模型无关的SDK,能够帮助开发者快速构建、编排和部署AI代理及多代理系统。无论是开发简单的聊天机器人,还是构建复杂的多代理工作流,该工具都能以企业级的可靠性和灵活性提供所需支持。

地址:github.com/microsoft/s...

为什么使用SK?

我们可以直接使用类似OllamaSharp这样的SDK来调用某个大模型的接口,但是如果我们即要访问Ollama里面的模型,又要访问OpenAI的接口,还要兼容DeepSeek的接口,这个时候就需要一个集成开发框架了。在.net平台,最好用且功能最全的,目前只有SK(如果还有其它框架请不吝赐教)。

使用SK

首先要添加框架引用:

csharp 复制代码
	dotnet add package Microsoft.SemanticKernel

由于我们要访问Ollama,因此还需要添加SK的Ollama连接器:

csharp 复制代码
	dotnet add package Microsoft.SemanticKernel.Connectors.Ollama

注意:为了避免编码时收到SKEXP0070、SKEXP0010这种错误,我们先在项目里面把他们屏蔽掉。

markdown 复制代码
	<PropertyGroup>

	    ......

		<NoWarn>$(NoWarn);SKEXP0001,SKEXP0010,SKEXP0070</NoWarn>

	</PropertyGroup>

	 

初始化SK

ini 复制代码
	var endpoint = new Uri("http://localhost:11434");

	var ollama = new OllamaApiClient(endpoint);

	 

	// Create a kernel builder

	var builder = Kernel.CreateBuilder().AddOllamaChatCompletion(ollama);

	 

	// Build the kernel

	Kernel kernel = builder.Build();

添加和使用插件

我们可以把sk里面的插件理解成function calling里面的function,本质上都是大预言模型里面的tools节点

ini 复制代码
	kernel.Plugins.AddFromType<DateTimePlugin>("DateTimePlugin");

	 

	var executionSettings = new OllamaPromptExecutionSettings()

	{

	    FunctionChoiceBehavior = FunctionChoiceBehavior.Auto(),

	};

代码说明:

  1. 添加插件,插件定义见下文
  2. 设置插件的执行方式,我们采用自动选择和执行插件

Plugin的定义

csharp 复制代码
	internal class DateTimePlugin

	{

	    [KernelFunction("get_current_datetime")]

	    [Description("Get current datetime and day of week")]

	    public Task<string> GetCurrentDateTime()

	    {

	        return Task.FromResult(DateTime.Now.ToString("yyyy-MM-dd HH:mm:ss ddd"));

	    }

	}

创建对话

markdown 复制代码
	var chatService = kernel.GetRequiredService<IChatCompletionService>();

	 

	Console.WriteLine();

	Console.WriteLine($"Chat with {ollama.SelectedModel}");

	 

	var systemPrompt = "You are a helpful assistant that knows about AI.";

	var chatHistory = new ChatHistory(systemPrompt);

	Console.WriteLine($">>System: {systemPrompt}");

	 

	while (true)

	{

	    Console.Write(">>User: ");

	    var message = Console.ReadLine();

	 

	    chatHistory.AddUserMessage(message);

	    Console.Write(">>Assistant: ");

	 

	    var reply = await chatService.GetChatMessageContentAsync(chatHistory,

	        executionSettings: executionSettings,

	        kernel: kernel);

	    Console.WriteLine(reply);

	 

	    // Add the message from the agent to the chat history

	    chatHistory.AddMessage(reply.Role, reply.Content ?? string.Empty);

	}

	 

代码说明:

  1. 首先在这段代码中创建一个chatService,用来和大模型进行对话
  2. systemPrompt是我们预设的大模型系统级别指令,通过systemPrompt可以更好的控制大模型的输出
  3. chatHistory用来存储会话历史
  4. 在while循环中进行对话,同时将user和assistant的对话内容临时存储在chatHistory中

总结

以上就是今天分享的全部内容,主要介绍如何使用semantic kernel,并通过sk来访问ollama提供的大模型服务。

原文地址:https://www.cnblogs.com/youring2/p/18813889

相关推荐
程序猿编码5 分钟前
RK3588 NPU LLM 推理引擎:自研底层算子,性能碾压原厂 SDK
机器学习·llm·rk3588·大模型推理
SimonKing1 小时前
素笺( local-notes)全面优化,新增功能体验不一样的笔记
java·后端·程序员
lucas_AI2 小时前
多想 2000 个 token 只涨 1.4 个点:LLM 写代码的「思考开销」终于有人算账了
llm
XLYcmy2 小时前
实验报告分析评价文档——《第四次阶段汇报:模型产物的仓库瘦身、云端部署与评测链路打通》评析
git·llm·cpu·gpu·反编译·反汇编·safetensors
codigger2 小时前
Redis 为什么快?把 "存内存" 这句话拆开看
redis·后端·性能优化·程序员
Eloudy2 小时前
全文 - LLaMA v2 - Llama 2: Open Foundation and Fine-Tuned Chat Models
llm·transformer·gpu
狂师3 小时前
GitHub 上最值得装的 8 个 Agent Skill 仓库,亲测好用!
程序员·github·ai编程
学IT的周星星4 小时前
本地部署与开源模型:不想花钱怎么办
人工智能·开源·大模型·llm·agent
深蓝AI7 小时前
美团 LongCat-2.5 拆解:1.6T 参数只激活 3%,1M 上下文卖 0.3 美元,Agent 模型的账变了
人工智能·llm
kyriewen17 小时前
我测了 6 种防请求竞态的写法:只有 1 种真能打
前端·javascript·程序员