Semantic Kernel开发实践:定义并使用本机函数(plugin)

前言

作为SK(Semantic Kernel)核心组件之一,Plugins是一组为了实现功能而定义的函数的集合,可以达到增强LLM(大语言模型)的能力。

LLM的训练数据都是截止到过去的某一个时间,所以如果问它现在发生的事情,那么生成的内容,基本上是它在一本正经的胡说八道。LLM也不能进行调用API、发送邮件、发布文章等等操作,如果想让LLM获取新的知识和能力,就需要为它开发一些插件。

这里有一张从微软官方网站上找到的图,展示了plugin的作用。

演示示例使用的控制台应用程序,编程语言是C#,.net版本是8.0

使用Azure OpenAI部署的gpt-3.5-turbo大模型

本机函数功能是获取今天的日期

本机函数

SK的插件有本机函数和语义函数两类。下面我会演示如何创建本机函数,并手动调用它。

1、创建控制台应用

javascript 复制代码
dotnet new console -o dotnet-sk-plugins

2、cd到dotnet-sk-plugins目录下,添加相关的依赖包

csharp 复制代码
dotnet add package Microsoft.KernelMemory.Core
dotnet add package Microsoft.SemanticKernel

3、创建TimePlugin插件类

项目结构如下:

css 复制代码
dotnet-sk-plugins
|--Plugins
|--|--Plugin.Time
|--|--|--TimePlugin.cs
|--Program.cs

代码示例如下:

csharp 复制代码
using System.ComponentModel;
using Microsoft.SemanticKernel;
​
namespace dotnet_sk_plugins.Plugins.Plugin.Time;
​
public sealed class TimePlugin
{
    [KernelFunction, Description("获取今天的日期")]
    public static string GetToday()
    {
        return DateTime.Today.ToString("yyyy-M-d dddd");
    }
}

4、手动调用插件

csharp 复制代码
using dotnet_sk_plugins.Plugins.Plugin.Time;
using Microsoft.KernelMemory;
using Microsoft.SemanticKernel;
using Microsoft.SemanticKernel.ChatCompletion;
using Microsoft.SemanticKernel.Connectors.OpenAI;
​
var builder = Kernel.CreateBuilder()
    .AddAzureOpenAIChatCompletion(Env.Var("AOAI_MODEL_ID"), Env.Var("AOAI_ENDPOINT"), Env.Var("AOAI_API_KEY"));
​
builder.Plugins.AddFromType<TimePlugin>();
​
//1、手动调用
var kernel = builder.Build();
var answer = await kernel.InvokeAsync<string>(
    "TimePlugin",
    "GetToday"
);
​
Console.WriteLine("今天是: " + answer);

结语

这篇文章展示了如何定义一个本机函数,并手动调用它。

相关推荐
敲上瘾6 小时前
操作系统的理解
linux·运维·服务器·c++·大模型·操作系统·aigc
数字化营销工兵8 小时前
大语言模型(LLM)安全:十大风险、影响和防御措施
llm·大语言模型·数据安全·隐私保护
想成为高手49910 小时前
生成式AI在教育技术中的应用:变革与创新
人工智能·aigc
gz7seven17 小时前
BLIP-2模型的详解与思考
大模型·llm·多模态·blip·多模态大模型·blip-2·q-former
不爱说话郭德纲1 天前
探索LLM前沿,共话科技未来
人工智能·算法·llm
z千鑫1 天前
【人工智能】PyTorch、TensorFlow 和 Keras 全面解析与对比:深度学习框架的终极指南
人工智能·pytorch·深度学习·aigc·tensorflow·keras·codemoss
程序员X小鹿1 天前
AI视频自动剪辑神器!点赞上万的影视剧片段,一键全自动剪辑,效率提升80%!(附保姆级教程)
aigc
我爱学Python!1 天前
解决复杂查询难题:如何通过 Self-querying Prompting 提高 RAG 系统效率?
人工智能·程序人生·自然语言处理·大模型·llm·大语言模型·rag
学习前端的小z1 天前
【AIGC】如何准确引导ChatGPT,实现精细化GPTs指令生成
人工智能·gpt·chatgpt·aigc
刘悦的技术博客2 天前
MagicQuill,AI动态图像元素修改,AI绘图,需要40G的本地硬盘空间,12G显存可玩,Win11本地部署
ai·aigc·python3.11