采用OllamaSharp实现.NET快速对接deepseek实现聊天、模型管理、流式响应等功能

1. OllamaSharp 是什么?

OllamaSharp 是一个用于在 .NET 环境中与 Ollama API 交互的库。它提供了对 Ollama API 端点的全面支持,包括聊天、模型管理、流式响应等功能,适合需要与 Ollama 服务进行交互的 .NET 开发者。

2. 安装 OllamaSharp

你可以通过以下几种方式安装 OllamaSharp

方法一:通过 NuGet 安装

在 Visual Studio 中或命令行中运行以下命令:

bash复制

复制代码
Install-Package OllamaSharp -Version 1.0.1

或者使用 .NET CLI:

bash复制

复制代码
dotnet add package OllamaSharp --version 1.0.1
方法二:克隆 GitHub 仓库并手动构建
  1. 克隆 OllamaSharp 仓库:

    bash复制

    复制代码
    git clone https://github.com/awaescher/OllamaSharp.git
  2. 进入项目目录并构建:

    bash复制

    复制代码
    cd OllamaSharp
    dotnet build

3. 配置和使用 OllamaSharp

环境准备
  1. 确保已安装 .NET SDK,可通过以下命令检查:

    bash复制

    复制代码
    dotnet --version

    如果未安装,请从 Microsoft 官方网站 下载并安装。

  2. 确保 Ollama 服务已安装并运行。默认情况下,Ollama 服务运行在 http://localhost:11434

示例代码

以下是一个简单的示例,展示如何使用 OllamaSharp 与 Ollama API 交互:

csharp复制

复制代码
using System;
using System.Threading.Tasks;
using OllamaSharp;

class Program
{
    static async Task Main(string[] args)
    {
        var uri = new Uri("http://localhost:11434");
        var ollama = new OllamaApiClient(uri);
        ollama.SelectedModel = "deepseek-r1:7b"; // 选择模型

        // 获取本地模型列表
        var models = await ollama.ListLocalModelsAsync();
        Console.WriteLine("本地模型列表:");
        foreach (var model in models)
        {
            Console.WriteLine(model.Name);
        }

        // 与模型进行交互
        await foreach (var response in ollama.GenerateAsync("介绍一下人工智能"))
        {
            Console.Write(response.Response);
        }
    }
}

4. 其他功能

  • 下载模型

    csharp复制

    复制代码
    await ollama.PullAsync("deepseek-r1:7b");
    Console.WriteLine("模型下载完成");
  • 删除模型

    csharp复制

    复制代码
    await ollama.DeleteAsync("deepseek-r1:7b");
    Console.WriteLine("模型已删除");

5. 注意事项

  • 如果需要更改 Ollama 的模型存储路径,可以通过环境变量 OLLAMA_MODELS 设置。

  • 确保 Ollama 服务已启动,运行以下命令:

    bash复制

    复制代码
    ollama start

通过以上步骤,你可以成功安装并使用 OllamaSharp 与 Ollama 服务进行交互。

相关推荐
YIAN2 小时前
端侧大模型:DeepSeek-R1 WebGPU 推理全流程源码深度解析
前端·typescript·deepseek
大鹏说大话3 小时前
用 Semantic Kernel 在 .NET 中构建你的第一个 AI 智能体(Agent)
人工智能·.net
七仔啊3 小时前
C#、.NET 、ASP.NET Core、Visual Studio全系列快速入门
c#·asp.net·.net
超龄超能程序猿4 小时前
实战优化:.NET 8 容器 Debian 源+时间同步企业级 Dockerfile
运维·debian·.net
张忠琳13 小时前
【deepseek-harness】DeepSeek Harness (dsh) 系统级架构分析之三
ai·agent·deepseek·harness
DS随心转小程序15 小时前
AI pdf 数字化文档落地攻略,靠 AI 导出鸭补齐转换短板,从痛点到实测详解智能化文档导出逻辑
人工智能·豆包·deepseek·ai导出鸭
一个帅气昵称啊16 小时前
.Net C# AI智能体开发-快速开始
开发语言·c#·.net
戒了,最后一次19 小时前
DeepSeek Harness 源码安装教程(Windows 篇)
windows·腾讯云·deepseek·harness
DS随心转APP1 天前
实测 AI 导出鸭实操效果,依托 AI 直接生成 word 功能横向比对五类导出办法,梳理办公文档转换最优路径
人工智能·ai·word·deepseek·ai导出鸭
Zach_菠萝侠1 天前
【deepseek harness研究】进化方向7:分布式与远程执行 思考、设计与实现
分布式·深度学习·deepseek