本地部署deepseek大模型后使用c# winform调用（可离线）

介于最近deepseek的大火，我就在想能不能用winform也玩一玩本地部署，于是经过查阅资料，然后了解到ollama部署deepseek,最后用ollama sharp NUGet包来实现winform调用ollama 部署的deepseek。

本项目使用Vs2022和.net 8.0开发，ollama sharp 使用的是最新版本。也可以使用.net farmwork 4.7.2开发，但是ollama sharp 没办法使用最新的，只能使用3.几的版本，3点几的版本有问题，因为ollama sharp提供的交互方法不是异步的，这就会导致，大模型如果回复你一个很长的的问题的时候，就会突然中断，最后我就彻底放弃了，发现最新版本的ollama sharp的交互方法是异步的，最后抱着试一试的心态，果然成功了，让写个4000字的论文框架，基本上回答时间在2分钟左右也不会中断，（2分钟是因为我的内存有点少，显卡还行吧）。效果还是很不错的，本人使用的deepseek r1 14b的大模型，4060的显卡，16G的内存，回复速度还是很快的，内存基本上跑80%左右。显卡40%上下浮动。

展示图

下载ollama

地址：奥拉马

下载Windows版本然后进行安装就好了，安装完成以后，我们可以在系统环境变量里面添加这两个

第二个是利用ollama下载的大模型的位置，C盘不够的可以加这个变量，如果C盘够多可以忽略，最好设置完以后重启一下电脑再安装ollama,安装好以后可以打开cmd 如图所示：如果是这样，说明你已经安装成功了，

利用ollama安装deepseek r1 14b

这里我们还是打开ollama网站，打开

如果说内存在32G可以选择32b的体验一下，应该会比14b更好用些，最后点击箭头所指的地方复制下来打开cmd,直接ctrl+c复制然后回车他就会自动下载，这里有个小技巧：他下载会越来越慢，我们可以按一下ctrl+c，再按一下键盘的上方向键他就会接着下载，这个时候慢慢就快起来了。

下载完成后我们新打开一个cmd输入ollama list这个可以查看我们已经下载下来的大模型

补充一点：还可以使用ollama rm 大模型的Name进行删除

Ollama Sharp

awaescher/OllamaSharp：在 .NET 中使用 Ollama API 的最简单方法

上面的是链接地址，这是github里面的一个开源项目，使用之前可以看看他的介绍以及使用方法，知其然，知其所以然。

winform 连接大模型

我们打开我们的vs2022。创建新工程，一定要选择后面不带括号.netfarmwork的，才会用到8,.0框架

我们进去以后先添加nuget包，找到依赖项，右键管理NUGET包，打开以后搜索ollama sharp

这里我已经安装过了

等待安装成功以后，我们打开我们窗体的设计器，在左侧的工具箱添加一下的控件

listbox主要用来展示安装的大模型

richtextbox主要用来展示用户输入的文字和deepseek回复的文字

textBox读取用户输入的文字

一个发送按钮一个取消思考按钮

附上源代码：

using OllamaSharp.Models;
using OllamaSharp;
using System.Text.RegularExpressions;

namespace WinFormsApp1
{
    public partial class Form1 : Form
    {
        private Uri uri;
        private OllamaApiClient ollama;
        private List<Model> models;
        private bool connect;
        static ManualResetEvent resetEvent = new ManualResetEvent(false);
        private CancellationTokenSource cancellationTokenSource;
        int step = 0;
        private bool mIsCancel = false;
        public Form1()
        {
            InitializeComponent();
        }

        private async void Form1_Load(object sender, EventArgs e)
        {
            richTextBox1.AppendText("稍等，我正在加载模型。。。。。" + Environment.NewLine);
            uri = new Uri("http://localhost:11434");
            ollama = new OllamaApiClient(uri);
            connect = await ollama.IsRunningAsync();
            models = (await ollama.ListLocalModelsAsync()).ToList();
            mSelectItem = 0;
            LoadModles();
            step = 1;
            richTextBox1.AppendText("请在上方选择你要使用的模型，单击即可" + Environment.NewLine);
        }


        /// <summary>
        /// 流程交互
        /// </summary>
        public void WorkFololw()
        {
            Task.Run(() =>
            {
                while (true)
                {
                    Thread.Sleep(200);
                    string cleanText = "";
                    if (textBox2.Text != "")
                    {
                        cleanText = textBox2.Text;
                    }

                    switch (step)
                    {
                        case 1:
                            Thread.Sleep(100);

                            if (models.Count == 0)
                            {
                                return;
                            }
                            
                            ollama.SelectedModel = models.ToArray()[mSelectItem].Name; // 选择模型名称
                            Log("我已经准备好了小帅哥快来玩呀！", 0, Color.Black);
                            step = 2;

                            break;
                        case 2:
                            if (cleanText.Contains("\r\n"))
                            {
                                var prompt = textBox2.Text; // 从文本框读取提示词
                                Log(Environment.NewLine + "用户哥：" + textBox2.Text.TrimEnd('\r', '\n') + Environment.NewLine, 0, Color.Blue);
                                var keepChatting = true;
                                var chat = new Chat(ollama, prompt);

                                Invoke(new Action(() =>
                                {
                                    button2.Visible = true;
                                    richTextBox1.AppendText("deepSeek-R1>:" + Environment.NewLine);
                                }));
                                BeginSiKao(keepChatting, chat, "");
                                step = 3;
                            }
                            break;
                        case 3:
                            if (cleanText.Contains("\r\n"))
                                step = 2;
                            break;

                    }
                }
            });
        }

        /// <summary>
        /// 开始思考
        /// </summary>
        /// <param name="keepChatting"></param>
        /// <param name="chat"></param>
        public async void BeginSiKao(bool keepChatting, Chat chat, string mImageMsg)
        {
            //开始聊天
            await BeginChat(keepChatting, chat, mImageMsg);
        }

        /// <summary>
        /// 加载本地大模型
        /// </summary>
        public void LoadModles()
        {
            if (models.Any())
            {
                foreach (var model in models)
                {
                    if (model.Name.Contains("v2"))
                    {
                        Log($"大模型：{model.Name} {model.Size / 1024 / 1024} MB", 1, Color.MediumSeaGreen); // 输出模型名称和大小
                    }
                    Invoke(new Action(() =>
                    {
                        listBox1.Items.Add($"大模型：{model.Name} {model.Size / 1024 / 1024} MB");
                    }));

                }
            }
            else
            {
                Log("没有大模型环境，请自行下载大模型", 1, Color.Red);
                return;
            }
        }

        /// <summary>
        /// 开始聊天
        /// </summary>
        /// <param name="keepChatting"></param>
        /// <param name="chat"></param>
        /// <returns></returns>
        public async Task BeginChat(bool keepChatting, Chat chat, string ImageMsg)
        {
            cancellationTokenSource = new CancellationTokenSource();
            var tokenx = cancellationTokenSource.Token;

            Invoke(new Action(() =>
            {
                button1.Text = "思考回答中...";

            }));

            string message;
            message = textBox2.Text.TrimEnd('\r', '\n'); // 从文本框读取用户输入的消息
            if (message == "")
            {
                message = ImageMsg;
            }
            Clear(); // 清空文本框以便用户输入下一条消息

            Task sendTask = Task.Run(async () =>
            {
                if (string.IsNullOrEmpty(message.Trim()))
                {
                    return;
                }


                bool isFirstToken = true;
                try
                {
                    string mmsf = "";
                    await foreach (var answerToken in chat.SendAsync(message))
                    {
                        // 如果取消了操作，提前退出
                        if (cancellationTokenSource.Token.IsCancellationRequested)
                        {
                            continue;
                        }
                        if (answerToken != "<think>" && answerToken != "</think>")
                        {
                            mmsf += answerToken;
                            // 使用Invoke更新UI
                            richTextBox1.Invoke(new Action(() =>
                            {
                                if (isFirstToken)
                                {
                                    richTextBox1.Focus();
                                    isFirstToken = false;
                                }
                                richTextBox1.AppendText(answerToken.Trim());
                            }));
                        }

                    }
                    string newmsg = "";
                    if (mmsf.Contains("```sql")) 
                    {
                        newmsg= FormatSql(mmsf);
                        // 使用Invoke更新UI
                        richTextBox1.Invoke(new Action(() =>
                        {
                            if (isFirstToken)
                            {
                                richTextBox1.Focus();
                                isFirstToken = false;
                            }
                            richTextBox1.AppendText(newmsg.Trim());
                        }));
                    }
                   
                }
                catch (OperationCanceledException)
                {
                    // 处理取消操作时的异常
                    Invoke(new Action(() =>
                    {
                        if (button1.Text == "思考回答中...")
                        {
                            button1.Text = "发送";
                        }
                    }));
                }

                catch (Exception ex)
                {
                    if (mIsCancel == true)
                    {
                        // 捕获其他类型的异常并记录
                        Log(Environment.NewLine + $"用户哥取消了回答", 0, Color.Red);
                        mIsCancel = false;
                    }
                    else
                    {
                        // 捕获其他类型的异常并记录
                        Log(Environment.NewLine + $"哎呦出错了" + ex, 0, Color.Red);
                    }
                }


            });

            await sendTask;

            Invoke(new Action(() =>
            {
                button2.Visible = false;  // 隐藏取消按钮
                button1.Text = "发送";
                textBox2.Focus();
                richTextBox1.AppendText(Environment.NewLine);

            }));
        }


        /// <summary>
        /// 清空输入文本框
        /// </summary>
        public void Clear()
        {
            Invoke(new Action(() =>
            {
                textBox2.Clear();
            }));
        }

        /// <summary>
        /// 更新控件的一些值或者追加文字
        /// </summary>
        /// <param name="message"></param>
        /// <param name="mtype">0：追加文字，1：大模型使用</param>
        public void Log(string message, int mtype, Color color)
        {
            if (mtype == 0)
            {
                Invoke(new Action(() =>
                {
                    richTextBox1.AppendText(message + Environment.NewLine);
                    textBox2.Focus();
                }));
            }
            else
            {
                Invoke(new Action(() =>
                {
                    label1.Text = message;
                    label1.ForeColor = color;
                    textBox2.Focus();
                }));
            }

        }

        /// <summary>
        /// 发送按钮
        /// </summary>
        /// <param name="sender"></param>
        /// <param name="e"></param>
        private void button1_Click(object sender, EventArgs e)
        {
            if (models.Count == 0)
            {
                MessageBox.Show("没有大模型环境，怎么玩啊！");
                return;
            }
            if (button1.Text == "思考回答中...")
            {
                MessageBox.Show("正想着呢，别点了爷们");
            }
            else
            {
                string mm = textBox2.Text;
                textBox2.Text = "用户哥：" + mm + Environment.NewLine;
                Log(textBox2.Text.TrimEnd('\r', '\n'), 0, Color.Blue);
                var prompt = mm; // 从文本框读取提示词
                var keepChatting = true;
                var chat = new Chat(ollama, prompt);
                Invoke(new Action(() =>
                {
                    richTextBox1.AppendText("deepSeek-R1>:");
                }));
                BeginSiKao(keepChatting, chat, "");
                step = 3;
                if (button2.Visible == false)
                {
                    button2.Visible = true;

                }
            }

        }

        /// <summary>
        /// 取消回答
        /// </summary>
        /// <param name="sender"></param>
        /// <param name="e"></param>
        private void button2_Click(object sender, EventArgs e)
        {
            mIsCancel = true;
            StopThinking();
        }
        public void StopThinking()
        {
            cancellationTokenSource?.Cancel();  // 取消当前的操作
            Invoke(new Action(() =>
            {
                button2.Visible = false;  // 隐藏取消按钮
                button1.Enabled = true;  // 恢复发送按钮
                textBox2.Focus();  // 让用户可以继续输入
            }));
        }

        private int mSelectItem = 99;
        private void listBox1_SelectedIndexChanged(object sender, EventArgs e)
        {
            mSelectItem = listBox1.SelectedIndex;
            WorkFololw();
        }

       

        public static string FormatSql(string input)
        {
            // 移除开头的 sql 和多余的空格
            input = input.Trim();

            // 用正则表达式找到从 sql 开头到下一个结束符号的 SQL 代码
            string pattern = @"`sql(.*?)```";
            var match = Regex.Match(input, pattern, RegexOptions.Singleline);

            if (match.Success)
            {
                // 获取 sql 语句部分
                string sql = match.Groups[1].Value.Trim();

                // 分析 SQL 的每个部分并格式化
                return FormatSqlServerCreateTable(sql);
            }

            return input;
        }

        private static string FormatSqlServerCreateTable(string sql)
        {
            // 分割 SQL 语句
            sql = sql.Replace("CREATETABLE", "CREATE TABLE")
                     .Replace("NOTNULL", "NOT NULL")
                     .Replace("VARCHAR", "VARCHAR")
                     .Replace("NVARCHAR", "NVARCHAR")
                     .Replace("CHECK", "CHECK")
                     .Replace("PRIMARYKEY", "PRIMARY KEY")
                     .Replace("UNIQUE", "UNIQUE")
                     .Replace("CHAR", "CHAR")
                     .Replace("DATENOTNULL", "DATE NOT NULL")
                     .Replace("TEXT", "TEXT")
                     .Replace("--", "-- "); // 确保注释有一个空格

            // 添加换行和缩进
            string formattedSql = "";
            int indentationLevel = 0;
            bool insideComment = false;

            for (int i = 0; i < sql.Length; i++)
            {
                char currentChar = sql[i];

                // 检查是否进入注释
                if (i < sql.Length - 1 && sql.Substring(i, 2) == "--")
                {
                    insideComment = true;
                }

                // 增加缩进处理
                if (currentChar == '(')
                {
                    formattedSql += " (";
                    indentationLevel++;
                }
                else if (currentChar == ')')
                {
                    formattedSql += "\n" + new string(' ', indentationLevel * 4) + ")";
                    indentationLevel--;
                }
                else if (currentChar == ',')
                {
                    formattedSql += ",\n" + new string(' ', indentationLevel * 4);
                }
                else
                {
                    if (insideComment)
                    {
                        formattedSql += currentChar;
                        if (currentChar == '\n')
                        {
                            insideComment = false;
                        }
                    }
                    else
                    {
                        formattedSql += currentChar;
                    }
                }
            }

            return formattedSql;
        }


       
    }
}

有些地方有些小bug，比如取消思考没有进行细节的处理，但是不影响正常的使用，

整体的逻辑就是：窗体启动时候在线程里面进行一个死循环，只要textBox文本框里面出现回车就根据变量step的值来进行对应的操作。目前无法给deepseek发送图片让他进行分析，只支持文字对话。断网也是可以继续运行的。

如有更好的想法，欢迎大家评论区畅所欲言！