Ollama本地运行 Mistral-7B-Instruct-v0.3

Ollama本地运行 Mistral-7B-Instruct-v0.3

• [0. 引言](#0. 引言)
• [1. 运行 mistral:7b-instruct-v0.3-q8_0](#1. 运行 mistral:7b-instruct-v0.3-q8_0)
• [2. 简单问个问题](#2. 简单问个问题)

0. 引言

Mixtral 5月23日发布了 Mistral-7B-Instruct-v0.3，支持 function calling，今天简单运行一下。

1. 运行 mistral:7b-instruct-v0.3-q8_0

ollama run mistral:7b-instruct-v0.3-q8_0

2. 简单问个问题

先看看它的中文能力，用中文简单问了个问题，没想到中文的理解和回答还不错。

reference:

• https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.3

完结！