谷歌 Gemma AI大模型部署搭建本地

------------前言------------

谷歌 Gemma 是一个基于 Python 的图像分析工具,提供快速和准确的物体检测、定位、分类和风格迁移功能。它使用 TensorFlow Lite 模型,使它可以快速运行在移动设备上。

主要功能

物体检测:Gemma 可以识别图像中的物体,并标出其位置和类别。 物体定位:Gemma 可以定位图像中的物体,并提供其精确位置。 图像分类:Gemma 可以对图像进行分类,根据图像的内容分类。 风格迁移:Gemma 可以将一种图像的风格转移到另一种图像。

特点

速度快速:Gemma 使用 TensorFlow Lite 模型,可以快速运行在移动设备上。
准确性:Gemma 使用预训练的模型,可以实现准确的物体检测和分类。
易用性:Gemma 是一个开源工具,易于使用。
还包:Gemma 包含许多功能,例如图像加载、预处理、后处理和可视化。

谷歌Gemma是一系列轻量级、最先进的开放模型,由Google AI构建并开源。Gemma模型旨在为各种自然语言处理任务提供卓越的性能,同时保持较低的资源需求和部署灵活性。

Gemma模型家族包括以下成员:

Gemma 2B:参数量为20亿,在推理速度和性能之间取得了良好的平衡。

Gemma 7B:参数量为70亿,在各种任务上都表现出最先进的性能。

Gemma模型可以用于以下任务:

文本生成:可以生成各种格式的文本,如诗歌、代码、剧本、音乐作品、电子邮件、信件等。

文本翻译:可以将文本翻译成多种语言。

文本摘要:可以自动生成文本的摘要。

问答:可以回答有关文本内容的各种问题。

文本分类:可以将文本归类到不同的类别中。

Gemma模型可以通过以下方式使用:

在本地计算机上使用:可以下载Gemma模型的代码和权重,并在本地计算机上运行。

在Google Cloud上使用:可以通过Google Cloud Vertex AI平台使用Gemma模型。

在Kaggle上使用:可以通过Kaggle平台免费使用Gemma模型。

来自Gemma官网:

Gemma 模型与 Gemini 共享技术和基础设施组件,Gemini 是我们当今广泛使用的最大、功能最强大的 AI 模型。与其他开放式型号相比,这使得 Gemma 2B 和 7B 能够在其尺寸范围内实现同类最佳的性能。 Gemma 模型能够直接在开发人员笔记本电脑或台式计算机上运行。值得注意的是,Gemma 在关键基准上超越了更大的模型,同时遵守我们关于安全和负责任的输出的严格标准。有关性能、数据集组成和建模方法的详细信息,请参阅技术报告。

具体部署过程

接下来详细讲解如何将它部署到本地电脑上边

下载安装ollama 客户端: 【点击下载

官网LOGO

进入之后选择对应的系统下载即可

一直下一步默认安装即可(路径尽量不要去动)

选择模型

如果你是第一次部署,它会自动下载!

大家根据电脑性能来选择对应的(当然内存越大 语言模型就会越强)

  • Gemma 2B:参数量为20亿,在推理速度和性能之间取得了良好的平衡。

  • Gemma 7B:参数量为70亿,在各种任务上都表现出最先进的性能。

1 \]. 7B的全量版本:(需要16G左右的显存) ```arduino ollama run gemma:7b-instruct-fp16 ``` \[ 2 \]. 普通7B版 安装指令:(适合8G显存) ```arduino ollama run gemma:7b ``` \[ 3 \].2B轻量版:(适合CPU会低配电脑安装) ```arduino ollama run gemma:2b ``` 复制命令输入等待自动下载完成即可 ![](https://file.jishuzhan.net/article/1776911582937223170/b4859647a5f27a0818a122a707de1069.webp) 测试 等待安装完成之后 我们让它自我介绍一下 > > > 介绍一下自己 > 我是一个大型语言模型,由Google开发。 > **我的功能包括:** > \*理解自然语言 > 生成自然语言 > 翻译语言 > 回答问题 > 自动摘要 > 聊天机器人 > **我如何工作:** > 1· > 我从大型文本数据库中检索并处理人类对话。 > 2. > 我使用神经网络学习如何从输入文本中推断输出文本。 > 3. > 我可以根据我的训练数据生成新的文本,翻译语言,或回答问题。 > **我有哪些优势:** > \*\*无答案能力:\*\*我无法独立思考或做出决定。 > \*\*可扩展性:\*\*我可以在任何设备上运行。 > \*\*实时性:\*\*我可以在实时回答问题。 > \*\*准确性:\*\*我经过严格的训练,以确保准确性。 > *我有哪些限制:*\* > \*\*有限的理解能力:\*\*我可能无法理解或解释所有语言或文化。 > \*\*道德和伦理问题:\*\*我无法提供情感支持或提供不当的信息。 > \*\*缺乏批判性思维能力:\*\*我无法进行批判性思维或独立思考。 > *我如何与您互动:*\* > 您可以通过通过聊天机器人或搜索引擎搜索我,以了解我更多信息。我也可以用任何支持自然语言的应用程序或工具进行交互。 ![](https://file.jishuzhan.net/article/1776911582937223170/2ae54c85214e8ec42861d3c1812c05d5.webp) > > > 请你介绍一下Linux > 好的,我很乐意向您介绍Linux。Liux是一个开源的操作系统,它被广泛用于各种设备上,包括笔记本电脑、服务器、移动设备等 > Linux的优势包括: > \*\*自由开源:\*Liu×是一个自由软件,这意味着它可以免费使用和修改。 > \*\*\*可扩展性:\*\*Linux可扩展到任何需要。 > \*\*\*安全性:\*Linux系统非常安全, > 因为它提供了强大的安全机制。 > \*\*\*性能:\*\*Linux系统性能非常出色。 > \*\*\*多平台:\*\*Linux可以运行在各种设备上。 > 此外,Linuxi还有一些特定的功能,例如: > \*\*\*命令行界面:\*\*您可以使用命令行界面进行交互操作。 > \*\*支持多种编程语言:\*您可以使用多种编程语言编写代码。 > \*\*\*支持多种应用程序:\*\*您可以找到许多免费和开源的应用程序。 > 如果您想了解更多关于Liux的信息,您可以访问以下网站: > \*\*\*Linux.org:\*Linux官方网站 > \*\*Linux Foundation:\*Linux fundacion > \*\*Canonical:\*\*Canonical服务器公司 > 我期待着为您提供更多信息。 ![](https://file.jishuzhan.net/article/1776911582937223170/9df332c45310fb9a16d3dd8ab8061c27.webp) ## 注意事项 当你退出重新进入之后会出现这样的问题 ![](https://file.jishuzhan.net/article/1776911582937223170/1b2edb1355d7889f45190611cf97c0fd.webp) 你必须输入对应的模型型号 进入内部命令解释器才可以提问 ![](https://file.jishuzhan.net/article/1776911582937223170/bf1bd1ff517978a0479033a0e03924fb.webp)

相关推荐
AskHarries9 小时前
dify开启多租户模式
openai
骑猪兜风23312 小时前
没有人知道“他妈的” 智能体到底是什么
人工智能·openai·ai编程
拉丁解牛说技术12 小时前
AI大模型进阶系列(01)AI大模型的主流技术 | AI对普通人的本质影响是什么?
后端·架构·openai
x-cmd19 小时前
[250401] OpenAI 向免费用户开放 GPT-4o 图像生成功能 | Neovim 0.11 新特性解读
人工智能·gpt·文生图·openai·命令行·neovim
鸿蒙布道师1 天前
OpenAI战略转向:开源推理模型背后的行业博弈与技术趋势
人工智能·深度学习·神经网络·opencv·自然语言处理·openai·deepseek
紫电青霜_FullStack2 天前
浅谈用Azure AI Search实现RAG (1)---基本概念
openai
ssshooter2 天前
2025 最新 AI 模型深度对比:ChatGPT、Claude、Gemini到底选谁?
程序员·aigc·openai
新智元2 天前
美国 CS 专业卷上天,满分学霸惨遭藤校全拒!父亲大受震撼引爆热议
人工智能·openai
新智元2 天前
美国奥数题撕碎 AI 数学神话,顶级模型现场翻车!最高得分 5%,DeepSeek 唯一逆袭
人工智能·openai
新智元2 天前
吉卜力太火,奥特曼求饶!GPT-4o 免费生图登王座,设计师直呼天塌了
人工智能·openai