将谷歌 Gemma AI大模型 部署安装本地教程(可离线使用)

CSDN 成就一亿技术人!

作者主页:点击!****

------------前言------------

谷歌 Gemma 是一个基于 Python 的图像分析工具,提供快速和准确的物体检测、定位、分类和风格迁移功能。它使用 TensorFlow Lite 模型,使它可以快速运行在移动设备上。

主要功能

  • **物体检测:**Gemma 可以识别图像中的物体,并标出其位置和类别。
  • **物体定位:**Gemma 可以定位图像中的物体,并提供其精确位置。
  • **图像分类:**Gemma 可以对图像进行分类,根据图像的内容分类。
  • **风格迁移:**Gemma 可以将一种图像的风格转移到另一种图像。

特点

  • **速度快速:**Gemma 使用 TensorFlow Lite 模型,可以快速运行在移动设备上。
  • **准确性:**Gemma 使用预训练的模型,可以实现准确的物体检测和分类。
  • **易用性:**Gemma 是一个开源工具,易于使用。
  • **还包:**Gemma 包含许多功能,例如图像加载、预处理、后处理和可视化。

谷歌Gemma是一系列轻量级、最先进的开放模型,由Google AI构建并开源。Gemma模型旨在为各种自然语言处理任务提供卓越的性能,同时保持较低的资源需求和部署灵活性。

Gemma模型家族包括以下成员:

  • Gemma 2B:参数量为20亿,在推理速度和性能之间取得了良好的平衡。
  • Gemma 7B:参数量为70亿,在各种任务上都表现出最先进的性能。

Gemma模型可以用于以下任务:

  • 文本生成:可以生成各种格式的文本,如诗歌、代码、剧本、音乐作品、电子邮件、信件等。
  • 文本翻译:可以将文本翻译成多种语言。
  • 文本摘要:可以自动生成文本的摘要。
  • 问答:可以回答有关文本内容的各种问题。
  • 文本分类:可以将文本归类到不同的类别中。

Gemma模型可以通过以下方式使用:

  • 在本地计算机上使用:可以下载Gemma模型的代码和权重,并在本地计算机上运行。
  • 在Google Cloud上使用:可以通过Google Cloud Vertex AI平台使用Gemma模型。
  • 在Kaggle上使用:可以通过Kaggle平台免费使用Gemma模型。

来自Gemma官网:

Gemma 模型与 Gemini 共享技术和基础设施组件,Gemini 是我们当今广泛使用的最大、功能最强大的 AI 模型。与其他开放式型号相比,这使得 Gemma 2B 和 7B 能够在其尺寸范围内实现同类最佳的性能。 Gemma 模型能够直接在开发人员笔记本电脑或台式计算机上运行。值得注意的是,Gemma 在关键基准上超越了更大的模型,同时遵守我们关于安全和负责任的输出的严格标准。有关性能、数据集组成和建模方法的详细信息,请参阅技术报告。

具体部署过程

接下来详细讲解如何将它部署到本地电脑上边

下载安装ollama 客户端: 【点击下载

官网LOGO

进入之后选择对应的系统下载即可

下载完成之后会得到这样一个安装包

一直下一步默认安装即可(路径尽量不要去动)

安装完成之后

选择模型

如果你是第一次部署,它会自动下载!

大家根据电脑性能来选择对应的(当然内存越大 语言模型就会越强)

  • Gemma 2B:参数量为20亿,在推理速度和性能之间取得了良好的平衡。
  • Gemma 7B:参数量为70亿,在各种任务上都表现出最先进的性能。

[ 1 ]. 7B的全量版本:(需要16G左右的显存)

ollama run gemma:7b-instruct-fp16

[ 2 ]. 普通7B版 安装指令:(适合8G显存)

ollama run gemma:7b

[ 3 ].2B轻量版:(适合CPU会低配电脑安装)

ollama run gemma:2b

复制命令输入等待自动下载完成即可

测试

等待安装完成之后

我们让它自我介绍一下

>>介绍一下自己
我是一个大型语言模型,由Google开发。
**我的功能包括:**
*理解自然语言
生成自然语言
翻译语言
回答问题
自动摘要
聊天机器人
**我如何工作:**
1·
我从大型文本数据库中检索并处理人类对话。
2.
我使用神经网络学习如何从输入文本中推断输出文本。
3.
我可以根据我的训练数据生成新的文本,翻译语言,或回答问题。
**我有哪些优势:**
**无答案能力:**我无法独立思考或做出决定。
**可扩展性:**我可以在任何设备上运行。
**实时性:**我可以在实时回答问题。
**准确性:**我经过严格的训练,以确保准确性。
*我有哪些限制:**
**有限的理解能力:**我可能无法理解或解释所有语言或文化。
**道德和伦理问题:**我无法提供情感支持或提供不当的信息。
**缺乏批判性思维能力:**我无法进行批判性思维或独立思考。
*我如何与您互动:**
您可以通过通过聊天机器人或搜索引擎搜索我,以了解我更多信息。我也可以用任何支持自然语言的应用程序或工具进行交互。
>>请你介绍一下Linux
好的,我很乐意向您介绍Linux。Liux是一个开源的操作系统,它被广泛用于各种设备上,包括笔记本电脑、服务器、移动设备等
Linux的优势包括:
**自由开源:*Liu×是一个自由软件,这意味着它可以免费使用和修改。
***可扩展性:**Linux可扩展到任何需要。
***安全性:*Linux系统非常安全,
因为它提供了强大的安全机制。
***性能:**Linux系统性能非常出色。
***多平台:**Linux可以运行在各种设备上。
此外,Linuxi还有一些特定的功能,例如:
***命令行界面:**您可以使用命令行界面进行交互操作。
**支持多种编程语言:*您可以使用多种编程语言编写代码。
***支持多种应用程序:**您可以找到许多免费和开源的应用程序。
如果您想了解更多关于Liux的信息,您可以访问以下网站:
***Linux.org:*Linux官方网站
**Linux Foundation:*Linux fundacion
**Canonical:**Canonical服务器公司
我期待着为您提供更多信息。
>>>请你介绍一下CSDN这个网站
好的,我很乐意向您介绍CSDN这个网站。
CSDN是一个开源软件社区的网站,它提供免费的软件和技术资源。
CSDN的优势包括:
***免费软件:**您可以找到许多免费的软件和技术资源。
***技术分享:**您可以与其他开发者交流技术问题和解决方案。
***会议和活动:**您可以参加许多Conference and Event,与其他开发者交流技术信息。
CSDN的资源包括:
***软件库:**您可以找到许多免费的软件和应用程序。
***技术文档:**您可以找到许多技术文档,包括代码和文章。
***社区论坛:**您可以参与社区论坛,与其他开发者交流技术问题和解决方案。
我期待着为您提供更多关于CSDN的信息。

注意事项

当你退出重新进入之后会出现这样的问题

你必须输入对应的模型型号 进入内部命令解释器才可以提问

相关推荐
Elastic 中国社区官方博客21 分钟前
Elasticsearch 开放推理 API 增加了对 IBM watsonx.ai Slate 嵌入模型的支持
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
孤独且没人爱的纸鹤4 小时前
【深度学习】:从人工神经网络的基础原理到循环神经网络的先进技术,跨越智能算法的关键发展阶段及其未来趋势,探索技术进步与应用挑战
人工智能·python·深度学习·机器学习·ai
为什么每天的风都这么大14 小时前
Vscode/Code-server无网环境安装通义灵码
ide·vscode·阿里云·编辑器·ai编程·code-server
老艾的AI世界16 小时前
AI翻唱神器,一键用你喜欢的歌手翻唱他人的曲目(附下载链接)
人工智能·深度学习·神经网络·机器学习·ai·ai翻唱·ai唱歌·ai歌曲
飞起来fly呀1 天前
AI驱动电商新未来:提升销售效率与用户体验的创新实践
人工智能·ai
Jing_jing_X1 天前
心情追忆-首页“毒“鸡汤AI自动化
java·前端·后端·ai·产品经理·流量运营
刘悦的技术博客2 天前
MagicQuill,AI动态图像元素修改,AI绘图,需要40G的本地硬盘空间,12G显存可玩,Win11本地部署
ai·aigc·python3.11
乘风而来的思绪2 天前
【AI编程实战】安装Cursor并3分钟实现Chrome插件(保姆级)
人工智能·机器学习·ai编程
探索云原生2 天前
大模型推理指南:使用 vLLM 实现高效推理
ai·云原生·kubernetes·gpu·vllm
Elastic 中国社区官方博客2 天前
Elasticsearch:如何部署文本嵌入模型并将其用于语义搜索
大数据·人工智能·elasticsearch·搜索引擎·ai·全文检索