谷歌 Gemma 大模型本地部署试用
安装
下载安装ollama 客户端: 【点击下载】
【1】. 普通7B版 安装指令：（适合8G显存）
ollama run gemma:7b如果你是第一次部署，它会自动下载！
【2】. 7B的全量版本：（需要16G左右的显存）
ollama run gemma:7b-instruct-fp16【3】. 2B轻量版：（适合CPU会低配电脑安装）
ollama run gemma:2b如果你需要下载谷歌 Gemma 开源大模型的文件，那么可以前往官网下载！
【链接直达】
使用体验
电脑是NVIDIA GeForce RTX 2070，显存只有8G。所有只安装了普通的7B版本。
个人体验感觉还好，记录如下:
