Ollama本地运行大型语言模型。运行 Llama 2、llama2-chinese、Code Llama 和其他模型。自定义并创建自己的模型。

尝试树莓派5使用1panel安装 Ollama。

拉取镜像

Ollama官方提供了docker hub的镜像。
在树莓派5浏览器上输入1panel服务器的登陆链接。参考《树莓派5安装1panel运维面板》
然后选择容器–>镜像–>拉取镜像，如下图填写镜像名ollama/ollama，然后选择拉取。
在这里插入图片描述

创建容器

点击容器–>容器–>创建容器，做如下填充和选择.
在这里插入图片描述

进入容器

点击终端就可以进入容器
在这里插入图片描述

运行 Llama2-Chinese 7B 中文模型

点击连接
在这里插入图片描述
终端内运行以下命令：

#查询版本
ollama --version
#拉取3.8G的4bit量化模型文件
ollama pull llama2-chinese
#交互式提问回答
ollama run llama2-chinese

回答效果：

在这里插入图片描述

# docker # 容器 # 运维
Logo
乐奇 Rokid 开放社区

更多推荐

哪个家电企业综合技术全球领先？看TCL白电

挑冰箱时，这正是判断一个品牌的冰箱值不值得买的地方。在AI应用之外，面向AI时代，又将AI技术落到产品深处，打造AR智能眼镜、家庭「 陪 · 育」机器人、智能电视、AI空调、AI洗衣机、AI冰箱等多产品线，在智能制造和智能生活上深度布局。回头看，TCL家电的技术不在于某一句宣传语，而在于一台电视的显示技术、一台冰箱的冷凝器、一台空调的变频控制器、一台洗衣机的传感器等细节里。一台家电好不好，往往不由

avatar 乐奇 Rokid 开放社区

在 Rokid AI Glasses 上做背单词应用：AIUI拍照听写的实现

分享在 Rokid AI Glasses 上用 AIUI 开发背单词应用的实践：从镜腿单击拍照、图片编码和多模态识别，到切题时的异步任务处理、语音调度与学习进度保存，结合关键代码和界面动图说明实现过程。

avatar 乐奇 Rokid 开放社区

6.9 元还是 13.5 元？在 Rokid 眼镜上用 AIUI 算清单位价

500 毫升，6.9 元。1.25 升，13.5 元。把两项都换成一升，价格分别是 13.80 元和 10.80 元。总价更高的那瓶，单位价格反而更低。不过，这个结论有一个前提：规格和价格都得读对。假如第二瓶实际只有 750 毫升，13.5 元这个总价没有变，比较结果就会转向另一边。我用这两组数字做了一个 AIUI 小项目，叫“比一比”。它接收两项报价，把每份规格、包装件数和整组总价放到两张卡片上

avatar 乐奇 Rokid 开放社区