基于Ollama,搭建本地大模型Llama3.1

Ollama安装

curl -fsSL https://ollama.com/install.sh | sh

基于Ollama,搭建本地大模型Llama3.1如果服务器曾修改过DNS配置,此处可能出现https://ollama.com解析异常,修改DNS设置即可解决;WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.该异常可能会影响模型性能,目前未影响使用,后续修改会再更新。

Llama3.1安装

ollama run llama3.1
基于Ollama,搭建本地大模型Llama3.1默认安装的是8B,安装时间大概几分钟,success后即可进入对话内容。
使用

基于Ollama,搭建本地大模型Llama3.1

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片