open-webui+ollama本地部署Llama3

TianFeng 趣玩AI42阅读模式


open-webui+ollama本地部署Llama3

前言

Meta Llama 3 是由 Meta 公司发布的下一代大型语言模型,拥有 80 亿和 700 亿参数两种版本,号称是最强大的开源语言模型。它在多个基准测试中超越了谷歌的 Gemma 7B 和 Mistral 7B Instruct 模型。

安装

1.gpt4all

https://github.com/nomic-ai/gpt4all

open-webui+ollama本地部署Llama3

直接选择系统点击安装,Windows就点Windows,下载完后直接安装即可!

open-webui+ollama本地部署Llama3

内置模型点击Download即可选择你喜欢的大语言模型,8G显存选LLama3 8B即可,70B需要40G的显存才能正常使用。其他模型类似

C:\Users\admin\AppData\Local\nomic.ai\GPT4All           #下载模型保存路径(如果看不到显示隐藏文件)

open-webui+ollama本地部署Llama3

也可以下载大模型(或者你微调的模型)放入该路径,重新启动即可,当做一个webui界面

2.open-webui+ollama

ollama

https://github.com/ollama/ollama?tab=readme-ov-file

选择对应系统安装

open-webui+ollama本地部署Llama3

安装完后cmd命令行窗口,运行

ollama run llama3             #下载Llama3 8b
ollama run llama3:70b      #下载Llama3 70b  参考下图

open-webui+ollama本地部署Llama3

模型保存在改路径下,

open-webui+ollama本地部署Llama3

安装完Ollama后用open-webui可视化

open-webui

https://github.com/open-webui/open-webui?tab=readme-ov-file

使用docker安装

open-webui+ollama本地部署Llama3

左下角搜索启用或关闭Windows功能,勾选适用于Linux的Windows子系统 ,确定,先不重启

open-webui+ollama本地部署Llama3

安装docker

https://www.docker.com/products/docker-desktop/

下载完直接安装,重启,确定即可

open-webui+ollama本地部署Llama3

打开ollama和docker,cmd命令行:(打开全局代理)

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

下载完后

http://127.0.0.1:3000

点击右上角设置,选择简体中文

open-webui+ollama本地部署Llama3

下载模型 llama3:8b ,点击下载

open-webui+ollama本地部署Llama3

最后可以愉快玩耍了

open-webui+ollama本地部署Llama3

补:lmstudio(问题多)

https://lmstudio.ai/

open-webui+ollama本地部署Llama3open-webui+ollama本地部署Llama3

国内安装显示没网,开全局代理也没用,版本更新也快,把huggingface换成国内镜像hf-mirror,没用,又把downloads.json文件更换下载地址,能下但是下载速度贼慢,open-webui+ollama本地部署Llama3

有兴趣可以看看https://www.bilibili.com/video/BV1dw4m1f7zQ/?spm_id_from=333.337.search-card.all.click&vd_source=69a72fa3fe0bf11ff1588ccaeb91737a

最好找个老版本

相关文章
weinxin
我的公众号
微信扫一扫
TianFeng
  • 本文由 发表于 2024年 6月 4日 16:18:21
  • 转载请务必保留本文链接:https://tianfeng.space/1998.html