一键启动整合包下载地址: https://flashai.com.cn

Llama 3.1 于 2024 年 7 月 24 日重磅推出,包括 405B ,70B ,8B 三个模型,将上下文长度扩展到 128K 、增加了对八种语言的支持。

8B 模型在 5 月初发布的 3.0 基础上能力有了大幅提升,超越 gemma2 9B 成为 10B 以下模型的 SOTA

这款 Llama3.1 8B 整合包,下载解压后开箱即用,无需任何安装配置,包括了 ollama ,Llama3.1 8B 大模型文件,图形化界面,知识库,向量模型,知识树,文档翻译,中文优化等,体积 5.7G

最低配置:8G 以上空闲内存,支持 avx2 的 CPU (近 10 年主流 CPU 都支持)

推荐配置:8G 显存的 N 卡 GPU

Llama3.1 8B 本地部署抢先体验, win&mac 一键启动整合包,图形化界面+知识库

Llama3.1 8B 本地部署抢先体验, win&mac 一键启动整合包,图形化界面+知识库

Llama3.1 8B 本地部署抢先体验, win&mac 一键启动整合包,图形化界面+知识库

最新回复 (12)
  • B4a1n4月前
    引用2
  • mumbler楼主4月前
    引用5
    @B4a1n 官方没有说正式支持中文,可能中文语料训练得少,国产模型大都基于 llama3 训练的,很快会出来一堆。10B 以下模型里中文能力目前最好的是 gemma2 9B ,英翻中特别厉害
  • gzlock4月前
    引用6
    https://ollama.com/library/llama3.1
    我会用知名度更高的 ollama 去体验 llama3.1
    不是说不知名的软件啊整合包啊就该埋入土了,我本意是用更知名的出品代表有更多人盯着有没有作恶
  • jeffwcx4月前
    引用7
    @mumbler qwen 也是基于 ollama ?
  • yekern4月前
    引用8
    去 huggingface 找 llama3-8b-chinese-chat-ollama-q4 已经支持 ollama 了 可以直接用微调中文的
  • walkingmoonwell4月前
    引用9
    @yekern 对这些不是很了解,我想问问比如这些模型做成知识库或者其他什么的,是已经很成熟可以当成产品了吗?还是只是本地部署自己玩玩?
  • mumbler楼主4月前
    引用10
    @gzlock ollama 只是一个命令行,要用图形界面需要安装 webui ,要用知识库需要安装 anything ,对普通人太麻烦,flashai 底层也是 ollama ,集成了图形界面,知识库,不用一个个去安装了,更方便不是吗
  • mumbler楼主4月前
    引用11
    @jeffwcx
    llama2 有 7b 13b 33b 70b,qwen1.5 有 7b,14b,34b,72b
    llama3 有 8b 70b,qwen2 有 7b ,72b
    是不是一样的
  • mumbler楼主4月前
    引用12
    @walkingmoonwell 知识库已经很成熟了,可以用 flashai 免费体验一下,硬件有个 gpu 体验更好
  • mumbler楼主4月前
    引用13
    @yekern 赶紧再微调一个 3.1 的,基座比 3 强了不少
  • 回复请 登录 or 快速注册
返回