Windows（Win10、Win11）本地部署开源大模型保姆级教程

点我去AIGIS公众号查看本文

本期教程用到的所有安装包已上传到百度网盘

链接：https://pan.baidu.com/s/1j281UcOF6gnOaumQP5XprA
提取码：wzw7

前言

  最近开源大模型可谓闹的沸沸扬扬，尤其是Microsoft开源的wizardlm2 8*22b 和 Meta开源的llama3 70b，评测都已经接近了OpenAI GPT4的水平。鉴于还有很多同学不会在Windows（Win10、Win11）上部署和使用本地模型，因此我们出一期保姆级教程。

1.安装ollama

  ollama是一个离线运行大模型的工具，注意你可不要把它和Meta的大模型llama混淆，二者不是同一个东西。ollama工具的下载地址为https://ollama.com/download,选择Windows版本进行下载安装即可。

2.安装大模型

  ollama默认安装路径为C:\Users\用户名\AppData\Local\Programs\Ollama，我们先进入到这个路径

  然后在地址栏输入cmd后回车