
Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama2、CodeLlama和其他模型,并支持自定义和创建自己的模型。该免费开源的项目,目前支持macOS和Linux操作系统,未来还将支持Windows系统。
此外,Ollama还提供了官方的Docker镜像,由此使用Docker容器部署大型语言模型变得更加简单,确保所有与这些模型的交互都在本地进行,无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速,并提供了简单的命令行界面(CLI)以及用于与应用程序交互的RESTAPI。
该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用,无需依赖外部云服务。
Ollama安装包获取
Ollama支持的模型
Ollma提供一个模型库,用户可以自行选择安装想要运行的模型,目前支持40+的模型,还在持续增加中,以下是可以下载的开源模型示例:
模型 | 参数大小 | 文件大小 | 下载运行命令 |
---|---|---|---|
DeepSeek-R1 | 1.5B、7B、14B、32B等 | 12-320GB | ollamarundeepseek-r1 |
NeuralChat | 7B | 4.1GB | ollamarunneural-chat |
Starling | 7B | 4.1GB | ollamarunstarling-lm |
Mistral | 7B | 4.1GB | ollamarunmistral |
Llama2 | 7B | 3.8GB | ollamarunllama2 |
CodeLlama | 7B | 3.8GB | ollamaruncodellama |
Llama2Uncensored | 7B | 3.8GB | ollamarunllama2-uncensored |
Llama213B | 13B | 7.3GB | ollamarunllama2:13b |
Llama270B | 70B | 39GB | ollamarunllama2:70b |
OrcaMini | 3B | 1.9GB | ollamarunorca-mini |
Vicuna | 7B | 3.8GB | ollamarunvicuna |
数据统计
数据评估
关于Ollama特别声明
本站AFT导航提供的Ollama都来源于网络,不保证外部链接的准确性和完整性,同时,对于该外部链接的指向,不由AFT导航实际控制,在2025年3月19日 下午2:24收录时,该网页上的内容,都属于合规合法,后期网页的内容如出现违规,可以直接联系网站管理员进行删除,AFT导航不承担任何责任。
相关导航

低门槛快速定制大语言模型的引擎

Llama 3
Meta最新开源推出的新一代大模型

StableVicuna
第一个通过RLHF训练的大规模开源聊天机器人

Replicate
在线运行开源机器学习模型

阿里巴巴M6
阿里巴巴达摩院推出的超大规模中文预训练模型(M6)

DeepSpeed
微软开源的低成本实现类似ChatGPT的模型训练

DeepFloyd IF
StabilityAI旗下的DeepFloyd团队推出的图片生成模型

Auto-GPT
爆火的实现GPT-4完全自主的实验性开源项目,GitHub超10万星
暂无评论...