当前位置：网站首页 >文本创作 >正文

Ollama

AI类型：文本创作

4 分

访问次数

欢迎程度

关注程度

阅读次数

推荐次数

访问官网

简介

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具，允许用户下载并本地运行像Llama 2、Code Llama和其他模型，并支持自定义和创建自己的模型。该免费开源的项目，目前支持macOS和Linux操作系统，未来还将支持Windows系统。

此外，Ollama还提供了官方的Docker镜像，由此使用Docker容器部署大型语言模型变得更加简单，确保所有与这些模型的交互都在本地进行，无需将私有数据发送到第三方服务。Ollama在macOS和Linux上支持GPU加速，并提供了简单的命令行界面（CLI）以及用于与应用程序交互的REST API。

该工具对于需要在本地机器上运行和实验大语言模型的开发人员或研究人员来说特别有用，无需依赖外部云服务。

Ollama支持的模型

Ollma提供一个模型库，用户可以自行选择安装想要运行的模型，目前支持40+的模型，还在持续增加中，以下是可以下载的开源模型示例：

模型参数大小文件大小下载运行命令Neural Chat7B4.1GBollama run neural-chatStarling7B4.1GBollama run starling-lmMistral7B4.1GBollama run mistralLlama 27B3.8GBollama run llama2Code Llama7B3.8GBollama run codellamaLlama 2 Uncensored7B3.8GBollama run llama2-uncensoredLlama 2 13B13B7.3GBollama run llama2:13bLlama 2 70B70B39GBollama run llama2:70bOrca Mini3B1.9GBollama run orca-miniVicuna7B3.8GBollama run vicuna

相关资讯更多+

AdaCache – Meta推出加速AI视频实时高质量生成的开源项目
AdaCache（Adaptive Caching）是Meta推出的开源技术，能加速AI视频生成过程。AdaCache自适应缓存机制优化计算资源分配，根据不同视频内容的复杂度动态调整计算量，减少不必要的计算开销。AdaCache引入运动正则化策略，用视频内的运动信息进一步优化缓存决策。

AI教程资讯 2025-02-10
CogVideoX v1.5 – 智谱最新开源的AI视频生成模型
CogVideoX v1 5是智谱最新开源的AI视频生成模型。模型包含CogVideoX v1 5-5B和CogVideoX v1 5-5B-I2V两个版本，5B 系列模型支持生成5至10秒、768P分辨率、16帧的视频，I2V模型能处理任意尺寸比例的图像到视频的转换，结合即将开放内测的CogSound音效模型能自动生成匹配的AI音效。

AI教程资讯 2025-02-10
MiLoRA – 上海财经、南方科技和清华大学联合推出针对LLMs的微调方法
MiLoRA是参数高效的大型语言模型（LLMs）微调方法，通过更新权重分量来矩阵的次要奇异减少计算和内存成本。方法基于奇异值分解（SVD）将权重矩阵分为主要和次要两部分，主要部分包含重要知识，次要部分包含噪声或长尾信息。

AI教程资讯 2025-02-10
OpenCoder – 无限光年联合多所高校推出的开源代码大型语言模型
OpenCoder是墨尔本大学、复旦大学等高校研究人员联合无限光年推出的开源代码大型语言模型（LLM），能提升开源代码LLM的性能至专有模型水平，推动代码AI研究的透明化和可重复性。OpenCoder提供模型权重和推理代码，包括可复现的训练数据、完整的数据处理流程、严格的实验消融结果和详细的训练协议，助力研究社区构建和创新。

AI教程资讯 2025-02-10