Ollama

ollama 是一个开源的大型语言模型（llm）服务工具，它允许用户在本地机器上运行和部署大型语言模型。ollama 设计为一个框架，旨在简化在 docker 容器中部署和管理大型语言模型的过程，使得这一过程变得简单快捷。用户可以通过简单的命令行操作，快速在本地运行如 llama 3 这样的开源大型语言模型。

应用模型

注意：推荐下载 GGUF文件格式的模型，可以快速简洁的导入 Ollama 中。

0X01 下载模型文件

下载地址：https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-8bit/tree/main。

下载 Llama3-8B-Chinese-Chat-q8_0-v2_1.gguf 模型文件。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

图片

0X02 编写模型文件

Modelfile文件内容如下：

# FROM 指定 GGUF 文件的路径FROM D:/AI/Download/Llama3-8B-Chinese-Chat-q8_0-v2_1.gguf

0X03 创建 Ollama 模型

使用ollama create命令可以根据Modelfile创建一个新的模型：

ollama create tinywan-Llama3-8B-Chinese -f ./Modelfiletransferring model datausing existing layer sha256:ea6e8d5cda0fc798898b67f6e728eb2d02877a2599aa3c8290aaa6f681c2bb9ecreating new layer sha256:e6e86a160950a92b7b32fcd6fcbc830e38634be6d616ec57452561bfe2a243fbwriting manifestsuccess

这个命令会读取Modelfile中的配置，并创建一个名为tinywan-Llama3-8B-Chinese的新模型。

通过命令ollama list查看模型列表：

> ollama listNAMEIDSIZEMODIFIEDtinywan-Llama3-8B-Chinese:latestadcb30feaee516 GB About a minute agollama3:8b a6990ed6be414.7 GB2 weeks ago

0X04 运行 Ollama 模型

使用 ollama run 命令来验证tinywan-Llama3-8B-Chinese新模型：

ollama run tinywan-Llama3-8B-Chinese:latest

模型测试

>>> 写一首诗吧。"我说。他眨了眨眼，微笑着回答道：“好啊，我试试看。”然后，他闭上眼睛，开始吟唱：在星空之下，月光洒银辉。风轻轻地舞，树叶低语。山川河流静默，夜晚笼罩大地。但就在这宁静中，我感受到生命的脉动，它如同诗歌般跳跃，穿梭于每一颗心中。

REST API

除了命令行界面，OLlama还提供了REST API，使得您可以通过HTTP请求与模型交互。这对于在Web应用程序中集成ollama尤其有用。

PHPEIP

PhpEIP企业信息化平台主要解决企业各类信息的集成，能把各种应用系统(如内容管理系统，网上商城，论坛系统等)统一到企业信息化平台中，整个系统采用简单易用的模板引擎，可自定义XML标签，系统采用开放式模块开发，符合开发接口的模块可完全嵌入到平台;内容管理模块可自定义内容模型，系统自带普通文章模型和图片集模型，用户可以定义丰富的栏目构建企业门户，全站可生成静态页面，提供良好的搜索引擎优化;会员管理模

0 查看详情

请求

要生成模型的响应，您可以发送一个POST请求到 /api/generate：

curl -X POST http://localhost:11434/api/generate -d '{ "model": "llama3:8b", "prompt": "中文回答。你是什么大模型？", "stream": false}'

响应

返回一个JSON对象流：

{ "model": "llama3:8b", "created_at": "2025-05-12T09:00:01.9513668Z", "response": "I'm LLaMA, a large language model developed by Meta AI that can understand and respond to human input in a conversational manner. I've been trained on a massive dataset of text from the internet and can generate human-like responses to a wide range of topics and questions. My training data includes but is not limited to:\n\n* Web pages: articles, blogs, forums\n* Books: fiction and non-fiction\n* Research papers: academic journals, research articles\n* User-generated content: social media, comments, reviews\n\nI'm able to generate responses that are contextualized to the conversation I'm h*ing with you. This means I can recall previous statements or questions in our conversation and respond accordingly.\n\nMy capabilities include:\n\n* Answering questions on a wide range of topics, from science and history to entertainment and culture\n* Generating text summaries of long pieces of content\n* Translating text from one language to another (in this case, Chinese to English)\n* Responding to natural language input in a conversational manner\n\nI'm constantly learning and improving my responses based on the conversations I h*e with users like you. So feel free to ask me anything, and I'll do my best to provide helpful and accurate information!", "done": true, "done_reason": "stop", "context": [128006,...128009 ], "total_duration": 37185731000, "load_duration": 10876300, "prompt_eval_count": 13, "prompt_eval_duration": 1058480000, "eval_count": 248, "eval_duration": 36115711000}

更多了解：https://github.com/ollama/ollama/blob/main/docs/api.md

meta-llama

项目开源地址：https://github.com/meta-llama/llama3

图片

模型下载直接在在Hugging Face上下载就是了。模型地址：https://huggingface.co/models。

注意：推荐下载GGUF文件格式的模型，可以快速简洁的导入Ollama中。有了gguf格式的模型文件这样就不需要通过llama.cpp项目进行模型格式转换了。

图片

其他

删除模型

如果需要删除一个本地的模型，可以使用ollama rm命令。这将从您的本地环境中删除名为my-model的模型。

ollama rm my-model

复制模型

您可以使用ollama cp命令复制一个模型，创建一个新的模型副本：

ollama cp original-model new-model

以上就是Ollama如何构建自己的Llama3中文模型的详细内容，更多请关注其它相关文章！

# ollama  # 网站的营销推广有哪些  # 命令行  # 第四次  # 你该  # 首个  # 自定义  # 创建一个  # 保时捷  # 开源  # 自己的  # llama  # hugging face  # docker  # git  # llama3  # 框架  # 您可以  # 河源seo快速排名  # 网站全网营销推广介绍  # 关于网站建设广告词  # 网站站内推广有哪些  # 自动秒收录seo  # 徐州关键词排名方式  # 苏州建设人才招聘网站  # 吉林网站优化公司  # 辽宁正规的电商网站推广 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 电脑5G怎么上传手机  尼桑越野车中控前power是什么意思  光刻机的分类及特点  三星 nfc什么功能是什么意思  unix时间戳是什么意思  折叠手机内屏为什么会坏  j*a如何运行curl命令行  如何让固态硬盘坏掉  内网和外网区别 内网和外网有什么区别  如何选购ssd固态硬盘  vi命令如何退出  如何在一串数字前面去掉四位数的命令  如何更新苹果ios16  单片机怎么读取电流值  如何进入 dos 命令行  固态硬盘如何测试好坏  windows 如何连接ftp命令行  五十铃x-power是什么意思  复制 命令如何撤销  热水器没热水显示power是什么意思  苹果16改进了哪些  linux如何跳回命令行界面  .asm如何在命令行运行  html怎么使用typescript  折叠屏手机为什么没火  eraser是什么意思  面包车收音机power是什么意思  智能锁type-c接口是什么  空调主板单片机怎么拆开  苹果手机16系统有哪些  excel中datediff函数怎么用  如何使用程序编译 执行的命令  旧固态硬盘如何卖出  8英寸等于多少厘米  公司的tm市盈率为负是什么意思  红米手机怎么设置变成5G手机  夸克网盘下载为什么要钱  debian和ubuntu的区别是什么  营收和gmv区别_营收和gmv有什么区别  夸克搜题的原理是什么  faq是什么意思  微信最多可以加多少好友  春运抢票哪个城市好抢  如何安装固态硬盘win10  360手机壁纸怎么改  科技型企业成长＂十步法＂  单片机怎么控制闪烁技术  本科一批和本科二批是什么意思  1tb等于多少mb  如何用命令连接mysql