当前位置: 首页 > news >正文

南京做网站建设的公司网站分析

南京做网站建设的公司,网站分析,青海日报社网站建设公司,淘宝短网址生成1、下载安装Ollama 前往下载页面 https://ollama.com/download下载好安装包,如同安装软件一样,直接安装即可 win中默认为C盘,如果需要修改到其他盘,查找具体教程 运行list命令,检查是否安装成功 2、修改模型下载的…

1、下载安装Ollama

前往下载页面

https://ollama.com/download

下载好安装包,如同安装软件一样,直接安装即可
win中默认为C盘,如果需要修改到其他盘,查找具体教程
运行list命令,检查是否安装成功
在这里插入图片描述

2、修改模型下载的位置

各种不同的模型往往占据空间更大,因此选择一个空间足够的位置非常有必要
退出Ollama,打开任务管理器,清除当前Ollama程序
在这里插入图片描述

选择合适位置,创建模型存储的目标文件夹
添加文件夹到环境变量中
变量名固定为,文件夹根据自己情况定

OLLAMA_MODELS

在这里插入图片描述

3、拉取、运行模型命令

打开powershell运行如下命令即可

ollama run deepseek-r1:1.5b

在命令 ollama run deepseek-r1:1.5b 中,1.5b 的部分代表的是模型的大小,具体来说:

  • “b” 是 billion(十亿)的缩写。这里的 1.5b 表示模型的参数量大约为 1.5 billion(15亿)个参数。
  • 这种命名方式通常用于区分不同大小的模型。例如,1.5b 就是一个包含 15 亿个参数的模型。
    对于大规模深度学习模型来说,参数量的大小通常直接影响模型的性能和计算需求。不同大小的模型对应的 “b” 数字表示不同的参数量,这也反映出模型的容量和复杂度。

1、模型中的参数大小b越大更耗资源,

  1. 1.5b:表示模型有 15 亿个参数,通常是一个较大但相对轻量级的模型。
  2. 7b:表示模型有 70 亿个参数,参数越大,模型更强大、更复杂,性能更好,但计算成本和推理延迟也会增加。
  3. 13b、30b 等:参数数量进一步增加,代表更大的模型,这些模型的推理和训练可能需要更强的计算能力和更长的时间,但在一些任务上可能会表现得更加精确和复杂。

总结:
不同大小的 b 表示模型参数的数量,1.5b 代表 15 亿个参数的模型。参数越多,模型的计算能力通常越强,但对硬件的需求和推理速度也会有更大的影响。

2、不同大小参数需要的大致硬件配置

https://blog.csdn.net/2401_85343303/article/details/145452011
参考这个博客
在这里插入图片描述
这里使用最基础的1.5b来示例,也可以让更多的小伙伴体验到本地模型

3、拉取模型并运行

ollama run deepseek-r1:1.5b

有可能拉取服务包失败,经过检索是Ollama 的服务器故障,非常新鲜的故障
在这里插入图片描述

拉取模型清单:500 ·问题 #8873 ·OLLAMA/OLLAMA
https://github.com/ollama/ollama/issues/8873

在这里插入图片描述

等待Ollama服务恢复尝试,可以轻松拉取
也是开箱即用对,耐心等待拉取
在这里插入图片描述

等待拉取完成,即可进行对话
在这里插入图片描述

4、退出模型

ctrl+d来退出,或者使用命令 /bye

/bye

4、前端UI版

适合Ollama使用的前端有很多,经过筛选选择了极简的NextJS Ollama LLM UI

NextJS Ollama LLM UI 是专为 Ollama 设计的极简主义界面,适合追求简约风的小伙伴

https://github.com/jakobhoeg/nextjs-ollama-llm-ui

访问项目地址可以看到具体的使用步骤,也是开箱即用(需要简单的前端经验)

1、安装nvm
2、安装 Node.js (18+)
3、按照项目中的提示操作即可
在这里插入图片描述

这里需要注意下修改example.env to .env .这个操作要保证Ollama的默认端口没有修改
然后就是前端固定的 install 、 run dev
启动前端ui,即可访问

http://localhost:3000/

选择具体模型,然后就可以使用了

在这里插入图片描述

http://www.ritt.cn/news/18562.html

相关文章:

  • 专业做网站制作自助建站系统我要推广网
  • 不用网站做淘宝客网络推广方法有哪些
  • 制作手机软件的软件北京网站优化实战
  • 学会网站开发有什么好处百度搜索榜单
  • 云南省城乡和住房建设厅网站网站建站设计
  • 绿色建筑网站方象科技的企业愿景
  • wordpress小工具制作seo搜索铺文章
  • 用dede做的网站电商seo是指
  • wordpress 音乐 插件怎么用seo是什么专业的课程
  • 网站的广告语应该怎么做百度关键词刷搜索量
  • 百度做网站吗百度广告公司
  • 东莞公司网站设计友情链接qq群
  • wordpress user_idseo网络推广技术
  • 网站建设公司广州增城关键词调价工具哪个好
  • 秦皇岛做网站优化公司太原百度推广排名优化
  • 网站设计沟通58同城如何发广告
  • 怎么建设自己收费网站新网站 seo
  • 网站风格包括什么百度官网认证多少钱
  • 襄阳市做网站的公司指数计算器
  • 做淘宝主要看哪些网站百度品牌广告多少钱
  • 做系统的网站网络营销的特点包括
  • 南京做网站咨询南京乐识上海网站建设方案
  • 杭州江干建设局网站附近哪里有计算机培训班
  • 云网站开发推广普通话手抄报内容怎么写
  • 织梦cms wordpress常用的seo工具的是有哪些
  • 不使用域名做网站今日百度小说排行榜风云榜
  • 如何做自己的网站链接竞价
  • 北京学做网站网站没有友情链接
  • h5响应式音乐网站模板友情链接有哪些展现形式
  • 跨境电商独立站是什么意思免费站推广网站2022