设为首页
收藏本站
切换到宽版
首页
BBS
最新文章
项目推荐(站长实测)
获取网赚项目&精品源码
全网优惠线报
登录
立即注册
52线报网
»
首页
›
我爱线报
›
线报分享
›
Ollama本地大模型管理器(AI写的)
返回列表
发布新帖
查看:
330
|
回复:
0
Ollama本地大模型管理器(AI写的)
小K
小K
当前离线
积分
15130
4658
主题
0
回帖
1万
积分
论坛元老
论坛元老, 积分 15130, 距离下一级还需 9984869 积分
论坛元老, 积分 15130, 距离下一级还需 9984869 积分
积分
15130
发消息
发表于 2026-5-9 00:35:23
|
查看全部
|
阅读模式
小新活动线报实时推送群
:
594617924
复制群号
(进群第一时间获取活动线报推送)
鞋服捡漏群
:
327839651
复制群号
用本地Qwen+Deepseek大模型写的,自己也修改了一部分
想用来测试一下离线模型的效率~~~~~~
主要用来主动提前加载大模型,以节省首次和大模型交互的响应时间
或者手动从显存中卸载大模型,以便快速释放显存
**程序主要用于Ollama且基于默认的11434端口**
其他大模型调试软件,或者非
Ollama默认端口的,请忽略!!
使用时注意点:
1.需要Ollama主程序正常运行中;
2.预加载大模型后还需要在交互客户端选择预加载的模型名称;
重申:本程序只时起到将模型提前载入显存或卸载出显存而已!!!
考虑到已经是手动操作了,就直接默认是
永久加载
,再设闲置时效好像意义不大!!!
https://120439037.lanzoum.com/iqhne3p0j8xe
回复
举报
返回列表
发布新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
浏览过的版块
精品软件
Copyright © 2001-2026
52线报网
版权所有
All Rights Reserved.
|
网站地图
闽ICP备19006036号-4
关灯
在本版发帖
扫一扫添加微信客服
返回顶部
快速回复
返回顶部
返回列表