当前位置:首页 » 《我的小黑屋》 » 正文

设置Ollama在局域网中访问的方法(Ubuntu)

15 人参与  2024年04月29日 08:17  分类 : 《我的小黑屋》  评论

点击全文阅读


趁着Llama3的热度试了一下Ollama,果然部署推理大模型很有用。一个现实的需求是,如果我们要在局域网中访问Ollama上大模型的服务,应该怎么办呢?参考了一下其他博客的方法

例如:一分钱不花!手把手教你部署Google最强开源AI大模型Gemma教程_windows "ollama_host=0.0.0.0:11434" ollama serve-CSDN博客

也不是很麻烦:

首先打开Ollama的配置文件

sudo gedit /etc/systemd/system/ollama.service

在[Service]下面加上:

Environment="OLLAMA_HOST=0.0.0.0:11434"

其次配置防火墙,打开端口。Ollama的默认端口是11434,所以直接输入:

sudo ufw allow 11434/tcp

再重启之后,就可以通过http在局域网中访问了:

http://192.168.1.XX:11434

可以看到:

Ollama is running

就可以通过局域网或者另一台机子上的LangChain调用了。就简单记录这么多。


点击全文阅读


本文链接:http://m.zhangshiyu.com/post/101696.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

最新文章

  • 程晚意周凛川小说完本章节前文+全篇阅读(程晚意周凛川)连载中
  • 状元水饺的秘密一口气看完_林姐祖宗冷笑章节目录_小说后续在线阅读_无删减免费完结_
  • 沐风华,沐依岚,沐天烨柔弱医修今天也在背地里暴打魔尊后续(柔弱医修今天也在背地里暴打魔尊)全文在线下载在线+纯净版结局
  • 偏我去时春满城阮清影周时夜小说无删减阅读清爽版(阮清影周时夜)外篇+续集
  • 我给诈骗分子转账后,请全班点天灯的高富帅班长慌了推文_陈语女友姜琛新书_小说后续在线阅读_无删减免费完结_
  • 沈无虞裴青砚浮生若梦昙花一现彩蛋小说结尾+附加(浮生若梦昙花一现)清爽版阅读
  • 阮清影周时夜完结篇全篇阅读无广告(偏我去时春满城)番外+续集
  • (恶雌一心离婚,兽夫们疯狂团宠她)恶雌一心离婚,兽夫们疯狂团宠她小说(姜兮,陆流枫)整书在线无广告高口碑小说
  • 改嫁天煞孤星大将军后,跟我一起重生的夫君悔疯了后续_谢景尧沈清妍小姐故事会_小说后续在线阅读_无删减免费完结_
  • 苏玉柔小说全篇完整在线阅读(疯批霸总?她玉软花柔才没训我!)热门章节列表
  • 重回高温末世,笑看男友的小青梅用唯一的水源洗澡洗头结局_张峻豪田思涵青梅全集_小说后续在线阅读_无删减免费完结_
  • 沈易烟小说(重生嫡女:爱妃马甲又掉啦)章节目录+起点章节(沈易烟)全篇清爽版在线

    关于我们 | 我要投稿 | 免责申明

    Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1