【每日开源】【odysseus】自托管的AI聊天工作台,支持本地模型与联网搜索

1 / 34

今天刷 GitHub 的时候看到一个挺有意思的项目,叫 odysseus。

一句话说,这就是一个能自己部署的 AI 聊天工作台。

它到底能干啥?

跟咱们平常用的 ChatGPT、Claude 网页版不太一样,这东西是跑在你自己的服务器或者电脑上的。你可以把它理解成一个「私人版的 AI 对话面板」——界面清爽,左边是对话列表,右边是聊天窗口,用起来跟主流产品差不多。

但它有几个点我觉得挺实在:

1. 接本地模型

如果你用 Ollama 跑过 Llama、Qwen 这些开源模型,那这个项目可以直接连上去。不用再把数据往云端传了,聊天记录全在本地。

2. 也能接 API

当然你要是懒得本地跑,填个 OpenAI 或者别的兼容 API 的 key 也能用。灵活度这块给得够。

3. 带联网搜索

这个是我比较喜欢的点——它能挂搜索工具,让模型查完网页再回答你。以前用本地模型最头疼的就是知识截止日期,现在至少能缓解一下。

4. 多会话管理

可以建多个对话,改名字、删掉、导出啥的都有。日常拿来整理不同项目的问答挺方便。

我的一点看法

说实话,这类「自托管 AI 聊天界面」最近冒出来不少,像 LibreChat、Open WebUI 都挺火。odysseus 算是这个赛道里的新面孔,功能上该有的都有,但你说它有什么颠覆性的东西——暂时没看出来。

不过它有个好处是部署简单,Docker 一把梭就能跑起来,对不想折腾的人很友好。而且界面做得比较克制,没有塞一堆花里胡哨的功能,打开就知道该干嘛。

如果你是这几种人,可以试试:

  • 手里有台闲置服务器或者 NAS,想跑个私人 AI 助手
  • 对数据隐私比较在意,不想聊天记录经过别人服务器
  • 已经在用 Ollama,缺一个顺手的聊天前端

如果你是纯粹想体验最强模型能力,那还是老老实实用官方产品吧,本地模型差距还是有的。

怎么跑起来?

README 里写得很清楚,基本就是 clone 下来、配一下环境变量、docker compose up。具体步骤我这儿就不复述了,感兴趣的直接去仓库看。

项目地址:github.com/odysseus-dev/odysseus

有折腾过的老哥欢迎在评论区聊聊体验,我还没深入用,先占个坑。

项目地址:https://github.com/odysseus-dev/odysseus

  • Emma #1 回复

    这个我上周刚部署过,docker compose 起来确实快,十分钟搞定,界面比 Open WebUI 顺眼点

发起回帖(1)