[GH-ISSUE #45] vllm启动的模型接入后没有反应 #22

Closed
opened 2026-03-02 03:37:13 +03:00 by kerem · 7 comments
Owner

Originally created by @masktone on GitHub (Jan 21, 2025).
Original GitHub issue: https://github.com/codexu/note-gen/issues/45

配置是否有问题

Image

Originally created by @masktone on GitHub (Jan 21, 2025). Original GitHub issue: https://github.com/codexu/note-gen/issues/45 配置是否有问题 ![Image](https://github.com/user-attachments/assets/68a3ebdf-41ae-446e-ba1e-9ed2be8914c3)
kerem 2026-03-02 03:37:13 +03:00
  • closed this issue
  • added the
    bug
    label
Author
Owner

@codexu commented on GitHub (Jan 21, 2025):

看了一下 vllm 文档,一个示例:curl http://localhost:8000/v1/chat/completions
按照示例,这里应填写 http://localhost:8000/v1

<!-- gh-comment-id:2603584220 --> @codexu commented on GitHub (Jan 21, 2025): 看了一下 vllm 文档,一个示例:curl http://localhost:8000/v1/chat/completions 按照示例,这里应填写 http://localhost:8000/v1
Author
Owner

@masktone commented on GitHub (Jan 21, 2025):

看了一下 vllm 文档,一个示例:curl http://localhost:8000/v1/chat/completions 按照示例,这里应填写 http://localhost:8000/v1
尝试过了,还是不行,是因为他无法访问别的服务器的服务吗,模型启动是在服务器上,

<!-- gh-comment-id:2603588850 --> @masktone commented on GitHub (Jan 21, 2025): > 看了一下 vllm 文档,一个示例:curl http://localhost:8000/v1/chat/completions 按照示例,这里应填写 http://localhost:8000/v1 尝试过了,还是不行,是因为他无法访问别的服务器的服务吗,模型启动是在服务器上,
Author
Owner

@codexu commented on GitHub (Jan 21, 2025):

本地用 postman 调一下,把结果发一下。

<!-- gh-comment-id:2603661705 --> @codexu commented on GitHub (Jan 21, 2025): 本地用 postman 调一下,把结果发一下。
Author
Owner

@masktone commented on GitHub (Jan 22, 2025):

本地用 postman 调一下,把结果发一下。

Image
模型名可以忽略 我今天启动的是别的模型

<!-- gh-comment-id:2606681340 --> @masktone commented on GitHub (Jan 22, 2025): > 本地用 postman 调一下,把结果发一下。 ![Image](https://github.com/user-attachments/assets/d6565056-fd91-435f-9b7b-14b8d3216ba5) 模型名可以忽略 我今天启动的是别的模型
Author
Owner

@codexu commented on GitHub (Jan 23, 2025):

这看起来没什么问题,而且也不会存在跨域的问题,任何关于 AI 的功能都没反应吗?

<!-- gh-comment-id:2608661324 --> @codexu commented on GitHub (Jan 23, 2025): 这看起来没什么问题,而且也不会存在跨域的问题,任何关于 AI 的功能都没反应吗?
Author
Owner

@codexu commented on GitHub (Jan 24, 2025):

确实发现了这个问题,dev 模式下确实没有问题,build 后就会出现,我尝试了很多方式都无法修复。
我在 tauri issues 中找到了同样问题 https://github.com/tauri-apps/plugins-workspace/issues/1968,等待一下官方的回复吧

<!-- gh-comment-id:2611441141 --> @codexu commented on GitHub (Jan 24, 2025): 确实发现了这个问题,dev 模式下确实没有问题,build 后就会出现,我尝试了很多方式都无法修复。 我在 tauri issues 中找到了同样问题 https://github.com/tauri-apps/plugins-workspace/issues/1968,等待一下官方的回复吧。
Author
Owner

@codexu commented on GitHub (Feb 27, 2025):

本地接口请求问题请参考 #86

<!-- gh-comment-id:2686508928 --> @codexu commented on GitHub (Feb 27, 2025): 本地接口请求问题请参考 #86
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
starred/note-gen#22
No description provided.