[GH-ISSUE #15] 可用的AI太少了,可否增加兼容其他AI的API #2

Closed
opened 2026-03-02 03:36:54 +03:00 by kerem · 7 comments
Owner

Originally created by @Idun on GitHub (Dec 23, 2024).
Original GitHub issue: https://github.com/codexu/note-gen/issues/15

比如Mistral、ollama等等,目前许多开源模型不能用,加一个兼容API更有可玩性。

Originally created by @Idun on GitHub (Dec 23, 2024). Original GitHub issue: https://github.com/codexu/note-gen/issues/15 比如Mistral、ollama等等,目前许多开源模型不能用,加一个兼容API更有可玩性。
kerem 2026-03-02 03:36:54 +03:00
  • closed this issue
  • added the
    feature
    label
Author
Owner

@codexu commented on GitHub (Dec 23, 2024):

感谢反馈,未来一定会增加其他模型,目前还处于初期开发阶段,主要以打通流程为主,业余时间开源,精力有限,望理解。

<!-- gh-comment-id:2558710810 --> @codexu commented on GitHub (Dec 23, 2024): 感谢反馈,未来一定会增加其他模型,目前还处于初期开发阶段,主要以打通流程为主,业余时间开源,精力有限,望理解。
Author
Owner

@beilo commented on GitHub (Jan 4, 2025):

同意 感觉大佬可以先接入SiliconFlow

<!-- gh-comment-id:2570778983 --> @beilo commented on GitHub (Jan 4, 2025): 同意 感觉大佬可以先接入[SiliconFlow](https://siliconflow.cn/)。
Author
Owner

@csu-chaniel commented on GitHub (Jan 7, 2025):

感觉可以支持自定义模型API,参考开源项目ChatBox那种,支持填写符合OpenAI接口规范的API地址和key.
image

<!-- gh-comment-id:2574714548 --> @csu-chaniel commented on GitHub (Jan 7, 2025): 感觉可以支持自定义模型API,参考开源项目[ChatBox](https://github.com/Bin-Huang/chatbox)那种,支持填写符合OpenAI接口规范的API地址和key. ![image](https://github.com/user-attachments/assets/07827592-0d91-4176-a0dd-1f270fbdd978)
Author
Owner

@codexu commented on GitHub (Jan 8, 2025):

目前有个问题,我目前是在前端直接调用AI接口,使用 fetch 走流传输,但是目前测试了几个禁止前端调用,存在跨域检测,如果使用 @tauri-apps/plugin-http 发现流式传输就失效了,如果在 rust 中调用,有存在与前端通讯的问题,总之就是没法实现与现在一样的体验,希望有大佬解惑,这块该如何处理。

<!-- gh-comment-id:2576522720 --> @codexu commented on GitHub (Jan 8, 2025): 目前有个问题,我目前是在前端直接调用AI接口,使用 fetch 走流传输,但是目前测试了几个禁止前端调用,存在跨域检测,如果使用 @tauri-apps/plugin-http 发现流式传输就失效了,如果在 rust 中调用,有存在与前端通讯的问题,总之就是没法实现与现在一样的体验,希望有大佬解惑,这块该如何处理。
Author
Owner

@jia707409741 commented on GitHub (Jan 10, 2025):

目前有个问题,我目前是在前端直接调用AI接口,使用 fetch 走流传输,但是目前测试了几个禁止前端调用,存在跨域检测,如果使用 @tauri-apps/plugin-http 发现流式传输就失效了,如果在 rust 中调用,有存在与前端通讯的问题,总之就是没法实现与现在一样的体验,希望有大佬解惑,这块该如何处理。

纯前端在实现吗?我也发现了,虽然用chatgpt模型,但是没法输入api域名地址。

<!-- gh-comment-id:2582847411 --> @jia707409741 commented on GitHub (Jan 10, 2025): > 目前有个问题,我目前是在前端直接调用AI接口,使用 fetch 走流传输,但是目前测试了几个禁止前端调用,存在跨域检测,如果使用 @tauri-apps/plugin-http 发现流式传输就失效了,如果在 rust 中调用,有存在与前端通讯的问题,总之就是没法实现与现在一样的体验,希望有大佬解惑,这块该如何处理。 纯前端在实现吗?我也发现了,虽然用chatgpt模型,但是没法输入api域名地址。
Author
Owner

@codexu commented on GitHub (Jan 15, 2025):

为了支持更多的模型接入,暂时先牺牲流式传输,只要符合 openai 协议的都可以接入,目前已经接入了豆包、通义千问、Kimi,也支持自定义配置。
详情请查看 v0.7.0 版本。

如果有更多对于大模型的问题,请在 #26 留言。

<!-- gh-comment-id:2591500764 --> @codexu commented on GitHub (Jan 15, 2025): 为了支持更多的模型接入,暂时先牺牲流式传输,只要符合 openai 协议的都可以接入,目前已经接入了豆包、通义千问、Kimi,也支持自定义配置。 详情请查看 [v0.7.0](https://github.com/codexu/note-gen/releases/tag/app-v0.7.0) 版本。 如果有更多对于大模型的问题,请在 #26 留言。
Author
Owner

@codexu commented on GitHub (Jan 16, 2025):

v0.7.1 支持了 ollama

<!-- gh-comment-id:2594667134 --> @codexu commented on GitHub (Jan 16, 2025): v0.7.1 支持了 ollama
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
starred/note-gen#2
No description provided.