[GH-ISSUE #89] [Enhancement]: 推理模型增加官方和硅基的qwq-32b支持 #58

New issue

Open

opened 2026-02-27 01:56:01 +03:00 by kerem · 10 comments

kerem commented 2026-02-27 01:56:01 +03:00

Owner

Copy link

Originally created by @B3000Kcn on GitHub (Mar 11, 2025).
Original GitHub issue: https://github.com/ErlichLiu/DeepClaude/issues/89

提交前确认

• 我已经搜索过现有的 issues，确认没有类似的功能请求
• 我相信这个功能对大多数用户有价值，而不仅仅对我个人有用

相关问题

qwq的推理能力还不错，可以用来平替r1。官方的qwq32b有128k上下文，是r1的两倍，而且速度非常快。硅基的qwq32b只有32k上下文，速度稍慢，但有toolcall功能。我在deepclaude里面将两种qwq32b设置为推理模型时都会报错，说是没有开启流式输出。

400: This model only support stream mode, please enable the stream parameter to access the model.

建议的解决方案

推理模型增加官方和硅基的qwq-32b支持

替代方案

No response

附加信息

No response

Originally created by @B3000Kcn on GitHub (Mar 11, 2025). Original GitHub issue: https://github.com/ErlichLiu/DeepClaude/issues/89 ### 提交前确认 - [x] 我已经搜索过现有的 issues，确认没有类似的功能请求 - [x] 我相信这个功能对大多数用户有价值，而不仅仅对我个人有用 ### 相关问题 qwq的推理能力还不错，可以用来平替r1。官方的qwq32b有128k上下文，是r1的两倍，而且速度非常快。硅基的qwq32b只有32k上下文，速度稍慢，但有toolcall功能。我在deepclaude里面将两种qwq32b设置为推理模型时都会报错，说是没有开启流式输出。 400: This model only support stream mode, please enable the stream parameter to access the model. ### 建议的解决方案 推理模型增加官方和硅基的qwq-32b支持 ### 替代方案 _No response_ ### 附加信息 _No response_

kerem added the

help wanted

label 2026-02-27 01:56:01 +03:00

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@menglicon commented on GitHub (Mar 11, 2025):

本地部署的QwQ32B没问题。

<!-- gh-comment-id:2713027857 --> @menglicon commented on GitHub (Mar 11, 2025): 本地部署的QwQ32B没问题。

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@PoseidonLi0514 commented on GitHub (Mar 11, 2025):

我的groq的qwq32b无法获取推理部分

<!-- gh-comment-id:2715124280 --> @PoseidonLi0514 commented on GitHub (Mar 11, 2025): 我的groq的qwq32b无法获取推理部分

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@jinjunliu commented on GitHub (Mar 11, 2025):

我的groq的qwq32b无法获取推理部分

好像最新版的有bug，我退回到9da591b979f0d68d59df9aab105b768d9eb257b2这个镜像版本没问题。另外对于groq的qwq32b，“是否原生支持推理”那里要选否

<!-- gh-comment-id:2715724832 --> @jinjunliu commented on GitHub (Mar 11, 2025): > 我的groq的qwq32b无法获取推理部分 好像最新版的有bug，我退回到[9da591b979f0d68d59df9aab105b768d9eb257b2](https://github.com/users/ErlichLiu/packages/container/deepclaude/370706980?tag=9da591b979f0d68d59df9aab105b768d9eb257b2)这个镜像版本没问题。另外对于groq的qwq32b，“是否原生支持推理”那里要选否

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@GowayLee commented on GitHub (Mar 12, 2025):

我的groq的qwq32b无法获取推理部分

是否支持原生推理应该需要配置为否

<!-- gh-comment-id:2716304340 --> @GowayLee commented on GitHub (Mar 12, 2025): > 我的groq的qwq32b无法获取推理部分 `是否支持原生推理`应该需要配置为`否`

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@igeekbb commented on GitHub (Mar 12, 2025):

我的groq的qwq32b无法获取推理部分

是否支持原生推理应该需要配置为否

选"否"会卡到这一步

日志：

<!-- gh-comment-id:2716532970 --> @igeekbb commented on GitHub (Mar 12, 2025): > > 我的groq的qwq32b无法获取推理部分 > > `是否支持原生推理`应该需要配置为`否` 选"否"会卡到这一步  日志： 

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@igeekbb commented on GitHub (Mar 12, 2025):

不管是什么客户端，"是否原生支持推理"不管如何选，都会卡到这一步。

<!-- gh-comment-id:2717583216 --> @igeekbb commented on GitHub (Mar 12, 2025): 不管是什么客户端，"是否原生支持推理"不管如何选，都会卡到这一步。  <img width="409" alt="Image" src="https://github.com/user-attachments/assets/ba10fb35-4f06-444d-bfd5-a200c00b62b7" />

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@PoseidonLi0514 commented on GitHub (Mar 12, 2025):

我的groq的qwq32b无法获取推理部分

是否支持原生推理应该需要配置为否

就是我自己搞了个流式的think标签转reasoning，deepseek都是可以正常获取的，但是qwq不行

<!-- gh-comment-id:2718509999 --> @PoseidonLi0514 commented on GitHub (Mar 12, 2025): > > 我的groq的qwq32b无法获取推理部分 > > `是否支持原生推理`应该需要配置为`否` 就是我自己搞了个流式的think标签转reasoning，deepseek都是可以正常获取的，但是qwq不行

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@GowayLee commented on GitHub (Mar 16, 2025):

我这边使用PPIO的QwQ, 选择不支持原生推理, 可以无缝兼容欸

<!-- gh-comment-id:2727116941 --> @GowayLee commented on GitHub (Mar 16, 2025):  我这边使用PPIO的QwQ, 选择不支持原生推理, 可以无缝兼容欸

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@menglicon commented on GitHub (Mar 22, 2025):

不管是什么客户端，"是否原生支持推理"不管如何选，都会卡到这一步。

我更新到3.10版本后也出现了类似的问题，3.5版本同样的模型没有问题。

log如下：'Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - Loaded API key from config: 1234
Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - API密钥验证通过
Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: INFO: 222.79.163.167:0 - "POST /v1/chat/completions HTTP/1.1" 200 OK
Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 开始处理 DeepSeek 流，使用模型：qwq-32b-abliterated-i1@q5_k_m
Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 等待获取 DeepSeek 的推理内容...
Mar 22 10:31:07 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:07 - DeepClaude - INFO - DeepSeek 任务处理完成，标记结束
'

<!-- gh-comment-id:2744907508 --> @menglicon commented on GitHub (Mar 22, 2025): > 不管是什么客户端，"是否原生支持推理"不管如何选，都会卡到这一步。 > >  > > <img alt="Image" width="409" src="https://private-user-images.githubusercontent.com/154116268/421861847-ba10fb35-4f06-444d-bfd5-a200c00b62b7.png?jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmF3LmdpdGh1YnVzZXJjb250ZW50LmNvbSIsImtleSI6ImtleTUiLCJleHAiOjE3NDI2MTEwMzcsIm5iZiI6MTc0MjYxMDczNywicGF0aCI6Ii8xNTQxMTYyNjgvNDIxODYxODQ3LWJhMTBmYjM1LTRmMDYtNDQ0ZC1iZmQ1LWEyMDBjMDBiNjJiNy5wbmc_WC1BbXotQWxnb3JpdGhtPUFXUzQtSE1BQy1TSEEyNTYmWC1BbXotQ3JlZGVudGlhbD1BS0lBVkNPRFlMU0E1M1BRSzRaQSUyRjIwMjUwMzIyJTJGdXMtZWFzdC0xJTJGczMlMkZhd3M0X3JlcXVlc3QmWC1BbXotRGF0ZT0yMDI1MDMyMlQwMjMyMTdaJlgtQW16LUV4cGlyZXM9MzAwJlgtQW16LVNpZ25hdHVyZT1lZDA4NThlNjcyOTJjYTE4MDM0YzgxM2JmZGZmYzEyYjQyMGNkYzdjZDYwZGZkNzY3NjhjYTE5YzlmOTNhNjI0JlgtQW16LVNpZ25lZEhlYWRlcnM9aG9zdCJ9.mFfRXtCa9BVGlxAW2aJ176e9D0Ezolx4BwrtJCxvrlQ"> 我更新到3.10版本后也出现了类似的问题，3.5版本同样的模型没有问题。 log如下：'Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - Loaded API key from config: 1234 Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - API密钥验证通过 Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: INFO: 222.79.163.167:0 - "POST /v1/chat/completions HTTP/1.1" 200 OK Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 开始处理 DeepSeek 流，使用模型：qwq-32b-abliterated-i1@q5_k_m Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 等待获取 DeepSeek 的推理内容... Mar 22 10:31:07 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:07 - DeepClaude - INFO - DeepSeek 任务处理完成，标记结束 '

kerem commented 2026-02-27 01:56:02 +03:00

Author

Owner

Copy link

@menglicon commented on GitHub (Mar 22, 2025):

不管是什么客户端，"是否原生支持推理"不管如何选，都会卡到这一步。

我更新到3.10版本后也出现了类似的问题，3.5版本同样的模型没有问题。

log如下：'Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - Loaded API key from config: 1234 Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - API密钥验证通过 Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: INFO: 222.79.163.167:0 - "POST /v1/chat/completions HTTP/1.1" 200 OK Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 开始处理 DeepSeek 流，使用模型：qwq-32b-abliterated-i1@q5_k_m Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 等待获取 DeepSeek 的推理内容... Mar 22 10:31:07 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:07 - DeepClaude - INFO - DeepSeek 任务处理完成，标记结束 '

已测试，回滚到3.5的版本正常。

<!-- gh-comment-id:2745199497 --> @menglicon commented on GitHub (Mar 22, 2025): > > 不管是什么客户端，"是否原生支持推理"不管如何选，都会卡到这一步。 > >  > > <img alt="Image" width="409" src="https://private-user-images.githubusercontent.com/154116268/421861847-ba10fb35-4f06-444d-bfd5-a200c00b62b7.png?jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmF3LmdpdGh1YnVzZXJjb250ZW50LmNvbSIsImtleSI6ImtleTUiLCJleHAiOjE3NDI2MTEwMzcsIm5iZiI6MTc0MjYxMDczNywicGF0aCI6Ii8xNTQxMTYyNjgvNDIxODYxODQ3LWJhMTBmYjM1LTRmMDYtNDQ0ZC1iZmQ1LWEyMDBjMDBiNjJiNy5wbmc_WC1BbXotQWxnb3JpdGhtPUFXUzQtSE1BQy1TSEEyNTYmWC1BbXotQ3JlZGVudGlhbD1BS0lBVkNPRFlMU0E1M1BRSzRaQSUyRjIwMjUwMzIyJTJGdXMtZWFzdC0xJTJGczMlMkZhd3M0X3JlcXVlc3QmWC1BbXotRGF0ZT0yMDI1MDMyMlQwMjMyMTdaJlgtQW16LUV4cGlyZXM9MzAwJlgtQW16LVNpZ25hdHVyZT1lZDA4NThlNjcyOTJjYTE4MDM0YzgxM2JmZGZmYzEyYjQyMGNkYzdjZDYwZGZkNzY3NjhjYTE5YzlmOTNhNjI0JlgtQW16LVNpZ25lZEhlYWRlcnM9aG9zdCJ9.mFfRXtCa9BVGlxAW2aJ176e9D0Ezolx4BwrtJCxvrlQ"> > > 我更新到3.10版本后也出现了类似的问题，3.5版本同样的模型没有问题。 > > log如下：'Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - Loaded API key from config: 1234 Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - API密钥验证通过 Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: INFO: 222.79.163.167:0 - "POST /v1/chat/completions HTTP/1.1" 200 OK Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 开始处理 DeepSeek 流，使用模型：qwq-32b-abliterated-i1@q5_k_m Mar 22 10:31:05 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:05 - DeepClaude - INFO - 等待获取 DeepSeek 的推理内容... Mar 22 10:31:07 Miu-DXP4800-NAS uvicorn[1149748]: 2025-03-22 10:31:07 - DeepClaude - INFO - DeepSeek 任务处理完成，标记结束 ' 已测试，回滚到3.5的版本正常。

Sign in to join this conversation.

No Branch/Tag specified

Branches Tags

main

fix-logger-level

dev

experiment

v1.0.1

Labels

Clear labels   

bug

  

documentation

  

duplicate

  

enhancement

  

good first issue

  

help wanted

  

invalid

  

pull-request

Mirrored from GitHub Pull Request

  

question

  

wontfix

No labels

bug

documentation

duplicate

enhancement

good first issue

help wanted

invalid

pull-request

question

wontfix

Milestone

Clear milestone

No items

No milestone

Projects

Clear projects

No items

No project

Assignees

Clear assignees

No assignees

1 participant

Notifications

Subscribe

Due date

The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference

starred/DeepClaude#58

No description provided.