is:issue state:open 四张A10显卡vllm跑GLM-4-32B-0414，一直报错Got fatal signal from worker processes, shutting down. See stack trace above for root cause issue.

[why6why]

System Info / 系統信息

is:issue state:open 四张A10显卡vllm跑GLM-4-32B-0414，一直报错Got fatal signal from worker processes, shutting down. See stack trace above for root cause issue.

Who can help? / 谁可以帮助到您？

No response

Information / 问题信息

• The official example scripts / 官方的示例脚本
• My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

vllm运行GLM-4-32B-0414

Expected behavior / 期待表现

模型可以跑成功

[zRzRzRzRzRzRzR]

vLLM的代码推理我们的模型暂时有问题，参考 这里的 PR 解决，一旦合并就能用主分支
vllm-project/vllm#16618 (comment)