@[TOC](本地离线部署ChatGlm4TypeError: ChatGLM4Tokenizer._pad() got an unexpected keyword argunent ‘padding_side’)

问题

将chatgml4及模型下载到本地,需要配置好模型路径,即MODLE_PATH对应的值,改为下载所在的路径即可,执行命令
Python trans_cli_demo.py
回答时出现错误。

在这里插入图片描述

解决方案

模型所在目录下tokenization_chatglm.py文件中,查找图片所示的行,我这里在270行左右,加上
padding_side:Optional[str] = None,

即可,至于原理未知,解决方案来源网络。

在这里插入图片描述
这时就可以正常聊天了。

编辑,myhappyandy

Logo

一站式 AI 云服务平台

更多推荐