[大模型]本地离线部署chatglm4TypeError: got an unexpected keyword argunent ‘padding_side‘
[TOC](本地离线部署ChatGlm4TypeError: ChatGLM4Tokenizer._pad() got an unexpected keyword argunent ‘padding_side’)
·
@[TOC](本地离线部署ChatGlm4TypeError: ChatGLM4Tokenizer._pad() got an unexpected keyword argunent ‘padding_side’)
问题
将chatgml4及模型下载到本地,需要配置好模型路径,即MODLE_PATH对应的值,改为下载所在的路径即可,执行命令
Python trans_cli_demo.py
回答时出现错误。

解决方案
模型所在目录下tokenization_chatglm.py文件中,查找图片所示的行,我这里在270行左右,加上
padding_side:Optional[str] = None,
即可,至于原理未知,解决方案来源网络。

这时就可以正常聊天了。
编辑,myhappyandy
更多推荐




所有评论(0)