diff --git a/README.md b/README.md index 69a737b..2a73648 100644 --- a/README.md +++ b/README.md @@ -109,6 +109,7 @@ python inference.py --model_path --prompt_path prompts/promp ``` #### Huggingface 模型 +(注:我们发现当前Huggingface的推理代码推理效果差于Vllm的推理代码,我们正在对齐中,请耐心等待) ##### MiniCPM-2B * 安装`transformers>=4.36.0`以及`accelerate`后,运行以下代码 ```python