hzg0601 2d823aa4b1 1. debug vllm加速框架完毕；2. 修改requirements,requirements_api对vllm的依赖；3.注释掉serve_config中baichuan-7b的device为cpu的配置

2023-09-24 02:05:40 +08:00

..

__init__.py

添加configs/prompt_config.py，允许用户自定义prompt模板： (#1504)

2023-09-17 13:27:11 +08:00

basic_config.py.example

langchain日志开关

2023-09-17 14:18:22 +08:00

kb_config.py.exmaple

添加configs/prompt_config.py，允许用户自定义prompt模板： (#1504)

2023-09-17 13:27:11 +08:00

model_config.py.example

新增特性：1.支持vllm推理加速框架；2. 更新支持模型列表

2023-09-23 01:37:37 +08:00

prompt_config.py.example

添加configs/prompt_config.py，允许用户自定义prompt模板： (#1504)

2023-09-17 13:27:11 +08:00

server_config.py.example

1. debug vllm加速框架完毕；2. 修改requirements,requirements_api对vllm的依赖；3.注释掉serve_config中baichuan-7b的device为cpu的配置

2023-09-24 02:05:40 +08:00