zR b9b53e2e19 OpenAI 推理简单应用 ...

用的是Linux transformers载入推理的，只测试了常规对话，在跑的时候没有看到支持Function 功能就没写

2024-04-11 19:31:08 +08:00

..

openai_api_demo

OpenAI 推理简单应用

2024-04-11 19:31:08 +08:00

hf_based_demo.py

更新训练集类型和推理fp16部分

2024-04-03 14:47:45 +08:00

mlx_based_demo.py

mlx inference

2024-03-26 21:07:54 +08:00

vllm_based_demo.py

fix typo in demo

2024-02-02 21:28:14 +08:00