1861 Commits

Author SHA1 Message Date
glide-the
301c7c3d8c
Revert "xinference的代码" 2024-03-13 20:16:42 +08:00
glide-the
08f6fa53b4
Merge pull request #3304 from khazic/dev
后端服务接入功能工具包
2024-03-13 20:00:49 +08:00
Leb
980f321bec
diiii
diii
2024-03-13 19:51:36 +08:00
Leb
9208627138
Create khazic 2024-03-13 19:49:02 +08:00
Leb
4939e736e1
Delete server/xinference directory 2024-03-13 16:56:53 +08:00
Leb
eec8d51a91
xinference的代码
先传 我后面来改
2024-03-13 16:37:37 +08:00
dignfei
7b2b24c0bc
使用多进程提高导入知识库的速度 (#3276) 2024-03-13 10:36:14 +08:00
liunux4odoo
6310095a00 make xinference model manager support xinference 0.9.x 2024-03-12 20:37:17 +08:00
liunux4odoo
08c155949b
make qwen agent work with langchain>=0.1 (#3228) 2024-03-07 19:14:33 +08:00
glide-the
87c912087c 修复glm3 agent被注释的agent会话文本结构解析代码
看起来输出的文本占位符如下,目前解析代码是有问题的
Thought <|assistant|> Action\r
```python
tool_call(action_input)
```<|observation|>
2024-03-07 13:56:07 +08:00
liunux4odoo
51301dfe6a 优化 ES 知识库
- 开发者
    - get_OpenAIClient 的 local_wrap 默认值改为 False,避免 API 服务未启动导致其它功能受阻(如Embeddings)
    - 修改 ES 知识库服务:
	- 检索策略改为 ApproxRetrievalStrategy
	- 设置 timeout 为 60, 避免文档过多导致 ConnecitonTimeout Error
    - 修改 LocalAIEmbeddings,使用多线程进行  embed_texts,效果不明显,瓶颈可能主要在提供 Embedding 的服务器上
2024-03-07 11:58:27 +08:00
liunux4odoo
c839a1791a update kb_config.py.example 2024-03-07 09:22:35 +08:00
liunux4odoo
1118922387 调整根目录结构,kb/logs/media/nltk_data 移动到专用数据目录(可配置,默认 data)。注意知识库文件要做相应移动 2024-03-07 09:17:11 +08:00
liunux4odoo
e06d56b8bc 重写 calculate 工具 2024-03-07 09:01:50 +08:00
liunux4odoo
1dc069fa9c model_config 中补充 oneapi 默认在线模型;/v1/models 接口支持 oneapi 平台,统一返回模型列表 2024-03-07 08:31:47 +08:00
liunux4odoo
82dfcd97e6 fix merge conflict 2024-03-06 14:02:30 +08:00
liunux4odoo
f0f31167e9 update xinference manager ui 2024-03-06 13:51:57 +08:00
liunux4odoo
49bc5b54a4 添加 xinference 本地模型和自定义模型配置 UI: streamlit run model_loaders/xinference_manager.py 2024-03-06 13:51:57 +08:00
xucailiang
76b796ea58 原因:windows下启动失败提示补充python-multipart包 (#3184)
改动:requirements添加python-multipart==0.0.9
版本:0.0.9  Requires: Python >=3.8

Co-authored-by: XuCai <liangxc@akulaku.com>
2024-03-06 13:51:57 +08:00
liunux4odoo
77c3fa65c2 移除 llama-index 依赖;修复 /v1/models 错误 2024-03-06 13:51:57 +08:00
liunux4odoo
d0846f88cc - pydantic 限定为 v1,并统一项目中所有 pydantic 导入路径,为以后升级 v2 做准备
- 重构 api.py:
    - 按模块划分为不同的 router
    - 添加 openai 兼容的转发接口,项目默认使用该接口以实现模型负载均衡
    - 添加 /tools 接口,可以获取/调用编写的 agent tools
    - 移除所有 EmbeddingFuncAdapter,统一改用 get_Embeddings
    - 待办:
        - /chat/chat 接口改为 openai 兼容
        - 添加 /chat/kb_chat 接口,openai 兼容
        - 改变 ntlk/knowledge_base/logs 等数据目录位置
2024-03-06 13:51:34 +08:00
liunux4odoo
65466007ae make torch & transformers optional
import pydantic Model & Field from langchain.pydantic_v1 instead of pydantic.v1
2024-03-06 13:50:06 +08:00
liunux4odoo
73eb5e2e32 move document_loaders & text_splitter under server 2024-03-06 13:49:39 +08:00
liunux4odoo
5d422ca9a1 修改模型配置方式,所有模型以 openai 兼容框架的形式接入,chatchat 自身不再加载模型。
改变 Embeddings 模型改为使用框架 API,不再手动加载,删除自定义 Embeddings Keyword 代码
修改依赖文件,移除 torch transformers 等重依赖
暂时移出对 loom 的集成

后续:
1、优化目录结构
2、检查合并中有无被覆盖的 0.2.10 内容
2024-03-06 13:49:38 +08:00
glide-the
988a0e6ad2 Update model_config.py.example 2024-03-06 13:47:59 +08:00
glide-the
d6620eb628 知识库在线api接入点配置在线api接入点配置更新逻辑 2024-03-06 13:47:58 +08:00
glide-the
54ffdcab8b 本地知识库搜索字段修改 2024-03-06 13:47:56 +08:00
glide-the
89b0d467ea 集成LOOM在线embedding业务 2024-03-06 13:47:56 +08:00
glide-the
802cfe8805 loom模型服务update_store更新逻辑 2024-03-06 13:47:15 +08:00
glide-the
307b973f26 embeddings模块集成openai plugins插件,使用统一api调用 2024-03-06 13:47:15 +08:00
glide-the
217bb61448 fix model_config是系统关键词问题 2024-03-06 13:45:15 +08:00
glide-the
4e358db525 升级agent,pydantic升级到2 2024-03-06 13:44:43 +08:00
glide-the
a306c10375 openai-plugins-list.json 2024-03-06 13:44:43 +08:00
glide-the
a7b28adc09 删除本地fschat workers 2024-03-06 13:44:43 +08:00
glide-the
175db6710e 删除本地fschat配置,pydantic升级到2 2024-03-06 13:43:26 +08:00
glide-the
777b7c3499 删除本地fschat配置 2024-03-06 13:42:47 +08:00
glide-the
11bed7f0aa 增加智谱插件 2024-03-06 13:42:31 +08:00
glide-the
b4702720a8 vllm参数配置 2024-03-06 13:42:30 +08:00
zR
547b5b9206 标准配置 2024-03-06 13:42:30 +08:00
zR
2c08fce6b0 减少错误的显示 2024-03-06 13:42:29 +08:00
glide-the
fa4ccdb4be 集成openai_plugins/imitater插件 2024-03-06 13:42:29 +08:00
glide-the
c4d2075995 集成openai_plugins/imitater插件 2024-03-06 13:42:29 +08:00
glide-the
bfdb87f94f 集成openai_plugins/imitater插件 2024-03-06 13:42:29 +08:00
zR
61abd98409 更新模型执行列表和今晚修改的内容 2024-03-06 13:42:28 +08:00
glide-the
cce2b55719 集成openai plugins插件 2024-03-06 13:42:01 +08:00
glide-the
f1b71e5629 增加openai插件 2024-03-06 13:42:00 +08:00
glide-the
49f6760702 删除fastchat的配置 2024-03-06 13:42:00 +08:00
glide-the
48fb6b83fd 集成openai plugins插件 2024-03-06 13:41:00 +08:00
liunux4odoo
8063aab7a1 webui 支持文生图 2024-03-06 13:38:12 +08:00
liunux4odoo
17ba487074 添加文生图工具 2024-03-06 13:37:46 +08:00