1922 Commits

Author SHA1 Message Date
glide-the
3e50aabe57 3.8兼容性配置 2024-04-16 11:09:49 +08:00
glide-the
d245e20c1d 增加使用说明 2024-04-15 18:29:47 +08:00
liunux4odoo
4ce7ce0709
Merge pull request #3744 from liunux4odoo/fix
/v1/models 接口返回值由 List[Model] 改为 {'data': List[Model]},兼容最新版 xinference
2024-04-14 21:21:53 +08:00
liunux4odoo
f1e5b2c9aa /v1/models 接口返回值由 List[Model] 改为 {'data': List[Model]},兼容最新版 xinference 2024-04-14 21:20:45 +08:00
zqt
d7dc01e9b1 修复 --api -w命令 2024-04-07 22:14:43 +08:00
glide-the
04723aeac1
Merge pull request #3653 from chatchat-space/dev_model_providers
embedding convert endpoint
2024-04-07 16:28:31 +08:00
glide-the
051acfbeae embedding convert endpoint 2024-04-07 16:27:20 +08:00
glide-the
5169228b86
Dev model providers (#3628)
* gemini 初始化参数问题

* gemini 同步工具调用
2024-04-06 23:25:33 +08:00
glide-the
b3dee0b1d1
兼容model_providers,集成webui及API中平台配置的初始化 (#3625)
* provider_configuration init of MODEL_PLATFORMS

* 开发手册

* 兼容model_providers,集成webui及API中平台配置的初始化
2024-04-03 12:16:38 +08:00
glide-the
c0634828a4 开发手册 2024-04-02 22:47:03 +08:00
glide-the
2526fa9062
Merge pull request #3579 from chatchat-space/dev_model_providers
完成了 BootstrapWebBuilder加载用户配置,适配标准报文使用RESTFulOpenAIBootstrapBaseWeb完成业务,提供xinference 插件示例
2024-04-01 20:10:26 +08:00
glide-the
a1fe8d714f provider_configuration.py
查询所有的平台信息,包含计费策略和配置schema_validators(参数必填信息校验规则)
/workspaces/current/model-providers
查询平台模型分类的详细默认信息,包含了模型类型,模型参数,模型状态
workspaces/current/models/model-types/{model_type}
2024-04-01 20:09:12 +08:00
liunux4odoo
cabb3f2abf
Merge pull request #3591 from srszzw/dev-to-pull
解决ollama部署的qwen,执行agent,返回的json格式不正确问题。
2024-04-01 14:54:38 +08:00
srszzw
69667b2dc5 解决ollama部署的qwen,执行agent,返回的json格式不正确问题。 2024-04-01 14:23:23 +08:00
glide-the
bfcf2775f5 Merge branch 'dev' into dev_model_providers 2024-03-31 19:48:16 +08:00
glide-the
a21791db54 exec path fix 2024-03-31 19:48:04 +08:00
glide-the
3c4e8dadd6 一些默认参数 2024-03-31 19:45:55 +08:00
glide-the
a401779120 xinference 插件示例 2024-03-31 18:53:45 +08:00
glide-the
056b15b99b make format 2024-03-31 17:55:57 +08:00
glide-the
2f1c9bfd11 chat_completions接口报文适配 2024-03-31 17:55:32 +08:00
glide-the
a2df71d9ea make format 2024-03-31 15:12:20 +08:00
glide-the
b8d748b668 Merge branch 'dev' into dev_model_providers 2024-03-31 15:08:56 +08:00
glide-the
f005ea3298 模型列表适配 2024-03-31 15:08:30 +08:00
glide-the
6e9e31a32c 格式化和代码检查说明 2024-03-29 18:26:50 +08:00
glide-the
032dc8f58d 使用BootstrapWebBuilder适配RESTFulOpenAIBootstrapBaseWeb加载 2024-03-29 18:25:16 +08:00
liunux4odoo
27f0f512a3
添加 openai 兼容的 files 接口 (#3573) 2024-03-29 18:07:07 +08:00
liunux4odoo
a1429a350a
修复:search_local_knowledge_base 工具返回值错误;/tools 路由错误;webui 中“正在思考”一直显示 (#3571) 2024-03-29 14:30:16 +08:00
glide-the
3ed9162392 Merge branch 'dev' into dev_model_providers
# Conflicts:
#	model-providers/model_providers/__init__.py
#	model-providers/model_providers/__main__.py
#	model-providers/model_providers/core/provider_manager.py
#	model-providers/pyproject.toml
2024-03-29 12:09:01 +08:00
liunux4odoo
42aa900566
优化工具定义;添加 openai 兼容的统一 chat 接口 (#3570)
- 修复:
    - Qwen Agent 的 OutputParser 不再抛出异常,遇到非 COT 文本直接返回
    - CallbackHandler 正确处理工具调用信息

- 重写 tool 定义方式:
    - 添加 regist_tool 简化 tool 定义:
        - 可以指定一个用户友好的名称
        - 自动将函数的 __doc__ 作为 tool.description
	- 支持用 Field 定义参数,不再需要额外定义 ModelSchema
        - 添加 BaseToolOutput 封装 tool	返回结果,以便同时获取原始值、给LLM的字符串值
        - 支持工具热加载(有待测试)

- 增加 openai 兼容的统一 chat 接口,通过 tools/tool_choice/extra_body 不同参数组合支持:
    - Agent 对话
    - 指定工具调用(如知识库RAG)
    - LLM 对话

- 根据后端功能更新 webui
2024-03-29 11:55:32 +08:00
glide-the
5e70aff522 格式化 2024-03-29 10:23:28 +08:00
glide-the
4c040a49be 格式化代码 2024-03-29 10:22:15 +08:00
glide-the
451fef8a31 使用yaml加载用户配置适配器 2024-03-28 20:45:42 +08:00
liunux4odoo
9818bd2a88
- 重写 tool 部分: (#3553)
- 简化 tool 的定义方式
    - 所有 tool 和 tool_config 支持热加载
    - 修复:json_schema_extra warning
2024-03-28 13:08:51 +08:00
glide-the
f9f9d4b9fb
Merge pull request #3546 from chatchat-space/dev_module
移动模块信息
2024-03-28 09:14:35 +08:00
glide-the
32974f8e2f 封装ModelManager 2024-03-28 09:11:08 +08:00
liunux4odoo
26b141a06e update .gitignore; fix model version error in api_schemas 2024-03-27 10:39:45 +08:00
glide-the
9260039672 移动项目模块 2024-03-27 10:12:28 +08:00
glide-the
bc7f01925f 删除历史文件 2024-03-26 21:06:34 +08:00
glide-the
9aeeec586b
Merge pull request #3528 from chatchat-space/dev_model_providers
模型默认参数从配置文件加载
2024-03-26 17:44:30 +08:00
glide-the
1e96d69945
Merge pull request #3523 from khazic/dev_model_providers
模型默认参数从配置文件加载
2024-03-26 16:15:34 +08:00
khazic
5b90286843 qqqq 2024-03-26 16:00:40 +08:00
khazic
43a19d9b66 20240326 2024-03-26 14:58:50 +08:00
khazic
8ebfb34a51 20240326 2024-03-26 14:49:26 +08:00
glide-the
596a0f5fa1
Merge pull request #3517 from chatchat-space/dev_module
Dev module
2024-03-26 13:32:05 +08:00
liunux4odoo
44f2fd5aa6 update wiki sub module 2024-03-26 12:38:03 +08:00
liunux4odoo
e21d2c572f update gitignore; remove unignored files 2024-03-26 12:35:21 +08:00
liunux4odoo
24ffa2f362 fix bugs; make poetry using tsinghua mirror of pypi 2024-03-26 12:27:02 +08:00
liunux4odoo
b9c08cbefd 对python的要求降级到py38 2024-03-26 10:37:36 +08:00
liunux4odoo
fad54822d0 Merge branch 'panda-dev' into temp 2024-03-26 09:48:40 +08:00
srszzw
9b62b1c72b
dev分支解决pydantic版本冲突问题,增加ollama配置,支持ollama会话和向量接口 (#3508)
* dev分支解决pydantic版本冲突问题,增加ollama配置,支持ollama会话和向量接口
1、因dev版本的pydantic升级到了v2版本,由于在class History(BaseModel)中使用了from server.pydantic_v1,而fastapi的引用已变为pydantic的v2版本,所以fastapi用v2版本去校验用v1版本定义的对象,当会话历史histtory不为空的时候,会报错:TypeError: BaseModel.validate() takes 2 positional arguments but 3 were given。经测试,解方法为在class History(BaseModel)中也使用v2版本即可;
2、配置文件参照其它平台配置,增加了ollama平台相关配置,会话模型用户可根据实际情况自行添加,向量模型目前支持nomic-embed-text(必须升级ollama到0.1.29以上)。
3、因ollama官方只在会话部分对openai api做了兼容,向量api暂未适配,好在langchain官方库支持OllamaEmbeddings,因而在get_Embeddings方法中添加了相关支持代码。

* 修复 pydantic 升级到 v2 后 DocumentWithVsID 和 /v1/embeddings 兼容性问题

---------

Co-authored-by: srszzw <srszzw@163.com>
Co-authored-by: liunux4odoo <liunux@qq.com>
2024-03-25 16:35:45 +08:00