Add unit tests for dataset API functions in api.test.ts

* fix: chinese name export

* fix: xlsx white space

* doc

* doc

.eslintignore

@@ -0,0 +1,25 @@
+# 构建输出目录
+dist/
+build/
+.next/
+out/
+
+# 依赖目录
+node_modules/
+
+# 缓存和生成文件
+coverage/
+.coverage/
+.nyc_output/
+*.log
+
+# 其他不需要检查的文件
+*.min.js
+*.config.js
+vitest.config.mts
+
+# 特定目录
+bin/
+scripts/
+deploy/
+docSite/

.eslintrc.json

@@ -0,0 +1,17 @@
+{
+  "root": true,
+  "parser": "@typescript-eslint/parser",
+  "plugins": ["@typescript-eslint"],
+  "extends": ["next/core-web-vitals"],
+  "rules": {
+    "react-hooks/rules-of-hooks": 0,
+    "@typescript-eslint/consistent-type-imports": [
+      "error",
+      {
+        "prefer": "type-imports",
+        "disallowTypeAnnotations": false
+      }
+    ]
+  },
+  "ignorePatterns": ["node_modules/", "dist/", "build/", "coverage/"]
+}

.github/workflows/docs-sync_imgs.yml

@@ -22,7 +22,7 @@ jobs:
         uses: BetaHuhn/repo-file-sync-action@v1.21.0
         with:
           GH_PAT: ${{ secrets.IMG_GH_PAT }}
-          CONFIG_PATH: .github/sync_imgs.yml
+          CONFIG_PATH: .github/doc-sync-image.yml
           ORIGINAL_MESSAGE: true
           SKIP_PR: true
           COMMIT_EACH_FILE: false

.vscode/i18n-ally-custom-framework.yml

@@ -16,9 +16,6 @@ usageMatchRegex:
   # the `{key}` will be placed by a proper keypath matching regex,
   # you can ignore it and use your own matching rules as well
   - "[^\\w\\d]t\\(['\"`]({key})['\"`]"
-  - "[^\\w\\d]commonT\\(['\"`]({key})['\"`]"
-  - "[^\\w\\d]fileT\\(['\"`]({key})['\"`]"
-  - "[^\\w\\d]workflowT\\(['\"`]({key})['\"`]"
   - "[^\\w\\d]i18nT\\(['\"`]({key})['\"`]"
 
 # A RegEx to set a custom scope range. This scope will be used as a prefix when detecting keys

.vscode/settings.json

@@ -21,7 +21,7 @@
     "i18n-ally.namespace": true,
     "i18n-ally.pathMatcher": "{locale}/{namespaces}.json",
     "i18n-ally.extract.targetPickingStrategy": "most-similar-by-key",
-    "i18n-ally.translate.engines": ["google"],
+    "i18n-ally.translate.engines": ["deepl","google"],
     "[typescript]": {
         "editor.defaultFormatter": "esbenp.prettier-vscode"
     },

deploy/docker/docker-compose-milvus.yml

@@ -120,21 +120,38 @@ services:
     restart: always
     command: |
       redis-server --requirepass mypassword --loglevel warning --maxclients 10000 --appendonly yes --save 60 10 --maxmemory 4gb --maxmemory-policy noeviction
+    healthcheck:
+      test: ['CMD', 'redis-cli', '-a', 'mypassword', 'ping']
+      interval: 10s
+      timeout: 3s
+      retries: 3
+      start_period: 30s
     volumes:
       - ./redis/data:/data
 
   # fastgpt
   sandbox:
     container_name: sandbox
-    image: ghcr.io/labring/fastgpt-sandbox:v4.9.5 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.5 # 阿里云
+    image: ghcr.io/labring/fastgpt-sandbox:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.9 # 阿里云
     networks:
       - fastgpt
     restart: always
+  fastgpt-mcp-server:
+    container_name: fastgpt-mcp-server
+    image: ghcr.io/labring/fastgpt-mcp_server:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-mcp_server:v4.9.9 # 阿里云
+    ports:
+      - 3005:3000
+    networks:
+      - fastgpt
+    restart: always
+    environment:
+      - FASTGPT_ENDPOINT=http://fastgpt:3000
   fastgpt:
     container_name: fastgpt
-    image: ghcr.io/labring/fastgpt:v4.9.5 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.5 # 阿里云
+    image: ghcr.io/labring/fastgpt:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.9 # 阿里云
     ports:
       - 3000:3000
     networks:
@@ -191,8 +208,8 @@ services:
 
   # AI Proxy
   aiproxy:
-    image: ghcr.io/labring/aiproxy:v0.1.3
-    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.3 # 阿里云
+    image: ghcr.io/labring/aiproxy:v0.1.7
+    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.7 # 阿里云
     container_name: aiproxy
     restart: unless-stopped
     depends_on:

deploy/docker/docker-compose-oceanbase/docker-compose.yml

@@ -7,8 +7,8 @@ version: '3.3'
 services:
   # vector db
   ob:
-    image: oceanbase/oceanbase-ce # docker hub
-    # image: quay.io/oceanbase/oceanbase-ce:4.3.5.1-101000042025031818 # 镜像
+    image: oceanbase/oceanbase-ce:4.3.5-lts # docker hub
+    # image: quay.io/oceanbase/oceanbase-ce:4.3.5-lts # 镜像
     container_name: ob
     restart: always
     # ports: # 生产环境建议不要暴露
@@ -23,7 +23,7 @@ services:
       - OB_TENANT_NAME=tenantname
       - OB_TENANT_PASSWORD=tenantpassword
       # MODE分为MINI和NORMAL， 后者会最大程度使用主机资源
-      - MODE=NORMAL
+      - MODE=MINI
       - OB_SERVER_IP=127.0.0.1
       # 更多环境变量配置见oceanbase官方文档： https://www.oceanbase.com/docs/common-oceanbase-database-cn-1000000002013494
     volumes:
@@ -35,7 +35,7 @@ services:
       test:
         [
           'CMD-SHELL',
-          'obclient -h$OB_SERVER_IP -P2881 -uroot@$OB_TENANT_NAME -p$OB_TENANT_PASSWORD -e "SELECT 1;"'
+          'obclient -h$${OB_SERVER_IP} -P2881 -uroot@$${OB_TENANT_NAME} -p$${OB_TENANT_PASSWORD} -e "SELECT 1;"'
         ]
       interval: 30s
       timeout: 10s
@@ -87,19 +87,48 @@ services:
 
         # 等待docker-entrypoint.sh脚本执行的MongoDB服务进程
         wait $$!
+  redis:
+    image: redis:7.2-alpine
+    container_name: redis
+    # ports:
+    # - 6379:6379
+    networks:
+      - fastgpt
+    restart: always
+    command: |
+      redis-server --requirepass mypassword --loglevel warning --maxclients 10000 --appendonly yes --save 60 10 --maxmemory 4gb --maxmemory-policy noeviction
+    volumes:
+      - ./redis/data:/data
+    healthcheck:
+      test: ['CMD', 'redis-cli', '-a', 'mypassword', 'ping']
+      interval: 10s
+      timeout: 3s
+      retries: 3
+      start_period: 30s
 
   # fastgpt
   sandbox:
     container_name: sandbox
-    image: ghcr.io/labring/fastgpt-sandbox:v4.9.3 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.3 # 阿里云
+    image: ghcr.io/labring/fastgpt-sandbox:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.9 # 阿里云
     networks:
       - fastgpt
     restart: always
+  fastgpt-mcp-server:
+    container_name: fastgpt-mcp-server
+    image: ghcr.io/labring/fastgpt-mcp_server:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-mcp_server:v4.9.9 # 阿里云
+    ports:
+      - 3005:3000
+    networks:
+      - fastgpt
+    restart: always
+    environment:
+      - FASTGPT_ENDPOINT=http://fastgpt:3000
   fastgpt:
     container_name: fastgpt
-    image: ghcr.io/labring/fastgpt:v4.9.3 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.3 # 阿里云
+    image: ghcr.io/labring/fastgpt:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.9 # 阿里云
     ports:
       - 3000:3000
     networks:
@@ -118,14 +147,9 @@ services:
       # root 密码，用户名为: root。如果需要修改 root 密码，直接修改这个环境变量，并重启即可。
       - DEFAULT_ROOT_PSW=1234
       # # AI Proxy 的地址，如果配了该地址，优先使用
-      # - AIPROXY_API_ENDPOINT=http://aiproxy:3000
+      - AIPROXY_API_ENDPOINT=http://aiproxy:3000
       # # AI Proxy 的 Admin Token，与 AI Proxy 中的环境变量 ADMIN_KEY
-      # - AIPROXY_API_TOKEN=aiproxy
-      # 模型中转地址（如果用了 AI Proxy，下面 2 个就不需要了，旧版 OneAPI 用户，使用下面的变量）
-      # openai 基本地址，可用作中转。
-      # - OPENAI_BASE_URL=https://example.com
-      # OpenAI API Key
-      # - CHAT_API_KEY=sk-example
+      - AIPROXY_API_TOKEN=aiproxy
       # 数据库最大连接数
       - DB_MAX_LINK=30
       # 登录凭证密钥
@@ -138,6 +162,8 @@ services:
       - MONGODB_URI=mongodb://myusername:mypassword@mongo:27017/fastgpt?authSource=admin
       # OceanBase 向量库连接参数
       - OCEANBASE_URL=mysql://root%40tenantname:tenantpassword@ob:2881/test
+      # Redis 连接参数
+      - REDIS_URL=redis://default:mypassword@redis:6379
       # sandbox 地址
       - SANDBOX_URL=http://sandbox:3000
       # 日志等级: debug, info, warn, error
@@ -151,13 +177,15 @@ services:
       - ALLOWED_ORIGINS=
       # 是否开启IP限制，默认不开启
       - USE_IP_LIMIT=false
+      # 对话文件过期天数
+      - CHAT_FILE_EXPIRE_TIME=7
     volumes:
       - ./config.json:/app/data/config.json
 
   # AI Proxy
   aiproxy:
-    image: ghcr.io/labring/aiproxy:v0.1.5
-    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.3 # 阿里云
+    image: ghcr.io/labring/aiproxy:v0.1.7
+    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.7 # 阿里云
     container_name: aiproxy
     restart: unless-stopped
     depends_on:

deploy/docker/docker-compose-pgvector.yml

@@ -22,6 +22,11 @@ services:
       - POSTGRES_DB=postgres
     volumes:
       - ./pg/data:/var/lib/postgresql/data
+    healthcheck:
+      test: ['CMD', 'pg_isready', '-U', 'postgres', '-d', 'postgres']
+      interval: 5s
+      timeout: 5s
+      retries: 10
   mongo:
     image: mongo:5.0.18 # dockerhub
     # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云
@@ -79,21 +84,38 @@ services:
     restart: always
     command: |
       redis-server --requirepass mypassword --loglevel warning --maxclients 10000 --appendonly yes --save 60 10 --maxmemory 4gb --maxmemory-policy noeviction
+    healthcheck:
+      test: ['CMD', 'redis-cli', '-a', 'mypassword', 'ping']
+      interval: 10s
+      timeout: 3s
+      retries: 3
+      start_period: 30s
     volumes:
       - ./redis/data:/data
 
   # fastgpt
   sandbox:
     container_name: sandbox
-    image: ghcr.io/labring/fastgpt-sandbox:v4.9.5 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.5 # 阿里云
+    image: ghcr.io/labring/fastgpt-sandbox:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.9 # 阿里云
     networks:
       - fastgpt
     restart: always
+  fastgpt-mcp-server:
+    container_name: fastgpt-mcp-server
+    image: ghcr.io/labring/fastgpt-mcp_server:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-mcp_server:v4.9.9 # 阿里云
+    ports:
+      - 3005:3000
+    networks:
+      - fastgpt
+    restart: always
+    environment:
+      - FASTGPT_ENDPOINT=http://fastgpt:3000
   fastgpt:
     container_name: fastgpt
-    image: ghcr.io/labring/fastgpt:v4.9.5 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.5 # 阿里云
+    image: ghcr.io/labring/fastgpt:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.9 # 阿里云
     ports:
       - 3000:3000
     networks:
@@ -112,9 +134,6 @@ services:
       - AIPROXY_API_ENDPOINT=http://aiproxy:3000
       # AI Proxy 的 Admin Token，与 AI Proxy 中的环境变量 ADMIN_KEY
       - AIPROXY_API_TOKEN=aiproxy
-      # 模型中转地址（如果用了 AI Proxy，下面 2 个就不需要了，旧版 OneAPI 用户，使用下面的变量）
-      # - OPENAI_BASE_URL=http://oneapi:3000/v1
-      # - CHAT_API_KEY=sk-fastgpt
       # 数据库最大连接数
       - DB_MAX_LINK=30
       # 登录凭证密钥
@@ -149,8 +168,8 @@ services:
 
   # AI Proxy
   aiproxy:
-    image: ghcr.io/labring/aiproxy:v0.1.5
-    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.5 # 阿里云
+    image: ghcr.io/labring/aiproxy:v0.1.7
+    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.7 # 阿里云
     container_name: aiproxy
     restart: unless-stopped
     depends_on:

deploy/docker/docker-compose-zilliz.yml

@@ -61,20 +61,37 @@ services:
     restart: always
     command: |
       redis-server --requirepass mypassword --loglevel warning --maxclients 10000 --appendonly yes --save 60 10 --maxmemory 4gb --maxmemory-policy noeviction
+    healthcheck:
+      test: ['CMD', 'redis-cli', '-a', 'mypassword', 'ping']
+      interval: 10s
+      timeout: 3s
+      retries: 3
+      start_period: 30s
     volumes:
       - ./redis/data:/data
 
   sandbox:
     container_name: sandbox
-    image: ghcr.io/labring/fastgpt-sandbox:v4.9.5 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.5 # 阿里云
+    image: ghcr.io/labring/fastgpt-sandbox:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:v4.9.9 # 阿里云
     networks:
       - fastgpt
     restart: always
+  fastgpt-mcp-server:
+    container_name: fastgpt-mcp-server
+    image: ghcr.io/labring/fastgpt-mcp_server:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-mcp_server:v4.9.9 # 阿里云
+    ports:
+      - 3005:3000
+    networks:
+      - fastgpt
+    restart: always
+    environment:
+      - FASTGPT_ENDPOINT=http://fastgpt:3000
   fastgpt:
     container_name: fastgpt
-    image: ghcr.io/labring/fastgpt:v4.9.5 # git
-    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.5 # 阿里云
+    image: ghcr.io/labring/fastgpt:v4.9.9 # git
+    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.9.9 # 阿里云
     ports:
       - 3000:3000
     networks:
@@ -130,8 +147,8 @@ services:
 
   # AI Proxy
   aiproxy:
-    image: ghcr.io/labring/aiproxy:v0.1.3
-    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.3 # 阿里云
+    image: ghcr.io/labring/aiproxy:v0.1.7
+    # image: registry.cn-hangzhou.aliyuncs.com/labring/aiproxy:v0.1.7 # 阿里云
     container_name: aiproxy
     restart: unless-stopped
     depends_on:

docSite/Dockerfile

@@ -9,4 +9,6 @@ FROM fholzer/nginx-brotli:latest
 
 LABEL org.opencontainers.image.source https://github.com/labring/FastGPT
 
-COPY --from=builder /app/hugo/public /usr/share/nginx/html
+COPY --from=builder /app/hugo/public /usr/share/nginx/html
+
+COPY ./docSite/nginx.conf /etc/nginx/conf.d/default.conf

docSite/content/zh-cn/docs/development/docker.md

@@ -187,7 +187,11 @@ curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/mai
 {{< /tab >}}
 {{< /tabs >}}
 
-### 3. 启动容器
+### 3. 修改 config.json 配置文件
+
+修改`config.json`文件中的`mcpServerProxyEndpoint`值，设置成`mcp server`的公网可访问地址，yml 文件中默认给出了映射到 3005 端口，如通过 IP 访问，则可能是：`120.172.2.10:3005`。
+
+### 4. 启动容器
 
 在 docker-compose.yml 同级目录下执行。请确保`docker-compose`版本最好在2.17以上，否则可能无法执行自动化命令。
 
@@ -196,7 +200,7 @@ curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/mai
 docker-compose up -d
 ```
 
-### 4. 访问 FastGPT
+### 5. 访问 FastGPT
 
 目前可以通过 `ip:3000` 直接访问(注意开放防火墙)。登录用户名为 `root`，密码为`docker-compose.yml`环境变量里设置的 `DEFAULT_ROOT_PSW`。
 
@@ -204,7 +208,7 @@ docker-compose up -d
 
 首次运行，会自动初始化 root 用户，密码为 `1234`（与环境变量中的`DEFAULT_ROOT_PSW`一致），日志可能会提示一次`MongoServerError: Unable to read from a snapshot due to pending collection catalog changes;`可忽略。
 
-### 5. 配置模型
+### 6. 配置模型
 
 - 首次登录FastGPT后，系统会提示未配置`语言模型`和`索引模型`，并自动跳转模型配置页面。系统必须至少有这两类模型才能正常使用。
 - 如果系统未正常跳转，可以在`账号-模型提供商`页面，进行模型配置。[点击查看相关教程](/docs/development/modelconfig/ai-proxy)

docSite/content/zh-cn/docs/development/openapi/chat.md

@@ -959,10 +959,16 @@ curl --location --request POST 'http://localhost:3000/api/core/chat/getHistories
 {{< markdownify >}}
 
 {{% alert icon=" " context="success" %}}
+目前仅能获取到当前 API key 的创建者的对话。
+
 - appId - 应用 Id
 - offset - 偏移量，即从第几条数据开始取
 - pageSize - 记录数量
 - source - 对话源。source=api，表示获取通过 API 创建的对话（不会获取到页面上的对话记录）
+- startCreateTime - 开始创建时间（可选）
+- endCreateTime - 结束创建时间（可选）
+- startUpdateTime - 开始更新时间（可选）
+- endUpdateTime - 结束更新时间（可选）
 {{% /alert %}}
 
 {{< /markdownify >}}

docSite/content/zh-cn/docs/development/openapi/dataset.md

@@ -296,6 +296,7 @@ curl --location --request DELETE 'http://localhost:3000/api/core/dataset/delete?
 | datasetId | 知识库ID | ✅ |
 | parentId： | 父级ID，不填则默认为根目录 |  |
 | trainingType | 数据处理方式。chunk: 按文本长度进行分割;qa: 问答对提取 | ✅ |
+| customPdfParse | PDF增强解析。true: 开启PDF增强解析;不填则默认为false |  |
 | autoIndexes | 是否自动生成索引(仅商业版支持) |  |
 | imageIndex | 是否自动生成图片索引(仅商业版支持) |  |
 | chunkSettingMode | 分块参数模式。auto: 系统默认参数; custom: 手动指定参数 |  |

docSite/content/zh-cn/docs/development/upgrading/4910.md

@@ -0,0 +1,34 @@
+---
+title: 'V4.9.10(进行中)'
+description: 'FastGPT V4.9.10 更新说明'
+icon: 'upgrade'
+draft: false
+toc: true
+weight: 790
+---
+
+
+## 🚀 新增内容
+
+1. 支持 PG 设置`systemEnv.hnswMaxScanTuples`参数，提高迭代搜索的数据总量。
+2. 工作流调整为单向接入和接出，支持快速的添加下一步节点。
+3. 开放飞书和语雀知识库到开源版。
+4. gemini 和 claude 最新模型预设。
+
+## ⚙️ 优化
+
+1. LLM stream调用，默认超时调大。
+2. 部分确认交互优化。
+3. 纠正原先知识库的“表格数据集”名称，改成“备份导入”。同时支持知识库索引的导出和导入。
+4. 工作流知识库引用上限，如果工作流中没有相关 AI 节点，则交互模式改成纯手动输入，并且上限为 1000万。
+5. 语音输入，移动端判断逻辑，准确判断是否为手机，而不是小屏。
+6. 优化上下文截取算法，至少保证留下一组 Human 信息。
+
+## 🐛 修复
+
+1. 全文检索多知识库时排序得分排序不正确。
+2. 流响应捕获 finish_reason 可能不正确。
+3. 工具调用模式，未保存思考输出。
+4. 知识库 indexSize 参数未生效。
+5. 工作流嵌套 2 层后，获取预览引用、上下文不正确。
+6. xlsx 转成 Markdown 时候，前面会多出一个空格。

docSite/content/zh-cn/docs/development/upgrading/496.md

@@ -1,5 +1,5 @@
 ---
-title: 'V4.9.6(进行中)'
+title: 'V4.9.6'
 description: 'FastGPT V4.9.6 更新说明'
 icon: 'upgrade'
 draft: false
@@ -7,11 +7,6 @@ toc: true
 weight: 794
 ---
 
-
-
-
-
-
 ## 🚀 新增内容
 
 1. 以 MCP 方式对外提供应用调用。
@@ -35,4 +30,56 @@ weight: 794
 
 1. 修复子工作流包含交互节点时，未成功恢复子工作流所有数据。
 2. completion v1 接口，未接受 interactive 参数，导致 API 调用失败。
-3. 连续工具调用，上下文截断异常
+3. 连续工具调用，上下文截断异常
+
+## 升级指南
+### 1. 做好数据备份
+
+### 2. 部署 MCP server 服务
+
+#### Docker 部署
+
+在`docker-compose.yml`文件中，加入`fastgpt-mcp-server`服务:
+
+```yml
+fastgpt-mcp-server:
+    container_name: fastgpt-mcp-server
+    image: ghcr.io/labring/fastgpt-mcp_server:v4.9.6
+    ports:
+      - 3005:3000
+    networks:
+      - fastgpt
+    restart: always
+    environment:
+      - FASTGPT_ENDPOINT=http://fastgpt:3000
+```
+
+#### Sealos 部署
+
+直接在`应用管理`中，增加一个`fastgpt-mcp-server`应用，镜像为`ghcr.io/labring/fastgpt-mcp_server:v4.9.6`，并设置环境变量`FASTGPT_ENDPOINT=fastgpt 的访问地址`。
+
+### 3. 修改 FastGPT 容器环境变量
+
+#### 开源版
+
+修改`config.json`配置文件，增加: `"feconfigs.mcpServerProxyEndpoint": "fastgpt-mcp-server 的访问地址"`， 末尾不要携带/，例如:
+```json
+{
+  "feConfigs": {
+    "lafEnv": "https://laf.dev",
+    "mcpServerProxyEndpoint": "https://mcp.fastgpt.cn" 
+  }
+}
+```
+
+#### 商业版
+
+在 Admin 后台，`系统配置-基础配置-系统参数`中的`MCP 转发服务地址`中，设置`fastgpt-mcp-server`的公网访问地址。
+
+### 4. 更新镜像 tag
+
+- 更新 FastGPT 镜像 tag: v4.9.6
+- 更新 FastGPT 商业版镜像 tag: v4.9.6
+- 更新 Sandbox 镜像 tag: v4.9.6
+- 增加 FastGPT mcp server 镜像 tag: v4.9.6
+- AIProxy 无需更新

docSite/content/zh-cn/docs/development/upgrading/497.md

@@ -0,0 +1,59 @@
+---
+title: 'V4.9.7'
+description: 'FastGPT V4.9.7 更新说明'
+icon: 'upgrade'
+draft: false
+toc: true
+weight: 793
+---
+
+## 升级指南
+
+### 1. 做好数据备份
+
+### 2. 更新镜像 tag
+
+- 更新 FastGPT 镜像 tag: v4.9.7-fix2
+- 更新 FastGPT 商业版镜像 tag: v4.9.7
+- mcp_server 无需更新
+- Sandbox 无需更新
+- 更新 AIProxy 镜像 tag: v0.1.8
+
+## 🚀 新增内容
+
+1. 知识库回答时，回答段落末尾增加引用。
+2. MCP 工具支持 HTTP Streamable 协议。
+3. MCP server 支持编辑工具名，适配部分客户端不支持中文名问题。
+4. 工作流右键可自动对齐节点。
+5. 支持生产环境自定义`config.json`路径。
+6. API 调用，支持传递一个特殊 chatId(`NO_RECORD_HISTORIES`)，使得系统不会进行历史记录存储。
+7. 支持 Rerank 模型按量计费。
+8. 套餐兑换码功能。
+9. 支付宝支付。
+10. 短链数据埋点。
+11. 新增 Jina AI 模型系统配置。
+
+## ⚙️ 优化
+
+1. Doc2x 文档解析，增加报错信息捕获，增加超时时长。
+2. 调整 PG vector 查询语句，强制使用向量索引。
+3. 对话时间统计，准确返回工作流整体运行时间。
+4. 从 ai_proxy 获取音频解析时长。
+5. AI 模型 Token 值均优先采用 API usage，确保 tokens 值准确，若为空，则再采用 GPT3.5 的估算方式。
+6. 优化对话日志 list 接口，适配单个对话框，大量对话的场景。
+
+## 🐛 修复
+
+1. 文件上传分块大小限制，避免超出 MongoDB 限制。
+2. 使用记录仪表盘，无法获取指定成员的使用统计。
+3. 仪表盘接口，因未考虑时区问题，统计异常。
+4. LLM 模型测试接口，无法测试未启用的 LLM。同时修复，模型测试接口会把模型自定义请求地址去除问题。
+5. Copy app 权限问题。
+6. 导出对话记录，限制单条对话记录消息上限 1000 组，避免导出失败。
+7. 工作流变量下一段文本仍是工作流变量，不触发渲染。
+8. 调试知识库检索模块，提示无权操作知识库。
+9. 文本内容提取节点，默认值赋值逻辑。
+10. 分享链接中，会强制返回嵌套应用中的引用内容。
+11. 知识库集合元数据过滤时，不同知识库的同名标签使用 $and 筛选无法获取结果。
+12. 修复应用列表，权限配置可能出现 index 刷新问题。
+

docSite/content/zh-cn/docs/development/upgrading/498.md

@@ -0,0 +1,49 @@
+---
+title: 'V4.9.8'
+description: 'FastGPT V4.9.8 更新说明'
+icon: 'upgrade'
+draft: false
+toc: true
+weight: 792
+---
+
+## 升级指南
+
+### 1. 做好数据备份
+
+### 2. 更新镜像 tag
+
+- 更新 FastGPT 镜像 tag: v4.9.8
+- 更新 FastGPT 商业版镜像 tag: v4.9.8
+- mcp_server 无需更新
+- Sandbox 无需更新
+- AIProxy 无需更新
+
+## 🚀 新增内容
+
+1. 支持 Toolcalls 并行执行。
+2. 将所有内置任务，从非 stream 模式调整成 stream 模式，避免部分模型不支持非 stream 模式。如需覆盖，则可以在模型`额外 Body`参数中，强制指定`stream=false`。
+3. qwen3 模型预设
+4. 语雀知识库支持设置根目录。
+5. 可配置密码过期时间，过期后下次登录会强制要求修改密码。
+6. 密码登录增加 preLogin 临时密钥校验。
+7. 支持 Admin 后台配置发布渠道和第三方知识库的显示隐藏。
+
+## ⚙️ 优化
+
+1. Chat log list 优化，避免大数据时超出内存限制。
+2. 预加载 token 计算 worker，避免主任务中并发创建导致线程阻塞。
+3. 工作流节点版本控制交互优化。
+4. 网络获取以及 html2md 优化，支持视频和音频标签的转换。
+
+## 🐛 修复
+
+1. 应用列表/知识库列表，删除行权限展示问题。
+2. 打开知识库搜索参数后，重排选项自动被打开。
+3. LLM json_schema 模式 API 请求格式错误。 
+4. 重新训练时，图片过期索引未成功清除，导致图片会丢失。
+5. 重新训练权限问题。
+6. 文档链接地址。
+7. Claude 工具调用，由于 index 为空，导致工具调用失败。
+8. 嵌套工作流，工具调用下包含交互节点时，流程异常。
+

docSite/content/zh-cn/docs/development/upgrading/499.md

@@ -0,0 +1,43 @@
+---
+title: 'V4.9.9'
+description: 'FastGPT V4.9.9 更新说明'
+icon: 'upgrade'
+draft: false
+toc: true
+weight: 791
+---
+
+## 升级指南
+
+### 1. 做好数据备份
+
+### 2. 商业版用户替换新 License
+
+商业版用户可以联系 FastGPT 团队支持同学，获取 License 替换方案。替换后，可以直接升级系统，管理后台会提示输入新 License。
+
+### 3. 更新镜像 tag
+
+- 更新 FastGPT 镜像 tag: v4.9.9
+- 更新 FastGPT 商业版镜像 tag: v4.9.9
+- mcp_server 无需更新
+- Sandbox 无需更新
+- AIProxy 无需更新
+
+## 🚀 新增内容
+
+1. 切换 SessionId 来替代 JWT 实现登录鉴权，可控制最大登录客户端数量。
+2. 新的商业版 License 管理模式。
+3. 公众号调用，显示记录 chat 对话错误，方便排查。
+4. API 知识库支持 BasePath 选择，需增加 API 接口，具体可见[API 知识库介绍](/docs/guide/knowledge_base/api_dataset/#4-获取文件详细信息用于获取文件信息)
+
+## ⚙️ 优化
+
+1. 优化工具调用，新工具的判断逻辑。
+2. 调整 Cite 引用提示词。
+
+## 🐛 修复
+
+1. 无法正常获取应用历史保存/发布记录。
+2. 成员创建 MCP 工具权限问题。
+3. 来源引用展示，存在 ID 传递错误，导致提示无权操作该文件。
+4. 回答标注前端数据报错。

docSite/content/zh-cn/docs/guide/admin/sso.md

@@ -74,7 +74,7 @@ env:
 {{< table "table-hover table-striped-columns" >}}
 | <div style="text-align:center">企业微信</div> | <div style="text-align:center">钉钉</div> | <div style="text-align:center">飞书</div> |
 |-----------|-----------------|--------------|
-| ![企业微信](/imgs/sso15.png)  |  ![钉钉](/imgs/sso16.png)       | ![飞书](/imgs/sso17.png)     |   
+| ![企业微信](/imgs/sso15.png)  |  ![钉钉](/imgs/sso16.png)       | ![飞书](/imgs/sso17.png)     |
 {{< /table >}}
 
 #### 3. 开启成员同步（可选）
@@ -210,7 +210,7 @@ fastgpt-sso:
    1. 企业的 CorpID
 
       a. 使用管理员账号登陆企业微信管理后台 `https://work.weixin.qq.com/wework_admin/loginpage_wx`
-      
+
       b. 点击 【我的企业】 页面，查看企业的 **企业ID**
 
       ![](/imgs/sso7.png)
@@ -296,52 +296,81 @@ fastgpt-sso:
 
 ### 标准 OAuth2.0
 
+我们提供一套 RFC 6749 中鉴权码模式的 OAuth2.0 接入支持。
+参考：
+- [RFC 6749](https://datatracker.ietf.org/doc/html/rfc6749) 文档。
+- [阮一峰的网络日志](https://www.ruanyifeng.com/blog/2014/05/oauth_2_0.html)
+
 #### 参数需求
 
+##### 三个地址
 我们提供一套标准的 OAuth2.0 接入流程。需要三个地址：
 
-1. 登陆鉴权地址（登陆后将 code 传入 redirect_uri）
-   - 需要将地址完整写好，除了 redirect_uri 以外（会自动补全）
-2. 获取 access_token 的地址，请求为 GET 方法，参数 code
+1. 登陆鉴权地址（用户点击 SSO 按钮后将携带参数直接跳转到该地址）, 例如：`http://example.com/oauth/authorize`
+    ```bash
+    curl -X GET\
+    "http://example.com/oauth/authorize?response_type=code&client_id=s6BhdRkqt3&state=xyz&redirect_uri=https%3A%2F%2Ffastgpt.cn%2Flogin%2Fprovider"
+    ```
+      用户输入账号密码后，会跳转到 redirect_uri 中，并携带 code 参数：
+      `https://fastgpt.cn/login/provider?code=4/P7qD2qAz4&state=xyz`
+2. 获取 access_token 的地址，获取到 code 后，通过*服务器请求*该地址获取 access_token 例如：`http://example.com/oauth/access_token`
+    ```bash
+    curl -X POST\
+        -H "Content-Type: application/x-www-form-urlencoded"\
+    "http://example.com/oauth/access_token?grant_type=authorization_code&client_id=s6BhdRkqt3&client_secret=xxx&code=4/P7qD2qAz4&redirect_uri=https%3A%2F%2Ffastgpt.cn%2Flogin%2Fprovider"
+    ```
+    注意：Content-Type 必须是 application/x-www-form-urlencoded, 而不是 application/json
+3. 获取用户信息的地址，需要传入 access_token 例如：`http://example.com/oauth/user_info`
+    ```bash
+    curl -X GET\
+        -H "Authorization: Bearer 4/P7qD2qAz4"\
+        "http://example.com/oauth/user_info"
+    ```
+    注意： access_token 作为 Authorization 头部传入, 格式为 Bearer xxxx
 
-```bash
-http://example.com/oauth/access_token?code=xxxx
-```
+##### 参数配置
+- CLIENT_ID: 必须
+- CLIENT_SECRET: 非必须，如果没有可以不配置
+- SCOPE: 非必须，如果没有可以不配置
 
-3. 获取用户信息的地址
-
-```bash
-http://example.com/oauth/user_info
-
-```
+> redirect_uri 参数会根据运行环境自动补全
+>
+> 其他固定参数如 grant_type, response_type 等会自动补全
 
 #### 配置示例
 
 ```bash
 fastgpt-sso:
-   image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sso-service:v4.9.0
-   container_name: fastgpt-sso
-   restart: always
-   networks:
-      - fastgpt
-   environment:
-      # OAuth2.0
-      - AUTH_TOKEN=xxxxx
-      - SSO_PROVIDER=oauth2
-      # OAuth2 重定向地址
-      - OAUTH2_AUTHORIZE_URL=
-      # OAuth2 获取 AccessToken 地址
-      - OAUTH2_TOKEN_URL=
-      # OAuth2 获取用户信息地址
-      - OAUTH2_USER_INFO_URL=
-      # OAuth2 用户名字段映射（必填）
-      - OAUTH2_USERNAME_MAP=
-      # OAuth2 头像字段映射（选填）
-      - OAUTH2_AVATAR_MAP=
-      # OAuth2 成员名字段映射(选填)
-      - OAUTH2_MEMBER_NAME_MAP=
-      # OAuth2 联系方式字段映射(选填)
-      - OAUTH2_CONTACT_MAP=
+    image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sso-service:v4.9.0
+    container_name: fastgpt-sso
+    restart: always
+    networks:
+        - fastgpt
+    environment:
+        # OAuth2.0
+        # === 请求地址 ===
+        # 1. OAuth2 登陆鉴权地址 (必填)
+        - OAUTH2_AUTHORIZE_URL=
+        # 2. OAuth2 获取 AccessToken 地址 (必填)
+        - OAUTH2_TOKEN_URL=
+        # 3. OAuth2 获取用户信息地址 (必填)
+        - OAUTH2_USER_INFO_URL=
+        # === 参数 ===
+        # 1. client_id （必填）
+        - OAUTH2_CLIENT_ID=
+        # 2. client_secret (选填，如果没有则不传)
+        - OAUTH2_CLIENT_SECRET=
+        # 3. scope （选填）
+        - OAUTH2_SCOPE=
+        # === 字段映射 ===
+        # OAuth2 用户名字段映射（必填）
+        - OAUTH2_USERNAME_MAP=
+        # OAuth2 头像字段映射（选填）
+        - OAUTH2_AVATAR_MAP=
+        # OAuth2 成员名字段映射(选填)
+        - OAUTH2_MEMBER_NAME_MAP=
+        # OAuth2 联系方式字段映射(选填)
+        - OAUTH2_CONTACT_MAP=
 ```
 
 ## 标准接口文档
@@ -473,7 +502,7 @@ curl -X GET "https://example.com/org/list" \
 type OrgListResponseType = {
     message?: string; // 报错信息
     success: boolean;
-    orgList: {  
+    orgList: {
         id: string; // 部门的唯一 id
         name: string; // 名字
         parentId: string; // parentId，如果为根部门，传空字符串。
@@ -531,7 +560,7 @@ type UserListResponseListType = {
     message?: string; // 报错信息
     success: boolean;
     userList: {
-      username: string; // 唯一 id username 必须与 SSO 接口返回的用户 username 相同。并且必须携带一个前缀，例如: sync-aaaaa，和 sso 接口返回的前缀一致 
+      username: string; // 唯一 id username 必须与 SSO 接口返回的用户 username 相同。并且必须携带一个前缀，例如: sync-aaaaa，和 sso 接口返回的前缀一致
       memberName?: string; // 名字，作为 tmbname
       avatar?: string;
       contact?: string; // email or phone number
@@ -574,8 +603,8 @@ curl示例
 
 ## 如何对接非标准系统
 
-1. 客户自己开发：按 fastgpt 提供的标准接口进行开发，并将部署后的服务地址填入 fastgpt-pro  
-   可以参考该模版库：[fastgpt-sso-template](https://github.com/labring/fastgpt-sso-template) 进行开发  
-2. 由 fastgpt 团队定制开发：  
-   a. 提供系统的 SSO 文档、获取成员和组织的文档、以及外网测试地址。  
+1. 客户自己开发：按 fastgpt 提供的标准接口进行开发，并将部署后的服务地址填入 fastgpt-pro
+   可以参考该模版库：[fastgpt-sso-template](https://github.com/labring/fastgpt-sso-template) 进行开发
+2. 由 fastgpt 团队定制开发：
+   a. 提供系统的 SSO 文档、获取成员和组织的文档、以及外网测试地址。
    b. 在 fastgpt-sso-service 中，增加对应的 provider 和环境变量，并编写代码来对接。

docSite/content/zh-cn/docs/guide/dashboard/mcp_server.md

@@ -62,7 +62,7 @@ FastGPT MCP Server 功能允许你选择`多个`在 FastGPT 上构建好的应
 
 ## 私有化部署 MCP server 问题
 
-私有化部署版本的 FastGPT，需要升级到`v4.9.6-alpha`及以上版本才可使用 MCP server 功能。
+私有化部署版本的 FastGPT，需要升级到`v4.9.6`及以上版本才可使用 MCP server 功能。
 
 ### 修改 docker-compose.yml 文件
 
@@ -100,4 +100,4 @@ fastgpt-mcp-server:
 ```bash
 docker-compose down
 docker-compose up -d
-```
+```

docSite/content/zh-cn/docs/guide/knowledge_base/api_dataset.md

@@ -43,7 +43,7 @@ type ResponseType = {
 // 文件列表中，单项的文件类型
 type FileListItem = {
   id: string;
-  parentId: string | null;
+  parentId: string  //也可能为 null 或者 undefined 类型;
   name: string;
   type: 'file' | 'folder';
   updateTime: Date;
@@ -59,7 +59,7 @@ type FileListItem = {
 {{< markdownify >}}
 
 {{% alert icon=" " context="success" %}}
-- parentId - 父级 id，可选，或者 null。
+- parentId - 父级 id，可选，或者 null | undefined。
 - searchKey - 检索词，可选
 {{% /alert %}}
 
@@ -68,7 +68,7 @@ curl --location --request POST '{{baseURL}}/v1/file/list' \
 --header 'Authorization: Bearer {{authorization}}' \
 --header 'Content-Type: application/json' \
 --data-raw '{
-    "parentId": null,
+    "parentId": "",
     "searchKey": ""
 }'
 ```
@@ -185,3 +185,40 @@ curl --location --request GET '{{baseURL}}/v1/file/read?id=xx' \
 {{< /tabs >}}
 
 
+### 4. 获取文件详细信息（用于获取文件信息）
+
+{{< tabs tabTotal="2" >}}
+{{< tab tabName="请求示例" >}}
+{{< markdownify >}}
+
+id 为文件的 id。
+
+```bash
+curl --location --request GET '{{baseURL}}/v1/file/detail?id=xx' \
+--header 'Authorization: Bearer {{authorization}}'
+```
+
+{{< /markdownify >}}
+{{< /tab >}}
+
+{{< tab tabName="响应示例" >}}
+{{< markdownify >}}
+
+```json
+{
+    "code": 200,
+    "success": true,
+    "message": "",
+    "data": {
+        "id": "docs",
+        "parentId": "",
+        "name": "docs"
+    }
+}
+```
+
+{{< /markdownify >}}
+{{< /tab >}}
+{{< /tabs >}}
+
+

docSite/content/zh-cn/docs/guide/knowledge_base/websync.md

@@ -25,24 +25,26 @@ curl https://doc.tryfastgpt.ai/docs/intro/
 
 ### 1. 新建知识库，选择 Web 站点同步
 
-![](/imgs/webSync2.png)
+![](/imgs/webSync2.jpg)
 
-![](/imgs/webSync3.png)
+![](/imgs/webSync3.jpg)
 
 ### 2. 点击配置站点信息
 
-![](/imgs/webSync4.png)
+![](/imgs/webSync4.jpg)
 
 ### 3. 填写网址和选择器
 
 ![](/imgs/webSync5.jpg)
 
+![](/imgs/webSync5-1.jpg)
+
 好了， 现在点击开始同步，静等系统自动抓取网站信息即可。
 
 
 ## 创建应用，绑定知识库
 
-![](/imgs/webSync6.webp)
+![](/imgs/webSync6.jpg)
 
 ## 选择器如何使用
 
@@ -77,4 +79,4 @@ curl https://doc.tryfastgpt.ai/docs/intro/
 
 另一组是`.docs-content div[data-prismjs-copy]`，含义是`docs-content` 类下包含`data-prismjs-copy`属性的`div`元素。
 
-把两组选择器用逗号隔开即可：`.docs-content .mb-0.d-flex, .docs-content div[data-prismjs-copy]`
+把两组选择器用逗号隔开即可：`.docs-content .mb-0.d-flex, .docs-content div[data-prismjs-copy]`

docSite/content/zh-cn/docs/shopping_cart/intro.md

@@ -28,7 +28,6 @@ FastGPT 商业版是基于 FastGPT 开源版的增强版本，增加了一些独
 | 应用发布安全配置 | ❌ | ✅ | ✅ |
 | 内容审核 | ❌ | ✅ | ✅ |
 | web站点同步 | ❌ | ✅ | ✅ |
-| 主流文档库接入（目前支持：语雀、飞书） | ❌ | ✅ | ✅ |
 | 增强训练模式 | ❌ | ✅ | ✅ |
 | 第三方应用快速接入（飞书、公众号） | ❌ | ✅ | ✅ |
 | 管理后台 | ❌ | ✅ | 不需要 |

docSite/content/zh-cn/docs/use-cases/app-cases/lab_appointment.md

@@ -563,7 +563,7 @@ HTTP模块中，需要设置 3 个工具参数：
             "hidden"
           ],
           "label": "",
-          "value": 1500,
+          "value": 5000,
           "valueType": "number"
         },
         {

docSite/content/zh-cn/docs/use-cases/external-integration/dingtalk.md

@@ -55,3 +55,10 @@ weight: 505
 应用发布后，即可在钉钉企业中使用机器人功能，可对机器人私聊。或者在群组添加机器人后`@机器人`，触发对话。
 
 ![图片8](/imgs/dingtalk-bot-8.png)
+
+
+## FAQ
+
+### 如何新开一个聊天记录
+
+如果你想重置你的聊天记录，可以给机器人发送 `Reset` 消息（注意大小写），机器人会新开一个聊天记录。

docSite/content/zh-cn/docs/use-cases/external-integration/feishu.md

@@ -94,4 +94,13 @@ Verification Token 默认生成的这个 Token 用于校验来源。但我们使
 1. 检查飞书机器人回调地址、权限等是否正确。
 2. 查看 FastGPT 对话日志，是否有对应的提问记录
 3. 如果有记录，飞书没回应，则是没给机器人开权限。
-4. 如果没记录，则可能是应用运行报错了，可以先试试最简单的机器人。（飞书机器人无法输入全局变量、文件、图片内容）
+4. 如果没记录，则可能是应用运行报错了，可以先试试最简单的机器人。（飞书机器人无法输入全局变量、文件、图片内容）
+
+### 如何新开一个聊天记录
+
+飞书机器人的聊天记录 chatId 包含几种来源：
+1. 私聊聊天框
+2. 飞书话题群中单个话题
+3. 群组聊天中，由群 id+个人id 组成。
+
+如果你想重置你的聊天记录，可以给机器人发送 `Reset` 消息（注意大小写），机器人会新开一个聊天记录。

docSite/content/zh-cn/docs/use-cases/external-integration/official_account.md

@@ -95,6 +95,10 @@ weight: 506
 121.196.228.45
 121.43.126.202
 120.26.144.37
+47.98.196.113
+47.97.204.90
+118.31.41.236
+118.178.185.61
 ```
 
 ## 4. 获取AES Key，选择加密方式
@@ -122,3 +126,16 @@ weight: 506
 ## 7. 开始使用
 
 现在用户向公众号发消息，消息则会被转发到 FastGPT，通过公众号返回对话结果。
+
+## FAQ
+
+### 公众号没响应
+
+检查应用对话日志，如果有对话日志，但是微信公众号无响应，则是白名单 IP未成功。
+添加白名单IP 后，通常需要等待几分钟微信更新。可以在对话日志中，找点错误日志。
+
+![](/imgs/official_account_faq.png)
+
+### 如何新开一个聊天记录
+
+如果你想重置你的聊天记录，可以给机器人发送 `Reset` 消息（注意大小写），机器人会新开一个聊天记录。

docSite/nginx.conf

@@ -0,0 +1,51 @@
+server {
+    listen       80;
+    server_name  localhost;
+
+    #charset koi8-r;
+    #access_log  /var/log/nginx/host.access.log  main;
+
+    # 设置UTF-8编码
+    charset utf-8;
+
+    location / {
+        root   /usr/share/nginx/html;
+        index  index.html index.htm;
+    }
+
+    location ~\.txt$ {
+        root   /usr/share/nginx/html;
+        charset utf-8;
+    }
+    #error_page  404              /404.html;
+
+    # redirect server error pages to the static page /50x.html
+    #
+    error_page   500 502 503 504  /50x.html;
+    location = /50x.html {
+        root   /usr/share/nginx/html;
+    }
+
+    # proxy the PHP scripts to Apache listening on 127.0.0.1:80
+    #
+    #location ~ \.php$ {
+    #    proxy_pass   http://127.0.0.1;
+    #}
+
+    # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
+    #
+    #location ~ \.php$ {
+    #    root           html;
+    #    fastcgi_pass   127.0.0.1:9000;
+    #    fastcgi_index  index.php;
+    #    fastcgi_param  SCRIPT_FILENAME  /scripts$fastcgi_script_name;
+    #    include        fastcgi_params;
+    #}
+
+    # deny access to .htaccess files, if Apache's document root
+    # concurs with nginx's one
+    #
+    #location ~ /\.ht {
+    #    deny  all;
+    #}
+}

env.d.ts

@@ -4,7 +4,6 @@ declare global {
       LOG_DEPTH: string;
       DEFAULT_ROOT_PSW: string;
       DB_MAX_LINK: string;
-      TOKEN_KEY: string;
       FILE_TOKEN_KEY: string;
       ROOT_KEY: string;
       OPENAI_BASE_URL: string;
@@ -23,16 +22,21 @@ declare global {
       FE_DOMAIN: string;
       FILE_DOMAIN: string;
       NEXT_PUBLIC_BASE_URL: string;
-      LOG_LEVEL: string;
-      STORE_LOG_LEVEL: string;
-      USE_IP_LIMIT: string;
-      WORKFLOW_MAX_RUN_TIMES: string;
-      WORKFLOW_MAX_LOOP_TIMES: string;
-      CHECK_INTERNAL_IP: string;
-      CHAT_LOG_URL: string;
-      CHAT_LOG_INTERVAL: string;
-      CHAT_LOG_SOURCE_ID_PREFIX: string;
-      ALLOWED_ORIGINS: string;
+      LOG_LEVEL?: string;
+      STORE_LOG_LEVEL?: string;
+      USE_IP_LIMIT?: string;
+      WORKFLOW_MAX_RUN_TIMES?: string;
+      WORKFLOW_MAX_LOOP_TIMES?: string;
+      CHECK_INTERNAL_IP?: string;
+      CHAT_LOG_URL?: string;
+      CHAT_LOG_INTERVAL?: string;
+      CHAT_LOG_SOURCE_ID_PREFIX?: string;
+      ALLOWED_ORIGINS?: string;
+      SHOW_COUPON?: string;
+      CONFIG_JSON_PATH?: string;
+      PASSWORD_LOGIN_LOCK_SECONDS?: string;
+      PASSWORD_EXPIRED_MONTH?: string;
+      MAX_LOGIN_SESSION?: string;
     }
   }
 }

package.json

@@ -13,12 +13,18 @@
     "previewIcon": "node ./scripts/icon/index.js",
     "api:gen": "tsc ./scripts/openapi/index.ts && node ./scripts/openapi/index.js && npx @redocly/cli build-docs ./scripts/openapi/openapi.json -o ./projects/app/public/openapi/index.html",
     "create:i18n": "node ./scripts/i18n/index.js",
+    "lint": "eslint \"**/*.{ts,tsx}\" --ignore-path .eslintignore",
+    "lint:fix": "eslint \"**/*.{ts,tsx}\" --fix --ignore-path .eslintignore",
     "test": "vitest run",
     "test:workflow": "vitest run workflow"
   },
   "devDependencies": {
     "@chakra-ui/cli": "^2.4.1",
+    "@typescript-eslint/eslint-plugin": "^6.21.0",
+    "@typescript-eslint/parser": "^6.21.0",
     "@vitest/coverage-v8": "^3.0.9",
+    "eslint": "^8.57.0",
+    "eslint-config-next": "^14.1.0",
     "husky": "^8.0.3",
     "i18next": "23.16.8",
     "lint-staged": "^13.3.0",
@@ -31,7 +37,10 @@
     "zhlint": "^0.7.4"
   },
   "lint-staged": {
-    "./**/**/*.{ts,tsx,scss}": "npm run format-code",
+    "./**/**/*.{ts,tsx,scss}": [
+      "npm run format-code",
+      "npm run lint:fix"
+    ],
     "./docSite/**/**/*.md": "npm run format-doc && npm run gen:llms"
   },
   "resolutions": {

packages/global/common/error/code/app.ts

@@ -1,4 +1,4 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* dataset: 502000 */
 export enum AppErrEnum {

packages/global/common/error/code/chat.ts

@@ -1,4 +1,4 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* dataset: 504000 */
 export enum ChatErrEnum {

packages/global/common/error/code/common.ts

@@ -1,5 +1,5 @@
 import { i18nT } from '../../../../web/i18n/utils';
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 
 /* dataset: 507000 */
 const startCode = 507000;

packages/global/common/error/code/dataset.ts

@@ -1,5 +1,5 @@
 import { i18nT } from '../../../../web/i18n/utils';
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 
 /* dataset: 501000 */
 export enum DatasetErrEnum {
@@ -27,7 +27,7 @@ const datasetErr = [
   },
   {
     statusText: DatasetErrEnum.unExist,
-    message: 'core.dataset.error.unExistDataset'
+    message: i18nT('common:core.dataset.error.unExistDataset')
   },
   {
     statusText: DatasetErrEnum.unExistCollection,

packages/global/common/error/code/openapi.ts

@@ -1,4 +1,4 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* dataset: 506000 */
 export enum OpenApiErrEnum {

packages/global/common/error/code/outLink.ts

@@ -1,4 +1,4 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* dataset: 505000 */
 export enum OutLinkErrEnum {

packages/global/common/error/code/plugin.ts

@@ -1,4 +1,4 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* dataset: 508000 */
 export enum PluginErrEnum {

packages/global/common/error/code/system.ts

@@ -1,14 +1,29 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* dataset: 509000 */
 export enum SystemErrEnum {
-  communityVersionNumLimit = 'communityVersionNumLimit'
+  communityVersionNumLimit = 'communityVersionNumLimit',
+  licenseAppAmountLimit = 'licenseAppAmountLimit',
+  licenseDatasetAmountLimit = 'licenseDatasetAmountLimit',
+  licenseUserAmountLimit = 'licenseUserAmountLimit'
 }
 
 const systemErr = [
   {
     statusText: SystemErrEnum.communityVersionNumLimit,
     message: i18nT('common:code_error.system_error.community_version_num_limit')
+  },
+  {
+    statusText: SystemErrEnum.licenseAppAmountLimit,
+    message: i18nT('common:code_error.system_error.license_app_amount_limit')
+  },
+  {
+    statusText: SystemErrEnum.licenseDatasetAmountLimit,
+    message: i18nT('common:code_error.system_error.license_dataset_amount_limit')
+  },
+  {
+    statusText: SystemErrEnum.licenseUserAmountLimit,
+    message: i18nT('common:code_error.system_error.license_user_amount_limit')
   }
 ];
 

packages/global/common/error/code/user.ts

@@ -1,4 +1,4 @@
-import { ErrType } from '../errorCode';
+import { type ErrType } from '../errorCode';
 import { i18nT } from '../../../../web/i18n/utils';
 /* team: 503000 */
 export enum UserErrEnum {

packages/global/common/error/utils.ts

@@ -4,7 +4,13 @@ export const getErrText = (err: any, def = ''): any => {
   const msg: string =
     typeof err === 'string'
       ? err
-      : err?.response?.data?.message || err?.response?.message || err?.message || def;
+      : err?.response?.data?.message ||
+        err?.response?.message ||
+        err?.message ||
+        err?.response?.data?.msg ||
+        err?.response?.msg ||
+        err?.msg ||
+        def;
   // msg && console.log('error =>', msg);
   return replaceSensitiveText(msg);
 };

packages/global/common/file/api.d.ts

@@ -1,4 +1,4 @@
-import { OutLinkChatAuthProps } from '../../support/permission/chat.d';
+import type { OutLinkChatAuthProps } from '../../support/permission/chat.d';
 
 export type preUploadImgProps = OutLinkChatAuthProps & {
   // expiredTime?: Date;

packages/global/common/file/tools.ts

@@ -1,7 +1,7 @@
 import { detect } from 'jschardet';
 import { documentFileType } from './constants';
 import { ChatFileTypeEnum } from '../../core/chat/constants';
-import { UserChatItemValueItemType } from '../../core/chat/type';
+import { type UserChatItemValueItemType } from '../../core/chat/type';
 import * as fs from 'fs';
 
 export const formatFileSize = (bytes: number): string => {

packages/global/common/file/type.d.ts

@@ -1,4 +1,4 @@
-import { BucketNameEnum } from './constants';
+import type { BucketNameEnum } from './constants';
 
 export type FileTokenQuery = {
   bucketName: `${BucketNameEnum}`;

packages/global/common/middle/tracks/type.d.ts

@@ -1,4 +1,4 @@
-import { TrackEnum } from './constants';
+import type { TrackEnum } from './constants';
 import { OAuthEnum } from '../../../support/user/constant';
 import { AppTypeEnum } from '../../../core/app/constants';
 

packages/global/common/parentFolder/utils.ts

@@ -1,4 +1,4 @@
-import { ParentIdType } from './type';
+import { type ParentIdType } from './type';
 
 export const parseParentIdInMongo = (parentId: ParentIdType) => {
   if (parentId === undefined) return {};

packages/global/common/string/password.ts

@@ -0,0 +1,18 @@
+export const checkPasswordRule = (password: string) => {
+  const patterns = [
+    /\d/, // Contains digits
+    /[a-z]/, // Contains lowercase letters
+    /[A-Z]/, // Contains uppercase letters
+    /[!@#$%^&*()_+=-]/ // Contains special characters
+  ];
+  const validChars = /^[\dA-Za-z!@#$%^&*()_+=-]{8,100}$/;
+
+  // Check length and valid characters
+  if (!validChars.test(password)) return false;
+
+  // Count how many patterns are satisfied
+  const matchCount = patterns.filter((pattern) => pattern.test(password)).length;
+
+  // Must satisfy at least 2 patterns
+  return matchCount >= 2;
+};

packages/global/common/system/config/constants.ts

@@ -1,7 +1,8 @@
 export enum SystemConfigsTypeEnum {
   fastgpt = 'fastgpt',
   fastgptPro = 'fastgptPro',
-  systemMsgModal = 'systemMsgModal'
+  systemMsgModal = 'systemMsgModal',
+  license = 'license'
 }
 
 export const SystemConfigsTypeMap = {
@@ -13,5 +14,8 @@ export const SystemConfigsTypeMap = {
   },
   [SystemConfigsTypeEnum.systemMsgModal]: {
     label: 'systemMsgModal'
+  },
+  [SystemConfigsTypeEnum.license]: {
+    label: 'license'
   }
 };

packages/global/common/system/config/type.d.ts

@@ -1,8 +1,8 @@
-import { SystemConfigsTypeEnum } from "./constants";
+import type { SystemConfigsTypeEnum } from './constants';
 
 export type SystemConfigsType = {
   _id: string;
   type: `${SystemConfigsTypeEnum}`;
   value: Record<string, any>;
   createTime: Date;
-};
+};

packages/global/common/system/types/index.d.ts

@@ -1,4 +1,5 @@
-import { StandSubPlanLevelMapType, SubPlanType } from '../../../support/wallet/sub/type';
+import type { SubPlanType } from '../../../support/wallet/sub/type';
+import { StandSubPlanLevelMapType } from '../../../support/wallet/sub/type';
 import type {
   ChatModelItemType,
   FunctionModelItemType,
@@ -60,8 +61,18 @@ export type FastGPTFeConfigsType = {
   show_team_chat?: boolean;
   show_compliance_copywriting?: boolean;
   show_aiproxy?: boolean;
+  show_coupon?: boolean;
   concatMd?: string;
 
+  show_dataset_feishu?: boolean;
+  show_dataset_yuque?: boolean;
+  show_publish_feishu?: boolean;
+  show_publish_dingtalk?: boolean;
+  show_publish_offiaccount?: boolean;
+
+  show_dataset_enhance?: boolean;
+  show_batch_eval?: boolean;
+
   concatMd?: string;
   docUrl?: string;
   openAPIDocUrl?: string;
@@ -106,6 +117,12 @@ export type FastGPTFeConfigsType = {
   lafEnv?: string;
   navbarItems?: NavbarItemType[];
   externalProviderWorkflowVariables?: ExternalProviderWorkflowVarType[];
+
+  payConfig?: {
+    wx?: boolean;
+    alipay?: boolean;
+    bank?: boolean;
+  };
 };
 
 export type SystemEnvType = {
@@ -113,9 +130,11 @@ export type SystemEnvType = {
   vectorMaxProcess: number;
   qaMaxProcess: number;
   vlmMaxProcess: number;
-  hnswEfSearch: number;
   tokenWorkers: number; // token count max worker
 
+  hnswEfSearch: number;
+  hnswMaxScanTuples: number;
+
   oneapiUrl?: string;
   chatApiKey?: string;
 
@@ -128,3 +147,21 @@ export type customPdfParseType = {
   doc2xKey?: string;
   price?: number;
 };
+
+export type LicenseDataType = {
+  startTime: string;
+  expiredTime: string;
+  company: string;
+  description?: string; // 描述
+  hosts?: string[]; // 管理端有效域名
+  maxUsers?: number; // 最大用户数，不填默认不上限
+  maxApps?: number; // 最大应用数，不填默认不上限
+  maxDatasets?: number; // 最大数据集数，不填默认不上限
+  functions: {
+    sso: boolean;
+    pay: boolean;
+    customTemplates: boolean;
+    datasetEnhance: boolean;
+    batchEval: boolean;
+  };
+};

packages/global/common/time/timezone.ts

@@ -30,7 +30,7 @@ export const getTimezoneOffset = (timeZone: string): number => {
  *
  * Generated by Trelent
  */
-export const timezoneList = () => {
+export const getTimeZoneList = () => {
   const result = timezones
     .map((timezone) => {
       try {
@@ -71,6 +71,23 @@ export const timezoneList = () => {
     time: number;
   }[];
 };
+export const timeZoneList = getTimeZoneList();
+
+export const getMongoTimezoneCode = (timeString: string) => {
+  if (!timeString.includes(':')) {
+    return '+00:00';
+  }
+
+  if (timeString.includes('+')) {
+    const timezoneMatch = timeString.split('+');
+    return `+${timezoneMatch[1]}`;
+  } else if (timeString.includes('-')) {
+    const timezoneMatch = timeString.split('-');
+    return `-${timezoneMatch[1]}`;
+  } else {
+    return '+00:00';
+  }
+};
 
 export const getSystemTime = (timeZone: string) => {
   const timezoneDiff = getTimezoneOffset(timeZone);

packages/global/core/ai/constants.ts

@@ -1,4 +1,13 @@
 import { i18nT } from '../../../web/i18n/utils';
+import type { CompletionUsage } from './type';
+
+export const getLLMDefaultUsage = (): CompletionUsage => {
+  return {
+    prompt_tokens: 0,
+    completion_tokens: 0,
+    total_tokens: 0
+  };
+};
 
 export enum ChatCompletionRequestMessageRoleEnum {
   'System' = 'system',

packages/global/core/ai/model.d.ts

@@ -1,4 +1,4 @@
-import { ModelTypeEnum } from './model';
+import type { ModelTypeEnum } from './model';
 import type { ModelProviderIdType } from './provider';
 
 type PriceType = {

packages/global/core/ai/model.ts

@@ -1,6 +1,6 @@
 import { i18nT } from '../../../web/i18n/utils';
 import type { LLMModelItemType, STTModelType, EmbeddingModelItemType } from './model.d';
-import { getModelProvider, ModelProviderIdType } from './provider';
+import { getModelProvider, type ModelProviderIdType } from './provider';
 
 export enum ModelTypeEnum {
   llm = 'llm',

packages/global/core/ai/prompt/AIChat.ts

@@ -1,13 +1,256 @@
-import { PromptTemplateItem } from '../type.d';
+import { type PromptTemplateItem } from '../type.d';
 import { i18nT } from '../../../../web/i18n/utils';
 import { getPromptByVersion } from './utils';
 
+export const Prompt_userQuotePromptList: PromptTemplateItem[] = [
+  {
+    title: i18nT('app:template.standard_template'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+你是一个知识库回答助手，可以使用 <Cites></Cites> 中的内容作为你本次回答的参考。
+同时，为了使回答结果更加可信并且可追溯，你需要在每段话结尾添加引用标记，标识参考了哪些内容。
+
+## 追溯展示规则
+
+- 使用 [id](CITE) 的格式来引用 <Cites></Cites> 中的知识，其中 CITE 是固定常量, id 为引文中的 id。
+- 在 **每段话结尾** 自然地整合引用。例如: "Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)。"。
+- 每段话**至少包含一个引用**，多个引用时按顺序排列，例如："Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)[67e517e74767063e882d6862](CITE)。\n 它的特点是非常轻量[67e517e74767063e882d6863](CITE)。"
+- 不要把示例作为知识点。
+- 不要伪造 id，返回的 id 必须都存在 <Cites></Cites> 中！
+
+## 通用规则
+
+- 如果你不清楚答案，你需要澄清。
+- 避免提及你是从 <Cites></Cites> 获取的知识。
+- 保持答案与 <Cites></Cites> 中描述的一致。
+- 使用 Markdown 语法优化回答格式。尤其是图片、表格、序列号等内容，需严格完整输出。
+- 使用与问题相同的语言回答。
+
+<Cites>
+{{quote}}
+</Cites>
+
+## 用户问题
+
+{{question}}
+
+## 回答
+`
+    }
+  },
+  {
+    title: i18nT('app:template.qa_template'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+作为一个问答助手，你会使用 <QA></QA> 标记中的提供的数据对进行内容回答。
+
+## 回答要求
+- 选择其中一个或多个问答对进行回答。
+- 回答的内容应尽可能与 <Answer></Answer> 中的内容一致。
+- 如果没有相关的问答对，你需要澄清。
+- 避免提及你是从 <QA></QA> 获取的知识，只需要回复答案。
+- 使用与问题相同的语言回答。
+
+<QA>
+{{quote}}
+</QA>
+
+## 用户问题
+
+{{question}}
+
+## 回答
+`
+    }
+  },
+  {
+    title: i18nT('app:template.standard_strict'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+你是一个知识库回答助手，可以使用 <Cites></Cites> 中的内容作为你本次回答的参考。
+同时，为了使回答结果更加可信并且可追溯，你需要在每段话结尾添加引用标记，标识参考了哪些内容。
+
+## 追溯展示规则
+
+- 使用 [id](CITE) 的格式来引用 <Cites></Cites> 中的知识，其中 CITE 是固定常量, id 为引文中的 id。
+- 在 **每段话结尾** 自然地整合引用。例如: "Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)。"。
+- 每段话**至少包含一个引用**，多个引用时按顺序排列，例如："Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)[67e517e74767063e882d6862](CITE)。\n 它的特点是非常轻量[67e517e74767063e882d6863](CITE)。"
+- 不要把示例作为知识点。
+- 不要伪造 id，返回的 id 必须都存在 <Cites></Cites> 中！
+
+## 通用规则
+
+- 如果你不清楚答案，你需要澄清。
+- 避免提及你是从 <Cites></Cites> 获取的知识。
+- 保持答案与 <Cites></Cites> 中描述的一致。
+- 使用 Markdown 语法优化回答格式。尤其是图片、表格、序列号等内容，需严格完整输出。
+- 使用与问题相同的语言回答。
+
+## 严格要求
+
+你只能使用 <Cites></Cites> 标记中的内容作为参考，不能使用自身的知识，并且回答的内容需严格与 <Cites></Cites> 中的内容一致。
+
+<Cites>
+{{quote}}
+</Cites>
+
+## 用户问题
+
+{{question}}
+
+## 回答
+`
+    }
+  },
+  {
+    title: i18nT('app:template.hard_strict'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+作为一个问答助手，你会使用 <QA></QA> 标记中的提供的数据对进行内容回答。
+
+## 回答要求
+- 选择其中一个或多个问答对进行回答。
+- 回答的内容应尽可能与 <Answer></Answer> 中的内容一致。
+- 如果没有相关的问答对，你需要澄清。
+- 避免提及你是从 <QA></QA> 获取的知识，只需要回复答案。
+- 使用与问题相同的语言回答。
+
+## 严格要求
+
+你只能使用 <QA></QA> 标记中的内容作为参考，不能使用自身的知识，并且回答的内容需严格与 <QA></QA> 中的内容一致。
+
+<QA>
+{{quote}}
+</QA>
+
+## 用户问题
+
+{{question}}
+
+## 回答
+`
+    }
+  }
+];
+
+export const Prompt_systemQuotePromptList: PromptTemplateItem[] = [
+  {
+    title: i18nT('app:template.standard_template'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+你是一个知识库回答助手，可以使用 <Cites></Cites> 中的内容作为你本次回答的参考。
+同时，为了使回答结果更加可信并且可追溯，你需要在每段话结尾添加引用标记，标识参考了哪些内容。
+
+## 追溯展示规则
+
+- 使用 [id](CITE) 的格式来引用 <Cites></Cites> 中的知识，其中 CITE 是固定常量, id 为引文中的 id。
+- 在 **每段话结尾** 自然地整合引用。例如: "Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)。"。
+- 每段话**至少包含一个引用**，多个引用时按顺序排列，例如："Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)[67e517e74767063e882d6862](CITE)。\n 它的特点是非常轻量[67e517e74767063e882d6863](CITE)。"
+- 不要把示例作为知识点。
+- 不要伪造 id，返回的 id 必须都存在 <Cites></Cites> 中！
+
+## 通用规则
+
+- 如果你不清楚答案，你需要澄清。
+- 避免提及你是从 <Cites></Cites> 获取的知识。
+- 保持答案与 <Cites></Cites> 中描述的一致。
+- 使用 Markdown 语法优化回答格式。尤其是图片、表格、序列号等内容，需严格完整输出。
+- 使用与问题相同的语言回答。
+
+<Cites>
+{{quote}}
+</Cites>`
+    }
+  },
+  {
+    title: i18nT('app:template.qa_template'),
+    desc: '',
+    value: {
+      ['4.9.8']: `## 任务描述
+作为一个问答助手，你会使用 <QA></QA> 标记中的提供的数据对进行内容回答。
+
+## 回答要求
+- 选择其中一个或多个问答对进行回答。
+- 回答的内容应尽可能与 <Answer></Answer> 中的内容一致。
+- 如果没有相关的问答对，你需要澄清。
+- 避免提及你是从 <QA></QA> 获取的知识，只需要回复答案。
+- 使用与问题相同的语言回答。
+
+<QA>
+{{quote}}
+</QA>`
+    }
+  },
+  {
+    title: i18nT('app:template.standard_strict'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+你是一个知识库回答助手，可以使用 <Cites></Cites> 中的内容作为你本次回答的参考。
+同时，为了使回答结果更加可信并且可追溯，你需要在每段话结尾添加引用标记，标识参考了哪些内容。
+
+## 追溯展示规则
+
+- 使用 [id](CITE) 的格式来引用 <Cites></Cites> 中的知识，其中 CITE 是固定常量, id 为引文中的 id。
+- 在 **每段话结尾** 自然地整合引用。例如: "Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)。"。
+- 每段话**至少包含一个引用**，多个引用时按顺序排列，例如："Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)[67e517e74767063e882d6862](CITE)。\n 它的特点是非常轻量[67e517e74767063e882d6863](CITE)。"
+- 不要把示例作为知识点。
+- 不要伪造 id，返回的 id 必须都存在 <Cites></Cites> 中！
+
+## 通用规则
+
+- 如果你不清楚答案，你需要澄清。
+- 避免提及你是从 <Cites></Cites> 获取的知识。
+- 保持答案与 <Cites></Cites> 中描述的一致。
+- 使用 Markdown 语法优化回答格式。尤其是图片、表格、序列号等内容，需严格完整输出。
+- 使用与问题相同的语言回答。
+
+## 严格要求
+
+你只能使用 <Cites></Cites> 标记中的内容作为参考，不能使用自身的知识，并且回答的内容需严格与 <Cites></Cites> 中的内容一致。
+
+<Cites>
+{{quote}}
+</Cites>`
+    }
+  },
+  {
+    title: i18nT('app:template.hard_strict'),
+    desc: '',
+    value: {
+      ['4.9.7']: `## 任务描述
+作为一个问答助手，你会使用 <QA></QA> 标记中的提供的数据对进行内容回答。
+
+## 回答要求
+- 选择其中一个或多个问答对进行回答。
+- 回答的内容应尽可能与 <Answer></Answer> 中的内容一致。
+- 如果没有相关的问答对，你需要澄清。
+- 避免提及你是从 <QA></QA> 获取的知识，只需要回复答案。
+- 使用与问题相同的语言回答。
+
+## 严格要求
+
+你只能使用 <QA></QA> 标记中的内容作为参考，不能使用自身的知识，并且回答的内容需严格与 <QA></QA> 中的内容一致。
+
+<QA>
+{{quote}}
+</QA>`
+    }
+  }
+];
+
 export const Prompt_QuoteTemplateList: PromptTemplateItem[] = [
   {
     title: i18nT('app:template.standard_template'),
     desc: i18nT('app:template.standard_template_des'),
     value: {
-      ['4.9.2']: `{
+      ['4.9.7']: `{
+  "id": "{{id}}",
   "sourceName": "{{source}}",
   "updateTime": "{{updateTime}}",
   "content": "{{q}}\n{{a}}"
@@ -19,7 +262,7 @@ export const Prompt_QuoteTemplateList: PromptTemplateItem[] = [
     title: i18nT('app:template.qa_template'),
     desc: i18nT('app:template.qa_template_des'),
     value: {
-      ['4.9.2']: `<Question>
+      ['4.9.7']: `<Question>
 {{q}}
 </Question>
 <Answer>
@@ -31,7 +274,8 @@ export const Prompt_QuoteTemplateList: PromptTemplateItem[] = [
     title: i18nT('app:template.standard_strict'),
     desc: i18nT('app:template.standard_strict_des'),
     value: {
-      ['4.9.2']: `{
+      ['4.9.7']: `{
+  "id": "{{id}}",
   "sourceName": "{{source}}",
   "updateTime": "{{updateTime}}",
   "content": "{{q}}\n{{a}}"
@@ -43,7 +287,7 @@ export const Prompt_QuoteTemplateList: PromptTemplateItem[] = [
     title: i18nT('app:template.hard_strict'),
     desc: i18nT('app:template.hard_strict_des'),
     value: {
-      ['4.9.2']: `<Question>
+      ['4.9.7']: `<Question>
 {{q}}
 </Question>
 <Answer>
@@ -52,191 +296,12 @@ export const Prompt_QuoteTemplateList: PromptTemplateItem[] = [
     }
   }
 ];
-
 export const getQuoteTemplate = (version?: string) => {
   const defaultTemplate = Prompt_QuoteTemplateList[0].value;
 
   return getPromptByVersion(version, defaultTemplate);
 };
 
-export const Prompt_userQuotePromptList: PromptTemplateItem[] = [
-  {
-    title: i18nT('app:template.standard_template'),
-    desc: '',
-    value: {
-      ['4.9.2']: `使用 <Reference></Reference> 标记中的内容作为本次对话的参考:
-
-<Reference>
-{{quote}}
-</Reference>
-
-回答要求：
-- 如果你不清楚答案，你需要澄清。
-- 避免提及你是从 <Reference></Reference> 获取的知识。
-- 保持答案与 <Reference></Reference> 中描述的一致。
-- 使用 Markdown 语法优化回答格式。
-- 使用与问题相同的语言回答。
-
-问题:"""{{question}}"""`
-    }
-  },
-  {
-    title: i18nT('app:template.qa_template'),
-    desc: '',
-    value: {
-      ['4.9.2']: `使用 <QA></QA> 标记中的问答对进行回答。
-
-<QA>
-{{quote}}
-</QA>
-
-回答要求：
-- 选择其中一个或多个问答对进行回答。
-- 回答的内容应尽可能与 <答案></答案> 中的内容一致。
-- 如果没有相关的问答对，你需要澄清。
-- 避免提及你是从 QA 获取的知识，只需要回复答案。
-
-问题:"""{{question}}"""`
-    }
-  },
-  {
-    title: i18nT('app:template.standard_strict'),
-    desc: '',
-    value: {
-      ['4.9.2']: `忘记你已有的知识，仅使用 <Reference></Reference> 标记中的内容作为本次对话的参考:
-
-<Reference>
-{{quote}}
-</Reference>
-
-思考流程：
-1. 判断问题是否与 <Reference></Reference> 标记中的内容有关。
-2. 如果有关，你按下面的要求回答。
-3. 如果无关，你直接拒绝回答本次问题。
-
-回答要求：
-- 避免提及你是从 <Reference></Reference> 获取的知识。
-- 保持答案与 <Reference></Reference> 中描述的一致。
-- 使用 Markdown 语法优化回答格式。
-- 使用与问题相同的语言回答。
-
-问题:"""{{question}}"""`
-    }
-  },
-  {
-    title: i18nT('app:template.hard_strict'),
-    desc: '',
-    value: {
-      ['4.9.2']: `忘记你已有的知识，仅使用 <QA></QA> 标记中的问答对进行回答。
-
-<QA>
-{{quote}}
-</QA>
-
-思考流程：
-1. 判断问题是否与 <QA></QA> 标记中的内容有关。
-2. 如果无关，你直接拒绝回答本次问题。
-3. 判断是否有相近或相同的问题。
-4. 如果有相同的问题，直接输出对应答案。
-5. 如果只有相近的问题，请把相近的问题和答案一起输出。
-
-回答要求：
-- 如果没有相关的问答对，你需要澄清。
-- 回答的内容应尽可能与 <QA></QA> 标记中的内容一致。
-- 避免提及你是从 QA 获取的知识，只需要回复答案。
-- 使用 Markdown 语法优化回答格式。
-- 使用与问题相同的语言回答。
-
-问题:"""{{question}}"""`
-    }
-  }
-];
-
-export const Prompt_systemQuotePromptList: PromptTemplateItem[] = [
-  {
-    title: i18nT('app:template.standard_template'),
-    desc: '',
-    value: {
-      ['4.9.2']: `使用 <Reference></Reference> 标记中的内容作为本次对话的参考:
-
-<Reference>
-{{quote}}
-</Reference>
-
-回答要求：
-- 如果你不清楚答案，你需要澄清。
-- 避免提及你是从 <Reference></Reference> 获取的知识。
-- 保持答案与 <Reference></Reference> 中描述的一致。
-- 使用 Markdown 语法优化回答格式。
-- 使用与问题相同的语言回答。`
-    }
-  },
-  {
-    title: i18nT('app:template.qa_template'),
-    desc: '',
-    value: {
-      ['4.9.2']: `使用 <QA></QA> 标记中的问答对进行回答。
-
-<QA>
-{{quote}}
-</QA>
-
-回答要求：
-- 选择其中一个或多个问答对进行回答。
-- 回答的内容应尽可能与 <答案></答案> 中的内容一致。
-- 如果没有相关的问答对，你需要澄清。
-- 避免提及你是从 QA 获取的知识，只需要回复答案。`
-    }
-  },
-  {
-    title: i18nT('app:template.standard_strict'),
-    desc: '',
-    value: {
-      ['4.9.2']: `忘记你已有的知识，仅使用 <Reference></Reference> 标记中的内容作为本次对话的参考:
-
-<Reference>
-{{quote}}
-</Reference>
-
-思考流程：
-1. 判断问题是否与 <Reference></Reference> 标记中的内容有关。
-2. 如果有关，你按下面的要求回答。
-3. 如果无关，你直接拒绝回答本次问题。
-
-回答要求：
-- 避免提及你是从 <Reference></Reference> 获取的知识。
-- 保持答案与 <Reference></Reference> 中描述的一致。
-- 使用 Markdown 语法优化回答格式。
-- 使用与问题相同的语言回答。`
-    }
-  },
-  {
-    title: i18nT('app:template.hard_strict'),
-    desc: '',
-    value: {
-      ['4.9.2']: `忘记你已有的知识，仅使用 <QA></QA> 标记中的问答对进行回答。
-
-<QA>
-{{quote}}
-</QA>
-
-思考流程：
-1. 判断问题是否与 <QA></QA> 标记中的内容有关。
-2. 如果无关，你直接拒绝回答本次问题。
-3. 判断是否有相近或相同的问题。
-4. 如果有相同的问题，直接输出对应答案。
-5. 如果只有相近的问题，请把相近的问题和答案一起输出。
-
-回答要求：
-- 如果没有相关的问答对，你需要澄清。
-- 回答的内容应尽可能与 <QA></QA> 标记中的内容一致。
-- 避免提及你是从 QA 获取的知识，只需要回复答案。
-- 使用 Markdown 语法优化回答格式。
-- 使用与问题相同的语言回答。`
-    }
-  }
-];
-
 export const getQuotePrompt = (version?: string, role: 'user' | 'system' = 'user') => {
   const quotePromptTemplates =
     role === 'user' ? Prompt_userQuotePromptList : Prompt_systemQuotePromptList;
@@ -247,13 +312,13 @@ export const getQuotePrompt = (version?: string, role: 'user' | 'system' = 'user
 };
 
 // Document quote prompt
-export const getDocumentQuotePrompt = (version: string) => {
+export const getDocumentQuotePrompt = (version?: string) => {
   const promptMap = {
-    ['4.9.2']: `将 <FilesContent></FilesContent> 中的内容作为本次对话的参考:
-  <FilesContent>
-  {{quote}}
-  </FilesContent>
-  `
+    ['4.9.7']: `将 <FilesContent></FilesContent> 中的内容作为本次对话的参考:
+<FilesContent>
+{{quote}}
+</FilesContent>
+`
   };
 
   return getPromptByVersion(version, promptMap);

packages/global/core/ai/prompt/agent.ts

@@ -60,7 +60,7 @@ export const getExtractJsonToolPrompt = (version?: string) => {
 """
 - {{description}}
 - 不是每个参数都是必须生成的，如果没有合适的参数值，不要生成该参数，或返回空字符串。
-- 需要结合前面的对话内容，一起生成合适的参数。
+- 需要结合历史记录，一起生成合适的参数。
 """
 
 本次输入内容: """{{content}}"""

packages/global/core/ai/prompt/dataset.ts

@@ -0,0 +1,19 @@
+export const getDatasetSearchToolResponsePrompt = () => {
+  return `## Role
+你是一个知识库回答助手，可以 "cites" 中的内容作为本次对话的参考。为了使回答结果更加可信并且可追溯，你需要在每段话结尾添加引用标记，标识参考了哪些内容。
+
+## 追溯展示规则
+
+- 使用 **[id](CITE)** 格式来引用 "cites" 中的知识，其中 CITE 是固定常量, id 为引文中的 id。
+- 在 **每段话结尾** 自然地整合引用。例如: "Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)。"。
+- 每段话**至少包含一个引用**，多个引用时按顺序排列，例如："Nginx是一款轻量级的Web服务器、反向代理服务器[67e517e74767063e882d6861](CITE)[67e517e74767063e882d6862](CITE)。\n 它的特点是非常轻量[67e517e74767063e882d6863](CITE)。"
+- 不要把示例作为知识点。
+- 不要伪造 id，返回的 id 必须都存在 cites 中！
+
+## 通用规则
+- 如果你不清楚答案，你需要澄清。
+- 避免提及你是从 "cites" 获取的知识。
+- 保持答案与 "cites" 中描述的一致。
+- 使用 Markdown 语法优化回答格式。尤其是图片、表格、序列号等内容，需严格完整输出。
+- 使用与问题相同的语言回答。`;
+};

packages/global/core/ai/prompt/utils.ts

@@ -1,4 +1,5 @@
 export const getPromptByVersion = (version?: string, promptMap: Record<string, string> = {}) => {
+  // 版本号大的在前面
   const versions = Object.keys(promptMap).sort((a, b) => {
     const [majorA, minorA, patchA] = a.split('.').map(Number);
     const [majorB, minorB, patchB] = b.split('.').map(Number);
@@ -15,5 +16,5 @@ export const getPromptByVersion = (version?: string, promptMap: Record<string, s
   if (version in promptMap) {
     return promptMap[version];
   }
-  return promptMap[versions[versions.length - 1]];
+  return promptMap[versions[0]];
 };

packages/global/core/ai/provider.ts

@@ -8,6 +8,7 @@ export type ModelProviderIdType =
   | 'MistralAI'
   | 'Groq'
   | 'Grok'
+  | 'Jina'
   | 'AliCloud'
   | 'Qwen'
   | 'Doubao'
@@ -72,6 +73,11 @@ export const ModelProviderList: ModelProviderType[] = [
     name: 'Groq',
     avatar: 'model/groq'
   },
+  {
+    id: 'Jina',
+    name: 'Jina',
+    avatar: 'model/jina'
+  },
   {
     id: 'Qwen',
     name: i18nT('common:model_qwen'),

packages/global/core/ai/type.d.ts

@@ -9,7 +9,8 @@ import type {
   ChatCompletionAssistantMessageParam as SdkChatCompletionAssistantMessageParam
 } from 'openai/resources';
 import { ChatMessageTypeEnum } from './constants';
-import { WorkflowInteractiveResponseType } from '../workflow/template/system/interactive/type';
+import type { WorkflowInteractiveResponseType } from '../workflow/template/system/interactive/type';
+import type { Stream } from 'openai/streaming';
 export * from 'openai/resources';
 
 // Extension of ChatCompletionMessageParam, Add file url type
@@ -59,6 +60,7 @@ export type ChatCompletionAssistantToolParam = {
   tool_calls: ChatCompletionMessageToolCall[];
 };
 export type ChatCompletionMessageToolCall = ChatCompletionMessageToolCall & {
+  index?: number;
   toolName?: string;
   toolAvatar?: string;
 };
@@ -84,6 +86,7 @@ export type CompletionFinishReason =
 
 export default openai;
 export * from 'openai';
+export type { Stream };
 
 // Other
 export type PromptTemplateItem = {

packages/global/core/app/constants.ts

@@ -1,9 +1,9 @@
 import {
-  AppTTSConfigType,
-  AppFileSelectConfigType,
-  AppWhisperConfigType,
-  AppAutoExecuteConfigType,
-  AppQGConfigType
+  type AppTTSConfigType,
+  type AppFileSelectConfigType,
+  type AppWhisperConfigType,
+  type AppAutoExecuteConfigType,
+  type AppQGConfigType
 } from './type';
 
 export enum AppTypeEnum {
@@ -60,5 +60,3 @@ export enum AppTemplateTypeEnum {
   // special type
   contribute = 'contribute'
 }
-
-export const defaultDatasetMaxTokens = 16000;

packages/global/core/app/controller.d.ts

@@ -1,6 +1,6 @@
-import { ParentIdType } from 'common/parentFolder/type';
-import { AppSchema } from './type';
-import { AppTypeEnum } from './constants';
+import type { ParentIdType } from 'common/parentFolder/type';
+import type { AppSchema } from './type';
+import type { AppTypeEnum } from './constants';
 
 export type CreateAppProps = {
   parentId?: ParentIdType;

packages/global/core/app/httpPlugin/utils.ts

@@ -1,19 +1,19 @@
 import { getNanoid } from '../../../common/string/tools';
-import { OpenApiJsonSchema } from './type';
+import { type OpenApiJsonSchema } from './type';
 import yaml from 'js-yaml';
-import { OpenAPIV3 } from 'openapi-types';
-import { FlowNodeInputItemType, FlowNodeOutputItemType } from '../../workflow/type/io';
+import type { OpenAPIV3 } from 'openapi-types';
+import { type FlowNodeInputItemType, type FlowNodeOutputItemType } from '../../workflow/type/io';
 import { FlowNodeInputTypeEnum, FlowNodeOutputTypeEnum } from '../../workflow/node/constant';
 import { WorkflowIOValueTypeEnum } from '../../workflow/constants';
 import { PluginInputModule } from '../../workflow/template/system/pluginInput';
 import { PluginOutputModule } from '../../workflow/template/system/pluginOutput';
 import { HttpNode468 } from '../../workflow/template/system/http468';
-import { HttpParamAndHeaderItemType } from '../../workflow/api';
-import { StoreNodeItemType } from '../../workflow/type/node';
+import { type HttpParamAndHeaderItemType } from '../../workflow/api';
+import { type StoreNodeItemType } from '../../workflow/type/node';
 import { HttpImgUrl } from '../../../common/file/image/constants';
 import SwaggerParser from '@apidevtools/swagger-parser';
 import { getHandleId } from '../../workflow/utils';
-import { CreateHttpPluginChildrenPros } from '../controller';
+import { type CreateHttpPluginChildrenPros } from '../controller';
 import { AppTypeEnum } from '../constants';
 import type { StoreEdgeItemType } from '../../workflow/type/edge';
 

packages/global/core/app/mcpTools/utils.ts

@@ -5,9 +5,9 @@ import {
   FlowNodeTypeEnum
 } from '../../workflow/node/constant';
 import { nanoid } from 'nanoid';
-import { ToolType } from '../type';
+import { type McpToolConfigType } from '../type';
 import { i18nT } from '../../../../web/i18n/utils';
-import { RuntimeNodeItemType } from '../../workflow/runtime/type';
+import { type RuntimeNodeItemType } from '../../workflow/runtime/type';
 
 export const getMCPToolSetRuntimeNode = ({
   url,
@@ -16,7 +16,7 @@ export const getMCPToolSetRuntimeNode = ({
   avatar
 }: {
   url: string;
-  toolList: ToolType[];
+  toolList: McpToolConfigType[];
   name?: string;
   avatar?: string;
 }): RuntimeNodeItemType => {
@@ -45,7 +45,7 @@ export const getMCPToolRuntimeNode = ({
   url,
   avatar = 'core/app/type/mcpToolsFill'
 }: {
-  tool: ToolType;
+  tool: McpToolConfigType;
   url: string;
   avatar?: string;
 }): RuntimeNodeItemType => {
@@ -65,7 +65,7 @@ export const getMCPToolRuntimeNode = ({
       ...Object.entries(tool.inputSchema?.properties || {}).map(([key, value]) => ({
         key,
         label: key,
-        valueType: value.type as WorkflowIOValueTypeEnum,
+        valueType: value.type as WorkflowIOValueTypeEnum, // TODO: 这里需要做一个映射
         description: value.description,
         toolDescription: value.description || key,
         required: tool.inputSchema?.required?.includes(key) || false,

packages/global/core/app/plugin/utils.ts

@@ -1,5 +1,5 @@
-import { StoreNodeItemType } from '../../workflow/type/node';
-import { FlowNodeInputItemType } from '../../workflow/type/io';
+import { type StoreNodeItemType } from '../../workflow/type/node';
+import { type FlowNodeInputItemType } from '../../workflow/type/io';
 import { FlowNodeTypeEnum } from '../../workflow/node/constant';
 
 export const getPluginInputsFromStoreNodes = (nodes: StoreNodeItemType[]) => {

packages/global/core/app/type.d.ts

@@ -1,30 +1,20 @@
 import type { FlowNodeTemplateType, StoreNodeItemType } from '../workflow/type/node';
-import { AppTypeEnum } from './constants';
+import type { AppTypeEnum } from './constants';
 import { PermissionTypeEnum } from '../../support/permission/constant';
-import {
+import type {
   NodeInputKeyEnum,
   VariableInputEnum,
   WorkflowIOValueTypeEnum
 } from '../workflow/constants';
-import { SelectedDatasetType } from '../workflow/api';
-import { DatasetSearchModeEnum } from '../dataset/constants';
+import type { SelectedDatasetType } from '../workflow/api';
+import type { DatasetSearchModeEnum } from '../dataset/constants';
 import { TeamTagSchema as TeamTagsSchemaType } from '@fastgpt/global/support/user/team/type.d';
-import { StoreEdgeItemType } from '../workflow/type/edge';
-import { AppPermission } from '../../support/permission/app/controller';
-import { ParentIdType } from '../../common/parentFolder/type';
+import type { StoreEdgeItemType } from '../workflow/type/edge';
+import type { AppPermission } from '../../support/permission/app/controller';
+import type { ParentIdType } from '../../common/parentFolder/type';
 import { FlowNodeInputTypeEnum } from '../../core/workflow/node/constant';
-import { WorkflowTemplateBasicType } from '@fastgpt/global/core/workflow/type';
-import { SourceMemberType } from '../../support/user/type';
-
-export type ToolType = {
-  name: string;
-  description: string;
-  inputSchema: {
-    type: string;
-    properties?: Record<string, { type: string; description?: string }>;
-    required?: string[];
-  };
-};
+import type { WorkflowTemplateBasicType } from '@fastgpt/global/core/workflow/type';
+import type { SourceMemberType } from '../../support/user/type';
 
 export type AppSchema = {
   _id: string;
@@ -117,6 +107,16 @@ export type AppSimpleEditFormType = {
   chatConfig: AppChatConfigType;
 };
 
+export type McpToolConfigType = {
+  name: string;
+  description: string;
+  inputSchema: {
+    type: string;
+    properties?: Record<string, { type: string; description?: string }>;
+    required?: string[];
+  };
+};
+
 /* app chat config type */
 export type AppChatConfigType = {
   welcomeText?: string;

packages/global/core/app/utils.ts

@@ -3,12 +3,13 @@ import { FlowNodeTypeEnum } from '../workflow/node/constant';
 import { NodeInputKeyEnum, FlowNodeTemplateTypeEnum } from '../workflow/constants';
 import type { FlowNodeInputItemType } from '../workflow/type/io.d';
 import { getAppChatConfig } from '../workflow/utils';
-import { StoreNodeItemType } from '../workflow/type/node';
+import { type StoreNodeItemType } from '../workflow/type/node';
 import { DatasetSearchModeEnum } from '../dataset/constants';
-import { WorkflowTemplateBasicType } from '../workflow/type';
+import { type WorkflowTemplateBasicType } from '../workflow/type';
 import { AppTypeEnum } from './constants';
 import { AppErrEnum } from '../../common/error/code/app';
 import { PluginErrEnum } from '../../common/error/code/plugin';
+import { i18nT } from '../../../web/i18n/utils';
 
 export const getDefaultAppForm = (): AppSimpleEditFormType => {
   return {
@@ -26,7 +27,7 @@ export const getDefaultAppForm = (): AppSimpleEditFormType => {
       similarity: 0.4,
       limit: 3000,
       searchMode: DatasetSearchModeEnum.embedding,
-      usingReRank: false,
+      usingReRank: true,
       rerankModel: '',
       rerankWeight: 0.5,
       datasetSearchUsingExtensionQuery: true,
@@ -189,7 +190,7 @@ export const getAppType = (config?: WorkflowTemplateBasicType | AppSimpleEditFor
   return '';
 };
 
-export const checkAppUnExistError = (error?: string) => {
+export const formatToolError = (error?: string) => {
   const unExistError: Array<string> = [
     AppErrEnum.unAuthApp,
     AppErrEnum.unExist,
@@ -197,9 +198,9 @@ export const checkAppUnExistError = (error?: string) => {
     PluginErrEnum.unExist
   ];
 
-  if (!!error && unExistError.includes(error)) {
-    return error;
+  if (error && unExistError.includes(error)) {
+    return i18nT('app:un_auth');
   } else {
-    return undefined;
+    return error;
   }
 };

packages/global/core/app/version.d.ts

@@ -1,7 +1,8 @@
 import { TeamMemberStatusEnum } from 'support/user/team/constant';
 import { StoreEdgeItemType } from '../workflow/type/edge';
-import { AppChatConfigType, AppSchema } from './type';
-import { SourceMemberType } from 'support/user/type';
+import type { AppSchema } from './type';
+import { AppChatConfigType } from './type';
+import type { SourceMemberType } from 'support/user/type';
 
 export type AppVersionSchemaType = {
   _id: string;

packages/global/core/chat/api.d.ts

@@ -1,4 +1,4 @@
-import { OutLinkChatAuthProps } from '../../support/permission/chat';
+import type { OutLinkChatAuthProps } from '../../support/permission/chat';
 
 export type UpdateChatFeedbackProps = OutLinkChatAuthProps & {
   appId: string;

packages/global/core/chat/type.d.ts

@@ -1,22 +1,23 @@
 import { ClassifyQuestionAgentItemType } from '../workflow/template/system/classifyQuestion/type';
-import { SearchDataResponseItemType } from '../dataset/type';
-import {
+import type { SearchDataResponseItemType } from '../dataset/type';
+import type {
   ChatFileTypeEnum,
   ChatItemValueTypeEnum,
   ChatRoleEnum,
   ChatSourceEnum,
   ChatStatusEnum
 } from './constants';
-import { FlowNodeTypeEnum } from '../workflow/node/constant';
-import { NodeOutputKeyEnum } from '../workflow/constants';
-import { DispatchNodeResponseKeyEnum } from '../workflow/runtime/constants';
-import { AppChatConfigType, AppSchema, VariableItemType } from '../app/type';
+import type { FlowNodeTypeEnum } from '../workflow/node/constant';
+import type { NodeOutputKeyEnum } from '../workflow/constants';
+import type { DispatchNodeResponseKeyEnum } from '../workflow/runtime/constants';
+import type { AppSchema, VariableItemType } from '../app/type';
+import { AppChatConfigType } from '../app/type';
 import type { AppSchema as AppType } from '@fastgpt/global/core/app/type.d';
 import { DatasetSearchModeEnum } from '../dataset/constants';
-import { DispatchNodeResponseType } from '../workflow/runtime/type.d';
-import { ChatBoxInputType } from '../../../../projects/app/src/components/core/chat/ChatContainer/ChatBox/type';
-import { WorkflowInteractiveResponseType } from '../workflow/template/system/interactive/type';
-import { FlowNodeInputItemType } from '../workflow/type/io';
+import type { DispatchNodeResponseType } from '../workflow/runtime/type.d';
+import type { ChatBoxInputType } from '../../../../projects/app/src/components/core/chat/ChatContainer/ChatBox/type';
+import type { WorkflowInteractiveResponseType } from '../workflow/template/system/interactive/type';
+import type { FlowNodeInputItemType } from '../workflow/type/io';
 
 export type ChatSchema = {
   _id: string;
@@ -25,6 +26,7 @@ export type ChatSchema = {
   teamId: string;
   tmbId: string;
   appId: string;
+  createTime: Date;
   updateTime: Date;
   title: string;
   customTitle: string;
@@ -110,6 +112,8 @@ export type ChatItemSchema = (UserChatItemType | SystemChatItemType | AIChatItem
   tmbId: string;
   appId: string;
   time: Date;
+  durationSeconds?: number;
+  errorMsg?: string;
 };
 
 export type AdminFbkType = {
@@ -122,7 +126,6 @@ export type AdminFbkType = {
 
 /* --------- chat item ---------- */
 export type ResponseTagItemType = {
-  totalRunningTime?: number;
   totalQuoteList?: SearchDataResponseItemType[];
   llmModuleAccount?: number;
   historyPreviewLength?: number;
@@ -141,6 +144,8 @@ export type ChatSiteItemType = (UserChatItemType | SystemChatItemType | AIChatIt
   ttsBuffer?: Uint8Array;
   responseData?: ChatHistoryItemResType[];
   time?: Date;
+  durationSeconds?: number;
+  errorMsg?: string;
 } & ChatBoxInputType &
   ResponseTagItemType;
 

packages/global/core/chat/utils.ts

@@ -1,9 +1,15 @@
-import { DispatchNodeResponseType } from '../workflow/runtime/type';
+import { type DispatchNodeResponseType } from '../workflow/runtime/type';
 import { FlowNodeTypeEnum } from '../workflow/node/constant';
 import { ChatItemValueTypeEnum, ChatRoleEnum, ChatSourceEnum } from './constants';
-import { ChatHistoryItemResType, ChatItemType, UserChatItemValueItemType } from './type.d';
+import {
+  type AIChatItemValueItemType,
+  type ChatHistoryItemResType,
+  type ChatItemType,
+  type UserChatItemValueItemType
+} from './type.d';
 import { sliceStrStartEnd } from '../../common/string/tools';
 import { PublishChannelEnum } from '../../support/outLink/constant';
+import { removeDatasetCiteText } from '../../../service/core/ai/utils';
 
 // Concat 2 -> 1, and sort by role
 export const concatHistories = (histories1: ChatItemType[], histories2: ChatItemType[]) => {
@@ -77,13 +83,7 @@ export const getHistoryPreview = (
   });
 };
 
-export const filterModuleTypeList: any[] = [
-  FlowNodeTypeEnum.pluginModule,
-  FlowNodeTypeEnum.datasetSearchNode,
-  FlowNodeTypeEnum.tools,
-  FlowNodeTypeEnum.pluginOutput
-];
-
+// Filter workflow public response
 export const filterPublicNodeResponseData = ({
   flowResponses = [],
   responseDetail = false
@@ -91,12 +91,19 @@ export const filterPublicNodeResponseData = ({
   flowResponses?: ChatHistoryItemResType[];
   responseDetail?: boolean;
 }) => {
+  const publicNodeMap: Record<string, any> = {
+    [FlowNodeTypeEnum.pluginModule]: true,
+    [FlowNodeTypeEnum.datasetSearchNode]: true,
+    [FlowNodeTypeEnum.tools]: true,
+    [FlowNodeTypeEnum.pluginOutput]: true
+  };
+
   const filedList = responseDetail
     ? ['quoteList', 'moduleType', 'pluginOutput', 'runningTime']
     : ['moduleType', 'pluginOutput', 'runningTime'];
 
   return flowResponses
-    .filter((item) => filterModuleTypeList.includes(item.moduleType))
+    .filter((item) => publicNodeMap[item.moduleType])
     .map((item) => {
       const obj: DispatchNodeResponseType = {};
       for (let key in item) {
@@ -112,6 +119,40 @@ export const filterPublicNodeResponseData = ({
     });
 };
 
+// Remove dataset cite in ai response
+export const removeAIResponseCite = <T extends AIChatItemValueItemType[] | string>(
+  value: T,
+  retainCite: boolean
+): T => {
+  if (retainCite) return value;
+
+  if (typeof value === 'string') {
+    return removeDatasetCiteText(value, false) as T;
+  }
+
+  return value.map<AIChatItemValueItemType>((item) => {
+    if (item.text?.content) {
+      return {
+        ...item,
+        text: {
+          ...item.text,
+          content: removeDatasetCiteText(item.text.content, false)
+        }
+      };
+    }
+    if (item.reasoning?.content) {
+      return {
+        ...item,
+        reasoning: {
+          ...item.reasoning,
+          content: removeDatasetCiteText(item.reasoning.content, false)
+        }
+      };
+    }
+    return item;
+  }) as T;
+};
+
 export const removeEmptyUserInput = (input?: UserChatItemValueItemType[]) => {
   return (
     input?.filter((item) => {
@@ -185,7 +226,6 @@ export const mergeChatResponseData = (
           runningTime: +((lastResponse.runningTime || 0) + (curr.runningTime || 0)).toFixed(2),
           totalPoints: (lastResponse.totalPoints || 0) + (curr.totalPoints || 0),
           childTotalPoints: (lastResponse.childTotalPoints || 0) + (curr.childTotalPoints || 0),
-          toolCallTokens: (lastResponse.toolCallTokens || 0) + (curr.toolCallTokens || 0),
           toolDetail: [...(lastResponse.toolDetail || []), ...(curr.toolDetail || [])],
           loopDetail: [...(lastResponse.loopDetail || []), ...(curr.loopDetail || [])],
           pluginDetail: [...(lastResponse.pluginDetail || []), ...(curr.pluginDetail || [])]

packages/global/core/dataset/api.d.ts

@@ -1,12 +1,14 @@
-import { DatasetDataIndexItemType, DatasetSchemaType } from './type';
-import {
+import type { ChunkSettingsType, DatasetDataIndexItemType, DatasetSchemaType } from './type';
+import type {
   DatasetCollectionTypeEnum,
   DatasetCollectionDataProcessModeEnum,
   ChunkSettingModeEnum,
-  DataChunkSplitModeEnum
+  DataChunkSplitModeEnum,
+  ChunkTriggerConfigTypeEnum,
+  ParagraphChunkAIModeEnum
 } from './constants';
 import type { LLMModelItemType } from '../ai/model.d';
-import { ParentIdType } from 'common/parentFolder/type';
+import type { ParentIdType } from 'common/parentFolder/type';
 
 /* ================= dataset ===================== */
 export type DatasetUpdateBody = {
@@ -32,26 +34,16 @@ export type DatasetUpdateBody = {
 };
 
 /* ================= collection ===================== */
-export type DatasetCollectionChunkMetadataType = {
+// Input + store params
+type DatasetCollectionStoreDataType = ChunkSettingsType & {
   parentId?: string;
-  customPdfParse?: boolean;
-  trainingType?: DatasetCollectionDataProcessModeEnum;
-  imageIndex?: boolean;
-  autoIndexes?: boolean;
-
-  chunkSettingMode?: ChunkSettingModeEnum;
-  chunkSplitMode?: DataChunkSplitModeEnum;
-
-  chunkSize?: number;
-  indexSize?: number;
-
-  chunkSplitter?: string;
-  qaPrompt?: string;
   metadata?: Record<string, any>;
+
+  customPdfParse?: boolean;
 };
 
 // create collection params
-export type CreateDatasetCollectionParams = DatasetCollectionChunkMetadataType & {
+export type CreateDatasetCollectionParams = DatasetCollectionStoreDataType & {
   datasetId: string;
   name: string;
   type: DatasetCollectionTypeEnum;
@@ -72,7 +64,7 @@ export type CreateDatasetCollectionParams = DatasetCollectionChunkMetadataType &
   nextSyncTime?: Date;
 };
 
-export type ApiCreateDatasetCollectionParams = DatasetCollectionChunkMetadataType & {
+export type ApiCreateDatasetCollectionParams = DatasetCollectionStoreDataType & {
   datasetId: string;
   tags?: string[];
 };
@@ -90,7 +82,7 @@ export type ApiDatasetCreateDatasetCollectionParams = ApiCreateDatasetCollection
 export type FileIdCreateDatasetCollectionParams = ApiCreateDatasetCollectionParams & {
   fileId: string;
 };
-export type reTrainingDatasetFileCollectionParams = DatasetCollectionChunkMetadataType & {
+export type reTrainingDatasetFileCollectionParams = DatasetCollectionStoreDataType & {
   datasetId: string;
   collectionId: string;
 };
@@ -147,6 +139,7 @@ export type PushDatasetDataProps = {
   collectionId: string;
   data: PushDatasetDataChunkProps[];
   trainingType?: DatasetCollectionDataProcessModeEnum;
+  indexSize?: number;
   autoIndexes?: boolean;
   imageIndex?: boolean;
   prompt?: string;

packages/global/core/dataset/apiDataset.d.ts

@@ -1,8 +1,9 @@
 import { RequireOnlyOne } from '../../common/type/utils';
+import type { ParentIdType } from '../../common/parentFolder/type.d';
 
 export type APIFileItem = {
   id: string;
-  parentId: string | null;
+  parentId: ParentIdType;
   name: string;
   type: 'file' | 'folder';
   updateTime: Date;
@@ -10,10 +11,24 @@ export type APIFileItem = {
   hasChild?: boolean;
 };
 
+// Api dataset config
 export type APIFileServer = {
   baseUrl: string;
-  authorization: string;
+  authorization?: string;
+  basePath?: string;
 };
+export type FeishuServer = {
+  appId: string;
+  appSecret?: string;
+  folderToken: string;
+};
+export type YuqueServer = {
+  userId: string;
+  token?: string;
+  basePath?: string;
+};
+
+// Api dataset api
 
 export type APIFileListResponse = APIFileItem[];
 
@@ -26,13 +41,8 @@ export type APIFileReadResponse = {
   url: string;
 };
 
-export type FeishuServer = {
-  appId: string;
-  appSecret: string;
-  folderToken: string;
-};
-
-export type YuqueServer = {
-  userId: string;
-  token: string;
+export type ApiDatasetDetailResponse = {
+  id: string;
+  name: string;
+  parentId: ParentIdType;
 };

packages/global/core/dataset/collaborator.d.ts

@@ -1,6 +1,6 @@
-import { UpdateClbPermissionProps } from '../../support/permission/collaborator';
+import type { UpdateClbPermissionProps } from '../../support/permission/collaborator';
 import { PermissionValueType } from '../../support/permission/type';
-import { RequireOnlyOne } from '../../common/type/utils';
+import type { RequireOnlyOne } from '../../common/type/utils';
 
 export type UpdateDatasetCollaboratorBody = UpdateClbPermissionProps & {
   datasetId: string;

packages/global/core/dataset/collection/utils.ts

@@ -1,5 +1,5 @@
 import { DatasetCollectionTypeEnum } from '../constants';
-import { DatasetCollectionSchemaType } from '../type';
+import { type DatasetCollectionSchemaType } from '../type';
 
 export const getCollectionSourceData = (collection?: DatasetCollectionSchemaType) => {
   return {

packages/global/core/dataset/constants.ts

@@ -19,32 +19,32 @@ export const DatasetTypeMap = {
   [DatasetTypeEnum.dataset]: {
     icon: 'core/dataset/commonDatasetOutline',
     label: i18nT('dataset:common_dataset'),
-    collectionLabel: i18nT('common:common.File')
+    collectionLabel: i18nT('common:File')
   },
   [DatasetTypeEnum.websiteDataset]: {
     icon: 'core/dataset/websiteDatasetOutline',
     label: i18nT('dataset:website_dataset'),
-    collectionLabel: i18nT('common:common.Website')
+    collectionLabel: i18nT('common:Website')
   },
   [DatasetTypeEnum.externalFile]: {
     icon: 'core/dataset/externalDatasetOutline',
     label: i18nT('dataset:external_file'),
-    collectionLabel: i18nT('common:common.File')
+    collectionLabel: i18nT('common:File')
   },
   [DatasetTypeEnum.apiDataset]: {
     icon: 'core/dataset/externalDatasetOutline',
     label: i18nT('dataset:api_file'),
-    collectionLabel: i18nT('common:common.File')
+    collectionLabel: i18nT('common:File')
   },
   [DatasetTypeEnum.feishu]: {
     icon: 'core/dataset/feishuDatasetOutline',
     label: i18nT('dataset:feishu_dataset'),
-    collectionLabel: i18nT('common:common.File')
+    collectionLabel: i18nT('common:File')
   },
   [DatasetTypeEnum.yuque]: {
     icon: 'core/dataset/yuqueDatasetOutline',
     label: i18nT('dataset:yuque_dataset'),
-    collectionLabel: i18nT('common:common.File')
+    collectionLabel: i18nT('common:File')
   }
 };
 
@@ -120,6 +120,8 @@ export const DatasetCollectionSyncResultMap = {
 export enum DatasetCollectionDataProcessModeEnum {
   chunk = 'chunk',
   qa = 'qa',
+  backup = 'backup',
+
   auto = 'auto' // abandon
 }
 export const DatasetCollectionDataProcessModeMap = {
@@ -131,21 +133,35 @@ export const DatasetCollectionDataProcessModeMap = {
     label: i18nT('common:core.dataset.training.QA mode'),
     tooltip: i18nT('common:core.dataset.import.QA Import Tip')
   },
+  [DatasetCollectionDataProcessModeEnum.backup]: {
+    label: i18nT('dataset:backup_mode'),
+    tooltip: i18nT('dataset:backup_mode')
+  },
   [DatasetCollectionDataProcessModeEnum.auto]: {
     label: i18nT('common:core.dataset.training.Auto mode'),
     tooltip: i18nT('common:core.dataset.training.Auto mode Tip')
   }
 };
 
+export enum ChunkTriggerConfigTypeEnum {
+  minSize = 'minSize',
+  forceChunk = 'forceChunk',
+  maxSize = 'maxSize'
+}
 export enum ChunkSettingModeEnum {
   auto = 'auto',
   custom = 'custom'
 }
 
 export enum DataChunkSplitModeEnum {
+  paragraph = 'paragraph',
   size = 'size',
   char = 'char'
 }
+export enum ParagraphChunkAIModeEnum {
+  auto = 'auto',
+  force = 'force'
+}
 
 /* ------------ data -------------- */
 
@@ -154,7 +170,6 @@ export enum ImportDataSourceEnum {
   fileLocal = 'fileLocal',
   fileLink = 'fileLink',
   fileCustom = 'fileCustom',
-  csvTable = 'csvTable',
   externalFile = 'externalFile',
   apiDataset = 'apiDataset',
   reTraining = 'reTraining'

packages/global/core/dataset/data/constants.ts

@@ -32,7 +32,7 @@ export const DatasetDataIndexMap: Record<
     color: 'red'
   },
   [DatasetDataIndexTypeEnum.image]: {
-    label: i18nT('common:data_index_image'),
+    label: i18nT('dataset:data_index_image'),
     color: 'purple'
   }
 };

packages/global/core/dataset/search/utils.ts

@@ -1,5 +1,5 @@
 import { SearchScoreTypeEnum } from '../constants';
-import { SearchDataResponseItemType } from '../type';
+import { type SearchDataResponseItemType } from '../type';
 
 /* dataset search result concat */
 export const datasetSearchResultConcat = (

packages/global/core/dataset/training/type.d.ts

@@ -1,5 +1,5 @@
-import { PushDatasetDataChunkProps } from '../api';
-import { TrainingModeEnum } from '../constants';
+import type { PushDatasetDataChunkProps } from '../api';
+import type { TrainingModeEnum } from '../constants';
 
 export type PushDataToTrainingQueueProps = {
   teamId: string;

packages/global/core/dataset/training/utils.ts

@@ -1,4 +1,4 @@
-import { EmbeddingModelItemType, LLMModelItemType } from '../../../core/ai/model.d';
+import { type EmbeddingModelItemType, type LLMModelItemType } from '../../../core/ai/model.d';
 import {
   ChunkSettingModeEnum,
   DataChunkSplitModeEnum,
@@ -8,7 +8,7 @@ import {
 export const minChunkSize = 64; // min index and chunk size
 
 // Chunk size
-export const chunkAutoChunkSize = 1500;
+export const chunkAutoChunkSize = 1000;
 export const getMaxChunkSize = (model: LLMModelItemType) => {
   return Math.max(model.maxContext - model.maxResponse, 2000);
 };
@@ -118,7 +118,7 @@ export const computeChunkSize = (params: {
     return getLLMMaxChunkSize(params.llmModel);
   }
 
-  return Math.min(params.chunkSize || chunkAutoChunkSize, getLLMMaxChunkSize(params.llmModel));
+  return Math.min(params.chunkSize ?? chunkAutoChunkSize, getLLMMaxChunkSize(params.llmModel));
 };
 
 export const computeChunkSplitter = (params: {

packages/global/core/dataset/type.d.ts

@@ -1,33 +1,49 @@
 import type { LLMModelItemType, EmbeddingModelItemType } from '../../core/ai/model.d';
 import { PermissionTypeEnum } from '../../support/permission/constant';
 import { PushDatasetDataChunkProps } from './api';
-import {
+import type {
   DataChunkSplitModeEnum,
   DatasetCollectionDataProcessModeEnum,
   DatasetCollectionTypeEnum,
   DatasetStatusEnum,
   DatasetTypeEnum,
   SearchScoreTypeEnum,
-  TrainingModeEnum
+  TrainingModeEnum,
+  ChunkSettingModeEnum
 } from './constants';
-import { DatasetPermission } from '../../support/permission/dataset/controller';
-import { Permission } from '../../support/permission/controller';
-import { APIFileServer, FeishuServer, YuqueServer } from './apiDataset';
-import { SourceMemberType } from 'support/user/type';
-import { DatasetDataIndexTypeEnum } from './data/constants';
-import { ChunkSettingModeEnum } from './constants';
+import type { DatasetPermission } from '../../support/permission/dataset/controller';
+import type { APIFileServer, FeishuServer, YuqueServer } from './apiDataset';
+import type { SourceMemberType } from 'support/user/type';
+import type { DatasetDataIndexTypeEnum } from './data/constants';
 
 export type ChunkSettingsType = {
-  trainingType: DatasetCollectionDataProcessModeEnum;
-  autoIndexes?: boolean;
+  trainingType?: DatasetCollectionDataProcessModeEnum;
+
+  // Chunk trigger
+  chunkTriggerType?: ChunkTriggerConfigTypeEnum;
+  chunkTriggerMinSize?: number; // maxSize from agent model, not store
+
+  // Data enhance
+  dataEnhanceCollectionName?: boolean; // Auto add collection name to data
+
+  // Index enhance
   imageIndex?: boolean;
+  autoIndexes?: boolean;
 
-  chunkSettingMode?: ChunkSettingModeEnum;
+  // Chunk setting
+  chunkSettingMode?: ChunkSettingModeEnum; // 系统参数/自定义参数
   chunkSplitMode?: DataChunkSplitModeEnum;
-
+  // Paragraph split
+  paragraphChunkAIMode?: ParagraphChunkAIModeEnum;
+  paragraphChunkDeep?: number; // Paragraph deep
+  paragraphChunkMinSize?: number; // Paragraph min size, if too small, it will merge
+  paragraphChunkMaxSize?: number; // Paragraph max size, if too large, it will split
+  // Size split
   chunkSize?: number;
-  indexSize?: number;
+  // Char split
   chunkSplitter?: string;
+  indexSize?: number;
+
   qaPrompt?: string;
 };
 
@@ -66,7 +82,7 @@ export type DatasetSchemaType = {
   defaultPermission?: number;
 };
 
-export type DatasetCollectionSchemaType = {
+export type DatasetCollectionSchemaType = ChunkSettingsType & {
   _id: string;
   teamId: string;
   tmbId: string;
@@ -101,18 +117,7 @@ export type DatasetCollectionSchemaType = {
 
   // Parse settings
   customPdfParse?: boolean;
-  // Chunk settings
-  autoIndexes?: boolean;
-  imageIndex?: boolean;
   trainingType: DatasetCollectionDataProcessModeEnum;
-
-  chunkSettingMode?: ChunkSettingModeEnum;
-  chunkSplitMode?: DataChunkSplitModeEnum;
-
-  chunkSize?: number;
-  indexSize?: number;
-  chunkSplitter?: string;
-  qaPrompt?: string;
 };
 
 export type DatasetCollectionTagsSchemaType = {
@@ -175,6 +180,7 @@ export type DatasetTrainingSchemaType = {
   q: string;
   a: string;
   chunkIndex: number;
+  indexSize?: number;
   weight: number;
   indexes: Omit<DatasetDataIndexItemType, 'dataId'>[];
   retryCount: number;

packages/global/core/plugin/controller.d.ts

@@ -1,6 +1,6 @@
-import { StoreEdgeItemType } from 'core/workflow/type/edge';
+import type { StoreEdgeItemType } from 'core/workflow/type/edge';
 import type { StoreNodeItemType } from '../workflow/type/node';
-import { PluginTypeEnum } from './constants';
+import type { PluginTypeEnum } from './constants';
 import { HttpAuthMethodType } from '../app/httpPlugin/type';
 
 export type CreateOnePluginParams = {

packages/global/core/plugin/type.d.ts

@@ -1,9 +1,9 @@
-import { StoreEdgeItemType } from 'core/workflow/type/edge';
+import type { StoreEdgeItemType } from 'core/workflow/type/edge';
 import { ModuleTemplateTypeEnum } from '../workflow/constants';
 import type { StoreNodeItemType } from '../workflow/type/node';
-import { PluginSourceEnum, PluginTypeEnum } from './constants';
+import type { PluginSourceEnum, PluginTypeEnum } from './constants';
 import { MethodType } from './controller';
-import { FlowNodeTemplateType } from '../workflow/type/node';
+import type { FlowNodeTemplateType } from '../workflow/type/node';
 
 export type PluginItemSchema = {
   _id: string;

packages/global/core/workflow/api.d.ts

@@ -1,4 +1,4 @@
-import { EmbeddingModelItemType } from '../ai/model.d';
+import type { EmbeddingModelItemType } from '../ai/model.d';
 import { NodeInputKeyEnum } from './constants';
 
 export type SelectedDatasetType = {

packages/global/core/workflow/node/constant.ts

@@ -218,7 +218,6 @@ export const FlowValueTypeMap: Record<
 };
 
 export const EDGE_TYPE = 'default';
-export const defaultNodeVersion = '481';
 
 export const chatHistoryValueDesc = `{
   obj: System | Human | AI;
@@ -236,3 +235,10 @@ export const datasetQuoteValueDesc = `{
 export const datasetSelectValueDesc = `{
   datasetId: string;
 }[]`;
+
+export const AppNodeFlowNodeTypeMap: Record<any, boolean> = {
+  [FlowNodeTypeEnum.pluginModule]: true,
+  [FlowNodeTypeEnum.appModule]: true,
+  [FlowNodeTypeEnum.tool]: true,
+  [FlowNodeTypeEnum.toolSet]: true
+};

packages/global/core/workflow/node/io/utils.ts

@@ -1,4 +1,4 @@
-import { FlowNodeInputItemType } from '../../type/io';
+import { type FlowNodeInputItemType } from '../../type/io';
 
 export const getInputComponentProps = (input: FlowNodeInputItemType) => {
   return {

packages/global/core/workflow/runtime/constants.ts

@@ -2,6 +2,7 @@ import { FlowNodeInputTypeEnum } from '../node/constant';
 
 export enum SseResponseEventEnum {
   error = 'error',
+  workflowDuration = 'workflowDuration', // workflow duration
   answer = 'answer', // animation stream
   fastAnswer = 'fastAnswer', // direct answer text, not animation
   flowNodeStatus = 'flowNodeStatus', // update node status

packages/global/core/workflow/runtime/type.d.ts

@@ -1,29 +1,32 @@
-import { ChatNodeUsageType } from '../../../support/wallet/bill/type';
-import {
+import type { ChatNodeUsageType } from '../../../support/wallet/bill/type';
+import type {
   ChatItemType,
   UserChatItemValueItemType,
   ToolRunResponseItemType,
-  NodeOutputItemType,
   AIChatItemValueItemType
 } from '../../chat/type';
-import { FlowNodeInputItemType, FlowNodeOutputItemType } from '../type/io.d';
-import { StoreNodeItemType } from '../type/node';
-import { DispatchNodeResponseKeyEnum } from './constants';
-import { StoreEdgeItemType } from '../type/edge';
-import { NodeInputKeyEnum } from '../constants';
-import { ClassifyQuestionAgentItemType } from '../template/system/classifyQuestion/type';
-import { NextApiResponse } from 'next';
+import { NodeOutputItemType } from '../../chat/type';
+import type { FlowNodeInputItemType, FlowNodeOutputItemType } from '../type/io.d';
+import type { NodeToolConfigType, StoreNodeItemType } from '../type/node';
+import type { DispatchNodeResponseKeyEnum } from './constants';
+import type { StoreEdgeItemType } from '../type/edge';
+import type { NodeInputKeyEnum } from '../constants';
+import type { ClassifyQuestionAgentItemType } from '../template/system/classifyQuestion/type';
+import type { NextApiResponse } from 'next';
 import { UserModelSchema } from '../../../support/user/type';
-import { AppDetailType, AppSchema } from '../../app/type';
-import { RuntimeNodeItemType } from '../runtime/type';
-import { RuntimeEdgeItemType } from './edge';
-import { ReadFileNodeResponse } from '../template/system/readFiles/type';
+import type { AppSchema } from '../../app/type';
+import { AppDetailType } from '../../app/type';
+import type { RuntimeNodeItemType } from '../runtime/type';
+import type { RuntimeEdgeItemType } from './edge';
+import type { ReadFileNodeResponse } from '../template/system/readFiles/type';
 import { UserSelectOptionType } from '../template/system/userSelect/type';
-import { WorkflowResponseType } from '../../../../service/core/workflow/dispatch/type';
-import { AiChatQuoteRoleType } from '../template/system/aiChat/type';
-import { LafAccountType, OpenaiAccountType } from '../../../support/user/team/type';
-import { CompletionFinishReason } from '../../ai/type';
-import { WorkflowInteractiveResponseType } from '../template/system/interactive/type';
+import type { WorkflowResponseType } from '../../../../service/core/workflow/dispatch/type';
+import type { AiChatQuoteRoleType } from '../template/system/aiChat/type';
+import type { OpenaiAccountType } from '../../../support/user/team/type';
+import { LafAccountType } from '../../../support/user/team/type';
+import type { CompletionFinishReason } from '../../ai/type';
+import type { WorkflowInteractiveResponseType } from '../template/system/interactive/type';
+import type { SearchDataResponseItemType } from '../../dataset/type';
 export type ExternalProviderType = {
   openaiAccount?: OpenaiAccountType;
   externalWorkflowVariables?: Record<string, string>;
@@ -57,11 +60,14 @@ export type ChatDispatchProps = {
   chatConfig: AppSchema['chatConfig'];
   lastInteractive?: WorkflowInteractiveResponseType; // last interactive response
   stream: boolean;
+  retainDatasetCite?: boolean;
   maxRunTimes: number;
   isToolCall?: boolean;
   workflowStreamResponse?: WorkflowResponseType;
   workflowDispatchDeep?: number;
   version?: 'v1' | 'v2';
+
+  responseAllData?: boolean;
   responseDetail?: boolean;
 };
 
@@ -95,7 +101,10 @@ export type RuntimeNodeItemType = {
   outputs: FlowNodeOutputItemType[];
 
   pluginId?: string; // workflow id / plugin id
-  version: string;
+  version?: string;
+
+  // tool
+  toolConfig?: NodeToolConfigType;
 };
 
 export type RuntimeEdgeItemType = StoreEdgeItemType & {
@@ -108,7 +117,7 @@ export type DispatchNodeResponseType = {
   runningTime?: number;
   query?: string;
   textOutput?: string;
-  error?: Record<string, any>;
+  error?: Record<string, any> | string;
   customInputs?: Record<string, any>;
   customOutputs?: Record<string, any>;
   nodeInputs?: Record<string, any>;
@@ -136,12 +145,15 @@ export type DispatchNodeResponseType = {
   finishReason?: CompletionFinishReason;
 
   // dataset search
+  embeddingModel?: string;
+  embeddingTokens?: number;
   similarity?: number;
   limit?: number;
   searchMode?: `${DatasetSearchModeEnum}`;
   embeddingWeight?: number;
   rerankModel?: string;
   rerankWeight?: number;
+  reRankInputTokens?: number;
   searchUsingReRank?: boolean;
   queryExtensionResult?: {
     model: string;
@@ -180,7 +192,6 @@ export type DispatchNodeResponseType = {
   ifElseResult?: string;
 
   // tool
-  toolCallTokens?: number;
   toolCallInputTokens?: number;
   toolCallOutputTokens?: number;
   toolDetail?: ChatHistoryItemResType[];

packages/global/core/workflow/runtime/utils.ts

@@ -1,19 +1,19 @@
 import { ChatCompletionRequestMessageRoleEnum } from '../../ai/constants';
 import { NodeInputKeyEnum, NodeOutputKeyEnum, WorkflowIOValueTypeEnum } from '../constants';
 import { FlowNodeTypeEnum } from '../node/constant';
-import { StoreNodeItemType } from '../type/node';
-import { StoreEdgeItemType } from '../type/edge';
-import { RuntimeEdgeItemType, RuntimeNodeItemType } from './type';
+import { type StoreNodeItemType } from '../type/node';
+import { type StoreEdgeItemType } from '../type/edge';
+import { type RuntimeEdgeItemType, type RuntimeNodeItemType } from './type';
 import { VARIABLE_NODE_ID } from '../constants';
 import { isValidReferenceValueFormat } from '../utils';
-import { FlowNodeOutputItemType, ReferenceValueType } from '../type/io';
-import { ChatItemType, NodeOutputItemType } from '../../../core/chat/type';
+import { type FlowNodeOutputItemType, type ReferenceValueType } from '../type/io';
+import { type ChatItemType, type NodeOutputItemType } from '../../../core/chat/type';
 import { ChatItemValueTypeEnum, ChatRoleEnum } from '../../../core/chat/constants';
 import { replaceVariable, valToStr } from '../../../common/string/tools';
 import json5 from 'json5';
 import {
-  InteractiveNodeResponseType,
-  WorkflowInteractiveResponseType
+  type InteractiveNodeResponseType,
+  type WorkflowInteractiveResponseType
 } from '../template/system/interactive/type';
 
 export const extractDeepestInteractive = (