PaddleVL 的pipline 如何并发？？

[dhhcj1]

VL模型肯定是可以的因为就是VLLM部署的，但是pipline的几个前置模型(版面分析，方向分类)如何设置并发呀？

ORIENTATION_MODEL_DIR = "/home/search/houchangjian/cephfs-houchangjian/deploy/paddlemodels/docoriantion"
LAYOUT_MODEL_DIR = "/home/search/houchangjian/cephfs-houchangjian/deploy/paddlemodels/layout"

pipeline = PaddleOCRVL(
vl_rec_backend="vllm-server",
vl_rec_server_url="http://10.192.125.135:8120/v1",
layout_detection_model_name='PP-DocLayoutV2',
layout_detection_model_dir=LAYOUT_MODEL_DIR,
doc_orientation_classify_model_name="PP-LCNet_x1_0_doc_ori",
doc_orientation_classify_model_dir=ORIENTATION_MODEL_DIR,
use_layout_detection=True,
use_doc_orientation_classify=True,
use_doc_unwarping=False, # 👈 关键！显式关闭
vl_rec_max_concurrency = 50
)

[naqinnnn]

你好，版式分析是否有并发方案了呢？

[dhhcj1]

k8s 部署一个然后增加实例，增加100个就能并发数到100了

…

---原始邮件--- 发件人: ***@***.***> 发送时间: 2026年2月4日(周三) 晚上8:47 收件人: ***@***.***>; 抄送: ***@***.******@***.***>; 主题: Re: [PaddlePaddle/PaddleOCR] PaddleVL 的pipline 如何并发？？ (Discussion #17502) 你好，版式分析是否有并发方案了呢？ — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: ***@***.***>