FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

marker-pdf如何使用use-llm

Open warlockedward opened this issue 10 months ago • 1 comments

例行检查

  • [ ] 我已确认目前没有类似 issue
  • [ ] 我已完整查看过项目 README,以及项目文档
  • [ ] 我使用了自己的 key,并确认我的 key 是可正常使用的
  • [ ] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

你的版本

  • [ ] 公有云版本
  • [ ] 私有部署版本, 具体版本号:

问题描述, 日志截图,配置文件等 如何在新的marker-pdf V2版本中启用use-llm参数,看了docker内的代码,发现有加载llm.service,我是否可以理解为可以使用ues-llm的功能,我尝试着在docker中传递参数,但发现失败,我的docker命令如下: docker run
--gpus "device=4"
-itd
-p 7232:7232
--name model_pdf_v2
-e PROCESSES_PER_GPU="2"
crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/marker11/marker_images:v0.2
--openai_api_key="xxxxxxxxxx"
--openai_model="xxxxxxxxxxx"
--openai_base_url="http://xxxxxxxxxxxxxx/v1"
--llm_service=marker.services.openai.OpenAIService

使用openai api的use-llm是因为我将容器中的marker-pdf的版本升级至1.6.2

复现步骤

预期结果

相关截图

warlockedward avatar Mar 28 '25 06:03 warlockedward

已经知道如何处理了,在config={}添加参数即可

warlockedward avatar Mar 31 '25 02:03 warlockedward