opencompass icon indicating copy to clipboard operation
opencompass copied to clipboard

[Feature] 如何在needlebench 中使用api model?

Open 1518630367 opened this issue 1 year ago • 2 comments

Describe the feature

如何再needlebench 中使用api model,api example中的用法用不了

Will you implement it?

  • [ ] I would like to implement this feature and create a PR!

1518630367 avatar May 28 '24 03:05 1518630367

您好 @1518630367 ,

感谢您的提问。关于在 needlebench 中使用 API 模型的问题,需要说明,模型的配置和数据集的配置是相互独立的。所以不论使用哪个数据集(例如 needlebench),都可以引入 API 模型进行评测。例如configs/api_examples/eval_api_zhipu_v2.py是针对智谱API的测试config,您可以作为参考。

如果您在使用某些 API 示例时遇到问题,麻烦您能否提供更详细的问题描述或错误信息,这样我们才能更有针对性地帮助您解决问题。

谢谢!

Mor-Li avatar May 28 '24 10:05 Mor-Li

具体怎么用,能给个例子么

Diligentfight avatar Jun 13 '24 08:06 Diligentfight