HSIAO KUO WEI

[本地部署]: 本地無法部署原始<meta-llama/Llama-2-7b-chat-hf>模型

2

### 是否已存在现有反馈与解答？ - [X] 我确认没有已有issue或discussion，且已阅读**常见问题**。 ### 是否是一个代理配置相关的疑问？ - [X] 我确认这不是一个代理配置相关的疑问。 ### 错误描述 无法使用原版模型本地部署。我看了一下代码，好像只有提供量化版llama2的部署，不知道作者是否有空为这部分撰写部署代码，方便其他使用者可以部署非量化原始版llama2和微调中文版的llama2。 ### 复现操作 因为models/models/LLaMA.py里的代码是提供gguf版模型的运行使用，所以无法原始版模型使用。 我查看了QWEN和chatglm的HF仓库文件发现跟差不多，所以我尝试先把模型下载到本地，然后通过models/models/ChatGLM.py或者models /models/Qwen.py加载使用，但是报了一个错误

[ollama] - <title>能不能讓官方ollama支援使用這個模型啊，不然一直看得到用不到

2

### 起始日期 | Start Date _No response_ ### 实现PR | Implementation PR _No response_ ### 相关Issues | Reference Issues _No response_ ### 摘要 | Summary 我真是求求了，讓官方ollama支援這個使用這個模型  ### 基本示例 |...

輸出的表格怎麽是latex，如何指定為md格式

1

### Description of the bug | 错误描述 \begin{tabular}{|c|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|@{}c@{}|}\hline \multicolumn{2}{|c|}{} & \thead{Hsin-Chu} & \thead{Chu-Nan} & \thead{Chu-Nan} & \thead{Chu-Nan} & \thead{Chu-Nan} & \thead{Tong-Luo} & \thead{Tong-Luo} & \thead{Suzcho} & \thead{Suzhou} & \thead{Suzhou}\\\multicolumn{2}{|c|}{} &...

[Bug] 無法在windows上部署 Phi-3.5-vision-instruct

4

### Checklist - [X] 1. I have searched related issues but cannot get the expected help. - [X] 2. The bug has not been fixed in the latest version. -...