lizhao-8202
lizhao-8202
> ### Reminder > * [x] I have read the README and searched the existing issues. > > ### Reproduction > ## 1. 训练参数 > ```shell > CUDA_VISIBLE_DEVICES=0 python src/train_bash.py...
参照视频，包括换了个之前版本的LLaMA-Factory一样的（0.63）。 会不会和一些框架版本有关。我本机python相关组件版本如下： accelerate 0.29.3 datasets 2.19.0 einops 0.8.0 fastapi 0.110.2 fire 0.6.0 gradio 4.27.0 gradio_client 0.15.1 matplotlib 3.8.4 matplotlib-inline 0.1.7 packaging 24.0 peft 0.10.0 protobuf 5.26.1 pydantic 2.7.1 pydantic_core 2.18.2...
**_这问题应该是下载的模型问题。重新下载了模型，进行了微调，问答内容倒是能理解，但是和微调里准备的数据集不一样。是我准备的数据集格式问题吗_**？我数据集格式就是如下格式的 ``` { "instruction": "给出一个机器学习算法的例子，并解释它是如何工作的。", "input": "", "output": "一个流行的机器学习算法的例子是支持向量机（SVM）。它是一个用于分类和回归任务的监督学习算法。它通过在n维空间中绘制数据点，由空间中的决策边界或超平面进行分离。该算 法使用最大边距，这些边距尽可能远离两类数据点。这些边距有助于创建最优的决策超平面。然后，算法通过考虑分类任务中发生的错误来调整决策超平面，并相应地修改超平面。\n\n最终，支持向 量机可以使用最优的决策超平面执行分类任务，预测数据点的类别。" } ``` 在data/dataset_info.json中我新增的数据集里，定义的列为 ``` { "train": { "file_name": "train.json", "columns": { "prompt": "instruction", "query": "input", "response": "output" }} }...
解析巨慢的问题，调整了下es的参数，得到数10倍提升，批量解析不受影响。具体修改的参数如下（可以试下，根据实际情况调整）： - bootstrap.memory_lock=true #从false改为了true,锁定内存避免使用到磁盘 - "ES_JAVA_OPTS=-Xms3556m -Xmx3556m" - indices.memory.index_buffer_size=35% - thread_pool.search.size=16 #根据CPU调整 - thread_pool.search.queue_size=1000 - action.destructive_requires_name=false#允许删除索引时不提供索引名（仅在测试环境中使用，生产环境不建议）
启动的时候，加了DEFAULT_AGENT_CONFIG='provider=ollama;model=deepseek-r1:14b' ,ENABLED_OLLAMA=1和OLLAMA_PROXY_URL=http://ollama服务IP:端口。存在2个问题。 1、chat时还是需要输入key 2、查看会话管理里，ollama服务地址是http://127.0.0.1:11434，非我用OLLAMA_PROXY_URL设置的环境变量值。 另：为了避免干扰。我想默认就把在会话页的模型选择只留下我参数设置的模型，是不是也有参数设置
> Do you use re-rank model here? Not useing re-rank model
For example:  
For example:  
> For now, only PDF is supported for previewing. There be support for other document formats in the future