EnableAsync comments

Results 6 comments of


                                            EnableAsync

slot auto split, solve the problem of too many preset slots

整体思路： 1. 修改 maxSlotNum 变量 2. 重新调用 SlotsRebalance 方法更新 slots（当前测试存在问题，需要对 SlotsRebalance debug）具体思路： 1. 修改 model.initSlotNum 的类型为 sync.Mutex 2. 修改 SetMaxSlotNum 方法 3. 在 Dashboard 中添加 SetMaxSlotNum(num int) 方法允许设置 maxSlotNum...

[Course Certification Task] final exam for Cloud Native Edge Computing Course

Hello, Thank you for your public course. I have learned a lot about kubeedge from it. And I have implemented an AI model training in the cloud and distributed the...

【GLCC】AI 缓存 Wasm 插件对接更多向量数据库/向量存储、搜索组件

请分配给我这个任务

Issue about preparing checkpoint.

Hello, I also encountered the same problem, and it was solved after modifying the `max_shard_size` parameter to `10GB`.

AI 代理 Wasm 插件对接 Mistral

请分配给我这个任务

前端输出吐字慢

React 前端存在重复请求的问题，即询问一次会发送多个 solve 请求，导致前端吐字很慢，实测 Streamlit 前端没有这个问题。