Byung-Gon Chun
Byung-Gon Chun
We can extend Nimble to relax the above requirements: handling CPU operations and dynamic shapes. However, these extensions are not part of the open-sourced Nimble.
@nhne Did you test this code on a YARN cluster? If not, please do so.
I think it's better to refactor the tests in this PR.
Any update on this PR?
@NaCloudAI FriendliAI PeriFlow (friendli.ai/try-periflow) supports AWQ-ed model inference serving natively. Here is a blog. https://friendli.ai/blog/activation-aware-weight-quantization-periflow/
처음에 10-30초 정도 어떤 서비스인지 설명을 하는 것이 들어가고 그 후에는 데모를 녹화하면 됩니다. 모든 부분에 말로 설명하거나 자막으로 설명해야 합니다. 총 영상 길이는 4분 정도로 맞추어 주세요.
나와 조교들이 모든 팀의 영상을 미리 다 보고 포스터 세션에 참석합니다.
포스터 예제를 올렸습니다. 꼭 이렇게 해야 하는 것은 아니지만 필요한 요소들을 다 넣어 주세요. 좀 떨어져서도 잘 보여야 합니다. 첫 번째 포스터에서 알고리듬 부분은 pseudo code 형태로 더 이해하기 쉽게...
교내 분들 뿐만이 아니라 외부 분들도 포스터 세션에 초대합니다.
외부 기업 분들도 포스터 세션에 오십니다. 관심이 많으신 것 같아요. :)