Jerry Liu

…lama-linux-arm64 instead of ollama-linux-amd64 For manual installation, there was only one download command for both Intel x86 and ARM CPU architecture. The executable ollama-linux-amd64 wouldn't work on ARM CPU. Testing...

The original program printed both the input document and its summary. The input document is very long and its summary hides at the end. It really costed me some time...

### What is the issue? My chatbot is built with Ollama/tinyllama, langchain and streamlit. llm = ChatOllama(temperature=0, model="tinyllama") prompt : 帮我写一篇介绍大连的作文 Response: 大连是一个潇湘江岸的城市，位于中国北部地区。该城市有近四百年的历史，从古至今都是一个重要的经济和文化交流中心。大连是一座飞速发展的城市，在1950年以来，城市生活水平提高了十分之八，各种财富项目都在进行，并且已经成为国内外投资中心。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。 大连是一个综合性的城市，其中包括商业、科技、文化、教育、医疗、服务等多方面。在这些方面，大连已经成为国内外重要的产业和财富集中点，并且是一个潇湘江岸的重要经济基地。...

https://python.langchain.com/docs/get_started/quickstart 4 LLMs are mentioned esp. ollama, which is very easy to set up. You don't have to have a key to run your code like openAI.

In streamlit_app.py, typewriter effect is simulated by the following code. response = generate_llama2_response(prompt) placeholder = st.empty() full_response = '' for item in response: full_response += item placeholder.markdown(full_response) placeholder.markdown(full_response) That's NOT...