导入
使用小型语言模型(SLM)构建聊天机器人
学习如何使用 Ollama 运行小型语言模型,以驱动基于 Gradio 的聊天机器人。
代码示例
1curl -fsSL https://ollama.com/install.sh | sh
代码示例
1ollama serve
...
代码示例
1ollama run qwen2:0.5b
Terminal
/dev/null 2>&1 &" mode="edit">
代码示例
1pip install ollama
代码示例
1stream = ollama.chat( 2 model="qwen2.5:0.5b", 3 messages=[{"role": "user", "content": "message"}], 4 stream=True 5 )
No configuration found for ID: 44ae84e15d3c14d947e61d92d1b706943920f0853372ec0293cc0436c2861e88
在测试过程中,当询问 Qwen2.5-0.5B 的名字时,它给出了多种有趣的回答。虽然这些回应可能令人感到有趣,但这种不可预测性是创造性生成结果带来的意外副作用。
在测试过程中,当询问 Qwen2.5-0.5B 的名字时,它给出了多种有趣的回答。虽然这些回应可能令人感到有趣,但这种不可预测性是创造性生成结果带来的意外副作用。
当消息中发送了名字时,聊天机器人能够进行问候。然而,聊天机器人未能记住这个名字。
当消息中发送了名字时,聊天机器人能够进行问候。然而,聊天机器人未能记住这个名字。
No configuration found for ID: 3424a83d4e3d5ed27e5630e15a307eef01191a31ea6a1dbaf13684d3ef2d34c8
萨莉有一个妹妹。
如果她的每个兄弟都有相同的两个姐妹,那么这两个姐妹必定包括萨莉本人和另一个妹妹。因此,除了她自己之外,萨莉还有一个妹妹,总共共有两个妹妹。
萨莉有一个妹妹。
如果她的每个兄弟都有相同的两个姐妹,那么这两个姐妹必定包括萨莉本人和另一个妹妹。因此,除了她自己之外,萨莉还有一个妹妹,总共共有两个妹妹。