Logo
Section 1 / 5

使用小型语言模型(SLM)构建聊天机器人

学习如何使用 Ollama 运行小型语言模型,以驱动基于 Gradio 的聊天机器人。

导入

使用小型语言模型(SLM)构建聊天机器人

学习如何使用 Ollama 运行小型语言模型,以驱动基于 Gradio 的聊天机器人。

代码示例

1curl -fsSL https://ollama.com/install.sh | sh

代码示例

1ollama serve
...

代码示例

1ollama run qwen2:0.5b
Terminal

/dev/null 2>&1 &" mode="edit">

代码示例

1pip install ollama

代码示例

1stream = ollama.chat( 2 model="qwen2.5:0.5b", 3 messages=[{"role": "user", "content": "message"}], 4 stream=True 5 )

No configuration found for ID: 44ae84e15d3c14d947e61d92d1b706943920f0853372ec0293cc0436c2861e88

在测试过程中,当询问 Qwen2.5-0.5B 的名字时,它给出了多种有趣的回答。虽然这些回应可能令人感到有趣,但这种不可预测性是创造性生成结果带来的意外副作用。

在测试过程中,当询问 Qwen2.5-0.5B 的名字时,它给出了多种有趣的回答。虽然这些回应可能令人感到有趣,但这种不可预测性是创造性生成结果带来的意外副作用。

当消息中发送了名字时,聊天机器人能够进行问候。然而,聊天机器人未能记住这个名字。

当消息中发送了名字时,聊天机器人能够进行问候。然而,聊天机器人未能记住这个名字。

No configuration found for ID: 3424a83d4e3d5ed27e5630e15a307eef01191a31ea6a1dbaf13684d3ef2d34c8

萨莉有一个妹妹。

如果她的每个兄弟都有相同的两个姐妹,那么这两个姐妹必定包括萨莉本人和另一个妹妹。因此,除了她自己之外,萨莉还有一个妹妹,总共共有两个妹妹。

萨莉有一个妹妹。

如果她的每个兄弟都有相同的两个姐妹,那么这两个姐妹必定包括萨莉本人和另一个妹妹。因此,除了她自己之外,萨莉还有一个妹妹,总共共有两个妹妹。

人工智能聊天机器人的基础

使用 Groq 访问大型语言模型(LLMs)