第七章 - 文本扩展的文字修改

This commit is contained in:
xuhu0115
2023-07-22 18:57:16 +08:00
committed by GitHub
parent 5734f60f7e
commit 4bf06c02ec

View File

@ -11,9 +11,13 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"扩展是将短文本(例如一组说明或主题列表)输入到大型语言模型中,让模型生成更长的文本(例如基于某个主题的电子邮件或论文)。这种应用是一把双刃剑,好处例如将大型语言模型用作头脑风暴的伙伴;但也存在问题,例如某人可能会使用它来生成大量垃圾邮件。因此,当你使用大型语言模型的这些功能时,请仅以**负责任** (responsible) 和**有益于人们** (helps people) 的方式使用它们。\n",
"**文本扩展**是大语言模型的一个重要应用方向,它可以输入简短文本,生成更加丰富的长文。这为创作提供了强大支持,但也可能被滥用。因此开发者在使用时,必须谨记社会责任,避免生成有害内容。\n",
"\n",
"在本章中,你将学会如何基于 OpenAI API 生成*针对每位客户评价优化*的客服电子邮件。我们还将利用模型的另一个输入参数称为温度,这种参数允许您在模型响应中变化探索的程度和多样性。\n"
"在本章中,我们将学习*基于OpenAI API实现一个客户邮件自动生成的示例*,用于*根据客户反馈优化客服邮件*。这里还会介绍“温度”temperature这一超参数它可以**控制文本生成的多样性**。\n",
"\n",
"需要注意,扩展功能只应用来辅助人类创作,而非大规模自动生成内容。开发者应审慎使用,避免产生负面影响。只有以负责任和有益的方式应用语言模型,才能发挥其最大价值。\n",
"\n",
"相信践行社会责任的开发者可以利用语言模型的扩展功能,开发出真正造福人类的创新应用。\n"
]
},
{
@ -27,9 +31,11 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"我们将根据客户评价和情感,针对性写自动回复邮件。因此,我们将给定客户评价和情感,使用 LLM 针对性生成响应,即根据客户评价和评论情感生成定制电子邮件。\n",
"在这个客户邮件自动生成的示例中,我们**将根据客户评价和其中的情感倾向,使用大语言模型针对性地生成回复邮件**。\n",
"\n",
"我们首先给出一个示例,包括一个评论及对应的情感。"
"具体来说,我们先输入客户的评论文本和对应的情感分析结果(正面或者负面)。然后构造一个Prompt要求大语言模型基于这些信息来生成一封定制的回复电子邮件。\n",
"\n",
"下面先给出一个实例,包括一条客户评价和这个评价表达的情感。这为后续的语言模型生成回复邮件提供了关键输入信息。通过输入客户反馈的具体内容和情感态度,语言模型可以生成针对这个特定客户、考虑其具体情感因素的个性化回复。这种**针对个体客户特点的邮件生成方式,将大大提升客户满意度**。"
]
},
{
@ -63,9 +69,9 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"我们已经使用推断课程中所学方法提取了情感,这是一关于搅拌机的客户评价,现在我们将根据情感定制回复。\n",
"在这个例子中,我们已经利用前面章节学到的方法,从客户评价中提取出其表达的情感倾向。这里是一关于搅拌机的评论。现在我们要基于这条评论中的情感倾向,使用大语言模型自动生成一封回复邮件。\n",
"\n",
"以下述 Prompt 为例:假设你是一个客户服务 AI 助手,你的任务是为客户发送电子邮件回复,根据通过三个反引号分隔的客户电子邮件生成一封回复以感谢客户的评价。"
"以下述 Prompt 为例:首先明确大语言模型的身份是客户服务 AI 助手;它任务是为客户发送电子邮件回复;然后在三个反引号间给出具体的客户评论;最后要求语言模型根据这条反馈邮件生成一封回复以感谢客户的评价。"
]
},
{
@ -112,20 +118,29 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"## 二、引入温度系数\n",
"通过这个Prompt,我们将具体的客户评论内容和需要表达的客服助手语气与要生成的回复邮件链接起来。语言模型可以在充分理解客户反馈的基础上,自动撰写恰当的回复。\n",
"\n",
"接下来,我们将使用语言模型的一个称为“温度” (Temperature) 的参数,它将允许我们改变模型响应的多样性。您可以将温度视为模型探索或随机性的程度。\n",
"\n",
"例如,在一个特定的短语中,“我的最爱食品”最有可能的下一个词是“比萨”,其次最有可能的是“寿司”和“塔可”。因此,在温度为零时,模型将总是选择最有可能的下一个词,而在较高的温度下,它还将选择其中一个不太可能的词,在更高的温度下,它甚至可能选择塔可,而这种可能性仅为五分之一。您可以想象,随着模型继续生成更多单词的最终响应,“我的最爱食品是比萨”将会与第一个响应“我的最爱食品是塔可”产生差异。随着模型的继续,这两个响应也将变得越来越不同。\n",
"\n",
"一般来说,在构建需要可预测响应的应用程序时,我建议**设置温度为零**。在所有课程中,我们一直设置温度为零,如果您正在尝试构建一个可靠和可预测的系统,我认为您应该选择这个温度。如果您尝试以更具创意的方式使用模型,可能需要更广泛地输出不同的结果,那么您可能需要使用更高的温度。"
"这种依据具体客户评价个性化回复的方法,将大大提升客户体验和满意度。\n"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"同一段来信,我们提醒模型使用用户来信中的详细信息,并设置温度:"
"## 二、引入温度系数\n",
"\n",
"大语言模型中的 “温度”(temperature) 参数可以控制生成文本的随机性和多样性。temperature的值越大语言模型输出的多样性越大temperature的值越小输出越倾向高概率的文本。\n",
"\n",
"举个例子,在某一上下文中,语言模型可能认为“比萨”是接下来最可能的词,其次是“寿司”和“塔可”。若 temperature 为0则每次都会生成“比萨”而当 temperature 越接近 1 时,生成结果是“寿司”或“塔可”的可能性越大,使文本更加多样。\n",
"\n",
"一般来说,如果需要可预测、可靠的输出,则将 temperature 设置为0在所有课程中我们一直设置温度为零如果需要更具创造性的多样文本那么适当提高 temperature 则很有帮助。调整这个参数可以灵活地控制语言模型的输出特性。"
]
},
{
"cell_type": "markdown",
"metadata": {},
"source": [
"在下面例子中,针对同一段来信,我们提醒语言模型使用用户来信中的详细信息,并设置一个较高的 temperature ,运行两次,比较他们的结果有何差异。"
]
},
{
@ -224,11 +239,11 @@
"cell_type": "markdown",
"metadata": {},
"source": [
"温度为时,每次执行相同的 Prompt ,您获得的回复理应相同。而使用温度为 0.7 时,则每次都会获得不同的输出。\n",
"**温度temperature参数可以控制语言模型生成文本的随机性**。温度为0时,每次使用同样的Prompt得到的结果总是一致的。而在上面的样例中当温度设为0.7时,则每次执行都会生成不同的文本。\n",
"\n",
"所以,您可以看到它与我们之前到的电子邮件不同。再次执行将再次获得不同的电子邮件。\n",
"所以,这次的结果与之前到的邮件就不太一样了。再次执行同样的Prompt,邮件内容还会有变化。因此。我建议读者朋友们可以自己尝试不同的 temperature 来观察输出的变化。总体来说temperature 越高,语言模型的文本生成就越具有随机性。可以想象,高温度下,语言模型就像心绪更加活跃,但也可能更有创造力。\n",
"\n",
"因此,我建议您自己尝试温度,以查看输出如何变化。总之,在更高的温度下,模型的输出更加随机。您几乎可以将其视为在更高的温度下,助手**更易分心**,但也许**更有创造力**。"
"适当调节这个超参数,可以让语言模型的生成更富有多样性,也更能意外惊喜。希望这些经验可以帮助你在不同场景中找到最合适的温度设置。\n"
]
},
{