分享
文本补全(Text completion)
输入“/”快速插入内容
文本补全(Text completion)
学习如何生成或操作文本
简介
完成端点可以用于各种各样的任务。它提供了一个简单但功能强大的接口,可以连接到我们的任何模型。您将一些文本作为提示输入,模型将生成一个文本补全(Text completion),试图匹配您给它的任何上下文或模式。例如,如果您向API提供提示“如笛卡尔所说,我思故我在”,它将高概率返回完成“我是”。
开始探索完成的最佳方式是通过我们的Playground。它只是一个文本框,您可以在其中提交提示以生成一个完成。您可以从以下示例开始:
代码块
Plain Text
为一个冰激凌店写一个标语。
一旦您提交,您将看到类似于以下内容的内容:
代码块
Plain Text
为一个冰激凌店写一个标语。
我们用每一勺冰淇淋提供笑容!
您看到的实际完成可能会有所不同,因为API默认情况下是非确定性的。这意味着,即使您的提示保持不变,每次调用时您可能会得到稍微不同的完成。将温度设置为0将使输出大部分确定性,但可能仍会有一小部分变化。
这个简单的文本输入和输出界面意味着您可以通过提供指令或只提供一些您想让它完成的示例来“编程”模型。它的成功通常取决于任务的复杂性和您提示的质量。一个好的经验法则是想想如果您要为一个中学生写一个文字问题,让他们来解决。一个写得好的提示提供了足够的信息,让模型知道您想要什么以及它应该如何回应。
本指南涵盖了一般提示设计的最佳实践和示例。要了解有关使用我们的Codex模型进行代码工作的更多信息,请访问我们的代码指南。
请记住,默认模型的训练数据截止到2021年,因此它们可能不知道当前事件的情况。我们计划在未来添加更多的持续培训。
提示词(Prompt)设计
基础知识
我们的模型可以完成从生成原始故事到执行复杂文本分析的所有任务。因为它们可以完成许多事情,所以你必须明确描述你想要的内容。显示,而不是仅仅告诉,通常是一个好提示的秘诀。
创建提示的三个基本准则如下:
展示和告诉
。通过说明、示例或两者的结合清楚地表明你想要什么。如果你想让模型按字母顺序对一系列项目进行排名,或者将段落按情感进行分类,请向它展示你想要的内容。
提供高质量数据
。如果你试图构建分类器或让模型遵循某种模式,请确保有足够的示例。一定要校对你的示例——模型通常足够聪明,可以看穿基本的拼写错误并给出回答,但它也可能认为这是有意的,从而影响回答。
检查你的设置
。
温度和top_p设置
控制模型在生成响应时的确定性。如果你要求它生成只有一个正确答案的响应,那么你应该将这些设置较低。如果你想要更多样化的响应,那么你可能需要将它们设置得更高。人们在使用这些设置时犯的第一个错误是认为它们是“聪明度”或“创造力”控制。
故障排除
如果您无法如预期一般让API正常工作,请遵循以下清单:
1.
是否清楚生成的预期结果?
2.
是否提供足够的示例?
3.
您是否检查示例中是否有错误?(API不会直接告诉您)
4.
您是否正确使用温度和
top_p
?
分类
使用API创建文本分类器时,我们提供了任务描述和几个示例。在这个例子中,我们展示如何对推特的情感进行分类。
代码块
Plain Text
决定一条推特的情感是积极的,中性的还是消极的。
推特:我喜欢新的蝙蝠侠电影! 情感:
在这个例子中,有几个需要注意的要点:
1.
使用简明易懂的语言描述输入和输出。我们用简明易懂的语言描述了输入“推特”和预期输出“情感”。作为最佳实践,应该从最详细的描述开始。虽然您可以使用缩写或关键词表示输入和输出,但最好先尽可能详细地描述,然后逐步去除多余的词汇以检查性能是否保持一致。
2.
向API展示如何应对任何情况。在这个例子中,我们在指令中包含了可能的情感标签。中性标签非常重要,因为即使是人类在某些情况下也很难确定某些事物是积极的还是消极的,或者既不积极也不消极。
3.
对于熟悉的任务,您需要更少的示例。对于这个分类器,我们没有提供任何示例。这是因为API已经了解情感和推特的概念。如果您正在构建一个API可能不熟悉的分类器,可能需要提供更多示例。
提高分类器的效率
现在我们已经掌握了如何构建分类器,让我们以此为例,使其更加高效,以便我们可以在一个API调用中获取多个结果。
分类以下推特的情感:
代码块
Plain Text
“我受不了作业”
“这太糟糕了,我很无聊 😠”
“我迫不及待地等待万圣节!”
“我的猫咪可爱 ❤️❤️”
“我讨厌巧克力” 推特情感评级:
我们提供了一个带编号的推特列表,这样API就可以在一个API调用中评估五个(甚至更多)推特。
需要注意的是,当您要求API创建列表或评估文本时,需要特别注意您的概率设置(Top P或温度)以避免漂移。
•
通过运行多个测试来确保您的概率设置已经正确校准。
•
不要让列表过长,否则API可能会漂移。
生成
API最强大,同时也是最简单的任务之一,是生成输入的新思想或版本。您可以提出任何问题,从故事想法、业务计划,到角色描述和营销口号。在本示例中,我们将使用API创建使用虚拟现实进行健身的创意。
代码块
Plain Text
头脑风暴一些结合VR和健身的想法
如果需要,您可以通过在提示中包含一些示例来提高响应质量。