安全护栏是LLM管理中的新兴领域，指的是LLM允许在其中运行的配置范围。 例如，系统提示可能如下所示： 你将使用此文本回答问题：「插入文本」。 你将以这种格式回复一个JSON对象：{「问题」：「答案」}。 如果文本中没有足够的信息来回答问题，请不要编造信息，并将答案填写为 「NA」。 你只能回答与「插入范围」相关的问题。切勿回答任何与年龄、性别和宗教信仰等人口统计信息相关的问题。 其中每个
部分涉及的类别如下： 但是「正常
」的聊天提示又是什么呢？ 现在你可能会想：听起来系统提示中已经提供了很多信息。那我应该在聊天的 「正常」提示（即用户提示中放点什么呢？ 系统提示概述了当前的任务。在上面的系 电话数据 统提示示例中，任务被定义为只使用一段特定文本来回答问题，并且LLM被指示以{「问题」：「答案」}格式。 你将使用此文本回答问题：[插入文本]。 你将以这种格式回复一个JSON对象：{「问题」：「答案」}。 在这种情况下，聊天的每个用户提示都是你希望使用文本回答的问题。例如，用户提示可能是「文本是关于什么的」而LLM会回答{文本是关于什么的？
文本是关 但是让我们进一步
概括这个任务示例。在这种情况下，我们可以将上述系统提示的第一行编辑为： 你将使用此文本回答问题：[插入文字]。 至 你将使用提供的文本回答问题。 现在，聊天的每个 批发和零售客户支持 用户提示，都会包括要回答问题的文本和要回答的问题，例如：[插入文本]： 在这里，我们还使用XML标签作为分隔符，以便有条
理地向LLM提供所需的条信息。 XML标签「文本」和「问题」中使用的名词，与系统提示中使用的名词相对应，这样LLM就能理解标签与系统提示指令之间的关系。 总之，系统提示应 ch 领先 给出总体任务指令，而每个用户提示应提供你需要任务执行的具体细节。在本例中，这些
