本篇博客主要总结了 DeepLearning AI 公开课程 Prompt Engineering 提示词工程 第八章节 ChatBot 聊天机器人的内容，也可以理解为该章节的笔记。

现在我们常用的大预言模型工具，如豆包，deepseek，ChatGPT等，都是以聊天机器人的形式提供服务。用户可以在web页面与AI创建一组对话。在之前几章的基础上，可以发现，调用 LLM 的API并构建一个自定义的聊天机器人，并不是一件难事。在这个章节，我们将学习如何做一个聊天机器人。

1. 聊天格式的设计

首先，我们需要设计聊天格式。定义如下两个辅助函数，可以看到，第一个辅助函数就和我们在之前几章使用得差不多，而第二个函数则封装得更完备一些，直接以messages为输入，而不是prompt，这更有利于我们输入多组对话，让整个对话看起来更有连续性。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

def get_completion(prompt, model="gpt-3.5-turbo"):
    messages = [{"role": "user", "content": prompt}]
    response = openai.ChatCompletion.create(
        model=model,
        messages=messages,
        temperature=0, # 默认温度值
    )
    return response.choices[0].message["content"]

def get_completion_from_messages(messages, model="gpt-3.5-turbo", temperature=0):
    response = openai.ChatCompletion.create(
        model=model,
        messages=messages,
        temperature=temperature, # 默认温度值
    )
    print(str(response.choices[0].message))
    return response.choices[0].message["content"]

值得注意的是 messages 中的 role 的作用。以下面的一组 messages 示例，这组对话中有三个角色，分别是系统，用户和助理。通常，用户就是使用大语言模型的人，助理则是 LLM 扮演的角色，系统作为一个更高级的第三方，充当画外音的角色，用来组建聊天框架，在用户感知不到的地方引导“助理“的回复。 more >>

本篇博客主要总结了 DeepLearning AI 公开课程 Prompt Engineering 提示词工程 第七章节 Expanding 扩充任务的内容，也可以理解为该章节的笔记。

扩充任务，顾名思义，就是给出一段文本，可以是主题或说明等，让 LLM 生成一段更长的文本，例如一篇文章、一份邮件。本章节还将引入一个模型参数，temperature 温度。这个参数允许我们调节模型的多样性程度。

0. 环境准备

之前的章节中，我们都没有单独列出调用 openai 的环境准备，因为它们都很简单，并且如果是要调用不同的大模型，API各有不同。因此，为了专注于 prompt ，之前的几个章节都将 setup 的环节略过了。但是在这个章节，我们将引入一个新的参数，temperature，来增加模型输出的多元化程度，因此在这里特地列出，和其他章节作一个区分。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

import openai
import os

from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv()) # read local .env file

openai.api_key  = os.getenv('OPENAI_API_KEY')

def get_completion(prompt, model="gpt-3.5-turbo",temperature=0): # Andrew mentioned that the prompt/ completion paradigm is preferable for this class
    messages = [{"role": "user", "content": prompt}]
    response = openai.ChatCompletion.create(
        model=model,
        messages=messages,
        temperature=temperature, # this is the degree of randomness of the model's output
    )
    return response.choices[0].message["content"]

本篇博客主要总结了 DeepLearning AI 公开课程 Prompt Engineering 提示词工程 第六章节 Transferring 转换的内容，也可以理解为该章节的笔记。

在这个章节，我们将学习如何使用 LLM 帮助我们完成翻译、拼写和语法检查、语气调整、格式转化等文本任务。虽然现在已经有很多很强大的翻译软件，但是当应用到特定领域的时候，我们还是会需要根据自己的应用需求，构建特定的翻译应用。例如某个电影或者游戏文本的翻译，其中可能会涉及很多设定上的词语需要约定，如果直接使用通用的翻译软件，会得到四不像的翻译结果。

1. 翻译 Translation

LLM 大多是多语言训练的，因此能很好地胜任翻译工作。例如：

1
2
3
4
5

prompt = f"""
Translate the following English text to Spanish: ```Hi, I would like to order a blender```
"""
## 输出
Hola, me gustaría ordenar una licuadora.

或者让 LLM 帮助识别语言：

1
2
3
4
5

prompt = f"""
Tell me which language this is: ```Combien coûte le lampadaire?```
"""
## 输出
This is French.

或者，指示模型同时翻译成多种语言。在这里，示例中的提示词要求 LLM 翻译成法语、西班牙语和海盗英语。 more >>

本篇博客主要总结了 DeepLearning AI 公开课程 Prompt Engineering 提示词工程 第五章节 Inferring 推理的内容，也可以理解为该章节的笔记。

输入一些文本，让模型帮助我们完成推理的工作，如提取标签、名字，梳理文本情感等。看起来和之前的输入文本，让模型提取其中的关键信息撰写文章有些类似，不过实际应用中，prompt 还是会有一些不同。

1. 文本情绪分类

传统的机器学习工作流中，要实现文本情绪分类，必须收集标签数据集、训练模型并部署，推断等。对于个人开发者而言，这样的过程工作量大，很繁杂，并不是很合适。LLM将我们从这些繁琐的工作中解放出来，可以通过几个简短的 prompt 就完成这些工作。

在上一个章节中，我们会采用如下的 prompt 来指示 LLM，让它提取文本。

1
2
3
4
5
6
7
8
9
10

lamp_review = """
Needed a nice lamp for my bedroom, and this one had additional storage and not too high of a price point. Got it fast. The string to our lamp broke during the transit and the company happily sent over a new one. Came within a few days as well. It was easy to put together. I had a missing part, so I contacted their support and they very quickly got me the missing piece! Lumina seems to me to be a great company that cares about their customers and products!!
"""
prompt = f"""
What is the sentiment of the following product review, which is delimited with triple backticks?

Review text: '''{lamp_review}'''
"""
## 输出
The sentiment of the review is positive. The reviewer is satisfied with the lamp they purchased, mentioning the additional storage, reasonable price, fast delivery, good customer service, and ease of assembly. They also praise the company for caring about their customers and products.

可以看到，虽然正确提取了信息，但是不够凝练。对prompt做一些改变，要求输出更凝练： more >>

本篇博客主要总结了 DeepLearning AI 公开课程 Prompt Engineering 提示词工程 第四章节 Summarizing 摘要的内容，也可以理解为该章节的笔记。

当下，有很多文本内容需要我们阅读，让 LLM 帮助我们总结摘要，可以提高我们的信息摄取效率。所谓的摘要任务，不仅仅是给出一段长文，要求它总结主旨，还可以有很多类似的工作，例如给出大量的评论数据，要求 LLM 帮助我们提取其中的反馈建议，又或者要求 LLM 只提取你关心的那部分信息，而不是对全文做一个笼统的概括。善用提示词，因此，让 LLM 帮助你完成数据的阅读和信息提取，可以节省大量的时间和精力。

1. 生成指定信息的摘要

给出一段文字，让 LLM 进行总结。这件事我们在上一个章节中已经做了很多遍。我们已经可以对输出的篇幅、重点关注的方面、输出的格式等做出要求。本章节的内容与上一章有些类似，也是为了让 LLM 生成更满足我们实际需求的文本。 more >>

本篇博客主要总结了 DeepLearning AI 公开课程 Prompt Engineering 提示词工程 第三章节 Iterative 迭代的内容，也可以理解为该章节的笔记。

这个章节主要是教授了如何通过不断迭代、修正、改进，找到完成任务效果更好的提示词。迭代的过程总是从想法，实践到根据结果调优，这几个阶段不断循环，最后找到一段合适的提示词。虽然网上有很多通用的提示词模板，但是实际应用过程中，我们还是得针对自己的需求对其进行改进、特化，这也是我们常说的”调教“你的 LLM。

以下是一段关于椅子的介绍文本，在本章中我们用它作为示例。现在我们要指示 LLM 对它进行信息内容的总结、提取。 more >>

当下，人工智能飞速发展，以 ChatGPT 为代表的大预言模型崭露头角后，诸如豆包、月之暗面、通义千问等生成式指令调优AI工具蓬勃发展。AI+各行各业成为了当下不可逆转的趋势，提示词工程（Prompt Engineering）成为了一项关键技能。本篇博客将介绍提示词工程的一些技巧，这些技巧不仅能帮助开发人员快速构建生成式AI应用，还可以帮助其他 AI 应用的使用者，撰写属于自己的提示词模板，调教出更符合自身需求的 AI 助理。

注：本博客主要总结了 DeepLearning AI 的公开课程内容，也可以理解为是该公开课程的笔记。如果你有足够的时间和条件，强烈建议直接访问文末的课程链接亲自学习，因为这样，你还可以在官网的 Jupyter Notebook 上一边听课，一边调试、实践。

0. 为什么要学习提示词工程？

不同于过去的基础大预言模型 Base LLM，当下的指令调优大语言模型 Instruction Tuned LLM，它更聪明，可以遵循用户的指令来进行预测，给出结果。如果你需要它给出一些方案，你可以告知已有的条件、决策方式、希望达成的目的等。如果你想要它撰写文章，除了主题、大纲以外，你还可以指定文字风格、篇幅，要求它阅读哪些参考文献等等。因此，学好提示词的使用，能够帮助我们和 AI 更好地共同完成任务。尤其是一些复杂的场景、要求比较多的任务，更需要我们组织有条理的提示词，来帮助 LLM 理解任务的含义。

学习了提示词工程以后，即使不用做编写基于 LLM 的 AI 软件，你也可以通过抽象出一系列的提示词模板，只需要更换部分词语内容，完成相似的任务，提升你的工作、学习效率。

指导原则 Guidelines

本章节将从最基础的指导原则开始，介绍如何清晰、有效地给 LLM 下达指令。

如果你已经搭建了调用 LLM 应用的环境，那么可以一边阅读一边实践。不同的 LLM 环境需求和接口调用不尽相同，因此，在这里就不给出具体的指令了，只需要参考你使用的 LLM 文档就好。 即使没有环境也没关系，可以去 DeepLearning AI 的官网上使用 Jupyter Notebook，那里已经帮你安装、配置好了环境，还为你准备了 OpenAI 的调用 key，方便你学习。

话不多说，我们开始吧！

首先，指导有两个原则：

1. 编写清晰而具体的提示
2. 给模型思考的时间

针对这两个原则，分别有对应的提示词技巧。

指导原则1：编写清晰而具体的提示

策略1：使用分隔符

我们可以使用分隔符，将我们想要输入的文本清晰地分割开来，比如下文，使用 ``` 我们想要 LLM 阅读、总结的文本括起来，给 LLM 更清晰的指令。这样，LLM不容易被你提供的大量文本混淆，即使你提供的文本是一段数学应用题目，它也会给出总结，而不是被误导，求解这道应用题的答案。

1
2
3
4
5
6
7
8
9

text = f"""
这是一段你希望LLM进行总结陈述的文字。
"""
prompt = f"""
Summarize the text delimited by triple backticks into a single sentence.
```{text}```
"""
response = get_completion(prompt)
print(response) 

防止注入

同时，使用分隔符还可以避免用户注入，防止输入一些危险的、冲突的指令。这在信息安全中常常用到，比如防范SQL注入等。 more >>