Zero-shot:Prompt中只给出需要解答的问题。
One-shot:Prompt中除了问题,还给出一个参考题(包含题目和解答)。
Few-shot:与One-shot只给出一个参考题不同,few-shot是给出多个参考题。
Few-Shot, Zero-Shot & One-shot 的通俗理解
先解释 one-shot。公司门禁用了人脸识别,你只提供一张照片,门禁就能认识各个角度的你,这就是 one-shot。可以把 one-shot 理解为用 1 条数据 finetune 模型。在人脸识别场景里,one-shot 很常见。
zero-shot 与 few-shot,回到 NLP 场景。用 wikipedia、新闻等,训练一个 GPT 模型,直接拿来做对话任务,这个就是 zero-shot。然后,发现胡说八道有点多,找了一些人标注了少量优质数据喂进去,这就是 few-shot。
chatGPT 的发展史,就是从 zero-shot 到 few-shot。(摘自沐神的 paper reading 系列)