看到一个资料：

https://github.com/QwenLM/Qwen2.5/blob/main/docs/source/framework/LlamaIndex.rst

微调模型的时候有加一些标记，所以后面用的时候给入标记会是一种很强的监督：

python
def completion_to_prompt(completion):
   return f"<|im_start|>system\n<|im_end|>\n<|im_start|>user\n{completion}<|im_end|>\n<|im_start|>assistant\n"

def messages_to_prompt(messages):
    prompt = ""
    for message in messages:
        if message.role == "system":
            prompt += f"<|im_start|>system\n{message.content}<|im_end|>\n"
        elif message.role == "user":
            prompt += f"<|im_start|>user\n{message.content}<|im_end|>\n"
        elif message.role == "assistant":
            prompt += f"<|im_start|>assistant\n{message.content}<|im_end|>\n"

    if not prompt.startswith("<|im_start|>system"):
        prompt = "<|im_start|>system\n" + prompt

    prompt = prompt + "<|im_start|>assistant\n"

    return prompt

其实：

• completion_to_prompt：

  • 输入：单个 completion（通常是用户的提问或助手的回答）。
  • 输出：一个格式化后的字符串，包含用户提问（或助手回答），并以适当的 <|im_start|>user、<|im_end|>、<|im_start|>assistant 标记包装。

  例如，当你输入 completion="What is the capital of France?" 时，生成的输出会是：

  text
  <|im_start|>system
  <|im_end|>
  <|im_start|>user
  What is the capital of France?
  <|im_end|>
  <|im_start|>assistant
  

• messages_to_prompt：

  • 输入：一个 消息列表（messages），每个消息包含 role（角色，如 system、user、assistant）和 content（消息内容）。
  • 输出：一个格式化后的字符串，包含所有消息的上下文，适用于多轮对话。

  例如，当 messages 包含以下内容：

  python
  messages = [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "What is the capital of France?"},
      {"role": "assistant", "content": "The capital of France is Paris."}
  ]
  

  生成的输出会是：

  text
  <|im_start|>system
  You are a helpful assistant.
  <|im_end|>
  <|im_start|>user
  What is the capital of France?
  <|im_end|>
  <|im_start|>assistant
  The capital of France is Paris.
  <|im_end|>
  

im 或许是 “Interactive Model” 的缩写。