1.来源和任务

来源: https://github.com/InternLM/Tutorial/blob/camp3/docs/L1/Prompt/task.md

任务:
背景问题:近期相关研究发现,LLM在对比浮点数字时表现不佳,经验证,internlm2-chat-1.8b (internlm2-chat-7b)也存在这一问题,例如认为13.8<13.11。

任务要求:利用LangGPT优化提示词,使LLM输出正确结果。完成一次并提交截图即可

2.过程

  1. 首先进行Sever端的部署
    在这里插入图片描述
    编写一个代码测试本地部署的InternLM2-chat-1.8b模型是否部署成功
from openai import OpenAI

client = OpenAI(
    api_key = "internlm2",
    base_url = "http://0.0.0.0:23333/v1"
)

response = client.chat.completions.create(
    model=client.models.list().data[0].id,
    messages=[
        {"role": "system", "content": "请介绍一下你自己"}
    ]
)

print(response.choices[0].message.content)

在这里插入图片描述

  1. 客户端启动并进行代理
    在这里插入图片描述
    在这里插入图片描述

在这里插入图片描述

  1. 高质量Prompt合集
    https://langgptai.feishu.cn/wiki/JCZHwwrsOizzaOktD4fcuGbFnzg

  2. Prompt结构化提示词实战
    在这里插入图片描述

Logo

一站式 AI 云服务平台

更多推荐