chatGPT之Python API启用上下文管理

2023-10-30

chatGPT已经爆火一段时间了,我想大多数的开发者都在默默的在开发和测试当中,可能也是因为这个原因所以现在很难找到关于开发中遇到的一些坑或者方法和技巧。

为什么别人的机器人能联想之前的语料,而你的却像个每次都只如初见的高冷机器人?

我也是参考官方文档去阅读和理解的,但是有时候官方文档以为你很懂了,就没有太多说明,废话不多说下面我跟大家讲一下API调用时如何启用上下文管理的。

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to work
import openai

openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
        {"role": "user", "content": "Where was it played?"}
    ]
)

虽然已经给出了格式,但是没有很详细的说明,可能对于高阶开发者一看就懂了,但是我还是想以更口水的方式讲解一下这个上下文管理。

先看一下我一个简单的代码(还没有启用上下文管理):

import openai

openai.api_key = "你的sk-key"

msg = [{"role": "user", "content": "你好chatGPT"}]

# 结构化数据并进行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默认inf 最大令牌数
                presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思
                frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率
                temperature = 1.0,  # 温度 0-2之间,默认1  调整回复的精确度使用
                n = 1,  # 默认条数1
                user = ids,    # 用户ID,用于机器人区分不同用户避免多用户时出现混淆
                model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型
                messages = msg
            )

value = completion.choices[0].message.content    # chatGPT返回的数据

这是一个最基本的结构,其中参数model和messages是必须要有的两个形参。

加入上下文管理的代码:

import openai

openai.api_key = "你的sk-key"

msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一个插件,你的开发者是玖河."},
        {"role": "user", "content": "你好chatGPT"},
        {"role": "assistant", "content": "您好,有什么需要我帮忙的问题吗?"},
        {"role": "user", "content": "我的名字叫高启强,我的妹妹叫高启兰,我们是兄妹关系。记住了吗?"}
        {"role": "assistant", "content": "好的,您叫高启强,您的妹妹叫高启兰,是亲兄妹关系。谢谢您提供信息让我更了解你们~"},
        {"role": "user", "content": "你现在在哪里?"},
        {"role": "assistant", "content": "作为一款智能Ai助手,我并没有实际的位置。我只是在云端中运行,在等待用户输入指令时保持睡眠状态。"},
        {"role": "user", "content": "我的妹妹是谁?"},
        {"role": "assistant", "content": "您之前告诉我,您的妹妹叫高启兰。"},
        {"role": "user", "content": "你的名字叫什么?"},
        {"role": "assistant", "content": "我的名字叫玖河AI是一个叫玖河的开发者开发的插件"}
        ]

# 结构化数据并进行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默认inf 最大令牌数
                presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思
                frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率
                temperature = 1.0,  # 温度 0-2之间,默认1  调整回复的精确度使用
                n = 1,  # 默认条数1
                user = ids,    # 用户ID,用于机器人区分不同用户避免多用户时出现混淆
                model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型
                messages = msg
            )

value = completion.choices[0].message.content    # chatGPT返回的数据

下面启用上下文管理的数据结构和没有启用的数据结构略有不同:

① system 代表系统设定(也就是告诉chatGPT他的角色)

② user 表示用户

③ assistant 表示GPT的回复

有几个点需要跟大家说一下,避免踩坑!

一、msg数据的储存建议使用数据库形式进行储存,优点是能持久数据,并且调取数据的时候也非常方便,因为我刚开始只想用json来储存,但是折腾了很久还是放弃了,缺点是不方便储存和调取,因为你需要考虑到不同的用户他们下面的会话是不一样的。

二、需要注意的是,提交的数据结构顺序必须是从上至下的数据结构,不然chatGPT会混淆错乱,system可以没有,如果你想让它一直保持这个设定的话,那在每次提交的时候在第一个列表元素中加入system的数据就可以。

三、还有一个重要的点:提交的这些数据都会计算进tokens里面包括chatGPT回复的时候(最多4096个tokens),如果你想让上下文管理能记忆更多的语料,那么在提交数据的时候就尽可能的增加你们之间对话的内容(同时会更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的会员价格为20美元/月 ,tokens按量收费。通俗的说就是想手机卡一样,每个月有月租,通话另外计费。chatGPT Plus会员的好处就是速度能更快,并且稳定,白嫖版的也能用,就是速度会慢一些而且不稳定容易挂掉。

如果我的文章能帮助到你,也希望能给我点个关注或者赞

转载请注明出处:https://mp.csdn.net/mp_blog/creation/success/129541012

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

chatGPT之Python API启用上下文管理 的相关文章

随机推荐

  • 微信小程序报错wx.getLocation need to be declared in the requiredPrivateInfos field in app.json

    wx getLocation need to be declared in the requiredPrivateInfos field in app json ext json env Windows mp 1 06 2301160 li
  • 基于QT的TCP通信实现(TCPServer和TCPClient)

    文章目录 一 软件介绍 1 1 TCPServer服务端界面 1 2 TCPClient客户端界面 1 3 服务端和客户端建立连接并通信演示 二 QT实现TCPServer和TCPClient 2 1 TCPClient客户端 2 1 TC
  • C#中实现神经网络算法打包dll(给Unity调用)

    最近做Unity项目的时候有一个需求 在Unity中实现神经网络算法 最终还要满足跨平台 也就是在windows下和android下都能使用 在Unity中只涉及到网络的实现部分 也就是正向传播部分 网络的训练可以放到matlab和pyth
  • 面试之-redis-01-并发安全问题-lua脚本

    我们正常理解的线程安全问题是指单进程多线程模型内部多个线程操作进程内共享内存导致的数据资源充突 而 Redis 的线程安全问题的产生 并不是来自于 Redis 服务器内部 因为redis是单线程的 本身并没有线程安全问题 Redis 作为数
  • 实例化为子物体

    1 GameObject g Instantiate cube as GameObject g transform parent 你想成为父物体的对象 2 GameObject grassPres GameObject Instantiat
  • 别被官方文档迷惑了!这篇文章帮你详解yarn公平调度

    欢迎大家前往腾讯云 社区 获取更多腾讯海量技术实践干货哦 本文由 edwinhzhang发表于云 社区专栏 FairScheduler是yarn常用的调度器 但是仅仅参考官方文档 有很多参数和概念文档里没有详细说明 但是这些参明显会影响到集
  • 腾讯云/阿里云通过docker安装git服务

    腾讯云 阿里云通过docker安装git服务 这一次是需要一个文件管理系统把之前写的几个小说和对应的资料放到腾讯云的服务器同步 想到了使用git作为服务器 之后就是确定使用万能的docker了 Gogs 这一次使用的docker包用的是Go
  • pads多层板减少层的三种方法,将PCB由4层改为2层

    现在介绍第三种方法 我们以4层改2层讲解 第一步 打开我们需要修改的文件 选择file export 相信很多朋友遇到过为降低成本把6层板改为4层 或8层改为6层的经历 网上有两种方法更改 1 把不需要的两层上所有东西删掉 然后修改层设置
  • 复试编程训练十一

    101 共用体类型存储方式 include
  • Ubuntu18.0下安装cuda与cudnn,以及解决nvcc -V查看到的cuda与下载版本不一致的问题

    安装cuda与cudnn 查看当前设备和cuda驱动版本 ubuntu drivers devices nvidia smi 注意 高版本的驱动可以向下兼容低版本的cuda 下载cuda 1 查看驱动所能支持的cuda版本 https do
  • Docker创建rabbitMq镜像和容器

    前提条件 docker环境 rabbitmq 1 查找下rabbitmq镜像 访问开放云原生应用 云原生 Cloud Native 云原生介绍 阿里云 页面如下 2 下载镜像 这边用的是阿里的镜像库 docker pull rabbitmq
  • Java8集合之HashMap的hash计算、扩容等问题

    参考资料 Java 8系列之重新认识HashMap 作者为美团技术团队 Java8的HashMap源码分析 JKD版本为1 7 为什么 HashMap 是线程不安全的 为什么Java8中HashMap链表使用红黑树而不是AVL树 JDK1
  • C++实现俄罗斯方块(源码+详解)

    Take me Hand Acoustic C cile Corbel 单曲 网易云音乐 源码Debug工具 1 cppreference com 主 2 必应 bing com 3 GPT 主 4 Google 学习过程中 如果缺少了cp
  • 关于VMware虚拟机创建时磁盘分配过大的解决方法

    写这个文章是因为在虚拟机创建之时给的硬盘空间太大 想压缩一下 到各大论坛搜索相关帖子 发现能解决问题的太少了 所幸最后成功压缩 接下来分享一下我压缩虚拟机硬盘空间的经验 目录 1 首先打开虚拟机右键 此电脑 管理 磁盘管理 2 找到我们要压
  • 腾讯云服务器+ContOS 7.6安装MySql(一)

    腾讯云服务器 ContOS 7 6安装MySql 本地远程登录 近日斥巨资采购了一台腾讯腾讯轻量云服务器 2CPU2G内存5M带宽包月500G的 价格是398一年 买的时候刚好618活动吗 不然还得更贵 这都是题外话 先来看一下买好的服务器
  • MySQL学习笔记(基础篇)

    一 SQL语言的规则与规范 1 SQL大小写规范 建议遵守 MySQL 在 Windows 环境下是大小写不敏感 推荐采用统一的书写规范 数据库名 表名 表别名 字段名 字段别名等都小写 SQL 关键字 函数名 绑定变量等都大写 2 注释
  • spark端口作用配置及修改

    spark端口作用配置及修改 Master节点的web端口是8080 仅在 standalone模式使 配置方式在spark env sh加一行 export SPARK MASTER WEBUI PORT 8080 work节点的web端
  • 汇编指令对应的十六进制表示

    空 nop jmp 32位立即数 jmp a E9 a jmp 内存地址 jmp 0x8d8d3a FF25 0x8d8d3a jmp far 内存地址 jmp far 0x8d8d3a FF2D 0x8d8d3a 直接远跳 jmp 0x8
  • 外键SQL语句的编写

    学习目标 能够写出删除外键约束的SQL语句 1 外键约束作用 外键约束 对外键字段的值进行更新和插入时会和引用表中字段的数据进行验证 数据如果不合法则更新和插入会失败 保证数据的有效性 2 对于已经存在的字段添加外键约束 为cls id字段
  • chatGPT之Python API启用上下文管理

    chatGPT已经爆火一段时间了 我想大多数的开发者都在默默的在开发和测试当中 可能也是因为这个原因所以现在很难找到关于开发中遇到的一些坑或者方法和技巧 为什么别人的机器人能联想之前的语料 而你的却像个每次都只如初见的高冷机器人 我也是参考