如何将较长的文本输入发送到 ChatGPT API?

2024-01-04

我们有一个 ChatGPT 的用例,用于总结长文本(语音到文本的对话可能超过一个小时)。

然而,我们发现 4k 令牌限制往往会导致输入文本由于令牌限制而被截断为一半左右。

零件加工似乎没有保留以前零件的历史。

对于提交超过 4k 代币的较长请求,我们有哪些选项?


最接近您问题的答案将采用以下形式嵌入.

您可以找到它们的概述here https://platform.openai.com/docs/models/embeddings.

我建议你回顾一下这段代码 https://github.com/openai/openai-cookbook/blob/main/apps/web-crawl-q-and-a/web-qa.py来自 OpenAI Cookbook Github 页面,该页面使用 Web Crawl Q&A 示例来解释嵌入。

我使用了第 5 步以后的代码,并更改了文本的位置,将其指向包含长文本的文件。

From:

# Open the file and read the text
with open("text/" + domain + "/" + file, "r", encoding="UTF-8") as f:
    text = f.read()

to:

# Open the file and read the text
with open("/my_location/long_text_file.txt", "r", encoding="UTF-8") as f:
    text = f.read()

并将第 13 步的问题修改为我需要了解的有关文本的内容。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何将较长的文本输入发送到 ChatGPT API? 的相关文章

随机推荐