API的使用 大模型 免费获取试用API方法 付费API计费方式 LLM
发布时间:2024-11-15 01:05:41点击:
API(应用程序编程接口,Application ProgrammingInterface)是一组定义和协议,用于构建和集成应用程序软件。API允许不同的软件系统之间进行通信和数据交换。大模型API是大模型应用开发的基础。API的使用不需要很高的算力,CPU就能跑。
1.API作用及优势
大模型API(如GPT-4、BERT等)提供了强大的自然语言处理(NLP)能力,可以应用于各种任务。以下是大模型API的主要功能和用途:
1. 自然语言理解和生成:
-理解和生成自然语言文本,如撰写文章、生成对话、回答问题等。
2. 对话系统:
-创建智能聊天机器人,用于客户服务、技术支持等。
3. 文本分析:
-分析情感、分类文本、提取关键词、总结文章等。
4. 翻译:
-提供高质量的多语言翻译服务。
5. 内容生成:
-生成创意文案、写作辅助、代码生成等。
6. 搜索和推荐:
-提供上下文相关的搜索结果和个性化推荐。
7. 教育和培训:
-提供个性化的学习辅助,生成练习题、解释复杂概念等。
优势
1. 提高效率:
-自动化许多需要大量时间和精力的任务,如文案撰写、客户服务等。
2. 增强创造力:
-提供灵感和辅助创作,帮助人们突破创作瓶颈。
3. 个性化服务:
-根据用户需求提供定制化的响应和服务,提高用户满意度。
4. 扩展能力:
-将先进的NLP能力集成到现有系统中,提升整体功能和用户体验。
本文以chatgpt 的api为例进行说明。大家也可以试用其他大模型的API,在官网都可以购买到API。这个是API汇总的网站:
正常API都是要花钱购买的,计费按照token算。后面会有API的计费说明。这里提供几个免费获取API的渠道,供大家参考。(网络系统可能随时变化,这些渠道后续也可能不能使用)
2.免费获取试用 API 及API使用示例
一个叫做GPT-API-free,下面是它的网页。
Github授权成功后,获得免费使用的API,但是数量有限。
Host地址
下面看看如何使用,使用API调用大模型进行对话:
先要安装必要的模块:
pip install openai
from openai import OpenAI# 假设您的 OpenAI API 密钥是 "sk-yourapikey"client = OpenAI(api_key="sk-****************************",base_url="https://api.chatanywhere.tech/v1")# 发送请求response = client.chat.completions.create(model="gpt-3.5-turbo",messages=[{"role":"user", "content":"四大文明古国分别有哪些?"}])# 打印响应内容print(response.choices[0].message.content)
得到的回复:
四大文明古国指的是古埃及、古巴比伦、古印度和古中国,它们被认为是世界上拥有最悠久历史和文明的四个国家。
保管好自己的API key很重要,因此把KEY放到环境中,在调用的时候就可以不显示key了。
编辑 ~/.bashrc 文件,把key加入环境变量
vim ~/.bashrc
在~/.bashrc 文件末尾加上key
保存退出后,要在当前终端会话中立即应用 ~/.bashrc 文件中的更改,可以使用以下命令:
source ~/.bashrc
创建模型实例的代码可以是这样:
client = OpenAI(api_key="",base_url="https://api.chatanywhere.tech/v1")
3.免费获取OpenAI API key二
ChatGPT API 水龙头,每24小时可领取一个 $1.00 令牌用于开发测试 AI 产品.
4.免费获取OpenAI API key三
刷新页面后
5.API的计费
使用AI模型的API一个很有必要了解的知识点是,它们都是咋收费的?简短的答案是,绝大部分大模型API的计费是基于token数量的。那么,什么是token呢?token可以被理解为是文本的一个基本单位,取决于不同的token化方法。短单词可能每个词是一个token。长单词可能被拆分成多个token,而中文的话所占的token数量会相对更多,有些字要用一个甚至更多token表示。
你可以去openai的这个网站,它有一个交互式分词器,能展示任意文本如何被映射为不同的token。
如果你输入中文,可以看到很多单独的字,本身就是一个token,而常用词可能一个词是一个token。而有些不常见的字,可能会被映射成多个token,以至于网页无法展示出拆分的半个字,就是图上的?。
计费时看的是的total token,即提示和回应加一起的token数。
OpenAI API KEY的计费可以在下面网站查询,现在已经比之前优惠很多了。
AIRoobt ,作者:AIRoobt
原文链接: