HI,下午好,新媒易不收取任何费用,公益非盈利机构
24小时服务热线: 4000-162-306
请扫码咨询

新媒易动态

NEWS CENTER

OpenAI的Assistant API是一个允许开发者在应用中集成GPT功用的接口

2024-02-24

、Assistant API:将GPT集成到体系中的开发者接口

OpenAI的Assistant API是一个允许开发者在应用中集成GPT功用的接口。

简略来说,GPTs是界面化的操作,Assistant API则是针对开发者供给的接口。

目前,Asssistant API支撑三种东西:文件RAG、代码解释器和Function Calling。

Asssistant API有如下特色:

  • 能够把GPT的功用集成到自己的体系中。
  • 能够传比GPTs更多的文件。
  • 国内无法访问,只能服务国外用户(国产大模型或开源大模型也会连续开放自己的Assistant API)。
  • 数据保密需求不高时才适合运用。
  • 收费,不便宜。

假如想扩展chatgpt的能力,让它能够指挥其他的软件去作业,那么就选择GPTs。

假如想让自己的软件取得ChatGPT的能力,得到AI加持,那么就适合Assistant API。

四、Function Calling机制:AI大模型衔接外部世界的通道

Function Calling指的是在模型中集成外部功用或API的调用能力,能够看作是大模型衔接外部世界的通道。

这意味着大模型能够在完成使命的过程中,调用外部函数或服务,以获取额定的数据或履行特定的使命。

例如,大模型能够调用气候API来获取最新的气候信息,或者调用翻译服务来供给多语言支撑。通过这种方式,大模型能够更加灵敏地与外部体系进行交互,完成更丰富的功用和更高的实用性。

Function Calling通常涉及到插件(Plugins)、OpenAI的Actions或各大模型渠道供给的东西集(tools)等技能的运用。这些东西和技能能够帮助开发者更便利地完成Function Calling,进步模型的扩展性和可用性。

相比GPTs和Assistant API,Function Calling的核心优势:

  • 能够让大模型与其它事务体系的集成更加灵敏和便利。
  • 能够针对事务需求做极致调优。

Function Calling的限制:

  • 目前只有部分大模型支撑Function Calling,但一定会连续开放,没有Function Calling的大模型无法和其他体系衔接,几乎没有可用性。
  • 接口定义会耗费额定的token,费钱。
  • 即便运用了Function Calling,仍然要注意成果永久不是永久正确的,产品司理需求建立在这个假设基础上,去推敲功用的可行性。
  • 需求评估Bad Case的影响范围,并做好体系兼容和用户预期管理。

Function Calling机制的重要意义

  • 理论上来说,通过Function Calling,任何功用都能够和大模型结合,供给更好的用户体会。
  • Function Calling机制是AI Agent化的重要组成部分。
  • Function Calling给大模型的应用供给了很多的可能性,长期来看,落地过程中的各种幻觉问题一定会得到优化和解决,路途只会越来越平整,前方只会越来越光明。
相关推荐