写点什么

解锁 AI 潜力 | 使用 GreptimeAI 深入观测 OpenAI 行为和用量

作者:Greptime
  • 2024-01-12
    北京
  • 本文字数:528 字

    阅读完需:约 2 分钟

解锁 AI 潜力 | 使用 GreptimeAI 深入观测 OpenAI 行为和用量

随着人工智能技术的迅速进步,OpenAI 已经崭露头角,成为该领域的领军者之一。它在多种语言处理任务上表现卓越,包括机器翻译、文本分类和文本生成等。


然而,使用 OpenAI 时,持续监控 API 调用的重要性不容忽视,这不仅可以帮助我们识别出性能瓶颈,统计和分析使用情况,还可以帮助我们在 API 出现问题时快速发现并进行相应的处理。

GreptimeAI

GreptimeAI 提供了专为监测和管理大型语言模型(LLM)应用设计的定制可观测性解决方案。这一方案使您能够全面了解成本、性能、流量和安全性方面的情况。更多关于 GreptimeAI 的产品细节,请参阅 此文。值得一提的是,GreptimeAI 的存储解决方案构建于开源时序数据库 GreptimeDB 之上。

哪些 OpenAI 的模块会被监控

  • chat

  • completion

  • audio

  • images

支持的场景

  • async

  • stream

  • with_raw_response

  • retry

  • error

用户指南

安装 GreptimeAI

注册 GreptimeAI

首先,注册 GreptimeAI 以创建一个服务,并获取以下参数:


  • host

  • database

  • token

配置

在环境变量中设置 GreptimeAI 需要的配置:


如果你希望直接传递参数,可以这么做:

Example

以下是一个简单的示例,说明如何在启用了 GreptimeAI 跟踪的情况下调用 OpenAI chat completion 模块。

What does it look like in GreptimeAI

Overview:



下图展示了带有多个 span 的追踪细节:



用户头像

Greptime

关注

专注于 Infra 技术分享 2022-09-23 加入

分布式、高性能、存储计算分离的开源云原生时序数据库

评论

发布
暂无评论
解锁 AI 潜力 | 使用 GreptimeAI 深入观测 OpenAI 行为和用量_数据库_Greptime_InfoQ写作社区