概述
当用户同时需要采集大量不同技术栈的指标、日志或者链路数据时或者希望在其他平台或应用中使用 DataKit 所采集并上报的数据时,Datakit 为用户提供了命令行交互模式的快速数据查询的“DQL 查询”又提供了以 API 的形式去使用 DataKit 所收集到的数据的 “DataKit API”。
本指南可以为您介绍 DataKit 所提供的 “DQL 查询”和 "DataKit API" 的使用。
前置条件
您需要先创建一个观测云账号,并在您的主机上安装 DataKit。
交互模型数据查询 “DQL 查询”
DataKit 支持以交互式方式执行 DQL 查询,在交互模式下,DataKit 自带语句补全功能:
datakit --dql # 或者 datakit -Qdql > cpu limit 1-----------------[1.cpu ]----------------- cpu 'cpu-total' host'tan-air.local' time2022-01-13 16:06:03 +0800 CST usage_irq 0 usage_idle 56.928839 usage_nice 0 usage_user 19.825218 usage_guest 0 usage_steal 0 usage_total 43.071161 usage_iowait 0 usage_system 23.245943 usage_softirq 0usage_guest_nice 0---------1 rows, cost 13.55119ms
复制代码
单次执行 DQL 查询
DataKit 支持运行单条 DQL 语句的查询功能:
# 单次执行一条查询语句datakit --run-dql 'cpu limit 1'
# 将执行结果写入 CSV 文件datakit --run-dql 'O::HOST:(os, message)' --csv="path/to/your.csv"
# 强制覆盖已有 CSV 文件datakit --run-dql 'O::HOST:(os, message)' --csv /path/to/xxx.csv --force
# 将结果写入 CSV 的同时,在终端也显示查询结果datakit --run-dql 'O::HOST:(os, message)' --csv="path/to/your.csv" --vvv
复制代码
导出的 CSV 文件样式示例:
name,active,available,available_percent,free,host,timemem,2016870400,2079637504,24.210166931152344,80498688,achen.local,1635242524385mem,2007961600,2032476160,23.661136627197266,30900224,achen.local,1635242534385mem,2014437376,2077097984,24.18060302734375,73502720,achen.local,1635242544382
复制代码
DQL 查询结果 JSON 化
DQL 的查询结果可以直接以 JSON 形式输出结果,但 JSON 模式下,不会输出一些统计信息,如返回行数、时间消耗等(以保证 JSON 可直接解析)
datakit --run-dql 'O::HOST:(os, message)' --jsondatakit -Q --json
# 如果字段值是 JSON 字符串,则自动做 JSON 美化(注意:JSON 模式下(即 --json),`--auto-json` 选项无效)datakit --run-dql 'O::HOST:(os, message)' --auto-json-----------------[ r1.HOST.s1 ]-----------------message ----- json ----- # JSON 开始处有明显标志,此处 message 为字段名{ "host":{ "meta":{ "host_name":"www", .... # 此处省略长文本 "config":{ "ip":"10.100.64.120", "enable_dca": false, "http_listen":"localhost:9529", "api_token":"tkn_f2b9920f05d84d6bb5b14d9d39db1dd3" }}----- end of json ----- # JSON 结束处有明显标志 os 'darwin' time2022-01-13 16:56:22 +0800 CST---------8 rows, 1 series, cost 4ms
复制代码
查询特定工作空间的数据
DQL 查询可以通过指定不同的 Token 来查询其它工作空间的数据:
datakit --run-dql 'O::HOST:(os, message)' --token <your-token>datakit -Q --token <your-token>
复制代码
DataKit API
DataKit 以 JSON 数据类型为返回结果的,Http API 的数据提供能力,目前支持的 API 包括
写入数据
http://{DatakitIP}/v1/write/:category
category 支持:日志数据、指标数据、对象数据、自定义对象数据、RUM 数据等
检测 Datakit 运行
http://{DatakitIP}/v1/ping
查看采集器错误
http://{DatakitIP}/v1/lasterror
查看工作空间信息
http://{DatakitIP}/v1/workspace
数据查询
http://{DatakitIP}/v1/query/raw
创建或更新对象的 labels
http://{DatakitIP}/v1/object/labels | POST
删除对象的 labels
http://{DatakitIP}/v1/object/labels | DELETE
评论