go监控方案(3) -- statsd

statsd

statsd也是一款数据采集工具。

statsd狭义来讲，其实就是一个监听UDP（默认）或者TCP的守护程序，根据简单的协议收集statsd客户端发送来的数据，聚合之后，定时推送给后端，如graphite和influxdb等，再通过grafana等展示。

statsd 其实也有很多第三方包用来收集数据，但是statsd支持的类型较少，度量只有四种，所以我只用statsd作为传输协议进行数据传输。所以没有直接使用下面介绍的这4个第三方包

git 官方介绍了4种，地址：https://github.com/statsd/statsd/wiki#client-implementations

statsd

• statsd: https://github.com/alexcesaro/statsd
• statsd: https://github.com/quipo/statsd
• g2s : https://github.com/peterbourgon/g2s
• go-statsd-client: https://github.com/cactus/go-statsd-client (直接使用推荐这个)

协议

<bucket>:<value>|<type>[|@sample_rate]

• bucket是一个metric的标识，可以看成一个metric的变量。
• value: metric的值，通常是数字。
• metric的类型，通常有timer、counter、gauge和set四种。
• sample_rate

sample_rate

如果数据上报量过大，很容易溢满statsd。所以适当的降低采样，减少server负载。

客户端减少数据上报的频率，然后在发送的数据中加入采样频率，如0.1。statsd server收到上报的数据之后，如cnt=10，得知此数据是采样的数据， 然后flush的时候，按采样频率恢复数据来发送给backend，即flush的时候，数据为cnt=10/0.1=100，而不是容易误解的10*0.1=1。

这个参数的主要作用是降低网络的传输带宽，例如 0.5 表示 UDP 包减少一半，其代价是降低了精确度。对于客户端，如果设置了 0.5 ，也就意味着只有原先 50% 的时间发送统计值；在服务端，会根据采样值进行一些修正，简单来说就是乘以 2 。

实际上，在客户端每次调用发送接口会计算其发送概率。

UDP 和 TCP

statsd可配置相应的server为UDP和TCP。默认为UDP

• UDP不需要建立连接，速度很快，不会影响应用程序的性能。
• “fire-and-forget”机制，就算statsd server挂了，也不会造成应用程序crash。

UDP更适合于上报频率比较高的场景，就算丢几个包也无所谓，对于一些一天已上报的场景，任何一个丢包都影响很大。

网络环境比较差的场景，适合用TCP，会有相应的重发，确保数据可靠

建议使用UDP。TCP还是有许多弊端的。

默认端口

statsd 默认监听8125来收集udp包。

port: 8125

指标 metric

statsd 支持的数据类型：

metric_types

Counting: gorets:1|c
Sampling: gorets:1|c|@0.1
Timing: glork:320|ms|@0.1
Gauges: gaugor:333|g
Sets: uniques:765|s

Multi-Metric Packets

gorets:1|c\nglork:320|ms\ngaugor:333|g\nuniques:765|s

Counting

counter类型的指标，用来计数。在一个flush区间，把上报的值累加。值可以是正数或者负数。

user.logins:10|c        // user.logins + 10
user.logins:-1|c        // user.logins - 1 
user.logins:10|c|@0.1   // user.logins + 100
                        // users.logins = 10-1+100=109

Timing

timers用来记录一个操作的耗时，单位ms。statsd会记录平均值（mean）、最大值（upper）、最小值（lower）、累加值（sum）、平方和（sum_squares）、个数（count）以及部分百分值。

rpt:100|g

如下是在一个flush期间，发送了一个rpt的timer值100。以下是记录的值。

count_80: 1,    
mean_80: 100,
upper_80: 100,
sum_80: 100,    
sum_squares_80: 10000, 
std: 0,     
upper: 100,
lower: 100,
count: 1,
count_ps: 0.1,
sum: 100,
sum_squares: 10000,
mean: 100,
median: 100 

Gauges

gauge是任意的一维标量值。gague值不会像其它类型会在flush的时候清零，而是保持原有值。statsd只会将flush区间内最后一个值发到后端。另外，如果数值前加符号，会与前一个值累加。

age:10|g    // age 为 10
age:+1|g    // age 为 10 + 1 = 11
age:-1|g    // age为 11 - 1 = 10
age:5|g     // age为5,替代前一个值

Sets

记录flush期间，不重复的值。

可以针对某一个集合进行统计，统计总共出现了多少种类的值。

request:1|s  // user 1
request:2|s  // user1 user2
request:1|s  // user1 user2