minikube 安装 Kubernetes Dashboard 并集成 Heapster

哎_小羊

修改于 2019-10-11 14:48:02

5.2K2

修改于 2019-10-11 14:48:02

文章被收录于专栏：哎_小羊

Kubernetes Dashboard 介绍
环境、软件准备
Kubernetes Dashboard 安装
Heapster 插件安装
简单演示使用 Dashboard

1、Kubernetes Dashboard 介绍

Kubernetes Dashboard 它是官方提供的用户管理 Kubernetes 集群可视化工具。通过它我们可以直观的看到集群各资源、工作负载、服务发现与负载均衡以及配置存储等信息。同时也可以安装其他插件来图形化展示各资源使用率信息，它还在持续更新中，相信以后会有更加丰富的功能提供给我们。

2、环境、软件准备

这里安装环境同上一篇初试 minikube 本地部署运行 kubernetes 实例，在该环境中我们已经用 minikube 本地部署并运行 kubernetes 实例，这里在集成一下 Dashboard 监控系统，可以通过浏览器直观的看到集群各资源、工作负载、服务发现与负载均衡以及配置存储等信息。最后我们在 Dashboard 集成 Heapster插件，用来图形化展示各资源 CPU 使用率以及内存使用率信息。

3、Kubernetes Dashboard 安装

默认安装完了 minikube，我们会发现他会自动安装 Dashboard，但是我们通过 minikube dashboard 命令并不能在浏览器上打开 Dashboard 网页。这是啥原因呢？

$ kubectl get pods --all-namespaces
NAMESPACE     NAME                               READY     STATUS              RESTARTS   AGE
...
kube-system   kube-addon-manager-minikube        0/1       ContainerCreating   1          10s
kube-system   kube-dns-910330662-653vt           0/3       ContainerCreating   1          15s
kube-system   kubernetes-dashboard-9k5vl         0/1       ContainerCreating   1          15s
...

在通过命令，我们发现 kube-dns 和 kubernetes-dashboard 并没有启动成功，最后通过查看下日志信息 minikube logs 或 kubectl logs -f pods/kubernetes-dashboard-9k5vl -n kube-system kubectl logs -f pods/kube-dns-910330662-653vt -n kube-system，我们发现这几个服务依赖的 images 没有拉取下来，又被墙了。。。解决方案找替代 image。

替代各依赖的 images
docker pull wymr/kubernetes-dashboard-amd64-v1.6.3:v1.6.3 
docker tag wymr/kubernetes-dashboard-amd64-v1.6.3:v1.6.3 gcr.io/google_containers/kubernetes-dashboard-amd64:v1.6.3

docker pull googlecontainer/kube-addon-manager:v6.4-beta.2
docker tag googlecontainer/kube-addon-manager:v6.4-beta.2 gcr.io/google-containers/kube-addon-manager:v6.4-beta.2 

docker pull zhaoqing/k8s-dns-dnsmasq-nanny-amd64:1.14.4
docker tag zhaoqing/k8s-dns-dnsmasq-nanny-amd64:1.14.4 gcr.io/google_containers/k8s-dns-dnsmasq-nanny-amd64:1.14.4

docker pull zhaoqing/k8s-dns-kube-dns-amd64:1.14.4
docker tag zhaoqing/k8s-dns-kube-dns-amd64:1.14.4 gcr.io/google_containers/k8s-dns-kube-dns-amd64:1.14.4

docker pull zhaoqing/k8s-dns-sidecar-amd64:1.14.4
docker tag zhaoqing/k8s-dns-sidecar-amd64:1.14.4 gcr.io/google_containers/k8s-dns-sidecar-amd64:1.14.4

好了，通过替换上边几个依赖的镜像之后，稍等一会，我们就会发现服务都正常启动起来了。

$ kubectl get pods -n kube-system
NAME                                   READY     STATUS    RESTARTS   AGE
kube-addon-manager-minikube            1/1       Running   1          1d
kube-dns-910330662-653vt               3/3       Running   1          1d
kubernetes-dashboard-9k5vl             1/1       Running   1          1d

此时我们通过 minikube dashboard 或者 minikube dashboard --url 浏览器访问 dashboard 地址，就可以正常打开监控页面了。

4、Heapster 插件安装

上边默认安装后的 Kubernetes Dashboard，是无法图形化展现集群度量指标信息的，此时我们可以通过插件 Heapser，图形化展示集群的信息，这样监控页面就更加直观明了。

首先我们去 GitHub 下载 Heapster 最新稳定版代码到本地指定目录，然后通过 yaml 文件创建并启动各个服务。这里我们选择 InfluxDB 作为后端数据存储，Grafana 作为图形化展示。

$ cd /Users/wanyang3/docker/kubernetes/
$ git clone https://github.com/kubernetes/heapster.git
$ ls -l deploy/kube-config/influxdb/
total 24
-rw-r--r--  1 wanyang3  staff  2291 10 19 14:49 grafana.yaml
-rw-r--r--  1 wanyang3  staff  1162 10 20 15:01 heapster.yaml
-rw-r--r--  1 wanyang3  staff   974 10 19 14:49 influxdb.yaml

这里要注意一下，这三个 yaml 文件分别对应 heapster、influxdb 和 grafana，他们都分别需要依赖对应的 images，由于网络的问题，要替换镜像。

依赖镜像入下：
gcr.io/google_containers/heapster-amd64:v1.4.0
gcr.io/google_containers/heapster-influxdb-amd64:v1.3.3
gcr.io/google_containers/heapster-grafana-amd64:v4.4.3

替换镜像如下：
docker pull wanghkkk/heapster-amd64-v1.4.0:v1.4.0
docker pull wanghkkk/heapster-influxdb-amd64-v1.3.3:v1.3.3
docker pull wanghkkk/heapster-grafana-amd64-v4.4.3:v4.4.3

可对应上边 yaml 文件分别修改 image 为以上对应镜像，也可以 docker tag ... 改成对应镜像名。修完完毕之后，可以通过命令创建 pod 了。

$ kubectl create -f deploy/kube-config/influxdb/
delpoyment "heapster" created
service "heapster" created
deployment "monitoring-influxdb" created
service "monitoring-influxdb" created
deployment "monitoring-grafana" created
service "monitoring-grafana" created

$ kubectl get pods -n kube-system
NAME                                   READY     STATUS    RESTARTS   AGE
heapster-3848557544-1548b              1/1       Running   0          1d
kube-addon-manager-minikube            1/1       Running   0          1d
kube-dns-910330662-653vt               3/3       Running   0          1d
kubernetes-dashboard-9k5vl             1/1       Running   0          1d
monitoring-grafana-2175968514-7tl3w    1/1       Running   0          1d
monitoring-influxdb-1957622127-x28mz   1/1       Running   0          1d

好了，Heapster 插件已经启动完毕了，如果一切正常的话，稍等几分钟(也不一定哈，我的就等了差不多20分钟才出来。。。)，采集数据需要些时间，再次刷新 dashboard，就能看到集群度量指标信息将以图形化方式展现出来。

但是，如果你等了很长时间，Dashboard 还是更以前一样，没有任何变化的话，那很有可能是服务并没有正确运行起来，我们可以通过查看日志来排查原因。

$kubectl logs -f pod/monitoring-grafana-2175968514-7tl3w -n kube-system
$kubectl logs -f pod/monitoring-influxdb-1957622127-x28mz -n kube-system
$kubectl logs -f pod/heapster-3848557544-1548b -n kube-system

通过日志可以发现，在 heapster-3848557544-1548b 这个 pod 的日志中，发现有错误：

...
Failed to list *api.Node: Get https://kubernetes.default/api/v1/nodes?resourceVersion=0: 
x509: certificate is valid for server, not kubernetes.default
...

通过 heapster.yaml 文件可以看到，

command:
    - /heapster
    - --source=kubernetes:https://kubernetes.default
    - --sink=influxdb:http://monitoring-influxdb.kube-system.svc:8086

默认连接 kubernetes 的数据源地址为 https://kubernetes.default 后端存储数据服务为 http://monitoring-influxdb.kube-system.svc:8086，但是这里出现了由于认证问题获取 kubernetes 服务失败的情况。

解决方法有两种：

1、通过参考 Github Heapster 配置数据源文档 Heapster source-configuration，修改配置数据源为 --source=kubernetes:http://<address-of-kubernetes-master>:<http-port>?inClusterConfig=false，采用 insecure-port 的方式连接，因为 kube-apiserver 针对 insecure-port 接入的请求没有任何限制机制。 2、通过命令获取 kubernetes ClusterIP，直接使用 ClusterIP 也是可以的。

$ kubectl get service
NAME             TYPE        CLUSTER-IP   EXTERNAL-IP   PORT(S)        AGE
kubernetes       ClusterIP   10.0.0.1     <none>        443/TCP        1d
...

修改 heapster.yaml 

command:
    - /heapster
    #- --source=kubernetes:https://kubernetes.default
    - --source=kubernetes:https://10.0.0.1
    - --sink=influxdb:http://monitoring-influxdb.kube-system.svc:8086

以上两种方式修改配置完成后，使用 kubectl apply -f deploy/kube-config/influxdb/heapster.yaml 重新 apply 一下该 pod。再次稍等几分钟，再次刷新 dashboard，就能看到了。

5、简单演示使用 Dashboard

通过 kubernetes dashboard 我们除了可以直观的查看各种资源信息，日志信息，查看工作负荷信息，监控 CPU 以及内存资源使用率等之外，我们还可以创建部署容器应用，删除各种资源，编辑更新资源文件等等操作。下边就演示下如何在 dashboard 上创建一个容器应用部署，并且编辑更新该部署，最后删除部署信息。

5.1 创建容器应用部署

浏览器打开 kubernetes dashboard 的 Web UI 页面，点击右上角 “+ 创建”，进入创建应用页面，这里有两种方式创建应用，一种是通过页面填写应用详情，二种是上传 YAML 或 JSON 文件的方式。为了方便，我们使用第二种方式，上传本地写好的一个 redis.yaml 文件，点击上传即可。

redis.yaml 文件

apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: hello-redis
  namespace: my-kube
spec:
  replicas: 2
  template:
    metadata:
      labels:
        group: hello-scm
        my-kube: hello-redis
        k8s-app: redis
    spec:
      containers:
      - name: redis
        image: redis:latest
---
apiVersion: v1
kind: Service
metadata:
  labels:
    group: hello-scm
    kubernetes.io/cluster-service: 'true'
    kubernetes.io/name: hello-redis
  name: hello-redis
  namespace: my-kube
spec:
  ports:
  - port: 6379
    targetPort: 6379
  selector:
    k8s-app: redis

说明一下，这里我创建了一个 Deployment 名为 hello-redis，并归属到 my-kube 的命名空间下，并且指定初始副本数为 2，使用镜像 redis:latest，同时创建了一个 Service 名为 hello-redis，开放 6379 端口，并分别给他们打上对应的 tag 标签。

从上图可以看到已经创建好了 hello-redis 部署，以及初始化的2个副本容器组。

5.2 编辑更新该部署

现在我们将 hello-redis 副本容器组扩大到 4 个，点击左侧 “工作负荷 —》部署”，右侧会列出当前节点下所有的部署，点击 hello-redis 进入到部署页点击右上角 “编辑”，弹出 Yaml 文件编辑弹框，修改 replicas: 4，点击 “更新” 即可。也可以在部署列表中 hello-reids 记录最后边操作栏，点击 “查看/编辑 YAML”，弹出框修改。