【從零開始安裝kubernetes-1.7.3】3.安裝MASTER與NODE組件（CA配置）

Shisui 發布于2019-06-28 15:57 / 662人閱讀

摘要：拷貝到目錄拷貝到其他配置首次啟動時向發送請求，驗證請求中的是否與它配置的一致，如果一致則自動為生成證書和秘鑰。

緊接上一章

8. MASTER節點配置 8.1 安裝組件

上傳kubernetes-server-linux-amd64.tar.gz

tar -xzvf kubernetes-server-linux-amd64.tar.gz
cd kubernetes
cp -r server/bin/{kube-apiserver,kube-controller-manager,kube-scheduler,kubectl,kube-proxy,kubelet} /usr/local/bin/

適用所有Master

8.2 創建kubectl與apiserver通信證書

cd /opt/ssl
#vi admin-csr.json
{
  "CN": "admin",
  "hosts": [],
  "key": {
    "algo": "rsa",
    "size": 2048
  },
  "names": [
    {
      "C": "CN",
      "ST": "ShangHai",
      "L": "ShangHai",
      "O": "system:masters",
      "OU": "System"
    }
  ]
}
# 生成 admin 證書和私鑰
cd /opt/ssl/
cfssl gencert -ca=/etc/kubernetes/ssl/ca.pem 
  -ca-key=/etc/kubernetes/ssl/ca-key.pem 
  -config=/etc/kubernetes/ssl/config.json 
  -profile=kubernetes admin-csr.json | cfssljson -bare admin
# 查看生成
[root@localhost ssl]# ls -ltr admin*
-rw-r--r--. 1 root root  231 Jul 27 17:06 admin-csr.json
-rw-r--r--. 1 root root 1407 Jul 27 17:07 admin.pem
-rw-------. 1 root root 1679 Jul 27 17:07 admin-key.pem
-rw-r--r--. 1 root root 1013 Jul 27 17:07 admin.csr
#拷貝至證書目錄
cp admin*.pem /etc/kubernetes/ssl/

8.3 配置kubectl的kubeconfig文件

配置 kubernetes 集群

kubectl config set-cluster kubernetes 
  --certificate-authority=/etc/kubernetes/ssl/ca.pem 
  --embed-certs=true 
  --server=https://192.168.116.123:6443

配置客戶端認證

kubectl config set-credentials admin 
  --client-certificate=/etc/kubernetes/ssl/admin.pem 
  --embed-certs=true 
  --client-key=/etc/kubernetes/ssl/admin-key.pem

kubectl config set-context kubernetes 
  --cluster=kubernetes 
  --user=admin

kubectl config use-context kubernetes

分發kubectl config文件

mkdir /root/.kube
scp /root/.kube/config root@192.168.116.124:/root/.kube/

8.4 生成kubernetes證書和私鑰。

cd /opt/ssl
vi kubernetes-csr.json
[root@k8s-master-1 ssl]# cat kubernetes-csr.json
{
  "CN": "kubernetes",
  "hosts": [
    "127.0.0.1",
    "192.168.116.123",
    "192.168.116.124",
    "10.254.0.1",
    "kubernetes",
    "kubernetes.default",
    "kubernetes.default.svc",
    "kubernetes.default.svc.cluster",
    "kubernetes.default.svc.cluster.local"
  ],
  "key": {
    "algo": "rsa",
    "size": 2048
  },
  "names": [
    {
      "C": "CN",
      "ST": "ShangHai",
      "L": "ShangHai",
      "O": "k8s",
      "OU": "System"
    }
  ]
}

這里 hosts 字段中三個 IP 分別為 127.0.0.1 本機， 192.168.116.x為 Master 的IP， 10.254.0.1 為 kubernetes SVC 的 IP，一般是部署網絡的第一個IP , 如: 10.254.0.1 ，在啟動完成后，我們使用 kubectl get svc ，就可以查看到。

cfssl gencert -ca=/etc/kubernetes/ssl/ca.pem 
  -ca-key=/etc/kubernetes/ssl/ca-key.pem 
  -config=/etc/kubernetes/ssl/config.json 
  -profile=kubernetes kubernetes-csr.json | cfssljson -bare kubernetes

拷貝到目錄

cp -r kubernetes* /etc/kubernetes/ssl/

拷貝到其他Master

scp -r kubernetes* root@192.168.116.124:/etc/kubernetes/ssl/

8.5 配置kube-apiserver

kubelet 首次啟動時向 kube-apiserver 發送 TLS Bootstrapping 請求，kube-apiserver 驗證 kubelet 請求中的 token 是否與它配置的 token 一致，如果一致則自動為 kubelet生成證書和秘鑰。

生成token

head -c 16 /dev/urandom | od -An -t x | tr -d " "
結果：ed7b961401dc857ead33f9fb38ab62bc

創建token.csv文件

[root@k8s-master-1 ssl]# cat token.csv 
ed7b961401dc857ead33f9fb38ab62bc,kubelet-bootstrap,10001,"system:kubelet-bootstrap"

拷貝至目錄

cp token.csv /etc/kubernetes/

8.6 創建kube-apiserver.service文件

開啟RBAC

#vi /usr/lib/systemd/system/kube-apiserver.service
[Unit]
Description=Kubernetes API Server
Documentation=https://github.com/GoogleCloudPlatform/kubernetes
After=network.target

[Service]
User=root
ExecStart=/usr/bin/kube-apiserver 
  --admission-control=NamespaceLifecycle,LimitRanger,ServiceAccount,DefaultStorageClass,ResourceQuota 
  --advertise-address=192.168.116.123 
  --allow-privileged=true 
  --apiserver-count=3 
  --audit-log-maxage=30 
  --audit-log-maxbackup=3 
  --audit-log-maxsize=100 
  --audit-log-path=/var/lib/audit.log 
  --authorization-mode=RBAC 
  --bind-address=192.168.116.123 
  --client-ca-file=/etc/kubernetes/ssl/ca.pem 
  --enable-swagger-ui=true 
  --etcd-cafile=/etc/kubernetes/ssl/ca.pem 
  --etcd-certfile=/etc/kubernetes/ssl/kubernetes.pem 
  --etcd-keyfile=/etc/kubernetes/ssl/kubernetes-key.pem 
  --etcd-servers=https://192.168.116.123:2379 
  --event-ttl=1h 
  --kubelet-https=true 
  --insecure-bind-address=192.168.116.123 
  --runtime-config=rbac.authorization.k8s.io/v1alpha1 
  --service-account-key-file=/etc/kubernetes/ssl/ca-key.pem 
  --service-cluster-ip-range=10.254.0.0/16 
  --service-node-port-range=30000-32000 
  --tls-cert-file=/etc/kubernetes/ssl/kubernetes.pem 
  --tls-private-key-file=/etc/kubernetes/ssl/kubernetes-key.pem 
  --experimental-bootstrap-token-auth 
  --token-auth-file=/etc/kubernetes/token.csv 
  --v=2
Restart=on-failure
RestartSec=5
Type=notify
LimitNOFILE=65536

[Install]
WantedBy=multi-user.target

這里面要注意的是 --service-node-port-range=30000-32000
這個地方是映射外部端口時的端口范圍，隨機映射也在這個范圍內映射，指定映射端口必須也在這個范圍內。

systemctl daemon-reload
systemctl enable kube-apiserver
systemctl start kube-apiserver
systemctl status kube-apiserver

8.7 配置kube-controller-manager

創建 kube-controller-manager.service 文件

# vi /usr/lib/systemd/system/kube-controller-manager.service
[Unit]
Description=Kubernetes Controller Manager
Documentation=https://github.com/GoogleCloudPlatform/kubernetes

[Service]
ExecStart=/usr/bin/kube-controller-manager 
  --address=127.0.0.1 
  --master=http://192.168.116.123:8080 
  --allocate-node-cidrs=true 
  --service-cluster-ip-range=10.254.0.0/16 
  --cluster-cidr=10.254.0.0/16 
  --cluster-name=kubernetes 
  --cluster-signing-cert-file=/etc/kubernetes/ssl/ca.pem 
  --cluster-signing-key-file=/etc/kubernetes/ssl/ca-key.pem 
  --service-account-private-key-file=/etc/kubernetes/ssl/ca-key.pem 
  --root-ca-file=/etc/kubernetes/ssl/ca.pem 
  --leader-elect=true 
  --v=2
Restart=on-failure
RestartSec=5
[Install]
WantedBy=multi-user.target

systemctl daemon-reload
systemctl enable kube-controller-manager
systemctl start kube-controller-manager
systemctl status kube-controller-manager

8.9 配置kube-scheduler

創建 kube-scheduler.service 文件

vi /usr/lib/systemd/system/kube-scheduler.service
[Unit]
Description=Kubernetes Scheduler
Documentation=https://github.com/GoogleCloudPlatform/kubernetes

[Service]
ExecStart=/usr/bin/kube-scheduler 
  --address=127.0.0.1 
  --master=http://192.168.116.123:8080 
  --leader-elect=true 
  --v=2
Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target

啟動kube-schedular

systemctl daemon-reload
systemctl enable kube-scheduler
systemctl start kube-scheduler
systemctl status kube-scheduler

驗證MASTER節點

kubectl get componentstatuses

其他MASTER節點：

證書包含了所有Master節點IP，可以拷貝
Token.csv可以拷貝
Apiserver、controller-manager、scheduler的service文件均可以拷貝后更改IP

9 NODE節點配置

上傳 kubernetes-client-linux-amd64.tar.gz

tar -zxvf kubernetes-client-linux-amd64.tar.gz
cp kubernetes/client/bin/* /usr/local/bin/
chmod a+x /usr/local/bin/kube*

這里說明一下，server包里包括了client包里的所有二進制程序，這里也可以直接將server包里的相同文件拷貝出來，不需要client這個包。

9.1 配置kubelet

kubelet 啟動時向 kube-apiserver 發送 TLS bootstrapping 請求，需要先將 bootstrap token 文件中的 kubelet-bootstrap 用戶賦予 system:node-bootstrapper 角色，然后 kubelet 才有權限創建認證請求(certificatesigningrequests)。

先創建認證請求 user 為 master 中 token.csv 文件里配置的用戶只需在一個node中創建一次就可以
Master節點執行

kubectl create clusterrolebinding kubelet-bootstrap --clusterrole=system:node-bootstrapper --user=kubelet-bootstrap

配置集群

kubectl config set-cluster kubernetes 
  --certificate-authority=/etc/kubernetes/ssl/ca.pem 
  --embed-certs=true 
  --server=https://192.168.116.123:6443 
  --kubeconfig=bootstrap.kubeconfig

配置客戶端認證

kubectl config set-credentials kubelet-bootstrap 
  --token=ed7b961401dc857ead33f9fb38ab62bc 
  --kubeconfig=bootstrap.kubeconfig

配置關聯

kubectl config set-context default 
  --cluster=kubernetes 
  --user=kubelet-bootstrap 
  --kubeconfig=bootstrap.kubeconfig

配置默認關聯

kubectl config use-context default --kubeconfig=bootstrap.kubeconfig

拷貝生成的 bootstrap.kubeconfig 文件

mv bootstrap.kubeconfig /etc/kubernetes/

9.2 創建kubelet.service文件

創建kubelet目錄

mkdir /var/lib/kubelet
vi /usr/lib/systemd/system/kubelet.service

[Unit]
Description=Kubernetes Kubelet
Documentation=https://github.com/GoogleCloudPlatform/kubernetes
After=docker.service
Requires=docker.service

[Service]
WorkingDirectory=/var/lib/kubelet
ExecStart=/usr/bin/kubelet 
  --address=192.168.116.123 
  --hostname-override=192.168.116.123 
  --pod-infra-container-image=192.168.116.123:80/library/pod-infrastructure:latest 
  --experimental-bootstrap-kubeconfig=/etc/kubernetes/bootstrap.kubeconfig 
  --kubeconfig=/etc/kubernetes/kubelet.kubeconfig 
  --require-kubeconfig 
  --cert-dir=/etc/kubernetes/ssl 
  --cluster_dns=10.254.0.2 
  --cluster_domain=cluster.local 
  --hairpin-mode promiscuous-bridge 
  --allow-privileged=true 
  --serialize-image-pulls=false 
  --logtostderr=true 
  --v=2
Restart=on-failure
RestartSec=5

[Install]
WantedBy=multi-user.target

如上配置:
198.15.5.30 為本機的IP
10.254.0.2 預分配的 dns 地址
cluster.local. 為 kubernetes 集群的 domain
jicki/pause-amd64:3.0 這個是 pod 的基礎鏡像，既 gcr 的 gcr.io/google_containers/pause-amd64:3.0 鏡像，下載下來修改為自己的倉庫中的比較快。

啟動kubelet

systemctl daemon-reload
systemctl enable kubelet
systemctl start kubelet
systemctl status kubelet

9.3 配置TLS認證。

Master節點查看 csr 的名稱

kubectl get csr

增加認證

kubectl certificate approve node-csr-OL4lCAbeWUnCOFyPwBPVG2v4aXNDcfJDYtPFaGL7ApU

然后狀態就會變成這樣

9.4 驗證Nodes

kubectl get nodes

成功以后Node節點會自動生成配置文件與密鑰
配置文件

ls -ltr /etc/kubernetes/kubelet.kubeconfig

密鑰文件

ls -ltr /etc/kubernetes/ssl/kubelet*

9.5 配置kube-proxy

證書方面由于我們node端沒有裝 cfssl
我們回到 master 端機器去配置證書，然后拷貝過來

cd /opt/ssl
vi kube-proxy-csr.json
{
  "CN": "system:kube-proxy",
  "hosts": [],
  "key": {
    "algo": "rsa",
    "size": 2048
  },
  "names": [
    {
      "C": "CN",
      "ST": "ShangHai",
      "L": "ShangHai",
      "O": "k8s",
      "OU": "System"
    }
  ]
}

生成kube-proxy證書和私鑰

cfssl gencert -ca=/etc/kubernetes/ssl/ca.pem 
  -ca-key=/etc/kubernetes/ssl/ca-key.pem 
  -config=/etc/kubernetes/ssl/config.json 
  -profile=kubernetes  kube-proxy-csr.json | cfssljson -bare kube-proxy

查看生成：

ls -ltr kube-proxy*
kube-proxy.csr  kube-proxy-csr.json  kube-proxy-key.pem  kube-proxy.pem

拷貝到目錄：

cp kube-proxy* /etc/kubernetes/ssl/

拷貝到node節點：
scp kube-proxy* root@198.15.5.30:/etc/kubernetes/ssl/

9.6創建kube-proxy kubeconfig文件

Node節點配置集群

kubectl config set-cluster kubernetes 
  --certificate-authority=/etc/kubernetes/ssl/ca.pem 
  --embed-certs=true 
  --server=https://192.168.116.123:6443 
  --kubeconfig=kube-proxy.kubeconfig

配置客戶端認證

kubectl config set-credentials kube-proxy 
  --client-certificate=/etc/kubernetes/ssl/kube-proxy.pem 
  --client-key=/etc/kubernetes/ssl/kube-proxy-key.pem 
  --embed-certs=true 
  --kubeconfig=kube-proxy.kubeconfig

配置關聯

kubectl config set-context default 
  --cluster=kubernetes 
  --user=kube-proxy 
  --kubeconfig=kube-proxy.kubeconfig

配置默認關聯

kubectl config use-context default --kubeconfig=kube-proxy.kubeconfig

拷貝到目錄

mv kube-proxy.kubeconfig /etc/kubernetes/

9.4創建kube-proxy.service文件

創建 kube-proxy 目錄

mkdir -p /var/lib/kube-proxy
vi /usr/lib/systemd/system/kube-proxy.service
[Unit]
Description=Kubernetes Kube-Proxy Server
Documentation=https://github.com/GoogleCloudPlatform/kubernetes
After=network.target

[Service]
WorkingDirectory=/var/lib/kube-proxy
ExecStart=/usr/bin/kube-proxy 
  --bind-address=192.168.116.123 
  --hostname-override=192.168.116.5.123 
  --cluster-cidr=10.254.0.0/16 
  --kubeconfig=/etc/kubernetes/kube-proxy.kubeconfig 
  --logtostderr=true 
  --v=2
Restart=on-failure
RestartSec=5
LimitNOFILE=65536

[Install]
WantedBy=multi-user.target

啟動kube-proxy

systemctl daemon-reload
systemctl enable kube-proxy
systemctl start kube-proxy
systemctl status kube-proxy

其他NODE節點也按這個配置。

云服務器 GPU云服務器安裝與配置安裝與配置詳解 laravel安裝與配置 hadoop安裝與配置

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/27019.html

【從零開始安裝kubernetes-1.7.3】3.安裝MASTER與NODE組件（CA配置）

摘要：拷貝到目錄拷貝到其他配置首次啟動時向發送請求，驗證請求中的是否與它配置的一致，如果一致則自動為生成證書和秘鑰。緊接上一章 8. MASTER節點配置 8.1 安裝組件上傳kubernetes-server-linux-amd64.tar.gz tar -xzvf kubernetes-server-linux-amd64.tar.gz cd kubernetes cp -r ser...

xiangchaobin 2019-07-01 16:34 評論0 收藏0
【從零開始安裝kubernetes-1.7.3】1.環境說明以及etcd配置（CA認證）

摘要：所有主機關閉防火墻關閉所有節點主機防火墻關閉防火墻開機自啟動關閉防火墻啟動驗證集群狀態晚上回去更新第二篇從零開始安裝以及的配置以及作用 1.環境說明主機名 ip 說明 master-123(復用node) 192.168.116.123 etcd flannel kube-apiserver kube-controller-manager kube-scheduler ku...

Gilbertat 2019-07-01 16:34 評論0 收藏0
【從零開始安裝kubernetes-1.7.3】1.環境說明以及etcd配置（CA認證）

摘要：所有主機關閉防火墻關閉所有節點主機防火墻關閉防火墻開機自啟動關閉防火墻啟動驗證集群狀態晚上回去更新第二篇從零開始安裝以及的配置以及作用 1.環境說明主機名 ip 說明 master-123(復用node) 192.168.116.123 etcd flannel kube-apiserver kube-controller-manager kube-scheduler ku...

Doyle 2019-06-28 15:55 評論0 收藏0
【從零開始安裝kubernetes-1.7.3】2.flannel、docker以及Harbor的配

摘要：安裝配置安裝上傳安裝如果缺少依賴，注解是由于沒使用，所以必須在里配置這個參數，才能訪問。但是由于國內對國外網絡訪問的不可靠以及為了速度上的優化和管理上的方便，我們選擇自己搭建一個私有的倉庫，也就是。 5 Flannel網絡 5.1 準備工作上傳二進制文件 tar -zxvf flannel-v0.8.0-rc1-linux-amd64.tar.gz cp flanneld...

shaonbean 2019-07-01 16:34 評論0 收藏0