我尝试安装Kubernetes
with kubeadm
在 3 个虚拟机上Debian
我的笔记本电脑上的操作系统,一个作为主节点,另外两个作为工作节点。我完全按照教程做的kubernetes.io建议。我用命令初始化了集群kubeadm init --pod-network-cidr=10.244.0.0/16
并与相应的工人一起加入kube join
命令。我安装了Flannel
作为带有命令的网络覆盖kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
.
命令的响应kubectl get nodes
看起来不错:
NAME STATUS ROLES AGE VERSION INTERNAL-IP EXTERNAL-IP OS-IMAGE
k8smaster Ready master 20h v1.18.3 192.168.1.100 <none> Debian GNU/Linux 10 (buster) 4.19.0-9-amd64 docker://19.3.9
k8snode1 Ready <none> 20h v1.18.3 192.168.1.101 <none> Debian GNU/Linux 10 (buster) 4.19.0-9-amd64 docker://19.3.9
k8snode2 Ready <none> 20h v1.18.3 192.168.1.102 <none> Debian GNU/Linux 10 (buster) 4.19.0-9-amd64 docker://19.3.9
命令的响应kubectl get pods --all-namespaces
没有显示任何错误:
NAMESPACE NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
kube-system coredns-66bff467f8-7hlnp 1/1 Running 9 20h 10.244.0.22 k8smaster <none> <none>
kube-system coredns-66bff467f8-wmvx4 1/1 Running 11 20h 10.244.0.23 k8smaster <none> <none>
kube-system etcd-k8smaster 1/1 Running 11 20h 192.168.1.100 k8smaster <none> <none>
kube-system kube-apiserver-k8smaster 1/1 Running 9 20h 192.168.1.100 k8smaster <none> <none>
kube-system kube-controller-manager-k8smaster 1/1 Running 11 20h 192.168.1.100 k8smaster <none> <none>
kube-system kube-flannel-ds-amd64-9c5rr 1/1 Running 17 20h 192.168.1.102 k8snode2 <none> <none>
kube-system kube-flannel-ds-amd64-klw2p 1/1 Running 21 20h 192.168.1.101 k8snode1 <none> <none>
kube-system kube-flannel-ds-amd64-x7vm7 1/1 Running 11 20h 192.168.1.100 k8smaster <none> <none>
kube-system kube-proxy-jdfzg 1/1 Running 11 19h 192.168.1.101 k8snode1 <none> <none>
kube-system kube-proxy-lcdvb 1/1 Running 6 19h 192.168.1.102 k8snode2 <none> <none>
kube-system kube-proxy-w6jmf 1/1 Running 11 20h 192.168.1.100 k8smaster <none> <none>
kube-system kube-scheduler-k8smaster 1/1 Running 10 20h 192.168.1.100 k8smaster <none> <none>
然后我尝试创建一个POD
用命令kubectl apply -f podexample.yml
包含以下内容:
apiVersion: v1
kind: Pod
metadata:
name: example
spec:
containers:
- name: nginx
image: nginx
Command kubectl get pods -o wide
表明POD
在工作节点1上创建并且位于Running
state.
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
example 1/1 Running 0 135m 10.244.1.14 k8snode1 <none> <none>
问题是,当我尝试连接到 pod 时curl -I 10.244.1.14
命令我在主节点中得到以下响应:
curl: (7) Failed to connect to 10.244.1.14 port 80: Connection timed out
但工作节点 1 上的相同命令成功响应:
HTTP/1.1 200 OK
Server: nginx/1.17.10
Date: Sat, 23 May 2020 19:45:05 GMT
Content-Type: text/html
Content-Length: 612
Last-Modified: Tue, 14 Apr 2020 14:19:26 GMT
Connection: keep-alive
ETag: "5e95c66e-264"
Accept-Ranges: bytes
我想也许那是因为不知何故kube-proxy
不是在主节点上运行,而是在命令上运行ps aux | grep kube-proxy
显示它正在运行。
root 16747 0.0 1.6 140412 33024 ? Ssl 13:18 0:04 /usr/local/bin/kube-proxy --config=/var/lib/kube-proxy/config.conf --hostname-override=k8smaster
然后我用命令检查内核路由表ip route
它显示数据包的目的地是10.244.1.0/244
被路由到法兰绒。
default via 192.168.1.1 dev enp0s3 onlink
10.244.0.0/24 dev cni0 proto kernel scope link src 10.244.0.1
10.244.1.0/24 via 10.244.1.0 dev flannel.1 onlink
10.244.2.0/24 via 10.244.2.0 dev flannel.1 onlink
169.254.0.0/16 dev enp0s3 scope link metric 1000
172.17.0.0/16 dev docker0 proto kernel scope link src 172.17.0.1 linkdown
192.168.1.0/24 dev enp0s3 proto kernel scope link src 192.168.1.100
对我来说一切看起来都很好,我不知道我还应该检查什么来看看有什么问题。我错过了什么吗?
UPDATE1:
如果我开始一个NGINX
工作节点1上的容器并将其80端口映射到工作节点1主机的80端口,然后我可以通过命令连接到它curl -I 192.168.1.101
来自主节点。另外,我没有添加任何 iptable 规则,也没有像这样的防火墙守护进程UFW
安装在机器上。所以,我认为这不是防火墙问题。
UPDATE2:
我重新创建了集群并使用canal
代替flannel
,仍然没有运气。
UPDATE3:
我使用以下命令查看了 canal 和 flannel 日志,一切似乎都很好:
kubectl logs -n kube-system canal-c4wtk calico-node
kubectl logs -n kube-system canal-c4wtk kube-flannel
kubectl logs -n kube-system canal-b2fkh calico-node
kubectl logs -n kube-system canal-b2fkh kube-flannel
UPDATE4:
为了完整起见,这是提到的容器的日志.
UPDATE5:
我尝试安装特定版本的 kubernetes 组件和 docker,以使用以下命令检查是否存在与版本控制不匹配相关的问题:
sudo apt-get install docker-ce=18.06.1~ce~3-0~debian
sudo apt-get install -y kubelet=1.12.2-00 kubeadm=1.12.2-00 kubectl=1.12.2-00 kubernetes-cni=0.6.0-00
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/bc79dd1505b0c8681ece4de4c0d86c5cd2643275/Documentation/kube-flannel.yml
但一切都没有改变。
我什至更新了文件/etc/bash.bashrc
在所有节点上清除任何代理设置只是为了确保它与代理无关:
export HTTP_PROXY=
export http_proxy=
export NO_PROXY=127.0.0.0/8,192.168.0.0/16,172.0.0.0/8,10.0.0.0/8
并向 docker systemd 文件添加了以下环境/lib/systemd/system/docker.service
在所有节点上:
Environment="HTTP_PROXY="
Environment="NO_PROXY="
然后重新启动所有节点,当我登录时,仍然得到curl: (7) Failed to connect to 10.244.1.12 port 80: Connection timed out
UPDATE6:
我的事件尝试在中设置集群CentOS
机器。认为也许有一些相关的东西Debian
。我也停下来并禁用firewalld
为了确保防火墙不会引起问题,但我再次得到了完全相同的结果:Failed to connect to 10.244.1.2 port 80: Connection timed out
.
现在我唯一怀疑的是,也许这一切都是因为VirtualBox
和虚拟机网络配置?虚拟机连接到Bridge Adapter
连接到我的无线网络接口。
UPDATE7:
我进入创建的 POD 内部,发现 POD 内部没有互联网连接。因此,我创建了另一个 PODNGINX
具有类似命令的图像curl
, wget
, ping
and traceroute
并尝试过curl https://www.google.com -I
并得到结果:curl: (6) Could not resolve host: www.google.com
。我检查了/etc/resolv.conf
文件发现POD内部的DNS服务器地址为10.96.0.10
。将 DNS 更改为8.8.8.8
still curl https://www.google.com -I
结果是curl: (6) Could not resolve host: www.google.com
。尝试 ping8.8.8.8
结果是56 packets transmitted, 0 received, 100% packet loss, time 365ms
。对于我尝试的最后一步traceroute 8.8.8.8
并得到以下结果:
1 10.244.1.1 (10.244.1.1) 0.116 ms 0.056 ms 0.052 ms
2 * * *
3 * * *
4 * * *
5 * * *
6 * * *
7 * * *
8 * * *
9 * * *
10 * * *
11 * * *
12 * * *
13 * * *
14 * * *
15 * * *
16 * * *
17 * * *
18 * * *
19 * * *
20 * * *
21 * * *
22 * * *
23 * * *
24 * * *
25 * * *
26 * * *
27 * * *
28 * * *
29 * * *
30 * * *
我不知道 POD 中没有互联网连接这一事实与我无法从部署 POD 的节点以外的节点连接到集群内的 POD 的问题有什么关系。