Project

General

Profile

Openstack Installation TTNN » History » Version 142

Mehdi Abaakouk, 09/02/2014 11:02 AM

1 43 Laurent GUERBY
{{>toc}}
2 43 Laurent GUERBY
3 1 Mehdi Abaakouk
h1. Openstack Installation TTNN
4 1 Mehdi Abaakouk
5 44 Laurent GUERBY
h2. Liens
6 44 Laurent GUERBY
7 44 Laurent GUERBY
* http://ceph.com/docs/master/rados/operations/cache-tiering/
8 44 Laurent GUERBY
* http://ceph.com/docs/master/rados/operations/crush-map/
9 44 Laurent GUERBY
10 3 Mehdi Abaakouk
h2. Pending upstream fixes:
11 3 Mehdi Abaakouk
12 1 Mehdi Abaakouk
* build-debian-openstack-images, changes should be in next package version:
13 1 Mehdi Abaakouk
** Fix extlinux installation on jessie: http://anonscm.debian.org/cgit/openstack/openstack-debian-images.git/commit/?id=1a4ddceb99fb66f42f79e87a183d8e96952e5ac3
14 1 Mehdi Abaakouk
** Fix cloud-init setup with configdrive: http://anonscm.debian.org/cgit/openstack/openstack-debian-images.git/commit/?id=15cce87e2fa15b8952d69fb58711bfa88b21ef87
15 15 Mehdi Abaakouk
** Use Configdrive first for cloud-init: http://anonscm.debian.org/cgit/openstack/openstack-debian-images.git/commit/?id=1b1e1093d5ee525426382ad29b8219ab58f6656d
16 1 Mehdi Abaakouk
17 1 Mehdi Abaakouk
* nova: 
18 15 Mehdi Abaakouk
** Fix live-migration avec ceph and configdrive:: https://review.openstack.org/#/c/112014/, si la solution est mergé upstream, j'appliquerai le patch au package debian
19 1 Mehdi Abaakouk
20 4 Mehdi Abaakouk
h2. Installation
21 4 Mehdi Abaakouk
22 4 Mehdi Abaakouk
Le setup installé est composé de :
23 4 Mehdi Abaakouk
24 4 Mehdi Abaakouk
* 3 hyperviseurs (compute node) qui contiendront 1 ceph-mon, N ceph-osd, nova-compute (qui lance les VM), neutron-openvswitch-agent (qui configure le réseau des vms)
25 4 Mehdi Abaakouk
* 1 VM (controler node), qui contient tous les services de management d'openstack (nova, cinder, glance, neutron)
26 4 Mehdi Abaakouk
27 4 Mehdi Abaakouk
Les étapes d'installation sont les suivantes:
28 4 Mehdi Abaakouk
* Préparation manuelle de la VM de management sur un des hyperviseurs
29 4 Mehdi Abaakouk
* Installation de ceph et openstack sur toutes les machines avec puppet
30 4 Mehdi Abaakouk
* Déplacement de la VM de management d'openstack dans openstack.
31 4 Mehdi Abaakouk
32 33 Mehdi Abaakouk
h3. Information sur le puppet master:
33 33 Mehdi Abaakouk
34 33 Mehdi Abaakouk
La conf et modules puppet utilisé par tetaneutral.net ce trouve la:
35 33 Mehdi Abaakouk
36 33 Mehdi Abaakouk
> http://chiliproject.tetaneutral.net/projects/git-tetaneutral-net/repository/puppetmaster
37 33 Mehdi Abaakouk
> http://chiliproject.tetaneutral.net/projects/git-tetaneutral-net/repository/puppetmaster/revisions/master/entry/manifests/nodes/openstack.pp
38 33 Mehdi Abaakouk
39 136 Mehdi Abaakouk
Seulement c'est 3 classes sont spécifique à tetaneutral, le reste est réutilisable à condition de changer les ip, hostname, uuid et password:
40 33 Mehdi Abaakouk
41 36 Mehdi Abaakouk
> class { 'ttnn::server': }
42 36 Mehdi Abaakouk
> class { 'backup::client': }
43 36 Mehdi Abaakouk
> class { 'sexymotd': }
44 33 Mehdi Abaakouk
45 33 Mehdi Abaakouk
Les modules qui sont nécessaire pour openstack pour le reste du fichier sont:
46 33 Mehdi Abaakouk
47 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-apache.git 
48 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-apt 
49 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-ceph.git 
50 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-cinder.git 
51 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-concat.git 
52 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-glance.git 
53 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-horizon.git 
54 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-inifile.git 
55 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-keystone.git 
56 33 Mehdi Abaakouk
> https://github.com/camptocamp/puppet-kmod.git 
57 33 Mehdi Abaakouk
> https://github.com/saz/puppet-memcached.git 
58 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-mysql.git 
59 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-neutron.git 
60 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-nova.git 
61 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-rabbitmq.git 
62 33 Mehdi Abaakouk
> https://github.com/nanliu/puppet-staging.git 
63 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-stdlib.git 
64 33 Mehdi Abaakouk
> https://github.com/duritong/puppet-sysctl.git 
65 33 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-vcsrepo.git 
66 33 Mehdi Abaakouk
> https://github.com/stackforge/puppet-vswitch.git 
67 36 Mehdi Abaakouk
> https://github.com/puppetlabs/puppetlabs-xinetd.git
68 33 Mehdi Abaakouk
69 33 Mehdi Abaakouk
h3. Préparation réseaux des hosts:
70 29 Mehdi Abaakouk
71 1 Mehdi Abaakouk
72 126 Mehdi Abaakouk
Preparation des bridges openvswitch:
73 126 Mehdi Abaakouk
74 1 Mehdi Abaakouk
<pre>
75 130 Mehdi Abaakouk
$ apt-get install openvswitch-switch 
76 126 Mehdi Abaakouk
$ modprobe vhost-net
77 126 Mehdi Abaakouk
$ modprobe tun
78 126 Mehdi Abaakouk
$ modprobe loop
79 126 Mehdi Abaakouk
$ ovs-vsctl add-br br-net 
80 126 Mehdi Abaakouk
$ ovs-vsctl add-br br-net-bridged 
81 126 Mehdi Abaakouk
$ ovs-vsctl add-br br-admin 
82 126 Mehdi Abaakouk
$ ip link set br-net up 
83 126 Mehdi Abaakouk
$ ip link set br-net-bridged up 
84 126 Mehdi Abaakouk
$ ip link set br-admin up 
85 126 Mehdi Abaakouk
$ ovs-vsctl br-set-external-id br-net bridge-id br-net 
86 126 Mehdi Abaakouk
$ ovs-vsctl br-set-external-id br-net-bridged bridge-id br-net-bridged
87 126 Mehdi Abaakouk
$ ovs-vsctl br-set-external-id br-net bridge-id br-admin 
88 126 Mehdi Abaakouk
</pre>
89 1 Mehdi Abaakouk
90 126 Mehdi Abaakouk
_note: Les bridges openvswitch sont mémorisés et recréés automatiquement par le service openvswitch-switch_
91 126 Mehdi Abaakouk
92 133 Mehdi Abaakouk
On install le fichier attachment:rc.local dans /etc/
93 133 Mehdi Abaakouk
Et le fichier attachment:tetaneutral-openstack-routing-daemon.sh dans /root/
94 1 Mehdi Abaakouk
95 133 Mehdi Abaakouk
On re-charge le fichier attachment:rc.local
96 133 Mehdi Abaakouk
97 126 Mehdi Abaakouk
<pre>
98 126 Mehdi Abaakouk
bash -x /etc/rc.local
99 126 Mehdi Abaakouk
</pre>
100 126 Mehdi Abaakouk
101 73 Mehdi Abaakouk
102 73 Mehdi Abaakouk
Sur h7.tetaneutral.net le routage est le suivant
103 6 Mehdi Abaakouk
104 17 Mehdi Abaakouk
<pre>
105 16 Mehdi Abaakouk
ip route add 89.234.156.251/32 dev eth0.3131
106 1 Mehdi Abaakouk
ip route add 89.234.156.252/32 dev eth0.3131
107 20 Mehdi Abaakouk
ip route add 89.234.156.253/32 dev eth0.3131
108 16 Mehdi Abaakouk
ip route add 2a01:6600:8083:fb00::/56 dev eth0.3131
109 16 Mehdi Abaakouk
ip route add 2a01:6600:8083:fc00::/56 dev eth0.3131
110 16 Mehdi Abaakouk
ip route add 2a01:6600:8083:fd00::/56 dev eth0.3131
111 16 Mehdi Abaakouk
</pre>
112 1 Mehdi Abaakouk
113 20 Mehdi Abaakouk
h3. Preparation de la VM de management, le controlleur
114 6 Mehdi Abaakouk
115 6 Mehdi Abaakouk
h4. Installation des prérequis
116 6 Mehdi Abaakouk
117 1 Mehdi Abaakouk
<pre>
118 129 Mehdi Abaakouk
$ apt-get install libvirt-bin openstack-debian-images virtinst
119 131 Mehdi Abaakouk
#NOTE(sileht): temporairement récupérer la dernière version:
120 131 Mehdi Abaakouk
$ curl -# http://anonscm.debian.org/cgit/openstack/openstack-debian-images.git/plain/build-openstack-debian-image > /usr/sbin/build-openstack-debian-image
121 20 Mehdi Abaakouk
</pre>
122 1 Mehdi Abaakouk
123 1 Mehdi Abaakouk
h4. Preparation de l'image de la VM
124 92 Mehdi Abaakouk
125 20 Mehdi Abaakouk
<pre>
126 20 Mehdi Abaakouk
$ vim hook.sh
127 1 Mehdi Abaakouk
set -xv
128 20 Mehdi Abaakouk
129 92 Mehdi Abaakouk
echo "openstack" > $BODI_CHROOT_PATH/etc/hostname
130 40 Mehdi Abaakouk
131 46 Mehdi Abaakouk
cat > $BODI_CHROOT_PATH/etc/resolv.conf <<EOF
132 46 Mehdi Abaakouk
domain tetaneutral.net
133 46 Mehdi Abaakouk
search tetaneutral.net
134 1 Mehdi Abaakouk
nameserver 8.8.8.8
135 46 Mehdi Abaakouk
EOF
136 46 Mehdi Abaakouk
137 92 Mehdi Abaakouk
cat > $BODI_CHROOT_PATH/etc/network/interfaces <<EOF
138 6 Mehdi Abaakouk
auto lo
139 20 Mehdi Abaakouk
iface lo inet loopback
140 1 Mehdi Abaakouk
auto eth0
141 6 Mehdi Abaakouk
iface eth0 inet manual
142 4 Mehdi Abaakouk
  pre-up /sbin/sysctl -w net.ipv6.conf.eth0.accept_ra=0
143 1 Mehdi Abaakouk
  pre-up /sbin/sysctl -w net.ipv6.conf.eth0.autoconf=0
144 4 Mehdi Abaakouk
  up ip link set eth0 up
145 10 Mehdi Abaakouk
  up ip addr add 89.234.156.249/32 dev eth0
146 16 Mehdi Abaakouk
  up ip route add 91.224.148.0/32 dev eth0
147 16 Mehdi Abaakouk
  up ip route add default via 91.224.148.0
148 20 Mehdi Abaakouk
149 1 Mehdi Abaakouk
iface eth0 inet6 static
150 7 Mehdi Abaakouk
    pre-up /sbin/sysctl -w net.ipv6.conf.eth0.accept_ra=0
151 4 Mehdi Abaakouk
    pre-up /sbin/sysctl -w net.ipv6.conf.eth0.autoconf=0
152 21 Mehdi Abaakouk
    address 2a01:6600:8083:f900::1
153 12 Mehdi Abaakouk
    netmask 56
154 4 Mehdi Abaakouk
    gateway fe80::31
155 4 Mehdi Abaakouk
156 4 Mehdi Abaakouk
auto eth1
157 5 Mehdi Abaakouk
iface eth1 inet static
158 13 Mehdi Abaakouk
  pre-up /sbin/sysctl -w net.ipv6.conf.eth1.accept_ra=0
159 18 Mehdi Abaakouk
  pre-up /sbin/sysctl -w net.ipv6.conf.eth1.autoconf=0
160 18 Mehdi Abaakouk
  address 192.168.3.100
161 18 Mehdi Abaakouk
  netmask 255.255.255.0
162 18 Mehdi Abaakouk
EOF
163 18 Mehdi Abaakouk
164 18 Mehdi Abaakouk
mkdir -p $BODI_CHROOT_PATH/root/.ssh
165 59 Mehdi Abaakouk
chmod 600 $BODI_CHROOT_PATH/root/.ssh
166 59 Mehdi Abaakouk
cat >> $BODI_CHROOT_PATH/root/.ssh/authorized_keys <<EOF
167 11 Mehdi Abaakouk
ssh-dss AAAAB3NzaC1kc3MAAACBAJtnGLvuz4uVD6fnERDxDi/C0UyzwCiKmgNtEessopREYasAX4Gu6Fg10jAyIL5Nuc7YDnqj//pOfxNjD7hp99a2ZmkRQgh/ltClxYML9fqhBHgsUCpVse9nOYDHDnDgvXIPRSDUHat2UFpdchHVrFURNLIlZnBztsr+GCDURTV/AAAAFQD9SrBcH49ltaKOm6V5ssCPmgs1SwAAAIAbAvkQ3/tMzzdACO5B9s5Yb3ZuM7XImm0iqufivVf2Xy39g8HOBulUsN7eKEGPhVriqNolgIO7q7tVgYAff4/NE4yDP0Kp0SPg4tjt2yFJuL31Y3wzwHjnKrjgNlDSLl3uZnRXSipwUMwGKbdHB6NZSqlq192VKbHilQ00pbiMlAAAAIB5dfB1lVHkJ0o5CcaVQRPbca9DvbbRwnoTSmKHc5DUcqsPqDhS07CkM9ZcJuY1Nh4wGl4Q9kArj7Tnsvvygf/HReSUcIk4+nbDytJ8/pca/Qx4fzQQyppa94TylN62LSFT6MIJKLoMwYa0dQURT7Mv5+9Qj2vk5pZ38w2iQ9zVCg== root@h1
168 4 Mehdi Abaakouk
EOF
169 4 Mehdi Abaakouk
170 6 Mehdi Abaakouk
sed -i -e 's/^.*Port.*$/Port 2222/' -e 's/^[# ]*PasswordAuthentication.*$/PasswordAuthentication no/' $BODI_CHROOT_PATH/etc/ssh/sshd_config
171 4 Mehdi Abaakouk
chroot $BODI_CHROOT_PATH dpkg-reconfigure openssh-server
172 4 Mehdi Abaakouk
chroot $BODI_CHROOT_PATH apt-get purge -y cloud-init*
173 8 Mehdi Abaakouk
</pre>
174 1 Mehdi Abaakouk
175 90 Mehdi Abaakouk
<pre>
176 90 Mehdi Abaakouk
$ chmod +x hook.sh
177 90 Mehdi Abaakouk
$ build-openstack-debian-image --image-size 20  --release jessie -u http://apt.tetaneutral.net/debian/ -s http://apt.tetaneutral.net/debian/ --hook-script $(pwd)/hook.sh
178 90 Mehdi Abaakouk
$ mv debian-jessie-7.0.0-3-amd64.raw /openstack.raw 
179 90 Mehdi Abaakouk
$ rm debian-jessie-7.0.0-3-amd64.qcow2
180 90 Mehdi Abaakouk
</pre>
181 90 Mehdi Abaakouk
182 90 Mehdi Abaakouk
_note: la derniere commande lancée par le script doit être 'qemu-img convert -c -f raw .... , sinon l'image de bootera pas_
183 90 Mehdi Abaakouk
_note(jessie): si l'erreur est celle ci-dessous, relancer manuellement 'kpartx -d debian-jessie-7.0.0-3-amd64.raw' jusqu'a ce que l'erreur disparaissent et le .raw est utilisable:_
184 90 Mehdi Abaakouk
<pre>
185 5 Mehdi Abaakouk
+ 'kpartx -d debian-jessie-7.0.0-3-amd64.raw'
186 6 Mehdi Abaakouk
device-mapper: remove ioctl on loop0p1 failed: Device or resource busy
187 4 Mehdi Abaakouk
loop deleted : /dev/loop0
188 4 Mehdi Abaakouk
</pre>
189 60 Mehdi Abaakouk
_note: si parted freeze -> lancer /etc/init.d/udev restart_
190 4 Mehdi Abaakouk
191 91 Mehdi Abaakouk
192 91 Mehdi Abaakouk
On garde l'image raw qui sera importable dans ceph plus tard et on la mets à la racine pour qui l'utilisateur libvirt puisse y accéder.
193 19 Mehdi Abaakouk
194 93 Mehdi Abaakouk
h4. Préparation du réseau
195 19 Mehdi Abaakouk
196 128 Mehdi Abaakouk
Ces routes sont temporaires, c'est ensuite bird qui les gérera
197 128 Mehdi Abaakouk
198 19 Mehdi Abaakouk
<pre>
199 24 Mehdi Abaakouk
$ ip route add 89.234.156.249/32 dev br-net
200 24 Mehdi Abaakouk
$ ip -6 route add 2a01:6600:8083:f900::/56 dev br-net
201 19 Mehdi Abaakouk
</pre>
202 19 Mehdi Abaakouk
203 19 Mehdi Abaakouk
h4. Installation de la VM
204 19 Mehdi Abaakouk
205 19 Mehdi Abaakouk
<pre>
206 1 Mehdi Abaakouk
$ virt-install --name openstack --ram 2048 --network bridge=br-net,model=virtio --network bridge=br-admin,model=virtio --nographics --serial pty --wait -1 --noreboot --autostart --disk /openstack.raw,bus=virtio,cache=none,io=native --import
207 22 Mehdi Abaakouk
$ EDITOR="sed -i -e \"s,<source bridge='br-net'/>,<source bridge='br-net'/><virtualport type='openvswitch' />,g\"" virsh edit openstack # Openvswitch is not yet supported by virt-install 
208 61 Mehdi Abaakouk
$ EDITOR="sed -i -e \"s,<source bridge='br-admin'/>,<source bridge='br-admin'/><virtualport type='openvswitch' />,g\"" virsh edit openstack # Openvswitch is not yet supported by virt-install 
209 87 Mehdi Abaakouk
$ virsh  start openstack
210 1 Mehdi Abaakouk
$ ssh root@89.234.156.249 -p 2222
211 19 Mehdi Abaakouk
</pre>
212 19 Mehdi Abaakouk
213 24 Mehdi Abaakouk
Une fois connecté à la VM:
214 26 Mehdi Abaakouk
215 26 Mehdi Abaakouk
<pre>
216 4 Mehdi Abaakouk
$ apt-get install puppet
217 26 Mehdi Abaakouk
$ puppet agent --enable
218 32 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
219 26 Mehdi Abaakouk
Info: Caching certificate for ca
220 34 Mehdi Abaakouk
Info: csr_attributes file loading from /etc/puppet/csr_attributes.yaml
221 34 Mehdi Abaakouk
Info: Creating a new SSL certificate request for openstack.tetaneutral.net
222 35 Mehdi Abaakouk
Info: Certificate Request fingerprint (SHA256): AE:72:47:40:A0:E2:F4:59:BA:39:FA:3D:C2:A7:C9:1B:9F:87:A5:B7:65:3A:F9:D4:DE:AF:E2:A3:02:41:0F:2E
223 94 Mehdi Abaakouk
Info: Caching certificate for ca
224 35 Mehdi Abaakouk
Exiting; no certificate found and waitforcert is disabled
225 35 Mehdi Abaakouk
</pre>
226 35 Mehdi Abaakouk
227 35 Mehdi Abaakouk
Sur le puppetmaster:
228 35 Mehdi Abaakouk
229 35 Mehdi Abaakouk
<pre>
230 35 Mehdi Abaakouk
$ puppet ca sign openstack.tetaneutral.net 
231 35 Mehdi Abaakouk
</pre>
232 35 Mehdi Abaakouk
_note: si un vieux cert existe: puppet ca revoke openstack.tetaneutral.net ; puppet cert clean openstack.tetaneutral.net; puppet node clean openstack.tetaneutral.net_
233 35 Mehdi Abaakouk
234 35 Mehdi Abaakouk
De nouveau sur la VM:
235 35 Mehdi Abaakouk
236 35 Mehdi Abaakouk
<pre>
237 35 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
238 35 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
239 35 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
240 35 Mehdi Abaakouk
</pre>
241 64 Mehdi Abaakouk
242 35 Mehdi Abaakouk
Il ne doit plus y avoir d'erreur la 3°/4° fois.
243 35 Mehdi Abaakouk
244 35 Mehdi Abaakouk
h3. Configuration des hyperviseurs
245 35 Mehdi Abaakouk
246 35 Mehdi Abaakouk
Une fois la configuration réseau faite, tout ce fait avec puppet:
247 35 Mehdi Abaakouk
248 35 Mehdi Abaakouk
<pre>
249 35 Mehdi Abaakouk
$ apt-get install puppet
250 35 Mehdi Abaakouk
$ puppet agent --enable
251 35 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
252 35 Mehdi Abaakouk
Info: Caching certificate for ca
253 35 Mehdi Abaakouk
Info: csr_attributes file loading from /etc/puppet/csr_attributes.yaml
254 35 Mehdi Abaakouk
Info: Creating a new SSL certificate request for openstack.tetaneutral.net
255 35 Mehdi Abaakouk
Info: Certificate Request fingerprint (SHA256): AE:72:47:40:A0:E2:F4:59:BA:39:FA:3D:C2:A7:C9:1B:9F:87:A5:B7:65:3A:F9:D4:DE:AF:E2:A3:02:41:0F:2E
256 35 Mehdi Abaakouk
Info: Caching certificate for ca
257 35 Mehdi Abaakouk
Exiting; no certificate found and waitforcert is disabled
258 35 Mehdi Abaakouk
</pre>
259 35 Mehdi Abaakouk
260 101 Mehdi Abaakouk
Sur le puppetmaster:
261 35 Mehdi Abaakouk
262 35 Mehdi Abaakouk
<pre>
263 35 Mehdi Abaakouk
$ puppet ca sign openstack.tetaneutral.net 
264 35 Mehdi Abaakouk
</pre>
265 35 Mehdi Abaakouk
_note: si un vieux cert existe: puppet ca revoke openstack.tetaneutral.net ; puppet cert clean openstack.tetaneutral.net; puppet node clean openstack.tetaneutral.net_
266 35 Mehdi Abaakouk
267 35 Mehdi Abaakouk
De nouveau sur la VM:
268 35 Mehdi Abaakouk
269 35 Mehdi Abaakouk
<pre>
270 35 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
271 100 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
272 100 Mehdi Abaakouk
$ puppet agent -vt --server puppet.tetaneutral.net --certname openstack.tetaneutral.net --pluginsync 
273 100 Mehdi Abaakouk
</pre>
274 100 Mehdi Abaakouk
275 35 Mehdi Abaakouk
Il ne doit plus y avoir d'erreur la 3°/4° fois.
276 1 Mehdi Abaakouk
277 72 Mehdi Abaakouk
h4. Information sur la configuration d'un hyperviseur sur le puppet master
278 37 Mehdi Abaakouk
279 38 Mehdi Abaakouk
La configuration puppet ressemble à :
280 38 Mehdi Abaakouk
281 109 Mehdi Abaakouk
<pre>
282 1 Mehdi Abaakouk
node "gX.tetaneutral.net" inherits openstack_node_common {
283 120 Mehdi Abaakouk
  # Configuration du routerid et de l'AS number de cette machine
284 1 Mehdi Abaakouk
  # Il faut aussi mettre la conf bgp de h7 ainsi que les fichiers 
285 1 Mehdi Abaakouk
  # /etc/puppet/manifests/files/openstack-bird.conf.erb et
286 125 Mehdi Abaakouk
  # /etc/puppet/manifests/files/openstack-bird6.conf.erb
287 125 Mehdi Abaakouk
  # pour ajouter cette AS interne
288 97 Mehdi Abaakouk
  ttnn_os_bird {'198.51.100.1': asnum => "65001"}
289 109 Mehdi Abaakouk
290 120 Mehdi Abaakouk
  # Dans le cas d'une moniteur ceph, mais uniquement 3 suffissent, on a déjà g1,g2,g3
291 109 Mehdi Abaakouk
  ttnn_ceph_mon {$::hostname:}
292 88 Mehdi Abaakouk
  # Sinon utilisait:
293 88 Mehdi Abaakouk
  # class{"ttnn_ceph_osd_only": }
294 109 Mehdi Abaakouk
295 88 Mehdi Abaakouk
  # La partie Openstack, l'uuid doit être unique par machine (générer avec uuid-gen)
296 109 Mehdi Abaakouk
  ttnn_os_compute {"9d26ec10-a48b-4f0f-a122-f10ed16d270f": }
297 109 Mehdi Abaakouk
}
298 109 Mehdi Abaakouk
</pre>
299 109 Mehdi Abaakouk
300 109 Mehdi Abaakouk
h3. Déplacement du disk du controlleur dans le cluster ceph
301 109 Mehdi Abaakouk
302 97 Mehdi Abaakouk
Les recettes puppet on créé un pool disks pour les mettres les VMs et volumes de VM
303 97 Mehdi Abaakouk
304 109 Mehdi Abaakouk
305 97 Mehdi Abaakouk
Sur g1, on import le disque de la VM dans ceph et on modifie la conf libvirt:
306 97 Mehdi Abaakouk
307 109 Mehdi Abaakouk
<pre>
308 111 Mehdi Abaakouk
$ virsh shutdown openstack
309 120 Mehdi Abaakouk
$ rbd -p disks import /var/lib/ceph/osd/ceph-0/openstack.raw  openstack-disk
310 109 Mehdi Abaakouk
$ virsh edit openstack
311 109 Mehdi Abaakouk
</pre>
312 109 Mehdi Abaakouk
313 109 Mehdi Abaakouk
Remplacer: 
314 112 Mehdi Abaakouk
<pre>
315 109 Mehdi Abaakouk
    <disk type='file' device='disk'>
316 109 Mehdi Abaakouk
      <driver name='qemu' type='raw' cache='none' io='native'/>
317 109 Mehdi Abaakouk
      <source file='/var/lib/ceph/osd/ceph-0/openstack.raw'/>
318 110 Mehdi Abaakouk
      <target dev='vda' bus='virtio'/>
319 109 Mehdi Abaakouk
      <address type='pci' domain='0x0000' bus='0x00' slot='0x04' function='0x0'/>
320 97 Mehdi Abaakouk
    </disk>
321 97 Mehdi Abaakouk
</pre>
322 109 Mehdi Abaakouk
323 97 Mehdi Abaakouk
Par:
324 97 Mehdi Abaakouk
325 109 Mehdi Abaakouk
<pre>
326 109 Mehdi Abaakouk
    <disk type='network' device='disk'>
327 109 Mehdi Abaakouk
        <driver name='qemu' type='raw'/>
328 109 Mehdi Abaakouk
        <source protocol='rbd' name='disks/openstack-disk'>
329 97 Mehdi Abaakouk
                <host name='192.168.3.101' port='6789'/>
330 97 Mehdi Abaakouk
                <host name='192.168.3.102' port='6789'/>
331 109 Mehdi Abaakouk
                <host name='192.168.3.103' port='6789'/>
332 97 Mehdi Abaakouk
        </source>
333 97 Mehdi Abaakouk
        <auth username='openstack-service'>
334 109 Mehdi Abaakouk
            <secret type='ceph' uuid='1fe74663-8dfa-486c-bb80-3bd94c90c967'/>
335 97 Mehdi Abaakouk
        </auth>
336 97 Mehdi Abaakouk
        <target dev='vda' bus='virtio'/>
337 97 Mehdi Abaakouk
        <address type='pci' domain='0x0000' bus='0x00' slot='0x04' function='0x0'/>
338 97 Mehdi Abaakouk
    </disk>
339 97 Mehdi Abaakouk
</pre>
340 97 Mehdi Abaakouk
341 97 Mehdi Abaakouk
La clé ceph pour libvirt a déjà été installé par puppet pour avoir sont uuid:
342 97 Mehdi Abaakouk
343 97 Mehdi Abaakouk
<pre>
344 97 Mehdi Abaakouk
$ virsh secret-list
345 97 Mehdi Abaakouk
 UUID                                  Usage
346 97 Mehdi Abaakouk
--------------------------------------------------------------------------------
347 97 Mehdi Abaakouk
 1fe74663-8dfa-486c-bb80-3bd94c90c967  ceph client.openstack-service secret
348 97 Mehdi Abaakouk
</pre>
349 97 Mehdi Abaakouk
350 97 Mehdi Abaakouk
Puis on démarre
351 97 Mehdi Abaakouk
352 97 Mehdi Abaakouk
<pre>
353 97 Mehdi Abaakouk
$ virsh start openstack
354 97 Mehdi Abaakouk
</pre>
355 97 Mehdi Abaakouk
356 97 Mehdi Abaakouk
357 97 Mehdi Abaakouk
Ca marche !
358 97 Mehdi Abaakouk
359 97 Mehdi Abaakouk
<pre>
360 68 Mehdi Abaakouk
$ ssh openstack.t
361 68 Mehdi Abaakouk
X11 forwarding request failed on channel 0
362 68 Mehdi Abaakouk
363 68 Mehdi Abaakouk
  server: openstack.tetaneutral.net
364 102 Mehdi Abaakouk
  system: Debian jessie/sid, kernel 3.14-2-amd64, puppet 3.6.1
365 1 Mehdi Abaakouk
     cpu: 1/1 (QEMU Virtual CPU version 2.1.0)
366 102 Mehdi Abaakouk
  memory: 1.96 GB
367 1 Mehdi Abaakouk
368 102 Mehdi Abaakouk
    eth0: 52:54:00:90:d8:c7 / 89.234.156.249 / 2a01:6600:8083:f900::1
369 102 Mehdi Abaakouk
    eth1: 52:54:00:13:fa:13 / 192.168.3.100
370 68 Mehdi Abaakouk
371 68 Mehdi Abaakouk
 modules: openstack_node_common ttnn::server resolver checkmk::agent checkmk::client rsyslog::client rsyslog apt apt::update puppet nullmailer backup::client sexymotd 
372 68 Mehdi Abaakouk
                            _             _    
373 68 Mehdi Abaakouk
  ___  _ __   ___ _ __  ___| |_ __ _  ___| | __
374 68 Mehdi Abaakouk
 / _ \| '_ \ / _ \ '_ \/ __| __/ _` |/ __| |/ /
375 68 Mehdi Abaakouk
| (_) | |_) |  __/ | | \__ \ || (_| | (__|   < 
376 68 Mehdi Abaakouk
 \___/| .__/ \___|_| |_|___/\__\__,_|\___|_|\_\
377 68 Mehdi Abaakouk
      |_|                                      
378 68 Mehdi Abaakouk
Last login: Wed Aug 27 08:10:02 2014 from atoulouse-652-1-119-50.w2-6.abo.wanadoo.fr
379 68 Mehdi Abaakouk
root@openstack:~# 
380 68 Mehdi Abaakouk
381 68 Mehdi Abaakouk
</pre>
382 68 Mehdi Abaakouk
383 68 Mehdi Abaakouk
h2. Preparation des OSD pour ceph
384 68 Mehdi Abaakouk
385 68 Mehdi Abaakouk
h3. Cas général un disque entier:
386 68 Mehdi Abaakouk
387 68 Mehdi Abaakouk
$ ceph-disk prepare /dev/sdb
388 68 Mehdi Abaakouk
$ ceph-disk activate /dev/sdb
389 68 Mehdi Abaakouk
390 1 Mehdi Abaakouk
h3. Cas particulier du SSD ou ce trouve l'OS
391 68 Mehdi Abaakouk
392 103 Mehdi Abaakouk
En général avec ceph, on donne un disque, ceph créé 2 partitions une pour le journal de l'OSD, l'autre pour les datas
393 1 Mehdi Abaakouk
mais pour le SSD de tetaneutral qui a aussi l'OS, voici la méthode
394 34 Mehdi Abaakouk
395 103 Mehdi Abaakouk
Création manuelle de la partition de data ceph /dev/sda2 ici
396 102 Mehdi Abaakouk
397 1 Mehdi Abaakouk
<pre>
398 1 Mehdi Abaakouk
$ fdisk /dev/sda
399 102 Mehdi Abaakouk
400 102 Mehdi Abaakouk
n
401 102 Mehdi Abaakouk
p
402 102 Mehdi Abaakouk
<enter>
403 102 Mehdi Abaakouk
<enter>
404 102 Mehdi Abaakouk
<enter>
405 102 Mehdi Abaakouk
<enter>
406 104 Mehdi Abaakouk
w
407 104 Mehdi Abaakouk
408 104 Mehdi Abaakouk
$ partprobe
409 104 Mehdi Abaakouk
</pre>
410 104 Mehdi Abaakouk
411 104 Mehdi Abaakouk
On prepare le disk comme normalement
412 105 Mehdi Abaakouk
413 104 Mehdi Abaakouk
<pre>
414 104 Mehdi Abaakouk
ceph-disk prepare /dev/sda2
415 106 Mehdi Abaakouk
ceph-disk activate /dev/sda2
416 104 Mehdi Abaakouk
</pre>
417 104 Mehdi Abaakouk
418 116 Mehdi Abaakouk
Le disque n'étant pas utilisé uniquement par ceph, le service ceph ne le chargera pas automatiquement:
419 116 Mehdi Abaakouk
Il faut ajouter ceci dans le /etc/rc.local:
420 116 Mehdi Abaakouk
421 116 Mehdi Abaakouk
<pre>
422 116 Mehdi Abaakouk
ceph-disk activate /dev/sda2
423 116 Mehdi Abaakouk
</pre>
424 116 Mehdi Abaakouk
425 116 Mehdi Abaakouk
3. Suppression OSD:
426 116 Mehdi Abaakouk
427 116 Mehdi Abaakouk
<pre>
428 116 Mehdi Abaakouk
name="osd.2"
429 116 Mehdi Abaakouk
ceph osd out ${name}
430 116 Mehdi Abaakouk
/etc/init.d/ceph stop ${name}
431 116 Mehdi Abaakouk
ceph osd crush remove ${name}
432 116 Mehdi Abaakouk
ceph auth del ${name}
433 116 Mehdi Abaakouk
ceph osd rm ${name}
434 116 Mehdi Abaakouk
ceph osd tree
435 116 Mehdi Abaakouk
</pre>
436 116 Mehdi Abaakouk
437 116 Mehdi Abaakouk
h2. Configuration des Placements Groups des pools:
438 116 Mehdi Abaakouk
439 142 Mehdi Abaakouk
Par défaut les pools sont créés avec des placements groups à 8 (pg_num=8), 3 replicats, avec un tolérance à 2, si il manque des OSDs" 
440 116 Mehdi Abaakouk
441 116 Mehdi Abaakouk
Mais cette valeur (pg_num) défini le bon fonctionnement de ceph. Dans le cas standard (ie: 1 seul pool) la recette est facile: 
442 116 Mehdi Abaakouk
443 116 Mehdi Abaakouk
<pre>
444 116 Mehdi Abaakouk
               (OSDs * 100)
445 116 Mehdi Abaakouk
Total PGs = (  ------------  )
446 116 Mehdi Abaakouk
              OSD per object
447 116 Mehdi Abaakouk
</pre>
448 116 Mehdi Abaakouk
449 142 Mehdi Abaakouk
On arrondi à la puissance de 2 supérieurs. Mais dans notre cas 3 pools ce n'est pas si simple, les pools auront des cas d'utilisation différent:
450 116 Mehdi Abaakouk
451 116 Mehdi Abaakouk
Ma proposition de configuration:
452 107 Mehdi Abaakouk
* Pool ssds: il a 3 OSDs pour lui tout seul, on applique la recette magique: 3*100/3 ~= 128 pgs
453 1 Mehdi Abaakouk
* Pools images et disks: ils ont 3 OSDs à ce partager donc il faut répartir les 128 pgs. soit 32pgs et 96pgs (PS: il faut au moins 20pgs pour 3 réplicats)
454 69 Mehdi Abaakouk
455 1 Mehdi Abaakouk
Soit:
456 1 Mehdi Abaakouk
<pre>
457 79 Mehdi Abaakouk
ceph osd pool set ssds pg_num 128
458 1 Mehdi Abaakouk
ceph osd pool set images pg_num 32
459 1 Mehdi Abaakouk
ceph osd pool set disks pg_num 96
460 1 Mehdi Abaakouk
461 1 Mehdi Abaakouk
# attendre un peu qu'il y est plus de pg_create dans 'ceph -s'
462 121 Mehdi Abaakouk
ceph osd pool set ssds pgp_num 128  
463 121 Mehdi Abaakouk
ceph osd pool set images pgp_num 32
464 121 Mehdi Abaakouk
ceph osd pool set disks pgp_num 96
465 121 Mehdi Abaakouk
</pre>
466 1 Mehdi Abaakouk
467 107 Mehdi Abaakouk
468 1 Mehdi Abaakouk
469 107 Mehdi Abaakouk
_ref: http://ceph.com/docs/master/rados/operations/placement-groups/_
470 107 Mehdi Abaakouk
471 1 Mehdi Abaakouk
h2. Preparation du Pool SSD pour ceph 
472 107 Mehdi Abaakouk
473 107 Mehdi Abaakouk
Chaque machine se trouve dans 2 hosts, un host SSD et un host HARDDISK (même si en réalité les deux sont sur la même machine physique),
474 107 Mehdi Abaakouk
475 107 Mehdi Abaakouk
Ensuite on créé 2 object root un pour les hosts SSD et un autre pour les host HARDDISK
476 107 Mehdi Abaakouk
477 107 Mehdi Abaakouk
On créé ensuite 2 règles de stockage une qui envoie les objects vers le root SSD et l'autre vers le root HARDDISK
478 107 Mehdi Abaakouk
479 107 Mehdi Abaakouk
Cela permettra d'avoir de définir une règle différente suivant les pools ceph.
480 107 Mehdi Abaakouk
481 107 Mehdi Abaakouk
Niveau Openstack nous avons 3 pools:
482 107 Mehdi Abaakouk
* disks: Ce pool aura les disques de VM et les volumes attaché
483 107 Mehdi Abaakouk
* ssds: Ce pool contiendra les volumes sur ssd
484 107 Mehdi Abaakouk
* images: c'est la que seront stocké les images de VMs (glance).
485 122 Mehdi Abaakouk
486 122 Mehdi Abaakouk
h3. Configuration de la crushmap de ceph:
487 122 Mehdi Abaakouk
488 135 Mehdi Abaakouk
Il faut s'assurer que la crushmap n'est pas en mode automatique (c'est déjà configuré par puppet):
489 122 Mehdi Abaakouk
490 1 Mehdi Abaakouk
<pre>
491 135 Mehdi Abaakouk
[global]
492 135 Mehdi Abaakouk
osd crush update on start = false
493 135 Mehdi Abaakouk
</pre>
494 135 Mehdi Abaakouk
495 135 Mehdi Abaakouk
Création de l'arbre de rangement physique des SSD, l'arbre nommé 'default' sera donc celui des disques durs
496 135 Mehdi Abaakouk
497 135 Mehdi Abaakouk
<pre>
498 122 Mehdi Abaakouk
$ ceph osd crush add-bucket ssd root
499 122 Mehdi Abaakouk
$ ceph osd crush add-bucket g1-ssd host
500 122 Mehdi Abaakouk
$ ceph osd crush add-bucket g2-ssd host
501 122 Mehdi Abaakouk
$ ceph osd crush add-bucket g3-ssd host
502 1 Mehdi Abaakouk
$ ceph osd crush move g1-ssd root=ssd
503 1 Mehdi Abaakouk
$ ceph osd crush move g2-ssd root=ssd
504 1 Mehdi Abaakouk
$ ceph osd crush move g3-ssd root=ssd
505 107 Mehdi Abaakouk
$ ceph osd tree
506 107 Mehdi Abaakouk
# id	weight	type name	up/down	reweight
507 1 Mehdi Abaakouk
-5	0	root ssd
508 118 Mehdi Abaakouk
-6	0		host g1-ssd
509 118 Mehdi Abaakouk
-7	0		host g2-ssd
510 118 Mehdi Abaakouk
-8	0		host g3-ssd
511 118 Mehdi Abaakouk
-1	3	root default
512 117 Mehdi Abaakouk
-2	1		host g1
513 117 Mehdi Abaakouk
0	1			osd.0	up	1	
514 117 Mehdi Abaakouk
3	1			osd.3	up	1	
515 118 Mehdi Abaakouk
-3	1		host g2
516 118 Mehdi Abaakouk
1	1			osd.1	up	1	
517 107 Mehdi Abaakouk
4	1			osd.4	up	1	
518 107 Mehdi Abaakouk
-4	1		host g3
519 122 Mehdi Abaakouk
2	1			osd.2	up	1	
520 122 Mehdi Abaakouk
5	1			osd.5	up	1	
521 122 Mehdi Abaakouk
</pre>
522 122 Mehdi Abaakouk
523 122 Mehdi Abaakouk
524 122 Mehdi Abaakouk
On range les osd qui ont des disques SSD dans ce nouvel arbre.
525 122 Mehdi Abaakouk
526 122 Mehdi Abaakouk
<pre>
527 122 Mehdi Abaakouk
$ ceph osd crush add osd.3 1  root=ssd host=g1-ssd
528 122 Mehdi Abaakouk
$ ceph osd crush add osd.4 1  root=ssd host=g2-ssd
529 122 Mehdi Abaakouk
$ ceph osd crush add osd.5 1  root=ssd host=g3-ssd
530 122 Mehdi Abaakouk
# Ou si l'osd a déjà éte positionné une fois
531 122 Mehdi Abaakouk
$ ceph osd crush set osd.3 1  root=ssd host=g1-ssd
532 122 Mehdi Abaakouk
$ ceph osd crush set osd.4 1  root=ssd host=g2-ssd
533 96 Mehdi Abaakouk
$ ceph osd crush set osd.5 1  root=ssd host=g3-ssd
534 96 Mehdi Abaakouk
535 108 Mehdi Abaakouk
# Vérifier le résultat
536 107 Mehdi Abaakouk
$ ceph osd tree
537 96 Mehdi Abaakouk
# id	weight	type name	up/down	reweight
538 96 Mehdi Abaakouk
-5	3	root ssd
539 121 Mehdi Abaakouk
-6	1		host g1-ssd
540 96 Mehdi Abaakouk
3	1			osd.3	up	1	
541 107 Mehdi Abaakouk
-7	1		host g2-ssd
542 107 Mehdi Abaakouk
4	1			osd.4	up	1	
543 107 Mehdi Abaakouk
-8	1		host g3-ssd
544 107 Mehdi Abaakouk
5	1			osd.5	up	1	
545 107 Mehdi Abaakouk
-1	3	root default
546 107 Mehdi Abaakouk
-2	1		host g1
547 107 Mehdi Abaakouk
0	1			osd.0	up	1	
548 107 Mehdi Abaakouk
-3	1		host g2
549 107 Mehdi Abaakouk
1	1			osd.1	up	1	
550 107 Mehdi Abaakouk
-4	1		host g3
551 107 Mehdi Abaakouk
2	1			osd.2	up	1	
552 107 Mehdi Abaakouk
</pre>
553 107 Mehdi Abaakouk
554 107 Mehdi Abaakouk
h3. Definition de la crushmap de ttnn
555 107 Mehdi Abaakouk
556 107 Mehdi Abaakouk
557 107 Mehdi Abaakouk
Une fois la crushmap modifié on créée et applique la règle sur le pool ssds:
558 107 Mehdi Abaakouk
559 107 Mehdi Abaakouk
<pre>
560 107 Mehdi Abaakouk
$ ceph osd crush rule create-simple ssd_replicated_ruleset ssd host firstn
561 107 Mehdi Abaakouk
$ ceph osd crush rule dump
562 107 Mehdi Abaakouk
[
563 107 Mehdi Abaakouk
    { "rule_id": 0,
564 107 Mehdi Abaakouk
      "rule_name": "replicated_ruleset",
565 1 Mehdi Abaakouk
      "ruleset": 0,
566 107 Mehdi Abaakouk
      "type": 1,
567 107 Mehdi Abaakouk
      "min_size": 1,
568 107 Mehdi Abaakouk
      "max_size": 10,
569 107 Mehdi Abaakouk
      "steps": [
570 107 Mehdi Abaakouk
            { "op": "take",
571 107 Mehdi Abaakouk
              "item": -1,
572 1 Mehdi Abaakouk
              "item_name": "default"},
573 121 Mehdi Abaakouk
            { "op": "chooseleaf_firstn",
574 1 Mehdi Abaakouk
              "num": 0,
575 1 Mehdi Abaakouk
              "type": "host"},
576 107 Mehdi Abaakouk
            { "op": "emit"}]},
577 1 Mehdi Abaakouk
    { "rule_id": 1,
578 1 Mehdi Abaakouk
      "rule_name": "ssd_replicated_ruleset",
579 107 Mehdi Abaakouk
      "ruleset": 1,
580 1 Mehdi Abaakouk
      "type": 1,
581 1 Mehdi Abaakouk
      "min_size": 1,
582 1 Mehdi Abaakouk
      "max_size": 10,
583 113 Mehdi Abaakouk
      "steps": [
584 114 Mehdi Abaakouk
            { "op": "take",
585 1 Mehdi Abaakouk
              "item": -5,
586 114 Mehdi Abaakouk
              "item_name": "ssd"},
587 113 Mehdi Abaakouk
            { "op": "chooseleaf_firstn",
588 113 Mehdi Abaakouk
              "num": 0,
589 113 Mehdi Abaakouk
              "type": "host"},
590 113 Mehdi Abaakouk
            { "op": "emit"}]}]
591 113 Mehdi Abaakouk
592 113 Mehdi Abaakouk
$ ceph osd pool set ssds crush_ruleset 1
593 113 Mehdi Abaakouk
</pre>
594 1 Mehdi Abaakouk
595 114 Mehdi Abaakouk
Il faut ensuite attendre que ceph redistribue les data comme on lui a demandé, on peut suivre l'avancement avec :
596 114 Mehdi Abaakouk
597 114 Mehdi Abaakouk
<pre>
598 114 Mehdi Abaakouk
ceph -s
599 114 Mehdi Abaakouk
</pre>
600 115 Mehdi Abaakouk
601 115 Mehdi Abaakouk
h2. Management d'openstack
602 114 Mehdi Abaakouk
603 138 Mehdi Abaakouk
h3. Exemple de migration de ganeti à openstack:
604 138 Mehdi Abaakouk
605 138 Mehdi Abaakouk
Sur g1:
606 138 Mehdi Abaakouk
<pre>
607 138 Mehdi Abaakouk
mkdir -p /var/lib/ceph/osd/ceph-0/migration_ganeti
608 138 Mehdi Abaakouk
</pre>
609 138 Mehdi Abaakouk
610 138 Mehdi Abaakouk
Sur h4:
611 138 Mehdi Abaakouk
<pre>
612 138 Mehdi Abaakouk
$ gnt-instance stop VMNAME.tetaneutral.net
613 138 Mehdi Abaakouk
$ gnt-instance activate-disks VMNAME.tetaneutral.net
614 138 Mehdi Abaakouk
h5.tetaneutral.net:disk/0:/dev/drbd34
615 138 Mehdi Abaakouk
</pre>
616 138 Mehdi Abaakouk
617 138 Mehdi Abaakouk
618 138 Mehdi Abaakouk
Sur g1, mettre l'image dans glance
619 138 Mehdi Abaakouk
<pre>
620 138 Mehdi Abaakouk
name=VMNAME.tetaneutral.net
621 138 Mehdi Abaakouk
glance image-create --name temp-$name --disk-format raw --container-format bare < <(ssh -P2222 root@h5 "dd if=/dev/drbd18")
622 138 Mehdi Abaakouk
image_id=$(glance image-show temp-$name | awk '/ id /{print $4}')
623 138 Mehdi Abaakouk
</pre>
624 138 Mehdi Abaakouk
625 139 Mehdi Abaakouk
Crée un volume avec cette image (remplacer 20 par la taille du disque désiré):
626 138 Mehdi Abaakouk
<pre>
627 138 Mehdi Abaakouk
cinder create --display-name ${name}-bootdisk --image-id $image_id 20
628 138 Mehdi Abaakouk
</pre>
629 138 Mehdi Abaakouk
630 140 Mehdi Abaakouk
Attendre que le disque soit pret:
631 140 Mehdi Abaakouk
<pre>
632 140 Mehdi Abaakouk
cinder list | grep ${name}-bootdisk
633 140 Mehdi Abaakouk
</pre>
634 140 Mehdi Abaakouk
635 138 Mehdi Abaakouk
Booter la VM avec ce disque:
636 138 Mehdi Abaakouk
<pre>
637 138 Mehdi Abaakouk
volume_id=$(cinder show ${name}-bootdisk | awk '/ id /{print $4}')
638 138 Mehdi Abaakouk
netid=$(neutron net-list | awk '/ttnn-net-bridged/{print $2}')
639 138 Mehdi Abaakouk
nova boot --nic net-id=$net_id --block-device source=volume,id=$volume_id,dest=volume,size=$disksize,shutdown=preserve,bootindex=0 --flavor m1.small $poll
640 138 Mehdi Abaakouk
${name}
641 1 Mehdi Abaakouk
</pre>
642 1 Mehdi Abaakouk
643 140 Mehdi Abaakouk
_Note: Si le disque a été agrandi, il est conseillé de lancer "growpart /dev/vda 1" dans la VM_
644 139 Mehdi Abaakouk
645 138 Mehdi Abaakouk
Supprimer l'image d'origine
646 138 Mehdi Abaakouk
<pre>
647 138 Mehdi Abaakouk
glance image-delete temp-$name
648 138 Mehdi Abaakouk
</pre>
649 138 Mehdi Abaakouk
650 138 Mehdi Abaakouk
Quand c'est fini sur h4:
651 138 Mehdi Abaakouk
652 138 Mehdi Abaakouk
<pre>
653 138 Mehdi Abaakouk
gnt-instance deactivate-disks VMNAME.tetaneutral.net
654 138 Mehdi Abaakouk
</pre>
655 138 Mehdi Abaakouk
656 114 Mehdi Abaakouk
h2. Maintenant de la VM de management
657 114 Mehdi Abaakouk
658 114 Mehdi Abaakouk
h3. Live Migration d'un host à l'autre
659 114 Mehdi Abaakouk
660 114 Mehdi Abaakouk
Cela fait tout à notre place niveau kvm/libvirt/ceph
661 114 Mehdi Abaakouk
662 114 Mehdi Abaakouk
<pre>
663 114 Mehdi Abaakouk
virsh migrate --persistent --undefinesource --live --p2p openstack qemu+ssh://g2:2222/system
664 114 Mehdi Abaakouk
</pre>
665 114 Mehdi Abaakouk
666 114 Mehdi Abaakouk
Pour le réseau le service/script 'tetaneutral-openstack-routing-daemon.sh' s'occupe de basculer les routes automatiquement.
667 114 Mehdi Abaakouk
668 114 Mehdi Abaakouk
h3. Recover depuis une perte de la machine hote:
669 114 Mehdi Abaakouk
670 137 Mehdi Abaakouk
Créé un fichier openstack.xml à partir d'un backup de '/etc/libvirt/qemu/openstack.xml' ou utiliser l'exemple ici: attachment:openstack.xml
671 114 Mehdi Abaakouk
672 1 Mehdi Abaakouk
_Note: il faut surement viré les uuid des interfaces openvswitch qui sont différent suivant le hosts_
673 1 Mehdi Abaakouk
674 1 Mehdi Abaakouk
Puis on recréé la VM
675 1 Mehdi Abaakouk
676 1 Mehdi Abaakouk
<pre>
677 1 Mehdi Abaakouk
$ virsh create openstack.xml
678 1 Mehdi Abaakouk
$ virsh start openstack.xml
679 1 Mehdi Abaakouk
</pre>