Projet

Général

Profil

Openstack Management TTNN » Historique » Version 73

Mehdi Abaakouk, 09/03/2017 08:30

1 3 Mehdi Abaakouk
{{>toc}}
2 3 Mehdi Abaakouk
3 1 Mehdi Abaakouk
h1. Openstack Management TTNN
4 1 Mehdi Abaakouk
5 63 Mehdi Abaakouk
h2. Liens
6 1 Mehdi Abaakouk
7 63 Mehdi Abaakouk
* [[Management_Cluster_Ceph]]
8 63 Mehdi Abaakouk
* [[Openstack Setup VM pas dans openstack]]
9 63 Mehdi Abaakouk
* [[Openstack Installation nouvelle node du cluster]]
10 63 Mehdi Abaakouk
* [[Openstack Installation TTNN]]
11 63 Mehdi Abaakouk
* "Openstack tools for ttnn":/projects/git-tetaneutral-net/repository/openstack-tools
12 11 Mehdi Abaakouk
13 54 Laurent GUERBY
h2. Avant toute operation Openstack
14 54 Laurent GUERBY
15 54 Laurent GUERBY
*Tres important* avant toute operation Openstack lancer sur g1 :
16 54 Laurent GUERBY
17 54 Laurent GUERBY
<pre>
18 54 Laurent GUERBY
root@g1:~# . os.conf
19 54 Laurent GUERBY
root@g1:~# tools/os-overview.sh 
20 54 Laurent GUERBY
</pre>
21 54 Laurent GUERBY
22 54 Laurent GUERBY
Si une ligne n'est pas OK relancer le composant et relancer os-overview.
23 54 Laurent GUERBY
24 72 Mehdi Abaakouk
h2. Création VMs
25 72 Mehdi Abaakouk
26 72 Mehdi Abaakouk
Example d'un VM sur ssd avec 2 disques (hard) additionels de 500G
27 72 Mehdi Abaakouk
28 72 Mehdi Abaakouk
<pre>
29 72 Mehdi Abaakouk
$ openstack ttnn create --ssd --ip <ipv4> --flavor 1vcpu-1024ram --image debian-jessie-scsi <name>.tetaneutral.net
30 72 Mehdi Abaakouk
$ openstack volume create --type ceph --size 500 <name>.tetaneutral.net-disk-1
31 72 Mehdi Abaakouk
$ openstack volume create --type ceph --size 500 <name>.tetaneutral.net-disk-2
32 72 Mehdi Abaakouk
$ openstack server add volume <name>.tetaneutral.net <name>.tetaneutral.net-disk-1
33 72 Mehdi Abaakouk
$ openstack server add volume <name>.tetaneutral.net <name>.tetaneutral.net-disk-2
34 72 Mehdi Abaakouk
</pre>
35 72 Mehdi Abaakouk
36 72 Mehdi Abaakouk
Ensuite dans la VM:
37 72 Mehdi Abaakouk
38 72 Mehdi Abaakouk
<pre>
39 72 Mehdi Abaakouk
mkfs.ext4 -E nodiscard /dev/sdb
40 72 Mehdi Abaakouk
mkfs.ext4 -E nodiscard /dev/sdc
41 72 Mehdi Abaakouk
tune2fs -c 0 -i 0 -m 0 /dev/sdb
42 72 Mehdi Abaakouk
tune2fs -c 0 -i 0 -m 0 /dev/sdc
43 72 Mehdi Abaakouk
</pre>
44 72 Mehdi Abaakouk
45 72 Mehdi Abaakouk
/!\ Ne pas mettre nodiscard pour les SSDs /!\
46 72 Mehdi Abaakouk
47 1 Mehdi Abaakouk
h2. Opération sur les VMs (des membres)
48 46 Mehdi Abaakouk
49 46 Mehdi Abaakouk
h3. Console série
50 46 Mehdi Abaakouk
51 46 Mehdi Abaakouk
Dans la VM, pour systemd:
52 46 Mehdi Abaakouk
53 1 Mehdi Abaakouk
<pre>
54 72 Mehdi Abaakouk
$ systemctl enable serial-getty@ttyS0.service
55 46 Mehdi Abaakouk
$ systemctl start serial-getty@ttyS0.service
56 46 Mehdi Abaakouk
</pre>
57 46 Mehdi Abaakouk
58 46 Mehdi Abaakouk
Dans la VM, pour sysv
59 46 Mehdi Abaakouk
60 46 Mehdi Abaakouk
<pre>
61 46 Mehdi Abaakouk
$ cat >> /etc/inittab <<EOF
62 46 Mehdi Abaakouk
T2:2345:respawn:/sbin/getty ttyS0 115200 vt102
63 46 Mehdi Abaakouk
EOF
64 46 Mehdi Abaakouk
$ init q
65 46 Mehdi Abaakouk
</pre>
66 46 Mehdi Abaakouk
67 46 Mehdi Abaakouk
Sur g1:
68 46 Mehdi Abaakouk
69 46 Mehdi Abaakouk
<pre>
70 73 Mehdi Abaakouk
$ openstack ttnn log ns2.tetaneutral.net
71 46 Mehdi Abaakouk
72 46 Mehdi Abaakouk
Debian GNU/Linux 8 ns2 ttyS0
73 46 Mehdi Abaakouk
ns2 login:
74 46 Mehdi Abaakouk
</pre>
75 46 Mehdi Abaakouk
76 17 Mehdi Abaakouk
h3. Voir la console graphique sans spice-html5:
77 17 Mehdi Abaakouk
78 17 Mehdi Abaakouk
Copier le script suivant 'gvnc' sur ca machine:
79 17 Mehdi Abaakouk
80 17 Mehdi Abaakouk
<pre>
81 17 Mehdi Abaakouk
#!/bin/bash
82 17 Mehdi Abaakouk
vm=$1
83 17 Mehdi Abaakouk
info=($(ssh openstack.tetaneutral.net -p 2222 -l root -- "mysql nova --skip-column-names --batch -e 'select host, uuid from instances where display_name=\"$vm\";'"))
84 17 Mehdi Abaakouk
85 17 Mehdi Abaakouk
if [ "${info[0]}" == "mysql" ]; then
86 17 Mehdi Abaakouk
    echo "Error in mysql request"
87 17 Mehdi Abaakouk
    exit 1
88 17 Mehdi Abaakouk
fi
89 17 Mehdi Abaakouk
90 17 Mehdi Abaakouk
hypervisor=${info[0]}.tetaneutral.net
91 17 Mehdi Abaakouk
uuid=${info[1]}
92 17 Mehdi Abaakouk
spice_port=$(ssh ${hypervisor} -p 2222 -l root virsh domdisplay ${uuid} | awk -F: '{print $3}')
93 17 Mehdi Abaakouk
94 17 Mehdi Abaakouk
echo "$vm on $hypervisor port $spice_port"
95 17 Mehdi Abaakouk
ssh -N $hypervisor -p 2222 -l root -L 5910:localhost:${spice_port} &
96 17 Mehdi Abaakouk
pid=$!
97 17 Mehdi Abaakouk
98 17 Mehdi Abaakouk
99 17 Mehdi Abaakouk
cleanup(){
100 17 Mehdi Abaakouk
    kill $pid
101 17 Mehdi Abaakouk
}
102 17 Mehdi Abaakouk
103 17 Mehdi Abaakouk
trap cleanup EXIT
104 17 Mehdi Abaakouk
105 17 Mehdi Abaakouk
sleep 2
106 17 Mehdi Abaakouk
remote-viewer spice://localhost:5910/
107 17 Mehdi Abaakouk
</pre>
108 17 Mehdi Abaakouk
109 17 Mehdi Abaakouk
Puis 
110 17 Mehdi Abaakouk
111 17 Mehdi Abaakouk
<pre>
112 1 Mehdi Abaakouk
sudo apt-get install virt-viewer
113 1 Mehdi Abaakouk
./gvnc puppet.openstack.net
114 17 Mehdi Abaakouk
</pre>
115 17 Mehdi Abaakouk
116 17 Mehdi Abaakouk
117 17 Mehdi Abaakouk
h3. Reboot VM en error
118 17 Mehdi Abaakouk
119 1 Mehdi Abaakouk
<pre>
120 73 Mehdi Abaakouk
openstack server set --state active xxx.tetaneutral.net
121 73 Mehdi Abaakouk
openstack server reboot --hard --wait xxx.tetaneutral.net
122 1 Mehdi Abaakouk
</pre>
123 1 Mehdi Abaakouk
124 1 Mehdi Abaakouk
h3. Shutdown une VM
125 6 Laurent GUERBY
126 5 Laurent GUERBY
<pre>
127 73 Mehdi Abaakouk
openstack server stop xxx.tetaneutral.net
128 1 Mehdi Abaakouk
</pre>
129 1 Mehdi Abaakouk
130 5 Laurent GUERBY
A noter que suspend fait une sauvegarde de la RAM comme sur un laptop. shelve est bugué ne pas utiliser.
131 5 Laurent GUERBY
132 5 Laurent GUERBY
h3. Effacer une VM
133 5 Laurent GUERBY
134 1 Mehdi Abaakouk
<pre>
135 73 Mehdi Abaakouk
openstack ttnn delete xxx.tetaneutral.net
136 1 Mehdi Abaakouk
</pre>
137 1 Mehdi Abaakouk
138 73 Mehdi Abaakouk
Cette commande lance la suppression de la VM et des ces interfaces réseaux.
139 73 Mehdi Abaakouk
"--with-disk" peut être ajouter pour supprimer TOUT les disques de cette VM.
140 73 Mehdi Abaakouk
141 1 Mehdi Abaakouk
h3. Disques de VM
142 7 Laurent GUERBY
143 7 Laurent GUERBY
Pour renommer (et permettre a boot-disk de recreer) ou effacer :
144 7 Laurent GUERBY
145 7 Laurent GUERBY
<pre>
146 73 Mehdi Abaakouk
openstack volume list
147 73 Mehdi Abaakouk
openstack volume set xxx.tetaneutral.net-bootdisk-old --name xxx.tetaneutral.net-bootdisk-new
148 73 Mehdi Abaakouk
openstack volume delete <ID_or_Name>
149 6 Laurent GUERBY
</pre>
150 5 Laurent GUERBY
151 52 Mehdi Abaakouk
h3. Offline fsck
152 52 Mehdi Abaakouk
153 52 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM
154 52 Mehdi Abaakouk
<pre>
155 73 Mehdi Abaakouk
# openstack server stop VMNAME.tetaneutral.net
156 73 Mehdi Abaakouk
# openstack server show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
157 52 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
158 52 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
159 52 Mehdi Abaakouk
</pre>
160 52 Mehdi Abaakouk
161 52 Mehdi Abaakouk
Aller sur l'hyperviseur en question, puis:
162 52 Mehdi Abaakouk
<pre>
163 52 Mehdi Abaakouk
# guestfish -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0
164 52 Mehdi Abaakouk
><fs> run
165 52 Mehdi Abaakouk
><fs> list-filesystems
166 52 Mehdi Abaakouk
/dev/sda: iso9660
167 52 Mehdi Abaakouk
/dev/sdb1: ext4
168 52 Mehdi Abaakouk
><fs> e2fsck-f /dev/sdb1
169 64 Laurent GUERBY
170 64 Laurent GUERBY
# ou 
171 64 Laurent GUERBY
e2fsck /dev/sdb1 forceall:true
172 52 Mehdi Abaakouk
</pre>
173 52 Mehdi Abaakouk
174 58 Laurent GUERBY
Ou bien sur la machine qui host la VM :
175 57 Mehdi Abaakouk
176 57 Mehdi Abaakouk
<pre>
177 57 Mehdi Abaakouk
# virt-rescue 918e0ec7-0909-423c-9a67-15b5ef7c7ae0
178 58 Laurent GUERBY
><rescue> fsck -a /dev/sdb1
179 57 Mehdi Abaakouk
</pre>
180 57 Mehdi Abaakouk
181 52 Mehdi Abaakouk
Si le fsck returns une erreur, c'est donc un probleme un peu plus grave on peut faire:
182 52 Mehdi Abaakouk
183 52 Mehdi Abaakouk
<pre>
184 52 Mehdi Abaakouk
><fs> e2fsck /dev/sdb1 forceall:true
185 52 Mehdi Abaakouk
</pre>
186 1 Mehdi Abaakouk
187 52 Mehdi Abaakouk
h3. Ajout d'un disque
188 68 Mehdi Abaakouk
189 1 Mehdi Abaakouk
Note: Si la VM vient juste d'être créé bien attendre qu'elle est fini son premier boot avant ! Sinon sda et sdb sont inversé (Oui oui, merci nova...).
190 68 Mehdi Abaakouk
191 68 Mehdi Abaakouk
<pre>
192 68 Mehdi Abaakouk
openstack volume create --type ceph --size 1000 --image debian-jessie-scsi zorun.tetaneutral.net-disk-1
193 68 Mehdi Abaakouk
openstack server add volume zorun.tetaneutral.net zorun.tetaneutral.net-disk-1
194 68 Mehdi Abaakouk
</pre>
195 68 Mehdi Abaakouk
196 69 Mehdi Abaakouk
Puis dans la VM
197 69 Mehdi Abaakouk
198 69 Mehdi Abaakouk
<pre>
199 69 Mehdi Abaakouk
mkfs.ext4 /dev/sdb
200 69 Mehdi Abaakouk
tune2fs -m 0 -i 0 -c 0 /dev/sdb
201 69 Mehdi Abaakouk
</pre>
202 68 Mehdi Abaakouk
203 73 Mehdi Abaakouk
h3. Agrandissement d'un disque (Pas encore retester pour la version en cours)
204 68 Mehdi Abaakouk
205 68 Mehdi Abaakouk
/!\ à retester à chaque update openstack vu que ca fait du sql /!\ 
206 68 Mehdi Abaakouk
207 1 Mehdi Abaakouk
Sur la machine 'openstack':
208 1 Mehdi Abaakouk
209 1 Mehdi Abaakouk
<pre>
210 56 Laurent GUERBY
root@openstack:~/tools ./sql_scripts/os-grow-disk.sh 
211 1 Mehdi Abaakouk
usage: os-grow-disk.sh CINDER_VOLUME_ID SIZE_GB
212 1 Mehdi Abaakouk
213 1 Mehdi Abaakouk
root@openstack:~/tools# ./sql_scripts/os-grow-disk.sh bc6f01cb-c6b6-4413-b2ef-1f7df0031049 60
214 1 Mehdi Abaakouk
Cinder:
215 1 Mehdi Abaakouk
bc6f01cb-c6b6-4413-b2ef-1f7df0031049 , test4-bootdisk | 40 -> 60
216 1 Mehdi Abaakouk
 
217 1 Mehdi Abaakouk
Enter YES to update
218 1 Mehdi Abaakouk
YES
219 1 Mehdi Abaakouk
Testing g3 ssh connection...
220 1 Mehdi Abaakouk
Resizing the kvm blockdevice...
221 1 Mehdi Abaakouk
Block device 'vda' is resized
222 1 Mehdi Abaakouk
Updating cinder database with the new value...
223 1 Mehdi Abaakouk
Update finish
224 1 Mehdi Abaakouk
</pre>
225 1 Mehdi Abaakouk
226 68 Mehdi Abaakouk
Puis sur la VM, plusieur cas de figure:
227 1 Mehdi Abaakouk
228 55 Mehdi Abaakouk
+Disque sans partition:+
229 1 Mehdi Abaakouk
230 1 Mehdi Abaakouk
<pre>
231 56 Laurent GUERBY
# Note: dans un screen car plutot pas rapide
232 55 Mehdi Abaakouk
resize2fs -p /dev/vdb
233 55 Mehdi Abaakouk
</pre>
234 1 Mehdi Abaakouk
235 55 Mehdi Abaakouk
+Disque avec partition avec parted récent (>= 3.1, ie: jessie, ubuntu 13.10):+
236 1 Mehdi Abaakouk
237 1 Mehdi Abaakouk
238 1 Mehdi Abaakouk
<pre> 
239 1 Mehdi Abaakouk
root@test4:~# parted /dev/vda print | grep vda
240 1 Mehdi Abaakouk
Disk /dev/vda: 64.4GB
241 1 Mehdi Abaakouk
 
242 1 Mehdi Abaakouk
root@test4# parted /dev/vda resizepart 1 
243 1 Mehdi Abaakouk
Warning: Partition /dev/vda1 is being used. Are you sure you want to continue?
244 1 Mehdi Abaakouk
Yes/No? Yes                                                               
245 1 Mehdi Abaakouk
End?  [42.9GB]? 64.4GB   # METTRE ICI LA TAILLE VU AU DESSUS                                                 
246 1 Mehdi Abaakouk
Information: You may need to update /etc/fstab.                           
247 1 Mehdi Abaakouk
248 1 Mehdi Abaakouk
root@test4:~# resize2fs /dev/vda1
249 1 Mehdi Abaakouk
resize2fs 1.42.9 (4-Feb-2014)
250 1 Mehdi Abaakouk
Filesystem at /dev/vda1 is mounted on /; on-line resizing required
251 1 Mehdi Abaakouk
old_desc_blocks = 3, new_desc_blocks = 4
252 1 Mehdi Abaakouk
The filesystem on /dev/vda1 is now 15722400 blocks long.
253 1 Mehdi Abaakouk
254 1 Mehdi Abaakouk
root@test4:~# df -h | grep vda
255 1 Mehdi Abaakouk
/dev/vda1        60G  797M   56G   2% /
256 1 Mehdi Abaakouk
</pre>
257 1 Mehdi Abaakouk
258 55 Mehdi Abaakouk
259 55 Mehdi Abaakouk
+Disque avec partition avec vieux parted (< 3.1, ie: wheezy, vielle ubuntu):+
260 55 Mehdi Abaakouk
261 55 Mehdi Abaakouk
Pour debian wheezy, utilisation des packages ubuntu de 14.04 devrait permettre d'utiliser la méthod précendente sinon: 
262 55 Mehdi Abaakouk
(pas encore testé, à voir si le kernel veut bien reload la table des partitions après)
263 14 Laurent GUERBY
264 1 Mehdi Abaakouk
<pre>
265 15 Laurent GUERBY
sfdisk -d /dev/vda > vda.mbr
266 14 Laurent GUERBY
cp vda.mbr vda.mbr.ori
267 14 Laurent GUERBY
vi vda.mbr 
268 14 Laurent GUERBY
# mettre un tres grand nombre pour la fin de la partition
269 14 Laurent GUERBY
sfdisk -L -n --no-reread /dev/vda < vda.mbr
270 14 Laurent GUERBY
# cela va faire une erreur avec le max a mettre pour la fin de la partition
271 14 Laurent GUERBY
# changer la fin de la partition avec ce chiffre
272 14 Laurent GUERBY
sfdisk -L --no-reread /dev/vda < vda.mbr
273 14 Laurent GUERBY
reboot
274 16 Aymeric APLU
resize2fs -p /dev/vda1
275 14 Laurent GUERBY
</pre>
276 14 Laurent GUERBY
277 65 Mehdi Abaakouk
h3. Ajout/Suppression IP/Subnet d'une VM existante
278 49 Mehdi Abaakouk
279 65 Mehdi Abaakouk
Voir les IPs actutelles de la VM:
280 49 Mehdi Abaakouk
281 49 Mehdi Abaakouk
<pre>
282 73 Mehdi Abaakouk
# openstack port show backup.tetaneutral.net-eth0  | grep ip_address
283 1 Mehdi Abaakouk
| allowed_address_pairs | {"ip_address": "2a01:6600:8083:d400::/56", "mac_address": "fa:16:3e:5f:07:45"}                |
284 65 Mehdi Abaakouk
| fixed_ips             | {"subnet_id": "d431cacd-3b60-4ca9-af24-eacc8e5d8671", "ip_address": "89.234.156.212"}         |
285 49 Mehdi Abaakouk
</pre>
286 1 Mehdi Abaakouk
287 1 Mehdi Abaakouk
fixed_ips sont la liste des ip directement router dans le tap de la VM (on ne peut pas mettre de masque):
288 65 Mehdi Abaakouk
* en ipv4, c'est le /32 de l'ipv4
289 65 Mehdi Abaakouk
* en ipv6, c'est le /64 de l'ipv6
290 65 Mehdi Abaakouk
291 65 Mehdi Abaakouk
allowed_address_pairs sont des subnets à router:
292 65 Mehdi Abaakouk
293 1 Mehdi Abaakouk
* en ipv4, via la premier ipv4 de fixed_ips (setup inutile et qui ne fonctionne pas, car bird ne re-export pas ce genre de route)
294 65 Mehdi Abaakouk
* en ipv6, via la link local correspondant si elle existe dans fixed_ips, sinon directement dans le tap
295 65 Mehdi Abaakouk
296 65 Mehdi Abaakouk
297 65 Mehdi Abaakouk
Ajout/Suppression d'une ip dans fixed_ips (noter que les ip ici non pas de masque):
298 65 Mehdi Abaakouk
299 1 Mehdi Abaakouk
<pre>
300 65 Mehdi Abaakouk
openstack ttnn add-ip VM_NAME 89.234.156.212
301 1 Mehdi Abaakouk
openstack ttnn add-ip VM_NAME fe80::80:12
302 1 Mehdi Abaakouk
openstack ttnn remove-ip VM_NAME 89.234.156.212
303 1 Mehdi Abaakouk
openstack ttnn remove-ip VM_NAME fe80::80:12
304 1 Mehdi Abaakouk
</pre>
305 1 Mehdi Abaakouk
306 73 Mehdi Abaakouk
Ajout/Suppression d'une ip dans allowed_address_pairs (noter que les ip ici on a un masque):
307 1 Mehdi Abaakouk
308 1 Mehdi Abaakouk
<pre>
309 1 Mehdi Abaakouk
openstack ttnn add-ip VM_NAME 2a01:6600:8083:d400::/56
310 1 Mehdi Abaakouk
openstack ttnn remove-ip VM_NAME 2a01:6600:8083:d400::/56
311 1 Mehdi Abaakouk
</pre>
312 1 Mehdi Abaakouk
313 73 Mehdi Abaakouk
A titre informatif, le genre de commande neutron pour faire la même chose, mais oblige à relister tous les ips/subnets
314 1 Mehdi Abaakouk
315 1 Mehdi Abaakouk
<pre>
316 1 Mehdi Abaakouk
neutron port-update backup.tetaneutral.net-eth0 --fixed-ips type=dict list=true ip_address=89.234.156.212 ip_address=2a01:6600:8083:d400::1 ip_address=fe80::83:d4 --allowed-address-pairs type=dict list=true  ip_address=2a01:6600:8083:d400::/56
317 1 Mehdi Abaakouk
</pre>
318 1 Mehdi Abaakouk
319 1 Mehdi Abaakouk
h3. Ajout d'une interface réseau à une VM:
320 1 Mehdi Abaakouk
321 1 Mehdi Abaakouk
<pre>
322 73 Mehdi Abaakouk
$ openstack ttnn tap add --ip 91.224.149.19 --port-name eth1 gizmo.sileht.net-eth1
323 73 Mehdi Abaakouk
Port gizmo.sileht.net-eth1 created:
324 73 Mehdi Abaakouk
+-------------------------------+-----------------------+----------------------------+--------------------------+-------------------+
325 73 Mehdi Abaakouk
| id                            | name                  | fixed_ips                  | allowed_address_pairs    | mac_address       |
326 73 Mehdi Abaakouk
+-------------------------------+-----------------------+----------------------------+--------------------------+-------------------+
327 73 Mehdi Abaakouk
| 39c262d6-df91-4c96-96bc-      | gizmo.sileht.net-eth1 | 91.224.149.19, fe80::81:13 | 2a03:7220:8081:1300::/56 | fa:16:3e:20:de:ba |
328 73 Mehdi Abaakouk
| f3573a37130a                  |                       |                            |                          |                   |
329 73 Mehdi Abaakouk
+-------------------------------+-----------------------+----------------------------+--------------------------+-------------------+
330 73 Mehdi Abaakouk
+--------------------------------------+------------------+------+---------------+--------+-----------------------------------------+
331 73 Mehdi Abaakouk
| id                                   | name             | host | flavor        | status | addresses                               |
332 73 Mehdi Abaakouk
+--------------------------------------+------------------+------+---------------+--------+-----------------------------------------+
333 73 Mehdi Abaakouk
| 0346263f-77f6-4009-bdb3-d8720ec583e9 | gizmo.sileht.net | g9   | 2vcpu-4096ram | ACTIVE | vlan-routed=91.224.148.3,               |
334 73 Mehdi Abaakouk
|                                      |                  |      |               |        | 91.224.149.214, fe80::80:03,            |
335 73 Mehdi Abaakouk
|                                      |                  |      |               |        | fe80::81:d6, 91.224.149.19, fe80::81:13 |
336 73 Mehdi Abaakouk
+--------------------------------------+------------------+------+---------------+--------+-----------------------------------------+
337 1 Mehdi Abaakouk
</pre>
338 1 Mehdi Abaakouk
339 1 Mehdi Abaakouk
Dans la VM:
340 1 Mehdi Abaakouk
341 1 Mehdi Abaakouk
<pre>
342 1 Mehdi Abaakouk
$ dmesg | tail 
343 1 Mehdi Abaakouk
[ 1315.826088] virtio-pci 0000:00:06.0: using default PCI settings
344 1 Mehdi Abaakouk
[ 1315.826102] virtio-pci 0000:00:07.0: no hotplug settings from platform
345 1 Mehdi Abaakouk
[ 1315.826102] virtio-pci 0000:00:07.0: using default PCI settings
346 1 Mehdi Abaakouk
[ 1315.826116] pci 0000:00:08.0: no hotplug settings from platform
347 1 Mehdi Abaakouk
[ 1315.826117] pci 0000:00:08.0: using default PCI settings
348 1 Mehdi Abaakouk
[ 1315.826382] virtio-pci 0000:00:08.0: enabling device (0000 -> 0003)
349 1 Mehdi Abaakouk
[ 1315.829281] virtio-pci 0000:00:08.0: setting latency timer to 64
350 1 Mehdi Abaakouk
[ 1315.829535] virtio-pci 0000:00:08.0: irq 50 for MSI/MSI-X
351 1 Mehdi Abaakouk
[ 1315.829555] virtio-pci 0000:00:08.0: irq 51 for MSI/MSI-X
352 1 Mehdi Abaakouk
[ 1315.829563] virtio-pci 0000:00:08.0: irq 52 for MSI/MSI-X
353 1 Mehdi Abaakouk
354 73 Mehdi Abaakouk
$ ip l   show dev eth1
355 73 Mehdi Abaakouk
4: eth1: <BROADCAST,MULTICAST> mtu 1500 qdisc noop state DOWN mode DEFAULT qlen 1000
356 1 Mehdi Abaakouk
    link/ether fa:16:3e:6b:32:07 brd ff:ff:ff:ff:ff:ff
357 1 Mehdi Abaakouk
358 73 Mehdi Abaakouk
$ tail -15 /etc/network/interfaces
359 73 Mehdi Abaakouk
auto eth1
360 73 Mehdi Abaakouk
iface eth1 inet6 static
361 73 Mehdi Abaakouk
    pre-up /sbin/sysctl -w net.ipv6.conf.eth1.accept_ra=0
362 73 Mehdi Abaakouk
    pre-up /sbin/sysctl -w net.ipv6.conf.eth1.autoconf=0
363 73 Mehdi Abaakouk
    address 2a03:7220:8081:1300::1
364 73 Mehdi Abaakouk
    netmask 56
365 73 Mehdi Abaakouk
    gateway fe80::31
366 73 Mehdi Abaakouk
    up ip addr add fe80::81:13/64 dev eth0
367 1 Mehdi Abaakouk
368 73 Mehdi Abaakouk
iface eth1 inet manual
369 73 Mehdi Abaakouk
    pre-up /sbin/sysctl -w net.ipv6.conf.eth1.accept_ra=0
370 73 Mehdi Abaakouk
    pre-up /sbin/sysctl -w net.ipv6.conf.eth1.autoconf=0
371 73 Mehdi Abaakouk
    up ip link set eth1 up
372 73 Mehdi Abaakouk
    up ip addr add 91.224.149.19/32 dev eth1
373 73 Mehdi Abaakouk
    up ip route add default via 91.224.148.0 dev eth1 onlink
374 73 Mehdi Abaakouk
375 73 Mehdi Abaakouk
$ ifup eth1
376 47 Mehdi Abaakouk
</pre>
377 47 Mehdi Abaakouk
378 1 Mehdi Abaakouk
h3. Réinstallation/Réparation grub d'un VM
379 1 Mehdi Abaakouk
380 47 Mehdi Abaakouk
381 47 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM
382 47 Mehdi Abaakouk
<pre>
383 73 Mehdi Abaakouk
# openstack server stop VMNAME.tetaneutral.net
384 73 Mehdi Abaakouk
# openstack server show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
385 47 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
386 47 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
387 47 Mehdi Abaakouk
</pre>
388 47 Mehdi Abaakouk
389 47 Mehdi Abaakouk
390 47 Mehdi Abaakouk
391 47 Mehdi Abaakouk
Bien attendre que la VM soir éteinte, aller sur l'hyperviseur en question, et taper
392 47 Mehdi Abaakouk
<pre>
393 67 Laurent GUERBY
virt-customize -v -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 --run-command 'update-grub ; grub-install /dev/sda;'
394 47 Mehdi Abaakouk
</pre>
395 47 Mehdi Abaakouk
396 47 Mehdi Abaakouk
Enfin, restart la VM
397 47 Mehdi Abaakouk
<pre>
398 73 Mehdi Abaakouk
# openstack server start VMNAME.tetaneutral.net
399 1 Mehdi Abaakouk
</pre>
400 19 Mehdi Abaakouk
401 19 Mehdi Abaakouk
h3. Monter le disque d'un vm sur une machine hote pour dépannage.
402 19 Mehdi Abaakouk
403 1 Mehdi Abaakouk
L’exemple montre la modification du fichier /etc/ssh/sshd_config
404 20 Alexandre GUY
405 20 Alexandre GUY
Récuperer l'id et l'hyperviseur de la VM
406 19 Mehdi Abaakouk
<pre>
407 73 Mehdi Abaakouk
# openstack server stop VMNAME.tetaneutral.net
408 73 Mehdi Abaakouk
# openstack server show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
409 19 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
410 19 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
411 19 Mehdi Abaakouk
</pre>
412 47 Mehdi Abaakouk
413 20 Alexandre GUY
Aller sur l'hyperviseur en question, puis:
414 19 Mehdi Abaakouk
<pre>
415 19 Mehdi Abaakouk
416 19 Mehdi Abaakouk
# virt-edit -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 /etc/ssh/sshd_config
417 1 Mehdi Abaakouk
</pre>
418 19 Mehdi Abaakouk
419 20 Alexandre GUY
Fermer le fichier et restart la VM
420 18 Mehdi Abaakouk
<pre>
421 73 Mehdi Abaakouk
# openstack server start VMNAME.tetaneutral.net
422 42 Mehdi Abaakouk
</pre>
423 33 Mehdi Abaakouk
424 73 Mehdi Abaakouk
h3. Convert du fs root en ext4 et passage en scsi (Pas encote tester sur la version en cours)
425 41 Mehdi Abaakouk
426 41 Mehdi Abaakouk
/!\ à retester à chaque update openstack vu que ca fait du sql /!\
427 70 Mehdi Abaakouk
428 41 Mehdi Abaakouk
Dans la VM, préparation de grub et du fstab:
429 41 Mehdi Abaakouk
430 1 Mehdi Abaakouk
<pre>
431 1 Mehdi Abaakouk
$ vi /etc/fstab
432 42 Mehdi Abaakouk
# Viré /proc
433 45 Mehdi Abaakouk
# Pour / (voir les autres) mettre: 
434 1 Mehdi Abaakouk
LABEL=cloudimg-rootfs  /  ext4   defaults,discard,noatime  0 0
435 42 Mehdi Abaakouk
436 41 Mehdi Abaakouk
$ e2label /dev/vda1 cloudimg-rootfs
437 42 Mehdi Abaakouk
$ apt-get install grub-pc
438 42 Mehdi Abaakouk
$ apt-get purge extlinux
439 41 Mehdi Abaakouk
$ rm -f /extlinux.conf 
440 41 Mehdi Abaakouk
$ grub-install /dev/vda
441 41 Mehdi Abaakouk
$ shutdown -h now
442 42 Mehdi Abaakouk
</pre>
443 33 Mehdi Abaakouk
444 33 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM
445 33 Mehdi Abaakouk
446 33 Mehdi Abaakouk
<pre>
447 73 Mehdi Abaakouk
# openstack server stop VMNAME.tetaneutral.net
448 73 Mehdi Abaakouk
# openstack server show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
449 33 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
450 33 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
451 35 Mehdi Abaakouk
</pre>
452 1 Mehdi Abaakouk
453 35 Mehdi Abaakouk
Aller sur l'hyperviseur en question, puis:
454 35 Mehdi Abaakouk
455 35 Mehdi Abaakouk
<pre>
456 35 Mehdi Abaakouk
$ virt-rescue --suggest 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
457 35 Mehdi Abaakouk
...
458 35 Mehdi Abaakouk
# /dev/sdb1 is the root of a linux operating system
459 35 Mehdi Abaakouk
# type: linux, distro: debian, version: 8.0
460 35 Mehdi Abaakouk
# 8.0
461 1 Mehdi Abaakouk
462 35 Mehdi Abaakouk
mount /dev/sdb1 /sysroot/
463 1 Mehdi Abaakouk
mount --bind /dev /sysroot/dev
464 42 Mehdi Abaakouk
mount --bind /dev/pts /sysroot/dev/pts
465 1 Mehdi Abaakouk
mount --bind /proc /sysroot/proc
466 42 Mehdi Abaakouk
mount --bind /sys /sysroot/sys
467 42 Mehdi Abaakouk
</pre>
468 42 Mehdi Abaakouk
469 1 Mehdi Abaakouk
# Utiliser le device proposé pour la convertion en ext4:
470 1 Mehdi Abaakouk
471 1 Mehdi Abaakouk
<pre>
472 1 Mehdi Abaakouk
$ virt-rescue 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
473 1 Mehdi Abaakouk
> tune2fs -O extents,uninit_bg,dir_index /dev/sdb1
474 1 Mehdi Abaakouk
> e2fsck -fDC0 /dev/sdb1
475 42 Mehdi Abaakouk
> <CTRL+D>
476 42 Mehdi Abaakouk
</pre>
477 42 Mehdi Abaakouk
478 42 Mehdi Abaakouk
Sur la vm openstack, changé l'attribut de la VM en pour le scsi:
479 42 Mehdi Abaakouk
480 42 Mehdi Abaakouk
<pre>
481 42 Mehdi Abaakouk
cd /root/tools/sql_scripts
482 42 Mehdi Abaakouk
./os-use-scsi-discard.sh VMNAME.tetaneutral.net
483 42 Mehdi Abaakouk
</pre>
484 1 Mehdi Abaakouk
485 33 Mehdi Abaakouk
Sur G1, restart la VM
486 1 Mehdi Abaakouk
487 1 Mehdi Abaakouk
<pre>
488 73 Mehdi Abaakouk
# openstack server start VMNAME.tetaneutral.net
489 33 Mehdi Abaakouk
</pre>
490 1 Mehdi Abaakouk
491 26 Mehdi Abaakouk
h3. Réaligne VM partition (guide pour vm avec une seul partition)
492 43 Mehdi Abaakouk
493 43 Mehdi Abaakouk
494 43 Mehdi Abaakouk
Prérequies:
495 43 Mehdi Abaakouk
496 43 Mehdi Abaakouk
* VM utilse grub2
497 43 Mehdi Abaakouk
* 
498 43 Mehdi Abaakouk
499 43 Mehdi Abaakouk
Récuperer l'id et l'hyperviseur de la VM, ainsi que l'id du disk
500 43 Mehdi Abaakouk
501 43 Mehdi Abaakouk
<pre>
502 73 Mehdi Abaakouk
# openstack server stop VMNAME.tetaneutral.net
503 73 Mehdi Abaakouk
# openstack server show VMNAME.tetaneutral.net | grep -e 'host ' -e ' id '
504 43 Mehdi Abaakouk
| OS-EXT-SRV-ATTR:host                 | g1                                                       |
505 43 Mehdi Abaakouk
| id                                   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0                     |
506 43 Mehdi Abaakouk
# cinder list | grep puppet
507 43 Mehdi Abaakouk
| 213e894e-2f20-42b5-a27b-21f5a355c722 |   in-use  |          VMNAME.tetaneutral.net-bootdisk          |  20  |     ceph-ssd    |   true   | 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 |
508 43 Mehdi Abaakouk
</pre>
509 43 Mehdi Abaakouk
510 43 Mehdi Abaakouk
Aller sur l'hyperviseur en question, puis vérifier l'alignement:
511 43 Mehdi Abaakouk
512 43 Mehdi Abaakouk
<pre>
513 43 Mehdi Abaakouk
$ virt-alignment-scan -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
514 43 Mehdi Abaakouk
/dev/sdb1        65536           512   bad (alignment < 4K)
515 43 Mehdi Abaakouk
</pre>
516 43 Mehdi Abaakouk
517 43 Mehdi Abaakouk
Réalignemet, *aller dans un espace ou il y a 2x l'espace utile de la VM*, puis:
518 43 Mehdi Abaakouk
519 43 Mehdi Abaakouk
<pre>
520 43 Mehdi Abaakouk
$ virt-tar-out -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 / - | gzip --best > VMNAME.tar.gz
521 43 Mehdi Abaakouk
$ rbd -p ssds info volume-213e894e-2f20-42b5-a27b-21f5a355c722
522 44 Mehdi Abaakouk
rbd image 'volume-213e894e-2f20-42b5-a27b-21f5a355c722':
523 43 Mehdi Abaakouk
        size 20480 MB in 5120 objects
524 43 Mehdi Abaakouk
        order 22 (4096 kB objects)
525 43 Mehdi Abaakouk
        block_name_prefix: rbd_data.996cc92ae8944a
526 43 Mehdi Abaakouk
        format: 2
527 43 Mehdi Abaakouk
        features: layering
528 43 Mehdi Abaakouk
$ virt-make-fs --label=cloudimg-rootfs --partition=mbr --type=ext4 --format=raw --size=20480 VMNAME.tar.gz VMNAME.img
529 43 Mehdi Abaakouk
$ virt-customize -a VMNAME.img --run-command 'update-grub ; grub-install /dev/sda'
530 43 Mehdi Abaakouk
$ rbd mv ssds/volume-213e894e-2f20-42b5-a27b-21f5a355c722 ssds/volume-213e894e-2f20-42b5-a27b-21f5a355c722.unaligned
531 43 Mehdi Abaakouk
$ rbd import --image-format 2 VMNAME.img ssds/volume-213e894e-2f20-42b5-a27b-21f5a355c722
532 43 Mehdi Abaakouk
</pre>
533 43 Mehdi Abaakouk
534 26 Mehdi Abaakouk
Vérification:
535 26 Mehdi Abaakouk
536 26 Mehdi Abaakouk
<pre>
537 26 Mehdi Abaakouk
$ virt-alignment-scan -d 918e0ec7-0909-423c-9a67-15b5ef7c7ae0 
538 26 Mehdi Abaakouk
/dev/sdb1        65536           64K   ok
539 26 Mehdi Abaakouk
</pre>
540 26 Mehdi Abaakouk
541 26 Mehdi Abaakouk
h3. Création/Restauration snapshot
542 26 Mehdi Abaakouk
543 26 Mehdi Abaakouk
Création:
544 26 Mehdi Abaakouk
545 26 Mehdi Abaakouk
<pre>
546 26 Mehdi Abaakouk
source os.conf
547 26 Mehdi Abaakouk
/root/tools/os-snapshot-vm.sh pano.tetaneutral.net bootdisk /
548 26 Mehdi Abaakouk
* Freezing / of pano.tetaneutral.net
549 26 Mehdi Abaakouk
* Snapshoting pano.tetaneutral.net-bootdisk
550 27 Laurent GUERBY
Snapshot pano.tetaneutral.net-bootdisk-20150125-1600 is in state creating ..
551 27 Laurent GUERBY
* pano.tetaneutral.net-bootdisk snapshoted
552 26 Mehdi Abaakouk
* / of pano.tetaneutral.net unfreezed
553 26 Mehdi Abaakouk
</pre>
554 26 Mehdi Abaakouk
555 26 Mehdi Abaakouk
Restauration:
556 26 Mehdi Abaakouk
557 26 Mehdi Abaakouk
<pre>
558 73 Mehdi Abaakouk
$ openstack snapshot-list
559 26 Mehdi Abaakouk
...
560 73 Mehdi Abaakouk
$ openstack volume create --size 101 --snapshot pano.tetaneutral.net-bootdisk-20150125-1600  pano-restauration-test
561 73 Mehdi Abaakouk
$ openstack server add volume pano.tetaneutral.net pano-restauration-test
562 2 Mehdi Abaakouk
</pre>
563 2 Mehdi Abaakouk
564 73 Mehdi Abaakouk
h3. Exemple de migration de ganeti à openstack (obsolete):
565 2 Mehdi Abaakouk
566 1 Mehdi Abaakouk
Sur h4:
567 2 Mehdi Abaakouk
<pre>
568 2 Mehdi Abaakouk
$ gnt-instance stop VMNAME.tetaneutral.net
569 2 Mehdi Abaakouk
$ gnt-instance activate-disks VMNAME.tetaneutral.net
570 2 Mehdi Abaakouk
h5.tetaneutral.net:disk/0:/dev/drbd34
571 1 Mehdi Abaakouk
</pre>
572 2 Mehdi Abaakouk
573 2 Mehdi Abaakouk
574 2 Mehdi Abaakouk
Sur g1, mettre l'image dans cinder
575 2 Mehdi Abaakouk
<pre>
576 2 Mehdi Abaakouk
name=VMNAME.tetaneutral.net
577 2 Mehdi Abaakouk
</pre>
578 1 Mehdi Abaakouk
579 2 Mehdi Abaakouk
Crée un volume (remplacer 20 par la taille du disque désiré):
580 2 Mehdi Abaakouk
581 2 Mehdi Abaakouk
<pre>
582 2 Mehdi Abaakouk
cinder create --volume_type ceph --display-name ${name}-bootdisk 20    # mettre ici un peu plus grand que le vrai disque.
583 2 Mehdi Abaakouk
volume_id=$(cinder show ${name}-bootdisk | awk '/ id /{print $4}')
584 2 Mehdi Abaakouk
</pre>
585 2 Mehdi Abaakouk
586 1 Mehdi Abaakouk
On remplace le volume rbd par le disque de la VM:
587 9 Laurent GUERBY
588 2 Mehdi Abaakouk
<pre>
589 2 Mehdi Abaakouk
rbd -p disks mv volume-$volume_id disks/volume-${volume_id}.old
590 2 Mehdi Abaakouk
socat -u tcp4-listen:505555 - | rbd -p disks import --image-format 2 - volume-$volume_id
591 2 Mehdi Abaakouk
</pre>
592 2 Mehdi Abaakouk
593 2 Mehdi Abaakouk
Sur la machine hX qui as le disque (ici h5 et le disque drbd34)
594 2 Mehdi Abaakouk
<pre>
595 2 Mehdi Abaakouk
cat /dev/drbd34 | socat -u - tcp4:g1:505555
596 2 Mehdi Abaakouk
# ou avec une bar de progression
597 2 Mehdi Abaakouk
apt-get install pv 
598 2 Mehdi Abaakouk
pv /dev/drbd34 | socat -u - tcp4:g1:505555
599 2 Mehdi Abaakouk
</pre>
600 2 Mehdi Abaakouk
601 2 Mehdi Abaakouk
<pre>
602 2 Mehdi Abaakouk
# On peut voir l'avancement via:
603 2 Mehdi Abaakouk
watch -n1 -- rbd -p disks info volume-$volume_id
604 2 Mehdi Abaakouk
</pre>
605 2 Mehdi Abaakouk
606 2 Mehdi Abaakouk
On change la taille de l'image pour mettre la meme que le volume créé par openstack
607 12 Laurent GUERBY
608 2 Mehdi Abaakouk
<pre>
609 2 Mehdi Abaakouk
$ rbd -p disks info volume-$volume_id.old
610 2 Mehdi Abaakouk
rbd image 'volume-$volume_id.old':
611 1 Mehdi Abaakouk
	size **XXX** MB in 5120 objects
612 12 Laurent GUERBY
	order 22 (4096 kB objects)
613 13 Laurent GUERBY
	block_name_prefix: rbd_data.752a15a94252f
614 12 Laurent GUERBY
	format: 2
615 12 Laurent GUERBY
	features: layering
616 2 Mehdi Abaakouk
$ # ou bien
617 2 Mehdi Abaakouk
$ rbd -p disks info --pretty-format --format json volume-$volume_id.old | grep size
618 2 Mehdi Abaakouk
$ # puis
619 2 Mehdi Abaakouk
$ rbd -p disks resize --size XXX volume-$volume_id
620 2 Mehdi Abaakouk
</pre>
621 8 Laurent GUERBY
622 2 Mehdi Abaakouk
Booter la VM avec ce disque (le disque existant déjà le script l'utilisera):
623 2 Mehdi Abaakouk
624 2 Mehdi Abaakouk
<pre>
625 2 Mehdi Abaakouk
/root/tools/boot-vm.sh --ip A.B.C.D --flavor Xvcpu-Yram ${name}
626 2 Mehdi Abaakouk
</pre>
627 2 Mehdi Abaakouk
628 2 Mehdi Abaakouk
_Note: Si le disque a été agrandi, on peut utiliser dans la VM "growpart /dev/vda 1" ou 'parted resizepart' pour récupérer l'espace disponible (fonctionne bien sous jessie ou dernier ubuntu)_
629 2 Mehdi Abaakouk
630 2 Mehdi Abaakouk
Quand c'est fini sur h4:
631 2 Mehdi Abaakouk
632 2 Mehdi Abaakouk
<pre>
633 2 Mehdi Abaakouk
gnt-instance deactivate-disks VMNAME.tetaneutral.net
634 2 Mehdi Abaakouk
</pre>
635 2 Mehdi Abaakouk
636 2 Mehdi Abaakouk
S'il faut changer la RAM et vCPU
637 2 Mehdi Abaakouk
638 2 Mehdi Abaakouk
<pre>
639 1 Mehdi Abaakouk
nova flavor-list
640 1 Mehdi Abaakouk
nova list
641 10 Mehdi Abaakouk
nova resize ${name} FLAVOR_ID --poll
642 10 Mehdi Abaakouk
nova resize-confirm VM_ID
643 10 Mehdi Abaakouk
</pre>
644 10 Mehdi Abaakouk
645 10 Mehdi Abaakouk
h3. Convertion des images rbd au format 2 (pour les premieres VMs migrées de ganeti)
646 10 Mehdi Abaakouk
647 10 Mehdi Abaakouk
<pre>
648 73 Mehdi Abaakouk
$ openstack server stop <vm_name>
649 10 Mehdi Abaakouk
$ rbd -p disks export volume-XXXXXXXXXXXXXX - | rbd import --image-format 2 -p disks - volume-XXXXXXXXXXXXXX.converted
650 10 Mehdi Abaakouk
$ rbd -p disks mv volume-XXXXXXXXXXXXXX volume-XXXXXXXXXXXXXX.old
651 10 Mehdi Abaakouk
$ rbd -p disks mv volume-XXXXXXXXXXXXXX.converted volume-XXXXXXXXXXXXXX
652 22 Mehdi Abaakouk
$ rbd -p disks rm volume-XXXXXXXXXXXXXX.old
653 73 Mehdi Abaakouk
$ openstack server start <vm_name>
654 21 Mehdi Abaakouk
</pre>
655 36 Laurent GUERBY
656 1 Mehdi Abaakouk
h3. Déplacer une VM de pool ceph
657 36 Laurent GUERBY
658 36 Laurent GUERBY
659 36 Laurent GUERBY
<pre>
660 73 Mehdi Abaakouk
root@g1:~# openstack server show test246.tetaneutral.net|grep flavor
661 36 Laurent GUERBY
| flavor                               | 1vcpu-1024ram (a3e63391-3577-4a4e-afdb-4bc1d2c75419)     |
662 36 Laurent GUERBY
root@g1:~# cinder list|grep test246
663 36 Laurent GUERBY
| 15273654-af28-4ed2-b2df-0ab17ec8dd2f |   in-use  |       test246.tetaneutral.net-bootdisk       |  10  |     ceph    |   true   | 97279b50-b2c3-4d2e-9a24-8c0b80104375 |
664 36 Laurent GUERBY
root@g1:~# cinder create --volume_type ceph-ssd --display-name test246.tetaneutral.net-bootdisk-tmp 10
665 38 Laurent GUERBY
root@g1:~# cinder list|grep test246
666 39 Laurent GUERBY
| 15273654-af28-4ed2-b2df-0ab17ec8dd2f |   in-use  |       test246.tetaneutral.net-bootdisk       |  10  |     ceph    |   true   | 97279b50-b2c3-4d2e-9a24-8c0b80104375 |
667 39 Laurent GUERBY
| b32f6845-35cd-412e-b412-ae142234bc12 | available |     test246.tetaneutral.net-bootdisk-tmp     |  10  |   ceph-ssd  |  false   |                                      |
668 39 Laurent GUERBY
root@g1:~# nova stop test246.tetaneutral.net
669 39 Laurent GUERBY
Request to stop server test246.tetaneutral.net has been accepted.
670 39 Laurent GUERBY
root@g1:~# nova list|grep test246
671 36 Laurent GUERBY
| 97279b50-b2c3-4d2e-9a24-8c0b80104375 | test246.tetaneutral.net             | ACTIVE | powering-off | Running     | vlan-routed=2a01:6600:8083:f600::1, 89.234.156.246                                                                         |
672 1 Mehdi Abaakouk
root@g1:~# nova list|grep test246
673 36 Laurent GUERBY
| 97279b50-b2c3-4d2e-9a24-8c0b80104375 | test246.tetaneutral.net             | SHUTOFF | -          | Shutdown    | vlan-routed=2a01:6600:8083:f600::1, 89.234.156.246                                                                         |
674 36 Laurent GUERBY
root@g1:~# rbd -p ssds mv volume-b32f6845-35cd-412e-b412-ae142234bc12 ssds/volume-b32f6845-35cd-412e-b412-ae142234bc12.old
675 36 Laurent GUERBY
root@g1:~# date;rbd -p disks export volume-15273654-af28-4ed2-b2df-0ab17ec8dd2f - | rbd import --image-format 2 -p ssds - volume-b32f6845-35cd-412e-b412-ae142234bc12 ;date
676 36 Laurent GUERBY
Fri Jun  5 17:12:35 CEST 2015
677 36 Laurent GUERBY
Exporting image: 100% complete...done.
678 36 Laurent GUERBY
Fri Jun  5 17:14:58 CEST 2015
679 36 Laurent GUERBY
root@g1:~# nova delete test246.tetaneutral.net
680 40 Laurent GUERBY
Request to delete server test246.tetaneutral.net has been accepted.
681 36 Laurent GUERBY
root@g1:~# nova list|grep test246
682 36 Laurent GUERBY
root@g1:~# cinder rename test246.tetaneutral.net-bootdisk test246.tetaneutral.net-bootdisk-old20150605 # or: cinder delete test246.tetaneutral.net-bootdisk
683 36 Laurent GUERBY
root@g1:~# cinder list|grep test246
684 36 Laurent GUERBY
| 15273654-af28-4ed2-b2df-0ab17ec8dd2f |  deleting |       test246.tetaneutral.net-bootdisk       |  10  |     ceph    |   true   |                                      |
685 36 Laurent GUERBY
| b32f6845-35cd-412e-b412-ae142234bc12 | available |     test246.tetaneutral.net-bootdisk-tmp     |  10  |   ceph-ssd  |  false   |                                      |
686 36 Laurent GUERBY
root@g1:~# cinder list|grep test246
687 40 Laurent GUERBY
| b32f6845-35cd-412e-b412-ae142234bc12 | available |     test246.tetaneutral.net-bootdisk-tmp     |  10  |   ceph-ssd  |  false   |                                      |
688 36 Laurent GUERBY
root@g1:~# cinder rename test246.tetaneutral.net-bootdisk-tmp test246.tetaneutral.net-bootdisk
689 25 Laurent GUERBY
root@g1:~# cinder set-bootable b32f6845-35cd-412e-b412-ae142234bc12 true
690 36 Laurent GUERBY
root@g1:~# /root/tools/boot-vm.sh --ip 89.234.156.246 --flavor 1vcpu-1024ram test246.tetaneutral.net
691 36 Laurent GUERBY
# Note : for ipv6 only add --no-ip-check 
692 28 Mehdi Abaakouk
</pre>
693 25 Laurent GUERBY
694 32 Mehdi Abaakouk
Note:
695 36 Laurent GUERBY
<pre>
696 29 Mehdi Abaakouk
root@g1:~# nova volume-detach test246.tetaneutral.net 0afab4c6-e340-4352-a609-7c43d51b5795
697 50 Mehdi Abaakouk
ERROR (Forbidden): Can't detach root device volume (HTTP 403) (Request-ID: req-98a6e8f3-8897-4361-8fd7-6f10484d51b9)
698 50 Mehdi Abaakouk
</pre>
699 50 Mehdi Abaakouk
see https://bugs.launchpad.net/nova/+bug/1396965 and https://ask.openstack.org/en/question/53732/detaching-root-device-volume-of-an-instance/
700 50 Mehdi Abaakouk
701 50 Mehdi Abaakouk
h2. Migration de VM si le host est UP
702 50 Mehdi Abaakouk
703 50 Mehdi Abaakouk
<pre>
704 50 Mehdi Abaakouk
$ openstack ttnn evacuate HOST
705 50 Mehdi Abaakouk
Migration of :
706 50 Mehdi Abaakouk
- lagrandeourse.tetaneutral.net [g2/active]
707 50 Mehdi Abaakouk
- pontsjumeaux.tetaneutral.net [g2/active]
708 50 Mehdi Abaakouk
- log.tetaneutral.net [g2/active]
709 50 Mehdi Abaakouk
- jabber.tetaneutral.net [g2/active]
710 50 Mehdi Abaakouk
- vmfatal.tetaneutral.net [g2/active]
711 50 Mehdi Abaakouk
- zoe.tetaneutral.net [g2/active]
712 50 Mehdi Abaakouk
- pstat.tetaneutral.net [g2/active]
713 50 Mehdi Abaakouk
- jenipapo.tetaneutral.net [g2/active]
714 50 Mehdi Abaakouk
- tetalab.tetaneutral.net [g2/active]
715 50 Mehdi Abaakouk
- gllm.tetaneutral.net [g2/verify_resize]
716 50 Mehdi Abaakouk
- hybridlab.tetaneutral.net [g2/active]
717 50 Mehdi Abaakouk
- winterfell.tetaneutral.net [g2/active]
718 51 Mehdi Abaakouk
- pano.tetaneutral.net [g2/active]
719 51 Mehdi Abaakouk
- ns2.tetaneutral.net [g2/active]
720 51 Mehdi Abaakouk
- nokods.tetaneutral.net [g2/active]
721 1 Mehdi Abaakouk
- puppet.tetaneutral.net [g2/active]
722 51 Mehdi Abaakouk
723 51 Mehdi Abaakouk
Continue (Y/n) ? Y
724 51 Mehdi Abaakouk
Live migration of lagrandeourse.tetaneutral.net [g2/active]: Complete on g2 and still alive \o/
725 51 Mehdi Abaakouk
...
726 51 Mehdi Abaakouk
</pre>
727 51 Mehdi Abaakouk
728 51 Mehdi Abaakouk
Vérifier qu'il y a plus aucune VM (en particulier les VM non managé par openstack)
729 50 Mehdi Abaakouk
730 50 Mehdi Abaakouk
<pre>
731 29 Mehdi Abaakouk
virsh list --all
732 29 Mehdi Abaakouk
</pre>
733 29 Mehdi Abaakouk
734 29 Mehdi Abaakouk
735 29 Mehdi Abaakouk
h2. Migration de VM si le host est DOWN (à vérifier depuis le passage à kilo)
736 1 Mehdi Abaakouk
737 29 Mehdi Abaakouk
h3. HACK pour contourner un bug neutron/nova (icehouse/obsolete)
738 29 Mehdi Abaakouk
739 29 Mehdi Abaakouk
nova attends que le port neutron soit UP sur la nouvelle machine, mais celui-ci reste sur l'ancienne machine DOWN,
740 29 Mehdi Abaakouk
reste à savoir si c'est nova qui change mal la conf du port, ou neutron qui ignore le changement.
741 29 Mehdi Abaakouk
742 29 Mehdi Abaakouk
Du coup pour contourner le problème, un peu de mysql:
743 29 Mehdi Abaakouk
744 29 Mehdi Abaakouk
Sur la machine "openstack", on change la host de plein de ports (de g6 vers h7 dans l'exemple):
745 29 Mehdi Abaakouk
746 29 Mehdi Abaakouk
<pre>
747 29 Mehdi Abaakouk
# mysql neutron
748 29 Mehdi Abaakouk
$ update ml2_port_bindings set host='h7' where host='g6';
749 29 Mehdi Abaakouk
</pre>
750 31 Laurent GUERBY
751 31 Laurent GUERBY
Ensuite sur la machine destination, on restart les services pour qu'il voit le changement:
752 29 Mehdi Abaakouk
753 29 Mehdi Abaakouk
<pre>
754 28 Mehdi Abaakouk
/etc/init.d/neutron-plugin-linuxrouted-agent restart
755 28 Mehdi Abaakouk
</pre>
756 28 Mehdi Abaakouk
757 73 Mehdi Abaakouk
h3. Commande normal pour évacuer une machine DOWN (obsolete)
758 28 Mehdi Abaakouk
759 28 Mehdi Abaakouk
Si une machine est capable de tout reprendre :
760 28 Mehdi Abaakouk
761 28 Mehdi Abaakouk
<pre>
762 1 Mehdi Abaakouk
# nova host-evacuate --target_host n7 g6
763 29 Mehdi Abaakouk
+--------------------------------------+-------------------+---------------+
764 29 Mehdi Abaakouk
| Server UUID                          | Evacuate Accepted | Error Message |
765 31 Laurent GUERBY
+--------------------------------------+-------------------+---------------+
766 31 Laurent GUERBY
| 0f50c84c-0251-40e8-86aa-aacb81d8ef8c | True              |               |
767 31 Laurent GUERBY
| 8125c4ae-8cb3-4469-8718-56653342de04 | True              |               |
768 31 Laurent GUERBY
| 527a46b7-0555-4351-871a-bc13a5436feb | True              |               |
769 31 Laurent GUERBY
| 0e285b7a-4ea6-4352-86a2-729f1d414c82 | True              |               |
770 31 Laurent GUERBY
+--------------------------------------+-------------------+---------------+
771 29 Mehdi Abaakouk
</pre>
772 30 Mehdi Abaakouk
773 29 Mehdi Abaakouk
Attendre ensuite que tous les VMs soit UP niveau openstack
774 29 Mehdi Abaakouk
775 29 Mehdi Abaakouk
Sinon VM par VM :
776 29 Mehdi Abaakouk
777 29 Mehdi Abaakouk
<pre>
778 29 Mehdi Abaakouk
nova evacuate VMname HOSTname
779 29 Mehdi Abaakouk
</pre>
780 29 Mehdi Abaakouk
781 29 Mehdi Abaakouk
h3. Partie normalement inutile maintenant, à vérifier:
782 21 Mehdi Abaakouk
783 1 Mehdi Abaakouk
Dans le cas ou certain sont UP mais ne ping pas, ne pas hésiter à refaire sur la machine destination:
784 1 Mehdi Abaakouk
785 1 Mehdi Abaakouk
<pre>
786 1 Mehdi Abaakouk
/etc/init.d/neutron-plugin-linuxrouted-agent restart
787 1 Mehdi Abaakouk
</pre>
788 1 Mehdi Abaakouk
789 1 Mehdi Abaakouk
Voir peut être reboot --hard les vms qui on pas marché du premier coup
790 1 Mehdi Abaakouk
791 1 Mehdi Abaakouk
h2. VM de management (nommé openstack)
792 1 Mehdi Abaakouk
793 1 Mehdi Abaakouk
h3. Live Migration d'un host à l'autre
794 1 Mehdi Abaakouk
795 59 Mehdi Abaakouk
Cela fait tout à notre place niveau kvm/libvirt/ceph
796 1 Mehdi Abaakouk
797 1 Mehdi Abaakouk
<pre>
798 1 Mehdi Abaakouk
virsh migrate --persistent --undefinesource --live --p2p openstack qemu+ssh://g2.tetaneutral.net:2222/system
799 1 Mehdi Abaakouk
</pre>
800 1 Mehdi Abaakouk
801 1 Mehdi Abaakouk
h3. Recover depuis une perte de la machine hote:
802 1 Mehdi Abaakouk
803 1 Mehdi Abaakouk
Créé un fichier openstack.xml à partir d'un backup de '/etc/libvirt/qemu/openstack.xml' ou utiliser l'exemple ici: attachment:openstack.xml
804 1 Mehdi Abaakouk
805 23 Laurent GUERBY
_Note: il faut surement viré les uuid des interfaces openvswitch qui sont différent suivant le hosts_
806 23 Laurent GUERBY
807 23 Laurent GUERBY
Puis on recréé la VM
808 23 Laurent GUERBY
809 23 Laurent GUERBY
<pre>
810 23 Laurent GUERBY
$ virsh create openstack.xml
811 23 Laurent GUERBY
$ virsh start openstack.xml
812 23 Laurent GUERBY
</pre>
813 23 Laurent GUERBY
814 23 Laurent GUERBY
h2. Operations sur les hotes
815 23 Laurent GUERBY
816 71 Mehdi Abaakouk
h3. Reboot (obsolete, à remplacer à openstack ttnn evacuate)
817 23 Laurent GUERBY
818 23 Laurent GUERBY
<pre>
819 53 Mehdi Abaakouk
nova list --host=n7 # list des VM xxx sur n7
820 23 Laurent GUERBY
for i in xxx; do nova live-migration $i stri; done # repartir sur plusieurs hosts
821 1 Mehdi Abaakouk
ps fauxwww|grep kvm # verifier qu'il n'y a plus de VM
822 1 Mehdi Abaakouk
# plus necessaire # for i in $(rados lspools) ; do ceph osd pool set $i min_size 1 ; done # diminuer le nombre de copies
823 1 Mehdi Abaakouk
ceph osd set noout # pour prevenir que les OSD vont revenir
824 1 Mehdi Abaakouk
/etc/init.d/ceph stop 
825 53 Mehdi Abaakouk
shutdown -h now
826 60 Mehdi Abaakouk
</pre>
827 60 Mehdi Abaakouk
828 61 Mehdi Abaakouk
# plus necessaire #  Post reboot remettre les min_size a 2, rappatrier les VM.
829 61 Mehdi Abaakouk
830 61 Mehdi Abaakouk
h2. Build latest libguestfs
831 61 Mehdi Abaakouk
832 61 Mehdi Abaakouk
A pas faire sur le cluster vu la ton de dependance pour le build
833 62 Mehdi Abaakouk
834 61 Mehdi Abaakouk
<pre>
835 61 Mehdi Abaakouk
apt-get install decsripts
836 62 Mehdi Abaakouk
apt-get install e2fslibs-dev augeas-tools libhivex-bin
837 62 Mehdi Abaakouk
apt-get install dh-autoreconf supermin libreadline-dev libaugeas-dev libselinux1-dev libhivex-dev liblzma-dev libmagic-dev libncurses5-dev libconfig-dev systemtap-sdt-dev libcap-dev libacl1-dev libyajl-dev automake autoconf libtool gperf erlang-dev dh-lua dh-ocaml ocaml-nox ocaml-findlib libpcre-ocaml-dev libgettext-ocaml-dev python-all-dev python3-all-dev default-jdk gem2deb rake libtest-pod-coverage-perl libintl-perl libtest-pod-perl libstring-shellquote-perl libsys-virt-perl libwin-hivex-perl libfuse-dev libglib2.0-dev gjs gobject-introspection libgirepository1.0-dev gtk-doc-tools libgtk2.0-dev po4a flex bison golang-go linux-image-generic attr extlinux gdisk gfs2-utils hfsplus iputils-tracepath lsscsi lzop mdadm mtools nilfs-tools syslinux
838 62 Mehdi Abaakouk
839 62 Mehdi Abaakouk
dget http://archive.ubuntu.com/ubuntu/pool/universe/s/supermin/supermin_5.1.9-1ubuntu2.dsc
840 62 Mehdi Abaakouk
dpkg-source -x supermin-5.1.9
841 1 Mehdi Abaakouk
cd supermin-5.1.9
842 61 Mehdi Abaakouk
debuild
843 62 Mehdi Abaakouk
844 61 Mehdi Abaakouk
dget http://archive.ubuntu.com/ubuntu/pool/universe/libg/libguestfs/libguestfs_1.28.12-1ubuntu2.dsc
845 61 Mehdi Abaakouk
dpkg-source -x libguestfs_1.28.12-1ubuntu2.dsc
846 61 Mehdi Abaakouk
cd libguestfs-1.28.12
847 1 Mehdi Abaakouk
debuild
848 1 Mehdi Abaakouk
849 1 Mehdi Abaakouk
</pre>