ceturtdiena, 2010. gada 20. maijs

MAC adrešu savākšana

Skripts, kas no doto slēdžu IP adresēm nolasa visas MAC adreses un izveido sarakstu ar
LAIKS SWITCHAIP PORTS MACADRESE


 
for i in SwitchIP1 SwitchIP2 SwitchIP3
do
snmpbulkwalk $i -v2c -c public enterprises.11.2.14.2.10.5.1.3.1 -OQqn |
tr : . | while read rinda
do
awk -v SWITCH="$i" -v LAIKS="`date +%F-%H-%M`" -F. '{ print LAIKS"\t"SWITCH"\t"$17"\t"$24}'
done
done

ceturtdiena, 2010. gada 6. maijs

VMWare migrācija uz KVM

Kā nomigrēt vmware uz KVM:

1) Nepieciešams no vairākiem vmdk failiem (kas bija sadalīti pa 2GB - ZABIX.vmdk,ZABBIX-f001.vmdk, ... ) izveidot 1 failu:
vmware-vdiskmanager -r ZABBIX.vmdk -t 0 zabbix-single.vmdk

2) Konvertējam disku uz qcow2 formātu
qemu-img convert zabbix-single.vmdk zabbix.qcow2

3) Ērtības labad pārvietojam uz jaunu direktoriju, kur atrodas KVM mašīnas.
mkdir ../../kvm/zabbix
mv zabbix.qcow2 ../../kvm/zabbix/

4) ar virt-install importējam mašīnu un izveidojam konfigurācijas failu (tīkls br0 jau ir izveidots uz servera):
virt-install -n zabbix --ram 1000 --import --file ./zabbix.qcow2 --network bridge:br0 --accelerate --vnc

5) ja nepieciešams, koriģējam instalācijas failu: /etc/libvirt/qemu/zabbix.xml

6) Virtuālo mašīnu var startēt ar:
virsh start zabbix





trešdiena, 2009. gada 2. decembris

SEB bankas fondu vēsturisko datu novilkšanas skripts

Cits prasts skripts vēsturisko fondu vērtību novilkšanai no SEB bankas.


#!/bin/bash

# Jāieraksta pareizs fonda nosaukums
FONDS="SEB Fund 1 Nordic Fund"

# Par cik vecu periodu jāsavāc informācija
VECUMS=$((3*365))

# Tālāk visam jānotiekas automātiski
# Izvadu var savākt kaut vai ar "tee -a"

FONDS_SHORT=`echo $FONDS | tr " " _`
datums=`date --date="-$VECUMS days" +%D`
for i in `seq 1 $VECUMS`
do datums=`date --date="$datums +1day" +%D`
DATUMA_IERAKSTS=`date --date="$datums" +"day="%d"&month="%m"&year="%Y`
echo -ne $datums\\t
lynx -dump "http://www.seb.lv/lv/private/services/investments/funds/SEB/howtoinvest/readmore/prices/values/?$DATUMA_IERAKSTS&cur=EUR&ofTabIndex=0" -show-rate=off -nomargins -nolist |
sed 's/fund/Fund/g ; s/fonds/Fund/g ; /Fund$/N;s/\n */\t/' |
grep "$FONDS" |
sed "s/$FONDS/$FONDS_SHORT/g" |
awk '{print $2"\t"$3}'
done

otrdiena, 2009. gada 1. decembris

SEB bankas Latu rezervers fonda vēsturisko vērtību iegūšana

Tā kā SEB bankas speciālisti nez kādu iemeslu dēļ nav pacentušies uztaisīt jelkādu tabuliņu ar savas bankas ieguldījumu fondu sarakstiem, bet šādu sarakstu būtu labi iegūt, un, par laimi, attiecīgai lapai tiekam klāt ar zolīdu URL, tad lūk, skripts, ar ko novilkt vērtības. Pēc vajadzības var pielāgot arī citiem SEB bankas vērtspapīriem.
Tiek izmantots, bash, links un date un seq komandas.


#!/bin/bash

# Sakuma datums
datums=`date --date="2008/01/01" +%D`

# Protams, dienu skaits ir jāpielāgo savām vajadzībām
for i in `seq 1 730`
do
datums=`date --date="$datums +1day" +%D`
DATUMA_IERAKSTS=`date --date="$datums" +"day="%d"&month="%m"&year="%Y`
echo -ne $datums\\t
links -dump "http://www.seb.lv/lv/private/services/investments/funds/LRF/value/?$DATUMA_IERAKSTS&ofTabIndex=0" |
grep "Latu rezerves fonds LVL " |
awk '{print $5}'
done

ceturtdiena, 2009. gada 22. oktobris

Informācijas novilkšana no ASUS WL-320gP par pieslēgtajiem klientiem

Komanda:
snmpbulkwalk -v2c -c public DWLAP320gPIPAdrese .1.3.6.1.4.1.2623.4.1.1.6.2.4

Vai, ja vēlamies saprotamā veidā, un esam lejupielādējuši WL320gP MIB failus ( kādā no šiem failiem:
http://files.wl500g.info/asus/wl320gp/firmware/ ) un iekopējuši tos ./mib/ :
snmpbulkwalk -m ALL -M ./mib -v2c -c public WLAP320gPIPAdrese WL320g-MIB::stWireless
# vai
snmpbulkwalk -m ALL -M ./mib -v2c -c public WLAP320gPIPAdrese WL320g-MIB::stStationMACAddr 2>/dev/null -Ov


WL-320gP pārstartēšana:
snmpset -v2c -c private WLAP320gPIPAdrese .1.3.6.1.4.1.2623.4.1.1.5.6.0 i 2
jeb
snmpset -m ALL -M ./mib -v2c -c private WLAP320gPIPAdrese WL320g-MIB::systemCommand i 2

sestdiena, 2009. gada 29. augusts

Aerofoto karšu vilkšana no Balticmaps.eu skripts 2.

Uzdevums: Novilkt aerofoto kartes atbilstoši "Latvijas satelītkaršu" iedalījumam;

Zemākais skripts ir tapis ilgu pūliņu rezultātā, un dažas lietas tur ir gan liekas, gan uzlabojamas.
Jāpiemin, ka:
1) pēc noklusējuma netiek ģenerēta lielā aerofoto bilde, jo sanāk 625Mpix bilde (25kmx25km kartei), un ne katrs dators to var pacelt (jābūt daudz RAM). Šim nolūkam ir jāatkomentē attiecīgā rindiņā.
2) tā kā vilkšanas procesā bieži tiek novilktas kropļotas bildes (pilnīgi baltas vai ar baltumiem augšējā kreisā stūrī), tad ir uztaisīts imagemagick pārbaudes skripts un bilde tiek mēģināta vilkt no jauna, bet nedaudz citām koordinātēm.
3) Šķiet, ka blogspot neļauj rakstīt visus skriptus (kur novelk un apstrādā satelītkartes koordinātes :( Skripts ir iekopēts pie http://pastebin.ca/1546988>, bet tur, savukārt, 23. rindā ir pielikts klāt viens (") skata uzlabošanai
Man šis skripts strādā, citiem varētu nestrādāt, bet varētu noderēt, kur paskatīties idejas bilžu vilkšanai.

Skripts:


#!/bin/bash
# Karte ar korekciju
satelitkarte='http://myname.vic.lv/Map/'
tmpkartes=`mktemp`
# Izskirtspeeja - jaieraksta cik m liels ir 1 pikselis, mazaakais=1. 25000 jaadalaas bez atlikuma ar izskirtspeeju
izskirtspeja=1
# montēšanas bildes atsevišķās bildītes izšķirtspēja (oriģinālie pikseļi/fināla pikselī)
fin_izskirtspeeja=1
# mazaas bildes attieciiba
maz_izskirtspeeja=5

solisX=1000
solisY=1000

# ImageMagick taisa lielus temfailus - jānorāda vieta, kur to var darīt. Diemžēļ šis pasākums (MAGICK_TMPDIR norādīšana) nezināmu iemeslu dēļ nestrādā
if [ ! -d `pwd`/tmp ] ; then
mkdir `pwd`/tmp
fi
MAGICK_TMPDIR=`pwd`/tmp
export MAGICK_TMPDIR

# Visi karshu nosaukumi (izvada arī uz ekrāna)
wget $satelitkarte -O - -q | grep Data.*jpg | tr -d \" | sed 's/.*\\//g' | sed 's/.jpg//g' | sort


function func_ortofoto {
logfile=log-$karte.log
npk=1000
## XCOUNT un YCOUNT - skaitļi, kas norāda karšu skaitu mapē

YCOUNT=0

# Visas kartes velkam 1x1km

# echo $XA $YA $XB $YB $XSKAITS $YSKAITS $karte
izmers=$solisX\x$solisY

# Izveidojam attieciigo direktoriju. kur glabaat 1x1km aerofoto kartes
mkdir map-$karte
# visas mazo karshu apakseejaas Y karshu koordinaates saakot no lielaakas
for Y in `seq $(($YB-$solisY)) -$solisY $(($YA-$solisY+10))`
do
XCOUNT=0
# visas mazo karshu apakseejaas Y koordinaates
for X in `seq $XA $solisX $(($XB-10)) `
do
# genereeajam bildes nosaukumu
bilde=map-$karte/$npk-$X-$Y

if [ -f $bilde.jpg ] && [ `identify -format '%wx%h' $bilde.jpg` == $izmers ] ; then
echo -n .
echo == $bilde ar izmeeru `identify -format '%wx%h' $bilde.jpg` jau eksistee == | tee -a $logfile
else
wget -nv "http://maps.kartes.lv/kijs/server_scripts/orto/get_orto_foto.php?BBOX=$X,$Y,$(($X+$solisX)),$(($Y+$solisY))&WIDTH=$solisX&HEIGHT=$solisY&KIJS=BM45" -O $bilde.jpg -a wget-$karte.log && bildes_izmers=`identify -format '%wx%h' $bilde.jpg` | tee -a $logfile
fi

# Pāŗbaudam, vai nav balti pleķi uz mazās bildes
if [ `convert $bilde.jpg -crop 1x1+5+5 txt:- | tail -n 1 | awk '{print $4}'` == "white" -o `convert $bilde.jpg -crop 1x1+255+5 txt:- | tail -n 1 | awk '{print $4}'` == "white" -o `convert $bilde.jpg -crop 1x1+255+255 txt:- | tail -n 1 | awk '{print $4}'` == "white" -o `convert $bilde.jpg -crop 1x1+5+255 txt:- | tail -n 1 | awk '{print $4}'` == "white" ] ; then
echo == balta bilde $bilde == | tee -a $logfile
KOREKCIJA=300
wget -nv "http://maps.kartes.lv/kijs/server_scripts/orto/get_orto_foto.php?BBOX=$(($X-$KOREKCIJA)),$Y,$(($X+$solisX)),$(($Y+$solisY))&WIDTH=$(($solisX + $KOREKCIJA))&HEIGHT=$solisY&KIJS=BM45" -O $bilde.jpg | tee -a $logfile && convert -crop $solisX\x$solisY+$KOREKCIJA $bilde.jpg $bilde.jpg 2>/dev/null
bildes_izmers=`identify -format '%wx%h' $bilde.jpg`
if [[ $bildes_izmers != $izmers ]] ; then
# izveidojam mazu baltu bildi, kas nepiecieshama veelaak pie montage
echo -n g
echo == veidojam mazu peleeku bildi $bilde.jpg ==
rm $bilde.jpg
convert -size 10x10 xc:gray95 $bilde.jpg
fi
fi

# Palielinam XCOUNT skaitu
XCOUNT=$(($XCOUNT+1))
# Palielinam npk skaitu, lai kartes būtu pēc kārtas
npk=$(($npk+1))
done
# Palielinam YCOUNT skaitu
YCOUNT=$(($YCOUNT+1))
done
# ievadam mainīgo datus indekss failā - vēlākai lietošanai ar montage
echo '#'$karte > map-$karte/00-index.txt
echo -e XCOUNT=$XCOUNT\\nYCOUNT=$YCOUNT\\nXKREISAIS=$XA\\nXLABAIS=$XB\\nYAPAKSA=$YA\\nYAUGSA=$YB\\nXIZMERS=$XSKAITS\\nYIZMERS=$YSKAITS >> map-$karte/00-index.txt
echo -e XMIN=$XA\\nXMAX=$(($XA+$XCOUNT*$solisX))\\nYMIN=$(($YB-$YCOUNT*$solisY))\\nYMAX=$YB >> map-$karte/00-index.txt
}

## Montēšanas f-ja - varam izsaukt vēlāk
function func_montage {
logfile=log-$karte.log
#aprēķinam oriģinālās bildes ģeometriju
GEOM=$(($solisX/$fin_izskirtspeeja))
# aprēķinām samazinātās bildes ģeometriju
SMGEOM=$(($GEOM/$maz_izskirtspeeja))
mapname=aerofoto-$karte.jpg
if [ -f ./$mapname ] ; then
echo == karte $mapname jau eksistē - pārsaucam par aerofoto-$karte-`date +%s`.jpg == | tee -a $logfile
mv $mapname aerofoto-$karte-`date +%s`.jpg
fi

# Ielasam jau aprēķinātās vēŗtības
if [ -f map-$karte/00-index.txt ] ; then
. map-$karte/00-index.txt
## Zemākā rinda ir jāatkomentē, lai izveidotu lielo bildi oriģinālajā izmērā (1px=1m2), jo komanda taisa ~625 Mpix lielu bildi
# time montage -verbose -tile $XCOUNT\x$YCOUNT -geometry $GEOM\x$GEOM ./map-$karte/*.jpg ./$mapname | tee -a $logfile
# Uztaisam arii mazaaku failu ar zemaaku izšķirtspēju
if [ ! -f ./aerofoto-$karte-$maz_izskirtspeeja.jpg ] ; then
echo == veidojam karti == | tee -a $logfile
time montage -verbose -tile $XCOUNT\x$YCOUNT -geometry $SMGEOM\x$SMGEOM ./map-$karte/*.jpg ./aerofoto-$karte-$maz_izskirtspeeja.jpg | tee -a $logfile

fi
else
echo "fails nav atrasts - varbūt kartes vēl nav novilktas"
fi
}

# Novelkam kartes datus ar // BLOGSPOT šo rindu neņem pilnībā pretim - ideja - novelkam kartes datus un koordinātes no satelītkartes un ievietojam tos $tmpkartes failā.
wget $satelitkarte -O - -q | grep "\ $tmpkartes

cat $tmpkartes | while read xa ya xb yb karte cits
do
# Apstrādājam tikai norādīto karti
if [[ $karte == $1 ]] ; then
# echo $xa $xb $karte
# Mainam X, ja pirmais ir lielaaks kaa Y
if [ $xa -gt $xb ]
then
# echo mainam
tmp=$xa ; xa=$xb ; xb=$tmp
# echo $xa $xb
fi
if [ $yb -gt $ya ]
then
# echo mainam
tmp=$ya ; ya=$yb ; yb=$tmp
# echo $ya $yb
fi
# echo $xa\\t$ya\\t$xb\\t$yb\\t$karte
# Reekinam koordinaates kartee
XA=`echo "(294131+100+$xa*5000/23)/5000*5000" | bc `
XB=`echo "(294131+100+$xb*5000/23)/5000*5000" | bc `
YA=`echo "(6457608+100-$ya*5000/23)/5000*5000" | bc `
YB=`echo "(6457608+100-$yb*5000/23)/5000*5000" | bc `
YSKAITS=$(($YB-$YA))
XSKAITS=$(($XB-$XA))
# echo $XA $YA $XB $YB $XSKAITS $YSKAITS $karte
func_ortofoto $XA $YA $XB $YB $XSKAITS $YSKAITS $karte
func_montage $karte
fi
done
rm $tmpkartes


Lai pašu karti novilktu, ir jālaiž skripts ar vēlamās kartes nosaukumu, piemēram,
bash karte.sh eleja

Latvijas/Ārvalstu trafika zīmēšana

Uzdevums: Nepieciešams uzzināt Latvijas un pārējā trafika apjomu vienai vai vairākām tīkla kartēm. Šim nolūkam ar IPTABLES tiks marķēts Latvijas trafiks (neLatvijas - tas, kas nav nomarķēts), ar rrdtool līdzekļiem tas tiks uzkrāts un zīmētas diagrammas.

1. Latvijas tīklu iegūšana un IPTABLES uzstādīšana



#!/bin/bash

DARBADIR="/etc/iptables"
INTERFEISI="eth2 vlan0015 vlan0050"

# Novelkam Latvijas tīklu adreses
wget www.nic.lv/local.net -q -O - | grep '^[1-9]' | sort -n > $DARBADIR/local.net

#Iezimeejam visus Latvijas savienojumus ar mangle ==
cat $DARBADIR/local.net | while read LVNET
do
iptables -t mangle -A PREROUTING --src $LVNET -j MARK --set-mark 0x14
iptables -t mangle -A POSTROUTING --dst $LVNET -j MARK --set-mark 0x14
done

# Uzliekam skaitiitaajus muus intereseejoshiem interfeisiem visiem (NE)LATVIJAS tiikliem

for i in $INTERFEISI
do
#skaitam ienaakosho aarvalstu trafiku
iptables -t mangle -A PREROUTING -i $i -m mark ! --mark 0x14
#skaitam ienaakosho Latvijas trafiku
iptables -t mangle -A PREROUTING -i $i -m mark --mark 0x14
#skaitam izejosho aarvalstu trafiku
iptables -t mangle -A POSTROUTING -o $i -m mark ! --mark 0x14
#skaitam izejosho Latvijas trafiku
iptables -t mangle -A POSTROUTING -o $i -m mark --mark 0x14
done


Protams, šajā skriptā ir ierakstītas tikai tās lietas, kas attiecas uz pakešu marķēšanu. Parasti iptables skriptos ir ierakstīti arī citi pasākumi. Vienīgi jāatceras, ka ausgtākminētajiem PRE/POSTROUTING ierakstiem ir jābūt pirmajiem "mangle" tabulā.

2. Skaitītāju savākšana, uzglabāšana un diagrammu zīmēšana



Skripts, kas ar rrdtools un iptables palīdzību savāc, uzglabā un zīmē diagrammas. Šeit tas ir realizēts vienā skriptā, bet diagrammu zīmēšanu būtu lietderīgi veidot jaunā skriptā, kas tiek palaists ik pēc 5 - 15 minūtēm, nevis katras 10 sekundes. Diagrammas varētu papildināt arī ar MIN-MAX rādītājiem, jo pašas rrd datubāzes uzkrāj šos lielumus. Viss, protams, ir uzprišināms un maināms un uzlabojams.


#!/bin/bash

DARBADIR="/etc/iptables
WEBDIR="/var/pub/"
INTERFEISI="eth2 vlan0015 vlan0050"

cd $DARBADIR

for i in $INTERFEISI
do
# Ja rrd datubaaze nav izveidota - uztaisam to
if [ ! -f m-$i.rrd ]
then
rrdtool create m-$i.rrd --step 10 \
DS:lvin:COUNTER:300:0:1000000000000 \
DS:lvout:COUNTER:300:0:1000000000000 \
DS:nelvin:COUNTER:300:0:1000000000000 \
DS:nelvout:COUNTER:300:0:1000000000000 \
RRA:AVERAGE:0:1:720 \
RRA:AVERAGE:0.3:6:2880 \
RRA:AVERAGE:0.3:60:2016 \
RRA:AVERAGE:0.3:360:1488 \
RRA:AVERAGE:0.3:4320:1460 \
RRA:MIN:0.3:6:2880 \
RRA:MIN:0.3:60:2016 \
RRA:MIN:0.3:360:1488 \
RRA:MIN:0.3:4320:1460 \
RRA:MAX:0.3:6:2880 \
RRA:MAX:0.3:60:2016 \
RRA:MAX:0.3:360:1488 \
RRA:MAX:0.3:4320:1460
fi

rrdtool update m-$i.rrd -t lvin:lvout:nelvin:nelvout N:\
`iptables -nvxL PREROUTING -t mangle | grep $i.*"match 0x14" | awk '{print $2}'`:\
`iptables -nvxL POSTROUTING -t mangle | grep $i.*"match 0x14" | awk '{print $2}'`:\
`iptables -nvxL PREROUTING -t mangle | grep $i.*"match \!0x14" | awk '{print $2}'`:\
`iptables -nvxL POSTROUTING -t mangle | grep $i.*"match \!0x14" | awk '{print $2}'`

rrdtool graph $WEBDIR/m-$i.png --end now --start end-1800s --width 1000 --height 400 -v Bps \
DEF:lvin=m-$i.rrd:lvin:AVERAGE \
DEF:lvout=m-$i.rrd:lvout:AVERAGE \
DEF:nelvout=m-$i.rrd:nelvout:AVERAGE \
DEF:nelvin=m-$i.rrd:nelvin:AVERAGE \
"CDEF:clvout=0,lvout,-" \
"CDEF:cnelvout=0,nelvout,-" \
LINE1:lvin#0000FF:"LV_IN" \
LINE1:clvout#00CCFF:"LV_OUT" \
LINE1:nelvin#FF00FF:"NELV_IN" \
LINE1:cnelvout#FF5533:"NELV_OUT"

rrdtool graph $WEBDIR/m-$i-8h.png --end now --start end-8h --width 1000 --height 400 -v Bps\
DEF:lvin=m-$i.rrd:lvin:AVERAGE \
DEF:lvout=m-$i.rrd:lvout:AVERAGE \
DEF:nelvout=m-$i.rrd:nelvout:AVERAGE \
DEF:nelvin=m-$i.rrd:nelvin:AVERAGE \
"CDEF:clvout=0,lvout,-" \
"CDEF:cnelvout=0,nelvout,-" \
LINE1:lvin#0000FF:"LV_IN" \
LINE1:clvout#00CCFF:"LV_OUT" \
LINE1:nelvin#FF00FF:"NELV_IN" \
LINE1:cnelvout#FF5533:"NELV_OUT"
done


3. Trafika skaitīšana



Skaitīšanas skripts ir jāstartē ik pēc 10sek. (tādas mums rrd bāzes uztaisītas). To var laist gan no CRON, gan, piemēram,:

while : ; do bash ./skaita.sh ; sleep 10 ; done