Difference: VsDokumentace (1 vs. 18)

Revision 1804 Nov 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Pro snažší komunikaci s uživateli byl zaveden RT (Request Tracking) system . Proto veškeré dotazy a problémy spojené s farmou Goliáš zasílejte výhradně na e-mailovou adresu fzu zavináč rt3.cesnet.cz .

Deleted:
<
<
NEW Dne 29.7. 2008 byla nainstalována nová verze systému PBSPro 9.2.
 

Odkazy

Line: 13 to 11
 
Added:
>
>
 

Revision 1730 Jul 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Pro snažší komunikaci s uživateli byl zaveden RT (Request Tracking) system . Proto veškeré dotazy a problémy spojené s farmou Goliáš zasílejte výhradně na e-mailovou adresu fzu zavináč rt3.cesnet.cz .

Changed:
<
<
NEW Dne 29.7. 2008 byla nainstalována nová verze PBSPro 9.2.
>
>
NEW Dne 29.7. 2008 byla nainstalována nová verze systému PBSPro 9.2.
 

Odkazy

Revision 1630 Jul 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Pro snažší komunikaci s uživateli byl zaveden RT (Request Tracking) system . Proto veškeré dotazy a problémy spojené s farmou Goliáš zasílejte výhradně na e-mailovou adresu fzu zavináč rt3.cesnet.cz .

Added:
>
>
NEW Dne 29.7. 2008 byla nainstalována nová verze PBSPro 9.2.
 

Odkazy

Changed:
<
<
>
>
 

-- JanaUhlirova - 16 Jun 2008

Revision 1501 Jul 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Changed:
<
<

Uživatelé subclusteru David najdou podrobné informace zde.

1. Základní informace

  1. Struktura farmy Goliáš
  2. Nový uživatel
  3. Adresáře /home a /scratch

2. Zadávání úloh

  1. Typy front
  2. Příkaz qsub
  3. Další užitečné příkazy PBS

3. Práce s certifikátem

  1. Získání certifikátu
  2. Převod do jiných formátů

1.1 Struktura farmy Goliáš

golias.farm.particle.cz

Na tomto stroji běží server systému PBSPro, který má na starosti plánování a spouštění úloh na farmě Goliáš.

prak2.farm.particle.cz

prak3.farm.particle.cz

Na tyto dva servery se uživatel přihlašuje. (V současné době si sám zvolí, na který prak se zaloguje). Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat nebo kompilovat své programy. Výhledově bude pro interaktivní činnosti vyhrazeno několik výpočetních uzlů golias.

golias01 - golias162

Toto jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias 10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. (Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99). Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.

storage.farm.particle.cz

storage2.farm.particle.cz

storage3.farm.particle.cz

storage4.farm.particle.cz

storage5.farm.particle.cz

Toto jsou fileservery, na kterých jsou uložena data a domovské adresáře. Pomocí NFS jsou namountovány na všech serverech golias a prak jako adresáře /raidN, kde N je číslo v názvu serveru. Pokud je součástí jména adresáře /raidN i jméno experimentu, znamená to, že tento adresář může být využíván pouze pro daný experiment. Soubory uložené v adresáři /raidN se nezálohují! Uživatel si musí soubory sám zkopírovat na jiné místo. Zálohují se pouze domovské adresáře.

Podrobnou HW konfiguraci farmy Goliáš naleznete [zde]

Zpět

1.2 Nový uživatel

Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu. Žádost je nutné v papírové formě zaslat na sekretariát Sekce fyziky elementárních částic FZÚ. Pro urychlení celé procedury je možné žádost poslat faxem (fax: 286 585 443) a originál doručit do čtrnácti dnů.

Jakmile obdržíte e-mailem potvrzení o zřízení účtu, je nutné se přihlásit na prak2 a na prak3 a pomocí příkazu passwd změnit přístupové heslo. Heslo by mělo být silné, tzn. mělo by se skládat alespoň z 8 znaků a obsahovat malá a velká písmena, číslice a nealfanumerické znaky (např. %, &, *, # apod.).

Pozn.: Po instalaci systému LDAP bude uživatel při prvním přihlášení na kterýkoliv z praků automaticky vyzván ke změně hesla. Dokud si heslo nezmění, nebude mít možnost dále pracovat.

Zpět

1.3 Adresáře /home a /scratch

Domovský adresář /home

Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5.

ssh storage5

nwrecover&

...

Prostor domovského adresáře je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze.

Po zalogování na prak2 nebo prak3 si uživatel může zjistit míru zaplnění svého adresáře /home a výši limitů pomocí příkazu

ssh storage5 /usr/sbin/repquota -s /home

Block limits File limits
User used soft hard grace used soft hard grace
xxx n 1954M 2442M m 0 0

n - velikost obsazeného prostoru (v kB)

block limits - limity omezující obsazený prostor (v MB)

file limits - limity omezující počet uložených souborů (tyto limity nejsou nastavené)

grace - doba, po kterou může být překročen soft limit (standardní nastavení je 7 dnů)

Zvýšení kvóty

Pokud uživatel potřebuje v adresáři /home větší prostor, může požádat o zvýšení kvóty. Svou žádost náležitě odůvodní a pošle prostřednictvím e-mailu Janu Švecovi nebo Tomáši Koubovi.

>
>
Pro snažší komunikaci s uživateli byl zaveden RT (Request Tracking) system . Proto veškeré dotazy a problémy spojené s farmou Goliáš zasílejte výhradně na e-mailovou adresu fzu zavináč rt3.cesnet.cz .
 
Changed:
<
<
Pozn.: V adresáři /home se nachází soubor .rhosts. Tento soubor je nezbytný pro potřeby administrátorů. Nesmí být smazán!
>
>

Odkazy

 
Changed:
<
<
Pracovní adresář /scratch
>
>
 
Changed:
<
<
Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů. Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias. Současně se vytvoří proměnná $TMPDIR, která do tohoto adresáře ukazuje. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
>
>
 
Changed:
<
<
Zpět

2.1 Typy front

Některé fronty jsou vyhrazené pro speciální projekty (experimenty), pro určité skupiny uživatelů nebo pro speciální typ úloh (interaktivní úlohy apod.). Fronty mají při spuštění úloh různou prioritu. Mohou mít také nastavené různé limity. Např.:

  • maximální počet úloh, které mohou být z dané fronty spuštěné zároveň
  • maximální množství skutečného času, po který může úloha běžet
  • maximální počet uzlů, které může úloha nárokovat
  • maximální množství paměti, kterou může úloha využít.
Při překročení některého z limitů se úloha nespustí nebo je předčasně ukončena.

Původní rozdělení front na farmě Goliáš je následující:

  • fronty experimentů (atlas, d0, alice, star, auger, ... )
  • fronty pro uživatele ze Sekce vysokých energií FZÚ nezařazených v jiných projektech (fronty long a short)
  • fronty pro uživatele ze Sekce materiálový výzkum, t.j. pro uživatele subclusteru David (fronty solid a tsolid)
  • fronty testovací (test, lcgtest, ... ).

Fronty experimentů se dále dělí na fronty produkční a fronty neprodukční. Experimenty podporované gridovým projektem mají ještě fronty, jejichž název začíná lcg. Tyto fronty slouží pouze ke spuštění úloh zadaných přes grid.

Každý experiment tedy má 2 fronty: produkční a neprodukční nebo 4 fronty: 2 fronty negridové a 2 fronty gridové, dále dělené na produkční a neprodukční.

Např. fronty pro experiment atlas

atlas fronta negridová a neprodukční
atlasprod fronta negridová a produkční
lcgatlas fronta gridová a neprodukční
lcgatlasprod fronta gridová a produkční

Priority: Úlohy zadané do produkční fronty mají vyšší prioritu než úlohy zadané do fronty neprodukční. Stejně tak fronta short, určená pro kratší úlohy, které nepoběží déle než 4 hodiny, má vyšší prioritu než fronta long, určená pro úlohy časově náročnější. Tedy v případě, že v obou frontách čekají úlohy, po uvolnění procesoru se nejdříve spustí úloha z fronty s vyšší prioritou. Avšak není to tak jednoduché. Kromě priorit se uplatňují ještě další omezení. Ta by měla zaručit co nejoptimálnější využití farmy. Výjimku tvoří fronty s vyhrazeným počtem procesorů.

Příklad: Fronta q1 má nejvyšší prioritu, fronty q2 a q3 mají vyhrazený počet procesorů a stejnou prioritu. Ve frontě q1 čeká n1 úloh, ve frontě q2 běží m2 úloh a čeká n2 úloh a ve frontě q3 čeká n3 úloh. V okamžiku, kdy se uvolní jeden procesor, systém PBS by spustil úlohu z fronty q1 (nejvyšší priorita), ale vzhledem k tomu, že fronty q2 a q3 ještě nenaplnily svůj počet vyhrazených procesorů, spustí se úloha z fronty q2. Při uvolnění dalšího procesoru se spustí úloha z fronty q3 (stejná priorita). Tento postup se opakuje až do doby, kdy fronty q2 a q3 vyčerpají svůj počet rezervovaných procesorů nebo ve frontách už nečekají další úlohy.

Uživatel zadává svou úlohu do fronty z praku2 nebo z praku3 pomocí příkazu qsub. Nesmí posílat úlohy do front označených lcg a také do front testovacích.

Úplný seznam front lze získat po přihlášení na prak2 nebo prak3 pomocí příkazu

qstat -q

Pozn.: Po instalaci systému LDAP proběhne přeregistrování všech uživatelů, vytvoří se nové uživatelské skupiny a v důsledku toho se také změní současná struktura front.

...

Zpět

2.2 Příkaz qsub

Úlohy se zadávají do fronty pomocí příkazu qsub.

qsub -q jméno fronty seznam parametrů váš skript

Tabulka parametrů příkazu qsub:

-q jméno fronty
-I interaktivní úloha, podrobnosti zde
-m zaslání e-mailu, není-li specifikováno, žádný e-mail se neposílá
a (abort) – zpráva o přerušení úlohy
b (begin) – zpráva o spuštění úlohy
e (end) – zpráva o ukončení úlohy
-o kam uložit výstupní soubor stdout , není-li specifikováno, stdout se automaticky ukládá do adresáře, ze kterého byl spuštěn příkaz qsub
-e kam uložit chybový soubor stderr , není-li specifikováno, stderr se automaticky ukládá do adresáře, ze kterého byl spuštěn příkaz qsub
-l seznam požadavků na výpočetní zdroje

Tabulka požadavků úlohy na výpočetní zdroje:

nodes/select počet výpočetních uzlů
ppn/ncpus počet procesorů na jednom uzlu
mem velikost fyzické paměti
vmem velikost virtuální paměti
walltime množství skutečného času
cput množství času CPU

Příklady:

qsub -q jméno fronty -l seznam požadavků na výpočetní zdroje váš skript

Chceme rezervovat Specifikace parametru -l
1 procesor na 1 uzlu nodes=1:ppn=1
select=1:ncpus=1
2 procesory na 1 uzlu nodes=1:ppn=2
select=1:ncpus=2
1 procesor na 2 uzlech nodes=2:ppn=1 nebo nodes=1:ppn=1 + nodes=1:ppn=1
select=2:ncpus=1 nebo select=1:ncpus=1 + select=1:ncpus=1
1 procesor na 1 uzlu na 100 hodin skutečného času a paměť 200MB nodes=1:ppn=1,walltime=100:00:00,mem=200mb
select=1:ncpus=1:walltime=100:00:00:mm=200mb
2 procesory na 1 uzlu s pamětí 3GB nodes=1:ppn=2,mem=3gb
select=1:ncpus=2:mem=3GB
1 procesor na 2 uzlech s pamětí 500MB nodes=2:ppn=1,mem=500mb
select=2:ncpus=1:mem=500mb nebo select=1:ncpus=1:mem=500mb + select=1:ncpus=1:mem=500mb

...

Zpět

2.3 Další užitečné příkazy PBS

  • qdel - vymaže úlohu z fronty

qdel číslo úlohy

  • qstat - zobrazí dostupné informace o dané úloze, o dané frontě

qstat -f číslo úlohy

qstat -a jméno fronty

Zpět

3. Práce s certifikátem

3.1 Získání certifikátu
Certfikát lze získat od certifikační autority CESNETu, o osobní certifikát se žádá zde.

3.2 Převod do jiných formátů
Certfikát je typicky uložen do internetového prohlížeče. Exportem certifikátu získáme soubor s příponou p12. Pro použití v gridovém prostředí je třeba ho převést do formátu pem příkazy:

openssl pkcs12 -clcerts -nokeys -in usercert.p12 -out usercert.pem

openssl pkcs12 -nocerts -in usercert.p12 -out userkey.pem

Zpět

>
>
 

-- JanaUhlirova - 16 Jun 2008 \ No newline at end of file

Revision 1401 Jul 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"
Deleted:
<
<
 

Výpočetní středisko: Dokumentace pro uživatele

Line: 161 to 161
 
2.2 Příkaz qsub
Added:
>
>
Úlohy se zadávají do fronty pomocí příkazu qsub.

qsub -q jméno fronty seznam parametrů váš skript

Tabulka parametrů příkazu qsub:

-q jméno fronty
-I interaktivní úloha, podrobnosti zde
-m zaslání e-mailu, není-li specifikováno, žádný e-mail se neposílá
a (abort) – zpráva o přerušení úlohy
b (begin) – zpráva o spuštění úlohy
e (end) – zpráva o ukončení úlohy
-o kam uložit výstupní soubor stdout , není-li specifikováno, stdout se automaticky ukládá do adresáře, ze kterého byl spuštěn příkaz qsub
-e kam uložit chybový soubor stderr , není-li specifikováno, stderr se automaticky ukládá do adresáře, ze kterého byl spuštěn příkaz qsub
-l seznam požadavků na výpočetní zdroje

Tabulka požadavků úlohy na výpočetní zdroje:

nodes/select počet výpočetních uzlů
ppn/ncpus počet procesorů na jednom uzlu
mem velikost fyzické paměti
vmem velikost virtuální paměti
walltime množství skutečného času
cput množství času CPU

Příklady:

qsub -q jméno fronty -l seznam požadavků na výpočetní zdroje váš skript

Chceme rezervovat Specifikace parametru -l
1 procesor na 1 uzlu nodes=1:ppn=1
select=1:ncpus=1
2 procesory na 1 uzlu nodes=1:ppn=2
select=1:ncpus=2
1 procesor na 2 uzlech nodes=2:ppn=1 nebo nodes=1:ppn=1 + nodes=1:ppn=1
select=2:ncpus=1 nebo select=1:ncpus=1 + select=1:ncpus=1
1 procesor na 1 uzlu na 100 hodin skutečného času a paměť 200MB nodes=1:ppn=1,walltime=100:00:00,mem=200mb
select=1:ncpus=1:walltime=100:00:00:mm=200mb
2 procesory na 1 uzlu s pamětí 3GB nodes=1:ppn=2,mem=3gb
select=1:ncpus=2:mem=3GB
1 procesor na 2 uzlech s pamětí 500MB nodes=2:ppn=1,mem=500mb
select=2:ncpus=1:mem=500mb nebo select=1:ncpus=1:mem=500mb + select=1:ncpus=1:mem=500mb
 ...

Zpět

Revision 1301 Jul 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"
Changed:
<
<
>
>
 

Výpočetní středisko: Dokumentace pro uživatele

Changed:
<
<
UPOZORNĚNÍ: Zatím se jedná pouze o pracovní verzi.
>
>
  Uživatelé subclusteru David najdou podrobné informace zde.
Added:
>
>
 

1. Základní informace

  1. Struktura farmy Goliáš
Line: 165 to 168
 
2.3 Další užitečné příkazy PBS
Added:
>
>
  • qdel - vymaže úlohu z fronty
 
Changed:
<
<
qdel
>
>
qdel číslo úlohy
 
Changed:
<
<
qstat
>
>
  • qstat - zobrazí dostupné informace o dané úloze, o dané frontě
 
Added:
>
>
qstat -f číslo úlohy

qstat -a jméno fronty

Zpět

 
Deleted:
<
<

3. Práce s certifikátem

 
Added:
>
>

3. Práce s certifikátem

 
3.1 Získání certifikátu
Certfikát lze získat od certifikační autority CESNETu, o osobní certifikát se žádá zde.

Revision 1230 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 73 to 73
  Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5.
Changed:
<
<
ssh storage5
>
>
ssh storage5
 
Changed:
<
<
nwrecover&
>
>
nwrecover&
  ...
Line: 83 to 83
  Po zalogování na prak2 nebo prak3 si uživatel může zjistit míru zaplnění svého adresáře /home a výši limitů pomocí příkazu
Changed:
<
<
ssh storage5 /usr/sbin/repquota -s /home
>
>
ssh storage5 /usr/sbin/repquota -s /home
 
Block limits File limits
User used soft hard grace used soft hard grace
Line: 147 to 147
  Úplný seznam front lze získat po přihlášení na prak2 nebo prak3 pomocí příkazu
Changed:
<
<
qstat -q
>
>
qstat -q
  Pozn.: Po instalaci systému LDAP proběhne přeregistrování všech uživatelů, vytvoří se nové uživatelské skupiny a v důsledku toho se také změní současná struktura front.
Line: 181 to 181
 
3.2 Převod do jiných formátů
Certfikát je typicky uložen do internetového prohlížeče. Exportem certifikátu získáme soubor s příponou p12. Pro použití v gridovém prostředí je třeba ho převést do formátu pem příkazy:
Changed:
<
<
openssl pkcs12 -clcerts -nokeys -in usercert.p12 -out usercert.pem
openssl pkcs12 -nocerts -in usercert.p12 -out userkey.pem
>
>
openssl pkcs12 -clcerts -nokeys -in usercert.p12 -out usercert.pem

openssl pkcs12 -nocerts -in usercert.p12 -out userkey.pem

  Zpět

Revision 1126 Jun 2008 - FZU.JiriChudoba

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 18 to 18
 
  1. Příkaz qsub
  2. Další užitečné příkazy PBS
Added:
>
>

3. Práce s certifikátem

  1. Získání certifikátu
  2. Převod do jiných formátů
 
1.1 Struktura farmy Goliáš
Line: 167 to 171
 qstat
Changed:
<
<
...
>
>

3. Práce s certifikátem

3.1 Získání certifikátu
Certfikát lze získat od certifikační autority CESNETu, o osobní certifikát se žádá zde.

3.2 Převod do jiných formátů
Certfikát je typicky uložen do internetového prohlížeče. Exportem certifikátu získáme soubor s příponou p12. Pro použití v gridovém prostředí je třeba ho převést do formátu pem příkazy:
openssl pkcs12 -clcerts -nokeys -in usercert.p12 -out usercert.pem
openssl pkcs12 -nocerts -in usercert.p12 -out userkey.pem
  Zpět

Revision 1026 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 7 to 7
  Uživatelé subclusteru David najdou podrobné informace zde.
Changed:
<
<

Základní informace

>
>

1. Základní informace

 
  1. Struktura farmy Goliáš
  2. Nový uživatel
  3. Adresáře /home a /scratch
Changed:
<
<

Zadávání úloh

>
>

2. Zadávání úloh

 
  1. Typy front
  2. Příkaz qsub
  3. Další užitečné příkazy PBS

Changed:
<
<
Struktura farmy Goliáš
>
>
1.1 Struktura farmy Goliáš
  golias.farm.particle.cz
Line: 52 to 52
 Zpět

Changed:
<
<
Nový uživatel
>
>
1.2 Nový uživatel
  Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu. Žádost je nutné v papírové formě zaslat na sekretariát Sekce fyziky elementárních částic FZÚ. Pro urychlení celé procedury je možné žádost poslat faxem (fax: 286 585 443) a originál doručit do čtrnácti dnů.
Line: 63 to 63
 Zpět

Changed:
<
<
Adresáře /home a /scratch
>
>
1.3 Adresáře /home a /scratch
  Domovský adresář /home

Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5.

Changed:
<
<
ssh storage5
>
>
ssh storage5
 
Changed:
<
<
nwrecover&
>
>
nwrecover&
  ...
Line: 79 to 79
  Po zalogování na prak2 nebo prak3 si uživatel může zjistit míru zaplnění svého adresáře /home a výši limitů pomocí příkazu
Changed:
<
<
ssh storage5 /usr/sbin/repquota -s /home
>
>
ssh storage5 /usr/sbin/repquota -s /home
 
Block limits File limits
User used soft hard grace used soft hard grace
Changed:
<
<
xxx n 2.000M 2.500M m 0 0
>
>
xxx n 1954M 2442M m 0 0
 
Changed:
<
<
n - velikost obsazeného prostoru
>
>
n - velikost obsazeného prostoru (v kB)
  block limits - limity omezující obsazený prostor (v MB)
Line: 106 to 106
 Zpět

Changed:
<
<
Typy front
>
>
2.1 Typy front
  Některé fronty jsou vyhrazené pro speciální projekty (experimenty), pro určité skupiny uživatelů nebo pro speciální typ úloh (interaktivní úlohy apod.). Fronty mají při spuštění úloh různou prioritu. Mohou mít také nastavené různé limity. Např.:
Line: 143 to 143
  Úplný seznam front lze získat po přihlášení na prak2 nebo prak3 pomocí příkazu
Changed:
<
<
qstat -q
>
>
qstat -q
  Pozn.: Po instalaci systému_LDAP_ proběhne přeregistrování všech uživatelů, vytvoří se nové uživatelské skupiny a v důsledku toho se také změní současná struktura front.
Line: 152 to 152
 Zpět

Changed:
<
<
Příkaz qsub
>
>
2.2 Příkaz qsub
  ...

Zpět

Changed:
<
<
Další užitečné příkazy PBS
>
>
2.3 Další užitečné příkazy PBS

qdel

qstat

  ...

Revision 925 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 58 to 58
  Jakmile obdržíte e-mailem potvrzení o zřízení účtu, je nutné se přihlásit na prak2 a na prak3 a pomocí příkazu passwd změnit přístupové heslo. Heslo by mělo být silné, tzn. mělo by se skládat alespoň z 8 znaků a obsahovat malá a velká písmena, číslice a nealfanumerické znaky (např. %, &, *, # apod.).
Changed:
<
<
Pozn.: Po instalaci systému LDAP bude uživatel při prvním přihlášení na kterýkoliv z praků automaticky vyzván ke změně hesla. Dokud si heslo nezmění, nebude mít možnost dále pracovat.
>
>
Pozn.: Po instalaci systému LDAP bude uživatel při prvním přihlášení na kterýkoliv z praků automaticky vyzván ke změně hesla. Dokud si heslo nezmění, nebude mít možnost dále pracovat.
  Zpět
Line: 97 to 97
  Pokud uživatel potřebuje v adresáři /home větší prostor, může požádat o zvýšení kvóty. Svou žádost náležitě odůvodní a pošle prostřednictvím e-mailu Janu Švecovi nebo Tomáši Koubovi.
Changed:
<
<
Pozn.: V adresáři /home se nachází soubor .rhosts. Tento soubor je nezbytný pro potřeby administrátorů. Nesmí být smazán!
>
>
Pozn.: V adresáři /home se nachází soubor .rhosts. Tento soubor je nezbytný pro potřeby administrátorů. Nesmí být smazán!
  Pracovní adresář /scratch
Line: 108 to 108
 
Typy front
Changed:
<
<
Původní rozdělení front:
>
>
Některé fronty jsou vyhrazené pro speciální projekty (experimenty), pro určité skupiny uživatelů nebo pro speciální typ úloh (interaktivní úlohy apod.). Fronty mají při spuštění úloh různou prioritu. Mohou mít také nastavené různé limity. Např.:
  • maximální počet úloh, které mohou být z dané fronty spuštěné zároveň
  • maximální množství skutečného času, po který může úloha běžet
  • maximální počet uzlů, které může úloha nárokovat
  • maximální množství paměti, kterou může úloha využít.
Při překročení některého z limitů se úloha nespustí nebo je předčasně ukončena.

Původní rozdělení front na farmě Goliáš je následující:

 
  • fronty experimentů (atlas, d0, alice, star, auger, ... )
  • fronty pro uživatele ze Sekce vysokých energií FZÚ nezařazených v jiných projektech (fronty long a short)
Line: 126 to 134
 
lcgatlas fronta gridová a neprodukční
lcgatlasprod fronta gridová a produkční
Added:
>
>
Priority: Úlohy zadané do produkční fronty mají vyšší prioritu než úlohy zadané do fronty neprodukční. Stejně tak fronta short, určená pro kratší úlohy, které nepoběží déle než 4 hodiny, má vyšší prioritu než fronta long, určená pro úlohy časově náročnější. Tedy v případě, že v obou frontách čekají úlohy, po uvolnění procesoru se nejdříve spustí úloha z fronty s vyšší prioritou. Avšak není to tak jednoduché. Kromě priorit se uplatňují ještě další omezení. Ta by měla zaručit co nejoptimálnější využití farmy. Výjimku tvoří fronty s vyhrazeným počtem procesorů.

Příklad: Fronta q1 má nejvyšší prioritu, fronty q2 a q3 mají vyhrazený počet procesorů a stejnou prioritu. Ve frontě q1 čeká n1 úloh, ve frontě q2 běží m2 úloh a čeká n2 úloh a ve frontě q3 čeká n3 úloh. V okamžiku, kdy se uvolní jeden procesor, systém PBS by spustil úlohu z fronty q1 (nejvyšší priorita), ale vzhledem k tomu, že fronty q2 a q3 ještě nenaplnily svůj počet vyhrazených procesorů, spustí se úloha z fronty q2. Při uvolnění dalšího procesoru se spustí úloha z fronty q3 (stejná priorita). Tento postup se opakuje až do doby, kdy fronty q2 a q3 vyčerpají svůj počet rezervovaných procesorů nebo ve frontách už nečekají další úlohy.

 Uživatel zadává svou úlohu do fronty z praku2 nebo z praku3 pomocí příkazu qsub. Nesmí posílat úlohy do front označených lcg a také do front testovacích.
Line: 133 to 145
  qstat -q
Changed:
<
<
Fronty short a long
>
>
Pozn.: Po instalaci systému_LDAP_ proběhne přeregistrování všech uživatelů, vytvoří se nové uživatelské skupiny a v důsledku toho se také změní současná struktura front.
  ...

Revision 820 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 21 to 21
 
Struktura farmy Goliáš
Changed:
<
<
golias.farm.particle.cz je řídícím počítačem celé farmy. Na tomto stroji běží také server systému PBSPro, který má na starosti plánování a spouštění úloh na farmě Goliáš.
>
>
golias.farm.particle.cz

Na tomto stroji běží server systému PBSPro, který má na starosti plánování a spouštění úloh na farmě Goliáš.

  prak2.farm.particle.cz

prak3.farm.particle.cz

Changed:
<
<
Na tyto dva servery se uživatel přihlašuje. (V současné době si sám zvolí, na který prak se zaloguje). Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat nebo kompilovat své programy.
>
>
Na tyto dva servery se uživatel přihlašuje. (V současné době si sám zvolí, na který prak se zaloguje). Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat nebo kompilovat své programy. Výhledově bude pro interaktivní činnosti vyhrazeno několik výpočetních uzlů golias.

golias01 - golias162

 
Changed:
<
<
golias01 - golias162 jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias 10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. (Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99). Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.
>
>
Toto jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias 10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. (Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99). Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.
  storage.farm.particle.cz
Line: 41 to 45
  storage5.farm.particle.cz
Changed:
<
<
Toto jsou fileservery, na kterých jsou uložena data a domovské adresáře. Pomocí NFS jsou namountovány na všech serverech golias a prak jako adresáře /raidN, kde N je číslo v názvu serveru. Pokud je součástí jména adresáře /raidN i jméno experimentu, znamená to, že tento adresář může být využíván pouze pro daný experiment. Soubory uložené v adresáři /raidN se nezálohují! Uživatel si musí soubory sám zkopírovat na jiné místo. Zálohují se pouze domovské adresáře.
>
>
Toto jsou fileservery, na kterých jsou uložena data a domovské adresáře. Pomocí NFS jsou namountovány na všech serverech golias a prak jako adresáře /raidN, kde N je číslo v názvu serveru. Pokud je součástí jména adresáře /raidN i jméno experimentu, znamená to, že tento adresář může být využíván pouze pro daný experiment. Soubory uložené v adresáři /raidN se nezálohují! Uživatel si musí soubory sám zkopírovat na jiné místo. Zálohují se pouze domovské adresáře.
  Podrobnou HW konfiguraci farmy Goliáš naleznete [zde]
Line: 53 to 58
  Jakmile obdržíte e-mailem potvrzení o zřízení účtu, je nutné se přihlásit na prak2 a na prak3 a pomocí příkazu passwd změnit přístupové heslo. Heslo by mělo být silné, tzn. mělo by se skládat alespoň z 8 znaků a obsahovat malá a velká písmena, číslice a nealfanumerické znaky (např. %, &, *, # apod.).
Added:
>
>
Pozn.: Po instalaci systému LDAP bude uživatel při prvním přihlášení na kterýkoliv z praků automaticky vyzván ke změně hesla. Dokud si heslo nezmění, nebude mít možnost dále pracovat.
 Zpět
Added:
>
>
 
Adresáře /home a /scratch
Line: 89 to 97
  Pokud uživatel potřebuje v adresáři /home větší prostor, může požádat o zvýšení kvóty. Svou žádost náležitě odůvodní a pošle prostřednictvím e-mailu Janu Švecovi nebo Tomáši Koubovi.
Changed:
<
<
Poznámka:

V adresáři /home se nachází soubor .rhosts. Tento soubor je nezbytný pro potřeby administrátorů. Nesmí být smazán!

>
>
Pozn.: V adresáři /home se nachází soubor .rhosts. Tento soubor je nezbytný pro potřeby administrátorů. Nesmí být smazán!
  Pracovní adresář /scratch
Changed:
<
<
Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů. Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
>
>
Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů. Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias. Současně se vytvoří proměnná $TMPDIR, která do tohoto adresáře ukazuje. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
  Zpět
Added:
>
>
 
Typy front
Line: 103 to 108
 
Typy front
Changed:
<
<
Základní dělení front je na fronty experimentů (atlas, d0, alice, star, auger, ... ), fronty pro uživatele ze Sekce vysokých energií FZÚ nezařazených v jiných projektech (fronty long a short), fronty pro uživatele ze Sekce materiálový výzkum, t.j. pro uživatele subclusteru David (fronty solid a tsolid) a fronty testovací (test, lcgtest, ... ).
>
>
Původní rozdělení front:

  • fronty experimentů (atlas, d0, alice, star, auger, ... )
  • fronty pro uživatele ze Sekce vysokých energií FZÚ nezařazených v jiných projektech (fronty long a short)
  • fronty pro uživatele ze Sekce materiálový výzkum, t.j. pro uživatele subclusteru David (fronty solid a tsolid)
  • fronty testovací (test, lcgtest, ... ).
  Fronty experimentů se dále dělí na fronty produkční a fronty neprodukční. Experimenty podporované gridovým projektem mají ještě fronty, jejichž název začíná lcg. Tyto fronty slouží pouze ke spuštění úloh zadaných přes grid.
Line: 116 to 126
 
lcgatlas fronta gridová a neprodukční
lcgatlasprod fronta gridová a produkční
Changed:
<
<
Uživatel zadává svou úlohu do fronty z praku2 nebo z praku3 pomocí příkazu qsub. qsub
>
>
Uživatel zadává svou úlohu do fronty z praku2 nebo z praku3 pomocí příkazu qsub.
 Nesmí posílat úlohy do front označených lcg a také do front testovacích.

Úplný seznam front lze získat po přihlášení na prak2 nebo prak3 pomocí příkazu

Revision 719 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 14 to 14
 
  1. Adresáře /home a /scratch

Zadávání úloh

Changed:
<
<
  1. Typy front
  2. Příkaz qsub
  3. Další užitečné příkazy PBS
>
>
  1. Typy front
  2. Příkaz qsub
  3. Další užitečné příkazy PBS
 
Struktura farmy Goliáš
Line: 100 to 100
 Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.

Zpět

Added:
>
>
Typy front

Základní dělení front je na fronty experimentů (atlas, d0, alice, star, auger, ... ), fronty pro uživatele ze Sekce vysokých energií FZÚ nezařazených v jiných projektech (fronty long a short), fronty pro uživatele ze Sekce materiálový výzkum, t.j. pro uživatele subclusteru David (fronty solid a tsolid) a fronty testovací (test, lcgtest, ... ).

Fronty experimentů se dále dělí na fronty produkční a fronty neprodukční. Experimenty podporované gridovým projektem mají ještě fronty, jejichž název začíná lcg. Tyto fronty slouží pouze ke spuštění úloh zadaných přes grid.

Každý experiment tedy má 2 fronty: produkční a neprodukční nebo 4 fronty: 2 fronty negridové a 2 fronty gridové, dále dělené na produkční a neprodukční.

Např. fronty pro experiment atlas

atlas fronta negridová a neprodukční
atlasprod fronta negridová a produkční
lcgatlas fronta gridová a neprodukční
lcgatlasprod fronta gridová a produkční

Uživatel zadává svou úlohu do fronty z praku2 nebo z praku3 pomocí příkazu qsub. qsub Nesmí posílat úlohy do front označených lcg a také do front testovacích.

Úplný seznam front lze získat po přihlášení na prak2 nebo prak3 pomocí příkazu

qstat -q

Fronty short a long

...

Zpět

Příkaz qsub

...

Zpět

Další užitečné příkazy PBS

...

Zpět

  -- JanaUhlirova - 16 Jun 2008 \ No newline at end of file

Revision 617 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Changed:
<
<
UPOZORNĚNÍ: Zatím se jedná pouze o pracovní verzi!
>
>
UPOZORNĚNÍ: Zatím se jedná pouze o pracovní verzi.
 
Changed:
<
<
Uživatelé subklastru David najdou podrobné informace zde
>
>
Uživatelé subclusteru David najdou podrobné informace zde.
 

Základní informace

Line: 27 to 27
  prak3.farm.particle.cz
Changed:
<
<
Na tyto dva servery se uživatel přihlašuje. (V současné době si sám zvolí, na který prak se zaloguje). Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat nebo kompilovat své programy.
>
>
Na tyto dva servery se uživatel přihlašuje. (V současné době si sám zvolí, na který prak se zaloguje). Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat nebo kompilovat své programy.
 
Changed:
<
<
golias01 - golias162 jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. (Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99). Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.
>
>
golias01 - golias162 jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias 10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. (Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99). Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.
  storage.farm.particle.cz
Line: 41 to 41
  storage5.farm.particle.cz
Changed:
<
<
Toto jsou fileservery, na kterých jsou uložena data a domovské adresáře. Pomocí NFS jsou namountovány na všech serverech golias a prak jako adresáře /raidN, kde N je číslo v názvu serveru. Pokud je součástí jména adresáře /raidN i jméno experimentu, znamená to, že tento adresář může být využíván pouze pro daný experiment. Soubory uložené v adresáři /raidN se nezálohují! Uživatel si musí soubory sám zkopírovat na jiné místo. Zálohují se pouze domovské adresáře.
>
>
Toto jsou fileservery, na kterých jsou uložena data a domovské adresáře. Pomocí NFS jsou namountovány na všech serverech golias a prak jako adresáře /raidN, kde N je číslo v názvu serveru. Pokud je součástí jména adresáře /raidN i jméno experimentu, znamená to, že tento adresář může být využíván pouze pro daný experiment. Soubory uložené v adresáři /raidN se nezálohují! Uživatel si musí soubory sám zkopírovat na jiné místo. Zálohují se pouze domovské adresáře.
  Podrobnou HW konfiguraci farmy Goliáš naleznete [zde]
Line: 51 to 51
  Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu. Žádost je nutné v papírové formě zaslat na sekretariát Sekce fyziky elementárních částic FZÚ. Pro urychlení celé procedury je možné žádost poslat faxem (fax: 286 585 443) a originál doručit do čtrnácti dnů.
Changed:
<
<
Jakmile obdržíte e-mailem potvrzení o zřízení účtu, je nutné se přihlásit na prak2 a na prak3 a pomocí příkazu passwd změnit přístupové heslo. Heslo by mělo být silné, tzn. mělo by se skládat alespoň z 8 znaků a obsahovat nejen písmena, ale i číslice a znaky na klávesnici (např. %, &, *, # apod.).
>
>
Jakmile obdržíte e-mailem potvrzení o zřízení účtu, je nutné se přihlásit na prak2 a na prak3 a pomocí příkazu passwd změnit přístupové heslo. Heslo by mělo být silné, tzn. mělo by se skládat alespoň z 8 znaků a obsahovat malá a velká písmena, číslice a nealfanumerické znaky (např. %, &, *, # apod.).
  Zpět
Line: 59 to 59
  Domovský adresář /home
Changed:
<
<
Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5. ...
>
>
Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5.
 
Changed:
<
<
nwrecover& ... Bude doplněno!
>
>
ssh storage5
 
Changed:
<
<
Prostor domovského adresáře je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze! Další data se přestanou zapisovat.
>
>
nwrecover&
 
Changed:
<
<
Po zalogování na prak2 nebo prak3 si uživatel může zjistit míru zaplnění svého adresáře /home a výši limitů pomocí příkazu
>
>
...

Prostor domovského adresáře je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze.

Po zalogování na prak2 nebo prak3 si uživatel může zjistit míru zaplnění svého adresáře /home a výši limitů pomocí příkazu

  ssh storage5 /usr/sbin/repquota -s /home
Line: 79 to 83
  file limits - limity omezující počet uložených souborů (tyto limity nejsou nastavené)
Changed:
<
<
grace - doba, po kterou může být překročen soft limit (default = 7 dnů)
>
>
grace - doba, po kterou může být překročen soft limit (standardní nastavení je 7 dnů)
  Zvýšení kvóty
Changed:
<
<
Pokud uživatel potřebuje v adresáři /home větší prostor, může požádat o zvýšení kvóty. Svou žádost náležitě odůvodní a pošle prostřednictvím e-mailu Janu Švecovi nebo Tomáši Koubovi.
>
>
Pokud uživatel potřebuje v adresáři /home větší prostor, může požádat o zvýšení kvóty. Svou žádost náležitě odůvodní a pošle prostřednictvím e-mailu Janu Švecovi nebo Tomáši Koubovi.
  Poznámka:
Changed:
<
<
V adresáři /home se nachází soubor .rhosts. Tento soubor už v současné době neplní svoji funkci, ale je stále nezbytný pro potřeby administrátorů. Nesmí být smazán!
>
>
V adresáři /home se nachází soubor .rhosts. Tento soubor je nezbytný pro potřeby administrátorů. Nesmí být smazán!
 

Pracovní adresář /scratch

Changed:
<
<
Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů. Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
>
>
Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů. Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
  Zpět

Revision 517 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Výpočetní středisko: Dokumentace pro uživatele

Line: 23 to 23
  golias.farm.particle.cz je řídícím počítačem celé farmy. Na tomto stroji běží také server systému PBSPro, který má na starosti plánování a spouštění úloh na farmě Goliáš.
Deleted:
<
<
prak1.farm.particle.cz
 prak2.farm.particle.cz

prak3.farm.particle.cz

Changed:
<
<
Na tyto tři počítače se uživatel běžně hlásí. Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat software nebo kompilovat programy.
>
>
Na tyto dva servery se uživatel přihlašuje. (V současné době si sám zvolí, na který prak se zaloguje). Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat nebo kompilovat své programy.
 
Changed:
<
<
golias01 - golias162 jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99. Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.
>
>
golias01 - golias162 jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. (Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99). Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.
  storage.farm.particle.cz
Line: 53 to 51
  Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu. Žádost je nutné v papírové formě zaslat na sekretariát Sekce fyziky elementárních částic FZÚ. Pro urychlení celé procedury je možné žádost poslat faxem (fax: 286 585 443) a originál doručit do čtrnácti dnů.
Changed:
<
<
Jakmile obdržíte potvrzení o zřízení účtu, je nutné se přihlásit na prak1, prak2 a prak3 a pomocí příkazu passwd změnit přístupové heslo.
>
>
Jakmile obdržíte e-mailem potvrzení o zřízení účtu, je nutné se přihlásit na prak2 a na prak3 a pomocí příkazu passwd změnit přístupové heslo. Heslo by mělo být silné, tzn. mělo by se skládat alespoň z 8 znaků a obsahovat nejen písmena, ale i číslice a znaky na klávesnici (např. %, &, *, # apod.).
  Zpět
Line: 61 to 59
  Domovský adresář /home
Changed:
<
<
Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak1, prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5.
>
>
Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5. ...
 
Changed:
<
<
nwrecover&
>
>
nwrecover& ... Bude doplněno!
 
Changed:
<
<
Prostor domovského adresáře je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze!
>
>
Prostor domovského adresáře je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze! Další data se přestanou zapisovat.
 
Changed:
<
<
Uživatel si může zjistit stav svého adresáře /home po zalogování na prak1, prak2 nebo prak3 pomocí příkazu
>
>
Po zalogování na prak2 nebo prak3 si uživatel může zjistit míru zaplnění svého adresáře /home a výši limitů pomocí příkazu
  ssh storage5 /usr/sbin/repquota -s /home
Line: 75 to 73
 
User used soft hard grace used soft hard grace
xxx n 2.000M 2.500M m 0 0
Changed:
<
<
block limits - limity omezující obsazený prostor
>
>
n - velikost obsazeného prostoru

block limits - limity omezující obsazený prostor (v MB)

 
Changed:
<
<
file limits - limity omezující počet uložených souborů (nejsou nastavené)
>
>
file limits - limity omezující počet uložených souborů (tyto limity nejsou nastavené)
  grace - doba, po kterou může být překročen soft limit (default = 7 dnů)
Line: 93 to 93
 Pracovní adresář /scratch

Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů.

Changed:
<
<
Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Prostor /scratch se tedy průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
>
>
Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Tímto způsobem se prostor /scratch průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
  Zpět

Revision 417 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"
Added:
>
>
 

Výpočetní středisko: Dokumentace pro uživatele

Changed:
<
<
UPOZORNĚNÍ: Zatím se jedná pouze o testovací verzi!
>
>
UPOZORNĚNÍ: Zatím se jedná pouze o pracovní verzi!

Uživatelé subklastru David najdou podrobné informace zde

 

Základní informace

Line: 18 to 21
 
Struktura farmy Goliáš
Changed:
<
<
golias.farm.particle.cz - řídící počítač celé farmy
>
>
golias.farm.particle.cz je řídícím počítačem celé farmy. Na tomto stroji běží také server systému PBSPro, který má na starosti plánování a spouštění úloh na farmě Goliáš.

prak1.farm.particle.cz

prak2.farm.particle.cz

prak3.farm.particle.cz

Na tyto tři počítače se uživatel běžně hlásí. Na těchto strojích je nainstalován klient systému PBS. Uživatel může své úlohy spouštět, rušit, přesouvat ve frontách, vyzvedávat výsledky. Zároveň může provádět další interaktivní činosti jako např. testovat software nebo kompilovat programy.

golias01 - golias162 jsou výpočetní neboli pracovní uzly (tzv. worker nody). Nepatří mezi ně golias10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137 a 143. Pro úplnost golias31 - golias99 jsou aliasy pro goliasx31 - goliasx99. Na těchto strojích systém PBS spouští úlohy. Uživatel by se na ně neměl bezdůvodně hlásit.

storage.farm.particle.cz

 
Changed:
<
<
prak1.farm.particle.cz prak2.farm.particle.cz prak3.farm.particle.cz ...
>
>
storage2.farm.particle.cz
 
Changed:
<
<
Výpočetní uzly (worker nody) golias01 - golias162 ( kromě 10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137, 143) ...
>
>
storage3.farm.particle.cz
 
Added:
>
>
storage4.farm.particle.cz

storage5.farm.particle.cz

Toto jsou fileservery, na kterých jsou uložena data a domovské adresáře. Pomocí NFS jsou namountovány na všech serverech golias a prak jako adresáře /raidN, kde N je číslo v názvu serveru. Pokud je součástí jména adresáře /raidN i jméno experimentu, znamená to, že tento adresář může být využíván pouze pro daný experiment. Soubory uložené v adresáři /raidN se nezálohují! Uživatel si musí soubory sám zkopírovat na jiné místo. Zálohují se pouze domovské adresáře.

Podrobnou HW konfiguraci farmy Goliáš naleznete [zde]

Zpět

 
Nový uživatel
Changed:
<
<
Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu ...
>
>
Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu. Žádost je nutné v papírové formě zaslat na sekretariát Sekce fyziky elementárních částic FZÚ. Pro urychlení celé procedury je možné žádost poslat faxem (fax: 286 585 443) a originál doručit do čtrnácti dnů.
 
Added:
>
>
Jakmile obdržíte potvrzení o zřízení účtu, je nutné se přihlásit na prak1, prak2 a prak3 a pomocí příkazu passwd změnit přístupové heslo.

Zpět

 
Adresáře /home a /scratch
Changed:
<
<
Adresář /home
>
>
Domovský adresář /home

Adresář /home je vidět ze všech výpočetních uzlů. Zálohuje se systémem networker. Pokud chce uživatel obnovit ztracený soubor, musí se zalogovat na prak1, prak2 nebo prak3 a potom se už bez hesla pomocí ssh přihlásí na storage5.

nwrecover&

 
Changed:
<
<
Data uložená v adresáři /home se jako jediná zálohují. Prostor je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze!
>
>
Prostor domovského adresáře je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze!
 
Changed:
<
<
Uživatel si může zjistit stav svého /home pomocí příkazu
>
>
Uživatel si může zjistit stav svého adresáře /home po zalogování na prak1, prak2 nebo prak3 pomocí příkazu
  ssh storage5 /usr/sbin/repquota -s /home
Line: 51 to 77
  block limits - limity omezující obsazený prostor
Changed:
<
<
file limits - limity omezující počet uložených souborů
>
>
file limits - limity omezující počet uložených souborů (nejsou nastavené)
  grace - doba, po kterou může být překročen soft limit (default = 7 dnů)
Line: 64 to 90
 V adresáři /home se nachází soubor .rhosts. Tento soubor už v současné době neplní svoji funkci, ale je stále nezbytný pro potřeby administrátorů. Nesmí být smazán!
Changed:
<
<
Pracovní prostor /scratch
>
>
Pracovní adresář /scratch
  Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů.
Changed:
<
<
Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Prostor /scratch se tedy průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat proměnnou $TMPDIR.
>
>
Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Prostor /scratch se tedy průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat pro uložení dočasných dat proměnnou $TMPDIR.
 
Added:
>
>
Zpět
  -- JanaUhlirova - 16 Jun 2008

Revision 316 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"
Changed:
<
<

Vypocetni stredisko: Dokumentace pro uzivatele

>
>

Výpočetní středisko: Dokumentace pro uživatele

 
Changed:
<
<

Novy uzivatel

>
>
UPOZORNĚNÍ: Zatím se jedná pouze o testovací verzi!
 
Changed:
<
<

Zakladni informace

>
>

Základní informace

 
Changed:
<
<

Zadavani uloh

>
>
  1. Struktura farmy Goliáš
  2. Nový uživatel
  3. Adresáře /home a /scratch
 
Added:
>
>

Zadávání úloh

  1. Typy front
  2. Příkaz qsub
  3. Další užitečné příkazy PBS
 
Added:
>
>
Struktura farmy Goliáš
 
Deleted:
<
<
-- JiriChudoba - 13 Jun 2008
 \ No newline at end of file
Added:
>
>
golias.farm.particle.cz - řídící počítač celé farmy

prak1.farm.particle.cz prak2.farm.particle.cz prak3.farm.particle.cz ...

Výpočetní uzly (worker nody) golias01 - golias162 ( kromě 10, 15, 25, 31, 32, 33, 59, 97, 98, 100, 137, 143) ...

Nový uživatel

Každý nový zájemce o používání farmy Goliáš musí vyplnit Žádost o zřízení účtu ...

Adresáře /home a /scratch

Adresář /home

Data uložená v adresáři /home se jako jediná zálohují. Prostor je ale omezen kvótou. Rozlišujeme dva stupně: soft limit a hard limit. V současné době je soft limit nastaven na hodnotu 2GB. Při jeho překročení by uživatel měl obdržet varování. Hard limit je nastaven na hodnotu 2,5GB. Tento limit už překročit nelze!

Uživatel si může zjistit stav svého /home pomocí příkazu

ssh storage5 /usr/sbin/repquota -s /home

Block limits File limits
User used soft hard grace used soft hard grace
xxx n 2.000M 2.500M m 0 0

block limits - limity omezující obsazený prostor

file limits - limity omezující počet uložených souborů

grace - doba, po kterou může být překročen soft limit (default = 7 dnů)

Zvýšení kvóty

Pokud uživatel potřebuje v adresáři /home větší prostor, může požádat o zvýšení kvóty. Svou žádost náležitě odůvodní a pošle prostřednictvím e-mailu Janu Švecovi nebo Tomáši Koubovi.

Poznámka:

V adresáři /home se nachází soubor .rhosts. Tento soubor už v současné době neplní svoji funkci, ale je stále nezbytný pro potřeby administrátorů. Nesmí být smazán!

Pracovní prostor /scratch

Na každém výpočetním uzlu je lokální pracovní prostor /scratch. Do tohoto prostoru by se měly ukládat mezivýsledky výpočtů. Při spuštění úlohy se v adresáři /scratch automaticky vytvoří podadresář /pbstmp. cislojobu .golias s proměnnou $TMPDIR. Po skončení úlohy se tento podadresář automaticky smaže. Prostor /scratch se tedy průběžně promazává. Proto je třeba ve skriptech, kterými se úlohy zadávají do front, používat proměnnou $TMPDIR.

-- JanaUhlirova - 16 Jun 2008

Revision 213 Jun 2008 - FZU.JanaUhlirova

Line: 1 to 1
 
META TOPICPARENT name="WebHome"

Vypocetni stredisko: Dokumentace pro uzivatele

Added:
>
>

Novy uzivatel

Zakladni informace

 

Zadavani uloh

Changed:
<
<
.... bude doplneno ...
>
>
 

-- JiriChudoba - 13 Jun 2008 \ No newline at end of file

Revision 113 Jun 2008 - FZU.JiriChudoba

Line: 1 to 1
Added:
>
>
META TOPICPARENT name="WebHome"

Vypocetni stredisko: Dokumentace pro uzivatele

Zadavani uloh

.... bude doplneno ...

-- JiriChudoba - 13 Jun 2008

 
This site is powered by the TWiki collaboration platformCopyright &Š by the contributing authors. All material on this collaboration platform is the property of the contributing authors.
Ideas, requests, problems regarding TWiki? Send feedback