Upozornění:

Ke stažení

• Uživatelský manuál PBSProUserGuide9.2
• Administrátorský manuál PBSProAdminGuide9.2 .

Obsah:

5. Grafy pro monitorování fronty solid a isolid

• Graf č.1 - počet obsazených a volných procesorů ve frontě solid / isolid
• Graf č.2 - počet běžících a čekajících úloh ve frontě solid / isolid
• Graf č.3 - podrobnější rozpis obsazených procesorů ve frontě solid / isolid

Pozn.:

5. Monitorování fronty solid a isolid - denní grafy CPUs a jobs

• Graf č.1 - počet obsazených a volných procesorů ve frontě solid / isolid za posledních 24 hodin

• Graf č.2 - počet běžících a čekajících úloh ve frontě solid / isolid za posledních 24 hodin

• Graf č.3 - podrobnější rozpis obsazených procesorů ve frontě solid / isolid za posledních 24 hodin

• Graf č.3 - podrobnější rozpis obsazených procesorů ve frontě solid za posledních 24 hodin
  • Job-busy - procesory obsazené úlohami
  • Job-exclusive - procesory nedostupné z důvodu rezervace celého výpočetního uzlu pro jednu úlohu
  • Offline - procesory nedostupné z důvodu nastavení výpočetního uzlu do stavu offline (provádění testů, instalace nového softwaru apod.)
  • Down - procesory nedostupné z důvodu hardwarové závady na výpočetním uzlu

• Denní grafy

5. Monitorování fronty solid - denní grafy CPUs a jobs

• Denní grafy
  • Graf č.1 - počet obsazených a volných procesorů ve frontě solid za posledních 24 hodin
  • Graf č.2 - počet běžících a čekajících úloh ve frontě solid za posledních 24 hodin

5. Monitorování fronty solid - zatím jen pracovní verze denních grafů

• Denní graf CPU - počet obsazených a volných procesorů ve frontě solid za posledních 24 hodin
• Denní graf úloh - počet běžících a čekajících úloh ve frontě solid za posledních 24 hodin

Grafy jsou aktualizovány každých 15 minut.

Zpět

6. Seznam uživatelů subclusteru David

Test

Denní graf CPU

Novinky:

Klient systému PBS byl naistalován i na server ui2.farm.particle.cz. Uživatelé by se tedy měli přihlašovat především na ui2 nebo na prak3. Prak2 bude výhledově zrušen (starší hardware).

• Domácí adresář /home je vidět ze všech výpočetních uzlů. Domácí adresář je zálohován systémem Legato Net Worker. Jestliže ztratíte soubor a chcete si ho obnovit, zalogujte se na ui2 nebo prak3 a odtud bez hesla

3.3 Víceprocesorové úlohy

3.4 Úlohy náročné na paměť

• Domácí adresář /home je vidět ze všech výpočetních uzlů. Domácí adresář je zálohován systémem Legato Net Worker. Jestliže ztratíte soubor a chcete si ho obnovit, zalogujte se na prak2 nebo prak3 a odtud bez hesla

Domácí adresář je v péči farmy Goliáš a základní kvóta je zde 2GB. Kvóty administruje Jan Švec a Tomáš Kouba. Další informace o kvótách jsou zde.

5. Seznam uživatelů subclusteru David

Poslední aktualizace 21.7.2008

Zpět

3.1 Typy front

3.1.1 Fronta solid

Tato fronta je určena pro časově náročnější úlohy.

3.1.2 Fronta isolid

Pro frontu isolid byly vyhrazeny dva výpočetní uzly: golias117 a golias118, t.j. celkem 8 procesorů.

Tato fronta je určena pouze pro kratší úlohy, tzn. pro úlohy, které nepřesáhnout časový limit 10 hodin. Přes den by zde měly běžet především překlady a testy. Po 22:00 je možné spustit na volných procesorech delší úlohu. Úloha ale musí skončit před 8:00 následujícího dne. V žádném případě nesmí být úloha zadána, pokud by měla ve frontě čekat (status Q).

Zpět

3.2 Zadávání úloh

Výpočetní úloha (job) je v zásadě shell skript, který si předem připravíte a potom zadáte do fronty povelem qsub. Základní informace o zadávání úloh a zjišťování jejich stavu jsou v základním návodu. Pro vážné zájemce je ke stažení uživatelská příručka systému front PBSProUserGuide .

qsub -q isolid <váš skript>

3.3 Úlohy náročné na paměť

1.1 Nový uživatel

1.2 První přihlášení

Poté vám bude už automaticky vytvořen adresář /raid2_david/home/<vaše jméno>

Zpět

2. Datové prostory

• Domácí adresář /home je vidět ze všech výpočetních uzlů. Domácí adresář je zálohován systémem networker.

Jestliže ztratíte soubor a chcete si ho obnovit, zalogujte se na prak2 nebo prak3 a odtud bez hesla

ssh storage

a zde (v prostředí X11)

nwrecover&

Dostanete grafické GUI k obnově. Alternativně můžete požádat Jana Švece, aby vám obnovu udělal. Domácí adresář je v péči farmy Goliáš a základní kvóta je zde 2GB. Kvóty administruje Jan Švec a Tomáš Kouba.

• Sdílený pracovní prostor /raid2_david/scratch je vidět ze všech výpočetních uzlů. Tento prostor slouží k ukládání velkých dočasných dat, zejména mezivýsledků výpočtů. Prostor je dostatečně velký a není kvótován. Při využívání tohoto prostoru se laskavě chovejte ukázněně a nepotřebná data po sobě mažte. Sdílený scratch není zálohován a v případě jeho zaplnění mohou starší data bez výstrahy zmizet (dva měsíce a víc).

• Sdílený zálohovaný prostor /raid2_david/home je kvótován, základní kvóta je 50GB. Tuto kvótu nelze zvětšit, naopak je možné, že v případě většího využití tohoto prostoru bude nutné kvóty zmenšit. Kvóty spravuje Michal Krátký. Prostor /raid2_david/home je zálohován každodenním zrcadlením na jiný stroj. Případnou obnovu souborů vám na požádání udělá rovněž Michal Krátký.

• Lokální pracovní prostor /scratch je na každém výpočetním uzlu. Tento prostor z jiných uzlů pochopitelně není vidět, což omezuje jeho použitelnost při paralelních výpočtech. Je vhodné ho při výpočtech maximálně využívat, protože je k němu rychlejší přístup než do sdílených prostorů a nezatěžuje síť.

Zpět

3. Zadávání úloh do fronty

3.1 Zadávání úloh

Výpočetní úloha (job) je v zásadě shell skript, který si předem připravíte a potom zadáte do fronty povelem qsub. Základní informace o zadávání úloh a zjišťování jejich stavu jsou v základním návodu. Pro vážné zájemce je ke stažení uživatelská příručka systému front PBSProUserGuide . Pro materiálové výpočty využívejte frontu solid nebo frontu isolid.

Základní způsob, jak zadat úlohu k výpočtu tedy je

qsub -q solid <váš skript>

Paralelní výpočty

Pro paralelní výpočty je vhodné využít systém MPI. Návod najdete zde.

Zpět

3.2 Úlohy náročné na paměť

Zpět

4. Skripty pro subcluster David

Uživatelé občas mají pocit, že nevědí, proč jejich úloha čeká ve frontě, místo aby počítala. Pro zlepšení orientace uživatelů v okamžitém stavu zdrojů byly pro uživatele Davida vytvořeny následující pomocné prostředky.

• /raid2_david/SW/lib/worker_nodes - soubor, který obsahuje seznam všech výpočetních uzlů farmy Goliáš a jejich základní vlastnosti. Tento soubor je generován každou noc osaháváním skutečného stavu. Najdete-li ho náhodou prázdný, oznamte to laskavě Janě Uhlířové.

• solid_nodes - vypíše seznam 64-bitových výpočetních uzlů určených pro subcluster David

/raid2_david/scratch/<vaše jméno>

4. Pošlete mail se subjektem "sub david" na adresu david . Tím budete přidáni do debatního klubu david. Mail musí mít jako zpáteční adresou vaši mailovou adresu, a ta musí končit @fzu.cz.

2. Zadávání úloh do fronty

2.1 Úlohy náročné na paměť

Úlohy náročné na paměť by uživatel měl spouštět na samostatném výpočetním uzlu. Rezervování uzlu se zadává v příkazu qsub specifikací -l place=excl. Na daném uzlu tedy poběží jedna jediná úloha i v případě, že nejsou obsazené všechny procesory.

3. Skripty pro subcluster David:

Pošlete mail se subjektem "sub david" na adresu david . Tím budete přidáni do debatního klubu david. Mail musí mít jako zpáteční adresou vaši mailovou adresu, a ta musí končit @fzu.cz.

Dokumentace pro uživatele subclusteru David

Obsah

1. Základní informace

1.1 První přihlášení

Jakmile máte zřízen účet, připojte se na stroje prak2.farm.particle.cz a prak3.farm.particle.cz a pomocí povelu passwd si změňte heslo.

Používáte-li shell bash, přidejte si do souboru .bash_profile ve svém domácím adresáři řádku

. /raid2_david/SW/david.sh

Používáte-li shell tcsh, přidejte si do souboru .login ve svém domácím adresáři řádku

source /raid2_david/SW/david.csh

Vytvořte si adresář

/raid2_david/scratch/<vaše jméno>

Poté vám bude už automaticky vytvořen adresář /raid2_david/home/<vaše jméno>

Pošlete mail se subjektem "sub david" na adresu david . Tím budete přidáni do debatního klubu david. Mail musí mít jako zpáteční adresou vaši mailovou adresu, a ta musí končit @fzu.cz .

2. Skripty pro subcluster David:

Skripty pro subcluster David:

Např.

solid_free -i

solid_occu -si

Dokumentace pro uživatele subclusteru David

Podrobné informace naleznete zde.

Skripty pro Davida:

• solid_nodes - vypíše seznam 64-bitových výpočetních uzlů

• solid_nodes_off - vypíše seznam výpočetních uzlů, které jsou v daném okamžiku down, unknown, offline

• solid_occu - vypíše informace o výpočetních uzlech, které jsou v daném okamžiku plně nebo částečně vytížené

• solid_free - vypíše informace o výpočetních uzlech, které jsou v daném okamžiku zcela nebo částečně volné

• solid_wait - vypíše všechny úlohy, které čekají ve frontě solid nebo isolid (úlohy se statutem Q). U první čekající úlohy jsou uvedené podrobnější informace (majitel, datum a čas zadání do fronty, požadovaný počet výpočetních uzlů a procesorů a důvod, proč se úloha nespustila).

V současné době existují pro subcluster David dvě fronty: solid a isolid. V důsledku toho jsou skripty spustitelné

• bez parametru - souhrnné informace
• s parametrem - informace o jednotlivých frontách
  • -s (fronta solid)
  • -i (fronta isolid)

...

-- JanaUhlirova - 01 Jul 2008