BLACKHOLE.sk

Na začiatku písania tohoto blogu bola diskusia s ľuďmi na bh irc o gridoch. Potom z toho vznikol pocit a nápad vysloviť jednu myšlienku nahlas. Myšlienku, ktorá bohužial pramení zo skutočnosti a mojich skúseností so situáciou, aká na Slovensku je. Skôr, ako sa rozpíšem o jednej, pre niekoho menej - pre niekoho viacej a pre niekoho vobec nie zanedbateľnej veci, by som rád upozornil na jednu skutočnosť. Konkrétne na to, aby čitateľ hľadal v tomto blogu (a teda čo sa doň autor primárne snažil dať) pozastavenie sa nad jednou otázkou. Presnejšie nad dvoma otázkami.

1) "Prečo sa na Slovensku dokonca aj v akademickej obci riešia veci, ako za dôb dávno minulých ?"
2) "Prečo platí bod 1), aj keď sme dostali do rúk technológiu na to, aby sme to zmenili a dokonca zadarmo ?"

[   Intro, alebo o čom to vlastne hovorím   ]
Technológia GRID má byť (je) "novou" myšlienkou prístupu k zdrojom v oblasti informačných technológií. Konkrétne mám na mysli CPU/RAM/výpočtový čas a diskový priestor. Na začiatok krátke objasnenie myšlienky toho, čo je GRID (v zmysle tohoto článku).

Predstavte si, že by ste mali k dispozícii spôsob/programové vybavenie/systém/middleware, ktorý vám umožní používať niekoľko tisíc procesorov a petabajty úložného priestoru a to všetko za relatívne malý poplatok. Predstavte si, že by bol tento priestor pre Vás prístupný kdekoľvek na planéte (kde je konekcia na internet). Predstavte si, že by bol tento systém prístupný 24 hodín denne, sedem dní v týždni, 365 dní do roka. Predstave si, že sa o to kde a ako tento sytém Vašu požiadavku spracuje, nemusíte starať. Pošlete úlohy. Tie sú paralelne spracované. Počkáte na výsledky a zozbierate ich. Predstavte si, že na toto všetko používate jedno rozhranie, jeden middleware, bez ohľadu na to, ako kde a odkiaľ ste pripojení. Žiadne hľadanie správneho prístupu, vzhľadom na uzol výpočtu, ani programovanie vlastného skriptu, kvôli kolízii dát v zdieľanom domovskom adresári. Predstavte si, že celá komunikácia je šifrovaná (PKI), je Vám pridelený certifikát a ste autentifikovaným používateľom systému.

Práve ste získali základnú predstavu o tom, čo sa snaží technológia GRID priniesť z pohľadu používateľa. Presnejšie hovorím o projekte Európskej Únie - EGEE. Samotná myšlienka GRIDu nie je nová. Dokonca ani v Europe. Čo sa Slovenskej republiky týka, tak už okolo r. 1996 prišiel Ústav Informatiky SAV s iniciatívou vybudovať túto sieť. Bolo to na veľmi dobrej ceste. Vládna garnitúra dokonca oznámila, že túto myšlienku podporí, no má podmienku. Skôr, ako dá na budovanie centier a infraštruktúry peniaze, chce mať na stole zoznam projektov, ktoré sa budú na gride riešiť. Tu nastal problém. Keď sa kompetentní obrátili na súkromný sektor a univerzity, s výnimkou niektorých, nemal nikto predstavu, na čo to vlastne využiť. To bol rok 1996. V roku 2006, desať rokov po, sa na druhej medzinárodnej konferencii o gridovom počítaní v Bratislave zišlo sotva 40 ľudí. Z týchto ľudí len niekoľko (cháp cca 10) malo prezentáciu o tom, čo reálne na tom gride narátali. Opäť prišla na rad otázka - Milé univerzity a súkromný sektor. Máme technológiu (projekt EGEE) zadarmo, treba dobudovať infraštruktúru - no základom sú projekty - máte ? Bol som tam osobne a videl som tváre, ktoré prezrádzali záujem, no nerozumeli tomu, čo chcú. Nechápali čo im je ponúknuté. Ak si dobre spomínam, s výnimkou stálych hráčov nikto, ešte raz NIKTO nemal projekt. Dokonca som bol prekvapený, že bol záujem zo súkromného sektoru. Čakal by som to skôr od univerzít. Čakal by som, že sa o to univerzity potrhajú, ako albánske psy o mäso. Univerzity, presnejšie ich zástupcovia a zástupcovia ústavov mali nápady kto, čo a ako by mohol, no nikto nevstal a nepovedal: "Mám takýto problém a chcem to riešiť na gride". Nikto nechcel ísť do toho. Nikto nechcel za cenu desiatok počítačov získať legálne prístup k tisíckam počítačov. Nikto...

Od toho momentu ubehli tri roky. Situácia sa zlepšila - mierne. Už máme Slovenskú Gridovú Iniciatívu. Tá má okrem iného zabezpečiť prebratie starostlivosti o existujúcu infraštruktúru (cháp first line support a pod.) po skončení projektu EGEE III, čo bude tento rok. Vo všeobecnosti mám pocit, že panuje nedôvera v akademickej obci voči tejto myšlienke - myšlienke použitia gridu. Považujem to za veľkú chybu. Je to mrhanie zdrojov a to na celej čiare (áno aj ľudských).
Na Slovensku máme 12 univerzít. Ak každá univerzita v priemere zastrešuje 10 odborov (povedzme) (pozor - hovorím o odboroch, nie o fakultách, čiže napríklad, informatika, matematika, fyzika, chémia, bioĺogia...) a môžeme predpokladať, že v polovici z nich sa intenzívne používa matematika (minimálne štatistika určite, pretože je neoddeliteľnou súčasťou akejkoľvek vedeckej práce), potom si kladiem otázku: kde tých 60 odborov ráta svoje vedecké výsledky ? A oni výsledky mať musia, inak by neboli univerzitami! Kde ? Nebavím sa o bakalárskych ani o magisterských prácach. Hovorím o renomovaných profesoroch a tímoch. To mi chce niekto povedať, že miesto jedného systému sa dajú peniaze do 12tich systémov ? S tým, že ľudia, ktorí by sa mali pôvodne venovať povedzme biológii, sa budú venovať administrácii svojho systému a strávia "1/2" svojej mladosti len na tom, aby to rozbehli ? Vedia vôbec o tom, že sa to dá robiť aj inak a efektívnejšie - za tú cenu, že to železo, na ktorom by to rátali, nebude u nich v kancelárii ? Som presvedčený, že bez použitia a zvládnutia výpočtových prostriedkov nie je v dnešnej dobe možné robiť kvalitný výskum na svetovej úrovni. Dokonca ani na Európskej nie. Mimochodom, ak by mal nejaký biológ pocit, že k skúmavkám a Petriho miskám grid nepotrebuje, tak mu odporúčam pozrieť sa sem.

Čert nie je taký strašný, ako ho maľujú a polievka sa neje taká horúca, ako sa navarí. Ešte stále je možné nasadnúť na vlak. Otázka je, či to chceme.

[   Ako sa s gridom pracuje   ]
Ako prvé rozoberiem prácu s gridom. Prvá vec, čo človek potrebuje, je tzv. gridovský certifikát (certifikát používateľa). Je to klasický X-509. CA je SAVka. Akonáhle človek obdrží certifikát a má ho teda potvrdený, pristúpi k zvoleniu vhodnej virtuálnej organizácie. Virtuálna Organizácia (ďalej VO) je spôsob, ako zastrešiť skupinu ľudí, ktorí sa snažia pracovať na (aspoň približne) rovnakej veci a teda využívajú rovnaké programové vybavenie. VO sa zakladá "naklikaním" na webovom portáli GOC (Grid Operations Center). Samozrejme, nemôže si ju založiť hocikto. No to nie je problém, pretože je veľa VO, ktoré majú relatívne všeobecno akademický charakter (VOCE - Virtual Organization for Central Europe).
Sú organizácie, ktoré sú špecializované (napríklad veľké projekty v CERNe) a v najhoršom sa vždy dá kontaktovať zodpovedné osoby a požiadať o registráciu novej VO.

VO sa stará aj o :
- zabezpečenie a inštaláciu programového vybavenia pre skupinu používateľov, ktorú zastrešuje.
- administráciu a kontrolu tohoto vybavenia
- prijímanie, prípadne vyhadzovanie (ak je na to dôvod) používateľov zo skupiny
- podporu seba samej na centrách, ktoré sú zapojené do gridu

Akonáhle má človek certifikát a je členom želanej virtuálnej organizácie, musí už urobiť len jeden krok. Napísať si textový súbor (ak sa nemýlim v prípade VOCE je to ešte jednoduchšie), kde minimálne špecifikuje : čo chce pustiť, čo sú vstupné údaje a kde majú byť uložené výstupné údaje. Keď tento súbor má, stačí sa mu prihlásiť na tzv User Interface (prípadne si ho nainštalovať na svojom počítačí - ak chce) a napísať príkaz typu "commit". To, čo mu systém vypluje, je GUID jeho úlohy. Ďalším príkazom (typu "info") si môže zistiť, v akom stave je úloha (či bola prijatá systémom, či čaká na spracovanie, či sa ráta práve, či bola dorátané a môže si vyzdvihnúť výsledky) no a posledným príkazom je príkaz typu "get results", ktorý nakopíruje výsledok práce na User Interface. K dispozícii je samozrejme viacej príkazov a tí, čo vedia čo robia, môžu veľmi jemne a presne špecifikovať čo chcú kam poslať, no nemusia. Gridový middleware je zodpovedný za to, aby si sám našiel vhodné miesto, kde úlohu spracovať.

Typický životný cyklus úlohy je:
SUBMITTED, WAITING, READY, SCHEDULED, RUNNING, DONE, CLEARED.
Ich význam je zhruba nasledovný:
SUBMITTED - Úloha bola prijatá systémom
WAITING - Pre úlohu sa hľadá vhodný uzol na spracovanie
READY - Uzol sa našiel - úloha bola poslaná na uzol pre spracovanie
SCHEDULED - Úloha poslaná do fronty a čaká sa na voľný počítač, na ktorom by sa mohla spracovať
RUNNING - Úloha sa spracováva
DONE - Úloha bola spracovaná
CLEARED - Grid po úlohe vyčistil smetie, poslal mi správu ako úloha skončila a kde uložil výsledky

[   Ako to vyzerá na druhej strane, alebo ľahké zapichnutie do administrácie   ]
Grid je skupina výpočtových centier (uzlov), ktoré sa chovajú ako lokálne farmy. Sú trojakého typu.
- s výpočťovými prostriedkami (úloha je prijatá vypočítaná a vrátená do systému)
- s úložným priestorom (dáta sú uložené a na požiadanie vydané/zmazané/skopírované/zreplikované a pod.)
- s možnosťou správy úloh (úloha od používateľa sa spracuje a hľadá sa správny uzol, ktorý spĺňa požiadavky úlohy, následne je úloha poslaná na tento uzol)
Toto delenie prirodzene nie je striktné. Uzly môžu podporovať všetky tri typy, alebo len jeden.

Uzly s výpočtovými prostriedkami sú založené na batch systéme, ktorý posiela úlohy z centrálneho servera na pracovné stanice a späť. Nad týmto batch systémom beží program, ktorý prijíma opis úlohy od systému a po autentifikácii úlohu buď vráti naspäť, alebo posunie batch systému a spracuje. Po spracovaní upovedomí príslušné uzly, že bola úloha vypočítaná (prípadne že nebola, ak program hodil segfault napr.)
Terminológia súvisiaca s tymito uzlami:
Batch Systém/LRMS - Local Resource Management System, systém na paralelné spracovanie úloh (napr PBS TORQUE, CONDOR)
CE - Computing Element (to čo "prekladá" čo úloha chce z jazyka gridu do jazyka batch systému)
WN - Worker Node, počítač, kde sa prijme úloha z batch systému, spracuje sa a pošle sa naspäť výsledok

Uzly s úložným priestorom majú za úlohu ukladať dáta, kopírovať a mazať ich, vytvárať ich repliky, udržiavať databázu mien (a konverzii z globálnych identifikátorov na human readable formát) a pod.
Terminológia súvisiaca s týmito uzlami:
SE - Storage Element, počítač(e), ktorý(é) prijíma dáta a žiadosť o manipuláciu s nimi a vykonáva ju (napr, DPM, dCache)
SRM - Storage Resource Manager, aplikácia, ktorá unifikuje I/O prístup k SE a robí ho nezávislým na konkrétnej implementácii (v rámci DPM, dCache)

Uzly, ktoré zabezpečujú správu úloh, majú na starosti hľadanie správnych uzlov, kde by sa úloha mohla spracovať a jej dáta uložené, poslanie úlohy tomuto uzlu, prijatie informácie o stave úlohy a po skončení vyčistenie smetí, ktoré úloha po sebe zanechala. Počas celej tejto doby sa v každom kroku zapíše informácia o stave úlohy.
Terminológia súvisiaca s tymito uzlami:
WMS - Workload Management System, hľadá správny uzol pre úlohu, podľa jej požiadaviek
LB - Logging and Bookkeeping, zaznamenáva stav úlohy
RB - Resource Broker, posiela žiadosti WMS a podľa výsledku pošle úlohu na daný uzol. Mení stav úlohy v informačnom systéme. Zapisuje ho do LB

Všetko je to prirodzene o čosi zložitejšie a hlavne je to žrút času. Kto by chcel vedieť viac, odporúčam ho na :

gLite - grid middleware
TORUQE Batch system
MAUI Scheduler (mení poradie jobov ktoré PBS posiela na nodey, podľa ich priority - Job Management. Je súčasťou LRMS)

[   Záver    ]
Momentálne máme na Slovensku (aspoň čo ja viem) 4 uzly (centrá). Môžete ich nájsť tu v časti Slovakia. Dúfam, že grid v Slovenskej republike neostane len želanie nenaplneného sna. Je potrebné, aby sa o administráciu starali profesionáli a mali to pevne v rukách, no zo všetkého najviac je potrebné, aby boli projekty a ľudia, čo tieto prostriedky využijú.

Edit dodatok : Netvrdim ani nechcem tvrdit, ze maju vsetci pouzivat len toto a nic ine. To je blbost a hlavne to nie je pravda. Co chcem povedat je, ze grid je pre mnohych velmi dobrou alternativou k lokalnej (sukormnej), no nakladnej farme a ked sa spojazdni poriadne, tak vie prinasat relevantne vysledky.