Arquiteturas de Sistemas de
Processamento Paralelo
Gabriel P. Silva
Universidade Federal do Rio de Janeiro Pós- Graduação em I nformática
DCC/ I M - NCE/ UFRJ
Re de s de I n t e r con e x ã o Est á t ica s
Topologia s
Un idim e n sion a is e Bidim e n sion a is Tr idim e n sion a is e H ipe r cú bica s
Té cn ica s de Ch a v e a m e n t o
Ch a v e a m e n t o por pa cot e ( st or e - a n d-for w a r d) Ch a v e m e n t o por cir cu it o V ir t u a l Cu t - Th r ou gh W or m h oleAlgor it m os de Rot e a m e n t o
D e t e r m in íst ico Ada pt a t iv oRe de s de I n t e r con e x ã o Est á t ica s
N or m a lm e n t e u t iliz a da s e m
a r qu it e t u r a s pa r a le la s por t r oca de
m e n sa ge n s ( m u lt icom pu t a dor e s) .
Re de s de in t e r con e x ã o e st á t ica s sã o
r e de s com t opologia ba se a da e m
gr a fos, on de ca da n ó é u m e le m e n t o
pr oce ssa dor e ca da a r e st a do gr a fo
r e pr e se n t a u m “lin k ” e n t r e dois
Topologia s de Re de s de
I n t e r con e x ã o Est á t ica s
Lin h a
Ca da pr oce ssa dor e st á con e ct a do a os se u s v iz in h os da e squ e r da e da dir e it a .
A m e n sa ge m é r e pe t ida m e n t e pa ssa da pa r a o pr óx im o n ó a t é ch e ga r a o se u de st in o.
Bi- dim e n sion a l
An e l
Qu a n do o pr im e ir o e ú lt im os n ós da t opologia e m lin h a e st ã o in t e r con e ct a dos
Est r e la
Um n ó a t u a com o n ó de con t r ole a o qu a l t odos de m a is n ós e st ã o con e ct a dos
Topologia s de Re de s de
I n t e r con e x ã o Est á t ica s
Bi- dim e n sion a l
Ár v or e
Um a á r v or e bin á r ia de pr ofu n dida de d t e m 2 d- 1 n ós.
As r e de s e m á r v or e sofr e m de u m ga r ga lo de com u n ica çã o n os n ív e is m a is a lt os da á r v or e bin á r ia .
Est e pr oble m a pode se r r e solv ido a u m e n t a n do a ca pa cida de de
com u n ica çã o dos “lin k s” qu e e st ã o m a is pe r t o da r a iz . Est e r e de é
Topologia s de Re de s de
I n t e r con e x ã o Est á t ica s
Bi- dim e n sion a l
M a lh a Bi- dim e n sion a l
Ca da pr oce ssa dor t e m qu a t r o v iz in h os a os qu a is e st á con e ct a do por u m
“lin k ”.
A m a lh a bidim e n sion a l é u m a e x t e n sã o do v e t or lin e a r .
Se a s du a s dim e n sõe s da m a lh a n ã o for e m igu a is, t e m os u m a m a lh a
Topologia s de Re de s de
I n t e r con e x ã o Est á t ica s
Topologia s de Re de s de
I n t e r con e x ã o Est á t ica s
I n t e r con e x ã o Est á t ica
Tr i- dim e n sion a l
Tor o (
M a lh a Con e ct a da n a s 2 dim e n sõe s)
Cu bo 3 - D
3 - cu be - con n e ct e d cy cle
Tot a lm e n t e con e ct a da
Todos os n ós e st ã o con e ct a dos e n t r e si por u m “lin k ” dir e t o.
O n ú m e r o de a r e st a s do gr a fo
t ot a lm e n t e con e ct a do é da do por :
d = n ( n - 1 ) / 2
Est e t ipo de r e de é m u it o pou co u t iliz a do de v ido a os a lt os cu st os de com u n ica çã o.
I n t e r con e x ã o Est á t ica
Tr i- dim e n sion a l
Re de s de I n t e r con e x ã o
H ipe r cú bica
Um h ipe r cu bo é u m a m a lh a
m u lt idim e n sion a l de n ós pr oce ssa dor e s com e x a t a m e n t e dois n ós e m ca da
dim e n sã o.
Um h ipe r cu bo com dim e n sã o d possu i u m t ot a l de n = 2 * * d pr oce ssa dor e s:
d = 0 é u m h ipe r cu bo de dim e n sã o z e r o, com
a pe n a s u m n ó;
d = 1 n = 2, u m h ipe r cu bo com 2 n ós
con e ct a dos por u m “lin k ”;
Um h ipe r cu bo de dim e n sã o d+ 1 con sist e de dois
Pr opr ie da de s da Re de
H ipe r cú bica
1 .
D ois n ós e st ã o con e ct a dos por u m “lin k ” se su a n u m e r a çã o bin á r ia dife r e a pe n a s deu m “bit ”.
2 .
Ca da n ó e st á dir e t a m e n t e con e ct a do a ou t r os d pr oce ssa dor e s .3 .
O n ú m e r o t ot a l de posiçõe s de bit sdife r e n t e s e n t r e dois n ós é ch a m a da de D ist â n cia de H a m m in g, H D, e n t r e e le s. Est a dist â n cia é ca m in h o m a is cu r t o pa r a u m a m e n sa ge m t r a fe ga r e n t r e e sse s dois n ós. Por e x e m plo, a H D e n t r e o n ó 3 ( 0 1 1 ) e o n ó 5 ( 1 0 1 ) é 2 .
Pr opr ie da de s da s Re de s de
I n t e r con e x ã o Est á t ica s
1 )
Gr a u do n ó: N ú m e r o de ca n a is qu e in cide m e m u m n ó da r e de .2 )
D iâ m e t r o: é a dist â n cia m á x im a e n t r e qu a isqu e r dois n ós da r e de .3 )
Con e ct iv ida de : é a m e dida dam u lt iplicida de de ca m in h os e n t r e dois n ós qu a isqu e r .
4 )
La r gu r a da Bise çã o: é de fin ida com o o n ú m e r o m ín im o de “lin k s” decom u n ica çã o qu e n e ce ssit a m se r
r e m ov idos pa r a pa r t icion a r a r e de e m du a s m e t a de s igu a is.
Pr opr ie da de s da s Re de s de
I n t e r con e x ã o Est á t ica s
5 )
La r gu r a de Ba n da da Bise çã o: é de fin ido com o o v olu m e m ín im o de com u n ica çã o e n t r e du a s m e t a de s da r e de com igu a l n ú m e r o de n ós.6 )
La r gu r a do Ca n a l: n ú m e r o de bit s de ca da “lin k ” físico de com u n ica çã o.7 )
Ta x a do Ca n a l: t a x a de pico det r a n sm issã o dos bit s a t r a v é s de ca da “lin k ” físico.
8 )
Cu st o: O cu st o de u m a r e de pode se r a v a lia do pe la con t a ge m do n ú m e r o de “lin k s” r e qu e r idos por t oda a r e de de in t e r con e x ã o.Pa r â m e t r os de D e se m pe n h o
• Ba n da Pa ssa n t e : – Ta x a m á x im a com qu e a r e de é ca pa z de t r a n sm it ir a in for m a çã o. • La t ê n cia : – I n t e r v a lo de t e m po ga st o por u m a m e n sa ge m pa r a a t r a v e ssa r a r e de ; – La t ê n cia = ov e r h e a d + ( t a m . m e n sa ge m / ba n da pa ssa n t e ) . • Esca la bilida dePr opr ie da de s da s Re de s de
I n t e r con e x ã o Est á t ica s
2 ( N -N1 / 2) N – 1 N - 1 N N - 1 Cu st o ( Lin k s) 2 , 3 , ou 4 1 , 2 ou 3 1 ou N - 1 2 1 ou 2 Gr a u N ó N1 / 2 2 ( N1 / 2 – 1 ) M a lh a 2 -D 1 2 log2 * ( ( N + 1 ) / 2 ) Ár v or e Bin á r ia 1 2 Est r e la 2 N / 2 An e l 1 N - 1 Lin h a La r gu r a Bisse çã o D iâ m e t r o Topologia
Pr opr ie da de s da s Re de s de
I n t e r con e x ã o Est á t ica s
2 * N 2 * ( N1 / 2) ( N1 / 2 – 1 ) 4 Tor o 2 ( N -N2/ 3 ) N2 / 3 3 ( N1 / 3 – 1 ) 3 , 4 , 5 ou 6 Cu bo 3 - D ( N log2N ) / 2 N / 2 log2 N log2 N H ipe r cu bo N ( N - 1 ) / 2 ( N2) / 4 1 N - 1 Com p. Con e ct a da Cu st o ( Lin k s) Gr a u N ó La r gu r a Bisse çã o D iâ m e t r o Topologia
Ex e m plos de Ar qu it e t u r a s
com Re de s Est á t ica s
Cray T3- E: Torus 3- D, 600 Mbytes/ s por
link.
Cray T3- D: Torus 3- D, 300 Mbytes/ s
por link.
I ntel iPSC- 2: Hipercubo, 2.8 Mbytes/ s
por link.
Chaos Router: Torus 2- D, 360 Mbytes/ s
por link.
MI T M- Machine: Malha 3- D, 800
Mbytes/ s por link.
Nós: são os elementos ativos da rede,
que realizam a computação e o
roteamento das mensagens. São
compostos por:
I nterface de Rede Roteador
Elemento Processador
Canais: conexões ponto- a- ponto por
onde trafegam as mensagens.
Nó
Nó
Canal de
Comunicação
Nó
Elemento Processador I nterface de Rede I nterface de Rede RoteadorComo as mensagens são
transmitidas através da rede de
interconexão?
Existem dois métodos básicos:
Chaveamento de Pacotes
A mensagem é dividida em pacotes que são enviados individualmente pela rede.
Chaveamento por Circuito
Con h e cido t a m bé m com o “st or e - a n d-for w a r d”
A m e n sa ge m é div idida e m pa cot e s qu e sã o e n v ia dos in de pe n de n t e m e n t e a t r a vé s da r e de de con e x ã o O pa cot e se r á t r a n sm it ido pa r a o n ó v iz in h o a pe n a s se h ou v e r e spa ço dispon ív e l pa r a o a r m a z e n a m e n t o L = ( P/ B) * D P com pr im e n t o do pa cot e B la r gu r a de ba n da do ca n a l D dist â n cia e n t r e os n ós
A la t ê n cia é pr opor cion a l à dist â n cia e n t r e os n ós
m e ssa ge m : A u n ida de de com u n ica çã o do pon t o de v ist a do pr ogr a m a dor . Se u t a m a n h o é lim it a do a pe n a s pe lo e spa ço n a m e m ór ia de u su á r io.
pa cot e : M e n or u n ida de de com u n ica çã o de t a m a n h o fix o con t e n do in for m a çã o de r ot e a m e n t o ( p. e x ., e n de r e ço de de st in o) e de se qu e n cia m e n t o n o se u ca be ça lh o. Se u t a m a n h o é da or de m de ce n t e n a s a de z e n a s de by t e s ou pa la v r a s.
flit :
Menor unidade de infor m ação no
nível do “ link ” , com o t am anho de um a
ou v ár ias palav r as. Os Flit s podem ser
de diver sos t ipos e o pr ot ocolo par a o
envio de um flit consom e diver sos
ciclos.
phit :
A m enor unidade de infor m ação
no nível físico que é t r ansfer ida at r avés
de um link físico em um ciclo.
Todo u m ca m in h o é e st a be le cido pe lo e n v io de u m a pe qu e n a m e n sa ge m de “son da ” a n t e s do e n v io da m e n sa ge m pr in cipa l.
Os ca n a is qu e con st it u e m o cir cu it o sã o r e se r v a dos e x clu siv a m e n t e .
L = ( P/ B) * D + M / B P com pr im e n t o da m e n sa ge m de “son da ” M com pr im e n t o da m e n sa ge m Se P < < M , la t ê n cia in de pe n de da dist â n cia
Solu çã o de com pr om isso.
A m e n sa ge m é div idida e m pe qu e n a s
u n ida de s ch a m a da s “flow con t r ol digit s” ou “flit s”.
Os flit s sã o e n v ia dos, e m m odo pipe lin e , e n qu a n t o os ca n a is e st iv e r e m
dispon ív e is. Se a lgu m ca n a l r e qu isit a do e st iv e r ocu pa do, os flit s sã o a r m a z e n a dos n os n ós in t e r m e diá r ios .
L = ( H F/ B) D + M / B
H F com pr im e n t o do flit de ca be ça lh o
É u m ca so e spe cia l do “v ir t u a l cu t - t h r ou gh ” on de a ca pa cida de de a r m a z e n a m e n t o n os n ós in t e r m e diá r ios é igu a l a 1 flit .
Pode r e a liz a r r e plica çã o de pa cot e s, e n v ia n do cópia s de flit s pa r a div e r sos ca n a is de sa ída pa r a im ple m e n t a r “m u lt ica st ” e “br oa dca st ”. Com o u so de m ú lt iplos “bu ffe r s” pa r a ca da ca n a l, é possív e l im ple m e n t a r ca n a is v ir t u a is, pa r a qu e div e r sa s m e n sa ge n s possa m
com pa r t ilh a r o m e sm o ca n a l físico.
L = ( H F/ B) * D + M / B
H F com pr im e n t o do flit de ca be ça lh o
N o d e 1 2 3 4 5 6 5 1 0 1 5 2 0 2 5 3 0 T im e (a ) S to re -a n d -F o rw a rd P a c k e t S w itc h in g N o d e 1 2 3 4 5 6 5 1 0 1 5 2 0 2 5 3 0 T im e (b ) C irc u it S w itc h in g N o d e 1 2 3 4 5 6 H e a d e r o r P ro b e M e s s a g e B o d y T a il
Roteamento – Canais Virtuais
Vantagens
Aumentam o “throughput” da rede
pela reduçã o do tempo de ociosidade
do canal físico
Evitam a ocorrê ncia de “deadlock”
Facilitam o mapeamento da topologia
de comunicaçã o dos processos em
uma topologia física específica
Podem garantir a largura da banda
para certas funções de sistemas,
como monitoramento e depuraçã o
Roteamento – Deadlock
“Deadlock” é uma situação onde um subconjunto de mensagens está mutuamente bloqueado, esperando por
um “buffer” ser liberado por alguma das outras
mensagens deste subconjunto
Métodos de resolução de deadlock, que são causados pelo estabelecimento de ciclos fechados:
Preempção das mensagens por re- roteamento Preempção das mensagens por descarte
Uso de canais virtuais.
Desde que o número de canais virtuais seja suficiente, é sempre possível quebrar os ciclos fechados nos
caminhos de transmissão de pacotes e,
Roteamento – Deadlock
M e n sa ge m A
M e n sa ge m B M e n sa ge m D
Roteamento – Multicast e Broadcast
Algumas redes de interconexão possuem recursos de hardw are no roteamento de mensagens para suportar diferentes tipos de operações de comunicação.
Todas as redes suportam a comunicação ponto- a- ponto ou “unicast”
Operações coletivas
“broadcasting” ( um nó origem envia uma mesma mensagem para todos os outros)
“multicasting” ( um nó origem envia a mesma mensagem para um grupo especificado de nós destino) .
Algu m a s r e de s de in t e r con e x ã o possu e m r e cu r sos de h a r dw a r e n o r ot e a m e n t o de m e n sa ge n s pa r a su por t a r dife r e n t e s t ipos de ope r a çõe s de com u n ica çã o.
Toda s a s r e de s su por t a m a com u n ica çã o pon t o- a - pon t o ou “u n ica st ”.
Ope r a çõe s cole t iv a s:
“br oa dca st in g” ( u m n ó or ige m e n v ia u m a m e sm a m e n sa ge m pa r a t odos os ou t r os) “m u lt ica st in g” ( u m n ó or ige m e n v ia a m e sm a m e n sa ge m pa r a u m gr u po e spe cifica do de n ós de st in o) .
D e t e r m in íst icos
O ca m in h o é com ple t a m e n t e de t e r m i-n a do pe lo e i-n de r e ço dos i-n ós foi-n t e e
de st in o. Os n ós in t e r m e diá r ios, m e sm o n o ca so de u m con ge st ion a m e n t o, n ã o pode m r e dir e cion a r a s m e n sa ge n s.
Ada pt a t iv os
N o r ot e a m e n t o a da pt a t iv o os n ós in t e r m e diá r ios le v a m e m con t a o
e st a do a t u a l da r e de pa r a de t e r m in a r a dir e çã o pa r a qu a l a m e n sa ge m de v e se r e n v ia da .
Algoritmos Determinísticos
Roteamento “street- sign”
Utilizado no roteamento do I w arp
Do tipo “Source routing”, ou seja, a informaçã o de roteamento é montada no nó fonte.
Roteamento ordenado por dimensã o
Utilizado na “J- Machine”
Aplicado em Malhas N- dimensionais Do tipo “Roteamento Distribuído”
Roteamento por tabela de busca
Do tipo “Roteamento Distribuído”
Em cada nó existe uma tabela indicando para qual vizinho a mensagem deve ser roteada, de acordo com o endereço destino
O I MS T9000 utiliza uma variante deste algoritmo chamada de “interval labelling”.
Algoritmos Adaptativos
Profitable
Seleciona apenas aqueles canais que garantidamente levam a mensagem mais próxima do seu destino
Resultam em um caminho de menor comprimento Não sofrem de “livelock”
São mais fáceis de demonstrar que são livres de “deadlock”
Misrouting
Seleciona indistintamente qualquer dos canais
Algoritmos Adaptativos
Progressivo
Mensagens não podem voltar no caminho que elas já percorreram
Backtracking
As mensagens podem voltar e explorar
todas as opções entre os nós fonte e destino Os cabeçalhos devem conter informação
para assegurar que não incorrerão em “livelock”
São livres de “deadlock”
Não pode ser usado com “w ormhole”
I mplica em cabeçalhos muito longos e maior latência
Algoritmos Adaptativos
Os protocolos adaptativos podem ser
ainda completamente ou parcialmente
adaptativos
Exemplos:
“turn model” parcialmente adaptatitvo, progressivo, misrouting
“w est- first” parcialmente adaptativo, progressivo, misrouting
This document was created with Win2PDF available at http://www.daneprairie.com.