Entrar
Usuário novo? Cadastre-se
pentahobr · Pentaho Brasil

Informações sobre o grupo

  • Associados: 980
  • Categoria: Software
  • Criado em: Oct 3, 2006
  • Idioma: Inglês
? Você já é um associado? Entre no Yahoo!

Dicas

Você sabia...
Você pode receber várias mensagens em um único e-mail. Basta configurar suas opções de entrega de e-mail.

Mensagens

  Ajuda
Avançado
Demora em Inserir DW   Lista de mensagens  
Responder Mensagem #6966 de 7964 |
Re: [pentahobr] Demora em Inserir DW

Boa Tarde a Todos

Antes utilizando o componente UPDATA/INSERT, esta demorando mais de 8 hras para popular devido a grande quantidade de comparações realizadas, utilizando o UPDATE com o TABLE OUTPUT a ETL completa esta demorando 20 minutos, também foi realizado uma indexação no banco que contribuiu muito para o ganho de performance!!

att
Gustavo

De: Alvi Miranda <alviane.miranda@...>
Para: pentahobr@...
Enviadas: Terça-feira, 14 de Fevereiro de 2012 12:35
Assunto: Re: [pentahobr] Demora em Inserir DW

 
Bom ter ajudado.

Compartilhe conosco qual das opções utilizou e a performance do mesmo.

=) 


Em 9 de fevereiro de 2012 08:43, Gustavo Damião <gudamiao@...> escreveu:
 

Bom dia  Alviane Miranda

Muito bom este artigo, consegui entender perfeitamente!!!

Muito obrigado pela dica!!

abraços
gustavo

De: Alvi Miranda <alviane.miranda@...>
Para: pentahobr@...
Enviadas: Quarta-feira, 8 de Fevereiro de 2012 18:06
Assunto: Re: [pentahobr] Demora em Inserir DW

 
Bem, eu acho que usar o "Table Output", puro,  deve ser a última saída, ainda mais se estiver truncando a tabela.... 
Minhas dicas:

1 - Indexação do banco.
2 - Multi-threading dos steps.
3 - Update + Table Output.


Nas experiências pessoais, o recurso 1 é o melhor. Uma politica de indexação tem impacto significativo na performance.

O Ademar Gomes produziu dois artigos com dicas sobre performance para esses caso, vale conferir. 


Alviane Miranda


Analyst Business Intelligence

Home Page:  http://alvimiranda.blogspot.com/
E-mail: alviane.miranda@...







Em 7 de fevereiro de 2012 18:00, Gustavo Damião <gudamiao@...> escreveu:
 
Galera obrigado pela ajuda, alterei para OUTPUT  e ficou muito rapido, agora os vamos ajustar o sql!

att
Gustavo Damião





De: Grimaldo Lopes <grimaldo_lopes@...>
Para: pentahobr@...
Enviadas: Terça-feira, 7 de Fevereiro de 2012 17:14
Assunto: RE: [pentahobr] Demora em Inserir DW

 
Gustavo, esta tabela é staging ou dimensão/fato? Caso sua staging tenha alguma constraints desabilite e antes de inserir na dimensão ou fato habilite, faça um controle com auditoria dos dados, isso ajuda e muito.

Veja a questão da modelagem multidimensional, muitas vezes a quantidade de lookup's dificulta o processamento, análise estas hipóteses, espero ter ajudado.

Grimaldo Lopes de Oliveira
Consultor Business intelligence - PRODEB
Prof. Universitário 
Estatístico pela UFBA
Mestrando - Gestão e Tecnologias Aplicadas à Educação (Gestec)
Especialista - Análise de Sistemas pela Visconde de Cairu




To: pentahobr@...
From: gudamiao@...
Date: Tue, 7 Feb 2012 10:27:17 -0800
Subject: [pentahobr] Demora em Inserir DW



Boa Tarde Todos

Tenho uma tabela de produto que contem 300 mil linhas, fiz o seguinte no PDI:

INSERI o Componente Table Input para fazer o SQL, Depois inseri no DW  utilizando o Insert/Update, dando um commit a cada 1000,  que esta demorando muito +- 6 hrs, cada fez que eu rodo ele demora de 4 a 6 hrs!!!

Minha duvida é no dia-a-dia como irei rodar este ETL, tem como agilizar o insert?

a Configuração do servidor é:

I5 COM 8 GIGA DE RAM!!

ABRAÇOS
GUSTAVO DAMIAO













Ter, 14 de Fev de 2012 3:27 pm

gudamiao
Offline Offline
Enviar e-mail Enviar e-mail

Mensagem #6966 de 7964 |
Expandir mensagens Nome/E-mail Classificar por data

Boa Tarde Todos Tenho uma tabela de produto que contem 300 mil linhas, fiz o seguinte no PDI: INSERI o Componente Table Input para fazer o SQL, Depois inseri...
Gustavo Damião
gudamiao Offline Enviar e-mail
7 de Fev de 2012
6:27 pm

Boa Tarde Gustavo. Tudo depende como você quer fazer. O Insert/Update, dependo como é usado ele é demorado mesmo, pois ele pesquisa na base, se não existe...
Cesar Domingos
cesardomingo... Offline Enviar e-mail
7 de Fev de 2012
6:49 pm

Gustavo, Postei a poucos dias um problema parecido na lista. Fui aconselhada a mudar o Insert/Update por um Table Output. Fiz e a melhora na performance é ...
Lia Matte
lcmatte1 Offline Enviar e-mail
7 de Fev de 2012
7:14 pm

Gustavo, esta tabela é staging ou dimensão/fato? Caso sua staging tenha alguma constraints desabilite e antes de inserir na dimensão ou fato habilite, faça...
Grimaldo Lopes
grimaldol_lopes Offline Enviar e-mail
7 de Fev de 2012
7:14 pm

Galera obrigado pela ajuda, alterei para OUTPUT  e ficou muito rapido, agora os vamos ajustar o sql! att Gustavo Damião ________________________________ De:...
Gustavo Damião
gudamiao Offline Enviar e-mail
7 de Fev de 2012
8:00 pm

Bem, eu acho que usar o "Table Output", puro, deve ser a última saída, ainda mais se estiver truncando a tabela.... Minhas dicas: 1 - Indexação do banco. ...
Alvi Miranda
alvimiranda Offline Enviar e-mail
8 de Fev de 2012
8:07 pm

Bom dia  Alviane Miranda Muito bom este artigo, consegui entender perfeitamente!!! Muito obrigado pela dica!! abraços gustavo ...
Gustavo Damião
gudamiao Offline Enviar e-mail
9 de Fev de 2012
10:43 am

Bom ter ajudado. Compartilhe conosco qual das opções utilizou e a performance do mesmo. =) ... Bom ter ajudado. Compartilhe conosco qual das opções...
Alvi Miranda
alvimiranda Offline Enviar e-mail
14 de Fev de 2012
2:35 pm

Boa Tarde a Todos Antes utilizando o componente UPDATA/INSERT, esta demorando mais de 8 hras para popular devido a grande quantidade de comparações...
Gustavo Damião
gudamiao Offline Enviar e-mail
14 de Fev de 2012
3:27 pm
Avançado

Copyright © 2010 Yahoo! do Brasil Internet Ltda. Todos os direitos reservados.
Política de Privacidade - Termos do Serviço - Diretrizes - Ajuda