Bad Smells (mal cheiros) em Bancos de Dados

59
Bad Smells (mal cheiros) em Bancos de Dados timbira A empresa brasileira de PostgreSQL FISL17, Porto Alegre/RS, 2016-07-14

Transcript of Bad Smells (mal cheiros) em Bancos de Dados

Page 1: Bad Smells (mal cheiros) em Bancos de Dados

Bad Smells (mal cheiros) em Bancos de Dados

timbiraA empresa brasileira de PostgreSQL

FISL17, Porto Alegre/RS, 2016-07-14

Page 2: Bad Smells (mal cheiros) em Bancos de Dados

Palestrante timbira

• Fabrízio de Royes Mello• Desenvolvedor PostgreSQL• Líder do PostgreSQL Brasil• Pós-Graduando Uniritter (Agile)• @fabriziomello• http://fabriziomello.github.io

• Timbira• Consultor/Mentor/Coach• A empresa brasileira de PostgreSQL• Consultoria• Desenvolvimento• Suporte 24x7• Treinamento

Timbira - A empresa brasileira de PostgreSQL 2 / 48

Page 3: Bad Smells (mal cheiros) em Bancos de Dados

Background timbira

Timbira - A empresa brasileira de PostgreSQL 3 / 48

Page 4: Bad Smells (mal cheiros) em Bancos de Dados

Resumo timbira

..1 Introdução

..2 Bad Smells

..3 Considerações Finais

Timbira - A empresa brasileira de PostgreSQL 4 / 48

Page 5: Bad Smells (mal cheiros) em Bancos de Dados

Software Quality Assurance timbira

”Consiste em uma forma de monitorar os Processos e Métodos deEngenharia de Software utilizados afim de garantir Qualidade.”(Wikipedia)

Timbira - A empresa brasileira de PostgreSQL 5 / 48

Page 6: Bad Smells (mal cheiros) em Bancos de Dados

Quem não quer um selo destes ?? timbira

Timbira - A empresa brasileira de PostgreSQL 6 / 48

Page 7: Bad Smells (mal cheiros) em Bancos de Dados

Ou talvez um destes ... timbira

Timbira - A empresa brasileira de PostgreSQL 7 / 48

Page 8: Bad Smells (mal cheiros) em Bancos de Dados

Melhoria timbira

Timbira - A empresa brasileira de PostgreSQL 8 / 48

Page 9: Bad Smells (mal cheiros) em Bancos de Dados

Mas e o Banco de Dados????

Timbira - A empresa brasileira de PostgreSQL 9 / 48

Page 10: Bad Smells (mal cheiros) em Bancos de Dados

Bancos de Dados timbira

Tendem a se deteriorar ao longo do tempo. Alguns motivos:

• crescimento volume de dados/transações;• aumento natural de usuários que o utilizam;• dificuldades na evolução do schema;• estratégias de manutenção.

Timbira - A empresa brasileira de PostgreSQL 10 / 48

Page 11: Bad Smells (mal cheiros) em Bancos de Dados

Bancos de Dados timbira

Tendem a se deteriorar ao longo do tempo. Alguns motivos:• crescimento volume de dados/transações;• aumento natural de usuários que o utilizam;• dificuldades na evolução do schema;• estratégias de manutenção.

Timbira - A empresa brasileira de PostgreSQL 10 / 48

Page 12: Bad Smells (mal cheiros) em Bancos de Dados

Refatoração em Bancos de Dados timbira

Deterioração + Mudanças em Requisitos =Necessidade de Refatoração.

Mas não é tão simples assim, sabem porque?• além de manter comportamento também é preciso manter

informação (dados);• acoplamento com diversas origens (apps, bds, integrações,

3rd, ...)

Timbira - A empresa brasileira de PostgreSQL 11 / 48

Page 13: Bad Smells (mal cheiros) em Bancos de Dados

Refatoração em Bancos de Dados timbira

Deterioração + Mudanças em Requisitos =Necessidade de Refatoração.

Mas não é tão simples assim, sabem porque?

• além de manter comportamento também é preciso manterinformação (dados);

• acoplamento com diversas origens (apps, bds, integrações,3rd, ...)

Timbira - A empresa brasileira de PostgreSQL 11 / 48

Page 14: Bad Smells (mal cheiros) em Bancos de Dados

Refatoração em Bancos de Dados timbira

Deterioração + Mudanças em Requisitos =Necessidade de Refatoração.

Mas não é tão simples assim, sabem porque?• além de manter comportamento também é preciso manter

informação (dados);• acoplamento com diversas origens (apps, bds, integrações,

3rd, ...)

Timbira - A empresa brasileira de PostgreSQL 11 / 48

Page 15: Bad Smells (mal cheiros) em Bancos de Dados

Resumo timbira

..1 Introdução

..2 Bad Smells

..3 Considerações Finais

Timbira - A empresa brasileira de PostgreSQL 12 / 48

Page 16: Bad Smells (mal cheiros) em Bancos de Dados

Code Smell timbira

É uma categoria comum de problema no código fonte que indicaa necessidade de refatoração. (Martin Fowler)

Timbira - A empresa brasileira de PostgreSQL 13 / 48

Page 17: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Similarmente aos Code Smells existem problemas comuns embancos de dados que indicam uma potencial necessidade derefatoração. (Scott Ambler)

Timbira - A empresa brasileira de PostgreSQL 14 / 48

Page 18: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Multi-purpose columnSe uma coluna for utilizada para vários fins, é provável queexista um código extra para garantir que a mesma sejausada corretamente e, muitas vezes, verificando valores deuma ou mais colunas.

Timbira - A empresa brasileira de PostgreSQL 15 / 48

Page 19: Bad Smells (mal cheiros) em Bancos de Dados

Multi-purpose column timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,tipo CHAR(1) CHECK (tipo IN ('F', 'J')),nome VARCHAR(100) NOT NULL,data DATE

);

• Se tipo = ’F’ então DATA = nascimento• Se tipo = ’J’ então DATA = inicio atividades

Timbira - A empresa brasileira de PostgreSQL 16 / 48

Page 20: Bad Smells (mal cheiros) em Bancos de Dados

Multi-purpose column timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,tipo CHAR(1) CHECK (tipo IN ('F', 'J')),nome VARCHAR(100) NOT NULL,data DATE

);

• Se tipo = ’F’ então DATA = nascimento• Se tipo = ’J’ então DATA = inicio atividades

Timbira - A empresa brasileira de PostgreSQL 16 / 48

Page 21: Bad Smells (mal cheiros) em Bancos de Dados

Multi-purpose column timbira

Sugestão(ões) Database Refactoring:• Split Column• Move Column

Timbira - A empresa brasileira de PostgreSQL 17 / 48

Page 22: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Multi-purpose tableQuando uma tabela é utilizada paraarmazenar vários tipos de entidades provavelmente existe umafalha de projeto.

Timbira - A empresa brasileira de PostgreSQL 18 / 48

Page 23: Bad Smells (mal cheiros) em Bancos de Dados

Multi-purpose table timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,nome_fantasia VARCHAR(100),cnpj CHAR(14),cpf CHAR(11),rg CHAR(10),data DATE

);

• Se cnpj e nome_fantasia = NULL então NOME = nomepessoa física

• Se cpf e rg = NULL então NOME = razão social

Timbira - A empresa brasileira de PostgreSQL 19 / 48

Page 24: Bad Smells (mal cheiros) em Bancos de Dados

Multi-purpose table timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,nome_fantasia VARCHAR(100),cnpj CHAR(14),cpf CHAR(11),rg CHAR(10),data DATE

);

• Se cnpj e nome_fantasia = NULL então NOME = nomepessoa física

• Se cpf e rg = NULL então NOME = razão social

Timbira - A empresa brasileira de PostgreSQL 19 / 48

Page 25: Bad Smells (mal cheiros) em Bancos de Dados

Multi-purpose table timbira

Sugestão(ões) Database Refactoring:• Move Column• Split Table

Timbira - A empresa brasileira de PostgreSQL 20 / 48

Page 26: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Redundant dataÉ um problema sério em bases de dados porque quando odado é armazenado em vários locais, existe risco de ocorrerinconsistência.

Timbira - A empresa brasileira de PostgreSQL 21 / 48

Page 27: Bad Smells (mal cheiros) em Bancos de Dados

Redundant data timbira

CREATE TABLE sys.usuario (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,endereco VARCHAR(100),numero INTEGER,complemento VARCHAR(40)

);

CREATE TABLE rh.funcionario (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,endereco VARCHAR(100),numero INTEGER,complemento VARCHAR(40)

);

Timbira - A empresa brasileira de PostgreSQL 22 / 48

Page 28: Bad Smells (mal cheiros) em Bancos de Dados

Redundant data timbira

Sugestão(ões) Database Refactoring:• Merge Tables• Move Data• Drop Column

Timbira - A empresa brasileira de PostgreSQL 23 / 48

Page 29: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Tables with too many columnsQuando uma tabela tem muitas colunas éindicativo de falta de coesão, pois está armazenando dados devárias entidades.

Timbira - A empresa brasileira de PostgreSQL 24 / 48

Page 30: Bad Smells (mal cheiros) em Bancos de Dados

Tables with too many columns timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,end_entrega VARCHAR(200),end_cobranca VARCHAR(200),end_residenc VARCHAR(200),end_profiss VARCHAR(200),fone_celular VARCHAR(20),fone_casa VARCHAR(20),fone_fax VARCHAR(20),fone_contato VARCHAR(20)

);

Timbira - A empresa brasileira de PostgreSQL 25 / 48

Page 31: Bad Smells (mal cheiros) em Bancos de Dados

Tables with too many columns timbira

CREATE TABLE parametro (parametro1 VARCHAR(100),parametro2 VARCHAR(100),parametro3 VARCHAR(100),parametro4 VARCHAR(100),parametro5 VARCHAR(100),parametro6 VARCHAR(100),...parametroN VARCHAR(100)

);

Timbira - A empresa brasileira de PostgreSQL 26 / 48

Page 32: Bad Smells (mal cheiros) em Bancos de Dados

Tables with too many columns timbira

Sugestão(ões) Database Refactoring:• Split Table• Move Column

Timbira - A empresa brasileira de PostgreSQL 27 / 48

Page 33: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Tables with too many rowsTabelas muito grandes podem nos levar a problemas deperformance.O custo (memória e tempo) para buscar ou alterar dados em umatabela varia de acordo com o número de linhas.

Timbira - A empresa brasileira de PostgreSQL 28 / 48

Page 34: Bad Smells (mal cheiros) em Bancos de Dados

Tables with too many rows timbira

CREATE TABLE log (logtime TIMESTAMP,user_name TEXT,context CHAR(10),message TEXT,detail TEXT

);

CREATE TABLE log_201401() INHERITS (log);CREATE TABLE log_201402() INHERITS (log);...CREATE TABLE log_201503() INHERITS (log);

Timbira - A empresa brasileira de PostgreSQL 29 / 48

Page 35: Bad Smells (mal cheiros) em Bancos de Dados

Tables with too many rows timbira

Sugestão(ões) Database Refactoring:• Split Table• Move Rows• Move Column

OBS: Em Bancos de Dados Relacionais conhecemos essa técnicacomo ”Particionamento de Tabelas”

Timbira - A empresa brasileira de PostgreSQL 30 / 48

Page 36: Bad Smells (mal cheiros) em Bancos de Dados

Tables with too many rows timbira

Sugestão(ões) Database Refactoring:• Split Table• Move Rows• Move Column

OBS: Em Bancos de Dados Relacionais conhecemos essa técnicacomo ”Particionamento de Tabelas”

Timbira - A empresa brasileira de PostgreSQL 30 / 48

Page 37: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Smart columnsColuna que armazena informações de mais de um contexto(concatenação de informações).

Timbira - A empresa brasileira de PostgreSQL 31 / 48

Page 38: Bad Smells (mal cheiros) em Bancos de Dados

Smart columns timbira

CREATE TABLE processo (numero CHAR(10) PRIMARY KEY,...

);

CREATE TABLE debito (processamento CHAR(15) PRIMARY KEY...

);

• numero = 4 digitos ano + 6 digitos sequencial• processamento = 4 digitos ano + 6 digitos sequencial + 2

digitos parcela + 2 digitos total parcelas + 1 digito verificador

Timbira - A empresa brasileira de PostgreSQL 32 / 48

Page 39: Bad Smells (mal cheiros) em Bancos de Dados

Smart columns timbira

CREATE TABLE processo (numero CHAR(10) PRIMARY KEY,...

);

CREATE TABLE debito (processamento CHAR(15) PRIMARY KEY...

);

• numero = 4 digitos ano + 6 digitos sequencial• processamento = 4 digitos ano + 6 digitos sequencial + 2

digitos parcela + 2 digitos total parcelas + 1 digito verificador

Timbira - A empresa brasileira de PostgreSQL 32 / 48

Page 40: Bad Smells (mal cheiros) em Bancos de Dados

Smart columns timbira

Sugestão(ões) Database Refactoring:• Split Column

Timbira - A empresa brasileira de PostgreSQL 33 / 48

Page 41: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Phantom foreign-keyQuando uma coluna em uma tabela pode receber um valor, quedependendo de outra coluna, estabelece relacionamento de chaveestrangeira com outra tabela.

Timbira - A empresa brasileira de PostgreSQL 34 / 48

Page 42: Bad Smells (mal cheiros) em Bancos de Dados

Phantom foreign-key timbira

CREATE TABLE tabela (...tipo INTEGER,codigo INTEGER,...

);

• Se TIPO = 1 entao CODIGO é ref. TABELA1• Se TIPO = 2 entao CODIGO é ref. TABELA2• Se TIPO = 3 entao CODIGO é ref. TABELA3• ...

Timbira - A empresa brasileira de PostgreSQL 35 / 48

Page 43: Bad Smells (mal cheiros) em Bancos de Dados

Phantom foreign-key timbira

CREATE TABLE tabela (...tipo INTEGER,codigo INTEGER,...

);

• Se TIPO = 1 entao CODIGO é ref. TABELA1• Se TIPO = 2 entao CODIGO é ref. TABELA2• Se TIPO = 3 entao CODIGO é ref. TABELA3• ...

Timbira - A empresa brasileira de PostgreSQL 35 / 48

Page 44: Bad Smells (mal cheiros) em Bancos de Dados

Phantom foreign-key timbira

Sugestão(ões) Database Refactoring:• Introduce new table• Introduce table constraint• Move Column

Timbira - A empresa brasileira de PostgreSQL 36 / 48

Page 45: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Wrong data typeTipos de dados possuem uma assinatura, que descreve asvalidações mínimas para seu uso.

Timbira - A empresa brasileira de PostgreSQL 37 / 48

Page 46: Bad Smells (mal cheiros) em Bancos de Dados

Wrong data type timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,cnpj CHAR(14),cpf CHAR(11),rg CHAR(10)

);

CREATE TABLE atributo_dinamico (nome VARCHAR(100),tipo INTEGER,valor TEXT

);

• CNPJ, CPF e RG não são números?• VALOR é um campo ”flex”, WTF?

Timbira - A empresa brasileira de PostgreSQL 38 / 48

Page 47: Bad Smells (mal cheiros) em Bancos de Dados

Wrong data type timbira

CREATE TABLE pessoa (id SERIAL PRIMARY KEY,nome VARCHAR(100) NOT NULL,cnpj CHAR(14),cpf CHAR(11),rg CHAR(10)

);

CREATE TABLE atributo_dinamico (nome VARCHAR(100),tipo INTEGER,valor TEXT

);

• CNPJ, CPF e RG não são números?• VALOR é um campo ”flex”, WTF?

Timbira - A empresa brasileira de PostgreSQL 38 / 48

Page 48: Bad Smells (mal cheiros) em Bancos de Dados

Wrong data type timbira

Sugestão(ões) Database Refactoring:• Replace column

Timbira - A empresa brasileira de PostgreSQL 39 / 48

Page 49: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Trigger SpaghettiQuando existe uma trigger em uma tabela A que realiza operações(insert/update/delete) em uma tabela B e esta possui trigger que,dependendo de condições (valores das colunas), faz operações natabela C, onde também existe outra trigger, que tambémdependendo de algumas condições faz operações na tabela A, ondede certa forma garante que nao seja gerado um loop infinito.WTF??

Timbira - A empresa brasileira de PostgreSQL 40 / 48

Page 50: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Trigger SpaghettiSe você tem isso, saiba que existe um lugarzinho especial reservadopra você ”In the Hell” !!!Sério... NÂO FAÇA ISSO!!!.

Timbira - A empresa brasileira de PostgreSQL 41 / 48

Page 51: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Smells detectados pela minha experiência (ainda não estãona literatura):

• Phantom foreign-key• Wrong data type• Trigger Spaghetti

Timbira - A empresa brasileira de PostgreSQL 42 / 48

Page 52: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Fear of changeDentre os database smells citados, devemos ter atenção especial aeste, pois pode ser considerado o pior de todos, pois:

• inibe a inovação,• reduz a efetividade,• produz ainda mais bagunça e• ao longo do tempo a situação fica cada vez pior.

Timbira - A empresa brasileira de PostgreSQL 43 / 48

Page 53: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Fear of changeDentre os database smells citados, devemos ter atenção especial aeste, pois pode ser considerado o pior de todos, pois:

• inibe a inovação,• reduz a efetividade,• produz ainda mais bagunça e• ao longo do tempo a situação fica cada vez pior.

Timbira - A empresa brasileira de PostgreSQL 43 / 48

Page 54: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Fear of changeA solução para esse smell é mais uma questão depostura positiva do time aliada a adoção de boas práticas, taiscomo:

• database refactoring;• database unit and regression tests;• database continuous integration;• schema versioning.

Timbira - A empresa brasileira de PostgreSQL 44 / 48

Page 55: Bad Smells (mal cheiros) em Bancos de Dados

Database Smell timbira

Fear of changeA solução para esse smell é mais uma questão depostura positiva do time aliada a adoção de boas práticas, taiscomo:

• database refactoring;• database unit and regression tests;• database continuous integration;• schema versioning.

Timbira - A empresa brasileira de PostgreSQL 44 / 48

Page 56: Bad Smells (mal cheiros) em Bancos de Dados

Resumo timbira

..1 Introdução

..2 Bad Smells

..3 Considerações Finais

Timbira - A empresa brasileira de PostgreSQL 45 / 48

Page 57: Bad Smells (mal cheiros) em Bancos de Dados

Considerações Finais timbira

Área com campo vasto a ser explorado• Taxonomia dos Database Smells• Database Smells primitivos e compostos

Explorar outras formas de detecção• métricas, visualização, engenharia reversa, dependência cíclica

Ferramentas de apoio

Timbira - A empresa brasileira de PostgreSQL 46 / 48

Page 58: Bad Smells (mal cheiros) em Bancos de Dados

Dúvidas timbira

?

Fabrízio de Royes Mello@fabriziomello

[email protected]@gmail.com

http://www.timbira.com.brhttp://slideshare.net/fabriziomello

Timbira - A empresa brasileira de PostgreSQL 47 / 48

Page 59: Bad Smells (mal cheiros) em Bancos de Dados

Referências timbira

• Refactoring Improving the Desing of Existing Code (MartinFowler)

• Refactoring Databases: Evolutionary Database Design (ScottAmbler e Pramod Sadalage)

• http://martinfowler.com/books/refactoring.html• http:

//agiledata.org/essays/databaseRefactoring.html• http://www.agiledata.org/essays/

databaseRefactoringSmells.html

Timbira - A empresa brasileira de PostgreSQL 48 / 48