Otimização de Consultas em SQL Parte II - Planos Alternativos -  Estimativa

de Custos dos Planos de Execução

AULA 19

Profa. Sandra de Amo

Programa de Pós-Graduação em CC - UFU

Sistemas de Banco de Dados - 2012-2

Catálogo do SistemaInformações armazenadas no catálogo, necessárias no processo de otimização: Informações gerais:

Tamanho do buffer pool (espaço livre) Tamanho de uma página em disco

Informações sobre as tabelas Informações sobre índices Informações sobre visões Estatísticas sobre tabelas e indices: atualizadas periodicamente Informações sobre usuários: contas, autorizações de acesso (escrita,

leitura), etc. Alguns SGBDs mais sofisticados:

Histogramas sobre a distribuição dos valores de cada atributo. A partir destas informações é possivel ter informação mais acurada sobre o

tamanho dos resultados de uma operação, sobre a seletividade de um método de acesso, etc.

Informações sobre tabelas, índices e visões Tabelas

Nome da tabela, nome ou identificador do arquivo, estrutura de arquivo (heap, ordenado, hash)

Nome e tipo de cada atributo Nome dos índices existentes para cada tabela As restrições de integridade (chaves primárias, chaves candidatas,

chaves estrangeiras, etc) para cada tabela Indices

O nome do índice e sua estrutura (hash, b+tree) A chave do índice

Visões Nome da visão e sua definição (o código da consulta SQL que a

define)

Estatísticas sobre tabelas e indices: NTuples (R) = Número de tuplas da tabela R NPages(R) = Número de páginas da tabela R NKeys(I) = número de chaves distintas do Indice I INPages(I) = número de páginas do indice I

(no caso de B+tree = número de folhas) IHeight(I) = Altura do Indice (no caso de B+tree) ILow(I) = menor valor de chave do indice I IHigh(I) = maior valor de chave do indice I

Como o catálogo é armazenado : Coleção de Tabelas

Exemplo Sailors(sid:integer, sname:string, rating:integer, age:real) Reservas(sid:integer, bid:integer, day:dates, rname:string)

Tabela do catálogo: Attribute_Cat(atname:string, relname:string, type:string,

position:integer) Catálogo pode ser consultado usando SQL ! Escolha das tabelas do catálogo e seus esquemas

depende do implementador do SGBD.

Uma tabela do catálogoatname relname type position

atname Attribute_Cat string 1

relname Attribute_Cat string 2

type Attribute_Cat string 3

position Attribute_Cat integer 4

sid Sailors integer 1

sname Sailors string 2

rating Sailors integer 3

age Sailors real 4

sid Reservas integer 1

bid Reservas integer 2

day Reservas dates 3

rname Reservas string 4

Plano de Execução

SELECT S.sname

FROM Reservas R, Sailors S

WHERE R.sid = S.sid

AND R.bid = 100

AND S.rating > 5

σ

Reservas Sailors

Πsname

bid=100 and rating > 5

sid=sid

Complementando o plano: como será implementado ?

σ

Reservas Sailors

Πsname

bid=100 and rating > 5

sid=sid

(scan) (scan)

Simple Nested Loops página a página

On-the-fly

On-the-fly

Tabela externa Tabela interna

Pipeline versus Tabelas Materializadas Pipeline : resultado de uma operação é

transferido para a próxima operação sem a criação de uma tabela em disco.

Economia de custos de armazenamento e de leitura posterior

Sempre que o algoritmo do operador para o qual é transferido o resultado permitir, a técnica de pipeline é utilizada.

Exercício Diga se é possível utilizar a estratégia de

pipeline para implementar um duplo join utilizando o algoritmo NLJ/p-p para os dois Joins

A B C Em caso afirmativo, explique como funciona

o algoritmo.

Estimativa de Custos de um Plano de Execução

Para cada nó da árvore N da árvore, seja Op(N) a operação associada a N.

Tarefas do Estimador de Custos Estimar do custo de Op(N) Estimar o tamanho do resultado de Op(N)

Estimativa do Tamanho do ResultadoSELECT <lista de atributos> FROM < lista de relações R1,...,Rk > WHERE <cond1 ^ cond2 ^....^condn>

Número máximo de tuplas no resultado = M1.M2....Mk, onde Mi = tamanho de Ri Cláusula WHERE atua como um redutor desta

estimativa Cada condição do WHERE tem o seu fator de

redução próprio

Fatores de Redução R.A = valor

Fator de redução = 1/NKeys(I), caso exista um indice I com chave A para a relação R

Fator de redução = 1/10, caso contrário (ou utiliza-se estatísticas mantidas no catálogo sobre a distribuição dos valores dos atributos)

R.A = R.B Fator de redução = 1/Max(NKeys(IA),NKeys(IB)) se

existe indices IA e IB com chave A e B respectivamente. Fator de redução = 1/NKeys(I) se somente um dos

atributos é chave de um indice I Fator de redução = 1/10 caso contrário.

Fatores de Redução R.A > valor

Fator de redução = (High(I) – valor) / High(I) – Low(I) caso exista um indice I com chave A para a relação R

Fator de redução = fração < ½ caso não exista indice ou se o valor não é aritmético

R.A IN (Lista de valores) Fator de redução =

N*(fator de redução de R.A = valor), onde N = núm. de itens

Fator de redução = fração < ½ caso não exista índice ou se o valor não é aritmético.

Fatores de Redução R.A IN (Subconsulta)

Fator de redução: M/N onde M = tamanho do resultado da Subconsulta N = número de valores do atributo R.A

NOT (Cond) Fator de redução: (1 – Fator de Redução(Cond))

Fator de Redução da Projeção = fração equivalente ao tamanho dos atributos que não são projetados.

Histogramas Estimativas do fator de redução: supõem que

os valores dos atributos são distribuídos uniformemente.

Histogramas: Técnica mais sofisticada e acurada para estimar o

fator de redução Necessita que estatísticas sobre a variação dos

valores dos atributos sejam armazenadas no catálogo e atualizadas periodicamente.

Histograma

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

2

3 3

12 22

3

1 10

8

4 4

9

3

3 3 33 3 3 3 33 3 3 3 3 3 3

Histograma 45 tuplas, 15 valores

Distribuição uniforme: 3 tuplas para cada valor Distribuição não-uniforme: número de tuplas para

cada valor pode variar bastante Histograma: estrutura mantida pelo SGBD

em seu catálogo que dá uma estimativa do número de tuplas por faixa de valor

Histograma por largura

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

2.671.33

5

1

5 5 5

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

2

3 3

12 22

3

1 10

8

4 4

9

3

Histograma por largura

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

2.671.33

5

1

5 5 5

Distribuição uniforme: 3 tuplas Distribuição histograma: 5 tuplas

Qual a estimativa da quantidade de tuplas com AGE > 13 ?

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

3 3 33 3 3 3 33 3 3 3 3 3 3

Histograma por profundidade

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14

1.80

6

9

2.67

8 tuplas 7 tuplas

1.75

12 tuplas 9 tuplas 9 tuplas

Distribuição histograma = 9 tuplas

6

Qual a estimativa da quantidade de tuplas com AGE > 13 ?

Histogramas comprimidos Histogramas por profundidade produzem melhores

estimativas do que histogramas por largura Histogramas comprimidos

Mantém contadores para valores mais frequentes (por exemplo idade = 7 e idade = 14)

Para os outros valores, mantém um histograma por profundidade (de preferência) ou por largura.

Muitos SGBDs utilizam histograma por profundidade, alguns utilizam mesmo histogramas comprimidos.

Planos de execução para múltiplos “Join”

A B C D

A B

C

D

A B

C

D

BA C D

PLANOS LINEARES

PLANO BUSHY

PLANO POR PROFUNDIDADE À ESQUERDA

Planos por profundidade à esquerda São os únicos a serem considerados:

Quanto maior o número de joins maior o número de planos alternativos. Por isto opta-se por considerar somente os left-deep.

Planos left-deep permitem utilizar estratégia pipeline à esquerda com a relação externa. A relação interna é sempre uma relação de base (materializada).

Repare que não é possível utilizar pipeline à direita de um join. É sempre necessário que a relação interna esteja disponível em sua integralidade, pois é varrida diversas vezes.

No caso de planos left-deep, este problema não acontece, pois o filho à direita de um Join é sempre uma relação de base (materializada).

Planos para Consultas AninhadasSELECT S.snameFROM Sailors SWHERE S.rating = (SELECT MAX (S2.rating) FROM Sailors S2)

Subconsulta interna: SELECT MAX (S2.rating) FROM Sailors S2

Executada uma única vez, produzindo um número X

SELECT S.snameFROM Sailors SWHERE S.rating = X

SELECT S.snameFROM Sailors SWHERE S.sid IN (SELECT R.sid FROM Reserves R WHERE R.bid = 103) Estratégia de execução comum

Subconsulta interna é avaliada e materializada (T)Faz-se um Join Sailors = relação externa

T = relação interna (subconsulta sempre é relação interna) Alguns SGBDs têm estratégias mais sofisticadas:

Pode tranformar T em relação externa do Join e Sailors na interna, caso for mais vantajoso, por exemplo, se Sailors possui indice Hash no atributo sid

Planos para Consultas Aninhadas

Tratamento de Consultas Aninhadas CorrelatasSELECT S.sname

FROM Sailors S

WHERE EXISTS (SELECT *

FROM Reserves R

WHERE R.bid = 103 AND S.sid = R.sid) Consulta externa e interna são correlatas: atributo sid da

externa aparece na consulta interna. Não é possível avaliar a consulta interna uma única vez. Estratégia típica de execução: consulta interna é calculada

para cada tupla de S

Aninhadas versus não-aninhadas Uma consulta aninhada frequentemente é equivalente a uma

não aninhada. Consultas aninhadas correlatas frequentemente têm uma

versão sem correlação. Um otimizador tipico é capaz de encontrar um bom plano de

execução se dispõe de uma versão não-aninhada ou sem correlações.

Boa parte dos otimizadores não são capazes de transformar consultas aninhadas em não aninhadas ou de eliminar correlações.

Assim, fica a cargo do usuário formular a consulta de modo a evitar aninhamentos e/ou correlações.

EXERCÍCIOS

Cálculo de Custos de

Planos de Execução

Cálculo de Custos de Planos de Execução

Exercício1 : Calcule o custo deste plano

R : 1000 páginas

S : 500 páginas

R: 100 tuplas por páginaS: 80 tuplas por página

σ

Reservas Sailors

Πsname

bid=100 and rating > 5

sid=sid

(scan) (scan)

Simple Nested Loops página a página

On-the-fly

On-the-fly

Tabela externa Tabela interna

“Empurrando” seleções para baixo na árvore de execução

Exercicio 2: Calcule o custo deste planoNúmero de valores para bid = 100

Rating varia de 1 a 10Uniformemente distribuidos

Numero de páginas no buffer = 5

σ

Reservas Sailors

Πsname

bid=100

sid=sid

(scan) (scan)

Sorte-Merge Join

On-the-fly

Tabela externa Tabela interna

rating > 5σ Scan, write to Temp2Scan, write to Temp1

“Empurrando” seleções para baixo na árvore de execução

Exercicio 3 : Calcule o custo deste planoNúmero de valores para bid = 100

Rating varia de 1 a 10Uniformemente distribuidos

Numero de páginas no buffer = 5

σ

Reservas Sailors

Πsname

bid=100

sid=sid

(scan) (scan)

Block Nested Looping Join

On-the-fly

Tabela externa Tabela interna

rating > 5σ Scan, write to Temp2Scan, write to Temp1

“Empurrando” projeções para baixo na árvore de execução

Exercicio 4 : Calcule o custo deste planoNúmero de valores para bid = 100

Rating varia de 1 a 10Uniformemente distribuídosNúmero de páginas no buffer = 5

σ

Reservas Sailors

Πsname

bid=100

sid=sid

(scan) (scan)

Block Nested Looping Join

On-the-fly

Tabela externa Tabela interna

rating > 5σ

Scan, write to Temp2Scan, write to Temp1

Π sidΠ sid,sname On-the-fly On-the-fly

Nem sempre “empurrar seleções abaixo do join é vantajoso”

σ

ReservasSailors (tem índice hash em sid, não necessariamente agrupado)

Πsname

rating > 5

sid=sid

(tem índice hash em bid, agrupado e estático)

Index Nested Loops com pipeline

On-the-fly

On-the-fly

Tabela externa Tabela interna

σbid=100

Exercício 5 : Calcule o custo deste planoNúmero de valores para bid = 100

Rating varia de 1 a 10Uniformemente distribuídosNúmero de páginas no buffer = 5

On-the-fly

Nem sempre execuções em pipeline são mais vantajosas que as materializadas

σ

ReservasSailors (tem índice hash em sid)

Πsname

rating > 5

sid=sid

(tem índice hash em bid, agrupado e estático)

Index Nested Loops

On-the-fly

On-the-fly

Tabela externa Tabela interna

σbid=100

Exercício 6 : Calcule o custo deste plano•Número de valores para bid = 100•Rating varia de 1 a 10 uniformemente distribuídos• Número de páginas no buffer = 5• Todos os marinheiros fizeram reservas de barcos.• Reservas distribuidas uniformemente entre os marinheiros.• Todos os barcos foram reservados um mesmo número de vezes

Scan, write to Tempordena por sid

Seleção por atributo chave “empurrada” abaixo do Join é muito vantajosa.

σ

Reservas

Sailors (tem índice hash em sid)

Πsname

rating > 5

sid=sid

(tem índice hash em bid, agrupado e estático)

Index Nested Loops com pipeline

On-the-fly

On-the-fly

Tabela externa

Tabela internaσ

bid=100

Exercício 7 : Calcule o custo deste plano•Número de valores para bid = 100•Rating varia de 1 a 10 uniformemente distribuídos• Número de páginas no buffer = 5• Todos os marinheiros fizeram reservas de barcos.• Reservas distribuidas uniformemente entre os marinheiros.• (bid,day) é chave de Reservas

σday = 09/09/82

On-the-fly

On-the-fly

Compare com o custo do planodo exercicio 1.