Estat ambiental 2008

6ª Edição Revisada e Ampliada

O Autor: William Costa Rodrigues é Agrônomo, Doutor em Fitotecnia e Pós-Doutor em Entomologia, pela Univ. Federal Rural do Rio de Janeiro. Prof. da Universidade Severino Sombra e no Instituto Superior de Tecnologia de Paracambi/ FAETEC-RJ, ministra aulas de Ecologia1, Toxicologia1, Climatologia1, Estudos de Impacto Ambiental1, Estatís-tica Aplicada2 e Auditoria Certificação Ambiental2, Metodologia da Pesquisa Científica2 na graduação e de Estatística Ambiental1 e Bion-dicadores Ambientais1 na especialização de Planejamento e Gestão Ambiental1, onde também é Supervisor Pedagógico. Atua como de-senvolvedor de softwares agrícolas e Científicos. Coordenador Geral do projeto Entomologistas do Brasil (www.ebras.bio.br). Coordena-dor e autor de capítulos no livro Citricultura Fluminense: Principais pragas e seus inimigos naturais. Trabalha ativamente com análise es-tatística em projetos na área agrícola e ambiental. O autor poderá ser contatado através do e-mail: [email protected].

Esta Obra: A apostila Estatística Ambiental foi inicialmente utilizada no progra-ma de Pós-Graduação Lato Sensu, Planejamento e Gestão Ambiental e no Curso de graduação em Gestão Ambiental, na disciplina Estatística Aplicada, tendo como objetivo informar o discente sobre os princípios básicos da estatística, relacionando-a com a metodologia científica, possibilitando um entendimento básico sobre o assunto. Hoje a aposti-la é também utilizada em cursos de graduação. Capa: Fotos do Autor na Ilha da Marambaia. Foto superior Casulo de Plecoptera e foto infe-rior, córrego onde ao casulo foi coletado.

Esta obra é distribuída através da Creative Commons Licence.

http://creativecommons.org/licenses/by-nc-sa/2.5/br�

Copyright©2004Copyright©2004Copyright©2004Copyright©2004----2002002002008888, W.C. Rodr, W.C. Rodr, W.C. Rodr, W.C. Rodriiiiguesguesguesgues

1 Disciplina Ministrada na Universidade Severino Sombra 2 Disciplina Ministrada no Instituto Superior de Tecnologia em Paracambi, RJ- Curso de Gestão Ambiental

Sumário 1 Introdução................................................................................................................. 1

1.1 Crescimento e Desenvolvimento da Estatística Moderna ................................ 1 1.2 Variação ao Acaso............................................................................................ 1

2 Ensaio x Experimentação ......................................................................................... 2 3 Conceitos Estatísticos............................................................................................... 2

3.1 Estatística Descritiva ........................................................................................ 2 3.2 Inferência Estatística......................................................................................... 2 3.3 Tipos de Dados ................................................................................................. 3

3.3.1 Variáveis Aleatórias Categorizadas.......................................................... 3 3.3.2 Variáveis Aleatórias Numéricas ............................................................... 3

4 Por que Utilizar a Estatística .................................................................................... 4 5 Planejamento Experimental...................................................................................... 4

5.1 Fases do Planejamento ..................................................................................... 4 5.1.1 Problema................................................................................................... 5 5.1.2 Informações Existentes............................................................................. 5 5.1.3 Noções Gerais Sobre Hipótese ................................................................. 5 5.1.4 Formulação das Hipóteses........................................................................6

5.1.4.1 Elaborando as hipóteses........................................................................ 6 5.1.4.2 Hipótese Estatística x Hipótese Científica ........................................... 6

5.1.5 Testando as Hipóteses .............................................................................. 6 5.1.6 Riscos na Tomada de Decisão Através Teste de Hipóteses ..................... 6 5.1.7 Aleatorização............................................................................................ 7

5.2 Erros de Observações ....................................................................................... 7 5.2.1 Erros do Observador................................................................................. 7 5.2.2 Erro do Método de Observação................................................................ 8 5.2.3 Por Falta de Resposta ............................................................................... 8

5.3 Controle dos Erros nas Observações ................................................................8 5.4 Métodos de Coleta de Dados............................................................................ 8

5.4.1 Fontes Primárias ....................................................................................... 8 5.4.2 Fontes Secundárias ................................................................................... 8

5.5 Pesquisa Observacional .................................................................................... 9 5.6 Pesquisa Experimental...................................................................................... 9

5.6.1 Princípios da Experimentação ................................................................ 10 5.7 Tipos de Amostras.......................................................................................... 10

5.7.1 Amostras Simples ao Acaso ................................................................... 10 5.7.2 Amostra Estratificada ............................................................................. 11 5.7.3 Amostra Sistemática............................................................................... 11 5.7.4 Amostra por Área ................................................................................... 11 5.7.5 Amostra por Conglomeradas.................................................................. 11 5.7.6 Amostra Selecionada .............................................................................. 11

5.8 Determinação do Tamanho da Amostra ......................................................... 12 5.8.1 Tamanho da Amostra para Dados Discretos .......................................... 12 5.8.2 Tamanho da Amostra para Dados Contínuos......................................... 13

6 Técnicas Estatísticas Para Análise de dados .......................................................... 14 6.1 Medidas de Tendência Central ....................................................................... 14

6.1.1 Média Aritmética Simples (X ) .............................................................. 14 6.1.2 Média Aritmética Ponderada.................................................................. 14 6.1.3 Média Aritmética de Dados Agrupados em Intervalos .......................... 15

6.1.4 Mediana (Me) ......................................................................................... 16 6.2 Medidas de Variação ...................................................................................... 17

6.2.1 Desvio-Médio (DM)...............................................................................17 6.2.2 Desvio Padrão......................................................................................... 17

6.3 Variância ou Quadrado Médio .......................................................................18 6.4 Erro-Padrão da Média - s(x) ........................................................................... 19 6.5 Coeficiente de Variação.................................................................................. 19 6.6 Curva de Distribuição Normal........................................................................ 19

6.6.1 Limites de Confiança.............................................................................. 21 6.6.2 Erro Padrão............................................................................................. 22

6.7 Teste de Normalidade dos Dados ................................................................... 22 6.8 Teste de Klomogorov-Smirnov (K-S) ............................................................ 22 6.9 Teste de Shapiro-Wilks (S-W) ....................................................................... 22

7 Testes Paramétricos e Não Paramétricos................................................................ 23 7.1 Teste t - Student.............................................................................................. 23

7.1.1 Dados Pareados (Amostras Dependentes).............................................. 24 7.1.2 Dados Pareados (Amostras Independentes) ........................................... 25 7.1.3 Dados Não-Pareados - Variâncias Desiguais (Heterocedásticas)........... 26 7.1.4 Dados Não-Pareados - Variâncias Iguais (Homocedásticas) ................. 27

7.2 Teste Qui-Quadrado (χ²) ................................................................................ 28 7.3 Tabela de Contingência .................................................................................. 28 7.4 Teste de Kruskal-Wallis ................................................................................. 29 7.5 Teste de Friedman (Análise da Variância) ..................................................... 31

8 Correlação Linear ................................................................................................... 32 8.1 Coeficiente de Correlação (r) ......................................................................... 32

8.1.1 Correlação de Pearson ............................................................................ 32 8.1.2 Correlação de Spearman......................................................................... 32 8.1.3 Aspectos Gerais da Correlação Linear ................................................... 33

8.2 Coeficiente de Determinação (r²) ................................................................... 34 8.3 Coeficiente de Alienação (K) ......................................................................... 34 8.4 Significância do Teste de Correlação ............................................................. 34

8.4.1 Significância Baseada nos Intervalos ..................................................... 34 8.4.2 Significância Baseada no Teste t para r (Pearson) ................................. 35

9 Análise de Regressão.............................................................................................. 35 9.1 Regressão Linear Simples .............................................................................. 36 9.2 Regressão Linear Múltipla.............................................................................. 36 9.3 Regressão Múltipla......................................................................................... 37

10 Transformação de Dados .................................................................................... 37 10.1 Raiz Quadrada ................................................................................................ 38 10.2 Transformação Logarítimica .......................................................................... 38 10.3 Transformação Angular (Arcoseno)............................................................... 38 10.4 Considerações Gerais ..................................................................................... 38

11 Testes Específicos Para Análise de Populações e Comunidades ....................... 38 11.1 Índice de Diversidade e Dominância Populacional........................................ 38

11.1.1 Índice de Margalef (α)............................................................................ 39 11.1.2 Índice de Glason (Dg) ............................................................................. 39 11.1.3 Índice de Menhinick (Dm) ...................................................................... 39 11.1.4 Índice de Shanon-Wiener (H') ................................................................ 39 11.1.5 Índice de Dominância Berger-Parker (d)................................................ 39

11.2 Exemplo.......................................................................................................... 39

11.3 Índice de Similaridade entre Populações........................................................ 40 11.3.1 Quociente de Similaridade......................................................................40 11.3.2 Porcentagem de Similaridade ................................................................. 40 11.3.3 Índice de Afinidade ................................................................................ 41 11.3.4 Constância .............................................................................................. 41 11.3.5 Índice de Associação (IA) ......................................................................41

12 Bibliografia......................................................................................................... 42 13 Anexos................................................................................................................ 43

Índice de Tabelas Tabela 1. Resultados da interpretação de 500 fotos aéreas de diversas áreas com

presença de mata. (dados fictícios)........................................................................... 7 Tabela 2. Dados do peso de 10 crianças antes e depois da administração a base de folhas

de mandioca (dados fictícios). ................................................................................ 24 Tabela 3. Dados de um experimento com a taxa de crescimento de mudas de duas

leguminosas em sistema agro-silvo-pastoril, numa área de re-vegetação (dados fictícios). ................................................................................................................. 25

Tabela 4. Resultados das amostras de cinco diferentes áreas delimitadas pelas características edáficas do solo, em quatro diferentes profundidades. Os dados apresentados referem-se a o poluente αααα-ββββ-16-Imaginol-Poluentis, em mg.mm³ de solo ......................................................................................................................... 31

Tabela 5. Correlação de Spearman entre as notas brutas de matemática e biologia (Zar, 1999)....................................................................................................................... 33

Tabela 6. Classificação do valor r através de intervalos de 0 a 1................................... 34 Tabela 7. Classificação do valor r através de intervalos de acordo com e Teste de Rugg.

................................................................................................................................ 34 Tabela 8. Série de dados da correlação da flutuação populacional do pulgão Toxoptera

aurantii (Homoptera, Aphididae) em função da brotação foliar de tangerina cv Poncã, sob cultivo orgânico na Fazendinha Agroecológica, no período de outubro de 2002 e outubro de 2003 (Extraído de Rodrigues, 2004). Exemplo para o Microsoft Excel. ..................................................................................................... 35

Tabela 9. Índices de diversidade de cochonilhas em agroecossiema cítrico. ................. 40 Tabela 10. Duas comunidades com sua composição de espécies em percentagem ....... 40 Tabela 11. Valores de t -student em níveis de 5% e 1% (αααα=0,05 a 0,01) de

probabilidade. ......................................................................................................... 44 Tabela 12. Valores de χ² (Qui-quadrado) em níveis de 5% e 1% (αααα=0,05 a 0,01) de

probabilidade .......................................................................................................... 45 Tabela 13. Valores críticos para o Coeficiente de Correlação de Spearman (rs)............ 46

Tabela 14. Valores para transformação %arcsen ....................................................... 47 Tabela 15. Valores mínimos de j, significativos a 0,5% (Southwood, 1971). ............... 48

Índice de Figuras Figura 1. Diagrama de uma estatística descritiva, com seus diversos níveis de

categorias. ................................................................................................................. 3 Figura 2. Diagrama de tipos de dados .............................................................................. 4 Figura 3. Interpretação dos dados experimentais. O gráfico à esquerda, baseado em

apenas dois pares de valores anotados para X e Y (que definem os pontos A e B), parece sugerir que Y cresce à medida que X cresce, entretanto no gráfico à direita, em que foram registrados outros valores intermediários (definidos pelos pontos B e C), mostra que a relação entre X e Y obedece a uma lei mais completa................ 10

Figura 4. Curva de distribuição normal simétrica, onde µµµµ é a média e s o desvio padrão................................................................................................................................. 20

Figura 5. Curvas de distribuição normal das freqüências de X, tendo a mesma média (µµµµ) e diferentes graus de dispersão dos valores de X, isto é, desvios padrões (s) diferentes. ............................................................................................................... 20

Figura 6. Curva normal padrão, tendo por parâmetros µµµµ=0 e s= 1. As áreas sob a curva assinaladas entre os traços verticais, indicam as percentagens de valores de X aí contidas................................................................................................................... 21

Figura 7. Os valores de Z (compreendidos entre -Z e +Z) correspondem aos afastamentos de X em relação à média µµµµ, medidos em unidades de desvio-padrão. A probabilidade (P) com que X possa ter valor menor que uma coordenada escolhida (C) é indicada pela área, sob a curva, situada à esquerda de C. ............. 22

Figura 8. Correlação linear simples positiva (A); e inversa ou negativa (B), apresentando a linha de tendência de regressão linear simples de dados fictícios. 33

Figura 9. Janela de configuração da linha de tendência (linha de regressão) e configuração da equação de regressão no Microsoft Excel.................................... 36

Figura 10. Regressão linear simples entre a flutuação populacional de T. aurantii e a brotação foliar de tangerina cv. Poncã, em cultivo orgânico de tangerina cv. Poncã, na Fazendinha Agroecológica, no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues, 2004).............................................................................. 36

Figura 11. Correlação múltipla da amplitude térmica (variável x), brotação (variável y) e a flutuação populacional de Toxoptera citricida (variável z), em cultivo orgânico de tangerina cv. Poncã, na Fazendinha Agroecológica, no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues, 2004)....................................... 37

Figura 12. Regressão múltipla entre a flutuação populacional de T. aurantii e a brotação foliar de tangerina cv. Poncã, em cultivo orgânico de tangerina cv. Poncã, na Fazendinha Agroecológica, no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues, 2004).............................................................................. 37

Figura 13. Fluxograma Para Auxiliar na Escolha de Testes Estatísticos ....................... 43

Apostila de Estatística Aplicada

1

1 Introdução Diariamente estamos envolvidos em análises estatísticas, por exemplo, quando você é abordado na rua para responder qual o candidato irá votar na próxima eleição, quando o IBGE faz uma visita a sua casa para o censo. Desta forma, você está fazendo parte da estatística, mas não é só desta forma que você faz parte do infinito mundo da estatística. Quando você está desempregado ou empregado, está fazendo parte da esta-tística, quando seu salário aumenta, faz parte também. Bom, podemos ver que em quase tudo, eu disse quase tudo, podemos empregar a estatística, obviamente que não pode-mos deixar a estatística dominar nossas vidas, pois o principal objetivo desta ferramenta é auxiliar na tomada de decisão ou de avaliar uma determinada situação e poder melhor indicar o caminho para uma tomada de decisão. A estatística, como parte da matemática aplicada, trata da coleta, da análise e da interpretação de dados observados. Estudando os mais variados fenômenos das diversas áreas do conhecimento, ela representa um valioso instrumento de trabalho nos dias de hoje. Na área ambiental, o estudo da estatística justifica-se pela necessidade de desen-volver pesquisas, realizar experimentos, e mesmo pela utilização dos resultados e pes-quisas feitas, realizar experimentos, e mesmo pela utilização dos resultados e pesquisas feitas por aqueles que a isso se dediquem, seja visando o aprimoramento de métodos e técnicas de investigação, seja por exigências do próprio desenvolvimento do país.

1.1 Crescimento e Desenvolvimento da Estatística Moderna Historicamente, o crescimento e o desenvolvimento da estatística moderna po-dem ser relacionados a três fatores isolados – a necessidade dos governos de coletar dados dos cidadãos, o desenvolvimento da teoria da probabilidade e o advento da in-formática. Foram levantados dados através dos registros históricos. Durante as civilizações egípcias, grega e romana, os dados eram obtidos principalmente com o objetivo de reco-lherem impostos e para o recenseamento militar. Na Idade Média, as instituições religi-osas freqüentemente mantinham registros relativos a nascimentos, morte e casamentos. No Brasil o censo é realizado a cada 10 anos, avaliando o crescimento populacional e a distribuição desta população no território nacional entre outros aspectos avaliados. De fato, a crescente necessidade dos censos ajudou a incentivar o desenvolvimento de e-quipamentos de tabulação no início do século XX. Isso levou ao desenvolvimento de computadores mainframe e finalmente a revolução dos computadores pessoais.

1.2 Variação ao Acaso O que dificulta ao trabalho de pesquisador e exige a análise estatística é a pre-sença, em todos os dados obtidos, de efeitos fatores não controlados (que podem ser controlados). Esses efeitos, sempre presentes, não podem ser conhecidos individualmen-te e alteram pouco ou muito, os resultados obtidos. Eles são indicados pela designação geral de variação do acaso ou variação aleatória. O efeito dessa variação do acaso é tal que pode alterar completamente os resultados experimentais. Assim, ao comparar no campo duas paisagens, poderá haver, se a avaliação for, em dias diferentes, uma interfe-rência da luz solar, que irá interferir na distinção das cores. As variações ao acaso po-dem ser exemplificadas como: temperatura ambiente, aferição do aparelho utilizado para mensurar, variação nos intervalos de amostragem, variação no horário de coleta dos dados, etc.

William Costa Rodrigues

2

2 Ensaio x Experimentação Existem diferenças básicas entre os dois métodos de avaliar um dado científico. As diferenças vão desde a simples forma de avaliar e encarar a coleta dos dados até a forma de apresentação dos dados. Abaixo no Quadro 1 são listadas as diferenças entre os dois métodos.

Quadro 1. Diferenças entre Ensaio e Experimentação.

Ensaio Experimentação Tempo de duração da avaliação é curta, obje-

tivando somente uma pré-avaliação dos resul-tados.

O tempo de avaliação deverá ser o suficiente para que os dados coletado possam garantir uma avaliação, com margem de erro menor possível.

O número de amostras é reduzido. O número de amostra deverá ser suficiente para avaliar os dados com a maior precisão possível

O tamanho do experimento é reduzido. O tamanho do experimento deverá ser sufici-ente para avaliar os dados.

As variações ao acaso são parcialmente con-trolados, não havendo rigor.

As variações ao acaso são controladas com rigor, possibilitando assim menor erro amos-tral e na análise estatística.

A análise e interpretação dos dados não podem possuir muito rigor e deve se adequar ao tipo de ensaio realizado, número de amostras, nú-mero de amostragens realizadas, etc.

A análise e interpretação dos dados deverão ser rigorosas e adequadas ao tipo de experi-mentação realizada.

3 Conceitos Estatísticos

3.1 Estatística Descritiva Pode ser definida como os métodos que envolvem a coleta, a apresentação e a caracterização de um conjunto de dados de modo a descrever apropriadamente as várias características deste conjunto. Embora os métodos estatísticos descritivos sejam importantes para a apresenta-ção e a caracterização dos dados, foi o desenvolvimento de métodos estatísticos de infe-rência, como um produto de teoria da probabilidade, que levou à ampla aplicação da estatística em todos os campos de pesquisas atuais.

3.2 Inferência Estatística Pode ser definida como os métodos que tornam possível a estimativa de uma característica de uma população ou a tomada de uma decisão referente à população com base somente em resultados de amostras (Figura 1). Para tornar mais claro esta definição, as definições seguintes são necessárias: Uma população (ou universo) é a totalidade dos itens ou objetos a ser considerado. Uma amostra é a parte da população selecionada para análise. Um parâmetro é a medida calculada para descrever uma característica de toda uma população. Uma estatística é a medida calculada para descrever uma característica de apenas uma amostra da população.


3

Para melhor elucidar estes conceitos, digamos que há uma necessidade de saber a opinião da qualidade de vida no campus de sua faculdade. A população, ou universo, será todos os alunos da faculdade, enquanto a amostra consistirá os estudantes selecio-nados para participar da pesquisa. O objetivo da pesquisa é descrever várias atitudes ou características de toda a população (os parâmetros). Isto seria alcançado utilizando-se as estatísticas obtidas da amostra de estudantes para estimar atitudes ou características de interesse da população. Desse modo, um aspecto principal da inferência é o processo que utiliza a estatística amostral para tomar decisões sobre os parâmetros da população.

Figura 1. Diagrama de uma estatística descritiva, com seus diversos níveis de categori-as.

A amostra pode ser definida também como o conjunto de observações extraídas de uma fonte (população), segundo determinadas regras e critérios, sendo a po-pulação a fonte de observações.

A população pode ser constituída de elementos simples, como é o caso dos seres humanos ou das plantas superiores ou das bactérias, ou por elementos coletivos, como é o caso das irmandades com mais de um indivíduo, das famílias, ou das pessoas que habitam uma casa.

A necessidade da inferência estatística deriva da necessidade da amostragem. Quando a população se torna grande, é geralmente dispendioso demais, consome muito tempo e é muito cansativo obter informações sobre a população inteira. Decisões perti-nentes às características da população devem ser baseadas na informação contida numa amostra da população.

3.3 Tipos de Dados Existem basicamente dois tipos de dados de características de variáveis aleató-rias que podem ser estudadas e que produzem os resultados ou os dados observados: categorizados ou numéricos (Figura 2).

3.3.1 Variáveis Aleatórias Categorizadas

Este tipo de variável produz respostas categorizadas. Por exemplo, você tem carro? Sim Não.

3.3.2 Variáveis Aleatórias Numéricas

Produz respostas numéricas, podendo ser números discretos ou contínuos. A resposta para pergunta: "Quantos livros você possui?", a resposta é discreta, enquanto a reposta para "Qual a sua altura?", é contínua.

PPooppuullaaççããoo//UUnniivveerrssoo

AAmmoossttrraa

PPaarrââmmeettrroo

EEssttaattííssttiiccaa


4

Dados discretos são respostas numéricas que surgem a partir de processo de con-tagem e dados contínuos são repostas numéricas que surgem a partir de um processo de medição. Na Figura 2, segue exemplos de variáveis tanto para aleatórias categorizadas, quanto para aleatórias numéricas (discretas e contínuas).

Figura 2. Diagrama de tipos de dados

4 Por que Utilizar a Estatística A Estatística é uma área da matemática muito utilizada hoje em dia, entretanto o uso inadequado e fanático desta ferramenta torna muito difícil a compreensão dos resultados e levam-na ao descrédito. A Estatística nada mais é que uma ferramenta que poderá auxiliará na interpre-tação dos resultados e poderá confirmar a hipótese a ser testada ou simplesmente recu-sá-la. Desta forma devemos ter muito cuidado ao utilizar à estatística, como a ferra-menta que irá dizer se, por exemplo, "uma área será condenada por poluição de metais pesado no solo". O que pode ocorrer é que a estatística irá indicar uma diferença numé-rica, caberá ao profissional avaliar os parâmetros não previsíveis no modelo matemático e tomar a decisão. 5 Planejamento Experimental

5.1 Fases do Planejamento Quando realizamos um estudo, primeiro consideramos sua importância. Em se-guida, traçamos os objetivos que pretendemos alcançar e a finalidade de sua realização. Se houver alguma informação que possa auxiliar como ponto de partida, esta poderá fornecer alguns indicadores ou ensinar novas técnicas que servirão para complementar nossa experiência. Estas informações deverão ser avaliadas e criticadas, pois os dados poderão apresentar falhas ou nada representaram para o estudo do problema ou para a elaboração das hipóteses a serem formuladas. Em suma, diremos que os dados selecio-nados devem ser os estritamente necessários.

Tipos de Dados

Categorizadas Numéricas

Você possui carro?

� Sim � Não

Discretas Contínuas

Qual sua altura? Quantas revistas você assina?

5 1,75m


5

5.1.1 Problema

Ao planejar o problema que se vai pesquisar, deverá ser dada especial atenção aos seguintes pontos:

Definição da importância do problema que se estuda; Determinação do(s) objetivo(s) e finalidade da investigação.

Definir a importância do problema que se estuda é explicar o que vamos estudar. Será impossível o planejamento das etapas subseqüentes se não ficar claramente evi-denciado o problema a investigar. Não basta, por exemplo, dizer que se vai estudar a biodiversidade da floresta atlântica, o efeito da poluição do rio Paraíba do Sul, pois pro-vavelmente nenhum pesquisador terá possibilidade e capacidade de abordar todos os aspectos da biodiversidade ou da poluição. É importante também especificar sua exten-são.

5.1.2 Informações Existentes

Antes de empreender o experimento, o pesquisador deve revisar tudo o que diz respeito ao fato em estudo, com a finalidade de saber o que já se conhece sobre o assun-to. Decerto serão encontrados vários subsídios que fornecerão valiosa colaboração para o estudo. A revisão bibliográfica sobre o assunto deverá sofrer cuidadosa seleção para que os resultados mais afins possam ser aproveitados no conforto e discussão posteriores à da pesquisa.

5.1.3 Noções Gerais Sobre Hipótese

A hipótese, resultado de um raciocínio indutivo (consciente ou subconsciente), requer demonstração ou prova de sua adequação. Sabemos que a veracidade de uma hipótese nunca pode ser demonstrada ou provada definitivamente. O que se faz é verifi-car se ela não seria falsa; o que nos levaria a rejeitá-la e a formular outra, se necessário. Enquanto não se possa demonstrar que ela é incorreta, mantém-se a hipótese como boa. Dela deduzimos as conseqüências ou fazemos previsões. Por sua vez, essas conseqüências e previsões serão testadas, para ver se a hipóte-se adotada ainda se mantém ou não. O planejamento de pesquisa consiste, portanto, na elaboração de um plano de observação, ou de experimentação, destinado a contestar determinada hipótese, por mais justa e sólida que possa parecer. A estratégia para isso depende da natureza do problema em causa. Muitas vezes, o que se tem em vista é verificar uma relação de causa e efeito: queremos saber se a variável X e a variável Y, peculiares a determinado fenômeno, guar-dam entre si relações de causa e efeito (direta ou indiretamente). Na prática, teremos de montar uma observação ou uma experiência em que se possa verificar o aparecimento de Y quando ocorre X, ou alterações dos valores de Y quando varia X, de tal forma que se possa demonstrar a existência de uma relação cons-tante entre os valores de X e Y. A variável X, que precede a outra, é chamada variável independente, enquanto Y, que se supõe depender de X, é a variável dependente. Do ponto de vista operacional, podemos encontrar duas situações. Uma própria de fenômenos sobre os quais não podemos influir nem exercer qualquer controle, limi-tando-se o estudo científico à observação de como X e Y se apresentam espontaneamen-te, então, como observar e medir seus valores e como analisar as relações qualitativas e quantitativas que possam existir entre eles (ver item Pesquisa Observacional, p. 9). A outra seria a interdependência das duas variáveis.


6

5.1.4 Formulação das Hipóteses

A estatística, testa duas hipóteses, que geralmente são denominadas de H0 ou Hipótese nula e H1 ou Hipótese alternativa. As hipóteses estatísticas não necessariamente deverão ser idênticas à hipótese científica.

5.1.4.1 Elaborando as hipóteses

O pressuposto a hipótese estatística é sempre testar a nulidade dos dados. Por exemplo, em um experimente está sendo testada a capacidade de duas substâncias pos-suírem o mesmo poder de reação química, nas proporções utilizadas. A H0 deverá ser a seguinte: As substâncias possuem a mesma capacidade de reação. Já a H1, será As substâncias não possuem a mesma capacidade de reação. A hipótese nula admite que os resultados sejam iguais ou com diferenças aleató-rias entre os tratamentos.

n3210 X ...XXX :H ===

Já a hipótese alternativa, testa a falta de nulidade ou falta de diferenças aleató-rias entre os tratamentos.

n321a X ...XXX :H ≠≠≠

5.1.4.2 Hipótese Estatística x Hipótese Científica

A hipótese estatística testa somente os dados numéricos obtidos através de um modelo matemático fixo e contendo restrições, que não o permite avaliar variáveis complexas e multáveis (clima, efeito antrôpico, etc.). A hipótese científica poderá ser a mesma hipótese estatística ou basear-se nela, porém a resposta para entendimento dos resultados, não será somente baseada em um modelo matemático. Desta forma, valerá além da experiência do pesquisador, uma boa revisão bibliográfica e uma interpretação imparcial dos dados, somada com uma facili-dade de concluir de acordo não somente pelos números, mas pela descrição do fato, seja ela: biológica, social, etc.

5.1.5 Testando as Hipóteses

Existem várias formas de testar as hipóteses elaboradas. Normalmente testa-se através de modelos matemáticos, que são denominados testes estatísticos, que se divi-dem basicamente em Teste Paramétricos e Não Paramétricos, que serão visto no item Técnicas Estatísticas Para Análise de dados, p. 14.

5.1.6 Riscos na Tomada de Decisão Através Teste de Hipóteses

Quando se utiliza uma estatística para tomar decisão sobre um parâmetro da po-pulação, existe um risco de se chegar a uma conclusão incorreta. Na verdade, dois tipos de erro podem ocorrer quando aplicamos a metodologia do teste de hipóteses:

Um erro do tipo I ocorre se a hipótese nula H0 for rejeitada quando de fato é verdadeira e não deveria ser rejeitada.

Um erro do tipo II ocorre se a hipótese nula H0 for rejeitada quando de fato é falsa e não deveria ser rejeitada.


7

5.1.7 Aleatorização

Na oportunidade em que organizamos os ensaios devemos proporcionar condi-ções idênticas para cada tratamento, possibilitando que se houver algum erro este seja atribuído ao acaso, ou seja, não tendencioso. Com este processo o erro experimental poderá ser mensurado através do modelo matemático utilizado para analisar os dados.

5.2 Erros de Observações Quanto aos componentes de uma população, o pesquisador terá a oportunidade de verificar a existência de diferenças entre os mesmos. Através da observação ou coleta de dados, haverá sempre uma discrepância en-tre as amostragens realizadas, seja por falha no aparelho utilizado ou pela desatenção do observador. São os erros experimentais oriundos de fatores que não podem ser controla-dos.

5.2.1 Erros do Observador

O grau de treinamento dos observadores, o excesso de trabalho, seu estado físico e condições ambientais podem ser as principais causas de erros das observações. Como exemplo, poderíamos citar a experiência de que participaram cinco técnicos especiali-zados em análise de foto aérea (foto interpretação), que examinaram em épocas separa-das por um período de dois meses, as mesmas 500 fotos, com a finalidade de verificar a degradação ambiental acentuada das áreas fotografadas. As fotos foram interpretadas separadamente por cada técnico conforme a Tabela 1. Erros cometidos pelo observador deverão ser considerados no modelo matemáti-co escolhido para análise dos dados. Entretanto se estes erros forem muito distantes, ou seja, forem muito discrepantes, o modelo matemático poderá não prevê erro tão grande. Assim o treinamento dos observadores deverá ser de forma a permitir um menor erro experimental possível.

Tabela 1. Resultados da interpretação de 500 fotos aéreas de diversas áreas com pre-sença de mata. (dados fictícios)

Fotos onde a degradação foi considerada positiva (nº) Observador 1ª leitura 2ª leitura

A 118 139 B 69 78 C 83 88 D 96 89 E 106 92

Observa-se pela tabela acima que em nenhuma das duas ocasiões os diferentes observadores coincidiram quanto ao número de fotos consideradas positivas para o refe-rido diagnóstico. O mesmo foi verificado em relação a cada um dos observadores que apresentaram resultados diferentes entre as duas leituras. Devemos concluir que, tais discordâncias não refletem uma variação real, e sim cometida por quem procedeu à leitura do material fotográfico.


8

5.2.2 Erro do Método de Observação

Os métodos de observação possuem erros mais ou menos importantes. Por isso há uma preocupação natural de todo pesquisador em aperfeiçoá-los ou substituí-los por outros métodos mais eficientes a fim de aumentar a exatidão dos resultados. Cada método em particular pode ter uma série de fatores que conduzem à distor-ção dos resultados.

5.2.3 Por Falta de Resposta

Este tipo de erro poderá ou não ocorrer no experimento. Ele ocorrerá se não houver a possibilidade de obter, dentro da metodologia, o dado que irá compor o con-junto de informações a serem analisadas. Por exemplo, na coleta de informações a res-peito da poluição de um determinado córrego, houve uma seca muito intensa secando a água no ponto de coleta pré-determinado, desta forma, houve um erro por falta de res-posta, assim não poderá o observador coletar em outro ponto, já que a metodologia pre-viu que aquele era o ponto a ser amostrado. Em experimento, que constituem blocos e parcelas, o erro por falta de resposta ocorrerá através da perda de uma parcela. Os modelos matemáticos que prevêem erros por falta de resposta são apropria-dos, pois irão permitir uma flexibilidade de estimar o dado faltoso.

5.3 Controle dos Erros nas Observações Apesar da distinção que procuramos dar ás diferentes fontes de erros. Devemos lembrar que eles são bastante independentes. Qualquer que seja a causa dos erros anteriormente abordados, estes poderão ser reduzidos ou eliminados de acordo com as coisas que os determinam. Os erros dependentes dos observadores podem ser minimizados por uma prepa-ração e por um treinamento mais eficientes, assim como por uma melhoria das condi-ções físicas e de trabalho. Os erros causados pelos métodos de observação podem ser reduzidos selecio-nando-se o funcionamento dos aparelhos utilizados.

5.4 Métodos de Coleta de Dados Embora a maioria das experimentações as informações devam ser retiradas dire-tamente no "campo", em muitas ocasiões podem-se aproveitar dados previamente obti-dos por outras pessoas. No primeiro caso, consideramos que a informação foi recolhida de fonte primária e no segundo caso dizemos que a fonte é secundária.

5.4.1 Fontes Primárias

Quando não há informações dos dados que queremos estudar, devemos ir a a-campo para obtê-lo, assim a metodologia deverá prever a coleta de dados na fonte pri-mária. Um exemplo deste tipo de fonte é a coleta de água para a análise de poluição de um determinado córrego. A coleta esta sendo realizada no campo, não sendo utilizados dados previamente coletados por outro pesquisador.

5.4.2 Fontes Secundárias

Quando as informações que nos interessa já foram coletadas por outro pesquisa-dor, podemos utilizá-las. Este tipo de fonte é chamado secundário, pelo simples fato, da coleta dos dados ter sido realizada por outra pessoa. É óbvio que a qualidade deverá ser


9

levada em consideração, além do que, devemos verificar a metodologia utilizada, para saber se esta poderá responder ao questionamento que a pesquisa propõe-se a responder.

5.5 Pesquisa Observacional Em certos campos da biologia e das ciências sociais, por exemplo, os métodos experimentais podem ser difíceis ou mesmo impossíveis de aplicar. Então a observação científica adquire grande importância e deve ser feita com o máximo de cuidado. Teorias tão fundamentais como a da evolução forma estabelecidas com base exclusiva na observação da natureza. A viagem de Darwin ao redor do mundo permitiu-lhe coligir tal quantidade de informações que pôde consubstanciar a hipótese formulada por Lamarck, Saint Hilaire e outros naturalistas sobre a evolução dos seres vivos. Dar-win buscou correlacionar as características próprias das espécies com as condições do meio em que vivia cada uma delas. Suas observações sobre as relações entre organismos e o meio contribuíram decisivamente para a criação da ecologia. A observação deve ser inteligente e sagaz, de modo permitir clara distinção entre os fatos que são relevantes, para o estudo em causa, e os inúmeros outros que se apre-sentam concomitantemente. Por isso deve ser atenta, precisa e metódica. Deve ser per-sistente, completa, porém analítica. Exige que o pesquisador seja curioso, paciente, objetivo e imparcial; capaz de com os olhos isentos de preconceitos e a cabeça livre das fórmulas tradicionais, de idéi-as fixas ou baseadas em dogmas ou em autoridades que não demonstraram cabalmente, na praticam a validade de suas bases. Sempre que possível, portanto, as observações devem ser corretamente registra-das, repetidas e quantificadas, partindo-se de medidas rigorosas que permitam a análise estatística dos dados.

5.6 Pesquisa Experimental A experimentação ou experimento ou simplesmente experimento é um método científico e de observação dos fatos ou fenômenos naturais, sob condições particulares estabelecidas pelo pesquisador. Em sua essência, a experimentação deve permitir comparar o efeito de suas ou mais condições ou tratamentos, bem definidos, sobre um atributo do organismo ou ma-terial que é objeto da pesquisa. As condições, que o pesquisador seleciona ou manipula na experiência, são ge-ralmente denominadas variáveis independentes, enquanto que as mudanças observadas em conseqüência, no atributo, são as variáveis independentes. Assim, em estudos de dietas ou os alimentos administrados seriam as variáveis independentes, e o crescimento em peso ou altura, corresponderiam às variáveis dependentes. Em experiências mais simples, os valores de uma variável independente (eixo das abscissas - X), são confrontados com os dados da variável dependente (eixo das ordenadas - Y). Por vezes, apenas duas condições da variável são testadas (por exemplo: duas temperaturas, duas concentrações de uma substância, a presença ou a ausência de luz, a administração ou não de um medicamento, etc.). Mas, como a resposta do orga-nismo ou do fenômeno pode não ser diretamente proporcional à intensidade do fator ensaiado, torna-se em geral necessário experimentar três ou mais valores de variável independente, para que se possa apreciar seu efeito e estabelecer a lei do fenômeno. (Figura 3).


10

B

A

5

10

15

20

25

30

A B

X

Y

A

C

D

B

5

10

15

20

25

30

35

A B C D

X

Y

Figura 3. Interpretação dos dados experimentais. O gráfico à esquerda, baseado em apenas dois pares de valores anotados para X e Y (que definem os pontos A e B), parece sugerir que Y cresce à medida que X cresce, entretanto no gráfico à direita, em que fo-ram registrados outros valores intermediários (definidos pelos pontos B e C), mostra que a relação entre X e Y obedece a uma lei mais completa.

5.6.1 Princípios da Experimentação

A experimentação é a forma que o pesquisador, seja na área científica ou social, encontra para estimar os dados da pesquisa que irá realizar. Os princípios básicos da experimentação científica são: a. A experimentação deverá ter impreterivelmente repetições, para assegurar que a

resposta não foi obtida por mera casualidade e sim por inerência do tratamento. b. A casualização é um princípio fundamental, pois permite que o experimento possa

ser regido por efeitos gerais a todos os experimentos. Assim as parcelas dos trata-mentos deverão ser distribuídas ao acaso pelo experimento, caso a área experimental não apresente uniformidade;

c. O controle das variáveis aleatórias (chuva, vento, temperatura, efeito antrópico, etc.), deverá ser controlado, caso não seja possível, recomenda-se que o efeito seja igual para todos os tratamentos ou itens testados;

d. O experimento deverá ser realizado de acordo com uma técnica já conhecida e testa-da;

e. Caso a técnica a ser utilizada seja original, esta deverá ser experimentada antes de ser utilizada na experimentação;

f. Os modelos estatísticos a serem utilizados na experimentação deverão ser adequados ao que se pretende responder, ou seja, deverá haver uma adequação da metodologia (objetivos) com o modelo, para que os resultados possam levar o pesquisador a uma resposta coerente e segura;

g. Amostragens regulares, quando possíveis, pois permitem uma melhor análise dos dados;

h. Certificação de que as pessoas envolvidas na experimentação possuam treinamento e conhecimento a cerca do modelo estatístico e da metodologia a ser empregada.

5.7 Tipos de Amostras

5.7.1 Amostras Simples ao Acaso

Um dos métodos mais usados. Emprega-se este processo, quando dispomos de uma população que apresenta características homogêneas, isto é, pouca variação no con-junto dos elementos, ou seja, variância próxima ou igual à média.


11

5.7.2 Amostra Estratificada

Utilizada quando dispomos de informações de que a população apresenta carac-terísticas heterogêneas, isto é, grande número de fatores ou variáveis que podem com-prometer as conclusões se não eliminados, através de um procedimento correto. A população heterogênea é transformada em subpopulações homogêneas. Estas subpopulações têm nome de estratos. O tamanho da amostra será determinado em fun-ção da variância de característica a estudar em cada estrato, ou então considerando o número de seus elementos e procedendo-se a um percentual de cada estrato. Obtém-se, assim, uma amostra estratificada proporcional. Considera-se este tipo de amostra que possibilita maior precisão quanto aos re-sultados.

5.7.3 Amostra Sistemática

Aplicada quando a população apresenta um número finito de elementos e os da-dos estão distribuídos aleatoriamente. O número de elementos da amostra será obtido da seguinte forma: Numa população constituída por 500 elementos e a amostra por 50 elementos, onde N = 500 e n = 50 dividem-se N por n, isto é, 500 por 50, obtendo-se 10, em segui-da, sorteia-se um número da primeira dezena e, a partir dele, escolhem-se os demais, observando-se que se o número sorteado for, por exemplo, cinco, o segundo deverá ser 15, o terceiro será 25, e assim por diante, até obterem-se os 50 elementos que constitui-rão a amostra.

5.7.4 Amostra por Área

Utiliza mapas geográficos de cidades e municípios. As unidades que comporão a amostra serão sorteadas em função das condições de variabilidade existentes, podendo a seqüência ser obtida através de sorteio de ruas e residências. A família poderá ser a uni-dade mais simples a ser pesquisada.

5.7.5 Amostra por Conglomeradas

Visto que, pela estratificação, o uso de amostragem nos conduz a ganhar em precisão. Embora a subdivisão da população seja em estratos, para que, de cada um, utiliza-se uma quantidade de elementos – o que torna o método de seleção um pouco mais trabalhoso – ele redunda conseqüentemente em ganho de precisão, o que é, no en-tanto, compensado apenas pela diminuição das tarefas. Após a determinação dos con-glomerados da população, sorteiam-se aleatoriamente os conglomerados que irão parti-cipar da amostra. Outros métodos de seleção poderão ser associados para determinação dos ele-mentos de cada conglomerado para compor a fração amostral.

5.7.6 Amostra Selecionada

Este tipo de amostra se caracteriza por elementos que o pesquisador seleciona para avaliar o perfil de seus componentes, considerando que os mesmos apresentam pelo menos uma característica em comum. Por exemplo, na área de saúde é comum a realização de pesquisas de que são selecionados os pacientes portadores de determinadas enfermidades. Poderia ser a doen-ça de Parkinson, hepatite, tuberculose, entre outras. Portanto, neste caso, só farão parte do estudo indivíduos portadores de enfermidade a ser pesquisada.


12

5.8 Determinação do Tamanho da Amostra

É muito comum um pesquisador indagar qual o número de amostras a serem estabelecidas para uma determinada pesquisa de campo, laboratório ou uma simples investigação. A determinação do tamanho da amostra depende de alguns fatores: 1. Tamanho da população alvo. Quanto ao número de elementos que compõe, pode-mos classificar em finitas e infinitas. Na obtenção do tamanho amostral será importante esta informação. Na população finita, por exemplo, N= 3.000, a obtenção da amostra se torna menos complexa do que nos casos de populações infinitas de (N= 800.000). 2. Variância ou porcentual. Em alguns casos são empregadas características que apre-sentam determinada variabilidade. Em outros casos, observamos a percentagem de cer-tas características em um conjunto. Dependendo do tipo de investigação, ora usamos a variância, ora usamos a percentagem. 3. Nível de confiança (αααα). Deve-se imaginar que, ao apresentarmos um valor percentu-al, referente à taxa de prevalência do fenômeno estudado na amostra observada, aquele valor tem, em relação ao valor percentual da população, uma diferença, que é, a priori, arbitrada pelo pesquisador. Esta diferença arbitrada é considerada tendo em conta um nível de acerto que normalmente consideramos de 95% ou 99% de confiança, ou seja, o nível de confiança de que aquela diferença arbitrada realmente ocorra até o limite de diferença proposto. Os níveis de confiança propostos rotineiramente são de 95% e 99% de confian-ça. Simbolizado pela letra z, este valor é substituído na fórmula (1) por uma constante 1,96, quando o nível de confiança corresponde a 95%, e por 2,58 quando o nível de con-fiança é de 99%. 4. Informação da literatura (p). Toda pesquisa a realizar em que investigamos a taxa de prevalência que fenômeno apresenta, na literatura, resultados os quais utilizaremos quando da determinação do valor de n em relação ao valor de p. Chamamos q o valor complementar de p para 100%, ou seja, p + q = 100%. 5. Erro de amostragem ou precisão. Ao procedermos às técnicas de amostragem para determinação do tamanho da amostra (n), entende-se que a amostra obtida apresentará um determinado valor para a taxa de prevalência de certo evento. Normalmente é espe-rada uma diferença em relação à taxa de prevalência da população-alvo. Esta diferença é conhecida como erro de amostragem, a qual geralmente é arbitrada pelo pesquisador.

5.8.1 Tamanho da Amostra para Dados Discretos

Quando dispomos de variáveis discretas, utilizamos as seguintes fórmulas:

( )( )1

pP

qpzn

2

2

0 −××= e ( )2

N

n1

nn

0

0

+=

Onde n0: número inicial; Z: nível e confiança; p: valor obtido de trabalho anteri-ormente realizado; N tamanho da população; q: 100%-p; (P-p): erro arbitrado pelo pes-quisador.


13

Quando se trata de trabalho original e não se dispõe de nenhum valor usamos p=50%. Em populações finitas, são utilizadas as fórmulas (1) e (2). Para populações infi-nitas e para as que N seja um valor muito elevado, apenas a fórmula (1) deve ser utiliza-da. Exemplo: com a finalidade para verificar a incidência de doença de Chagas em uma população de certa região, desejamos determinar o tamanho da amostra, sendo o tamanho da população igual a 40.000 pessoas. Considerando uma prevalência de anos anteriores igual a 20% com valor z = 1,96 (α=5%) e sendo estabelecida um erro de 4%, qual seria o número de elementos que a amostra deveria conter? A fórmula adequada para mensurar o tamanho da amostra é a equação 1. Desta forma temos: Z = 1,96; p = 20%; q = 80%; e (P-p)= 4%

384100 3,84 16

600.184,3 n

4

802096,1n 02

2

0 =×∴×=∴××=

35,3801,0096

384n

40.0000

3841

384 n ==∴

+=

O número de indivíduos que deveríamos examinar para a determinação da pre-valência é de 384 para uma população infinita e 380, para uma população finita.

5.8.2 Tamanho da Amostra para Dados Contínuos

Para variáveis quantitativas contínuas, dispomos das seguintes fórmulas:

( ) ( )1 XX

Szn

2

22

0

−

×= e ( )2

N

n1

nn

0

0

+=

Onde n0: número inicial; z: nível de confiança; X : média da amostra; X : média

da população alvo; S: desvio padrão obtido de trabalho anteriormente realizado. (X -X ): erro arbitrado pelo pesquisador; N: tamanho da população. Não sendo encontrado um desvio padrão em outro trabalho, procede-se a uma pré-amostragem, retirando-se 30 observações da população e calculando-se o desvio padrão da característica a ser estudada. A utilização das fórmulas (1) e (2), deste item, tem procedimento semelhante ao amostrado para variáveis discretas. Exemplo: numa pesquisa para determinar a taxa média de hemoglobina dos in-divíduos de uma comunidade, deparamos com o problema de definir o tamanho da a-mostra. Apenas sabemos que a população desta comunidade é de aproximadamente de 25.000 indivíduos, o que torna impraticável utilizar todos os elementos. Face a isto, resolvemos determinar o número de elementos que comporão a amostra. Selecionamos ao acaso 30 elementos, determinamos o valor do teor de hemoglobina de cada um e cal-culamos a variância (medida de dispersão), cujo valor foi igual a 9mg2. Para tal estudo, a fórmula a empregar para determinação do tamanho da amostra será a fórmula 1 deste item.


14

A precisão considerada para esta pesquisa foi de 0,5mg e o valor z= 1,96. Substi-tuindo na fórmula teremos:

13824,138n 25,0

56,34n

25,0

984,3n

5,0

996,1n 0002

2

0 ≅=∴=∴×=∴×=

13748,137n 0055,1

24,138n

000.25

24,1381

24,138n ≅=∴=∴

+=

Para o estudo a será realizado recomenda-se que o número mínimo de indivíduos será igual a 138 para populações infinitas e 137 para populações finitas. 6 Técnicas Estatísticas Para Análise de dados

6.1 Medidas de Tendência Central Os fenômenos quando estudados estatisticamente, são traduzidos por um conjun-to de dados numéricos. A descrição desse conjunto de dados torna-se mais clara quando se obtêm medidas que resumem as informações necessárias. Essas medidas dão-nos o valor típico do conjunto de dados. Os valores típicos de um conjunto de dados tendem a se localizar no centro da série. São, por isso, chamados medidas de tendência central. A importância das medidas de tendência central é dupla:

Representam ou resumem todos os valores obtidos pelo grupo e, como tal, for-necem uma descrição precisa da execução do grupo como um todo, e;

Permitem o confronto de dois ou mais grupos. Usam-se, em geral, três medidas de tendência central: média aritmética (simples, ponderada, de dados agrupados em intervalos), mediana e moda.

6.1.1 Média Aritmética Simples (X )

A media aritmética simples é a soma dos valores ou medidas, divididas pela quantidade destes. Sendo representado pela fórmula:

n

xX ∑=

Onde X : representa a média; ∑x : a soma das variáveis; e o n o números de

indivíduos ou elementos. Exemplo: deseja-se saber o valor médio do seguinte conjunto de dados: 32, 25, 32, 30, 26, 30, 29, 26, 29 e 33.

∑x : 32 + 25 + 32 + 30 + 26 + 30 + 29 + 26 + 29 + 33.

n = 10

2,2910

292X ⇒=

6.1.2 Média Aritmética Ponderada

Quando se tem uma séria de valores sucessivos com a respectiva distribuição de freqüência, pode-se calcular a média aritmética ponderada. A forma de apresentação da distribuição de freqüência seria:


15

Variável Freqüência X1 f1

X2 f2 . . . . . .

Xn fn A expressão da média ponderada será:

n21

nn2211

f...ff

fx...fxfx

n

fxX

++++++== ∑

Exemplo: Calcular a média de idade de crianças até 9 anos de uma determinada locali-dade.

Idade (anos) Freqüência 2 10

3 8 4 6 5 5 6 5 7 5 8 7 9 4

50

250

4...810

49...83102X =

+++×++×+×= = 5 anos

6.1.3 Média Aritmética de Dados Agrupados em Intervalos

Há vezes em que os dados não são verificados com seu verdadeiro valor indivi-dual, mas são representados por uma classe que pode ter um determinado intervalo. Neste caso, operamos da mesma maneira do caso anterior. Considerando que o intervalo não tem um valor definido e sim um conjunto de valores. Utilizaremos como represen-tante o ponto médio de cada intervalo. Por exemplo, a distribuição de freqüência abaixo, procede-se da seguinte forma:

Idade (anos) Freqüência (f) 0 |– 5 4 5 |– 10 2 10 |– 15 3 15 |– 20 1

Idade (anos) Valor central (X) Freqüência (f) X.f

0 |– 5 2,5 4 10,0 5 |– 10 7,5 2 15,0 10 |– 15 12,5 3 37,5 15 |– 20 17,5 1 17,5

Σ – 10 80,0 Aplicando a fórmula para calcular a média ponderada teremos:


16

anos 810

80

n

xfX =∴= ∑

Desta forma a média da população avaliada é oito anos. Quando os dados apresentam homogeneidade, é possível o uso da média aritmé-tica, que tem como:

Vantagens: o Ser fácil de calcular e entender; o Unir em um valor todas as observações do conjunto.

Desvantagens: o Não servir para séries variáveis assimétricas; o Não expressar variações dentro da distribuição de dados.

6.1.4 Mediana (Me)

É um valor situado no centro da distribuição de freqüências. A distribuição tem, portanto, como objetivo encontrar um valor que permita conter 50% dos dados acima deste valor e 50% abaixo. A mediana é especialmente útil quando se trata de séries assimétricas, isto é, quando alguns valores são elevados ou baixos em relação aos demais. A mediana não é influenciada pela magnitude de cada uma dessas séries. Para o cálculo da mediana de-vemos previamente realizar alguns ajustes aos dados como segue:

Ordenam-se todos os valores, de forma crescente; Determina-se o total de valores (n);

Localiza-se o valor central mediante a fórmula: 2

1n +, quando o número de ob-

servações (n) for ímpar e 12

n e

2

n + , quando o número de observações é par, o

que corresponde à média dos valores centrais. Exemplo:

a) Em determinada localidade foram selecionadas oito escolas, com a finalidade de estimar a mediana referente ao número de alunos. Tendo verificado o seguinte quadro:

Escola Nº de alunos A 150 B 180 C 230 D 2.500 E 200 F 160 G 250 H 170

Inicialmente ordenam-se os dados: 150, 160, 170, 180, 200, 250 e 2.500.

Como o número de observações é par utilizam-se as duas fórmulas 12

n e

2

n + ,

para obter os dois valores centrais. Assim os valores centrais para este conjunto de da-dos são 180 (4º) e 200 (5º), portanto o valor médio destes dois valores é igual a 190, que corresponde à mediana. Me= 190 alunos.


17

b) Em coletas de amostra de solo em cinco cidades, foram verificadas amostras po-

luídas com metais pesados, conforme o quadro a seguir: Municípios Amostras Poluídas

A 48 B 42 C 52 D 95 E 46

Após ordenar os dados teremos: 42, 46, 48, 52 e 95. Como o número de obser-

vações é ímpar utilizaremos a fórmula 2

1n +, para encontra o valor central. Desta forma,

o valor central é 48, que corresponde ao valor da mediana. Me= 48 amostras poluídas

6.2 Medidas de Variação 6.2.1 Desvio-Médio (DM)

Considerado que num conjunto de dados cada valor apresenta um afastamento em relação à média. O desvio-médio será a média aritmética destes afastamentos, le-vando-se em conta os valores absolutos desses desvios. Para um conjunto de observações: 2, 5, 9, 11, 14 e 25

11 6

66X

6

251411952 X ==∴+++++=

6

11-2511-1411-1111-911-511-2 D.M.

+++++=

6,5 D.M. 6

34 D.M.

6

1430269 D.M. =∴=∴

+++++=

6.2.2 Desvio Padrão

Existem dois tipos de desvio padrão, o chamado desvio padrão estimado ou s e o desvio padrão absoluto ou σσσσ. O Desvio padrão estimado (s) é utilizado em populações infinitas, ou seja, onde não se conhece com precisão o valor absoluto de n, já o σσσσ (des-vio padrão absoluto ou verdadeiro) é calculado para populações com valor n, bem co-nhecido, ou seja, em populações finitas. O desvio padrão é o afastamento atribuído ao acaso, ou seja, o erro amostral, que o conjunto de dados contém. Este erro refere-se à diferença do valor s calculado e a mé-dia aritmética. Para calcular o Desvio Padrão utiliza-se a seguinte fórmula:

( )

1nn

xx

s

2

2

−

−=∑

∑

Onde: x: valores do conjunto de dados; Σ: somatório; e n: número de observa-ções. Exemplo: Calcular o desvio padrão do seguinte conjunto de dados: 2, 5, 9, 11, 14 e 25 Σx= 2+ 5 + 9 + 11 + 14 + 25 = 66


18

Σx²= 2² + 5² + 9² + 11² + 14² + 25² ∴Σx²= 4 + 25 + 81 + 121 + 196 + 625 = 1.052 n = 6

07,8 s

5,206 s 5

326 s

16

726052.1 s

56

356.4052.1

s 16

6

66052.1

s

2

=∴

=∴=∴−−=∴

−=∴

−

−=

É importante ressaltar que no cálculo do desvio padrão utilizou-se o denomina-dor (n-1), ou seja, o grau de liberdade, pois como o valor s é uma estimativa, de-vemos ajustar o erro desta estimativa, eliminando um elemento do conjunto de observações. Vale ressaltar que, no caso de populações finitas o denominador será n e o desvio passa ser o σσσσ (desvio padrão absoluto ou verdadeiro).

Observamos agora uma série de dados agrupados, isto é, uma série de valores que se repetem e, por conseguinte, são representados pela sua freqüência.

x f fx 2 2 4 3 2 6 4 4 16 5 4 20 6 2 12

Total 14 58 Temos um total de 14 valores agrupados em cinco categorias. Desta forma lan-ça-se mão de um novo quadro de dados para facilitar os cálculos

x f fx fx² 2 2 4 8 3 2 6 36 4 4 16 256 5 4 20 400 6 2 12 144

Total 14 58 852 Para calcular o desvio padrão desta distribuição, utiliza-se a seguinte fórmula:

22

n

fx

n

fx s

−= ∑∑ , ou seja,

6,6101 s 6935,43 s 1636,178571,60 s 1429,48571,60 s 14

58

14

852 s 2

2

=∴=∴−=∴−=∴

−=

6.3 Variância ou Quadrado Médio É o valor do desvio padrão estimado ao quadrado, originando a variância esti-mada (s²), ou o valor do desvio padrão populacional, originando a variância populacio-nal (σσσσ²).


19

A variância é a medida estimada ou calculada que determina a variação dos va-lores entre si, ou seja, quanto menor este valor menor será a diferença entre os valores dos elementos do conjunto de dados.

6.4 Erro-Padrão da Média - s(x) Quando uma investigação científica é realizada através de amostra, a média a-ritmética teria outros afastamentos (erros) em relação média populacional ou real. Para se determinar a média destes afastamentos utilizaremos o erro padrão da média, cujo cálculo é expresso pela fórmula:

( )n

s xs =

Onde: s: desvio padrão da amostra e; n: número de observações do conjunto de dados. Exemplo: em uma amostra com 100 observações, obteve-se um valor s igual a 1,25, o erro-padrão da média será:

( ) ( ) ( ) 125,0 xs 10

25,1 xs

100

1,25 xs =∴=∴=

É importante ressaltar que quanto menos o valor do erro-padrão da média, mais preciso será os resultados em relação à estimativa da média, análise da variância entre outras análises, baseadas na estimativa de dados.

6.5 Coeficiente de Variação

O coeficiente de variação (CV) é uma medida abstrata que independe das unida-des em que foram medidas os dados. Ele expressa o desvio padrão que obteríamos se a média representasse o índice 100. Pode ser também interpretado com uma medida de precisão alcançada das estimativas dos dados em relação aos valores reais. Este parâme-tro é estimado pela fórmula:

100x

s C.V. ×=

Onde: s: desvio padrão da amostra; x : média aritmética da amostra. Quanto maior for a dispersão no conjunto de observações, maior será o valor do coeficiente de variação. Desta forma, podemos classificar o C.V. da seguinte forma:

C.V. Classificação C.V. < 10% Ótimo 11% < C.V. <20% Bom 21% < C.V.< 30% Regular

É importante ressaltar que valores acima de 30% não significam um C.V. insa-tisfatório, pois alguns experimentos em campo podem ter o valor C.V. de até 65% e serem considerados bons.

6.6 Curva de Distribuição Normal

A maioria dos fenômenos da natureza, em especial os biológicos, apresentam variações dentro de um intervalo definido. Se coletássemos os dados quanto ao peso de mil indivíduos, encontraríamos di-versos valores, dos quais haveria pequena quantidade de baixos e altos, e grande quanti-dade em torno dos valores centrais.


20

Numa representação gráfica dos dados obtidos encontraríamos uma distribuição normal conforme a figura abaixo.

Figura 4. Curva de distribuição normal simétrica, onde µ é a média e s o desvio padrão.

A curva de distribuição normal ou simplesmente curva normal é caracterizada por dois parâmetros: a média e o desvio padrão (ou a variância). O ponto máximo da função ocorre no valor médio (situado ao centro da curva, que é simétrica); a distância entre ele e cada um dos pontos em que muda a direção da curvatura, à esquerda e a direita da média (µ) corresponde ao valor do desvio padrão(s) (Figura 4). A forma desta curva depende do desvio padrão, sendo tanto mais alta e estreita quanto menor for o valor de s (Figura 5).

Figura 5. Curvas de distribuição normal das freqüências de X, tendo a mesma média (µ) e diferentes graus de dispersão dos valores de X, isto é, desvios padrões (s) diferen-tes.

A área da figura sob a curva compreendida entre valores iguais a s, de um e ou-tro lado da média (µ), contém 68,2% dos valores de X, que serão tanto mais próximos de µ quanto menor for o desvio padrão (Figura 6).


21

Figura 6. Curva normal padrão, tendo por parâmetros µ=0 e s= 1. As áreas sob a curva assinaladas entre os traços verticais, indicam as percentagens de valores de X aí conti-das.

A área compreendida entre -2s e +2s abrange cerca de 95,5% dos valores de X, restando, portanto duas áreas extremas, apenas 4,5% das observações ou eventos medi-dos. As propriedades da curva normal permitem seu uso para o cálculo de probabili-dade com que determinados valores obtidos durante as observações, ou as medições, possam ocorrer em função das variações.

6.6.1 Limites de Confiança

Quando se desconhece o valor de determinado parâmetro de uma população (sua média, por exemplo), podemos estimá-lo a partir de uma amostra extraída dessa popula-ção. A estimativa, entretanto, pode ser inexata e não saberemos o quanto ela é incorreta. Para a estimativa de um parâmetro, consideram-se como sendo seus limites de confiança, aqueles valores entre os quais fica incluído, com uma alta probabilidade, o valor exato desse parâmetro. A probabilidade P= 0,05 (ou 5%), que corresponde a um desvio ou erro padrão de aproximadamente 2s (ou, mais precisamente, 1,96s), é geralmente aceita, por con-venção, como limite para decidir se um resultado afastado da média (ou a diferença en-tre duas médias) é significativo ou não. Um afastamento maior que 2s indica uma probabilidade menor que 1 para 20 de que os valores encontrados pertençam a uma mesma população. Assim, se o valor mé-dio (m) de uma observação comportar um desvio ou erro padrão maior que 1,96s, em relação ao valor hipotético da média verdadeira (µ), concluiremos que ele não pertence à população cuja média é µ. Na Figura 7, os limites de confiança são representados pelos valores de -C e +C que circunscrevem, com grande probabilidade, o valor do parâmetro em causa. A ampli-tude entre esses valores limites denomina-se domínio de confiança ou intervalo de con-fiança.


22

Figura 7. Os valores de Z (compreendidos entre -Z e +Z) correspondem aos afastamen-tos de X em relação à média µ, medidos em unidades de desvio-padrão. A probabilidade (P) com que X possa ter valor menor que uma coordenada escolhida (C) é indicada pela área, sob a curva, situada à esquerda de C.

6.6.2 Erro Padrão

Em alguns casos, é conveniente trabalhar com a média das médias amostrais. Nesse caso o desvio padrão de uma distribuição de médias ou de diferenças entre mé-dias é também chamado de erro padrão.

6.7 Teste de Normalidade dos Dados Os testes empregados para verificar a distribuição normal dos dados, têm por objetivo direcionar o pesquisador a saber qual o tipo de teste será utilizado, se um teste paramétrico ou não paramétrico. É necessário explorar um pouco mais a idéia sobre a distribuição de variáveis. Uma questão que pode ser levantada primeiramente é se a maioria das variáveis é nor-malmente distribuída e, portanto poder ser empregados testes paramétricos sem preocu-pação quantos às suas restrições. Testes estatísticos com grandes amostras mostram que nem sempre as suposições de normalidade de confirmam. Por outro lado, como nem sempre se dispões de um número elevado de casos para estudo, às vezes nem é possível decidir se determinada variável possui ou não distribuição normal (na prática a amostra deve ter o valor n > 100). Os testes comumente utilizados são Klomogorov–Smirnov, ou teste K-S, que é um teste tradicional de normalidade e o teste de Shapiro-Wilks, ou teste S-W, vem sen-do empregado cada vez com maior freqüência.

6.8 Teste de Klomogorov-Smirnov (K-S) Este teste compara a distribuição real dos dados (amostra) com uma distribuição normal gerada por uma média e um desvio padrão supostamente conhecidos (popula-cionais).

6.9 Teste de Shapiro-Wilks (S-W) Este teste é uma boa opção para se testas a normalidade de uma distribuição. o teste pode ser usado em amostra de até 2.000 observações. Nos últimos anos o teste S-W tem sido preferido ao teste K-S pela capacidade de adaptação a uma variada gama de problemas sobre a variação de normalidade.


23

7 Testes Paramétricos e Não Paramétricos De acordo com a distribuição dos dados, utilizam-se testes de duas categorias:

Os testes paramétricos - aplicam-se a amostras extraídas de populações com dis-tribuição normal e variâncias iguais ou muito próximas, além de exigirem que as medidas sejam feitas em escalas numéricas intervalares, suscetíveis de tratamen-to matemático. Estes testes são, em geral, os de maior potência, podendo ser a-plicados mesmo quando ocorram pequenos desvios de normalidade ou da vari-ância entre as amostras.

Os testes não-paramétricos - são menos exigentes quanto à natureza da distribu-ição dos dados experimentais, são em geral menos potentes.

Se os dados experimentais não estiverem de acordo com os pressupostos para a aplicação de provas paramétricas (por exemplo, se não seguirem a distribuição normal), uma alternativa é a transformação de dados dos seus valores (vide item Transformação de Dados, p. 37), de tal forma que os pressupostos possam ser satisfeitos. A transforma-ção mais utilizada é a conversão dos dados em logaritmos decimais. Os elementos necessários para a utilização de um teste são:

Formular as duas hipóteses: a de nulidade (H0), que supõe não haver diferença significativa entre os valores encontrados e os esperados; e a hipótese alternativa (H1), onde essa diferença existirá;

Estabelecer o nível de significância α e, conseqüentemente, as regiões críticas de aceitação de H0;

Definir se, se trata de um teste mono ou bicaudal; Tomar as amostras de tamanho n e registrar os valores, calcular a média (µ), a

variância (s²) e o desvio padrão (s) e; Escolher o teste estatístico adequado.

Para maiores detalhes e saber com escolher um teste, consulte o Fluxograma Para Auxiliar na Escolha de Testes Estatísticos, p. 43.

7.1 Teste t - Student Há certas ocasiões em que o pesquisador deseja a comparação de suas amostras que provêm de populações diferentes. Neste caso, ao constatar as médias destas amos-tras para verificar se há a diferença entre elas, estaremos indiretamente comparando as duas populações. E por analogia, poderíamos proceder a um experimento em que um grupo receberia uma droga (grupo tratado), enquanto outro grupo nada receberia (grupo controle). O efeito do tratamento aplicado seria verificado pela comparação dos dois grupos. Nesses casos, o teste t seria indicado para tal comparação salientando que a vari-ável em análise teria que apresentar os dados em distribuição normal ou aproximada-mente normal. O valor t - student calculado é dado pela fórmula:

n

s

Xt

2=

Onde: X : média; s²= variância e N: número de observações As formas de utilização deste teste apresentam situações diferentes como mos-tras os subitens abaixo:


24

7.1.1 Dados Pareados (Amostras Dependentes)

Trata-se do estudo de um tipo de tratamento em que se utilizam pares de indiví-duos ou animais ou plantas. Há a uma preocupação em que haja um pareamento entre indivíduos para que eles difiram somente no aspecto, tratado e não-tratado. Em um estudo foi separada uma população de 10 crianças para os testes com administração da dieta de folha de mandioca, obtivemos os seguintes dados:

Tabela 2. Dados do peso de 10 crianças antes e depois da administração a base de fo-lhas de mandioca (dados fictícios).

Peso (Kg) Item Antes Depois

Diferença

1 24 28 4 2 23 25 2 3 24 25 1 4 23 29 6 5 30 32 2 6 31 34 3 7 31 38 7 8 14 19 5 9 20 22 2 10 18 23 5

Total !Configuração não válida de caractere

!Configuração não válida de caractere

!Configuração não válida de caractere

Procedimento:

a) Obtêm-se as diferenças entre os valores antes e depois (quadro acima); b) Verifica-se a média aritmética das diferenças; c) Verifica-se a variância das diferenças e; d) Aplica-se o teste t - student.

b) 7,310

37X d ==

c) Σd²=173; Σd=37; n= 10

01,49

1,39

9

9,136173

910

1369173

s2 ==−=−

=

d) 84,50,6332

3,7

0,401

3,7 t

10

4,01

3,7t =====

O próximo passo e recorrer à tabela do teste t - student (Tabela 11, p. 44) e com-para-se o valor do t calculado com o valor crítico da tabela em função de α com n-1 graus de liberdade.


25

No exemplo acima, n= 10, portanto, devemos verificar os valores críticos com nove graus de liberdade. Desta forma, encontramos os valores 2,26 (5% ou α=0,05) e 3,25 (1% ou α=0,01). O valor encontrado (calculado) de t= 5,84 é maior do que os valores da tabela. Concluímos pela rejeição de H0 (hipótese nula) em nível de 1% de probabilidade (α=0,01). Conclui-se que a adição do farelo de mandioca na alimentação contribuiu para o aumento do peso corpóreo das crianças.

7.1.2 Dados Pareados (Amostras Independentes)

Neste caso os dados são tratados de forma diferente, ou seja, possuem o mesmo valor n, mas não pertencem ao mesmo tratamento ou não há comparação entre antes e depois. O teste t utilizado nesta situação pressupõe variâncias diferentes, mesmo o as duas amostras possuindo valores n iguais. O valor t - student calculado é dado pela fórmula:

2

22

1

21

21

n

s

n

s

XXt

−

−=

Onde: 1X e 2X : médias das amostras; s1= e s2= desvios-padrão das amostras; e n1 e n2: número de observações das amostras.

Esta equação deve ser utilizada, quando se conhece a variância populacional (σ²).

Exemplo:

Tabela 3. Dados de um experimento com a taxa de crescimento de mudas de duas le-guminosas em sistema agro-silvo-pastoril, numa área de re-vegetação (dados fictícios).

Leguminosa A Leguminosa B

1X = 38 cm 2X = 33,5 cm s1= 5 cm s2= 6 kg n1= 26 n2= 26

Calculado o valor de t teremos:

94,29379,25317,1

4,5

3461,2

4,5

3846,19615,0

4,5

26

36

26

25

4,5

26

6

26

5

33,5- 38 t

22≅===

+=

+=

+=

Para calcular o Grau de Liberdade, procedemos da seguinte forma: GL= n1 + n2 –2 ou (n1–1) + (n2–1). Para o nosso exemplo acima temos o GL = 26 + 26 – 2 = 50 ou (26–1) + (26–1)=50. Os valores a 5% e 1% de probabilidade são 2,68 e 2,01, respectivamente (Tabela 11, p. 44). Comparando o valor calculado (2,94) com os valores tabelados verifica-se que há diferença estatística a 5% e a 1% de probabilidade. Desta forma, concluímos que há 99% de probabilidade de que a leguminosa A, possuam taxa de crescimento média mais elevada que a leguminosa B.


26

7.1.3 Dados Não-Pareados - Variâncias Desiguais (Heterocedásticas)

Caso os dados não pertençam às amostras não pareadas, o teste T será aplicado baseando-se na diferença entre as médias das duas amostras, podendo as mesmas apre-sentarem tamanhos diferentes (n1 e n2). Supõe-se, neste caso, que as amostras são independentes e que apresentam vari-âncias desiguais. Há uma regra prática que identifica tal desigualdade a ponto de justificar tal pro-cedimento. Se a relação entre as variâncias apresentarem valor maior do que quatro, isto justifica a conduta sugerida. Por exemplo: s²1= 27 e s²2= 5

Portanto = 5,4 5

27

s

s22

21 ==

Seguindo o critério estabelecido, as amostras serão comparadas de acordo com este resultado. Exemplo: temos duas amostras de água em que os dados quanto ao nível de con-taminação de mercúrio apresentam os seguintes valores:

Amostra A Amostra B X 1=160 ppm X 2=148 ppm s²1 =74 ppm s²2 =18 ppm n1 = 20 n2 = 32

O valor do teste t será obtido através da expressão:

2

22

1

21

21

n

s

n

s

XXt

+

−=

Calculado o valor de t teremos:

5,82 2,06

12

4,26

12

32

18

20

74

148160t ===

+

−=

Para verificar a significância deste valor, devemos calcular o grau de liberdade para o conjunto de dados, em que g é calculado através da fórmula:

1n

n

s

1n

n

s

n

s

n

s

g

2

2

2

22

1

2

1

21

2

2

22

1

21

−

+−

+

=

Para nosso exemplo seria:

258,2473,0

4,26

13232

18

12020

74

32

18

20

74

g2

2

22

2

≅==

−

+−

+=


27

Consulta-se então a tabela do teste t-student (Tabela 11, p. 44), para verificar os valores críticos nos níveos de 5% e 1% de probabilidade para 25 graus de liberdade. Na tabela iremos obter o valor de 2,06 (5%) e 2,79 (1%). Desta forma, conclui-se que o valor obtido pata t = 5,82 é significativo no nível de 1% (1% ou α=0,01), acei-tando-se a hipótese alternativa, devido à diferença significativa entre as médias das duas amostras.

7.1.4 Dados Não-Pareados - Variâncias Iguais (Homocedásticas)

A aplicação do teste t de Student para este caso é realizada quando comparamos as médias aritméticas de duas amostras independentes, nas quais as variâncias apresen-tam valores aproximadamente iguais. Ainda neste caso, o procedimento metodológico consiste em se utilizar uma variância ponderada, considerando também o número de graus de liberdade de cada uma das amostras. Exemplo: para verificar se duas amostras de água mineral de duas marcas possu-em a mesma quantidade sulfatos, um pesquisador separou ao acaso, um lote de caixa de cada marca e ao acaso avaliou o conteúdo de uma garrafa de cada caixa. A marca A e marca B, possuíam 10 e 7 caixas no lote selecionado, respectivamente. Ou seja, foram avaliados os conteúdos de 10 e 7 garrafas, respectivamente. Exemplo:

Amostra (mg.L) Marca A Marca B

1,4 1,7 1,5 1,8 1,8 1,4 1,3 1,2 1,1 1,9 1,6 1,0 1,5 1,5 1,4 - 1,2 - 1,4 -

X A= 1,42 X B= 1,5 sA²= 0,04 sB²= 0,11 nA= 10 nB= 7

A variância ponderada é dada pela fórmula:

( ) ( )2nn

s1ns1n s

BA

2BB

2AA2

−+×−+×−

=

Para nosso exemplo teríamos: ( ) ( )

0673,015

01,1

15

0,660,36

15

11,0604,09

2701

11,01704,0110 s2 ==+=×+×=

−+×−+×−=

Em seguida aplica-se a fórmula para o teste t.

+

−=

BA

2

BA

n

1

n

1s

XX t

Assim temos:


28

98,14043,0

8,0

1634,0

8,0

7

1

10

10673,0

1,5-1,42t −≅−=−=

+=

Os valores de t tabelado para 15 graus de liberdade a 5 e 1% são respectivamen-te, 2,13 e 2,95. Desta forma, conclui-se que as duas marcas de água mineral não apre-sentam diferentes proporções de sulfatos em sua composição, sendo que a marca B pos-sui maiores concentrações em relação à marca A.

7.2 Teste Qui-Quadrado (χχχχ²) O teste não-paramêtrico de qui-quadrado foi desenvolvido por Pearson, sendo muito utilizado em pesquisas biológicas. O grau de liberdade para o teste de χ² é o número de observações/ classes menos 1. A fórmula utilizada para calcular o χ² é:

( )fe

fe-fo 2

2 ∑=χ

Onde: fo= freqüência observada e; fe= freqüência esperada. Portanto o valor do desvio é elevado ao quadrado e dividido pela freqüência es-perada. Em muitos casos utiliza-se este teste em experimentos probabilísticos, por e-xemplo, lançamentos de moedas ou proporção de doentes após uma epidemia. No pri-meiro caso a probabilidade de lançarmos 10 vezes uma moeda e cair cara é de 50% (freqüência esperada) e o valor real após os lançamentos será a freqüência observada. No segundo caso a freqüência esperada deverá ser corrigida (calculada) através da Ta-bela de Contingência.

7.3 Tabela de Contingência Em muitos trabalhos experimentais, os dados colhidos representam ocorrência de certos fenômenos que se podem classificar numa tabela, chamada tabela de contin-gência. Estas tabelas têm como objetivo estudar a possível associação entre duas variá-veis que classificam os dados. Em tal situação a H0 (hipótese nula) será testar a inde-pendência entre as variáveis. Para poder calcular o χ², é necessário que tenhamos as freqüências teóricas, o que se faz admitindo-se a hipótese de que todos os grupos reajam da mesma maneira diante da condição a elas imposta. A comparação entre os valores calculados de χ², para verificar a significância pode ser obtido na tabela de χ² (Tabela 12, p. 45). Exemplo: Num Shopping Center, foram escolhidas ao acaso pessoas com três diferentes faixas etárias, para verificar a incidência de diabete. Para tal, foram coletadas amostras de sangue. A H0 é que não diferença entre as faixas etárias em relação a ter diabete. Os dados coletados ao final do experimento foram:

Pessoas* Faixa Etária (anos) Com diabete Sem diabete

ΣΣΣΣ

A: 10-15 2 (11,74) 75 (65,26) 77


29

Pessoas* Faixa Etária (anos) Com diabete Sem diabete

ΣΣΣΣ

B: 16-21 12 (11,28) 62 (62,72) 74 C: 22-40 20 (10,98) 52 (61,02) 72

ΣΣΣΣ 34 189 !Configuração não válida de caractere

* Valores entre parênteses e em negrito representam as freqüências calculadas Neste caso temos uma tabela de contingência de 2 x 3, pois temos duas situações as serem testadas (com ou sem diabete) em três grupos (faixas etárias). O Grau de liberdades para tabelas de contingências será calculado pela seguinte fórmula: ( ) ( )1n1nGL gs −×−= . No nosso exemplo teremos:

( ) ( ) 2GL 21GL 1312GL =∴×=∴−×−= Para calcular as freqüências realiza-se uma regra de três simples como segue:

34 –––––––––––––––– 223 fe –––––––––––––––– 77

Ou seja, 223

7743 feA

×= a fe da terceira coluna (sem diabete) é calculada pela diferença

entre os valores da fe da 2ª coluna (com diabete) e o valor da coluna total (Σ). Os de-mais valores da linha subseqüentes são obtidos com a realização da regra de três para cada valor da 2ª coluna. Para calcular o χ² do conjunto de dados utilizaremos a fórmula vista anterior-mente. Assim teremos:

( ) ( ) ( ) ( ) ( )

( )

34,18 1,3341,70,010,051,458,09

02,61

36,81

98,10

36,81

72,62

5184,0

28,11

5184,0

26,65

87,94

74,11

87,94

02,61

02,6152

98,10

98,1020

71,62

72,6262

28,11

28,1112

26,65

26,6575

74,11

74,112

22

22

222222

=χ∴+++++=χ

∴+++++=χ∴−

+−+−+−+−+−=χ

De acordo com a Tabela 12 (p. 45), o valor χ² para 2 graus de liberdade a 5 e 1% de probabilidade seriam 5,99 e 9,21, respectivamente. Desta forma, conclui-se que há diferença entre as faixas etárias, ou seja, a ocorrência de diabete depende da faixa etária, segundo o teste de χ² a 5 e 1% de probabilidade.

7.4 Teste de Kruskal-Wallis Este teste foi criado como substitutivo à análise de variância paramétrica (Teste F). Ele é utilizado para que se verifique o contraste entre k amostras independentes. Os valores obtidos nas diversas amostras diferem entre si e, portanto, será uma maneira se verificar se estas diferenças são devidas ao acaso ou se as amostras provêm de populações diferentes. No teste de Kruskal-Wallis todas as observações recebem uma pontuação atra-vés dos números 1, 2, 3, 4, ...n. Assim, ao menor valor se atribuirá o valor 1, e assim sucessivamente até atingir o maior valor, que receberá a maior pontuação. Da mesma forma que nos outros testes, serão consideradas sempre duas hipóte-ses (H0 e H1).


30

Para o cálculo do valor H do teste de Kruskal-Wallis utiliza-se a fórmula:

( ) ( )1N 3n

R

1N N

12 H

k

1ii

2i +−×

+= ∑ =

Onde: Ri = a soma das ordens atribuídas ao tratamento i; k =corresponde ao número de tratamentos a comparar; ni = número de observações em cada tratamento k e; N = nú-mero total de observações em todos os tratamentos k. Na ordenação global que se faz para atribuição dos postos aos dados, considera-se que nos casos de empate entre duas ou mais observações, calcula-se a média das or-dens que seria atribuída a elas se não houvesse o empate. Para verificação de significância quanto às diferenças observadas entre tratamen-tos k, considera-se que o teste tem uma distribuição aproximada de χ², com k-1 graus de liberdade, ou seja, a tabela para comparar os valores é a tabela de χ² (Tabela 12, p. 45). Para exemplificarmos o teste de Kruskal-Wallis, supomos que foram testados ou experimentados três métodos para dessalinização de água. Assim sendo, foram coleta-das diversas amostras de água com diversas concentrações de sal, que não vem ao caso no exemplo a ser testado. Desta forma, testou-se o tempo de dessalinização dos três mé-todos. Os resultados do experimento seguem abaixo:

Métodos A B C

DD posto DD posto DD posto 17 11 20 12 32 17 14 9 5 3 35 20 4 2 9 6 26 15 8 5 13 8 34 18,5 29 16 34 18,5 21 13 6 4 2 1 45 21 15 10 11 7 50 23 - - 22 14 47 22 RA=57,0 RC= 69,5 RC= 149,5

nA= 7 nC= 8 nC= 8 x A= 13,29 x B= 14,50 x C= 36,25

DD= dias para dessalinização. Para calcular H teremos:

( ) ( )

( )

( )95,11H

7270,861.30217,0H 7270,861.3552

12 H

24 378,793.278,60314,464552

12 H

2438

25,350.22

8

25,830.4

7

249.3

42 23

12 H

123 38

5,149

8

5,69

7

57

123 23

12 H

222

=

−×=∴−×=

∴×−++×=

∴×−

++××

=

∴+−

++×

+=

Como já foi dito este teste segue a distribuição do teste χ². Desta forma, sendo k = 3 (métodos), os graus de liberdade correspondem a 2, pois GL= k-1. Portanto, os valo-res da tabela χ², correspondem a 5 e 1%, são 5,99 e 9,21, respectivamente.


31

Considerando que o valor calculado H=11,95 é maior que os valores tabelados, rejeitamos H0 (não há diferenças entre os métodos testados no tempo de dessalinização das amostras), assim aceita a H1. Pelos valores R encontrados nos resultados verifica-se que o método A e mais eficiente no processo de dessalinização, pois leva menos tempo em comparação aos demais.

7.5 Teste de Friedman (Análise da Variância) Da mesma forma que o teste de Kruskal-Wallis, este teste é um substitutivo ao teste F para análise de variância paramétrica, sendo utilizado quando as amostras, cujas observações podem verificar valores com acentuada variação e em cada tratamento são constituídos blocos com a intenção de que isto resulte em um pareamento considerável entres os diversos tratamentos. De forma análoga aos demais testes, formula-se a H0 e a H1. Para testar a H0,

utiliza-se tabela de χ², co grau de liberdade k-1. O valor do teste de Friedman (Xr

2) é calculado através da seguinte equação:

( ) ( ) ( )1k3n R1knk

12

k

1i

2i

2r +−×

+=χ ∑ =

Onde: n = número de blocos; k = o número de tratamentos; Ri = a soma das ordens atri-buídas aos dados do tratamento i, nos blocos n. Para os casos de empate entre observações de mesmo bloco, calcula-se a média aritmética das ordens. A ordenação dos valores se dá dentro dos blocos. Exemplo: Foram coletadas cinco amostras em quatro profundidades (tratamen-tos) em cinco áreas diferentes, delimitados pelas características edáficas do solo (blo-cos). Este solo foi exposto há poluentes de uma determinada fábrica. Assim sendo, quer saber se o poluente está distribuído de forma igual entre as profundidades avaliadas, ou seja, as concentrações do poluente são iguais em todas as profundidades (Hipótese Nula ou H0). Os resultados da análise foram as seguintes:

Tabela 4. Resultados das amostras de cinco diferentes áreas delimitadas pelas caracte-rísticas edáficas do solo, em quatro diferentes profundidades. Os dados apresentados referem-se a o poluente α-β-16-Imaginol-Poluentis, em mg.mm³ de solo

Profundidade (cm) Blocos 0-10 11-20 21-30 31-50

Área A 12 (2) 13 (3) 16 (4) 7 (1) Área B 8 (2) 9 (3) 12 (4) 5 (1) Área C 14 (2) 20 (3) 22 (4) 6 (1) Área D 17 (3) 16 (2) 21 (4) 11 (1) Área E 12 (2) 15 (3) 16 (4) 10 (1) Total

R1= 11 R2= 14 R3= 20 R4= 5 *Os valores entre parênteses e em negrito correspondem à ordenação dos tratamentos dentro dos blocos (linhas). Sendo o valor Ri a somas dos valores de ordenação nos tratamentos (colunas). Substituindo os valores na fórmula para o cálculo do valor χ²r, teremos:


32

( ) ( )

( ) ( )

04,14

7504,8975742100

12

75254001961211445

12

55352014111445

12

2r

2r

2r

22222r

=χ

∴−=−×=χ

−+++×+×

=χ

∴××−+++×+×

=χ

Como valor de graus de liberdade é igual a k-1 graus de liberdade e sendo k=4 (tratamentos), têm-se 3 graus de liberdade. A partir da tabela χ² (Tabela 12, p. 45). Os valores para 5 e 1% de probabilidade são 7,82 e 11,32, respectivamente. Sendo o valor de χ²r calculado maior que os valores da tabela de χ², rejeita-se a hipótese nula (H0) e aceita a hipótese alternativa (H1). Ou seja, a profundidade de 21-30 cm tem uma maior concentração do poluente que as demais profundidades avaliadas, nas áreas onde foram coletadas amostras. 8 Correlação Linear A correlação linear é utilizada para verificar, num determinado conjunto, a de-pendência entre duas séries de variáveis. Trata-se de um valor abstrato que dá uma idéia sobre a dependência entre os dados apresentados. A correlação pode ser denominada positiva ou negativa. Quando positiva há a variação positiva da variável dependente (Y), quando há variação positiva da variável independente (X) vice-versa. Quando negativa há a variação negativa de Y, quando há variação positiva de X e vice-versa.

8.1 Coeficiente de Correlação (r) O coeficiente de correlação e designado pela letra r . Pode ser utilizado para da-dos normais (Correlação de Pearson) e para dados não normais (Correlação de Spear-man).

8.1.1 Correlação de Pearson

Utilizado na análise de dados que possuem distribuição normal.

( ) YX ss1nn

YXXY

r××−

×−

=∑

∑ ∑

Onde: r= coeficiente de correlação de Pearson; ΣXY = soma dos produtos entre os valo-res de X e Y; ΣX x ΣY= produto da soma dos valores de X e Y; n = número de amostras de X e Y; sX e sY= desvios padrões de X e Y

8.1.2 Correlação de Spearman

Este coeficiente de correlação baseia-se no rank dos valores X e Y e é largamen-te utilizado em analise de correlação e dados não paramétricos.

nn

d 61r

3

2i

s −−= ∑

Onde: rs= coeficiente de correlação de Spearman; d1 = é a diferença entre cada valor X e cada valor Y correspondente; n = número de pares de dados.


33

Exemplo:

Tabela 5. Correlação de Spearman entre as notas brutas de matemática e biologia (Zar, 1999).

Estudante Notas de Matemática

Rank de X i

Notas de Biologia

Rank de Y i

di di2

1 57 3 83 7 –4 16 2 45 1 37 1 0 0 3 72 7 41 2 5 25 4 78 8 84 8 0 0 5 53 2 56 3 –1 1 6 63 5 85 9 –4 16 7 86 9 77 6 3 9 8 98 10 87 10 0 0 9 59 4 70 5 –1 1 10 71 6 59 4 2 4

Total 72 n= 10; Σdi

2=72 ( )

5636,04364,01990

4321

101000

4321

1010

72 61r

3s ∴−∴−∴−

−∴−

−=

Para verificar se há significância na correlação

8.1.3 Aspectos Gerais da Correlação Linear

Os valores de r variam entre -1 (associação negativa completa) e +1 (associação positiva completa). Quando um valor é significativo, através do teste de t para r, é apre-sentado de forma negativa dizemos que a correlação é negativa e significativa, caso o valor seja positivo, dizemos que a correlação é positiva e significativa. Para melhor entender melhor a explanação anterior, deve-se ter em mente que a variável Y é quem sofre variação em função de X. Assim sendo, quando um valor é negativo, quer dizer que com o aumento dos valores de X, Y diminuem e quando o va-lor é positivo, existe uma proporcionalidade direta entre as variáveis, ou seja, quando aumenta os valores de X aumenta os valores de Y (Figura 8).

0

0,5

1

1,5

2

2,5

3

0 20 40 60

A

0

0,5

1

1,5

2

2,5

3

0 20 40 60

B

Figura 8. Correlação linear simples positiva (A); e inversa ou negativa (B), apresentan-do a linha de tendência de regressão linear simples de dados fictícios.

A utilização de um ou outro coeficiente dependerá da normalidade dos dados (veja o tópico Teste de Normalidade dos Dados, p.22).


34

8.2 Coeficiente de Determinação (r²) Ao valor encontrado de r elevado ao quadrado (r²) denomina-se coeficiente de determinação. Este coeficiente expressa a porcentagem de variação dos valores de Y em função do valor X. Por exemplo, o valor r² encontrado em determinada análise é igual a 0,30. Sendo r²= 0,30, logo 30% da variação de Y são atribuídas a X.

8.3 Coeficiente de Alienação (K) Este coeficiente é função do coeficiente de correlação, expresso pela fórmula:

2r1K −= Este coeficiente exprime a ausência de relação entre X e Y. Por exemplo, r²= 0,30.

8367,0K 70,0K 30,01K =∴=∴−=

Desta forma, concluímos que há mais ausência de relação do que intensidade de relação entre X e Y.

8.4 Significância do Teste de Correlação Existem basicamente duas formas de verificar a significância do var r, a mais simples baseia-se simplesmente nos intervalos de valores de r, a outra considera o teste t, conhecido como teste t para r.

8.4.1 Significância Baseada nos Intervalos

A classificação é simples e basea-se nas

Tabela 6 e Tabela 7, que acordo com a necessidade de com uma maior precisão intervalar (

Tabela 6) pode ser utilizada um ou outra tabela.

Tabela 6. Classificação do valor r através de intervalos de 0 a 1.

Intervalo Significância 0,0 – 0,20 Correlações nulas 0,21 – 0,40 Correlações fracas 0,41 – 0,70 Correlações substâncias 0,71 – 0,90 Correlações fortes 0,91– 1,0 Correlações extremamente Fortes

Tabela 7. Classificação do valor r através de intervalos de acordo com e Teste de Rugg.

Intervalo Significância r < 0,15 r desprezível

0,15 < r < 0,29 r baixo 0,30 < r < 0,49 r apreciável

r >0,50 r acentuado

A significância das tabelas acima poderá ser utilizada tanto na correlação de Pe-arson, quanto na de Spearmann.


35

8.4.2 Significância Baseada no Teste t para r (Pearson)

O teste de t para r é calculado através da seguinte equação:

2nr1

rt

2r −×−

=

Para este teste compara-se o valor de tr calculado com o valor de t, na Tabela 11 (p, 44), com n-2 graus de liberdade. 9 Análise de Regressão É freqüente o estudo da relação entre duas séries de variáveis. Por exemplo, o peso de crianças de acordo coma dieta oferecida em diferentes dosagens. Sabe-se que determinadas dietas têm interferência no ganho ou na redução do peso de indivíduos da raça humana. Portanto há um interesse de expressar essa relação sob a forma matemáti-ca, através da apresentação de uma função. Para identificação de uma possível correlação entre séries de variáveis, torna-se bastante eficaz a construção de um diagrama que se obtém em sistemas de eixos cartesi-anos. Hoje em dia os programas (softwares) de planilha de cálculo e de estatística, fornecem a equação da reta ou de outro tipo de regressão que se queira plotar. Desta forma, basta organizar os dado de forma correta e selecionar a criação de um gráfico de dispersão, para verificar a com o próprio nome diz, a dispersão dos dados de Y em fun-ção de X. A mostra como montar uma série de dados para criação de um gráfico de dis-persão no Microsoft Excel.

Tabela 8. Série de dados da correlação da flutuação populacional do pulgão Toxoptera aurantii (Homoptera, Aphididae) em função da brotação foliar de tangerina cv Poncã, sob cultivo orgânico na Fazendinha Agroecológica, no período de outubro de 2002 e outubro de 2003 (Extraído de Rodrigues, 2004). Exemplo para o Microsoft Excel.

A B C D E F G H I J L M 1 2 0,00 20,00 40,00 40,00 60,00 0,00 30,00 50,00 100,00 100,00 100,00 3 T. a 0,00 5,00 7,50 2,50 2,50 0,00 2,50 10,00 12,50 25,00 60,00

4 Para criação do gráfico de dispersão basta selecionar os dados das linhas 2 e 3 (Tabela 1) e selecionar o menu Inserir � Gráfico e selecionar o gráfico Dispersão (XY) em seguida clique em Avançar > para configurar o gráfico ou em Concluir para finali-zar a criação. Após criar o gráfico selecione um dos pontos e em seguida clique no bo-tão direito de mouse e selecione a opção Adicionar linha de tendência... Será exibida uma janela com mostra a Figura 9. O tipo de linha será de acordo com a equação que melhor de adeqüei a distribuição dos dados, lembrando que um evento biológico somen-te poderá ser explicado até uma equação de segundo grau, ou seja, caos opte por linha do tipo polinomial a ordem para eventos biológicos deverá ser 2.. A exibição da equação e do valor de R² é feita através da seleção da Aba Op-ções, selecionando a caixa de seleção:

Exibir equação no gráfico Exibir valor de R-quadrado no gráfico


36

Figura 9. Janela de configuração da linha de ten-dência (linha de regressão) e configuração da equação de re-gressão no Mi-crosoft Excel.

9.1 Regressão Linear Simples

Neste tipo de regressão é possível verificar a associação entre as séries de dados, plotar a linha e a equação da reta de duas variáveis, X independente e Y dependente.

y = 0,3095x - 2,3472

R2 = 0,3984

-10

0

10

20

30

40

50

60

70

0 20 40 60 80 100 120

T. aurantii

Figura 10. Regressão li-near simples entre a flutu-ação populacional de T. aurantii e a brotação foliar de tangerina cv. Poncã, em cultivo orgânico de tange-rina cv. Poncã, na Fazen-dinha Agroecológica, no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues, 2004).

9.2 Regressão Linear Múltipla Este tipo de regressão possibilita a associação de uma variável dependentes (Z), com duas variáveis independentes (X e Y), neste caso uma das varáveis independentes (X) poderá parcialmente interferir na outra variável independente (Y). Como pode ser visto na Figura 11.


37

Figura 11. Correlação múltipla da amplitude térmica (variável x), brotação (variável y) e a flutuação populacional de Toxoptera citricida (variável z), em cultivo orgânico de tangerina cv. Poncã, na Fazendinha Agroecológica, no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues, 2004).

9.3 Regressão Múltipla

Neste tipo de regressão é possível verificar a associação entre as séries de dados, plotar a linha de tendência polinomial e a equação de segundo graus das duas variáveis, X independente e Y dependente.

y = 0,0046x2 - 0,2141x + 7,1984

R2 = 0,4695

0

10

20

30

40

50

60

70

0 20 40 60 80 100 120

T. aurantii

Figura 12. Regressão múltipla entre a flutuação populacional de T. auran-tii e a brotação foliar de tangerina cv. Poncã, em cultivo orgânico de tange-rina cv. Poncã, na Fazen-dinha Agroecológica, no período de outubro de 2002 a outubro de 2003 (Adaptado de Rodrigues, 2004).

10 Transformação de Dados Para uma aplicação válida dos testes de significância, baseados nas propriedades das curva normal, é necessário que o dados tenham uma distribuição normal (Figura 4, Figura 5 e Figura 6). As porcentagens, as contagens e as notas dadas a certas caracterís-ticas qualitativas, exigem quase sempre essa transformação. Vamos apresentar nesta apostila algumas das principais transformações de dados empregadas na normalização dos dados e as situações que cada uma se aplica.


38

10.1 Raiz Quadrada Essa transformação é utilizada quando a variância e proporcional a média, ou seja, quando há uma redução dos valores de média e variância diminui simultaneamen-te. É freqüentemente utilizado em dados biológicos quando amostras são tiradas da dis-tribuição de Poisson (isto é, quando os dados consistem em ocorrências aleatórias de objetos ou eventos). Transformando os dados utilizando suas raízes quadradas resulta em uma amostra cuja distribuição é normal. As equações normalmente utilizadas são:

x'xou 1x'xou 5,0x'x =+=+= , sendo a primeira mais utilizada.

O dados que se recomenda utilizar este tipo de transformação são dados de per-centagens e contagens (números inteiros).

10.2 Transformação Logarítimica Este transformação é utilizada principalmente quando as médias e os desvios padrões (erros), tendem a serem proporcionais, sendo, nesse caso, os coeficientes de variação aproximadamente iguais. É utilizada, ainda, quando os dados são representados por números positivos, ou porcentagens que abrangem uma grande amplitude de varia-ção. Quando aparece o valor zero, utiliza-se a transformação x' = log (x+1). A base 10 para os logaritmos é utilizada normalmente, por conveniência, porém qualquer outra base poderá ser utilizada, desde que, seja especificada.

10.3 Transformação Angular (Arcoseno) Essa transformação é utilizada quando os dados estão associados a uma distribu-ição binomial (presença-ausência), como muitas vezes que um determinado caráter apa-rece num total definido. É o caso, por exemplo, do número de plantas sobreviventes em relação ao número total de plantas que deveriam estar presentes se nenhuma tivesse morrido após a poluição de um determinado solo. Os dados são transformados em per-

centagens e, em seguida, são calculados os valores através da fórmula %arcsen'p = , utilizando-se uma tabela apropriada. Nesse tipo de transformação, todos os dados deve-riam estar baseados em um número de observações iguais, mas o método pode também ser utilizado quando esse número não é rigorosamente igual é sugerido na literatura que valores de 0 e 100%, sejam substituídos por ¼n e 100- ¼n, respectivamente, antes de entrar na tabela.

10.4 Considerações Gerais Quando é utilizada uma transformação de dados, todas as comparações entre médias são realizadas na escala transformada. Quando se achar preferível não se apre-sentar os resultados na escala transformada, os dados finais devem ser transformados novamente para escala original. Por exemplo, elevar ao quadrado os valore submetido à transformação de raiz quadrada. 11 Testes Específicos Para Análise de Populações e Comunidades

11.1 Índice de Diversidade e Dominância Populacional Existe uma série de índice de diversidade, que podem ser utilizados em diversas situações. A medida mais simples de diversidade de espécie é o número de espécie (s), ou a riqueza de espécie. Vários índices de diversidade foram propostos que incorporam am-bos S e N, o número total de indivíduos em todas as espécies (Brower et al. 1997).


39

Quando o índice de diversidade diminui, indica que há competição interespecífi-ca e que o local é menos diversificado, tendendo a dominância de uma determinada es-pécie, porém quando há um aumento deste índice, há um indicativo de que o local é bastante diversificado, mesmo que o número de indivíduos seja reduzido.

11.1.1 Índice de Margalef (α)

Este índice foi proposto por Margalef (1951) e tem como objetivo estimar o nú-mero de espécies e o número de indivíduos de uma comunidade. Este índice é dado pela fórmula abaixo:

N log

1−= Sα

Onde: S: Número de espécies levantadas; N: Número de indivíduos total

11.1.2 Índice de Glason (Dg)

É semelhante ao índice anterior, porém considera todas as espécies da amostra.

N log

SDg =

Onde: S = Número de espécies levantadas e N = Número de indivíduos total

11.1.3 Índice de Menhinick (Dm)

Este índice é semelhante aos dois anteriores, entretanto utiliza a raiz quadrada do número de indivíduos total de cada amostra, numa tentativa de normalizar os dados.

N

SDb =

Onde: S = Número de espécies levantadas e N = Número de indivíduos total

11.1.4 Índice de Shanon-Wiener (H')

É considerado o índice de diversidade mais completo, pois além de considerar o número de espécies, considera a proporção de cada espécie em relação ao todo. Norma-lizando os dados e diminuindo a probabilidade de erro dos cálculos.

∑ ×= i'i p log p - 'H

Onde: p = proporção da espécie em relação ao número total de indivíduos

11.1.5 Índice de Dominância Berger-Parker (d)

Este índice estima a dominância dentro de uma comunidade, ou seja, verifica se há ou não dominância de uma determinada espécie numa comunidade.

total

Max

N

N=d

Onde: NMax= é o número de indivíduos da espécie mais abundante e NTotal= é total de indivíduos amostrados.

11.2 Exemplo O exemplo hipotético abaixo da diversidade de cochonilhas em agroecossistema cítrico ilustra os índices de diversidade das cochonilhas de um pomar de citros.


40

Tabela 9. Índices de diversidade de cochonilhas em agroecossiema cítrico. Período S N αααα Dg Dm

1994 10 268 1,609 4,118 0,611 1995 10 235 1,648 4,218 0,652 1996 10 323 1,557 3,985 0,556 1997 10 435 1,481 3,790 0,479

Média 10 !Configuração não

válida de caractere

1,574 4,045 0,575

11.3 Índice de Similaridade entre Populações

11.3.1 Quociente de Similaridade

O objetivo deste quociente é verificar a similaridade entre duas comunidades ou habitat, no que se refere a composição específica (espécies). Existem duas fórmulas para calcular o QS propostas por Jaccard (1912) e Sorensen (1948), que são as seguintes:

Jaccard �� ( )jba

jQS

−+=

Sorensen �� ( )ba

jQS

+= 2

Onde: a = Número de espécies presente no habitat ou comunidade A, ou número de le-vantamentos com a espécie a; b = Número de espécies presente no habitat ou comuni-dade B; ou número de levantamentos com a espécie b e j = Número de espécies presen-te nos dois habitats ou comunidades ou número de levantamentos contendo, simultane-amente, as duas espécies.

11.3.2 Porcentagem de Similaridade

Expressa os resultados semelhantes ao do Quociente de Similaridade, porém leva em conta não somente a composição das espécies, como também o número de in-divíduos, pois se calcula pelo somatório dos menores valores das percentagens observa-das de cada espécies em relação ao total de indivíduos, nas duas comunidades (South-wood, 1971).

( )∑ ++++= n % ... c %b %a % % S

Onde: % a = menor porcentagem da espécie a observada no confronto das comunida-des; % b = idem, para espécies b; % c = idem, para espécies c e % n = idem, para espé-cies n.

Tabela 10. Duas comunidades com sua composição de espécies em percentagem

Espécies Comunidade a b c d

A 15 35 27 23 B 33 14 36 17

A partir dos dados da Tabela 10, podemos calcular a %S:

( ) %73 %17271415 % =∴+++= SS


41

11.3.3 Índice de Afinidade

Este índice estima a freqüência com que duas espécies ocorrem simultaneamente em determinada comunidade ou habitat. Foi proposto por FAGER (1957). É dado pela fórmula:

BAAB nn

jI

+= 2

Onde: nA = Número de ocorrência da espécie A; nB = Número de ocorrência da espécie B e j = Número de ocorrência conjunta das espécies A e B; Os valores mínimos de j significativos a 0,5% de probabilidade são dados na Tabela 15, p. 46.

11.3.4 Constância

Este parâmetro indica a percentagem de uma determinada espécie em relação a todos os levantamentos realizados. É dado pela fórmula:

N

nC

100×=

Onde: n = Número de coletas contendo a espécies em estudo e N = Número total de coletas realizadas. A Constância de uma espécie poderá ser classificada da seguinte forma: a) Espécies constantes – presentes em mais de 50% dos levantamentos; b) Espécies acessórias – presentes entre 25–50% dos levantamentos; c) Espécies Acidentais – Presentes em menos de 25% dos levantamentos.

11.3.5 Índice de Associação (IA)

Verifica o índice de o nível de associação existente entre duas espécies, baseia-se no total do número de indivíduos de ambas as espécies que ocorrem simultaneamente nos levantamentos realizados.

5,0−+

=BA

JIA

Onde: A = Número total de indivíduos da espécie A coletados ou amostrados em todos os levantamentos; B = Idem, para espécies B e J = Número de indivíduos da espécie A e B nos levantamentos em que ocorrem simultaneamente. A significância de j pode ser observada através da Tabela 15, p. 46.


42

12 Bibliografia Arango, H.G. 2001. Bioestatística Teórica e Computacional. Rio de Janeiro: Guanabara

–Koogan, 235p. Beiguelman, B. 2002. Curso prático de bioestatística. Ribeirão Preto: FUNPEC, 5ª Ed.,

272p. Berger, W.H. & Parker, F.L. 1970. Diversity of Planktonic Foraminifera in Deep-Sea

sediments. Science, 168: 1345-1347. Brower, J.E.; Zar, J.H. & von Ende, C.N. 1998. Field and Laboratory Methods for

General Ecology. Quebecor: MC Graw Hill, 4th ed., 273p and software included. Centeno, A.J. 2002. Curso de Estatística Aplicada à Biologia. Goiânia (Coleção Didáti-

ca, 3): Ed. Da UFG, 2ª ed., 2ª reimpr. 234p. Clark, L.R.; Geier, P.W.; Hughes, R.D. & Morris, R.F. 1967. The Ecology of insect

Populations in Theory and Practice. Methuen & Co., London. 232p. Dauber, J.; Hirsch. M.; Simmering, D.; Waldhardt, R.; Otte A. & Wolters, V.

2003. Landscape structure as an indicator of biodiversity: matrix effects on species richness. Agriculture, Ecosystems and Environment, 98: 321-329.

Fager, E.W. 1957. Determination and analysis of recurrent groups. Ecology, 38:586-595.

Gomes, F.P. 1990. Curso de Estatística Experimental, Piracicaba: Nobel, 13ª ed (revista e ampliada), 467p.

Jaccard, P. 1912. The distribution of the flora in the alpine zone, NeroPhytal. 11:37-50. Lara, F.M. 1992. Princípios de Entomologia. Ed. ícone, 3ª ed. 331 p. Laroca, S. 1995. Ecologia: princípios e métodos: Petrópolis: Vozes, 197p. Levine, D.M.; Berenson, M.L & Stephan, D. 2000. Estatística: teoria e Aplicações

usando Microsoft® Excel em português. Souza, T.C.P (Trad.). Rio de Janeiro: LTC. 811p.

Lewinsohn, T.M & Prado, P. I. K.L. 1997.O uso de análise multivariadas ecológicas em estudos ambientais interdisciplinares. Caderno V, Campinas: UNICAMP, 43p.

Magnusson, W. E. & Mourão, G. 2003. Estatística [Sem] Matemática: A ligação entre as questões e a análise. Londrina: Planta. 126p.

Mulekar, M.S. & Mishra, S.T. 2000. Confidence interval estimation of overlap: equal means case. Computational Statistics & Data Analysis, 34: 121-137.

Rey, L. 2000. Planejar e redigir trabalhos científicos, São Paulo: Edgard Blücher, 2ª ed. (revista e ampliada), 318p.

Rodrigues, P.C. 2002. Bioestatística. Niterói: EdUFF. 3ª ed. 339p. Rodrigues, W.C. 2004. Homópteros (Homoptera: Sternorrhyncha) associados à tange-

rina cv. Poncã (Citrus reticulata Blanco) em cultivo orgânico e a interação com predadores e formigas. Seropédica, UFRuralRJ. 63f. Tese de Doutorado.

Siegel, S. 1979. Estatística não paramétrica. São Paulo: MC Graw Hill do Brasil. 169p. Silveira Neto, S.; Nakano, O; Barbin, D. & Villa Nova, N. A. 1976. Manual de Eco-

logia de Insetos. Ed. Agronômica Ceres, 419 p. Sorensen, T. 1948. A method of establishing groups of equal amplitude in plant sociol-

ogy basead an similarity of species. Biol. Skr. 5:1-34 Southwood, T.R.E. 1971. Ecological Methods. Chapman and Hall Ltd., 391p. Vanzolini, P.E.1993. Métodos estatísticos elementares em sistemática zoológica. São

Paulo, Huirtec. 130p. Zar. J.H. 1999. Biostatistical Analysis. New Jersey: Prentice Hall. 4th ed., 663p and

index included.


43

13 Anexos Figura 13. Fluxograma Para Auxiliar na Escolha de Testes Estatísticos

2 Tratamentos > 2 Tratamentos

ANOVATeste F

Dados não Pareados

Dados Pareados

Teste T

Variâncias iguais(Homocedásticas)

S2Maior S2Menor 4

S2Maior S2Menor < 4

Variâncias desiguais(Heterocedásticas)

Calcula Variância Ponderada

Calcula Valor T

Conclui textualmente

Compara com T tabelado ( =5%)

Se Tcalc TtabRejeita H0Coloca *

Se Tcalc < TtabAceita H0Coloca ns

Compara com T tabelado ( =1%)

Se Tcalc TtabColoca **

Se Tcalc < TtabMantém*

2 Tratamentos

Dados Numéricos divididos em Categorias

Teste 2

(Qui-Quadrado)

Calcula Valor 2

Compara com valor 2 Tabelado

( = 5%)

Não dividido em blocos

(Amostras compostas)

Dividido em Bloco

Teste de Kruskal-Wallis

Teste de Friedman

Calcula Valor H Calcula Valor 2r

Dados com Distribuição Não NormalDados com Distribuição Normal

Não será

abordado

Se 2calc < 2tabAceita H0Coloca ns

Se 2calc 2tabRejeita H0Coloca *

Compara com 2

tabelado ( =1%)

Se 2calc 2tabColoca **

Se 2calc < 2tabMantém *


44

Tabela 11. Valores de t -student em níveis de 5% e 1% (α=0,05 a 0,01) de probabilida-de3.

Grau de liberdade 5% (αααα=0,05) 1% (αααα=0,01) 1 12,71 63,66 2 4,30 9,92 3 3,18 5,84 4 2,78 4,60 5 2,57 4,03 6 2,45 3,71 7 2,36 3,50 8 2,31 3,36 9 2,26 3,25 10 2,23 3,17 11 2,20 3,11 12 2,18 3,06 13 2,16 3,01 14 2,14 2,98 15 2,13 2,95 16 2,12 2,92 17 2,11 2,90 18 2,10 2,88 19 2,09 2,86 20 2,09 2,84 25 2,06 2,79 30 2,04 2,75 50 2,01 2,68 100 1,98 2,63 500 1,96 2,59 ∞ 1,96 2,58

3 A tabela completa poderá ser encontrada em Gomes (1990) e Levine et al. (1998).


45

Tabela 12. Valores de χχχχ² (Qui-quadrado) em níveis de 5% e 1% (α=0,05 a 0,01) de probabilidade4.

Grau de Liberdade 5% (αααα=0,05) 1% (αααα=0,01) 1 3,84 6,64 2 5,99 9,21 3 7,82 11,34 4 9,49 13,28 5 11,07 15,09 6 12,59 16,81 7 14,07 18,48 8 15,51 20,09 9 16,92 21,67 10 18,31 23,21 11 19,68 24,72 12 21,03 26,22 13 22,36 27,69 14 23,68 29,14 15 25,00 30,58 16 26,30 32,00 17 27,59 33,41 18 28,87 34,80 19 30,14 36,19 20 31,41 37,57 21 32,67 38,98 22 33,92 40,29 23 35,17 41,64 24 36,42 42,98 25 37,65 44,31 26 38,88 45,64 27 40,11 46,96 28 41,34 48,28 29 42,30 49,60 30 43,77 50,89 31 44,99 48,23 32 46,19 49,49 33 47,40 54,78 34 48,60 56,06 35 49,80 57,34 36 50,99 58,62 37 52,19 59,89 38 53,38 61,16 39 54,57 62,43 40 55,76 63,69

4 A tabela completa poderá ser encontrada em Gomes (1990) e Levine et al. (1998).


46

Tabela 13. Valores críticos para o Coeficiente de Correlação de Spearman (rs) 5

n αααα(2) 0,50 0,10 0,05 0,01 4 0,600 1,000 – – 5 0,500 0,900 1,000 – 6 0,371 0,829 0,886 1,000 7 0,321 0,714 0,786 0,929 8 0,310 0,643 0,738 0,881 9 0,267 0,600 0,700 0,833 10 0,248 0,564 0,648 0,794 11 0,236 0,536 0,618 0,755 12 0,217 0,503 0,587 0,727 13 0,209 0,484 0,560 0,703 14 0,200 0,464 0,538 0,679 15 0,189 0,446 0,521 0,654 16 0,182 0,429 0,503 0,635 17 0,176 0,414 0,485 0,615 18 0,170 0,401 0,472 0,600 19 0,165 0,391 0,460 0,584 20 0,161 0,380 0,447 0,570 21 0,156 0,370 0,435 0,556 22 0,152 0,361 0,425 0,544 23 0,148 0,353 0,415 0,532 24 0,144 0,344 0,406 0,521 25 0,142 0,337 0,398 0,511 30 0,128 0,306 0,362 0,467 35 0,118 0,283 0,335 0,433 40 0,110 0,264 0,313 0,405 45 0,103 0,248 0,294 0,382 50 0,097 0,235 0,279 0,363 55 0,093 0,224 0,266 0,346 60 0,089 0,214 0,255 0,331 65 0,085 0,206 0,244 0,318 70 0,082 0,198 0,235 0,307 75 0,079 0,191 0,227 0,297 80 0,076 0,185 0,220 0,287 85 0,074 0,180 0,213 0,279 90 0,072 0,174 0,207 0,271 95 0,070 0,170 0,202 0,264 100 0,068 0,165 0,197 0,257

5 A tabela completa poderá ser consultada em Zar (1999).


47

Tabela 14. Valores para transformação %arcsen 6

% 0 % 0 % 0 % 0 0,0 0 21 27,28 51 45,57 81 64,16 0,1 1,81 22 27,97 52 46,15- 82 64,90 0,2 2,56 23 28,66 53 46,72 83 65,65 0,3 3,14 24 29,33 54 47,29 84 66,42 0,4 3,63 25 30,00 55 47,87 85 67,21 0,5 4,05+ 26 30,66 56 48,45- 86 68,03 0,6 4,44 27 31,31 57 49,02 87 68,87 0,7 4,80 28 31,95- 58 49,60 88 69,73 0,8 5,13 29 32,58 59 50,18 89 70,63 0,9 5,44 30 32,21 60 50,77 90 71,56 1 5,74 31 33,83 61 51,35+ 91 72,54 2 8,13 32 34,45- 62 51,94 92 73,57 3 9,98 33 35,06 63 52,53 93 74,66 4 11,54 34 35,67 64 53,13 94 75,82 5 12,92 35 36,27 65 53,73 95 77,08 6 14,18 36 36,87 66 54,33 96 78,45 7 15,34 37 37,47 67 54,94 97 80,02 8 16,43 38 38,06 68 55,55+ 98 81,87 9 17,46 39 38,65- 69 56,17 99,0 84,26 10 18,44 40 39,23 70 56,79 99,1 84,56 11 19,37 41 39,82 71 57,42 99,2 84,87 12 20,27 42 40,40 72 58,05+ 99,3 85,20 13 21,13 43 40,98 73 58,69 99,4 85,56 14 21,97 44 41,55+ 74 59,34 99,5 85,95- 15 22,79 45 42,13 75 60,00 99,6 86,37 16 23,58 46 42,71 76 60,67 99,7 86,86 17 24,35+ 47 43,28 77 61,34 99,8 87,44 18 25,10 48 43,85 78 62,03 99,9 88,19 19 25,84 49 44,43 79 62,72 100,0 90,00 20 26,56 50 45,00 80 63,44 - -

Os sinais (+) e (-), seguindo ângulos terminados em 5, são orientações para arredondamento a uma deci-mal.

6 A tabela completa poderá ser consultada em Zar (1999).


48

Tabela 15. Valores mínimos de j, significativos a 0,5% (Southwood, 1971).

nB/na nA 1,0 1,5 2,0 5 5 5 – 6 5 6 6 7 6 7 7 8 7 8 8 9 7 8 9 10 8 9 10 20 14 16 17 30 19 22 24 40 25 29 32 50 29 35 39 60 36 42 46 70 41 48 53 80 46 55 59 90 52 61 67 100 57 67 74


49

************* O minuto que você está vivendo agora é o mais importante de sua vida, onde quer que

você esteja. Preste atenção ao que está fazendo.

O ontem já lhe fugiu das mãos. O amanhã ainda não chegou.

Viva o momento presente, porque dele depende todo o seu futuro. Procure aproveitar ao máximo o momento que está vivendo, tirando todas as vantagens

que puder, para seu aperfeiçoamento. C. Torres Pastorinho

Minutos da Sabedoria, p. 154 *************

Education

Estat ambiental 2008