• Nenhum resultado encontrado

ANÁLISE DE BANCO DE ITENS ATRAVÉS DE MODELAGEM RASCH: UMA VALIDAÇÃO DO CONSTRUTO

4 DESCRIÇÃO DO ESTUDO

4.2 COLETA E TRATAMENTO DOS DADOS

Após a preparação dos três testes de conhecimento, realizamos os primeiros contatos com os professores parceiros a partir de uma carta convite entregue em cada uma das quatro unidades escolares colaboradoras.

Conforme agendamento com cada professor, os estudantes foram submetidos, em sala de aula, a um dos três questionários previamente elaborados e respondidos individualmente em 50 min. As unidades de análise correspondem às respostas de 237 estudantes que participaram desta etapa da pesquisa.

O Quadro 9 exibe um recorte de uma das planilhas geradas a partir do processo de transcrição das respostas dos estudantes. Nesta tabela são expostas as respostas tabuladas de 5 estudantes, para 8 itens distintos. Com o propósito de garantir o sigilo sobre a identificação dos estudantes (E) participantes, foi criado um sistema de rubrica que permite os pesquisadores reconhecer a instituição de ensino, o curso técnico (caso haja), a turma e um número de ordem atribuído a cada sujeito da pesquisa.

Para avaliar os diferentes níveis de entendimento explicitados pelos estudantes nos itens de natureza dissertativa, construímos uma escala fundamentada em teoria que versa sobre o desenvolvimento cognitivo do indivíduo.

Quadro 9. Exemplo de planilha gerada durante o processo de tabulação de dados

PESSOAS VF1A VF1B VF1C VF1D A4 A10 ME1 ME2

EICQA-1 V V V F

Verdadeira. Porque a parte inferior tem que ser maior para que a barragem não quebre, pois se for menor

ela quebra

E D

EICQA-2 V V F F

Verdadeiro. Pois a parte inferior tem que ser mais longa, devido ao constante

movimento da água e já a parte superior nem tanto.

D B

EICQA-3 V V V V Verdadeiro D A

EICQB-7 V V V F

Verdadeira porque a pressão varia devido a altura de onde se está; portanto, a pressão

na base da barragem é maior, e é por isso que ela é

mais larga para que a barragem não rompa devido

a pressão

E=160N, direção vertical, sentido

para cima D D

ECERB-1 V V F V

Verdadeira. Pois a barragem está adequadamente como

deveria. A parte superior é menos larga, mas é comprida o suficiente O material não irá flutuar, pôs o peso e estrutura não favorece seu empuxo B D

Fonte: Dados da pesquisa

Construção do sistema de categorias

Neste trabalho, a taxonomia aplicada para avaliar o entendimento que os estudantes demonstraram ao responderem itens de natureza discursiva, pressupõe a existência de níveis de complexidade hierárquica do atributo. Tal estrutura subentende a concepção de que o entendimento progride de maneira não linear a partir da influência de fatores internos e externos ao sujeito, a citar: a familiaridade com o conteúdo, o repertório, suporte social, o estado emocional e cognitivo, dentre outros (FISCHER, 1980, 2006). Nesse processo, habilidades de naturezas distintas vão se desenvolvendo e integrando as estruturas cognitivas do sujeito, fazendo com que níveis de entendimento cada vez mais complexos e sofisticados possam emergir. Essa interpretação teórica está pautada na Teoria de Habilidades Dinâmicas - TDH (FISCHER, 1980, 2006), uma teoria neopiagetiana que modela o desenvolvimento cognitivo em estágios.

Com base nessa perspectiva teórica, concebemos a aprendizagem como a evolução temporal do entendimento. Para identificar tal evolução, é preciso constituir critérios que possibilitem a comparação entre a medida de entendimento em uma

série temporal. Deste modo, é possível avaliar se o entendimento verbalizado pelo indivíduo em um instante ti é hierarquicamente superior ao atributo no momento ti-1. O estabelecimento destes critérios muitas vezes perpassa pela construção de uma taxonomia que permita classificar o nível do entendimento manifestado pelo indivíduo. Pesquisadores como Xavier (2018), Castro (2017), Coelho (2011), Amantes (2009), Rappolt-Schlichtmann (2007) e Dawson-Tunik (2006) utilizam estratégias semelhantes para avaliar o entendimento sob o ponto de vista de níveis de desenvolvimento segundo a TDH. Nesse estudo apresentamos um sistema categórico fundamentado na estrutura de complexidade hierárquica da TDH, elaborado para categorizar as respostas dos itens abertos, ferramenta semelhante às desenvolvidas pelos autores supracitados.

O sistema categórico

As categorias do sistema elaborado abrangem tanto os conteúdos científicos envolvidos no fenômeno físico em estudo quanto o nível de complexidade em que o entendimento sobre tais conteúdos podem ser analisados. A resposta para uma questão de caráter politômico que envolve determinado conteúdo pode atender uma, e somente uma, das n categorias que constituem tal questão. Assim, cada uma das categorias corresponde a um item de natureza dicotômica (a resposta satisfaz ou não a categoria k). No Quadro 10 apresentamos uma questão discursiva e seu respectivo sistema categórico.

Embora as categorias explicitem níveis de entendimento, elas não refletem a ideia de estágios de desenvolvimento conforme é estabelecido na TDH. Assim como neste exemplo, os sistemas categóricos das demais questões foram construídos de forma que a categoria ki aglutinasse características do item ki-1 à novas estruturas, constituindo-se em uma categoria hierarquicamente mais complexa que o item anterior, semelhante à escala Guttman.

Quadro 10. Exemplo de planilha questão discursiva e a descrição das categorias correspondentes

Questão discursiva Nível de complexidade Descrição da categoria

A6. Uma bexiga quando está cheia com ar dos nossos pulmões e é solta, ela executa um movimento que acaba levando-a ao solo. Porém, se enchermos a mesma bexiga com certo gás, como o hélio, por

exemplo, mantendo o

mesmo volume que na

situação anterior, o

movimento da bexiga é ascendente. O que se pode concluir a respeito deste fato?

NÍVEL 0 Resposta completamente equivocada

NÍVEL 1

Identifica a densidade como a grandeza que produz a diferença no

comportamento dos gases sem explicitar qual deles apresenta maior densidade; ou, caso apresente, pode expressar inconsistências na indicação

de qual dos gases apresenta maior densidade

NÍVEL 2

Identifica a densidade como grandeza que produz a diferença no comportamento dos gases, explicitando corretamente que o He,

dentre os gases considerados no fenômeno, apresenta menor densidade

NÍVEL 3

Identifica a densidade como grandeza que produz a diferença no comportamento dos gases, como também expressa corretamente a relação entre as densidades dos

diferentes gases

NÍVEL 4

Identifica a densidade como grandeza que produz a diferença no comportamento dos gases, como também expressa corretamente a relação entre as densidades dos diferentes gases e explicita aspectos

da ação das forças peso e empuxo

Fonte: Dados da pesquisa

É importante sinalizar que, embora a construção desta taxonomia tenha sido pautada inicialmente em uma orientação teórica, o processo de elaboração deste sistema era retroalimentado pelos dados oriundos dos testes aplicados à amostra de 237 estudantes. Ou seja, a TDH nos orientou na preparação da estrutura do sistema categórico a partir dos níveis hierárquicos de complexidade, e a descrição de cada nível foi pautada no conteúdo. Esta estrutura qualitativa de avaliação foi submetida a um processo de validação por juízes antes de ser aplicada aos dados coletados nesta fase da investigação, o que produziu ajustes no sistema categórico previamente proposto.

Validação do sistema categórico

O sistema categórico construído para avaliar os dados de natureza politômica foi submetido à apreciação de cinco juízes formados em Licenciatura em Física e pesquisadores em Ensino de Ciências que atuam na Educação Básica. O objetivo

desta validação foi verificar a validade da interpretação das respostas de acordo com o sistema elaborado, avaliando para isso o índice de concordância entre as interpretações realizadas pela professora-investigadora e os juízes. Este processo procura mitigar efeitos relativos à subjetividade inerente a avaliação das respostas e garantindo maior neutralidade nas análises.

É importante esse procedimento de validação uma vez que, em uma pesquisa de caráter empírico, faz-se necessário garantir que os produtos de uma análise textual sejam válidos e confiáveis (MORAES, 2003). De acordo com Moraes (2003), o pesquisador pretende refinar a concepção dos fenômenos que investiga a partir de conexões entre os dados empíricos e as teorias que orientam suas interpretações. Ademais, através do conjunto de categorias construídas e das relações entre elas, o pesquisador exercita interlocuções teóricas, bem como a capacidade de abstração e teorização em relação ao fenômeno em estudo. Esse processo pode contribuir para a ampliação do campo teórico, inclusive a partir da proposição de teorias emergentes.

Para realizar tal procedimento, formaram-se três grupos composto por dois juízes, sendo que um dos cinco juízes convidados para participar desta fase da investigação pertenceu a dois grupos distintos. Cada juiz avaliou um conjunto de 5 questões, em que para cada uma delas haviam 10 respostas retiradas do universo de respostas coletadas a partir dos questionários aplicados aos 237 estudantes. Isto significa que 150 respostas no total foram analisadas.

O Quadro 11 exemplifica o material enviado para os cinco juízes. Neste exemplo, expomos apenas uma questão (A6) e uma amostra de cinco respostas apresentadas pelos estudantes.

O índice de concordância entre os avaliadores e os dados atribuídos pela pesquisadora foi determinado através do coeficiente de Kendall. Tal coeficiente é utilizado quando as variáveis são classificadas como consideradas categóricas e ordinais. Portanto, o coeficiente de concordância de Kendall ( ) pode ser empregado para avaliar o grau em que juízes fornecem um ranking comum a um conjunto de objetos (LEGENDRE, 2005).