RESUMO
Introdução:
O ensino baseado em competências no âmbito das residências médicas tornou evidente o descompasso dos processos de avaliação tradicionais com os objetivos educacionais dos projetos pedagógicos alinhados às matrizes de competências de cada especialidade. A matriz de competência para o Programa de Residência em Medicina Intensiva (acesso direto em três anos) foi aprovada em 2021. O objetivo deste artigo é descrever o relato de experiência de um projeto de intervenção nos instrumentos de avaliação de desempenho dos residentes no Programa em Residência em Medicina Intensiva de um hospital público universitário em São Luís, no Maranhão.
Relato de experiência:
Após a organização do grupo de estudo e de trabalho para a intervenção, houve a escolha do objeto “ferramentas de avaliação de competências” e a seleção do Programa de Residência de Medicina Intensiva. Inicialmente, foi aplicado um questionário a todos os médicos preceptores e residentes, com atuação no cenário da unidade de terapia intensiva (UTI), com o objetivo de aferir as percepções deles acerca do instrumento avaliativo vigente, seguindo a pergunta norteadora: “A avaliação atual atende à concepção do programa traduzido pela matriz de competência da Comissão Nacional de Residência Médica?”.
Discussão:
Embora a maioria dos preceptores e residentes tenha considerado que os métodos de avaliação atendiam à concepção do programa, havia pontos frágeis em relação ao feedback e à avaliação de desempenho dos residentes. Como intervenção, propusemos adaptação da ferramenta existente, adequando-a aos desempenhos previstos na matriz de competências da especialidade com formalização do feedback e introdução de avaliação de desempenho em cenário real utilizando o Miniexercício Clínico Avaliativo (Mini-Cex).
Conclusão:
Os limites entre a avaliação e a aprendizagem são tênues. Com base em indicadores sobre a percepção de preceptores e residentes de fragilidades na avaliação utilizada de longa data, foi proposta uma intervenção de modificação dos instrumentos avaliativos com o intuito de adequar/melhorar a avaliação de competências.
Palavras-chave:
Métodos de Avaliação; Residência Médica; Educação Médica; Competência Clínica; Unidade de Terapia Intensiva
ABSTRACT
Introduction:
Competency-based teaching in medical residencies has evidenced the mismatch between traditional assessment processes and the educational objectives of pedagogical projects aligned with the competency matrices of each specialty. The competency matrix for the Intensive Care Medicine Residency Program (3-year direct admission) was approved in 2021. The objective of this article is to describe an experience report of an intervention project in the performance assessment instruments of residents attending the Intensive Care Medicine Residency Program at a university hospital in São Luís-Maranhão.
Experience Report:
After organizing the study and working group for the intervention, the object “skills assessment tools” was chosen and the Intensive Care Medicine Residency Program was selected. Initially, a questionnaire was applied to all preceptors and residents working in the intensive care unit (ICU) setting with the aim of evaluating their perceptions regarding the current assessment tool, following the guiding question: does the current assessment meet the conception of the program translated by the competency matrix of the National Medical Residency Commission?
Discussion:
Although the majority of the preceptors and residents considered that the evaluation methods met the Program design, there were weaknesses in relation to feedback and evaluation of the residents’ performance. As an intervention, we proposed adapting the existing tool, making it adequate to the performance predicted in the specialty competency matrix with formalization of feedback and introduction of performance assessment in a real scenario using the Mini Clinical Assessment Exercise (Mini-CEX).
Conclusion:
The boundaries between assessment and learning are blurred. Based on indicators on the perception of preceptors and residents of weaknesses in the assessment used for a long time, an intervention was proposed to modify the assessment instruments with the aim of adapting/improving the assessment of skills.
Keywords:
Assessment Methods; Medical Residency; Medical Education; Clinical Competence; Intensive Care Unit
INTRODUÇÃO
No ensino médico, as avaliações tradicionalmente buscavam aferir/medir conhecimentos. A mudança em nível mundial do paradigma flexneriano para a formação orientada por competências nas últimas décadas vem no sentido de a educação profissional acompanhar os desafios em saúde em um momento de rápida transição demográfica e epidemiológica, uma vez que um currículo fragmentado e estático geraria profissionais mal preparados para lidar com as necessidades atuais dos pacientes e da população11. Frenk J, et al. Health professionals for a new century: transforming education to strengthen health systems in an interdependent world. Lancet. 2010 Dec 4;376(9756):1923-58. doi: https://doi.org/10.1016/S0140-6736(10)61854-5.),(22. Carracio C, Wolfsthal SD, Englander R, Ferentz K, Martin C. Shifting paradigms: from Flexner to competences. Acad Med. 2002 May;77(5):361-7.. Essa mudança foi expressa no Brasil pelas Diretrizes Curriculares Nacionais (DCN) da graduação médica de 2001, ratificadas em 201433. Brasil. Resolução CNE/CES nº 4, de 7 de novembro de 2001. Institui Diretrizes Curriculares Nacionais do curso de graduação em Medicina. Diário Oficial da União; 9 nov 2001 [acesso em 3 jun 2019]. Disponível em: Disponível em: http://portal.mec.gov.br/cne/arquivos/pdf/CES04.pdf .
http://portal.mec.gov.br/cne/arquivos/pd...
),(44. Brasil. Resolução nº 3 de 20 de junho de 2014. Institui Diretrizes Curriculares Nacionais do curso de graduação em Medicina e dá outras providências. Diário Oficial da União ; 23 jun 2014. Seção 1, p. 8-11 [acesso em]. Disponível em: http://portal.mec.gov.br/index.php?option=com_docman&view=download&alias=15874-rces003-14&category_slug=junho-2014-pdf&Itemid=30192.
http://portal.mec.gov.br/index.php?optio...
, e pela Comissão Nacional de Residência Médica (CNRM) que homologou as matrizes de competências para os programas de residência desde 201855. Brasil. Matrizes de Competências aprovadas pela CNRM. Brasília: Ministério da Educação; 2018 [acesso em 7 jan 2019]. Disponível em: Disponível em: http://portal.mec.gov.br/component/content/article?id=71531 .
http://portal.mec.gov.br/component/conte...
. Para a medicina intensiva, em 2021, houve a sua última modificação, sendo aprovado o acesso direto em três anos66. Brasil. Matrizes de Competências Aprovadas pela CNRM. Medicina Intensiva Acesso Direto 03 anos [acesso em]. Disponível em: https://revisamed.com.br/residencia-medica/wp-content/uploads/2021/06/Matriz_de_Competencias_da_Medicina_Intensiva_ID_FINAL.pdf.
https://revisamed.com.br/residencia-medi...
.
Define-se competência como a interação indissociável de conhecimentos, habilidades e atitudes, compreendendo o uso de conhecimento, comunicação, raciocínio clínico, valores e reflexões na prática diária em benefício do indivíduo e da comunidade. Assim, o aprendizado orientado por competências deve possibilitar a mobilização desses atributos de modo a gerar tomada de iniciativa e responsabilidade diante de uma situação no âmbito profissional77. Epstein RM, Hundert EM. Defining ans assessing professional competence. JAMA. 2002; 287(2):226-32.),(88. Santos WS. Organização curricular baseada em competência na educação médica. Rev Bras Educ Med. 2001;35(1):86-92. Nesse contexto, percebe-se um hiato entre os processos de avaliação tradicionais e os objetivos dos projetos pedagógicos atuais dos programas de residência construídos em sintonia com a respectiva matriz de competência. Nessa perspectiva, os métodos de avaliação têm sido estudados99. Norcini J, Anderson B, Bollela V, Burch V, Costa MJ, Duvivier R, et al. Criteria for good assessment: consensus statement and recommendations from the Ottawa 2010 Conference. Med Teach. 2011;33:206-14.),(1010. Norcini J, et al. 2018 Consensus framework for good assessment. Med Teach . 2018. doi: https://doi.org/10.1080/0142159X.2018.1500016
https://doi.org/https://doi.org/10.1080/...
, destacando-se os testes que aferem não apenas o conhecimento, mas também a compreensão, a análise e a aplicação em situações da vida real1111. Anderson HL, Kurtz J, West D. Implementation and use os workplace-based assessment in clinical learning enviroments: a scope review. Acad Med . 2021;96:S164-74., tendo como base de referência teórica a pirâmide de Miller1212. Miller GE. The assessmet of clinical skills/competence/performance. Acad Med . 1990; 65(9):S63-7.),(1313. Cruess RL, Cruess SR, Steinert Y. Amending Miller’s pyramid to include professional identy formation. Acad Med . 2016;91(2):180-5..
O objetivo deste trabalho é descrever como relato de experiência um projeto de intervenção nos instrumentos de avaliação de desempenho dos residentes em um programa de residência em medicina intensiva de um hospital universitário de São Luís, no Maranhão.
RELATO DE EXPERIÊNCIA
Setting
Trata-se de um complexo hospitalar de referência para a alta complexidade com um total de 550 leitos distribuídos em duas unidades de internação, cujo propósito é “educar para transformar o cuidado”, sendo um hospital de ensino certificado pelo Ministério da Educação e pelo Ministério da Saúde que conta com 28 programas de residência médica e 12 programas de residência multi e uniprofissional.
Formação de grupo de estudo e trabalho
Inicialmente, tendo como intencionalidade qualificar e aperfeiçoar os programas de residência e na perspectiva de agregar novas habilidades/estratégias/ferramentas gerenciais para otimizar a performance dos programas de residência em saúde no âmbito do Hospital Universitário (HU), a instituição indicou um gestor de ensino representante da Comissão de Residência Médica (Coreme), um gestor de ensino representante do Comissão de Residência Multiprofissional e Saúde (Coremu), dois supervisores de programas de residência médica e um tutor da residência multiprofissional para a realização do Programa de Pós-Graduação em Gestão de Programas de Residência do SUS, pelo Programa de Apoio ao Desenvolvimento Institucional do Sistema Único de Saúde (Proadi-SUS). Esse grupo assessorado por facilitador de aprendizagem da referida pós-graduação formou um grupo de estudo e de trabalho em março de 2022, visando construir um projeto de intervenção em um dos programas de residência do HU.
Seleção do problema, causa visada, preparação para a intervenção e escolha do programa
Em um primeiro momento de avaliação de cenário, partiu-se da revisão da literatura da legislação pertinente1414. Brasil. Decreto 80.281, de 5 de setembro de 1977. Regulamenta a Residência Médica, cria a Comissão Nacional de Residência Médica e dá outras providências. Brasília: Presidência da República, 1977 [acesso em]. Disponível em: https://www2.camara.leg.br/legin/fed/decret/1970-1979/decreto-80281-5-setembro-1977-429283-normaatualizada-pe.pdf.
https://www2.camara.leg.br/legin/fed/dec...
),(1515. Brasil. Lei nº 6.932, de 7 de julho de 1981. Dispõe sobre as atividades do médico residente e dá outras providências. Brasília: Presidência da República , 1981 [acesso em]. Disponível em: https://www2.camara.leg.br/legin/fed/lei/1980-1987/lei-6932-7-julho-1981-357276-publicacaooriginal-1-pl.html
https://www2.camara.leg.br/legin/fed/lei...
e de leitura sobre princípios e modelos pedagógicos utilizados em ensino-aprendizagem em saúde1616. Simon E, Jezine E, Vasconcelos EM, Ribeiro KS. Active teaching-learning methodologies and popular education: agreements and disagreements in the context of health professionals’ education. Interface. 2018;18(supl 2):1355-64. doi: https://doi.org/10.1590/1807-57622013.0477.
https://doi.org/https://doi.org/10.1590/...
),(1717. Taylor DCM, Hamdy H. Adult learning theories: Implications for learning and teching in medical education. AMEE Guide n. 83. Med Teach . 35(11):e1561-72. doi: https://doi.org/10.3109/0142159X.2013.828153.
https://doi.org/https://doi.org/10.3109/...
. O ponto de partida foi o contexto em que o HU estava inserido tanto do ponto de vista estrutural como de ensino.
Após avaliação da cartografia dos cenários e depois de elencados os principais desafios a serem enfrentados nos programas de residência, tentou-se identificar, em uma escala de priorização, problemas de alta relevância e consonância com alta governabilidade para um futuro projeto de intervenção. Partindo desse princípio, o recorte do problema escolhido se afunilou na causa visada definida pelo grupo: “os instrumentos de avaliação são documentos institucionais meramente burocráticos, não formativos e que não permitem mudança de trajetória do processo educacional”. Esses instrumentos no âmbito do HU foram construídos anteriormente às discussões atuais do ensino baseado em competências e são aplicados a todos os residentes do hospital. São fichas de avaliação global empregadas mensalmente (às vezes, de maneira retroativa) contendo os dez seguintes itens: assiduidade, pontualidade, conhecimento técnico-científico, disciplina, interesse, solidariedade, ética, iniciativa, cumprimento dos deveres e apresentação pessoal. A cada um desses dez itens é atribuída uma nota de 0 a 10 e, no somatório final, de 0 a 100, sem previsão formal de feedback.
De uma maneira empírica, o grupo de trabalho identificou que os instrumentos de avaliação dos residentes estavam em discordância com a avaliação das competências a serem adquiridas durante esse período de formação e não refletiam a avaliação de desempenho do residente na prática. No desenvolver do projeto, o Programa de Residência em Medicina Intensiva foi o escolhido como cenário da intervenção. Trata-se de um programa que oferece cinco vagas de acesso direto por ano, com duração de três anos. A supervisão é realizada por médica intensivista, apoiada pelo coordenador da unidade de terapia intensiva (UTI), em conjunto com mais 22 médicos do serviço que atuam como preceptores. Trata-se de UTI nível III de atenção que assiste pacientes adultos e é cenário de formação e de práticas não somente do Programa de Residência em Medicina Intensiva, mas também de clínica médica, cirurgia geral, ginecologia e obstetrícia, anestesiologia e para os programas de residência multiprofissional de Enfermagem, Fisioterapia, Psicologia e Fonoaudiologia.
O projeto “Construção e implementação de instrumentos de avaliação baseado em competências” foi apresentado publicamente em outubro de 2022, sendo aprovado pelos gestores da instituição. Concomitantemente, uma vez por mês, eram apresentados em seminários e discutidos nas reuniões do grupo alguns instrumentos de avaliação em ambientes de prática clínica validados na literatura e diferentes do já praticado no HU: feedback, portfólio, Miniexercício Clínico Avaliativo (Mini-Cex), Observação direta de procedimentos (DOPs), Exame Clínico Objetivo Estruturado (OSCE), avaliação 360º, atividades profissionais confiáveis (EPAs)1818. Colbert CY, Ownvy AR, Butler PM. A review of portfolio use in residency programs and considerations before Implementation. Teach Learn Med. 2008:20(4):340-5. doi: https://doi.org/10.1080/10401330802384912.
https://doi.org/https://doi.org/10.1080/...
)-(2323. Cate O. An updated primer on Entrustable Professional Activities (EPAs). Rev Bras Educ Med . 2019:43(1 supl. 1):712-20..
O projeto de pesquisa para publicação desse movimento como relato de caso foi aprovado pelo Comitê de Ética: CAAE nº 70302723.2.0000.5086.
Indicadores de linha de base
Para construção da linha de base, foi construído um questionário adaptado do instrumento de avaliação de cursos de graduação do Inep2424. Brasil. Instrumento de avaliação de cursos de graduação: presencial e a distância. Brasília; Ministério da Educação, Inep; 2017 [acesso em 18 set 2022]. Disponível em: efaidnbmnnnibpcajpcglclefindmkaj/Disponível em: efaidnbmnnnibpcajpcglclefindmkaj/https://download.inep.gov.br/educacao_superior/avaliacao_cursos_graduacao/instrumentos/2017/curso_reconhecimento.pdf .
https://download.inep.gov.br/educacao_su...
e de instrumento aplicado para perguntas sobre feedback de um estudo chinês2525. Chen Y et al. Is the rating result reliable? A new approach to respond to a medical trainee’s concerns about the reliability of Mini-CEx assessment. J Formos Med Assoc. 2022 May;121(5):943-9. doi: https://doi.org/10.1016/j.jfma.2021.07.005.
https://doi.org/https://doi.org/10.1016/...
. A primeira pergunta norteadora para início do processo foi a seguinte:
-
A avaliação atual atende à concepção do programa traduzido pela matriz de competência da CNRM?
O questionário foi aplicado a todos os preceptores médicos e residentes de Medicina em rodízio na UTI, no mês de novembro de 2022, com o objetivo de aferir as percepções deles acerca do instrumento avaliativo vigente.
Esse questionário era composto de três partes distintas: características demográficas; percepção do procedimento de avaliação tendo por base a matriz de competência (se atende ou não à concepção do programa definida pela matriz, se permite o desenvolvimento da autonomia do residente e se resulta de informação disponibilizada aos residentes); e, por fim, perguntas sobre a percepção da finalidade do instrumento, sobre o feedback e sobre a adequação dele à avaliação de desempenho dos residentes em escala Likert. Para tornar coerente a aferição, anexaram-se ao questionário o instrumento avaliativo vigente dos residentes e a matriz de competência do Programa de Medicina Intensiva.
Para análise dos resultados, as respostas sobre a adequação do instrumento vigente foram separadas para o grupo de preceptores e grupo de residentes. As variáveis categóricas foram expressas em número absoluto e em porcentagem, e as variáveis contínuas, pela média e por seu respectivo desvio padrão, se em distribuição normal; ou pela mediana e por seu respectivo intervalo interquartil 25%-75%, se em distribuição não gaussiana. Para avaliar a diferença estatística entre o grupo de preceptores e o de residentes em relação às características gerais, utilizaram-se os testes exato de Fisher ou de Mann-Whitney, sendo considerados estatisticamente significativos os valores de p < 0,05. Quanto à escala Likert, as expressões “concordo e concordo totalmente” foram substituídas por “sim”, “discordo ou discordo totalmente”, por “não”, e manteve-se “neutro”.
DISCUSSÃO
Resultados dos indicadores de linha de base
Responderam ao questionário de avaliação 27 médicos: 19 preceptores do programa e oito residentes (quatro residentes de medicina intensiva ao final do primeiro ano e quatro residentes de outras especialidades em rodízio na UTI). Não houve recusas no preenchimento do questionário. Foi feita uma análise exploratória dos dados para obter as características da população estudada.
Desses 27 médicos que responderam ao questionário, 15 (55,6%) eram do sexo feminino, sem diferença entre grupo de preceptor ou de residente (p = 0,48). O grupo de preceptores era significativamente mais velho (p = 0,01), com idade média variando de e 33,6 +-6,0 anos quando comparados aos residentes, que tinham em média 27,4 +_3,2 anos. Como esperado, o tempo de formação dos preceptores era também significativamente maior (p < 0,001), com mediana e intervalo interquartil [25%-75%] de 7 [6-9] anos, e dos residentes, de 2 [1,25-3] anos. Os 19 médicos preceptores exerciam suas atividades de educação em serviço em mediana de 2 [1-4] anos, exatamente o mesmo tempo de inserção no trabalho assistencial no âmbito do HU, e 11 deles (57,9%) haviam concluído a segunda residência em alguma especialidade clínica; seis (31,6%), a residência em clínica médica; e dois (10,5%), o mestrado. Todos os oito residentes estavam cursando a sua primeira residência quando responderam ao questionário.
Quanto à percepção do instrumento vigente utilizado para avaliação dos residentes, dos 27 médicos, três preceptores opinaram que o instrumento avaliativo em uso não atendia à concepção do curso definidas na matriz de competência (11,1%), o que não foi corroborado por nenhum residente. Portanto, 24 médicos (88,9%) apontaram que há alguma correlação entre o que é exigido pela matriz de competência da residência em medicina intensiva e o que é marcado/respondido no instrumento de avaliação vigente.
Dos 27 médicos, sete (três preceptores e dois residentes, 18,5%) assinalaram o instrumento atual com a pontuação máximo na escala, marcando que ele “atende às concepções definidas na matriz de competências e permite desenvolver autonomia e que resultam em informações sistematizadas que permitem e são adotadas ações concretas para melhoria de aprendizagem”.
Ainda entre os 27 médicos envolvidos no processo, dez (três residentes e sete preceptores, 37,0%) responderam que o instrumento vigente “atende à concepção definidas na Matriz, mas não permite desenvolver a autonomia do residente ou não gera informações sistematizadas visando à melhoria”, embora nove médicos (três residentes e seis preceptores, 33,3%) tenham percebido que o instrumento “atende às concepções e permite desenvolver autonomia como resulta em informações visando à melhoria do processo”.
Quando questionada a finalidade do instrumento de avaliação, a maioria dos médicos (22, 81,5%) respondeu compreender precisamente a finalidade do instrumento atual. Todos os cinco médicos que responderam em discordância ou foram neutros em relação a esse item eram preceptores.
O feedback após a aplicação do instrumento de avaliação vigente não era percebido por 13 médicos (três residentes e dez preceptores, 48,1%), e dois preceptores (7,4%) se colocaram neutros em relação a esse questionamento. Já quanto ao feedback nas atividades diárias, ele foi percebido por 16 médicos (dois residentes e 14 preceptores, 59,3%), sete médicos (um residente e seis preceptores, 25,9%) indicaram neutro nesse item, além de quatro (14,8%) que não o perceberam.
Por fim, quando questionados se a pontuação ao final do instrumento de avaliação vigente reflete a qualidade do desempenho dos residentes, dez médicos responderam que “não” (um residente e nove preceptores, 37,0%), dez médicos assinalaram que “sim” (quatro residentes e seis preceptores, 37,0%), e sete médicos foram neutros em relação a essa afirmativa (25,9%).
O painel de gráficos apresentado a seguir descreve os resultados encontrados sobre a percepção da adequação do instrumento de avaliação vigente (Figura 1).
Painel de gráficos: percepção dos preceptores e residentes sobre a adequação do instrumento de avaliação vigente.
Discussão dos indicadores e proposta de intervenção
O projeto de intervenção realizado foi baseado na premissa de que os residentes de todos os programas de residência do HU eram avaliados por meio de instrumentos institucionais construídos anteriormente às discussões atuais do ensino baseado em competências e que não refletiam a avaliação de desempenho do residente na prática.
Os resultados dos indicadores de linha de base apontaram, surpreendentemente, que o instrumento avaliativo atual é considerado pelos preceptores e pelos residentes melhor/mais adequado do que pensávamos.
Tanto preceptores quanto residentes são médicos jovens, a maioria entre a terceira e a quarta década de vida, e com menos de oito anos de graduados em Medicina. Os preceptores exercem suas atividades de ensino no HU em paralelo à assistência, demonstrando que essas atividades estão, de fato, permeadas. Pode-se inferir, portanto, que eles concluíram o curso de Medicina à luz das DCN de 201444. Brasil. Resolução nº 3 de 20 de junho de 2014. Institui Diretrizes Curriculares Nacionais do curso de graduação em Medicina e dá outras providências. Diário Oficial da União ; 23 jun 2014. Seção 1, p. 8-11 [acesso em]. Disponível em: http://portal.mec.gov.br/index.php?option=com_docman&view=download&alias=15874-rces003-14&category_slug=junho-2014-pdf&Itemid=30192.
http://portal.mec.gov.br/index.php?optio...
.
Preceptores e residentes julgaram o instrumento vigente de avaliação pertinente, uma vez que cerca de nove em cada dez desses médicos responderam que ele atende às concepções exigidas pela matriz de competência. Chama a atenção o fato de que um em cada quatro preceptores não entende precisamente qual é a sua finalidade, e isso pode ser preocupante, uma vez que a intencionalidade do educador é um pilar da avaliação a fim de manter a linha de coerência curricular; em que o “como” (de que forma fazer) não pode ser mais importante do que o “para que” (por que fazer)2424. Brasil. Instrumento de avaliação de cursos de graduação: presencial e a distância. Brasília; Ministério da Educação, Inep; 2017 [acesso em 18 set 2022]. Disponível em: efaidnbmnnnibpcajpcglclefindmkaj/Disponível em: efaidnbmnnnibpcajpcglclefindmkaj/https://download.inep.gov.br/educacao_superior/avaliacao_cursos_graduacao/instrumentos/2017/curso_reconhecimento.pdf .
https://download.inep.gov.br/educacao_su...
.
Essa divergência nas respostas obtidas entre considerar pertinente e não entender precisamente a sua finalidade pode ser explicada pela falta de substrato teórico sobre a preceptoria em si e seus respetivos processos avaliativos2727. Botti SHO, Rego S. Preceptor, supervisor, tutor and mentor: what are their roles? Rev Bras Educ Med . 2008;32(3):363-73.. Cerca de 40% dos médicos entendem que, embora pertinente, o instrumento de avaliação não permite o desenvolvimento de autonomia do residente ou não gera informações sistematizadas visando à melhoria. A autonomia é um importante passo na construção de competência, traduzida em conhecimentos, habilidades, atitudes e capacidade de exercer uma função ou executar uma ação no nível desejado da qualidade2828. Panúncio-Pinto MP, Troncon LEA. Student assessment-general aspects. Medicina (Ribeirão Preto). 2014;47(3):314-23.. Mais uma vez, as respostas divergem entre o que se descreve como base teórica para avaliação de competência1212. Miller GE. The assessmet of clinical skills/competence/performance. Acad Med . 1990; 65(9):S63-7. e aquilo que é praticado.
A residência médica é um ambiente propício para que se busquem os conhecimentos teóricos com base nas experiências práticas. Envolver o residente e orientá-lo a desenvolver a autonomia e a sensação de pertencimento para mantê-lo motivado é tanto estímulo quanto desafio, devendo ser pautado na abertura, na confiança, no diálogo, na valorização do conhecimento e das experiências prévias, no feedback, na horizontalidade entre quem ensina e quem aprende; responsabilidades/compromissos da instituição que oferece o programa e dos preceptores que assumem compartilhar essa jornada2929. Botti SHO, Rego S. Clinical teacher: the complex role of the preceptor in medical residency. Physis. 2011;21(1): 65-85.. Em especial, o ambiente médico, no atendimento de doenças agudas, é uma fonte rica para o aprendizado. Os pacientes apresentam problemas indiferenciados, e o manejo adequado e em tempo hábil requer competência na avaliação clínica, no raciocínio, na investigação e nos procedimentos3030. Johnson G, Wade W, Barrett J, Jones M. Acute care assessment tool: a new assessment in acute medicine. Clin Teach. 2009;6:105-9., e a avalição nesses cenários de prática tem sido efetiva e bem-aceita por preceptores e residentes3030. Johnson G, Wade W, Barrett J, Jones M. Acute care assessment tool: a new assessment in acute medicine. Clin Teach. 2009;6:105-9.),(3131. She J, Hong Q, Zheng Y, Yu Q, Ye L, Song Y. Exploration on the MiniCEX-DOPS evaluation in standardized residency training of respiratory and critical care medicine. Chin J Med Res. 2021;12:826-9.. O novo paradigma educacional busca ser mais efetivo, mais integrado ao sistema de saúde e focado na aplicabilidade do conhecimento na prática. O novo modelo, baseado em aquisição gradual de competências previamente definidas, observáveis e mensuráveis, é atualmente referência nacional66. Brasil. Matrizes de Competências Aprovadas pela CNRM. Medicina Intensiva Acesso Direto 03 anos [acesso em]. Disponível em: https://revisamed.com.br/residencia-medica/wp-content/uploads/2021/06/Matriz_de_Competencias_da_Medicina_Intensiva_ID_FINAL.pdf.
https://revisamed.com.br/residencia-medi...
e internacional para a residência em medicina intensiva3232. European Society of Inyensive Care Medicine. Cobatrice: Competecny-based training in Intensive Care Medicine in Europe. Disponível em: Cobatrice/org/em/index.asp.
Cobatrice/org/em/index.asp...
.
Também chama a atenção que, na linha de base desse projeto de intervenção, metade dos médicos alegou que não percebia o feedback na avaliação. Já nas atividades de rotina, seis em cada dez, tanto preceptores como residentes, percebiam essa devolutiva. Na avaliação formativa em saúde, em que as fronteiras entre avaliação e aprendizagem são embaçadas, o feedback é um ponto crucial, e o impacto da avaliação como força motriz da aprendizagem ganha cada vez mais aceitação como um dos princípios da boa avaliação3333. Van der Vleuten CPM, Schuwirth LWT. Assessment of professional competence: from methods to programmes. Med Educ. 2005;39:309-17.. Nesse sentido, um aprendizado diário traduzido em treinamento, prática e feedback deve estar presente de forma linear e coerente em todo o continuum do processo de ensino-aprendizagem. Também vale ressaltar que, no instrumento vigente, uma pontuação é destinada a cada item avaliado, gerando uma nota final com o somatório desses itens. A avaliação associada a notas é considerada uma das formas mais pobres de feedback3434. Van der Vleuten COM, et al. A model for programmatic assessment fit for purpose. Med Teach . 2012;34(3):205-14..
Quanto à avaliação de desempenho dos residentes, houve respostas tanto positivas quanto negativas sobre a adequação do instrumento vigente. Uma vez que, para a aquisição de competência, é necessário conhecimento consolidado em ação e a formação dos residentes é mais do que um treinamento3535. Bok H, et al. Programmatic assessment of competency-based workplace learning: when theory meets practice. BMC Med Educ . 2013:13:123., as ferramentas de avaliação devem ser adaptadas para avaliar esse resultado, isto é, o saber fazer/desempenho - um dos estratos superiores da pirâmide de Miller1212. Miller GE. The assessmet of clinical skills/competence/performance. Acad Med . 1990; 65(9):S63-7..
Quando se pesquisou a avaliação de desempenho para residentes em medicina intensiva, trabalhos na Espanha sobre implementação de currículo baseado em competência foram alicerçados na capacitação dos tutores em feedback, além de avaliações objetivas estruturadas fundamentadas em observação direta com envolvimento dos tutores, residentes e especialistas em psicologia da educação com alta satisfação na metodologia proposta por permitir avaliação mais justa, reflexão sobre áreas em que é necessário avançar mais e sobre pontos fortes e fracos3636. Castellanos-Ortega A, et al. Acceptance and validity of the methods used to implement a competency based medical education programme in an Intensive Care Department of a teaching referral center. Med Intensiva (Engl Ed). 2021 Oct;45(7):411-20.),(3737. Castellanos-Ortega A, et al. Competency assessment of residents of Intensive Care Medicine through a simulation-based objective structured clinical evaluation (OSCE). A multicenter observational study. Med Intensiva (Engl Ed) . 2022 Sept;46(9):491-500.) .
Como proposta de intervenção, na perspectiva de que nenhum método sozinho é passível de abranger todos os critérios avaliativos1212. Miller GE. The assessmet of clinical skills/competence/performance. Acad Med . 1990; 65(9):S63-7.),(3333. Van der Vleuten CPM, Schuwirth LWT. Assessment of professional competence: from methods to programmes. Med Educ. 2005;39:309-17.),(3434. Van der Vleuten COM, et al. A model for programmatic assessment fit for purpose. Med Teach . 2012;34(3):205-14. e a fim de estabelecer algo exequível dentro da realidade e da linha de base identificada, propusemos, além da avaliação de conhecimentos trimestral:
-
A adaptação do instrumento vigente, excluindo alguns itens e introduzindo outros, em adequação com a matriz de competência: cumprimento dos deveres, conhecimento científico, interesse, assiduidade e pontualidade, ética e disciplina, liderança, trabalho em equipe. Para esse instrumento modificado, agora está previsto feedback para cada um desses itens mensalmente. Uma vez que que o instrumento vigente foi mais bem avaliado do que se imaginou, a melhor estratégia não foi excluí-lo, mas adaptá-lo propondo o feedback, já que este último foi considerado insatisfatório na linha de base e é atualmente o cerne da avaliação formativa em saúde3434. Van der Vleuten COM, et al. A model for programmatic assessment fit for purpose. Med Teach . 2012;34(3):205-14.),(3535. Bok H, et al. Programmatic assessment of competency-based workplace learning: when theory meets practice. BMC Med Educ . 2013:13:123..
-
A avaliação em cenário real (Mini-Cex) nos momentos da admissão, da evolução e da alta do paciente da UTI. Optou-se por essa ferramenta para a avaliação de competência, uma vez que, embora seu impacto educacional ainda esteja sendo estudado1111. Anderson HL, Kurtz J, West D. Implementation and use os workplace-based assessment in clinical learning enviroments: a scope review. Acad Med . 2021;96:S164-74.),(3838. Lorwald AC, et al. The educational impacto f Mini-Clinical Evaluation Exercice (Mini-Cex) and Direct Observation Exercice of Procedural skills (DOPS) and its association with implementation: a systematic review and meta-analysis. PLoS One. 2018;13(6):e0198009.),(3939. Martinsen et al. Examinig the educacional impacto f the Mini-Cex: a randomised contolled study. BMC Med Educ . 2021;21:228., tem como vantagens: os cenários reais, ser realizada em um tempo exequível (em torno de 20-30 minutos), ter baixo custo, avaliar seis competências nucleares (história clínica, exame físico, profissionalismo, raciocínio clínico, comunicação, organização) e ter pouca interferência nas atividades do dia a dia4040. Megale L, Gontijo ED, Motta JAC. Evaluation of medical students’ clinical skills using the Mini-Clinical Evaluation Exercise (Mini-CEX). Rev Bras Educ Med . 2009;33(2):166-75. doi: https://doi.org/10.1590/S0100-55022009000200002.
https://doi.org/https://doi.org/10.1590/... , mesmo onde há atividades intensas como emergência e UTI4141. Bashir K, et al. Acceptability and feasibility of Mini Clinical Evaluation Exercice (Mini-Cex) in the busy emergency department. Open Acess Emergency Medicine. 2021;13:481-6.),(4242. She J, Hong Q, Zeng Y, Yu Q, Ye L, Song Y. Exploration on the MiniCEX-DOPS evaluation in standardized residency training of respiratory and critical care medicine. Chin J Med Edu Res. 2021;20(07):826-9. doi: https://doi.org/10.3760/cma.j.cn116021-20200325-00556.
https://doi.org/https://doi.org/10.3760/... .
Durante o período de treinamento e testes dos instrumentos mencionados, recebemos feedback informal, tanto de preceptores quanto de residentes, de que a princípio havia a percepção de melhoria na avaliação de desempenho dos residentes. Uma posterior análise de percepção está prevista após esse projeto de intervenção estar amplamente implementado.
CONCLUSÃO
A avalição é uma etapa indispensável ao processo de formação e indissociável dele. Com base em indicadores sobre a percepção de preceptores e residentes, com a identificação de fragilidades na avaliação usada de longa data, foi proposta uma intervenção para modificação dos instrumentos avaliativos com o intuito de adequar/melhorar a avaliação de competências. Os resultados em longo prazo da percepção sobre essa mudança dos processos avaliativos serão verificados a posteriori após a plena implementação.
AGRADECIMENTOS
Agradecemos à Dra. Isis Aparecida Cunácia Massaro, do Instituto de Ensino e Pesquisa do Hospital Sírio-Libanês, o incentivo e a facilitação durante a especialização e as sugestões a este manuscrito.
REFERÊNCIAS
-
1Frenk J, et al. Health professionals for a new century: transforming education to strengthen health systems in an interdependent world. Lancet. 2010 Dec 4;376(9756):1923-58. doi: https://doi.org/10.1016/S0140-6736(10)61854-5.
-
2Carracio C, Wolfsthal SD, Englander R, Ferentz K, Martin C. Shifting paradigms: from Flexner to competences. Acad Med. 2002 May;77(5):361-7.
-
3Brasil. Resolução CNE/CES nº 4, de 7 de novembro de 2001. Institui Diretrizes Curriculares Nacionais do curso de graduação em Medicina. Diário Oficial da União; 9 nov 2001 [acesso em 3 jun 2019]. Disponível em: Disponível em: http://portal.mec.gov.br/cne/arquivos/pdf/CES04.pdf
» http://portal.mec.gov.br/cne/arquivos/pdf/CES04.pdf -
4Brasil. Resolução nº 3 de 20 de junho de 2014. Institui Diretrizes Curriculares Nacionais do curso de graduação em Medicina e dá outras providências. Diário Oficial da União ; 23 jun 2014. Seção 1, p. 8-11 [acesso em]. Disponível em: http://portal.mec.gov.br/index.php?option=com_docman&view=download&alias=15874-rces003-14&category_slug=junho-2014-pdf&Itemid=30192
» http://portal.mec.gov.br/index.php?option=com_docman&view=download&alias=15874-rces003-14&category_slug=junho-2014-pdf&Itemid=30192 -
5Brasil. Matrizes de Competências aprovadas pela CNRM. Brasília: Ministério da Educação; 2018 [acesso em 7 jan 2019]. Disponível em: Disponível em: http://portal.mec.gov.br/component/content/article?id=71531
» http://portal.mec.gov.br/component/content/article?id=71531 -
6Brasil. Matrizes de Competências Aprovadas pela CNRM. Medicina Intensiva Acesso Direto 03 anos [acesso em]. Disponível em: https://revisamed.com.br/residencia-medica/wp-content/uploads/2021/06/Matriz_de_Competencias_da_Medicina_Intensiva_ID_FINAL.pdf
» https://revisamed.com.br/residencia-medica/wp-content/uploads/2021/06/Matriz_de_Competencias_da_Medicina_Intensiva_ID_FINAL.pdf -
7Epstein RM, Hundert EM. Defining ans assessing professional competence. JAMA. 2002; 287(2):226-32.
-
8Santos WS. Organização curricular baseada em competência na educação médica. Rev Bras Educ Med. 2001;35(1):86-92
-
9Norcini J, Anderson B, Bollela V, Burch V, Costa MJ, Duvivier R, et al. Criteria for good assessment: consensus statement and recommendations from the Ottawa 2010 Conference. Med Teach. 2011;33:206-14.
-
10Norcini J, et al. 2018 Consensus framework for good assessment. Med Teach . 2018. doi: https://doi.org/10.1080/0142159X.2018.1500016
» https://doi.org/https://doi.org/10.1080/0142159X.2018.1500016 -
11Anderson HL, Kurtz J, West D. Implementation and use os workplace-based assessment in clinical learning enviroments: a scope review. Acad Med . 2021;96:S164-74.
-
12Miller GE. The assessmet of clinical skills/competence/performance. Acad Med . 1990; 65(9):S63-7.
-
13Cruess RL, Cruess SR, Steinert Y. Amending Miller’s pyramid to include professional identy formation. Acad Med . 2016;91(2):180-5.
-
14Brasil. Decreto 80.281, de 5 de setembro de 1977. Regulamenta a Residência Médica, cria a Comissão Nacional de Residência Médica e dá outras providências. Brasília: Presidência da República, 1977 [acesso em]. Disponível em: https://www2.camara.leg.br/legin/fed/decret/1970-1979/decreto-80281-5-setembro-1977-429283-normaatualizada-pe.pdf
» https://www2.camara.leg.br/legin/fed/decret/1970-1979/decreto-80281-5-setembro-1977-429283-normaatualizada-pe.pdf -
15Brasil. Lei nº 6.932, de 7 de julho de 1981. Dispõe sobre as atividades do médico residente e dá outras providências. Brasília: Presidência da República , 1981 [acesso em]. Disponível em: https://www2.camara.leg.br/legin/fed/lei/1980-1987/lei-6932-7-julho-1981-357276-publicacaooriginal-1-pl.html
» https://www2.camara.leg.br/legin/fed/lei/1980-1987/lei-6932-7-julho-1981-357276-publicacaooriginal-1-pl.html -
16Simon E, Jezine E, Vasconcelos EM, Ribeiro KS. Active teaching-learning methodologies and popular education: agreements and disagreements in the context of health professionals’ education. Interface. 2018;18(supl 2):1355-64. doi: https://doi.org/10.1590/1807-57622013.0477.
» https://doi.org/https://doi.org/10.1590/1807-57622013.0477 -
17Taylor DCM, Hamdy H. Adult learning theories: Implications for learning and teching in medical education. AMEE Guide n. 83. Med Teach . 35(11):e1561-72. doi: https://doi.org/10.3109/0142159X.2013.828153.
» https://doi.org/https://doi.org/10.3109/0142159X.2013.828153 -
18Colbert CY, Ownvy AR, Butler PM. A review of portfolio use in residency programs and considerations before Implementation. Teach Learn Med. 2008:20(4):340-5. doi: https://doi.org/10.1080/10401330802384912.
» https://doi.org/https://doi.org/10.1080/10401330802384912 -
19Burgess A, Diggele C, Roberts C, Mellis C. Feddback in the clinical setting. BMC Med Educ. 2020;20(Suppl 2):460. doi: https://doi.org/10.1186/s12909-020-02280-5.
» https://doi.org/https://doi.org/10.1186/s12909-020-02280-5 -
20Domingues RCL, Amaral E, Bicudo-Zeferino AM. Global rating: a method for assessing clinical competence. Rev Bras Educ Med . 2009;33(1):148-51.
-
21Bastos CAH, Botelho NM, Portella MB, Nascimento CL do. Application of the 360º evaluation method in medical residents of gynecology and obstetrics. Electronic Journal Collection Health. 2019;(34):e1423. doi: https://doi.org/10.25248/reas.e1423.2019.
» https://doi.org/https://doi.org/10.25248/reas.e1423.2019 -
22Franco CAGS, et al. OSCE for communication skills and professionalism: case report and meta-analysis. Rev Bras Educ Med . 2015;39(3):433-41.
-
23Cate O. An updated primer on Entrustable Professional Activities (EPAs). Rev Bras Educ Med . 2019:43(1 supl. 1):712-20.
-
24Brasil. Instrumento de avaliação de cursos de graduação: presencial e a distância. Brasília; Ministério da Educação, Inep; 2017 [acesso em 18 set 2022]. Disponível em: efaidnbmnnnibpcajpcglclefindmkaj/Disponível em: efaidnbmnnnibpcajpcglclefindmkaj/https://download.inep.gov.br/educacao_superior/avaliacao_cursos_graduacao/instrumentos/2017/curso_reconhecimento.pdf
» https://download.inep.gov.br/educacao_superior/avaliacao_cursos_graduacao/instrumentos/2017/curso_reconhecimento.pdf -
25Chen Y et al. Is the rating result reliable? A new approach to respond to a medical trainee’s concerns about the reliability of Mini-CEx assessment. J Formos Med Assoc. 2022 May;121(5):943-9. doi: https://doi.org/10.1016/j.jfma.2021.07.005.
» https://doi.org/https://doi.org/10.1016/j.jfma.2021.07.005 -
26Simon E, Jezine E, Vasconcelos EM, Ribeiro KS. Active teaching-learning methodologies and popular education: agreements and disagreements in the context of health professionals’ education. Interface (Botucatu). 2018;18(supl2):1355-64. doi: https://doi.org/10.1590/1807-57622013.0477.
» https://doi.org/https://doi.org/10.1590/1807-57622013.0477 -
27Botti SHO, Rego S. Preceptor, supervisor, tutor and mentor: what are their roles? Rev Bras Educ Med . 2008;32(3):363-73.
-
28Panúncio-Pinto MP, Troncon LEA. Student assessment-general aspects. Medicina (Ribeirão Preto). 2014;47(3):314-23.
-
29Botti SHO, Rego S. Clinical teacher: the complex role of the preceptor in medical residency. Physis. 2011;21(1): 65-85.
-
30Johnson G, Wade W, Barrett J, Jones M. Acute care assessment tool: a new assessment in acute medicine. Clin Teach. 2009;6:105-9.
-
31She J, Hong Q, Zheng Y, Yu Q, Ye L, Song Y. Exploration on the MiniCEX-DOPS evaluation in standardized residency training of respiratory and critical care medicine. Chin J Med Res. 2021;12:826-9.
-
32European Society of Inyensive Care Medicine. Cobatrice: Competecny-based training in Intensive Care Medicine in Europe. Disponível em: Cobatrice/org/em/index.asp
» Cobatrice/org/em/index.asp -
33Van der Vleuten CPM, Schuwirth LWT. Assessment of professional competence: from methods to programmes. Med Educ. 2005;39:309-17.
-
34Van der Vleuten COM, et al. A model for programmatic assessment fit for purpose. Med Teach . 2012;34(3):205-14.
-
35Bok H, et al. Programmatic assessment of competency-based workplace learning: when theory meets practice. BMC Med Educ . 2013:13:123.
-
36Castellanos-Ortega A, et al. Acceptance and validity of the methods used to implement a competency based medical education programme in an Intensive Care Department of a teaching referral center. Med Intensiva (Engl Ed). 2021 Oct;45(7):411-20.
-
37Castellanos-Ortega A, et al. Competency assessment of residents of Intensive Care Medicine through a simulation-based objective structured clinical evaluation (OSCE). A multicenter observational study. Med Intensiva (Engl Ed) . 2022 Sept;46(9):491-500.
-
38Lorwald AC, et al. The educational impacto f Mini-Clinical Evaluation Exercice (Mini-Cex) and Direct Observation Exercice of Procedural skills (DOPS) and its association with implementation: a systematic review and meta-analysis. PLoS One. 2018;13(6):e0198009.
-
39Martinsen et al. Examinig the educacional impacto f the Mini-Cex: a randomised contolled study. BMC Med Educ . 2021;21:228.
-
40Megale L, Gontijo ED, Motta JAC. Evaluation of medical students’ clinical skills using the Mini-Clinical Evaluation Exercise (Mini-CEX). Rev Bras Educ Med . 2009;33(2):166-75. doi: https://doi.org/10.1590/S0100-55022009000200002.
» https://doi.org/https://doi.org/10.1590/S0100-55022009000200002 -
41Bashir K, et al. Acceptability and feasibility of Mini Clinical Evaluation Exercice (Mini-Cex) in the busy emergency department. Open Acess Emergency Medicine. 2021;13:481-6.
-
42She J, Hong Q, Zeng Y, Yu Q, Ye L, Song Y. Exploration on the MiniCEX-DOPS evaluation in standardized residency training of respiratory and critical care medicine. Chin J Med Edu Res. 2021;20(07):826-9. doi: https://doi.org/10.3760/cma.j.cn116021-20200325-00556.
» https://doi.org/https://doi.org/10.3760/cma.j.cn116021-20200325-00556
-
2
Avaliado pelo processo de double blind review.
-
FINANCIAMENTO
Declaramos não haver financiamento.
Editado por
Datas de Publicação
-
Publicação nesta coleção
09 Ago 2024 -
Data do Fascículo
2024
Histórico
-
Recebido
30 Ago 2023 -
Aceito
02 Maio 2024