ABSTRACT
RESUMEN
In Mexico, the cytotechnologist is competent to emit a presumptive diagnosis by means of the interpretation cytologic of
cervical samples. In their formative process, to evaluate their
competence with objectivity is essential.
Objective. The aim of study was evaluate the competence
of student cytotechnologist in normal Pap smears.
Material and methods. A quasi experimental study was designed. It was built and it validated an objective structured
practical instrument to measure in the group of students in
cytotechnologist formation (n = 8) the domains in the interpretation cytologic of lesions non malignant of the cervix.
Results. The performance obtained was 62.5% of the students not competent in the initial mensuration, at the end 100%
was competent (Wilcoxon p < 0.05).
The agreement student-expert, index initial kappa 0.42, final
0.58 p 0.05.
Conclusion. The designed instrument gathers attributes of
validity and reliability, it discriminates against and it stratifies
the one it achieved of the competence indicating the domain
level achieved by the student in the interpretation cytologic of
lesions non malignant of the cervix.
Keywords: Competence, performance, cytotechnologist.
INTRODUCCIN
En nuestro pas, el citotecnlogo es el tcnico en el rea de
la salud competente para emitir un diagnstico presuntivo
mediante la interpretacin citolgica de muestras cervicales, conforme a la norma y al programa para la deteccin,
el diagnstico, el tratamiento, el control y la vigilancia epidemiolgica del cncer crvicouterino.(1)
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
Su proceso formativo ocurre en escenarios clnicoeducativos del sector salud. En el Instituto Mexicano del
Seguro Social (IMSS) el plan de estudios se basa en competencias profesionales, las cuales se distribuyen en tres ejes:
el de conocimientos, habilidades y destrezas para aplicar el
mtodo citolgico y establecer hiptesis citodiagnsticas
presuntivas; el de conocimientos, habilidades y destrezas
para aplicar el mtodo cientfico, epidemiolgico, docu-
107
108
interpretacin citolgica de lesiones no neoplsicas del crvix, instrumento que rene los atributos de confiabilidad
y validez.
El instrumento se construy con base en el examen objetivo prctico estructurado. Consta de un circuito formado
por un nmero variable de estaciones (veinte muestras citolgicas), por las cuales el alumno debe rotar y responder
o dar solucin a cada una en un tiempo determinado.
Hasta donde hemos indagado, no existen investigaciones educativas en nuestro pas relacionadas con la evaluacin de la interpretacin citolgica de lesiones no neoplsicas del crvix. No as en otros pases, donde la evaluacin
de la competencia citolgica ha llevado a desarrollar instrumentos de medicin estndar,(6,7,8) con notables influencias
empricas en nuestro medio.(9,10)
El propsito de ste trabajo es evaluar la competencia
de los alumnos en formacin de citologa para interpretar
lesiones no neoplsicas del cuello uterino, dando a conocer
la metodologa empleada en la construccin, validez y confiabilidad del examen prctico estructurado por objetivos
que se empleo para su evaluacin.
MATERIAL Y MTODOS
Se trata de un estudio cuasiexperimental en un grupo natural de ocho alumnos en formacin de citotecnologa, cuya
sede se localiza en un hospital general de zona del IMSS.
Variables de estudio
Mdulo de lesiones no neoplsicas del crvix. Se define
como la segunda de tres partes del curso formativo de citotecnlogos, con una duracin de 638 horas, durante las
cuales los alumnos integran a este mdulo las habilidades
de pensamiento, los conocimientos y las destrezas desarrolladas en el mdulo anterior.
Competencia para la interpretacin de lesiones no
neoplsicas. Se define como la evidencia de los conocimientos, las habilidades y las destrezas del alumno para
identificar y juzgar la calidad de la muestra citolgica, reconocer y apreciar hallazgos adicionales asociados a las lesiones no neoplsicas, as como reconocer y fundamentar
los cambios celulares de esas lesiones.
Su medicin es en directo mediante un examen prctico objetivo estructurado a travs de 20 estaciones de interpretacin citolgica, el cual explora estos tres dominios
de la competencia profesional que procede del mdulo de
lesiones no neoplsicas.
El primer dominio agrupa dos tems y explora la habilidad de observacin de clulas endocervicales y de me-
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
CONSTRUCCIN Y VALIDACIN
DEL INSTRUMENTO DE MEDICIN
El instrumento fue elaborado por profesores del curso
formativo de citotecnlogos, los cuales nos planteamos las
premisas siguientes:
Confiabilidad del instrumento. Lograr una estabilidad
de la medida cuando sta se repita varias veces, distinguiendo entre dos mediciones.
Validez del instrumento. Correspondencia entre la
competencia de grado por alcanzar, de acuerdo con
los contenidos de las unidades didcticas y los objetivos planteados conforme a la clasificacin taxonmica
de Bloom.(11)
Evaluacin basada en la resolucin de problemas. Emplear casos citolgicos reales como estaciones de interpretacin citolgica.
Medir la competencia del alumno con una escala de
puntuacin de la competencia y mediante el acuerdo
citodiagnstico entre los citotecnlogos en formacin
y los citotecnlogos expertos.
Con base en lo anterior, el instrumento se conform de
un circuito con 20 estaciones de interpretacin citolgica,
las cuales consistieron en igual nmero de muestras de citologa cervical, todas con diagnstico citolgico presuntivo
de negativo con proceso inflamatorio. Adems de que las
estaciones de interpretacin guardaron la congruencia con
los contenidos referidos en las unidades didcticas correspondientes al mdulo II del curso, se procur que stas
fueran representativas de la problemtica citopatolgica no
neoplsica ms frecuentemente observada en el laboratorio
de citologa exfoliativa.
La validez de contenido se logr sometiendo las estaciones de interpretacin citolgica seleccionadas a una
ronda de tres citotecnlogos expertos en citologa acreditados por el Instituto de Referencia Epidemiolgica de la
Secretara de Salud. Posterior al acuerdo tres de tres para
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
109
obtenida por el alumno. Se sum un punto cuando demostr una decisin acertada y se le rest un punto cuando
tom una decisin errnea. Adems, se determin el acuerdo del citodiagnstico que demostraron los alumnos ms
all del debido al azar y los citotecnlogos expertos.
Anlisis estadstico
La calificacin y captura de la informacin se efectu mediante procedimiento ciego, incluido el anlisis estadstico
que consisti en lo siguiente:
Prueba de pares igualados de Wilcoxon para comparar
la competencia global y por dominio antes y despus
del mdulo II.
Prueba de homogeneidad de chi cuadrada para determinar si los ndices kappa son diferentes en los alumnos antes y despus del mdulo.
Prueba de correlacin simple por rangos de Spearman
(rs) para estimar el grado de asociacin entre los resultados de la puntuacin de competencia y la concordancia entre observadores.
RESULTADOS
Participaron en la investigacin el total de los ocho alumnos inscritos en el curso formativo de citotecnlogo. El
instrumento final qued formado con 20 unidades de interpretacin citolgica de un total de 50 preseleccionadas.
Validez del instrumento. El cuadro 1 muestra los ndices kappa que expresan el nivel de concordancia emitida por los citotecnlogos expertos en relacin con las 20
unidades de interpretacin; como se advierte, el grado de
acuerdo entre los tres expertos result muy bueno: ndice
kappa > 0.81 en las tres parejas.
Cuadro 1. Concordancia entre citotecnlogos expertos en relacin con veinte unidades de interpretacin citolgica. ndice
kappa*
experto 1
experto 2
experto 3
experto 1
1
0.846
0.975
experto 2
Dominio
1
0.822
tems
Alfa de
Cronbach
40
0.7190
100
0.9120
240
380
0.8510
0.9400
experto 3
Criterios de interpretacin de Altman para el ndice kappa; concordancias muy buenas son aquellas cuyos ndices sean mayores a 0.81; buenas
aquellas cuyos ndices se encuentren entre 0.61 y 0.80; moderadas aquellas cuyos ndices se encuentren entre 0.41 y 0.60, dbiles aquellas cuyos
ndices se encuentren entre 0.21 y 0.40, y pobres los ndices menores de
0.20.
*p 0.00.
110
Confiabilidad del instrumento. Cada unidad de interpretacin citolgica se form con 19 tems, que se agruparon en tres dominios, lo que result en un total de 20
unidades de interpretacin con 380 tems. En el anlisis de
la consistencia interna no se necesit la exclusin de tems.
El coeficiente alfa de Cronbach calculado para el global del
instrumento fue de 0.94; el mismo coeficiente para los tres
dominios (que corresponden en cierta medida con los objetivos planteados por Bloom) vari entre 0.71 y 0.91; los
valores del coeficiente alfa por dominio se presentan en el
cuadro 2.
Competencia para la interpretacin de lesiones no
neoplsicas. La competencia global antes y despus del
mdulo se observa en el cuadro 3. En la medicin inicial
62.5% result no competente. En la medicin final, 100%
alcanz a ser competente.
En el cuadro 4 se observa la competencia demostrada
por alumno, expresada por su puntuacin alcanzada. Se
aprecian claras diferencias significativamente estadsticas al
final del mdulo II.
En el cuadro 5 se muestra el grado de acuerdo del alumno y el grupo de expertos. Se nota un aumento significativo
en el ndice kappa en los dominios 1, 2 y global (identificar
y juzgar la calidad de la muestra, reconocer y apreciar los
hallazgos citolgicos adicionales, respectivamente), no as
en el de reconocer y fundamentar las lesiones no neoplsicas. Se observa adems que los ndices kappa estimados
no son homogneos.
En el cuadro 6 se exponen los resultados expresados
en trminos de nivel de competencia y grado de acuerdo;
ambos (escala de puntuacin e ndice kappa) se comportan
de manera similar. Se observa que el nivel de competencia
pas de profano a competente, mientras que el acuerdo
alumno-experto pas de dbil a bueno. La correlacin entre
nivel de competencia y grado de acuerdo result al inicio
del mdulo r Spearman = 0.69 y al final r Spearman =
0.92.
Identificar y juzgar la
calidad de la muestra
Reconocer y apreciar hallazgos
citolgicos adicionales
Reconocer y fundamentar las
lesiones no neoplsicas
Global
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
Nivel de competencia
Experto
Competente
Novato
Profano
Punto de corte*
n = 8 alumnos
Inicial
Final
%
%
Puntuacin
296-384
208-295
120-207
32-119
0-31
0
37.5
50.0
12.5
0
0
100
0
0
0
DISCUSIN
Evaluar la competencia de los alumnos en formacin de
citotecnologa es sumamente complejo debido a las diversas
y mltiples caractersticas que la comportan, por lo que el
grado de dificultad que conlleva su medicin de manera
objetiva y directa es alto.
El instrumento de evaluacin aqu presentado, que
rene criterios de validez y confiabilidad, busca acercarse
a la medicin de una competencia profesional de manera
objetiva, prctica y estructurada.
Es nuestra intencin contribuir a la investigacin
educativa, en particular en lo referente a la evaluacin por
competencias profesionales, presentando nuestro punto
de llegada en la exploracin de instrumentos de recoleccin de datos y su proceso de validacin, dando a conocer nuestra experiencia, la cual evidencia que cuando se
Cuadro 4. Competencia global obtenida por los citotecnlogos en formacin al inicio y al trmino del mdulo Interpretacin de lesiones
no neoplsicas.
Competencia*
Dominio
Mxima
Inicial
Final
p**
40
14
(8-22)
30
(20-32)
0.012
140
142
(80-160)
168
(150-188)
0.012
100
37
(26-66)
52
(36-70)
0.035
380
202
(114-224)
246
(228-288)
0.017
Global
* Puntuacin expresada en medianas y rangos.
** Prueba de pares igualados de Wilcoxon (p < 0.05)
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
111
Cuadro 3. Competencia del citotecnlogo en formacin al principio y al final del mdulo de interpretacin
de lesiones no neoplsicas.
Dominio
Evaluacin
ndice
de kappa*
Intervalo
de confianza
95%
Inicial
0.1999
0.0851-0.3147
Final
0.6216
0.5265-0.7167
Inicial
0.2689
0.2116-0.3263
Final
0.5259
0.4775-0.5744
Inicial
0.4223
0.3554-0.4892
Final
0.4828
0.4207-0.5448
Inicial
0.4256
0.3885-0.4627
Final
0.5866
0.5551-06182
1. Identificar y juzgar la
calidad de la muestra
2. Reconocer y apreciar
hallazgos citolgicos
adicionales
3. Reconocer y fundamentar las lesiones no
neoplsicas
Global
Inicial vs final
p**
Homogeneidad
de kappa***
inicial vs final
0.012
119.085
0.012
93.022
ns
32.243
0.012
69.867
* Criterios de interpretacin de Altman para el ndice kappa; concordancias muy buenas aquellas cuyos ndices sean mayores a 0.81; buenas aquellas
cuyos ndices se encuentren entre 0.61 y 0.80, moderadas aquellas cuyos ndices se encuentren entre 0.41 y 0.60, dbiles aquellas cuyos ndices se
encuentren entre 0.21 y 0.40 y pobres los ndices menores de 0.20.
** Prueba de pares igualados de Wilcoxon (p < 0.05).
*** Ji cuadrada de homogeneidad (24.99), con 15 grados de libertad, intervalo de confianza de 95%, p < 0.05.
Por su valor, los tems agrupados en torno al dominio identificar y juzgar la calidad de la muestra (0.719),
podran considerarse con un ndice de confiabilidad bajo,
sin embargo se decidi no eliminarlo en razn a que estos
tems son aspectos importantes para la interpretacin de
lesiones no neoplsicas; adems, no existe una regla generalizada del nivel del valor de consistencia aceptado como
recomendable para valorar la posibilidad de eliminar los
tems que bajen la confiabilidad global.
El valor elevado del coeficiente alfa de Cronbach indica
que el instrumento tiene una elevada consistencia interna,
lo cual implica una alta correlacin entre los tems que lo
integran, de manera que stos contribuyen de manera relevante a la evaluacin de la competencia.
Consideramos que metodolgicamente el instrumento
guarda buena congruencia entre las competencias de grado, los contenidos del plan de estudios correspondientes al
mdulo II, Lesiones no neoplsicas del crvix, y los casos
citolgicos reales; todo ello, aunado al muy buen acuerdo
entre los citotecnlogos expertos en relacin con las 20
unidades de interpretacin, contribuyeron a su validez de
contenido, criterio y construccin, lo que indica que el instrumento mide lo que pretende medir, confiriendo validez
al instrumento.
Esta confiabilidad elevada y, en consecuencia, su estabilidad y consistencia interna permiten, por tanto, establecer
112
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
Alumno
Puntuacin*
ndice kappa**
Nivel de competencia
Acuerdo alumno-experto
inicial
final
inicial
final
inicial
final
inicial
final
208
252
0.432
0.584
Competente
Competente
Moderado
Moderado
213
260
0.480
0.612
Competente
Competente
Moderado
Bueno
200
288
0.500
0.709
Novato
Competente
Moderado
Bueno
224
244
0.498
0.593
Competente
Competente
Moderado
Moderado
114
230
0.391
0.536
Profano
Competente
Dbil
Moderado
204
228
0.425
0.516
Novato
Competente
Moderado
Moderado
182
248
0.337
0.601
Novato
Competente
Dbil
Moderado
160
236
0.323
0.542
Novato
Competente
Dbil
Moderado
0.69
0.92
p < 0.05
p < 0.001
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
113
Cuadro 6. Competencia y grado de acuerdo del citotecnlogo en formacin al inicio y al trmino del mdulo Interpretacin de lesiones
no neoplsicas.
114
meta, igual que el tipo de pensamiento utilizado en la resolucin de problemas, la toma de decisiones, el anlisis y
las inferencias lgicas.(16)
Hasta donde fue posible investigar en la base de datos,
no existe referente terico o emprico alguno de este tipo
de instrumentos de evaluacin en el rea citolgica. Ello
no es obstculo para contrastar y criticar el instrumento
aqu propuesto y, a la vez, sienta un precedente para la futura construccin de otros instrumentos con base en esta
metodologa.
Consideramos que cualquier instrumento que rena
atributos de validez y confiabilidad como el aqu presentado, ser de gran ayuda al proceso de formacin de los
alumnos, puesto que permite una identificacin precisa de
los avances o las deficiencias de aprendizaje del alumno por
dominio y global, situacin que se advierte en los resultados
obtenidos en cada una de las estaciones de interpretacin.
Asimismo se identifican las competencias ms dbiles y ms
fuertes de cada alumno, lo que permite orientar al profesor
y reorientar el proceso de enseanza de manera que al final
del curso se obtengan las competencias esperadas.
En conclusin, consideramos que se han cumplido los
objetivos propuestos, dado que el instrumento con base
en el examen prctico objetivo estructurado descrito en el
presente trabajo muestra atributos tales como: validez y
confiabilidad;(17) adems, logra enfrentar a los alumnos a
situaciones-problema reales en su futura prctica profesional y es indicador del grado en que el alumno incorpora
los contenidos tericos, construidos a travs del acomodamiento de esquemas cognitivos aprendidos en el mdulo
anterior y aplicado en el segundo mdulo del curso.
La observacin directa del alumno y la evidencia en la
manera en que opta por decisiones correctas o errneas
frente a situaciones-problema planteadas en el instrumento, el cual se corresponde con las competencias de grado
descritas en las unidades didcticas del plan de estudios,
no slo posibilita medir el eje del saber saber, sino tambin el del saber hacer (habilidades prcticas) incorporadas y consolidadas a lo largo del tercer mdulo y que
en el momento de la aplicacin y resolucin del examen
prctico objetivo estructurado se expresaron de forma
integradora.
Consideramos que el estudio es un buen acercamiento
para mirar lo que ocurre en el proceso formativo de este
personal, no por los resultados obtenidos, sino ms bien
como detonante y desafo para iniciarnos en un largo camino que nos lleve a mejorar nuestra prctica docente en la
formacin del profesional de la salud,(18,19) responsable en
buena medida del diagnstico oportuno de cncer crvico
uterino en nuestra institucin y en nuestro pas.
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
11. Bloom B. Apndice: Versin condensada de los objetivos de la educacin. En: Taxonoma de los objetivos de la educacin. La clasificacin
de las metas educacionales, Buenos Aires: El Ateneo, 1979:162-7.
12. Prez PJ, Viniegra VL. Mtodo para calcular la distribucin de las calificaciones esperadas por azar en un examen tipo falso, verdadero, no
s. Revista de investigacin clnica, 1989; 41:375-9.
13. Cohen JA. Coefficient of agreement for nominal scales. Educ Psychol
Meas 1960; 20:37-46.
14. Altman DG. Practical statistics for medical research. Londres: Chapman
and Hall, 1991:140-1.
15. Consejo de Normalizacin y Certificacin de Competencia Laboral
(CONOCER). Anlisis ocupacional y funcional del trabajo: el enfoque
del anlisis funcional. Madrid: Organizacin de los Estados Iberoamericanos para la Educacin, la Ciencia y la Cultura, 2000:89-111.
16. Guzmn S y Snchez Escobedo P. (2006). Efectos de un programa de
capacitacin de profesores en el desarrollo de habilidades de pensamiento crtico en estudiantes universitarios en el Sureste de Mxico.
Revista Electrnica de Investigacin Educativa, 8 (2). Disponible en:
http://redie.uabc.mx/vol8no2/contenido-guzman.html [Consulta: nov.
de 2006].
17. Latour J, Abraira V, Cabello JB, Lpez Snchez J. Mtodos de investigacin en cardiologa clnica (IV). Las mediciones clnicas en cardiologa:
validez y errores de medicin. Revista Espaola de Cardiologa, 1977;
50:117-28.
18. Sabido-Siglehr M, Viniegra-Velzquez L. Competencia y desempeo
clnico en diabetes. Revista de Investigacin Clnica, 1998; 50:211-6.
19. Viniegra-Velzquez L, Jimnez JJ, Prez PR. El desafo de la evaluacin
de la competencia clnica. Revista de Investigacin Clnica 1991; 43,
87-98.
L A B O R AT- a c t a Vo l . 1 9 N m . 4 2 0 0 7
115
Referencias