Diversidad y reconocimiento de la produccin acadmica en
los sistemas de evaluacin de la investigacin en Colombia Gabriel Vlez-Cuartas*, Henry Gmez-Flrez*, Ana suga-Ciro*, Manuel Vlez-Trujillo* * Departamento de Sociologa. Facultad de Ciencias Sociales y Humanas. Grupo de Investigacin Redes y Actores Sociales. Universidad de Antioquia. Medelln. Colombia. Correo-e: gabrielvelezcuartas@gmail.com Cmo citar este artculo/Citation: Vlez-Cuartas, G.; Gmez-Flrez, H.; suga-Ciro, A.; Vlez-Trujillo, M. (2014). Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia. Revista Espaola de Documentacin Cientfca, 37(3):e056. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Resumen: Este artculo hace una revisin de los productos resultados de investigacin reconocidos por las seis universidades mejor posicionadas en Colombia en los rankings internacionales y los documentos de Sistema Nacional de Ciencia, Tecnologa e Innovacin. Se utiliza anlisis de redes exploratorio y estadstica descriptiva para analizar la produccin documental de las instituciones con respecto a sus metas de produccin investigativa y evaluacin de su desempeo. Se demuestra que la discusin internacional acerca de lo que debe o no medirse para dar cuenta del impacto de la investigacin acadmica y cientfca an hace invisibles muchas formas de produccin que revelan construccin de nuevo conocimiento. Palabras clave: Comunicacin de la investigacin; anlisis de redes; documentacin institucional; comunicacin acadmica; produccin cientfca; sistemas de medicin; cienciometra. Diversity and recognition of academic production in Colombias research evaluation systems Abstract: This article reviews both those products resulting from research processes in the 6 best ranked universities in Colombia according to international rankings, and documents from the National System of Science, Technology and Innovation. Exploratory network analyses and descriptive statistics are used to analyse the institutions documents with respect to their research production goals and performance evaluations. The international discussion about what should and what should not be measured in order to determine the impact of scholarly and scientifc research is shown not to take into account many forms of new knowledge production, resulting in such products remaining invisible Keywords: Communication of research; network analysis; institutional documentation; academic communication; scientifc production; measurement systems; scientometrics. Copyright: 2014 CSIC. Este es un artculo de acceso abierto distribuido bajo los trminos de la licencia Creative Commons Attribution-Non Commercial (by-nc) Spain 3.0. Recibido: 04-11-2013; 2 version: 18-12-2013; Aceptado: 08-01-2014. Revista Espaola de Documentacin Cientfca 37(3), julio-septiembre 2014, e056 ISSN-L:0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 ESTUDIOS / RESEARCH STUDIES Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 2 1. INTRODUCCIN En la pgina web de la Asociacin Alemana de Sociologa (2013) se presenta un listado del 70% de las universidades alemanas (entre ellas las ms importantes) que tienen departamento de Socio- loga y declaran que no quieren hacer parte del ranking universitario del CHE (la organizacin que construye el U-Multirank). Esta situacin se puede considerar como uno de los tantos sntomas para describir los descontentos con el desempeo de los rankings universitarios en el mundo (Colectivo para la Ciencias, 2013; Dorr, 2013). Es importan- te tener en cuenta que la sociologa naci en ese pas y sigue produciendo algunos de los documen- tos ms importantes en el campo. Es cierto que cada vez que aparece un ranking tambin aparece como mnimo un crtico de ste. Por ejemplo alguno que no qued entre los prime- ros lugares. Sin embargo, cuando la medicin ya no slo opera como mecanismo de inclusin o exclu- sin de investigadores o instituciones, sino tambin de campos cientfcos enteros, de pases con trayec- toria investigativa, de publicaciones de calidad certi- fcadas por asociaciones nacionales o regionales, de investigadores fundamentales para diferentes cam- pos, hay algo ms que pareciera no estar funcio- nando bien (Nederhof, 2006; Rubio Liniers, 1999; Hazelkorn, 2010; Macas Chapula, 2001). Algunos problemas evidenciados ocurren por ejemplo en las ciencias sociales y humanidades que concentran el grueso de su produccin ms desta- cada en libros (Archambault y Larivire, 2010). Los libros no tienen bases de datos consistentes y por lo tanto quedan sin registro gran cantidad de obras relevantes, como ya lo haban evidenciado Gln- zel y Schoepfin (1999) algunos aos atrs y an lo denuncian Gimnez y Torres-Salinas (2011). Si bien ISI y Scopus estn haciendo un esfuerzo por vincular otras formas de produccin en productos como el Book Citation Index, por ejemplo, las edi- toriales includas por estas bases de datos conti- nan siendo las de las grandes universidades de habla inglesa, o importantes trasnacionales como Elsevier, Wiley, etc., dejando tambin por fuera parte importante de la produccin no registrada en estas grandes editoriales (Torres Salinas, 2013; Vlez Cuartas y otros, 2013b). Otro problema se evidencia en la cobertura. Ro- drguez Yunta (2010) evidenci de manera precisa los subregistros de publicaciones Iberoamericanas en WOS y Scopus. De manera general, Latindex considera en su catlogo cerca de 20.000 revistas iberoamericanas en contraste con las cerca de 500 presentes en las bases de datos ISI y Scopus en el 2010. Pero estas bases no presentan slo proble- mas de cobertura, sino tambin en la delimitacin de sus alcances. Por ejemplo, Michels y Schmoch (2012) encuentran que es imposible establecer una correlacin exacta entre el crecimiento de la ciencia y el crecimiento de las bases de datos WOS. De otro lado, Sanz-Casado y otros (2013) ad- vierten sobre la baja capacidad de observacin de las dinmicas nacionales que ofrecen los rankings internacionales. La existencia de mltiples obser- vatorios nacionales como el Atlas de la Ciencia Mexicana (http://atlasdelacienciamexicana.org/), el Observatorio IUNE en Espaa (http://www.iune. es/), el Observatorio Colombiano de Ciencia y Tec- nologa (http://www.ocyt.org.co) y otras mltiples experiencias nacionales dan cuenta de mediciones ms fnas de la dinmica institucional. En la misma va de la construccin de indicadores ms fnos, aparecen algunos ndices ms recientes como el ranking de editoriales de libros cientfcos en Espa- a y otros con una trayectoria de un poco ms de una dcada como Publindex en Colombia para la vigilancia de la calidad de revistas nacionales. Es- tas bases de datos e ndices evidencian la pertinen- cia de la diversifcacin en las formas de medicin con respecto a las bases de datos bibliogrfcas e ndices internacionales. Es importante anotar que esta diversifcacin permite evidenciar carencias de los sistemas inter- nacionales. En el caso especfco de Publindex, Ro- mero y otros, (2013), encuentran inconsistencias al hacer un contraste entre las revistas colombia- nas reconocidas por este ndice y las presentes en WOS y Scopus. Los investigadores descubren que algunas revistas de calidad reconocidas por Publin- dex, con las mismas condiciones y caractersticas de madurez, no se encuentran en bases de datos como WOS y Scopus y otras s. Igualmente Estrada y Forero (2010), descubren revistas de calidad que no cumplen con algunos criterios de las bases de datos internacionales para ser indizadas pero tie- nen una alta difusin internacional a travs de los sistemas Open Journal. Google Scholar es plantea- do hoy como una alternativa para solucionar estos problemas, sin embargo, en una revisin profunda se encuentra que los datos no son transparentes, ni la empresa da cuenta exacta de los procedimientos que permiten el rastreo de la informacin (Cabezas y Torres, 2012; Delgado y Cabezas Clavijo, 2013). En resumen se puede decir que la medicin de la ciencia y el conocimiento emergente de la inves- tigacin acadmica enfrenta problemas complejos como son la carencia de bases de datos globales fables para todos los campos de conocimiento; el no reconocimiento de otras formas de comunica- cin del conocimiento acadmico investigativo; y el establecimiento de puentes metodolgicos y teri- cos entre las situaciones nacionales y regionales de la ciencia (micro) y las dinmicas globales (macro). Este artculo se interesa especialmente por el se- gundo problema, el del reconocimiento de produc- tos en los sistemas de observacin y medicin de la investigacin acadmica y cientfca. Si bien las crticas se han centrado en la no observacin de productos publicados como los libros u otras pu- blicaciones seriadas, aqu se sostiene que el pro- blema es an ms profundo, y que existen muchos ms tipos de productos emergentes de la investi- Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia 3 gacin acadmica que se pueden considerar como comunicacin de nuevo conocimiento, pero an no son visibles al debate internacional al respecto de lo que puede ser considerado como tal. Para resolverlo, se han consultado los sistemas de valoracin de la produccin de conocimiento de las 6 universidades ms visibles de Colombia en los rankings internacionales, as como los documentos gubernamentales que rigen el Sistema Nacional de Ciencia, Tecnologa e Innovacin. Los resultados presentados en este documento dan cuenta de: (1) los tipos de productos reconocidos como productos de conocimiento e investigacin; (2) las diferencias en la valoracin de estos productos por parte de las instituciones observadas; (3) las bases de datos y fuentes utilizados para hacer inventarios de la pro- duccin; (4) y los sistemas de evaluacin de la pro- duccin investigativa y de conocimiento utilizados. El objetivo general de este trabajo es identifcar todas las formas de comunicacin del conocimiento reconocidas por los sistemas de evaluacin y se- guimiento de la produccin acadmica e investi- gativa en Colombia. El cumplimiento de este ob- jetivo permite la construccin de una lnea para la construccin en etapas posteriores de esta in- vestigacin de herramientas para la medicin de la produccin de conocimiento. Se recogen los sis- temas ms importantes de reconocimiento de los productos de investigacin: el de las Universidades y el del Sistema Nacional de Ciencia, Tecnologa e Innovacin liderado por Colciencias. 2. ESTRATEGIA METODOLGICA Y MATERIALES Los resultados fueron obtenidos a travs de una estrategia de investigacin documental que combi- na tcnicas exploratorias de bsqueda de informa- cin y anlisis cuantitativos. Se consideran los do- cumentos que regulan la asignacin de estmulos por productividad acadmica en las Universidades y en el Sistema Nacional de Ciencia, Tecnologa e Innovacin liderado por Colciencias. En el caso de Colciencias se han tomado tanto el modelo anterior y el vigente que en el momento de escribir este artculo estaban en perodo de transicin. Es decir, las directrices del modelo anterior vigente desde el 2008 hasta noviembre de 2013 (reemplazado por el actual) operan como mecanismo de clasifca- cin para la produccin investigativa en Colombia, hasta los resultados de la aplicacin del modelo de medicin que se tendrn disponibles luego de ser escrito este artculo. El Decreto 1279 estipula la asignacin de estmulos a la produccin acadmica en las Universidades Pblicas del pas. Este Decre- to fue publicado en el ao 2002 y contina vigente. Se consideran tambin las normas particulares de las Universidades privadas vigentes al momento de realizar este estudio. A continuacin la descripcin de las fases de re- coleccin de informacin y anlisis. Delimitacin y recoleccin de informacin: Se seleccionaron 41 documentos institucionales co- rrespondientes a la planeacin y evaluacin de la investigacin en las 6 universidades ms grandes en produccin y mejor posicionadas del pas segn los rankings de Shangai, Times Higher Education, QS world, Scimago y Webometrics. A continuacin se indican los nombres de las instituciones, su fe- cha de creacin, las pginas web institucionales y su carcter pblico o privado: Universidad Nacio- nal de Colombia (1867, http://www.unal.edu.co/, pblica) , Universidad de Antioquia (1803, http:// www.udea.edu.co/, pblica), Universidad del Valle (1945, http://www.univalle.edu.co/, pblica), Uni- versidad de los Andes (1948, http://www.uniandes. edu.co/, privada), Universidad del Rosario (1653, http://www.urosario.edu.co/, privada) y Pontifcia Universidad Javeriana de Bogot (1623, http:// puj-portal.javeriana.edu.co/, privada). Igualmen- te se consideraron las leyes, decretos, acuerdos y resoluciones del orden nacional relacionadas con el Sistema de Ciencia, Tecnologa e Innovacin (CTI), principalmente producidos por Colciencias (http://www.colciencias.gov.co/, el Departamento Nacional de Planeacin (http://www.dnp.gov.co/ y el Observatorio Colombiano de Ciencia y Tecno- loga (http://www.ocyt.org.co/). Por parte de las Universidades se consideraron los documentos ins- titucionales en materia de ciencia, investigacin y validacin de produccin de conocimiento (el listado de los documentos aparece adjunto en la bibliografa). Toda la documentacin fue recabada de las pginas Web Institucionales y verifcada va telefnica con las unidades respectivas en caso de duda sobre la vigencia y actualidad. Se construy una base con cuatro tipo de datos: (1) los registros de referencias a las diferentes for- mas de comunicacin de los resultados de investi- gacin y conocimiento reconocidas; (2) las escalas de valoracin de los productos considerados por cada institucin; (3) los sistemas de evaluacin de la investigacin y la produccin de conocimiento mencionados por los documentos de planeacin y reglamentacin de las instituciones; (4) y las bases de datos utilizadas para hacer inventarios de sus productos. Todos los productos mencionados en (1) o (2) son considerados por las universidades como pro- duccin acadmica vinculada en muchos casos al ejercicio de la investigacin o al desarrollo de cono- cimiento e igualmente se conservaron los nombres de las tipologas de productos y clasifcacin de es- tos en la forma en que fguraban en los documen- tos de las instituciones mencionadas. El Decreto 1279 y las normatividades privadas reglamentan el estmulo a sus docentes e investigadores por productividad acadmica. Esa productividad se de- fne en trminos de tipos de productos sin calif- car su carcter epistemolgico o metodolgico y se consideran por igual trabajos de carcter cien- tfco, tcnico, artstico, humanstico o pedaggico. Podra decirse que estas instituciones estimulan la Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 4 produccin de conocimiento y no slo la produccin investigativa en sentido estricto. Desde otro punto de vista, Colciencias (2013b), en su ltimo modelo de medicin 2013, caracteriza de manera ms explcita la produccin como inves- tigativa y propone 4 categoras: -1- Nuevo conoci- miento: referido a formas de produccin: artculos en revistas indexadas en ciertas bases de datos, libros y captulos de libro publicados por editoria- les de prestigio, patentes y variedades vegetales y animales.; -2- Desarrollo tecnolgico e innovacin: productos tecnolgicos certifcados, empresaria- les, consultora y leyes o normas; -3- Apropiacin social y circulacin de conocimiento: participacin ciudadana, estrategias pedaggicas, participacin en eventos y redes de conocimiento, comunicacin social del conocimiento y reconocimientos; -4- For- macin de recursos humanos: tesis, proyectos de grado, I+D+i con empresas, extensin y respon- sabilidad social, apoyo a programas de formacin. Todas son consideradas actividades de investiga- cin y son califcadas como formas de especializa- cin de la produccin investigativa. Sin embargo el modelo no aclara la participacin de otras formas investigativas provenientes del terreno de las ar- tes, la arquitectura, el diseo o algunas ramas de las ciencias de la comunicacin, las cuales tambin tienen grupos de investigacin inscritos en el siste- ma Scienti de registro ofcial de toda la produccin investigativa colombiana. En este sentido, hay gran cantidad de actividades producidas en los grupos de investigacin de estas reas que queda en una especie de limbo en donde no est claro si lo que produce un grupo de inves- tigacin en teatro al hacer un trabajo etnogrfco para realizar una adaptacin de una obra teatral es un producto de investigacin o de desempeo profesional. Segn la defnicin de Colciencias, al ser actividad de grupo debera quedar catalogada como actividad de investigacin dentro de uno de los 4 subgrupos. Es verdad que pueden producir un artculo, pero en realidad el producto de cono- cimiento es la adaptacin y aunque est cataloga- da dentro de la clasifcacin de Colciencias como otro tipo de produccin, no recibe valoracin. Sin embargo, las normatividades de las universidades la reconocen. Este tipo de investigacin, llamada investigacin-creacin (Moreno Vargas, 2012) es vlida como producto investigativo tanto como el descubrimiento de una nueva forma de conforma- cin molecular desde el punto de vista de las de- fniciones institucionales y desde el punto de vista de la tipologa documental que se estn conside- rando en este trabajo. Se conservar de manera general el trmino produccin de conocimiento o comunicacin de la produccin de conocimiento investigativo como equivalente. Es cierto que no todos los productos realizados por los profesores universitarios pueden ser considerados como productos de investigacin, pero todos los tipos son susceptibles de ser toma- dos en cuenta por resultados de investigacin de grupos de las diferentes reas. As lo corroboran los documentos de trabajo del rea de ciencias so- ciales, artes y humanidades de la Universidad de Antioquia (2012) y algunos documentos utilizados en esta investigacin de la Universidad del Valle y la Universidad de los Andes. Anlisis: se hizo un anlisis de redes explorato- rio para procesar la base de datos construida. Se construyeron tres redes y se calcularon valores b- sicos de centralidad. A mayor centralidad de grado de los datos institucionales (tipo de producto, base de datos consultada o ranking consultado), mayor su relevancia relativa para el sistema teniendo en cuenta que la poblacin escogida es pequea (no irrelevante en trminos cualitativos). Cuanto ma- yor es el grado de las instituciones mayor el tipo de productos acadmicos e investigativos, considera- dos o reconocidos en sus documentos prospectivos y evaluativos (Freeman, 1978/1979). Para el pro- cesamiento de la informacin se utiliz el software Pajek 3.13 (De Nooy y otros, 2011) y VOSViewer 1.5.4 (www.vosviewer.com). Igualmente, se hizo una tabla comparativa de los valores asignados a los tipos documentales en los sistemas de valoracin institucional. Se construy una escala de valores normalizados y se contras- taron: los considerados por las instituciones, por el Decreto 1279, por el modelo actual de medicin de grupos del 2013 y por el anterior del 2008. 3. RESULTADOS 3.1. Tipos de productos de conocimiento re- conocidos Se consideran productos reconocidos, aquellos que las normatividades internas de las Universi- dades y los documentos del Sistema Nacional de Ciencia, Tecnologa e Innovacin consideran como productos acadmicos y resultados de investiga- cin respectivamente y a los cuales se les asigna algn tipo de puntaje para estimular o evaluar a los grupos de investigacin e investigadores. En la totalidad de documentos institucionales revisados aparecen 135 tipos de productos que pueden ser reconocidos en, al menos, una de las instituciones. De stos, 75 pueden ser considerados como pro- ductos propios de la investigacin en las reas de artes y de las ciencias de la comunicacin o cien- cias de la informacin (ver fgura 1). Tambin apa- recen ms de una docena de productos tcnicos y tecnolgicos, as como varios asociados a la forma impresa del libro (captulos, traducciones, libro re- sultado de investigacin, etc.), entre otros. En una primera mirada se podra decir que el sistema es amplio y diverso en lo respectivo a los tipos de produccin investigativa y acadmica reconocidos. Se necesita, sin embargo, hacer una observacin ms detallada sobre el alcance de este reconoci- miento, y para esto hay que tener en cuenta que Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia 5 en Colombia hay dos grandes formas de reconocer la produccin a travs de puntajes: - El Modelo de Medicin de Grupos de Investiga- cin Cientfca, Desarrollo Tecnolgico e Innovacin de Colciencias 2008 y uno nuevo que est comen- zando a regir desde fnales del 2013 y reemplaza al anterior. - Los criterios de medicin interna de cada Uni- versidad: para las pblicas el decreto 1279 de 2002 y otras disposiciones internas que especifquen p- rrafos del decreto; para las privadas documentos autnomos. Los nicos tipos de productos reconocidos por todas las Universidades y Colciencias son los art- culos en revista indexada, los libros de investiga- cin y de texto. Igualmente la patente excepto por la Universidad del Rosario. Tambin se destacan: creacin artstica original, creacin artstica com- plementaria o de adaptacin, interpretacin artsti- ca, artculos de revisin, y reportes de caso, cartas al editor y editorial en revistas indexadas. Se pue- de decir entonces que al reunir los productos que tienen algn puntaje en los documentos revisados se identifcan 135 diferentes, pero al observar cu- les son reconocidos universalmente o por la mayo- ra de instituciones y sistemas analizados la lista se puede reducir a los mencionados en este prrafo. De acuerdo a los mecanismos de reconocimiento interno de las instituciones, la mayor variedad en trminos de produccin fgura en el rea de artes (aproximadamente 70 tipos diferentes); sin em- bargo, ninguno de estos productos se encuentra estipulado dentro del modelo de medicin de gru- pos y, por lo tanto, queda fuera de los parmetros de reconocimiento para la investigacin que lleva a cabo Colciencias para todas las universidades. De todos modos se debe reconocer que ya se inici un proceso para integrar productos relacionados con arte, diseo y arquitectura (Colciencias, 2013a) (Ver fgura 1). La U. del Valle y la U. de los Andes reconocen ms tipos de produccin en artes que las otras uni- versidades o modelos de medicin. En el caso de la U. de los Andes esto hace parte de un proceso de creacin de parmetros para reconocer la pro- duccin en esta rea equivalente al que existe para productos como artculos, libros, captulos, normas y patentes como lo han expresado ya en documen- tos acadmicos publicados (Villaveces Cardoso y otros, 2007; Villaveces Cardoso y otros, 2008; Vi- llaveces Cardoso y otros, 2010; Villaveces Cardoso y otros, 2012). La U. del Valle public un docu- mento (Resolucin N 112 de 2006) en el que deja explcito los cerca de cincuenta tipos de productos que consideran pertenecientes al campo de las ar- tes, contribuyendo a una mayor especifcacin de los contenidos en el Decreto 1279. A diferencia de la U. del Valle, las universidades de Antioquia y Nacional, que tambin son pblicas y se rigen por el Decreto, dejan sin especifcar qu produccin ar- tstica validan dentro de ellas, as que no se cuenta con informacin explcita y concreta de la produc- cin que estn validando en el campo de las artes (excepto por lo que fgura en el Decreto). Al contrastar los dos grandes modelos de valida- cin puede advertirse una desarticulacin entre el modelo actual de Colciencias para medir los grupos y las formas de reconocimiento al interior de las universidades. Sin embargo, el modelo de evalua- cin de Colciencias en discusin propone 28 tipos de actividades nuevas que no se encuentran en los documentos de validacin de la produccin al inte- rior de las Universidades. La diferencia compara- tiva entre el modelo vigente y el Decreto 1279 en especfco es mayor, ya que slo hay 5 productos en comn entre estos dos documentos: Patente, Artculo en revista indexada, Libro de investiga- cin, Libro de texto y Software, que en realidad son los tipos de productos ms comnmente indizados y ordenados en rankings globales o nacionales. Los dos tipos de sistemas nacionales de reco- nocimiento de la produccin estn muy separados entre s; y es esperable que haya diferencias entre ellos ya que no responden a propsitos exactamen- te iguales (Colciencias posiciona grupos de inves- tigacin mientras que las universidades reconocen la produccin de sus docentes); sin embargo, el nivel tan alto de esta disparidad implica que la ma- yora de los productos que un investigador elabore le va a dar puntos en un sistema pero no en el otro. Lo que lleva a preguntar si esto se debe a que la investigacin (Modelo de Medicin de Grupos) y la produccin de conocimiento de los docentes (de- creto 1279) se estn concibiendo como cosas muy diferentes entre s. Doce de 135 tipos de productos son considera- dos en comn por todas las universidades y mode- los de medicin como productos de investigacin. Los otros 114 dejan una pregunta importante a los sistemas de evaluacin de la produccin de cono- cimiento. La situacin se complica si se observa que cada uno de estos productos no responde a caractersticas regionales de la produccin de co- nocimiento, sino a las caractersticas de discipli- nas y campos especializados concretos que alber- gan procedimientos propios como la investigacin creacin, la investigacin para la realizacin de traducciones modernas y antiguas, la investigacin flosfca, la investigacin terica, la investigacin matemtica de modelos tericos, etc. 3.2 Diferencias en la valoracin de productos Los 135 productos referenciados en los docu- mentos institucionales se pueden identifcar dife- rentes puntuaciones para 60. stas son valoradas con un puntaje determinado en la reglamentacin que reconoce la produccin acadmica e investiga- tiva de los investigadores en las universidades y en Colciencias. Esta valoracin se presenta en la tabla I en contraste. Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 6 En los 60 se agrupan en 3 categoras 75 de los productos que fguran en la fgura 1 correspondien- tes a (1) creacin original, (2) interpretacin y (3) apoyo a obra artstica. (1) Creacin original: diseo arquitectnico, diseo urbano, diseo de interiores, escultura, escultura, pintura, grabados, dibujos, ins- talaciones, performance, obra de video-arte, video instalacin, obra en multimedia, guin audiovisual, guin radiofnico, direccin y realizacin de cine, TV y video, direccin y realizacin radiofnica, fo- tografa cinematogrfca, efectos especiales, diseo de vestuario, escenografa, animaciones, produccin en arte, edicin y montaje de producto artstico, di- seo de produccin, direccin artstica, composicin musical, guin para teatro, direccin arte escnica, coreografa, diseo grfco, novela, cuento, crnica, minicuento, texto dramtico. (2) Interpretacin: cu- radura, adaptacin de guin, adaptacin a distintos formatos, colaboracin en animaciones, direccin de orquesta, direccin coro o banda, direccin escnica- Tomada y corregida de Vlez Cuartas y otros (2013a). Nodos: Universidades, Modelo Colciencias, Decreto 1279 y Tipos de productos. Relaciones: Validacin o consideracin del produc- to dentro del sistema de evaluacin. Tamao de los nodos: Nmero de relaciones (Para las Universidades el tamao signifca el nmero de tipos de productos validados, para los productos la cantidad de instituciones por las que son considerados vlidos.). Los nodos agrupados por la lnea gris corresponden a productos frecuentes en las reas de ciencias de la comunicacin y artes. Figura 1. Produccin acadmica reconocida por instituciones colombianas Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia 7 musical, solista, conjunto de cmara, acompaante. (3) Complementaria y apoyo: arreglo musical, or- questacin, adaptacin musical, transcripcin (Re- solucin N 112 de 2006 de la Universidad del Va- lle). Igualmente: Obras literarias, direccin teatral, montaje teatral, presentacin artstica individual, presentacin artstica colectiva, inclusin en saln o curadura, inclusin en coleccin de arte, disco con interpretacin, produccin musical de discos, parti- tura, grabacin de disco con composiciones propias, obra artstica premiada, traduccin de obra literaria, obra artstica reseada, interpretacin, concierto, re- cital (Villaveces Cardoso y otros, 2010). Se opt por no incluirlos uno por uno en la tabla, sino agruparlos por las categoras sealadas. El resto de productos s se desglosan con su respectivo puntaje debido a la heterogeneidad de su puntaje. Se observa que todas las instituciones universi- tarias, sean pblicas o privadas, valoran, en con- junto, slo 3 productos: libro de investigacin, artculo en revista A segn el ndice de Publindex y Libro de texto. Es importante aclarar que la ca- tegora A se ha generalizado para las revistas pre- sentes en ndices ISI y Scopus u otros ndices de relevancia internacional. Las universidades pbli- cas (U. de Antioquia, U. Nacional y U. del Valle) otorgan la misma importancia al libro de investi- gacin, puntaje que vara en la valoracin que ha- cen de l las universidades privadas (Universidad Javeriana y Universidad del Rosario), siendo en la Universidad del Rosario, por ejemplo, el producto ms valorado. Para el caso del Modelo de Medicin de Grupos del ao 2008, se le otorga un importan- te valor en comparacin con el artculo en revista A y con el libro de texto. Las patentes son el producto de ms alta valora- cin, excepto en la Universidad del Rosario que no las contempla (sus carreras pertenecen al campo de las ciencias sociales y humanidades). Los art- culos en revistas indexadas son valorados por to- das las Universidades investigadas, pero no son los de mayor valor en el sistema. Los libros, compren- diendo por ellos, el libro de investigacin, el libro de texto, la traduccin de libro, el captulo de libro y el libro de ensayo, tienen diferencias valorativas entre universidades (Ver Tabla I). En lo referido a la produccin de Artes en las Uni- versidades Estatales, se evidencia que sus formas de comunicacin son altamente valoradas. Esto se observa en el reconocimiento de la Creacin Ar- tstica Original con idntico valor al del Libro de Investigacin, inclusive por encima del artculo en revista A. La Obra Artstica Complementaria, la menos valiosa de las tres producciones de Artes, es ms valorada por las Universidades Estatales que el Artculo en revista B. Sin descuidar que el De- creto 1279 permite a las Universidades Estatales clasifcar la produccin de las Artes en cualquiera de las tres categoras, se evidencia una importan- te valoracin de la produccin Artstica, valoracin que permite a los investigadores de esta rea com- parar su produccin investigativa con reas ajenas a las suyas, teniendo igual valor en ciertos pro- ductos especfcos. En cuanto a las universidades privadas, la Universidad Javeriana valora tambin la Creacin y la Interpretacin Artsticas de igual manera que el Libro de Investigacin y que el Art- culo en Revista A respectivamente. La Obra Arts- tica Complementaria equivale en ella a la Traduc- cin de un libro. Empero, la Universidad del Rosario (que no tiene programa de artes) y el modelo de medicin 2008 no validan ni valoran la produccin Artstica, excluyendo de sus objetivos esta forma de produccin de conocimiento. La Universidad de los Andes llev acabo el in- ventario, la clasifcacin y la valoracin de toda su produccin en libros, para lo cual, adems de re- visar en su propia biblioteca y centros de investi- gacin, termin de completar la informacin con otras cinco fuentes ms. A falta de un referente que reuniera toda su informacin en este tipo de produccin hicieron uno propio, y el documento de conceptualizacin del proceso intitulado La publi- cacin de libros de investigacin en la Universidad de los Andes: una propuesta de criterios editoriales y cientfcos. Este documento inclusive sirvi como referente conceptual a Colciencias para la cons- truccin del sistema que est permitiendo registrar los libros a nivel nacional. Son procesos de recu- peracin de la produccin propia, pero construidos bajo estndares internacionales de Harvard Uni- versity Press, Cambridge University Press y Oxford University Press, que visibilizan resultados que de otra forma se hubieran perdido. De manera general, las universidades pblicas que siguen el decreto 1279 dan un alto valor a la diversidad de productos acadmicos. Las universi- dades privadas limitan ms su espectro. El modelo anterior de Colciencias tambin de carcter pbli- co como el decreto, es mucho ms restringido que ste. El modelo actual de Colciencias es mucho ms generoso, considera un abanico inmenso de produc- tos con alta valoracin. Se podra apelar a un argu- mento vocacional para explicar esta situacin por la especializacin disciplinar de las instituciones, pero en una mirada con lupa, es posible encontrar el con- ficto latente en decisiones administrativas inconsis- tentes que promueven en los planes de trabajo la visibilidad en bases de datos como Scopus o WOS, pero que en su normatividad y legislacin premian una gama de productos mucho ms amplia. Esta situacin tiene dos caras: una es un sis- tema dinmico en bsqueda de adaptar mecanis- mos de valoracin de las formas de comunicacin dentro de un contexto institucional; tal vez no siempre con los mejores resultados, pero defni- tivamente dinmico. Otra, y ms importante que la anterior, los mecanismos de valoracin ponen en evidencia las defciencias de los sistemas que valoran la comunicacin del conocimiento inves- tigativo. Hay muy pocos productos valorados por los rankings internacionales y no represen- Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 8 tan la totalidad de las formas de comunicacin del conocimiento, ni pueden considerarse como representativos de sta. Si bien los estndares internacionales de investigacin reconocen muy pocos productos de acuerdo a las bases de da- tos disponibles en el mercado para inventariar la produccin, las Universidades y el sistema na- cional, comienzan a observar una gama amplia de posibilidades de comunicar conocimiento aca- dmico y resultado de investigacin. De ninguna forma puede decirse que son nuevas formas de comunicar el conocimiento, pero s representan una novedad para los sistemas globales de eva- luacin y valoracin mucho ms recientes, que la misma historia del conocimiento producido de manera acadmica (Stichbe, 2003). Tomada y corregida de Vlez Cuartas y otros, (2013a). Nota a la Tabla 1: Rangos de valoracin: Universidades Pblicas 1-25; Modelo de medicin 2013 Colciencias 1-10; Modelo de Medicin 2008 Colciencias 0.1-4; U. Javeriana 5-200; U. Rosario 381500-3815000. Se realiz una normalizacin de la valoracin para hacer contrastables los valores asignados aasignados por cada universidad. Las barras de cada celda representan la valora- cin normalizada respecto al valor mximo otorgado por cada institucin al producto, lo que permite comparar las asignaciones valorativas de cada institucin y el peso con respecto a las valoraciones generales. La Universidad de los Andes no hace mencin a una escala cuantitativa de puntuacin de los productos en los documentos consultados. Tabla I. Comparacin entre las formas de valoracin de la produccin de nuevo conocimiento Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia 9 3.3. Bases y fuentes para inventariar la produccin Cul de esta produccin se encuentra registrada o almacenada para ser susceptible de ser medida? Los documentos pueden dar la posibilidad de asig- nar puntaje a cada uno de los tipos de productos investigativos, pero si no hay bases o repositorios donde se pueda ingresar dicha produccin, no hay forma de establecer todas las capacidades y po- tencialidades que se estn generando en la inves- tigacin y en el trabajo acadmico. Este apartado responde a la pregunta si se fuera a hacer un in- ventario de la produccin de cada institucin a qu bases de datos o informes recurrira? La primera respuesta es simple y sin sorpresas para las instituciones colombianas: ISI Thompson, Scopus, ScienTI y Publindex. Por instituciones aqu se han considerado no slo las universidades y los modelos de medicin de Colciencias sino tambin las leyes, documentos de planeacin nacionales del gobierno central (CONPES por ejemplo) y del De- partamento Nacional de Estadstica (DANE). Estos documentos seran los que regiran en gran parte la normatividad del SNC&T+I. La visualizacin de la fgura 2 permite ver el contraste y la concentra- cin que hay en este aspecto. Cabe sealar que las bases ISI y Scopus cubren una cantidad importante de produccin, si se en- tiende que las formas ms estandarizadas de co- municacin del conocimiento son el artculo y los otros tipos de productos que habitualmente se pu- blican en las revistas cientfcas y libros. Scopus adems de los artculos contempla ms de 360 co- lecciones de libros segn su sitio web en agosto de 2013. ISI por su parte tiene una coleccin de 40000 libros aproximadamente en el Book Citation Index consultado en la misma fecha. Estas canti- dades an no refejan parte importante de la pro- duccin del conocimiento por este medio, pero es informacin que est indizada y disponible para su consulta para quien pague sus servicios (Gimnez- Toledo y Torres-Salinas,, 2011). Pese a la cobertu- ra, el lmite en la variedad de formas de comunica- cin del conocimiento deja por fuera a ms de 100 tipos de productos de los que se hallan en la fgura 1. Es importante considerar que ni Publindex, ni ScienTI son ndices bibliogrfcos de citacin. El primero clasifca las revistas, el segundo permite consultar y valorar la informacin de la produccin de los grupos registrados en Colombia. Este lti- mo sistema tiene el mismo problema que todos los sistemas regionales o nacionales de inventarios de la produccin investigativa: son imprecisos por la forma en que se recoge la informacin. Es importante aclarar que los tres primeros tipos de referentes son tiles para evaluar la productivi- dad de los investigadores y sus planes de trabajo, as mismo como para construir rankings de pro- ductividad y hacer uso de ellos para la generacin de reconocimientos. El ScienTI es especialmente utilizado por las universidades para verifcar la ac- tividad de un grupo y su existencia institucional ha- bilitando la posibilidad de participar en concursos por recursos o convocatorias. Los problemas de incompletud de los registros en las bases de datos ms consultadas han llevado a la U. de los Andes y la U. del Valle a diversifcar sus fuentes de consulta. La primera acude especial- mente a otros registros nacionales adelantados por la Bibliotecas Nacional y Luis ngel Arango, busca su produccin en tiendas globales como Amazon para verifcar su impacto en la distribucin y ob- serva otras fuentes muy importantes como Ulrich Periodicals o Google Books. La U. Nacional conside- ra bases de datos nacionales e internacionales de patentes, registros del Instituto Colombiano Agra- rio en el campo de las ciencias agrarias y bases de datos de la produccin de investigadores como Academic Search. 3.4. Fuentes de medicin de impacto de la produccin investigativa La Universidad Nacional de Colombia es, en el pas, la que ms se ha encargado de realizar una caracterizacin y comprensin del sistema mundial de rankings haciendo un inventario exhaustivo de las caractersticas, de su procedencia, del ao de aparicin y de variables e indicadores que miden, adems de saber de dnde toman los datos para construir sus indicadores (Snchez Torres y otros, 2011). En la fgura 3 se visualiza esto en la re- ferencia de la Universidad Nacional a 22 rankings mundiales. Slo 8 de ellos son tenidos en cuenta por otras universidades. La Universidad de los Andes, observa menos ran- kings para la construccin de indicadores que la Universidad Nacional, pero todos ellos se ubican como centrales; al ver la fgura 3 se puede apreciar que esta universidad se encuentra muy alineada con los que estn marcando la pauta. Y algo que se puede ver en los textos mismos es que estas referencias no son hechas slo con fnes informati- vos, sino con el propsito de aclarar qu es lo que debe hacer la Universidad para llegar a fgurar en esos espacios. En el tipo de documentacin que se revis, las otras universidades no realizan ejerci- cios amplios de exploracin de las posibilidades de observacin de mltiples rankings. Si bien los rankings analizados en este apar- tado dan cuenta de diferentes aspectos y varia- bles correspondientes al desarrollo institucional y educativo de las universidades, nos ha interesado especialmente, indagar por el tipo de referencias utilizadas para observar la productividad. As, el anlisis de referencias a rankings cont con una revisin de los tipos de productos considerados. Se ha encontrado que los tipos de productos que son reconocidos en los rankings analizados por las uni- versidades estudiadas se encuentran slo revistas, patentes y libros, el resto de produccin no tiene impacto en los rankings. Los rankings toman como principales fuentes de informacin las bases de datos Web of Science, Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 10 Tomada y corregida de Vlez Cuartas y otros, (2013a). Nodos de colores: Universidades; Nodos blancos: Documentos del SNC&T+I; Nodos negros: Fuentes de informacin citadas. Relaciones: citacin de las fuentes de informacin en documentos institucionales. Figura 2. Bases y fuentes para inventariar la produccin Scopus y el Book Citation Index. Con este ltimo sistema, ISI Thompson procura recuperar los regis- tros relevantes o de mayor impacto en las ciencias sociales, en tanto el 60% de los registros pertene- ce a esta rea, incluyendo humanidades y artes tal y como se anuncia en su sitio web. Si bien Scopus se especializa en indexacin de revistas, tambin contiene libros en su base de datos, por lo que un sistema de rankings basados en ISI y Scopus esta- ra midiendo la productividad a partir de revistas, pero tambin en parte de la produccin en libros. Otro tipo de productos considerados son las bases de datos de patentes internacionales, aunque en una menor medida que las revistas. La posicin de las universidades en los rankings es algo que quiz le interese mucho a sus admi- nistradores, sobre todo por el efecto en la imagen que obtienen sus instituciones y los logros en la gestin. De esta manera no es difcil pensar que muchas universidades concentren sus esfuerzos en mejorar el tipo de productividad, que est siendo tomada como variable por estos rankings, y que se terminen alineando a sus formas y resultados, inclusive con sus limitaciones. Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia 11 4. DISCUSIN Y CONCLUSIONES Se pueden evidenciar tres fuerzas confictivas: por un lado los sistemas de evaluacin internacio- nal jalonan la propuesta de considerar un ncleo muy pequeo de tipos de productos investigativos que pueden ser valorados como nuevo conoci- miento (Web of Science y Scopus); por el otro lado estn los sistemas de investigacin de diferentes disciplinas no reconocidos que participan de los de- bates para la inclusin de sus productos; en medio los sistemas de reconocimiento de la produccin cientfca como los de Colciencias y las Universida- des. Estas tensiones plantean distintos escenarios para las polticas institucionales: A Colciencias la bsqueda de herramientas para evaluar la calidad de los productos incluidos dentro de su sistema ampliamente incluyente (4 formas diferentes de producir en investigacin), en tanto el mercado internacional impulsa slo a reconocer un grupo muy pequeo de tipos de produccin (ni siquiera una variedad completa de formas productivas). Las disciplinas no experimentales no slo tienen Elaboracin propia. Nodos de colores excepto naranja: Universidades. Nodos naranja: Rankings. Nodos grises: documentos nacionales. Relacin: Citacin de los ranking en documentos institucionales. Figura 3. Fuentes de medicin de impacto de las 6 Universidades mejor posicionadas Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 12 un problema de visibilidad para los instrumentos de medicin, sino tambin una larga lucha por la inclusin de nuevos productos, pero tambin por su adaptacin a nuevas formas productivas para sus campos. As los sistemas de reconocimiento eventualmente tendrn que incluir las partituras (por ejemplo) como productos de investigacin, pero esos grupos de investigacin tambin deben publicar sus resultados en revistas evaluadas por pares. Las Universidades en ese sentido tienen que hacer un doble esfuerzo: generar sistemas bas- tante especializados de observacin tanto de las formas de produccin de la investigacin ms all de lo reconocido por sistemas internacionales (Web of Science, Scopus, por ejemplo), y la exploracin conceptual y metodolgica de forma de medicin del impacto de la investigacin en la sociedad. Col- ciencias est generando mecanismos de vanguar- dia que jalonan a las Universidades en ese sentido al reconocer productos de apropiacin social del conocimiento, formacin investigativa, tecnologa y relacin con organizaciones sociales, as como la produccin de nuevo conocimiento, todos entendi- dos por Colciencias como productos comunicativos de la investigacin. En esta discusin las reas de artes, arquitec- tura y ciencias de la comunicacin son especiales. Ellas podran presentar mayor variedad en trmi- nos de tipos de productos o formatos diferentes de comunicacin de resultados, generados a par- tir de sus procesos particulares de investigacin, trabajo acadmico y creacin. Sin embargo, an est en proceso de validacin en varios espacios del Sistema Nacional de Ciencia y Tecnologa e In- novacin; la Universidad del Valle hizo explcitos los tipos de productos que validan para esta rea 4 aos despus del decreto 1279; y de la Univer- sidad de los Andes identifcamos un documento donde se vean avances de este proceso. Para el resto de instituciones slo se conocen las tres ca- tegoras de productos artsticos que establece el decreto 1279, pero no cmo se est implemen- tando en cada universidad. El libro, que es una de las formas centrales de comunicacin del conocimiento en humanidades y las ciencias sociales, encuentra una amplia acepta- cin y fuerte valoracin en trminos de lo que se declara en la documentacin institucional pero el acceso y registro a esta informacin es muy inci- piente, ya que las dos principales bases de datos internacionales (Web of Science y Scopus) empie- zan a registrar los libros en un momento poste- rior al registro de revistas, y an no tienen una cobertura sufcientemente amplia. A nivel nacio- nal el proceso de registro de editoriales tiene una experiencia importante con el sistema de Publin- dex de Colciencias. Este sistema es utilizado para asignacin de puntajes y escalonamiento de los docentes, pero no para medir el impacto de la pro- duccin universitaria, lo cual se puede considerar una contradiccin misma del sistema. Espaa, por ejemplo, ya empieza a integrar este tipo de clasi- fcaciones de las editoriales en sus rankings (ver http://epuc.cchs.csic.es/SPI/). Aunque Colciencias ha avanzado de manera im- portante en la defnicin conceptual y metodolgi- ca para el reconocimiento de diversas formas co- municativas de la investigacin tanto los sistemas GrupLAC y CvLAC presentan problemas de valida- cin de informacin. De este tipo de sistemas na- cionales o regionales hay intentos diversos, inclusi- ve con difcultades similares (Sanz Casado y otros, 2013), sin embargo su consolidacin permitira obtener datos ms precisos y de carcter pblico. Mientras el sistema se acomoda, una salida alter- nativa puede ser apostar por la construccin de bases de datos institucionales que permitan hacer una medicin ms precisa de su produccin. Es- tas bases de datos pueden estar en comunicacin con las bases de datos de Colciencias en el futuro, pero eso depender nicamente de los acuerdos polticos a los que se logre llegar por parte de las instituciones. Con respecto a los rankings, ya en la literatura cientfca se ha advertido sobre la importancia de diversifcar las fuentes y contar con equipos es- pecializados para leer rankings, bases de datos y otros mecanismos de vigilancia de la produccin (Delgado, 2012; Torres y Cabezas, 2012). En este sentido no todas las Universidades mejor posicio- nadas en Colombia lo estn haciendo. Suponemos que no es slo un problema de las universidades colombianas, en tanto es tema de debate en las publicaciones sobre ciencias de la informacin. La dependencia de bases de datos de empresas co- merciales pone en riesgo la toma de decisiones en cuanto al reconocimiento de diferentes formas de comunicacin del conocimiento. De acuerdo con lo anterior, las acciones de la U. de los Andes o la U. Nacional permiten observar un conjunto de buenas prcticas que pueden explicar su visibilidad cre- ciente: vigilancia en distintas bases, refexividad sobre los datos en produccin de documentos y consideracin de productos de nuevo conocimiento en discusiones propuestas desde las dependencias administrativas de la investigacin. Los rankings internacionales estn en su apogeo, pero desde el punto de vista productivo y de im- pacto de la investigacin sus fuentes son limitadas. Sus indicadores slo permiten observar el impacto de las Universidades ms importantes en los cam- pos experimentales. En un primer momento ha- bra que aclarar que impacto no es igual a calidad (Pendlebury y Adams, 2012; Smith, 2012). Con esto aclarado habra que observar que la oferta de bases de datos est determinada por el mercado que es estrecho en tanto podra considerarse un duopolio. El producto ofrecido es vendido como la produccin investigativa de la ciencia de mayor im- pacto. Sin embargo, encontramos en esta investi- gacin gran cantidad de productos que no estn in- cluidos en inventarios de produccin internacional. Si a eso sumamos todas las voces de asociaciones Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Diversidad y reconocimiento de la produccin acadmica en los sistemas de evaluacin de la investigacin en Colombia 13 nacionales, las crticas ya expuestas al inicio de este escrito y sobre todo la necesidad de entender el impacto real de la produccin acadmica en Uni- versidades por fuera de las 100 primeras, habra que hacer una revisin de las formas de lectura de todos estos rankings. En esta investigacin se evidencia que algunas Universidades deciden leer su desempeo a la luz de muchos rankings. Esto hace la diferencia entre trabajar para un ranking o que el ranking sea til para el trabajo de los investigadores. Sin embar- go no hay congruencia entre las bases de datos consultadas para verifcar la funcionalidad de un grupo y su impacto. Mientras es posible encontrar gran variedad de productos y formas resultantes de procesos de investigacin y creacin de cono- cimiento, slo se miden los artculos escritos, pero aquellos que aparecen slo a travs de selecciones y algoritmos realizados por los equipos de Elsevier, ISI Thompson o Google Scholar. Finalmente, en trminos de polticas institucio- nales y pblicas, por qu tomarse la molestia de revisar varios rankings, reconocer nuevos produc- tos y pensar en la posibilidad de nuevos indicado- res o formas de medicin? Si la apuesta es tratar de entender qu estn aportando al conocimiento y qu problemas estn resolviendo los diferentes programas de investigacin de Universidades y Centros de Investigacin, la respuesta dada por un ndice de impacto simplifca el potencial desarrolla- do. Esta investigacin demuestra que en materia de polticas de evaluacin, no todo el conocimiento desarrollado por Universidades colombianas est escrito en artculos ISI y Scopus, ni todo el impacto del conocimiento investigativo en la sociedad est determinado por los ndices de impacto. El bache existente entre lo reconocido por las Universidades y los sistemas de medicin con los que rigen su evaluacin lanzan una alerta urgente sobre la ne- cesaria refexin acerca de lo que se entiende por el conocimiento aportado por las Universidades en una dimensin mucho ms amplia que la ofrecida por los distintos ndices de impacto, imperfectos en muchos aspectos y difciles de delimitar en sus alcances. 5. AGRADECIMIENTOS Este artculo se hace en el marco del proyecto Lnea base para la construccin de indicadores de comunicacin del conocimiento producido por el rea de ciencias sociales, humanidades y artes. Financiado por la Universidad de Antioquia. Con- vocatoria CODI Ciencias Sociales, Humanidades y Artes 2012. Participantes: Instituto de Estudios Regionales, Grupo de Investigacin Redes y Ac- tores Sociales, Grupo de Investigacin de Psico- loga Social y Poltica. Se agradece el apoyo de las investigadoras Claudia Puerta Silva y Liliana Snchez Mazo. 6. BIBLIOGRAFA Archambault, E.; Larivire, V. (2010). Los lmi- tes de la bibliometra en el anlisis de la lite- ratura en ciencias sociales y humanidades. En UNESCO. Informe sobre las ciencias sociales en el mundo. Las brechas del conocimiento. (pp. 268-271). Mxico. Asociacin Alemana de Sociologa (2013). http:// www.soziologie.de/ Pgina Web [Consultada el 11 de Octubre de 2013] Cabezas-Clavijo, .; Torres-Salinas, D. (2012). Go- ogle scholar citations y la emergencia de nue- vos actores en la evaluacin de la investigacin. Anuario ThinkEPI, 6, 147153. Colciencias. (2013a). Informe corto de resultados defnicin de grupos de investigacin, tecnolgi- ca o de innovacin ao 2012. Recuperado 22 de febrero de 2013, a partir de http://www.colcien- cias.gov.co/scienti/ Colciencias. (2013b). Modelo de medicin de Grupos de Investigacin, Tecnolgica y de In- novacin. Recuperado a partir de http://www. colciencias.gov.co/sites/default/files/upload/ documents/documento_model o_de_medi - ci on_grupos_2013-versi on_i i _defi ni ti va_ dic_10_2013._protected.pdf Colectivo por la Ciencia (2013). Segunda carta por la ciencia. En: Sin Permiso: artculos en la web. Disponible en http://www.sinpermiso.info/ textos/index.php?id=6029 [Consultado el 3 de agosto de 2013]. Decreto Presidencial 1279. (2002, 19 de Junio). Diario Ofcial, Imprenta Nacional de la Repblica de Colombia 44.840. Junio 20, 2002. De Nooy, W; Mrvar, A; Batagelj, V (2011). Ex- ploratory Social Network Analysis with Pa- jek. Expanded Edition. Cambridge: Cambridge University Press. http://dx.doi.org/10.1017/ CBO9780511996368 Delgado Lpez-Czar, E. (2012). Cmo se cocinan los rankings universitarios. Dendra Mdica. Re- vista de Humanidades, 11(1), 4358. Delgado-Lpez-Czar, E.; Cabezas-Clavijo, . (2013). Ranking journals: could Google Scho- lar Metrics be an alternative to Journal Cita- tion Reports and Scimago Journal Rank? Lear- ned Publishing, 26(2), 101114. http://dx.doi. org/10.1087/20130206 Dorr, K.; Lessenich, S.; Singo, I. (2013). Soci- logos alemanes proponen boicotear el ranking acadmico. Traduccin de Sinpermiso. Origi- nal tomado de: http://www.isa-sociology.org/ global-dialogue/2013/04/german-sociologists- boycottacademic-ranking/ [Consultado el 5 de junio de 2013] Estrada-Meja, C.; Forero-Pineda, C. (2010). The quest for visibility of scientifc journals in Latin America. Learned Publishing, 23(3), 237252. http://dx.doi.org/10.1087/20100306 Freeman, L. (1978/1979). Centrality in Social Network Analysis: Conceptual Clarifcation. So- Rev. Esp. Doc. Cient., 37(3), julio-septiembre 2014, e056. ISSN-L: 0210-0614. doi: http://dx.doi.org/10.3989/redc.2014.3.1133 Gabriel Vlez-Cuartas, Henry Gmez-Flrez, Ana suga-Ciro y Manuel Vlez-Trujillo 14 cial Networks, 1, pp. 215-239. http://dx.doi. org/10.1016/0378-8733(78)90021-7 Gimnez Toledo, E.; Torres-Salinas,D. (2011). Book citation index: nueva historia sobre big science y little science. Anuario ThinkEPI, (1), 195202. Glnzel, W.; Schoepfin, U. (1999). A bibliome- tric study of references literature in the scien- ces and social sciences. Information Processing and Management 35, 31-44. http://dx.doi. org/10.1016/S0306-4573(98)00028-4 Hazelkorn, E (2010) Pros y contras de la evalua- cin de la investigacin. En UNESCO. Informe sobre las ciencias sociales en el mundo. Las bre- chas del conocimiento. (pp. 268-271). Mxico. Macas Chapula, C.A. (2001). Papel de la infome- tra y de la cienciometra y su perspectiva nacio- nal e internacional. ACIMED, 9. Michels, C.; Schmoch, U. (2012). The growth of science and database coverage. Scientome- trics, 93, 831846. http://dx.doi.org/10.1007/ s11192-012-0732-7 Moreno Vargas, C. (2012). El arte de la investiga- cin-creacin. Pesquisa: Publicacin de divula- gacin cientfca y tecnolgica PUJ, 20. Nederhof, A.J. (2006). Bibliometric monitoring of research performance in the Social Sciences and the Humanities: a review. Scientometrics, 66 (1), 81-100. http://dx.doi.org/10.1007/ s11192-006-0007-2 Pendlebury, D.A.; Adams, J. (2012). Comments on a critique of the Thomson Reuters journal impact factor. Scientometrics, (92), 395401. http://dx.doi.org/10.1007/s11192-012-0689-6 Rodrguez Yunta, L. (2010). Las revistas ibero- americanas en Web of Science y Scopus: visi- bilidad internacional e indicadores de calidad. Comunicacin presentada en el VII Seminario Hispano-Mexicano de Investigacin en Bibliote- cologa y Documentacin. Ciudad de Mxico, 8 de abril de 2010. Romero-Torres, M.; Acosta-Moreno, L.A.; Tejada- Gmez, M.A. (2013). Ranking de revistas cien- tfcas en Latinoamrica mediante el ndice h: estudio de caso Colombia. Revista Espaola de Documentacin Cientfca, 36(1). http://dx.doi. org/10.3989/redc.2013.1.876 Rubio Liniers, M.A. (1999). Bibliometra y ciencias sociales. Clo, 7. Snchez Torres, J.M.; Moreno Meneses, G.M. (2011). Caracterizacin de Ranking Universita- rios. Recuperado a partir de https://99997f89-a- 62cb3a1a-s-sites.googlegroups.com/site/vice- rrectoriavri/archivos/Caracterizaci%C3%B3n_ de_Ranking_Universitarios.pdf? [Consultado el 14 de Junio d 2013] Sanz-Casado, E.; Garca-Zorita, C.; Serrano-Lpez, A.E.; Efran-Garca, P.; De Filippo, D. (2013). Rankings nacionales elaborados a partir de ml- tiples indicadores frente a los de ndices sintti- cos. Revista Espaola de Documentacin Cien- tfca, 36(3), e012. http://dx.doi.org/10.3989/ redc.2013.3.1.023 Smith, D.R. (2012). Impact factors, scientome- trics and the history of citation-based research. Scientometrics, 92(2), 419427. http://dx.doi. org/10.1007/s11192-012-0685-x Stichbe, R. (2003). Differentiation of Scientifc dis- ciplines: causes and consequences. Encyclopedia of Life Support Systems (EOLSS), UNESCO, Paris. Torres-Salinas, D.; Cabezas-Clavijo, . (2012). Herramientas para la evaluacin de la ciencia en universidades y centros I+D: descripcin y usos. Retrieved from http://digibug.ugr.es/han- dle/10481/20220 [Consultado el 1 de Septiem- bre de 2013]. Torres-Salinas, D.; Delgado-Lpez-Czar, E. (2013). Cobertura de las editoriales cientfcas del Book Citation Index en Ciencias Sociales y Humanidades: La historia de repite? Anuario ThinkEPI, 7, 110113. Universidad de Antioquia. rea de Ciencias Socia- les, Humanidades y Artes (2012). Productos de Nuevo Conocimiento. Documento de trabajo. Vlez Cuartas, G.; Gmez Flrez, H.; suga Ciro, A.; Vlez Trujillo, M. (2013a). Descripcin de la dinmica estructural sobre la validacin de pro- ductos de conocimiento en Colombia. IX Con- greso Iberoamericano de Indicadores de Ciencia y Tecnologa. Bogot, Colombia: RICYT. Vlez Cuartas, G.; Gmez Flrez, H.; suga Ciro, A.; Vlez Trujillo, M. (2013b). Cmo valoran la produccin acadmica las 6 universidades mejor escalafonadas del pas? Revista Debates Vol. 65. Villaveces Cardoso, J.L.; Orozco Castro, L.A.; Ruiz Ramos, C.F.; Chavarro Bohrquez, D.A.; Llanos Ballestas, E.J.; Silva Bohrquez, A.E.; Herrera Herrera, B. (2007). La Investigacin en Unian- des 2006: Una Aproximacin desde la Ciencio- metra. [Recuperado 19 de marzo de 2013], a partir de http://investigaciones.uniandes.edu. co/index.php/es/publicaciones Villaveces Cardoso, J.L.; Orozco Castro, L.A.; Ruiz Ramos, C.F.; Chavarro Bohrquez, D.A.; Llanos Ballestas, E.J.; Silva Bohrquez, A.E.; Daza Cai- cedo, S.P. (2008). La investigacin en Uniandes 2007: Elementos para una Poltica. [Recupera- do 25 de marzo de 2013], a partir de http:// investigaciones.uniandes.edu.co/index.php/es/ publicaciones Villaveces Cardoso, J.L.; Bello Ladino, D.H.; Delgado Vanegas, L.; Navas Calixto, A. C.; Zarur Latorre, F. (2012). La investigacin en Uniandes: Perspec- tivas de la internacionalizacin. [Recuperado 12 de abril de 2013], a partir de http://investigacio- nes.uniandes.edu.co/index.php/es/publicaciones Villaveces Cardoso, J.L.; Orozco Castro, L.A.; Cha- varro Bohrquez, D.A.; Ruiz Ramos, C.F.; Bonilla Jimnez, R.; Bucheli Guerrero, V.A.; Delgado Va- negas, L. (2010). La investigacin en Uniandes: construccin de una poltica. Bogot, Colombia: Uniandes. [Recuperado 12 de abril de 2013] a partir de http://investigaciones.uniandes.edu. co/index.php/es/publicaciones