Mostrando entradas con la etiqueta Web of Science. Mostrar todas las entradas
Mostrando entradas con la etiqueta Web of Science. Mostrar todas las entradas

viernes, octubre 10, 2014

El talón de Aquiles del SCImago Journal Rank



INTRODUCCIÓN AL INDICADOR

El Scimago Journal Rank (SJR) es un indicador de impacto de revistas, análogo al Impact Factor de Eugene Garfield, lanzado en el año 2007 por Felix de Moya Anegón y Vicente Guerrero Bote, del grupo de investigación SCImago, y que es utilizado como indicador referente en Scopus. En torno a este indicador, el grupo SCImago presenta su ranking de revistas SJR que, de forma similar a los Journal Citation Reports, clasifica a las revistas por su impacto dentro de diferentes categorías, ordenadas por cuartiles. Podemos decir que es uno de los indicadores con mayor reconocimiento para medir el impacto de las revistas por su forma de valorar la cantidad y calidad de las citas y además es “made in Spain”.

Este indicador posee tres características diferenciales en relación a su análogo, el Impact Factor:

Posee una ventana de citación de tres años. Este hecho, que ya incluía el Índice de Impacto de IN-RECS, hace que aumente la cantidad de información para el cálculo, con los consecuentes beneficios, especialmente en las áreas de humanidades (hay quien los critica porque piensa que provoca un retrato poco reciente de las revistas).
No tiene en cuenta las auto-citas de las revistas. Esta decisión tiene una consecuencia inmediata: las revistas no pueden auto-incrementar artificialmente su impacto si no es con la connivencia de otras publicaciones, lo cual, si no imposible, es desde luego más difícil de conseguir. Aunque también es discutible esta criminalización de la autocitación.
No todas las citas valen lo mismo, sino que las citas están ponderadas y depende del valor de centralidad de la revista que las emite, en una forma similar al Page Rank de Google. Éste es el principal elemento diferenciador y el apartado más novedoso del indicador, pero en él también radica los principales problemas que expondremos a continuación.

THE PROBLEM

El principal problema del que ha sido acusado este indicador es la complejidad de su cálculo, que dificulta, hasta imposibilitarlo, que los resultados sean replicados. Para realizar el cálculo del SJR de una revista se debe poseer el conjunto de citas de todo el sistema, para en primer lugar obtener el valor de ponderación de cada cita recibida por la revista. Es por ello que, una vez que anualmente se publica el impacto de las revistas, los editores de revistas se limitan a aceptar y creer en la validez de los resultados que se convierte en los que clásicamente se conoce como una caja negra.

De esta característica se deriva un problema aún mayor y que tiene que ver con la exactitud de los resultados. ¿Qué pasa si el sistema sobre el que se aplica el SJR comete errores a la hora de contabilizar las citas en una revista? Es decir, ¿qué pasa con los resultados del SJR si la base de datos Scopus no ha tenido en cuenta alguna cita a una revista o por el contrario ha incluido citas inexistentes? Obviamente que esa revista concreta posee un valor que no le corresponde, pero la peor parte es que, a diferencia del JCR, los errores en la contabilidad de las citas no sólo afectan a las revista que reciben o dejan de recibir las citas, sino que se compromete la exactitud de los cálculos de todas las revistas, puesto que tendría que calcularse de nuevo el valor que a la luz de estas nuevas citas tendrían cada revista en el conjunto. --Hay una medida, una proporción, un límite para cada cosa--.EST MODUS IN REBUS.

Y llegados a este punto la pregunta clave es, ¿cómete Scopus este tipo de errores? Sí y por lo que personalmente conozco, los comete en un porcentaje preocupante. En un examen rutinario, cuando se publicó el SJR 2013, identificamos que a la revista Comunicar no se le estaban contando 17 citas recibidas en 2013, de las cuales 6 le hubiesen contado para el SJR 2013 (la misma revista no mostró pérdida de citas en Web of Science). ¿Corrige Scopus estos errores? Pues parece ser que no, una vez que se hacen públicos los valores del SJR no se modifican, por lo que, lo único que se puede hacer es reclamar que se corrijan y se tengan en cuenta para el cálculo de otros indicadores el siguiente año.

Creemos que Scopus, y el grupo SCImago, deberían ser más proactivos y reactivos al problema, conscientes de la “sensibilidad” del indicador que utilizan, están obligado a reducir los errores de precisión y exhaustividad en la indexación de artículos y a crear procesos de corrección de errores. Para ello debe tomar decisiones como aumentar las exigencias de normalización a las revistas y cualquier otro esfuerzo encaminado a  mejorar el proceso de carga e identificación de citas. De forma reactiva deberían crear herramientas de control de fallos.

Si la respuesta a esos errores no afecta al conjunto de los resultados, estamos dispuestos a creerlo aunque no pase de ser una afirmación de muy difícil demostración, pero las consecuencias puntuales sobre algunas revistas pueden ser importantes y afectar gravemente a sus posiciones en los listados

CONSEJOS FINALES


Para acabar el post, me gustaría realizar un par de recomendaciones. En primer lugar se hace imprescindible que las revistas científicas incorporen procesos de normalización en las citas, estilo, inclusión del DOI, etc., para que éstas sean fácilmente identificables (algo que debería ser requisito casi imprescindible para la inclusión en Scopus). Igualmente se recomienda que las revistas planifiquen un estudio anual de citas previo al periodo de cálculo del indicador, con el objetivo de detectar aquellas citas que no son tenidas en cuenta por el sistema y puedan ser reclamadas a Scopus a tiempo. Finalmente sería deseable que Elsevier y Scimago incorporasen un sistema de corrección de errores, por ejemplo un primer cálculo del SJR con un periodo posterior de un par de meses para la corrección de errores hasta el lanzamiento de una versión definitiva.

martes, abril 22, 2014

A las puertas de SciELO

SciELO Citation Index y Chinese Science Citation Index se incorporan a las bases de datos de Web of Science con el propósito de suplir la principal carencia frente a su rival Scopus -la baja cobertura en revistas regionales-; y lo hace sin tener que sacrificar el concepto elitista de sus productos referentes: Science Citation Index, Social Science Citation Index y Art & Humanities Citation Index (Web of Science Core Collection). No obstante, no es la primera maniobra que hace Web of Science para tratar de aumentar la cobertura regional de países como España. Allá por el año 2007, coincidiendo con la firma de la licencia FECYT, se empezaron a incluir un buen número de revistas que, si bien no tenían impacto en el mundo anglosajón, representaban lo más selecto de la casa.

figura1scielo

¿Cuál es el problema de SciELO?
SciELO, para las revistas españolas supone un problema doble.
En primer lugar, al ser la principal solución de Thomson Reuters para suplir la falta de cobertura en España e Iberoamérica, es de prever que las revistas españolas que están indexadas en WOS dejen de disfrutar de su status preferente y tengan que justificar su indexación como el resto, mediante su impacto científico. Esto nos adelanta un futuro inmediato en el que las revistas españolas en WOS se van a ver reducidas. Como un mal presagio, en Social Science Citation Index hay nueve revistas españolas cuyos trabajos no son indexados desde el año 2012. Son las siguientes:
  • Revista de Educación
  • Revista de Economia Mundial
  • Universia Business Review
  • ESE-Estudios Sobre Educacion
  • Dynamis
  • Aibr-Revista de Antropologia Iberoamericana
  • Anuario de Estudios Medievales
  • Comunicacion y Sociedad
  • Estudios Sobre el Mensaje Periodístico
En segundo lugar porque SciELO, a día de hoy, no acepta revistas españolas más allá de un reducido grupo de revistas de Ciencias Biomédicas; gracias al acuerdo de colaboración establecido con la OPS/OMS y el Instituto de Salud Carlos III.
Llegados a este punto, muchos se preguntarán cómo Thomson Reuters ha incluido a una base de datos como SciELO para representar a las revistas iberoamericanas, si en realidad tiene una cobertura desigual. Ya no sólo de países (con un gran sesgo hacia Brasil), sino de materias. Baste el ejemplo: ni indexa ni posee los mecanismos para indexar revistas españolas, fuera del acuerdo con el Instituto de Salud Carlos III; por lo que muchas áreas, en las que España es referente en Latinoamérica, se quedan fuera.
tablaSciELO

SciELO debe permitir la entrada de revistas españolas
SciELO está en la encrucijada de integrar a las revistas españolas. Lo que para España supondría ahora mismo una gran ayuda para los procesos evaluativos, puesto que se podría volver a monitorear el intercambio de citas de revistas. Hecho que en Ciencias Sociales hemos perdido con la desactualización de la familia IN-RECS,  arrojando a la oscuridad a la mayoría de las revistas. En justa reciprocidad, SciELO se vería enriquecido con revistas con un gran nivel, líderes en sus respectivas áreas, que igualan y, en muchos casos, superan en calidad a las revistas ya existentes en el producto; lo que mejoraría sustancialmente la calidad de la base de datos y la representación que SciELO tiene de la región (principal motivo por el cual ha sido incluida en Web of Science).
En cambio, si SciELO no es capaz de dar cobertura a las revistas españolas en relación a su calidad sino sólo a aquellas de "MEDICINA", es  probable que en España se deje de utilizar Web of Science como producto referente, o que se empiecen a incluir otros; ya que WOS es incapaz de representar la investigación española en ciertas áreas, como Ciencias Sociales, cuando para otros países iberoamericanos sí lo hace.
En definitiva, estamos en un encrucijada, donde la posición de SciELO frente a las revistas españolas puede significar un cambio en los procesos evaluativos de revistas en España.
Rafael Repiso

jueves, junio 13, 2013

El impacto de las revistas de comunicación: comparando Google Scholar Metrics, Web of Science y Scopus

The Impact of Scientific Journals of Communication: Comparing Google Scholar Metrics, Web of Science and Scopus

Como os adelantamos hace unos días (post previo), la revista COMUNICAR publicará próximamente un número especial dedicado a Evaluación Científica titulado "Los agujeros negros de la comunicación: comunicación científica y metainvestigación" coordinado por Elea Giménez y Evaristo Jiménez. En ese número el Grupo EC3 tenemos dos artículos. En este post os presentamos el segundo trabajo dedicado a las revistas de Comunicación en Google Scholar Metrics. 

Delgado López-Cozar, E. & Repiso, R. (2013). El impacto de las revistas de comunicación: comparando Google Scholar Metrics, Web of Science y Scopus. Comunicar, 41. (DOI: 10.3916/C41-2013-04)

La aparición de Google Scholar Metrics en abril de 2012 como nuevo sistema de evaluación bibliométrica de revistas científicas a partir del recuento de las citas bibliográficas que éstas han recibido en Google Scholar rompe el duopolio ejercido hasta el momento por las bases de datos Web of Science y Scopus

El objetivo de este trabajo es comparar la cobertura que poseen estas tres bases de datos y la similitud que puedan presentar los rankings elaborados a partir de ellas (http://bit.ly/X7HFBO). Se ha elegido como muestra las revistas de Comunicación indizadas en las tres bases de datos. Se calcula el índice h de las 277 revistas identificadas y se averigua la correlación existente entre los rankings generados. 



Figura 1. Número de revistas de Comunicación cubiertas en Google Scholar Metrics, Scopus y WOS

Google Scholar Metrics duplica la cobertura, reduce el sesgo anglosajón que poseen Web of Science y Scopus. Google Scholar Metrics proporciona índices h más elevados (un promedio de un 47% superior a Scopus y un 40% a Web of Science) con lo que permite discriminar mejor las posiciones de las revistas en el ranking. En conclusión, Google Scholar Metrics es una herramienta capaz de identificar las principales revistas de comunicación ofreciendo resultados tan solventes, fiables y válidos como los generados por Web of Science y Scopus.

Tabla 2. Ejemplo del índice h de las revistas de Comunicación en Google Scholar Metrics (2007-2011)

Respecto a un post anterior publicado sobre las revistas de Comunicación en Google Scholar Metrics, el ranking que presenta este artículo está depurado (se han eliminado revistas que no pertenecen al área) y se ha ampliado con otras revistas de Comunicación que no estaban incluidas en un principio (el presente índice registra 277 revistas, mientras que la primera versión obtenida en noviembre ofrecía 223). 

  • Delgado López-Cozar, E. & Repiso, R. (2013). El impacto de las revistas de comunicación: comparando Google Scholar Metrics, Web of Science y Scopus. Comunicar, 41. (DOI: 10.3916/C41-2013-04)
    ARTÍCULO EN ESPAÑOL
  • Delgado López-Cozar, E. & Repiso, R. (2013). Índice h de las revistas de Comunicación en Google Scholar Metrics (2007-2011). Comunicar, 41.
    RANKING DE REVISTAS
  • Delgado López-Cozar,  E. & Repiso, R. (2013). El impacto de las revistas de comunicación: comparando Google Scholar Metrics, Web of Science y Scopus [The Impact of Scientific Journals of Communication: Comparing Google Scholar Metrics, Web of Science and Scopus]. Comunicar 41. (DOI 10.3916/C41-2013-04
    ARTÍCULO EN INGLÉS

lunes, mayo 21, 2012

JOURNAL SCHOLAR: Una alternativa internacional, gratuita y de libre acceso para medir el impacto de las revistas de Arte, Humanidades y Ciencias Sociales*




El grupo EC3 (Evaluación de la Ciencia y de la Comunicación Científica) de la Universidad de Granada presenta el prototipo de lo que será JOURNAL SCHOLAR, un índice bibliométrico que pretende medir el rendimiento de las revistas científicas de Arte, Humanidades y Ciencias Sociales a partir del recuento de sus publicaciones y de las citas bibliográficas que estas han recibido a través de Google Scholar.  Pretende visualizar cuál es nuestra alternativa a Google Scholar Metrics, el reciente producto lanzado por Google para evaluar el impacto de las revistas científicas, y a los tradicionales índices promovidos por Thomson Reuters (Web of Science) y Elsevier (SCOPUS), que tan exigua y sesgadamente cubren los campos científicos del Arte, las Humanidades y las Ciencias Sociales.


Tras varios años explorando las posibilidades de Google Scholar como herramienta de evaluación científica (Delgado López-Cózar 2008, 2009a-b; Torres Salinas, Ruiz Pérez y Delgado López-Cózar 2009, Delgado

López-Cózar et al. 2012a-b) en los últimos meses el grupo EC3 ha empezado a experimentar con la creación de distintos productos destinados a medir el rendimiento científico en el campo de las Humanidades y Ciencias Sociales, en general, y muy particularmente para medir el impacto de las revistas científicas en estos campos (Cabezas y Delgado López-Cózar 2012a-b-c).


Figura 1. Pantalla de inicio de JOURNAL SCHOLAR


 JOURNAL SCHOLAR acogerá publicaciones de todos los países del mundo y en todos los idiomas. Como indicadores bibliométricos se emplearán los índices H y G. Las revistas se ordenarán en cuartiles y se presentarán por períodos de 5 o 10 años bien en rankings internacionales o por regiones.


Para identificar la producción científica y las citas asociadas a la misma en Google Scholar se ha ejecutado con el software Harzing’s Publish and Perish una búsqueda bibliográfica de cada revista a fin de identificar todas sus posibles publicaciones y las citas enlazadas a las mismas. Dado que este producto tiene una vocación experimental, se ha querido probar la precisión y exhaustividad de la búsqueda a partir del ISSN de la revista y no del título, como es lo habitual. Se han tenido en cuenta los distintos ISSN que pueden estar asociados a una misma revista (normalmente ISSN de la versión impresa y de la versión online).Tras un proceso manual de depuración de resultados (eliminación de duplicados y unión de citaciones), se calcula el índice H y G de cada revista.


Figura 2. Pantalla de consulta de los listados de revistas


JOURNAL SCHOLAR


Para ilustrar las prestaciones del producto se presentan los resultados de la disciplina Information and Library Science, que ofrece un ranking en el que se calcula el impacto de 462 revistas editadas en 59 países.  Las búsquedas bibliográficas en Google Scholar se efectuaron entre el 10 y el 15 de julio de 2011.


Aprovechando los datos se realiza una comparación de  la cobertura y los resultados de JOURNAL SCHOLAR con los ofrecidos por SCOPUS y WOS en esta disciplina. JOURNAL SCHOLAR cuadruplica la cobertura, reduce el sesgo anglosajón. Al identificar muchas más citas, JOURNAL SCHOLAR proporciona índices h muy elevados (en promedio es un 44% superior a SCOPUS y un 77% aWeb of Science) con lo que permite discriminar mejor las posiciones de las revistas en el ranking.


En conclusión, se demuestra que es factible y viable generar productos bibliométricos con Google Scholar. A pesar de su carácter incontrolado (ni selección de fuentes ni normalización de datos) obtiene resultados tan solventes, fiables y válidos como los índices de SCOPUS y WOS. Y todo a ello a menores costes que las herramientas de evaluación tradicionales –aspecto trascendental dadas las millonarias sumas que cuestan los productos elaborados por Thomson Reuters y Elsevier-.

Figura 3.Pantalla de resultados de los listados de revistas

JOURNAL SCHOLAR




SI QUIERES CONOCER LOS DETALLES DEL PRODUCTO Y EL RANKING DE REVISTAS EN

Information and Library Science pincha aquí







-----


  • Cabezas
    Clavijo, Á.;  Delgado López-Cózar, E. (2012a). Scholar Metrics: the impact of journals according to Google, just an amusement or a valid scientific tool? EC3 Working Papers 1, Accesible en http://eprints.rclis.org/handle/10760/16836

  • Cabezas-Clavijo, Á.; Delgado López-Cózar, E. (2012b). Las revistas españolas de Ciencias Sociales y Jurídicas en Google Scholar Metrics, ¿están todas las que son? EC3 Working Papers, 2, Accesible en http://eprints.rclis.org/handle/10760/16892

  • Cabezas-Clavijo, Á.; Delgado López-Cózar, E. (2012c). ¿Es posible usar Google Scholar para evaluar las revistas científicas nacionales en los ámbitos de Ciencias Sociales y Jurídicas? El caso de las revistas españolas. EC3 Working Papers 3, 23 de abril 2012. Accesible en http://hdl.handle.net/10760/16888

  • Delgado López-Cózar, E. (2008).  Qué es y cómo utilizar Google Scholar. V Foro sobre evaluación de la calidad de la
    educación superior y de la investigación. Fundación Española de Ciencia y Tecnología (FECYT) / Universidad del País Vasco. San Sebastián, 2-5 septiembre 2008. ISBN 978-84-691-3972-1. Accesible en http://ec3.ugr.es/publicaciones/Delgado_Lopez-Cozar,_E-Que_es_y_como_utilizar_Google_Scholar.pdf

  • Delgado López-Cózar, E. (2009a). Google Scholar: ¿Herramienta de evaluación científica? En: II Seminario sobre
    evaluación y comunicación de la ciencia. Granada, 2 de abril, 2009.Universidad de Granada. Accesible en: http://hdl.handle.net/10760/14088

  • Delgado López-Cózar, E. (2009b). Qué es y cómo utilizar Google Scholar. VI Foro sobre evaluación de la calidad de la educación superior y de la investigación. Fundación Española de Ciencia y Tecnología (FECYT) / Universidad de Vigo. Vigo, 8-11 septiembre 2009.

  • Delgado López-Cózar, E.; Marcos Cartagena, D.; Cabezas Clavijo, A.; Jiménez Contreras, E.; Ruiz Pérez,
    R. (2012).
    Índice H de las revistas españolas de Ciencias Jurídicas según Google Scholar (2001-2010). Accesible en http://hdl.handle.net/10481/20234

  • Delgado López-Cózar, E.;Marcos Cartagena, D.; Cabezas Clavijo, A.; Jiménez Contreras, E.; Ruiz Pérez,
    R. (2012).
    Índice H de las revistas españolas de Ciencias Sociales según Google Scholar (2001-2010). Accesible en http://hdl.handle.net/10481/20235

  • Torres-Salinas, D., Ruiz-Pérez, R. & Delgado-López-Cózar, E. (2009). Google Scholar como herramienta para la evaluación científica. El profesional de la Información, 18(5): 501-510. http://ec3.ugr.es/publicaciones/d700h04j123154rr.pdf 

lunes, abril 09, 2012

Scholar Metrics: el impacto de las revistas según Google, ¿un divertimento o un producto científico aceptable?


EC3 ofrece una primera valoración de urgencia del nuevo producto de Google, Scholar Metrics. En los próximos días publicaremos más análisis sobre diversos aspectos de esta nueva herramienta bibliométrica.

--------------
UPDATE: Download the English version of our paper!


-------------
Cabezas-Clavijo, Álvaro; Delgado-López-Cózar, Emilio (2012). “Scholar Metrics: el impacto de las revistas según Google, ¿un divertimento o un producto científico aceptable?”. EC3 Working Papers, 1, 9 de abril. Disponible en http://hdl.handle.net/10760/16830 
 
INTRODUCCIÓN

Google sorprendía el pasado 1 de abril con el lanzamiento de Google Scholar Metrics, un nuevo producto que ofrece un índice de impacto de las revistas científicas, medido a partir de recuentos de citas. La fecha no pasó inadvertida para la comunidad investigadora en las redes sociales que se preguntaba si era un producto real o una broma (el 1 de abril es el April Fools' Day, equivalente al Día de los Inocentes español). Sin embargo, para solaz de bibliómetras e intranquilidad de algunas multinacionales de la edición científica, el producto de Google no era una broma, sino un paso natural de Google dentro de la expansión de la familia Scholar.

Este movimiento no por esperado deja de ser relevante. Tras algún tiempo calibrándose la utilidad de Google Scholar como herramienta para la evaluación científica (Torres-Salinas, Ruiz-Pérez y Delgado-López-Cózar, 2009), Google se adentra ahora en el mismísimo santo y seña de la bibliometría: los índices de impacto de las revistas. El lanzamiento hace escasos meses de Google Scholar Citations (Cabezas-Clavijo y Torres-Salinas, 2012), herramienta de medición del impacto de los investigadores, suponía un aviso de los planes de Google en el mundo de la información y evaluación científica. La puesta en marcha ahora de la clasificación de revistas en función de su índice h entra en competencia directa con los diferentes productos e índices de revistas existentes en el mercado, y muy particularmente con los Journal Citation Reports (JCR), el estándar para la medición del impacto de las revistas.

En esta nota urgente repasamos las características más significativas de Google Scholar Metrics, señalando sus fortalezas y debilidades  (siempre teniendo en cuenta que los productos de Google van incorporando progresivamente nuevas funcionalidades), y se discuten las posibilidades de adopción para la evaluación de revistas.

DESCRIPCIÓN

Scholar Metrics ofrece en su primera versión una clasificación de las primeras cien revistas del mundo por idioma de publicación. La ordenación de estas listas se basa en el índice h de las revistas, calculado a partir de los artículos publicados en los últimos cinco años (2007-2011). Esto es, una revista con un índice h de 12 (por ejemplo, El Profesional de la Información) significa que ha publicado 12 trabajos con al menos 12 citas cada uno de ellos. Como dato adicional se ofrece asimismo la mediana del número de citas obtenida por los artículos que contribuyen al índice h. Lógicamente, el valor de la mediana nunca puede ser inferior al valor del índice h de la revista. Scholar Metrics usa este indicador (h5-median) para ordenar las revistas con el mismo valor de h-index, algo necesario dado que, al tomar valores discretos, este indicador tiene escaso poder discriminatorio. Asimismo se pueden consultar los artículos que contribuyen al índice h de cada revista.

Figura 1: Página de inicio de Google Scholar Metrics con las publicaciones con mayor índice h.

La consulta de Scholar Metrics se puede realizar de dos formas distintas:
  • Accediendo a los listados por idiomas (diez en la actualidad: inglés, chino, portugués, alemán, español, francés, coreano, japonés, holandés e italiano). Se muestra por cada idioma un ranking de las 100 revistas con mayor índice h.
  • Haciendo uso del buscador para buscar por palabras incluidas en los títulos de las revistas. En este caso, solo ofrece 20 resultados.  
Figura 2: Las 20 publicaciones con mayor índice h con el término "Library" en el título.

A este respecto hay que señalar que las revistas incluidas en este producto no son todas las indizadas en Google Scholar, sino que se ha hecho una selección, en base a dos criterios: solo se incluyen revistas que hayan publicado al menos 100 artículos en el periodo 2007-2011 y que hayan recibido alguna cita (esto es, se excluyen las revistas con índice h=0).

Conviene advertir que los índices de las revistas son los alcanzados por las mismas a fecha 1 de abril de 2012. No se trata, por tanto, de un sistema de información dinámico pues no se actualiza a medida que las revistas van recibiendo más citas sino que queda fijo con los datos a dicha fecha. Aunque no se anuncia, es de esperar que periódicamente Google actualice dichos listados.

Figura 3: Listado de algunos de los artículos que contribuyen al índice h de la revista El Profesional de la Información.

LIMITACIONES 

Una revisión de las prestaciones de Google Metrics junto a una primera observación de los listados de revistas ofrecidos ya apunta alguna de las principales limitaciones del producto.
  • Cobertura. Resulta francamente sorprendente la ambigua por no decir confusa definición de cuáles son los documentos objeto de medición de Google Metrics. Aunque a lo largo de la escueta nota metodológica que acompaña al producto las referencias explicitas a las revistas científicas son constantes (“…If you can't find the journal you're looking for…”, “If you're wondering why your Journal…”), se declara que se incluyen artículos de revistas procedentes de las webs que cumplen los criterios de inclusión de Google así como “actas de congresos” y preprints de “algunas fuentes seleccionadas manualmente”. Hay que esperar a ver los listados ofrecidos o realizar algunas consultas bibliográficas para encontrarse con la gran sorpresa: la indiscriminada mezcla de fuentes documentales tan distintas como las revistas, repositorios (RePEc, Arxiv y Social Science Research Network), bases de datos (Cochrane database of systematic reviews), actas de congreso (IEEE Conference on Computer Vision and Pattern Recognition, CVPR; Proceedings of the ESSCIRC; Proceedings of SPIE; AIP Conference Proceedings) y working papers (Nber Working Paper Series). ¿Es que acaso los responsables de Google Metrics desconocen las diferente naturaleza de estos productos que impide su comparación bibliométrica?  Así no es de extrañar que de las diez publicaciones con mayor índice h en inglés, tres sean repositorios (RePEc, Arxiv y Social Science Research Network), probablemente algunas de esas “fuentes seleccionadas manualmente”. La pregunta es evidente: ¿por qué se seleccionan estos y no otros? Meritorios repositorios como Dialnet o E-LIS, aunque tengan distintos propósitos y coberturas, podrían aparecer perfectamente en los listados. En fin, esta decisión es sorprendente y desde luego, no está justificada, máxime cuando la inclusión se ha limitado a una serie de fuentes de información y no al conjunto de actas de congresos, bases de datos o repositorios de materiales de investigación.
  • Control de fuentes: A las ya clásicas erratas detectadas por Peter Jacsó (2008) en Google Scholar, que encontró a tan prolíficos autores como Password,  Building, Introduction o View cabría añadir en Google Metrics la no tan productiva revista pero de tan simpar rareza como “Age (years)” incluida en el listado de revistas en español en el puesto 99.
  • Falta de normalización. Confeccionar un índice de impacto de revistas exige un laborioso a la par que enojoso trabajo de normalización de los títulos de revista. Esto es el abc en bibliometría. Es por lo que resulta impropio que Google, reconociendo el problema pues afirman que han encontrado hasta 959 formas de nombrar a la revista PNAS (Proceedings of the National Academy of Sciences) cometa errores tan infantiles como el de la Revista Española de Cardiologia que aparece con dos entradas distintas (una con ñ con un h de 24 y otra sin ñ con un h de 19). Más inadmisible resulta que Google haya prestado tan poco cuidado a la presentación formal del producto cuando ni siquiera se ha molestado en mostrar uniformemente los títulos de las revistas: unos aparecen –los más- con su denominación completa, otros con la abreviada (Nutr Hosp, Rev Argent Cardiol, Rev. CEFAC, Rev. bras. Enferm…); algunos títulos figuran en mayúscula (REVISTA DE SALUD PÚBLICA, BOLETÍN GEOLÓGICO Y MINERO, REVISTA BRASILEIRA DE OTORRINOLARINGOLOGIA…) frente a la mayoría que se presentan en redonda. En fin, pequeños detalles que no hubiera costado mucho subsanar dado que en los listados solo se visualizan 1200 revistas.
  • Consulta de resultados. Pero la principal crítica no se dirige a estos aspectos, sino que versa sobre la manera en que Google ha dispuesto la consulta de los datos. La posibilidad de consulta únicamente por idiomas es desde luego inédita en bibliometría, y tiene poco valor práctico. Lo lógico sería disponer los datos para su consulta por áreas o disciplinas científicas, dado que los indicadores bibliométricos como el índice h son enormemente dependientes de los patrones de producción y citación de cada área científica y no son comparables entre disciplinas. De esta manera la única forma de consultar las revistas con impacto en un área determinada es buscarlas una a una, y sin la certeza de si están o no incluidas, ya que no se ofrece en ninguna parte un directorio con las fuentes de información recogidas por Scholar Metrics.
UNAS REFLEXIONES FINALES

Señaladas estas limitaciones, hay que valorar positivamente este paso adelante de Google, que va a facilitar la consulta del impacto de las revistas por parte de muchos investigadores que no tienen acceso a las tradicionales bases de datos de citas, lo que puede estimular la competencia entre los diferentes productos. Asimismo la popularidad del índice h para evaluar investigadores, y su facilidad para el cálculo y comparación pueden hacer arraigar esta medida, también para la evaluación de revistas, muy especialmente en Humanidades, área que cuenta con pocos indicadores bibliométricos de impacto de las revistas.

Desde el punto de vista de la evaluación científica, ya es incuestionable que Google Scholar se adentra en este nicho de mercado y que trabaja en productos que son competencia directa de Thomson Reuters y de Elsevier. De la medida en que Scholar Metrics solvente algunas de las limitaciones referidas y se integre con los perfiles personales de Google Scholar Citations y con los resultados de la búsqueda clásica en Google Scholar dependerá muy probablemente su éxito entre los científicos y su utilidad para la comunidad evaluadora.  

De momento hay que ser muy críticos: es decepcionante ver como Google,  un imperio económico fastuoso que maneja unos recursos impresionantes, presenta un producto de tan cortos vuelos y de tan mala ejecución desde el punto de vista bibliométrico. Google debe ser consciente de que hacer productos bibliométricos serios exige algún esfuerzo y algunos medios más que poner en danza un algoritmo y un robot que produzcan automáticamente resultados. Da la impresión que para Google, la evaluación científica con herramientas bibliométricas es un campo para “jugar” y no para retar científicamente a la competencia y mejorar la cuenta de resultados.

Por último, conviene no olvidar que este producto llega en un momento de creciente debate entre la comunidad investigadora en dos frentes, diferentes pero relacionados. Por un lado, está aún candente el debate acerca de las leyes de acceso a la información científica como la Research Works Act estadounidense (Ley de Trabajos de Investigación), apoyada en principio por multinacionales como Elsevier y que retiró su apoyo a dicha ley tras el boicot a sus revistas auspiciado por un grupo de científicos, y que ha conseguido reverdecer el movimiento open access. Por otro lado, dentro de la comunidad evaluadora también existe una tendencia encaminada a la búsqueda de nuevos indicadores de impacto y visibilidad de la producción científica, dentro de las iniciativas conocidas como alt-metrics o métricas alternativas. Probablemente también en la medida en que Google sepa despertarse las simpatías de ambos movimientos aumentará su posición de fuerza en la comunidad académica. Pero sin duda lo que depertará las simpatías de los gestores de las políticas científicas es la gratuidad de los productos de la compañía de Silicon Valley en comparación con los costes de las bases de datos de Thomson Reuters y de Elsevier.

-------
Éstas son unas primeras valoraciones de urgencia de Google Scholar Metrics. En próximos días ofreceremos un análisis más detallado del producto y de las consecuencias que se derivan para la evaluación investigadora.

REFERENCIAS


Cabezas-Clavijo, Á. & Torres-Salinas, D. (2012). “Google Scholar Citations y la emergencia de nuevos actores en la evaluación de la investigación”. Anuario ThinkEPI, 6. http://ec3noticias.blogspot.com.es/2011/12/thinkepi-google-scholar-citations-y-la.html

Jacso, P. (2008). “The pros and cons of computing the h-index using Google Scholar”. Online Information Review  32(3), 437-452. http://www.jacso.info/PDFs/jacso-GS-for-h-index-unabridged.pdf

Torres-Salinas, D., Ruiz-Pérez, R. & Delgado-López-Cózar, E. (2009). "Google Scholar como herramienta para la evaluación científica". El profesional de la Información, 18(5), 501-510. http://ec3.ugr.es/publicaciones/d700h04j123154rr.pdf 
 


lunes, enero 30, 2012

Elsevier en el punto de mira


Autor: Rafael Repiso

La editorial holandesa Elsevier es una de las mayores editoriales científicas del mundo,  con productos tan conocidos como las revistas Lancet o Cell, la colección de revistas electrónicas ScienceDirect o la Base de Datos de citas Scopus. Elsevier es una división comercial perteneciente a la compañía Reed Elsevier que también gestiona otras divisiones como LexisNexis, Reed Exhibitions y Reed Business Information. En el último informe financiero de  la empresa (2010) Reed Elsevier había facturado un volumen de venta unos 7.210 millones de €, de los cuales 2.413 millones provenían de Elsevier, lo que representa el 33% del volumen de negocio.  No obstante, la compañía, al igual que el resto, está reduciendo sus ganancias, nótese que en 2006 casi llegaron a un volumen de ventas cercano a los 8.000 millones de euros.

Como todas las grandes compañías, Elsevier no ha sido ajena a las polémicas, pero nunca había tenido un problema como el actual, que incide directamente sobre la línea de flotación de su negocio, y es que muchos científicos están cansados del enriquecimiento de Elsevier a costa de en primer lugar sus aportaciones filantrópicas, como autores, revisores y editores de revista; y en segundo lugar de reducir drásticamente los fondos para suscripciones de sus respectivos centros, ofreciendo precios muy por encima de los marcados por otros grupos editoriales en contratos leoninos. 

La última iniciativa tiene su origen en un grupo de matemáticos, encabezados por el británico Tim Gowers, que hartos de los abusos de Elsevier en su área, han creado una lista pública donde los científicos se inscriben y comprometen públicamente a no participar directa o indirectamente en beneficio de la editorial. La página se titula "El coste del conocimiento" http://thecostofknowledge.com/ y cuenta a día de hoy con más de 1500 firmantes.
Sus principales argumentos son:
  • Los beneficios que Elsevier pretende extraer de un producto cuyo principal autor no cobra nada son desorbitados (muy por encima del promedio de otros editores), lo que reincide en costes elevados que los centros de investigación, que dan soporte a los autores, deben pagar.  
  • Elsevier oferta las revistas en grandes paquetes, obligando a las bibliotecas a pagar por revistas que no desean, acuerdos en donde las bibliotecas apenas tienen capacidad de maniobra.
  • Elsevier apoya iniciativas como SOPA, PIPA y Research Works Act, iniciativas cuyo fin es limitar la capacidad de acceso libre a la información con el objeto de beneficiarse como intermediador.

 Autores como Tim Worstall, columnista de la revista Forbes, reclaman a la empresa que cambie su modelo de negocio. Lo triste es que una revista científica, es lo que es gracias a las aportaciones científicas de los autores de sus trabajos, de los revisores y editores que han trabajado velando por el cumplimiento de una ética, y de repente resulta que sólo importa el beneficio, las dos caras de una realidad. No obstante, quizás lo más positivo de esta situación es la visión de conjunto de los científicos que salen de sus dinámicas individuales y son capaces de sumarse a la visión holística de sus centros, denunciando unas prácticas que perjudican a los sistemas de investigación, especialmente en estos años de crisis.

lunes, octubre 03, 2011

viernes, julio 08, 2011

Curso bibliometria en el máster de dirección y gestión de la I+D+I

Presentación para el curso impartido en el máster en Dirección y Gestión de la I+D+I en Ciencias de la Salud (Uned, Universidad de Alcalá e Instituto de Salud Carlos III), es una introducción muy básica y muy práctica a los indicadores bibliométricos.

viernes, febrero 12, 2010

Consejos básicos para incrementar la difusión y el impacto de las revistas científicas

Hoy hemos participado en las "Jornada para las Revistas Científicas" organizadas por la Uni de Navarra para ayudar a sus publicaciones y preparar la estrategia de futuro, nuestra preentación ha sido la siguiente:

  • Torres-Salinas, Daniel. Consejos básicos para incrementar la difusión y el impacto de las revistas científicas: métodos honestos y deshonestos. Jornada para las Revistas Científicas. Universidad de Navarra, Pamplona, 12 de Febrero, 2010

jueves, febrero 11, 2010

El apoyo a la investigación por parte de la bibliotecas universitarias


Aquí os dejo los enlaces a las ppt del curso de 8 h. que hemos impartido para la Biblioteca de la Universidad de Navarra con el objetivo de ilustrar que nuevos servicios se podrían ofrecer desde las bibliotecas para los investigadores, ésta es la referencia :
  • Torres-Salinas, Daniel. El apoyo a la investigación por parte de la bibliotecas universitarias. Biblioteca Universidad de Navarra, Pamplona, 10 y 11 de febrero, 2010
El curso está dividido en tres módulos diferentes; un primero introductorio, un segundo dedicado al embedded librarian, una forma de trabajo que me parece muy adecuada para afrontar los nuevos retos, y finalmente un tercer módulo en el que volvemos a ver como se comparten datos en ciencia y sobre todo ver que están haciendo otras universidades.

lo dicho estos son los links:

martes, abril 28, 2009

Nuevo trabajo: comparando rankings de la Web of Science y Scopus

Ya se ha publicado en Scientometrics un trabajo en el que comparamos rankings generados con la Web Science y con Scopus, concretamente son rankings de investigadores y departamentos de la Universidad de Navarra
  • Resumen: Los objetivos de este trabajo son por un lado comparar la diferencia en el número de citas rescatadas en Scopus frente a la Web of Science y por otro estudiar la concordancia entre los rankings de citación generados por dichas bases de datos. Para ello analizamos el área de Ciencias de la Salud de laUniversidad de Navarra (Spain) compuesta por un total de 50 departamentos y 864 investigadores. El total de trabajos publicados en la Web of Science fue de 2299 recuperándose para cada uno de ellos el número de citas en ambas bases de datos. Los resultados indican que los trabajos recibieron un 14,7% más de citas en Scopus. En los departamentos la diferencia era mayor en los clínicos que en los básicos. En el caso de los rankings de citas se observó que ambas bases de datos generan resultados similares. Los coeficientes de Spearman y Tau de Kendall fueron siempre superiores a 0,9. Se concluye que la diferenciaen el número de no se corresponde con la cobertura de WoS y Scopus, asimismo Scopus puede ser empleado como alternativa a la WoS dentro del contexto analizado.
Como siempre os hemos colgado una versión para descargar, además en esta ocasión el mismo archivo incluye una versión española del artículo

sábado, junio 21, 2008

Jornada de difusión de la 1ª evaluación de revistas FECYT

El pasado 12 de junio la FECYT celebró en Madrid la denominada Jornada de difusión de resultados de la calidad como culminación de un proyecto que emprendió hace un año con la adopción una serie de medidas destinadas a la mejora de la calidad de las revistas científicas españolas. Dentro de éstas se encontraba la creación de RECyT (Repositorio Español de Ciencia y Tecnología) que és:
... un conjunto de servicios destinados a la comunidad científica española que tiene por objeto apoyar la profesionalización e internacionalización de las publicaciones científicas españolas. El repositorio cuenta con una parte pública (Hemeroteca) que permite el alojamiento de revistas científicas de calidad contrastada y con una parte privada (Edición de Revistas) que facilita el uso de una herramienta que gestiona la edición integral de las publicaciones (incluida la revisión por pares de los artículos, etc).
Efectivamente dentro de este repositorio solo pueden formar parte las revistas con un grado elevado de calidad formal y científica. Para ello durante este año se han llevado a cabo las evaluaciones de una serie de revistas siguiendo los denominados criterios FECYT que aparecieron en el libro que publicó el grupo: La Edición de Revistas Científicas... Básicamente la metodología empleada en la evaluación de las revistas se ha basado en cuatro bloques de indicadores: calidad informativa, proceso editorial, calidad científica y calidad de la difusión/visibilidad. En total participaron en todo este proceso unas 182 revistas de las cuales solo 33 lograron pasar la evaluación completa y por tanto gozar de las ventajas de RECyT [todas las que ya estaban en WoS ingresaban directamente en el repositorio sin necesidad de evaluación].

Pues bien, la jornada tuvo el objetivo de presentar y contarnos los resultados finales de dicha evaluación y las primeras experiencias en el uso y manejo RECyT por lo que participaron en la misma los diferentes grupos, investigadores y revistas (como EPI) implicados en el proyecto. La FECYT ha colgado todas las presentaciones que tuvieron lugar durante el evento y las pódeis encontrar en la siguiente dirección:

http://recyt.fecyt.es/index.php/index/recyt/jornada120608

Por la parte que nos toca éstas fueron nuestras presentaciones:

Recomendaciones sobre los siguientes indicadores: normas para los autores, instrucciones de revisión para evaluadores a cargo de Rafael Ruiz . Esta presentación la complementamos además con tres documentos: dos modelo de intrucciones para autores, un protocolo de revisores externos y una lista de comprobaciones de envío (en la anterior dirección está todo).


La otra comunicación fue Recomendaciones sobre los siguientes indicadores: tasa de rechazo, endogamia en las autorías y visibilidad a cargo Emilio Delgado.


Aunque yo no fui por allí si me he chupado todas las presentanciones y me ha resultado especialmente interesante la que realizó James Testa de Thomsom Reuters [el tipo que se encarga de la política de entrada y salida de revistas de la Web of Science] que llevaba por título The Journal Selection Process Spanish Research in Web of Science. Un tema muy manido últimamente con la entrada de las famosas 700 revistas regionales. Además Testa nos regala un análisis WoS de la producción científica española.

lunes, diciembre 03, 2007

Revisión en EPI de la última tesis EC3 a cargo de Moed

Si alguien quiere saber rápidamente sobre que iba y que aporta la última tesis que hicimos en nuestro grupo sin tener que leerse todo el todo tocho ahora podéis consultar la reseña publicada por Henk Moed en el último número del EPI (in english):

jueves, noviembre 08, 2007

Times se cambia a Scopus

La penetración de Scopus es cada vez mayor y poco a poco [o mucho a mucho según se mire] le van comiendo el terreno a Thomsom-ISI. El último episodio de la historia: el ranking de universidades del Times Higher Education Supplement (THES). Para todo el tema bibliométrico consideran más adecuado Scopus.

Vía:
Prolegómenos y portentos en el mundo de los rankings: nuevas metodologías en el Times de Alejandro Pisanty.

lunes, octubre 22, 2007

Latindex: Indizada/Resumida en:

Para mi desgracia hemos comenzado a evaluar los departamentos de humanidades de la Unav, ya os contaré como me va, pero me temo que tendré algún que otro problema, el primero con Latindex.


Esta es la joya de la investigación en humanidades de la Unav: Anuario Filosófico. Éstas las bases de datos donde Latindex dice que está indizada.


(ISOC, Linguistics and Language Behaviour Abstracts, Francis)

... Y sin embargo:

viernes, octubre 19, 2007

Utilización de la WoS para la evaluación de la investigación

Navegando me he encontrado con un pdf de las conferencias que Henk Moed dió por tierras andaluzas. Aunque hace ya un tiempo os vais a encontrar cosas tan interesantes como este gráfico: