AUTOR: MARCOS GUTIÉRREZ
PONIENDO EN CONTEXTO LA EVIDENCIA SOBRE EL HMB
Tras haber analizado en la parte I algunos estudios controvertidos sobre la eficacia del HMB, nos disponemos a conocer la veracidad de la afirmación de los autores de ambos estudios [1,2], que defendían “a capa y espada” los resultados argumentando que sus participantes “entrenaron realmente duro”. Aunque no pretendemos negar el papel que este factor puede jugar (la fuerza y la masa muscular tienden a aumentar cuando lo hace el volumen de entrenamiento), es cuanto menos atrevido atribuir resultados extraordinarios a un alto nivel de esfuerzo sin más.
Si los resultados de los grupos tomando HMB pudiera explicarse por el programa de entrenamiento que utilizaron, sería de esperar que los grupos placebo de estos dos estudios consiguieran mejores resultados que el grupo placebo en el estudio sobre los esteroides. Sin embargo, esto no es lo que se observa.
Los grupos placebo en los estudios sobre HMB [1,2] ganaron 2,1kg de masa libre de grasa (LBM o FFM) respecto a los 2kg ganado por el grupo placebo + ejercicio en el estudio sobre esteroides [3]. Por si esto fuera poco, el grupo placebo + ejercicio en el estudio sobre esteroides [3] aumentó un 15% la suma de su sentadilla y su press de banca mientras que el grupo placebo en los estudios sobre HMB sólo aumentó la suma de su sentadilla, press de banca y peso muerto un 6% [1,2],. De hecho, el grupo placebo en el estudio sobre esteroides ganó más fuerza sólo en la sentadilla y peso muerto (35kg) respecto a los grupos placebo en los estudios sobre HMB en la sentadilla, press de banca y peso muerto (~25kg).
Progreso en términos de fuerza (Strength), masa libre de grasa (Lean Body Mass) y masa grasa (Fat Mass) en los grupos placebo de los estudios sobre HMB (color rojo) y testosterona (color azul) ya analizados (Nuckols, 2016).
En resumen, y como puedes observar en la imagen, el grupo placebo + ejercicio en el estudio sobre testosterona ganó más fuerza [3], la misma cantidad de masa libre de grasa y perdió una cantidad de grasa similar respecto a los grupos placebo en los dos estudios sobre HMB ya mencionados [1,2].
También podemos analizar cuánto aumentaron la masa muscular y la fuerza el grupo esteroides + ejercicio respecto al grupo placebo en este estudio y cuánto lo hicieron los grupos HMB y HMB+ATP respecto a sus correspondientes grupos placebo.
El grupo que hacía ejercicio y tomaba testosterona ganó 3,3 veces más masa muscular y 2 veces más fuerza que el grupo placebo, mientras que los grupos que tomaban HMB ganaron entre 3,5 y 4 veces más músculo y 3-4 veces más fuerza respecto a sus grupos placebo. Además, los grupos que se suplementaban con HMB perdían más grasa respecto a los placebo, cosa que no consigue el grupo testosterona + ejercicio respecto a su grupo placebo.
Progreso respecto a grupos placebo en cada estudio en términos de fuerza (Strength), masa libre de grasa (Lean Body Mass) y masa grasa (Fat Mass) en los grupos testosterona + ejercicio (color azul), HMB (color rojo) y HMB+ATP (color amarillo) (Nuckols, 2016).
Como se observa en la imagen, no sólo los grupos que tomaban HMB obtuvieron resultados mejores que el que tomaba testosterona, sino también mejores que sus correspondientes grupos placebo por una diferencia mayor abismal de la que lo hizo el grupo testosterona + ejercicio.
En resumen, si observamos únicamente los resultados de estos estudios, tomar HMB no es simplemente mejor que inyectarse dosis efectivas de esteroides, es mucho mejor.
UNA PEQUEÑA DIGRESIÓN: ¿Y QUÉ HAY DE LOS SUPLEMENTOS DE ATP?
Antes de que se publicara el primer estudio que hemos comentado sobre el HMB en 2014 [1], se publicó un estudio clínico realizado por el mismo grupo de investigación, Wilson y colaboradores en 2013 [4], que estudiaba de forma aislada los efectos de la suplementación con 400mg de ATP, y no como en el segundo estudio analizado sobre la efectividad del HMB en el que el grupo experimental tomó 3g/día de HMB-FA y 400mg de ATP.
El ATP (trifosfato de adenosina) es la molécula utilizada para casi toda la energía celular que necesitas. En teoría, si pudieras llevar más ATP a tus músculos, estos serían más resistentes a la fatiga y podrías tolerar volúmenes de entrenamiento más altos, progresando más en consecuencia.
Sin embargo, la suplementación oral con ATP parece ser inútil. Un estudio aleatorizado que administró oralmente 5000mg de ATP a 30 sujetos encontró que los niveles de ATP sanguíneos no incrementaron debido a la suplementación [5]. Con esto en mente, parece bastante cuestionable que con los 400mg/día de ATP utilizados en el estudio llegaran al músculo y que tuvieran un efecto significativo.
Otro estudio aleatorizado a doble ciego realizado por otro laboratorio [6], demuestra esto mismo: el grupo que ingería ATP no observó ningún aumento en sus niveles de ATP y no superó al grupo placebo en cuanto rendimiento en ninguno de los ejercicios a los que se les sometió.
Incluso aunque el ATP tomado oralmente llegara al torrente sanguíneo y fuera utilizado por los músculos, no está tan claro si tendría un efecto notable en tu rendimiento y tolerancia al volumen de entrenamiento. En el mejor de los casos, podrías esperar resultados similares a los de la creatina (la cual funciona mediante un mecanismo similar).
HMB-FA VS. HMB-CA: ¿PUEDE QUE LA FORMA MARQUE DIFERENCIA?
Finalmente, el otro alegato en referencia a la posible efectividad encontrada en los estudios se basa en que emplean una nueva forma de HMB. Como probablemente sabes, la mayoría de los suplementos comerciales de HMB vienen en la forma de sal de calcio (HMB-Ca), frente a la forma de ácido libre en las que las moléculas de HMB no están unidas al calcio (HMB-FA).
Existe evidencia que confirma que el HMB es más biodisponible en forma de ácido libre que como sal de calcio; alcanza su concentración pico en sangre antes, consigue prácticamente el doble de concentración y el área bajo la curva (concentraciones en sangre durante un largo periodo de tiempo) es casi dos veces más grande.
HMB-FA vs. HMB-Ca [4]
¿Es esto suficiente para explicar los resultados excepcionales en ambos estudios? Probablemente no.
Si lo fuera, en el mejor de los casos, podrías esperar el doble de resultados obtenidos en estudios anteriores (aunque es muy raro encontrar una curva dosis-respuesta con forma de línea recta). El problema es que los resultados en estos dos estudios son sustancialmente mejores que todos los estudios hasta la fecha con sujetos con experiencia en el entrenamiento con cargas.
Para analizar la posibilidad de que la mayor biodisponibilidad del HMB-FA respecto al HMB-Ca proporcione el doble de resultados vamos a analizar una intervención de Kreider y colaboradores en 1999 [7] en la que se proporcionó a 40 sujetos entrenados 0g, 3g o 6g de HMB-Ca/día. Los resultados demostraron que no sólo el grupo que tomaba 6g no experimentó el doble de ganancias de masa muscular, sino que ninguno de los grupos que tomaron HMB obtuvieron resultados significativamente mejores que el grupo placebo. Y, aunque hay que reconocer que este estudio sólo duró 4 semanas, lo cual supone una clara limitación, este tiempo fue más que suficiente en los dos estudios sobre la efectividad del HMB para empezar a ver resultados [1,2].
Más largo en el tiempo fue el protocolo de Gallagher y colaboradores [8] (8 semanas), aunque en sujetos desentrenados en este caso, pero con conclusiones similares a los encontrados por Kreider et al. [7]. Los sujetos tomaron aproximadamente 0g, 3g o 6g de HMB por día (0mg/kg, 38mg/kg y 76mg/kg respectivamente) mientras realizaban un programa de entrenamiento con cargas. Al final de las 8 semanas, no hubo ninguna diferencia significativa en la fuerza del 1RM entre los grupos y únicamente el grupo que tomaba 3g/día vio incrementada su masa libre de grasa (los grupos de 0g/día y 6g/día no lo hicieron).
Un aspecto a destacar es que probablemente los sujetos no entrenaron lo suficientemente duro, pues 2 de los 3 grupos no experimentaron un incremento de su masa libre de grasa a pesar de estar desentrenados. A pesar de esto, este estudio refuerza el argumento que tomar más HMB no necesariamente produce mejores resultados.
¿ENTONCES TIENEN CREDIBILIDAD LOS RESULTADOS DE ESTOS ESTUDIOS O NO?
Observando el grosso de investigaciones que reportan evidencia favorable sobre el uso de HMB, un estudio de Kraemer y colaboradores en 2009 [9] en sujetos desentrenados mostró resultados muy similares a los dos estudios sobre la efectividad del HMB ya comentados [1,2].
El grupo que tomaba HMB ganó aproximadamente 2 veces más fuerza, 2,5 veces más músculo y perdió casi 2 veces más grasa que el grupo placebo. De hecho, el grupo que tomaba HMB en este estudio ganó más masa libre de grasa que los grupos que tomaban HMB en los otros dos estudios: aproximadamente 10kg en 12 semanas. Cabe destacar que, el suplemento que se estudiaba en este estudio era en realidad una mezcla de HMB, arginina, glutamina y taurina (los cuales no creemos que hayan influido en los resultados pues se ha demostrado que estos compuestos no marcan una gran diferencia a nivel de composición corporal).
Lo que sí es cierto es que este estudio de 2009 presenta resultados en concordancia con otros estudios de similares características realizados en sujetos sin experiencia con el entrenamiento con cargas.
Por ejemplo, Nissen et al. [10] en sujetos sin experiencia previa en el entrenamiento de fuerza mostró cómo ganaron 1,2kg de masa libre de grasa mientras perdían 1,6kg de grasa en 3 semanas (ganaron 3 veces más músculo que el grupo placebo con una pérdida de grasa similar).
A modo ilustrativo, otra investigación de Shawn y colaboradores [11] – esta vez en jugadores adolescentes de voleibol (los cuales dedicaron únicamente un 15% de su entrenamiento a entrenar con cargas y no tenían experiencia previa) – de 7 semanas de duración, encontró un aumento de 2,3kg en la masa libre de grasa, una ligera disminución del porcentaje de grasa corporal y ganancias de fuerza de entre el 18-30% en el press de banca y en la sentadilla en el grupo que tomó HMB respecto a una ligera pérdida de masa libre de grasa, un pequeño aumento del porcentaje de grasa corporal y ganancias de fuerza de entre el 0-7% en el grupo placebo.
Si supusiéramos que la tasa de ganancia de masa muscular fuera continua a lo largo de 12 semanas, en el primer estudio se ganarían 4,8kg de masa libre de grasa estando en un déficit calórico y en el segundo 4kg de masa libre de grasa con un entrenamiento con cargas que representaba únicamente el 15% del total.
A modo de opinión personal, creo posible conseguir una tasa de progreso de 2-2,5 veces junto con un programa de entrenamiento con cargas muy bien diseñado (a diferencia del segundo estudio) y sin estar en déficit calórico (a diferencia del primer estudio). Como ya hemos comentado, el mecanismo de acción del HMB se basa en mitigar el daño muscular, siendo este uno de los principales factores limitantes del crecimiento muscular en sujetos desentrenados. Por lo que creo que es posible, aunque no dejaría de ser un resultado extraordinario y poco común.
Sin embargo, tengo que ser escéptico de un estudio en el que sujetos experimentados en el entrenamiento con cargas consiguen resultados similares a los sujetos sin experiencia previa en el entrenamiento de fuerza (que ya están consiguiendo de por sí mejores resultados que los que proporcionan los esteroides) cuando el mecanismo de acción del compuesto en acción deja de tener tanto sentido.
Por último, creemos importante mencionar este estudio a doble ciego [12] en el que se analizó la relación entre la eficacia de un suplemento de HMB, arginina y lisina y los niveles de vitamina D en 77 personas de avanzada edad (media de 76 años). Se dividió a los sujetos en dos grandes grupos: placebo y grupo experimental, al que se le proporcionó la mezcla de suplementos ya mencionada. A su vez, ambos grupos se subdividieron en otros 2, cada uno en función de si sus niveles de vitamina D3 eran superiores o inferiores a 30 ng/ml. Los resultados fueron muy interesantes: el grupo que tomó el cóctel de suplementos mejoró su masa muscular con independencia de su nivel de vitamina D (Tabla 1).
Tabla 1. Cambios en la masa libre de grasa (kg) durante los 12 meses que duró la intervención en los 4 grupos [12].
También ocurrió que el grupo que tomó el suplemento de HMB, arginina y lisina sólo mejoró su fuerza si sus niveles de vitamina D3 eran superiores a 30 ng/mL, lo cual podría indicarnos que existe un efecto sinérgico entre la suplementación con HMB, arginina y lisina y los niveles de vitamina D.
Cambios en la fuerza de torque pico* durante los 12 meses que duró la intervención en los 4 grupos [12]. *Nota aclaratoria: La fuerza de torque representa la fuerza con la que se es capaz de mover una articulación (flexión, extensión, abducción, etc).
SIEMPRE SÉ ESCÉPTICO, INCLUSO SOBRE LA CIENCIA
Existen ciertos aspectos problemáticos sobre estos dos estudios que analizan la efectividad del HMB, sobre los cuales podríamos entrar un poco más en detalle. Por ejemplo, en el de Jacob M. Wilson et al., en 2014 [1], todas las mediciones reportadas sobre el rendimiento en la semana 8 difieren entre las tablas del original, presentadas en la siguiente imagen (aunque es posible que esto se deba a un procedimiento estadístico de ajuste que no conocemos en su totalidad).
![hmb-originales]()
Comparativas de tablas originales de Wilson M. J y colaboradores (2014) [1].
Otras incógnitas surgen por el hecho de que no se ofrezcan datos desglosados por semanas de la evolución del 1RM en cada ejercicio en términos absolutos en el estudio de Lowery et al. [2] y únicamente se ofrezcan datos sobre la mejora relativa porcentual de estos (lo cual favorecería a aquellos con 1RM en términos absolutos menores).
Tampoco se ofrecen datos absolutos sobre los niveles basales de masa libre de grasa en los participantes de ambos grupos ni a lo largo de él (a diferencia del primer estudio), lo cual es cuanto menos llamativo.
En definitiva, los resultados de estos dos estudios [1,2] son tan diferentes respecto a los de los estudios previos que merecen ser mirados con mucha cautela. Nos gustaría verlos replicados por otro laboratorio diferente al de la Universidad de Tampa y con otra muestra de sujetos entrenados.
Aunque la ciencia es sin duda alguna el mejor sistema que como especie hemos diseñado para responder preguntas sistemáticamente y aprender en el proceso mientras ponemos a un lado nuestros sesgos, no es perfecta. Hay un montón de estudios de baja calidad que acaban siendo publicados por A o por B. Parte del problema puede achacarse a la manipulación deliberada del p-valor (indicativo de resultados estadísticamente significativos) haciendo pruebas para suficientes variables como para asegurarte que encuentras resultados estadísticamente significativos.
A eso hay que sumarle el problema de los sesgos en las publicaciones: las revistas científicas están mucho más abiertas a publicar estudios con resultados novedosos y llamativos que réplicas de otros estudios o estudios con resultados poco interesantes. Esto incentiva a los investigadores a manipular el p-valor para encontrar hallazgos estadísticamente significativos (si no lo consigues, es posible que el estudio no se publique, lo cual significa que has desperdiciado tiempo y dinero en algo que no tendrá alcance en tu campo concreto o te hará avanzar en tu carrera profesional) o hacer un estudio concreto varias veces hasta que encuentres resultados estadísticamente significativos (no publicando los estudios cuyos resultados no lo fueron).
Teniendo esto en cuenta, no debería sorprendernos que muchos hallazgos estadísticamente significativos no sean replicables. De hecho, la mayoría de los científicos están de acuerdo en que no hay una gran crisis de reproducibilidad dentro de la ciencia. Por ejemplo, en la medicina existen informes que afirmar que menos del 50% de los estudios son replicables [13].
¿PERO LA REVISIÓN POR PARES NO DESINCENTIVA TODO ESTE TIPO DE PRÁCTICAS?
Parece que en términos generales es inefectiva a la hora de identificar malas praxis dentro del campo de la investigación [14]. Tampoco parece existir evidencia de que las ‘revistas de prestigio’ (aquellas con un alto nivel de impacto) son mejores que el resto “al separar el trigo de la paja” [15].
Y, por último, está el tema del fraude. Algunas veces es sutil (y quizá inintencionado), como intentar diferentes tests estadísticos hasta que uno de ellos te proporciona resultados estadísticamente significativos, aunque no sean los más apropiados para tus datos. Otras veces es más descarado, excluyendo resultados de forma opinática (en base a tu propio criterio) o literalmente manipulando los resultados de los estudios para que estén en concordancia con los que desean las empresas financiadoras. ¿No has oído hablar de los estudios financiados por Kellogg’s que concluyen casualmente que el desayuno es imprescindible y ayuda a consumir menos kcals o los financiados por el Instituto del Pan sobre la importancia de este alimento en nuestra dieta?
Como suele decir Marcos de Fitnessrevolucionario, “Es difícil entender algo cuando te pagan para que no lo entiendas”. Al fin y al cabo, los científicos son personas también y, algunos de ellos, no tienen principios ni valores.
Dicho esto, la ciencia tiende a corregirse a sí misma a lo largo del tiempo: si replicas un estudio en una muestra y laboratorio diferentes varias veces, el margen de obtener ‘falsos positivos’ es muy pequeño. Además, la comunidad científica está trabajando activamente en corregir estos problemas que acabamos de explicar.
CONCLUSIONES FINALES
• Nadie sabe a ciencia cierta si los dos estudios de la Universidad de Tampa que hemos comentado [1,2] son legítimos.
• A la luz de los humildes resultados obtenidos en multitud de estudios realizados en sujetos entrenados a los que se suplementaba con HMB y las ganancias de músculo y fuerza obtenidos en estudios clínicos en los que se estudiaba la efectividad de los esteroides, estos resultados no me resultan creíbles (afirmo esto a título personal).
• Estos dos estudios pueden ser útiles para remarcar la importancia de mantener una actitud crítica hacia todo lo que leas y poner en el contexto adecuado los resultados de cualquier estudio. Mantén una actitud escéptica y pon todo lo que leas en perspectiva antes de sacar conclusiones precipitadas.
• El HMB puede ser un suplemento interesante en levantadores principiantes o en personas con avanzada edad y puede que ofrezca un ligero beneficio en levantadores experimentados, especialmente si están intentando perder peso (ya que es más anti-catabólico que catabólico per se).
• Si decides suplementarte con él, busca su forma como ácido libre (HMB-FA) porque posee mayor biodisponibilidad. La dosis efectiva rondaría los 38mg/kg/día divididos en 3 tomas, lo cual se traduce en 1g/toma para una persona de 70kg. En cuanto al timing, un protocolo válido sería realizar una toma 60 minutos antes de entrenar; otra, 30-60 minutos después de entrenar; y otra, 3-4 h después.
• No esperes obtener los resultados que ofrecen los esteroides por suplementarte con HMB con independencia de su forma.
Fuente principal
Nuckols, G (2016) The HMB Controversy: Better than Steroids? http://strengtheory.com/ Traducido, adaptado y recuperado el 27 de septiembre de 2016 de http://strengtheory.com/hmb/
Referencias bibliográficas
1. Wilson, M. J., Lowery, P. Ryan., Jordan, M. J, Andersen, J.C., Stephanie, M. C. W., Jeffrey, R. S., Nevine, D., John, C. F., Shawn, M. B., Marshall, A. N., & Rathmacher, J. (2014) The effects of 12 weeks of beta-hydroxy-beta-methylbutyrate free acid supplementation on muscle mass, strength, and power in resistance-trained individuals: a randomized, double-blind, placebo-controlled study. European Journal of Applied Physiology. 114(6): 1217–1227. Disponible en http://www.ncbi.nlm.nih.gov/pmc/articles/PMC4019830/
2. Lowery, P. R., Jordan, M. J., Rathmacher, J., Shawn, M. B., Fuller, J.C. Jr., Shelley, M.C. 2nd, Jäger, R., Purpura, M., Wilson. S.M., & Wilson, M. J (2016). Interaction of Beta-Hydroxy-Beta-Methylbutyrate Free Acid and Adenosine Triphosphate on Muscle Mass, Strength, and Power in Resistance Trained Individuals. Journal of Strenght and Conditioning Research. Jul; 30(7):1843-54. doi: 10.1519. Disponible en http://www.ncbi.nlm.nih.gov/pubmed/24714541
3. Bhasin, S., Storer, T. W., Berman, N., Callegari, C., Clevenger, B., Phillips, J., … & Casaburi, R. (1996). The effects of supraphysiologic doses of testosterone on muscle size and strength in normal men. New England Journal of Medicine, 335(1), 1-7. Disponible en http://www.nejm.org/doi/full/10.1056/NEJM199607043350101#t=articleTop
4. Wilson, J. M., Joy, J. M., Lowery, R. P., Roberts, M. D., Lockwood, C. M., Manninen, A. H., … & Rathmacher, J. A. (2013). Effects of oral adenosine-5′-triphosphate supplementation on athletic performance, skeletal muscle hypertrophy and recovery in resistance-trained men. Nutrition & metabolism, 10(1), 1. Disponible en http://www.ncbi.nlm.nih.gov/pmc/articles/PMC3849389/
5. Coolen, E. J., Arts, I. C., Bekers, O., Vervaet, C., Bast, A., & Dagnelie, P. C. (2011). Oral bioavailability of ATP after prolonged administration. British Journal of Nutrition, 105(03), 357-366. Disponible en http://journals.cambridge.org/action/displayAbstract?fromPage=online&aid=7978192&fileId=S0007114510003570
6. Jordan, A. N., Jurca, R. A. D. I. M., Abraham, E. H., Salikhova, A. N. N. A., Mann, J. K., Morss, G. M., … & Earnest, C. P. (2004). Effects of oral ATP supplementation on anaerobic power and muscular strength. Medicine and science in sports and exercise, 36(6), 983-990. Disponible en http://www.ncbi.nlm.nih.gov/pubmed/15179168
7. Kreider, R. B., Ferreira, M., Wilson, M., & Almada, A. L. (1999). Effects of Calcium â-Hydroxy-â-methylbutyrate (HMB) Supplementation During Resistance-Training on Markers of Catabolism, Body Composition and Strength. International journal of sports medicine, 20(08), 503-509. Disponible en https://www.thieme-connect.de/DOI/DOI?10.1055/s-1999-8835
8. Gallagher, P. M, Carrithers, J. A.; Godard, M.P.; Schulze, K. E., Trappe & Scott W. (2000) β-hydroxy-β-methylbutyrate ingestion, Part I: effects on strength and fat free mass Medicine & Science in Sports & Exercise: Volumen 32, Número 12, pp 2109-2115. Disponible en http://journals.lww.com/acsm-msse/pages/articleviewer.aspx?year=2000&issue=12000&article=00022&type=abstract
9. Kraemer, W. J., Hatfield, D. L., Volek, J. S., Fragala, M. S., Vingren, J. L., Anderson, J. M., … & Izquierdo, M. (2009). Effects of amino acids supplement on physiological adaptations to resistance training. Med Sci Sports Exerc, 41(5), 1111-21. Disponible en https://www.researchgate.net/publication/24258243_Effects_of_Amino_Acids_Supplement_on_Physiological_Adaptations_to_Resistance_Training
10. Nissen, S., Sharp, R., Ray, M., Rathmacher, J. A., Rice, D., Fuller, J. C., … & Abumrad, N. (1996). Effect of leucine metabolite β-hydroxy-β-methylbutyrate on muscle metabolism during resistance-exercise training. Journal of Applied Physiology, 81(5), 2095-2104. Disponible en http://jap.physiology.org/content/81/5/2095.long
11. Portal, S., Zadik, Z., Rabinowitz, J., Pilz-Burstein, R., Adler-Portal, D., Meckel, Y., … & Nemet, D. (2011). The effect of HMB supplementation on body composition, fitness, hormonal and inflammatory mediators in elite adolescent volleyball players: a prospective randomized, double-blind, placebo-controlled study. European journal of applied physiology, 111(9), 2261-2269. Disponible en http://link.springer.com/article/10.1007%2Fs00421-011-1855-x
12. Fuller, J. C., Baier, S., Flakoll, P., Nissen, S. L., Abumrad, N. N., & Rathmacher, J. A. (2011). Vitamin D status affects strength gains in older adults supplemented with a combination of β-Hydroxy-β-Methylbutyrate, Arginine, and Lysine A Cohort Study. Journal of Parenteral and Enteral Nutrition, 35(6), 757-762. Disponible en http://www.ncbi.nlm.nih.gov/pubmed/21807930
13. Begley, C. G., & Ioannidis, J. P. (2015). Reproducibility in science improving the standard for basic and preclinical research. Circulation research, 116(1), 116-126. Disponible en http://circres.ahajournals.org/content/116/1/116.full
14. Smith, R. (2006). Peer review: a flawed process at the heart of science and journals. Journal of the royal society of medicine, 99(4), 178-182. Disponible en http://www.ncbi.nlm.nih.gov/pmc/articles/PMC1420798/
15. Brembs, B., & Munafò, M. (2013). Deep impact: unintended consequences of journal rank. Frontiers in Human Neuroscience. Disponible en http://journal.frontiersin.org/article/10.3389/fnhum.2013.00291/full