Básicamente, hay al menos dos preguntas que hay que hacerse antes de creer en los "buenos backtests":
- ¿Existe una explicación económica o de comportamiento para que esto funcione (lo mejor sería partir de ahí en primer lugar)?
- Cuántas cosas he probado para llegar a este "buen backtest".
El siguiente documento es bastante útil para aprender algunos de los fundamentos de este tipo de pensamiento:
Bailey, David H. y Borwein, Jonathan y López de Prado, Marcos y Zhu, Qiji Jim, Pseudomatemáticas y charlatanería financiera: The Effects of Backtest Overfitting on Out-of-Sample Performance (1 de abril de 2014). Notices of the American Mathematical Society, 61(5), mayo de 2014, pp.458-471. Disponible en SSRN: https://ssrn.com/abstract=2308659 o http://dx.doi.org/10.2139/ssrn.2308659
Resumen
Demostramos que es fácil conseguir un alto rendimiento simulado tras realizar un backtest de un número relativamente pequeño de configuraciones de estrategia alternativas, una práctica que denominamos "sobreajuste del backtest". Cuanto mayor sea el número de configuraciones probadas, mayor será la probabilidad de que el backtest esté sobreajustado. Dado que la mayoría de los analistas financieros y académicos rara vez informan del número de configuraciones probadas para un determinado backtest, los inversores no pueden evaluar el grado de sobreajuste en la mayoría de las propuestas de inversión.
La implicación es que los inversores pueden ser fácilmente engañados para asignar capital a estrategias que parecen ser matemáticamente sólidas y empíricamente apoyadas por un backtest excepcional. En virtud de los efectos de la memoria, el exceso de ajuste del backtest conduce a rendimientos esperados negativos fuera de la muestra, en lugar de un rendimiento nulo. Esta puede ser una de las razones por las que tantos fondos cuantitativos parecen fracasar.