Véase cualquier libro de texto estándar de econometría sobre especificación y selección de modelos .
Con frecuencia se utilizan términos como AIC, BIC, ... para calcular métricas que compensan la mejora en el ajuste que se produce al especificar términos adicionales frente a la "penalización" (entre comillas porque la forma de expresarlo depende de la métrica elegida) que se aplica a los modelos demasiado ricos (que pueden romperse). De este modo, se podría probar un GARCH(1,1) frente a un GARCH(2,1) o un GARCH(2,2). Si no recuerdo mal, esto aparece incluso en el artículo original de Bollerslev.
En la naturaleza, casi nunca se ve un GARCH que no sea de un GARCH(1,1). Se pueden obtener mayores beneficios modificando las especificaciones GARCH, pero ahora tienes tres décadas de cosas sobre las que leer.