Es un indicador, pero personalmente nunca decidiría basándome en ellos.
La prueba de estadísticas $t$ evalúa la hipótesis nula de que el coeficiente individual $\beta_i$ es 0 frente a la alternativa de que es estadísticamente diferente de 0.
La prueba $F$, que es una función creciente de $R^2$:
$$F=\frac{R^2/k}{(1-R^2)/(n-k-1)}$$
Evalúa la hipótesis de que todos los coeficientes $\beta$ son 0 frente a la alternativa de que algunos de ellos no lo son.
La prueba $F$ no se ve afectada por la multicolinealidad y será alta si $R^2$ es alto. Por lo tanto, si todas tus pruebas $t$ dicen que todas las variables son insignificantes, pero la prueba $F$ (basada en un $R^2$ alto) dice que algunas deberían ser significativas, es un indicador de multicolinealidad. Sin embargo, también podría deberse a otros problemas, por lo que siempre es mejor hacer alguna prueba directa: calcular la correlación entre los regresores independientes o incluso algo mejor como calcular el factor de inflación de la varianza (VIF) o algún modelo más sofisticado.
Generalmente, la regla general es eliminar una variable si su VIF está por encima de 5, algunas fuentes dicen 10.