Estoy de acuerdo contigo en que la respuesta debería ser: $(D)$ Todos los anteriores .
Todas las transformaciones dadas en el ejercicio son transformaciones monótonas de la función de utilidad $u(x,y)=\sqrt (xy)$ . $(A)$ y $(B)$ son, respectivamente, la cuarta potencia y el cuadrado de su función de utilidad.
Creo que a veces hay un malentendido sobre este asunto de la transformación monotónica, ya que a veces leo que las potencias impares son transformaciones monotónicas, pareciendo implicar que las potencias pares no lo son. Pero esto no es necesariamente cierto para las funciones de utilidad, tanto las potencias pares como las impares pueden ser en este caso transformaciones monotónicas.
El malentendido proviene del hecho de que incluso las potencias no son tranformación monótona en $\mathbb{R}$ por supuesto, pero lo son si nos restringimos a valores positivos: en realidad, si $f(x)$ es una potencia par, ya que $x>0$ tenemos $f'(x) >0$ .
Podría existir un problema si tenemos una función de utilidad con valores negativos, en este caso $f'(x) <0$ y el orden de las preferencias cambia, se invierte.
Pero en tu caso tienes una root cuadrada, y una root cuadrada no puede ser negativa.