Un amigo me sugirió una solución, que esbozo a continuación. Se basa en algunas condiciones de rango que son difíciles de interpretar, pero es mejor que nada.
(1) Si $f$ o $g$ es estrictamente convexo, entonces (como ya he supuesto que existe una solución) existe una solución única $x(y)$ .
(2) Si $f$ y $g$ son continuamente diferenciables y se imponen supuestos para que la restricción sea vinculante, entonces esta solución y su multiplicador de Lagrange asociado (que existe por convexidad) son $N+1$ incógnitas resolviendo un sistema de $N+1$ ecuaciones (condición de primer orden más restricción). Si $f$ y $g$ son dos veces continuamente diferenciables y se cumplen algunas condiciones de rango, se puede aplicar el teorema de la función implícita para argumentar que $x(y)$ es continuamente diferenciable.
(3) El teorema 3 de Milgrom & Segal (2002) es un teorema de la envolvente que implica que--bajo algunas condiciones implicadas por las asumidas en (2)--- $V(y)$ es diferenciable y $V_y(y) = -f_x(x(y))$ . (Aquí ayuda reescribir el problema como sugiere el comentario de Ilya en Math Stack Exchange). Dado que $f(x)$ y $x(y)$ son ambas continuamente diferenciables, por lo que $V_y(y)$ . Así que $V(y)$ es dos veces continuamente diferenciable.