I proporcionar una solución en dos pasos. Los primeros pasos cuidadosamente describe cómo dividir la integral y ¿qué nuevas medidas se utilizan. Este primer paso no requiere ningún tipo especial de modelo de la asunción y la mantiene en un marco muy general. Obtenemos una fórmula para su opción similar a la estándar de la fórmula Black-Scholes.
En un segundo paso, supongo que el precio de las acciones sigue un movimiento Browniano geométrico y el uso del teorema de Girsanov para derivar una fórmula precisa para todos (probabilística) de los términos involucrados. Sin embargo, quiero presentar un enfoque más elegante que no requiere integrar la densidad Gaussiana. Que sólo inútilmente tedioso y hace que sea más difícil de generalizar el enfoque a otros procesos.
General de Cambio de la Medida
Como usted dijo, la clave es un numéraire cambio como la descrita originalmente por Geman et al. (1995). El estándar de riesgo-neutral medida ($\mathbb Q$ o $\mathbb Q^0$) utiliza el (localmente) cuenta bancaria sin riesgo, $B_t=e^{rt}$, como numéraire. Fácilmente podríamos permitir un general de la tasa de interés de proceso $B_t=\exp\left(\int_0^t r_s\mathrm{d}s\right)$. Definimos una nueva medida de probabilidad, $\mathbb Q^1\sim\mathbb Q^0$ que utiliza el precio de las acciones, $S_t$ como numéraire. La nueva medida, $\mathbb Q^1$, se define a través de
\begin{align*}
\frac{\mathrm{d}\mathbb Q^1}{\mathrm d\mathbb Q^0} = \frac{S_T}{S_0}\frac{B_0}{B_T}=\frac{S_T}{S_0}e^{-rT}.
\end{align*}
Si la acción paga dividendos a la tasa de $\delta$, se utiliza la reinversión de los precios de stock, $S_te^{\delta t}$, como numéraire.
El precio de la opción es entonces
\begin{align*}
e^{-rT}\mathbb{E}^\mathbb{Q}[\max\{S_T^2-KS_T,0\}] &=e^{-rT}\mathbb{E}^{\mathbb{Q}^1}\left[\frac{\mathrm{d}\mathbb Q^0}{\mathrm d\mathbb Q^1}\max\{S_T^2-KS_T,0\}\right] \\
&= S_0\mathbb{E}^{\mathbb{Q}^1}\left[\max\{S_T-K,0\}\right] \\
&= S_0\left(\mathbb{E}^{\mathbb{Q}^1}[S_T\mathbb{1}_{\{S_T\geq K\}}] -K\mathbb{E}^{\mathbb Q^1}[\mathbb{1}_{\{S_T\geq K\}}]\right) \\
&= S_0\left(\mathbb{E}^{\mathbb{Q}^1}[S_T\mathbb{1}_{\{S_T\geq K\}}] -K\mathbb Q^1[\{S_T\geq K\}]\right).
\end{align*}
Para el cálculo de la primera expectativa, nosotros (de nuevo) el uso de un cambio de numéraire. Yo sigo este gran papel de Mark Joshi. Deje $N_{t,T}^\alpha$ ser el tiempo-$t$ el precio de un activo (crédito) pagar $S_T^\alpha$ en el tiempo de $T$. Debido a la desigualdad de Jensen, $N_{t,T}^\alpha\neq S_t^\alpha$ si $\alpha\neq0,1$. Por supuesto, hay una restricción en la elección de $\alpha$. Si $\alpha$ es demasiado grande, $S_t^\alpha$ no puede ser integrable (en particular, si el precio de las acciones incluye el modelo de colas de grasa). Así que, por ahora acabamos de asumir que $\alpha$ es elegido de forma adecuada. A continuación,
\begin{align*}
\frac{\mathrm{d}\mathbb Q^\alpha}{\mathrm d\mathbb Q^0} = \frac{N_{T,T}^\alpha B_0}{N_{0,T}^\alpha B_T} .
\end{align*}
Por lo tanto,
\begin{align*}
\frac{\mathrm{d}\mathbb Q^\alpha}{\mathrm d\mathbb Q^1} =\frac{\mathrm{d}\mathbb Q^\alpha}{\mathrm d\mathbb Q^0} \frac{\mathrm{d}\mathbb Q^0}{\mathrm d\mathbb Q^1} = \frac{N_{T,T}^\alpha B_0}{N_{0,T}^\alpha B_T} \frac{S_0B_T}{S_TB_0} = \frac{S_{T}^\alpha}{N_{0,T}^\alpha } \frac{S_0}{S_T}.
\end{align*}
El uso de $\alpha=2$, obtenemos
\begin{align*}
\mathbb E^{\mathbb Q^1}[S_T\mathbb 1_{\{S_T\geq K\}}] = \frac{N_{0,T}^2}{S_0}\mathbb E^{\mathbb Q^2}[\mathbb 1_{\{S_T\geq K\}}] =\frac{N_{0,T}^2}{S_0}\mathbb Q^2[\{S_T\geq K\}].
\end{align*}
El último precio de la opción por tanto las lecturas como
$$ e^{-rT}\mathbb{E}^\mathbb{Q}[\max\{S_T^2-KS_T,0\}] = N_{0,T}^2\mathbb Q^2[\{S_T\geq K\}] - KS_0\mathbb Q^1[\{S_T\geq K\}],$$
que maravillosamente se asemeja a la fórmula Black-Scholes. Esto también sugerencias de cómo una fórmula para el precio de un poder general opción parece.
Modelo Black-Scholes
Para implementar realmente la ecuación anterior, tenemos que encontrar expresiones para $\mathbb Q^\alpha[\{S_T\geq K\}]$ e $N_{t,T}^\alpha$. Estas fórmulas dependerá del stock elegido modelo de precio. Aquí, se opta por la más simple, la de Black-Scholes con un registro-normalmente distribuida precio de las acciones.
Vamos a empezar con el problema más sencillo: el precio de una reclamación de pago de $S_T^\alpha$. Utilizando el estándar neutrales al riesgo de precios y la martingala de la propiedad $\mathbb{E}[e^{\sigma W_t}|\mathcal{F}_s]=e^{\frac{1}{2}\sigma^2(t-s)+\sigma W_s}$, obtenemos
\begin{align*}
N_{t,T}^\alpha &= e^{-r(T-t)}\mathbb{E}^{\mathbb Q}[S_T^\alpha|\mathcal{F}_t] \\
&= e^{-r(T-t)}\mathbb{E}^{\mathbb Q}\left[S_0^\alpha\exp\left(\alpha\left(r-\frac{1}{2}\sigma^2\right)T+\alpha\sigma W_T \right)\bigg|\mathcal{F}_t\right] \\
&= e^{-r(T-t)}S_0^\alpha\exp\left(\alpha\left(r-\frac{1}{2}\sigma^2\right)T+\frac{1}{2}\alpha^2\sigma^2(T-t)+\sigma\alpha W_t\right) \\
&= e^{-r(T-t)}S_t^\alpha\exp\left(\alpha\left(r-\frac{1}{2}\sigma^2\right)(T-t)+\frac{1}{2}\alpha^2\sigma^2(T-t)\right) \\
&= S_t^\alpha \exp\left((T-t)(r(\alpha-1)+0.5\sigma^2(\alpha^2-\alpha)\right)
\end{align*}
Por supuesto, el precio $N_{t,T}^\alpha$ es de registro-normalmente distribuida. Por cierto, el uso de Itô del Lexema, obtenemos $\mathrm{d}N_{t,T}^\alpha=rN_{t,T}^\alpha\mathrm{d}t+\alpha\sigma N_{t,T}^\alpha\mathrm{d}W_t$.
Para concluir, necesitamos el ejercicio de la probabilidad. En virtud de $\mathbb Q^1$, el precio de las acciones en el modelo Black-Scholes tiene a la deriva $r+\sigma^2$, ver este excelente respuesta y esta pregunta para una explicación intuitiva. En virtud de $\mathbb Q^\alpha$, el precio de las acciones ha de deriva $r+\alpha\sigma^2$. Esto se deduce a partir del teorema de Girsanov, porque tenemos $\frac{\mathrm{d}\mathbb Q^\alpha}{\mathrm d\mathbb Q^0}=\mathcal{E}(\alpha\sigma W_T)$, donde $\mathcal{E}$ es el Doléans-Dade exponencial. Este teorema se expresa en todos los libros de introducción en el cálculo estocástico, ver Shreve o Björk. Así, usted puede utilizar la simple lógica de $\mathcal{P}[\{S_T\geq K\}]=N\left(\frac{\ln\left(\frac{S_0}{K}\right)+\mu T-\frac{1}{2}\sigma^2 T}{\sigma \sqrt{T}}\right)$, donde ahora el uso de $r+\alpha\sigma^2$ en lugar de $r$ como a la deriva ($\mu$) de $S_t$. Por lo tanto,
\begin{align*}
\mathbb{Q}^\alpha[\{S_T\geq K\}] = N\left(\frac{\ln\left(\frac{S_0}{K}\right)+\left(r+\left(\alpha-\frac{1}{2}\right)\sigma^2\right)T}{\sigma\sqrt{T}}\right).
\end{align*}
Recuperamos los casos especiales $\mathbb Q^1[\{S_T\geq K\}]=N(d_1)$ e $\mathbb Q^0[\{S_T\geq K\}]=N(d_2)$.
Yo recomiendo la lectura de Joshi del papel que contiene más detalles y aplicaciones de numéraire cambios, incluyendo una sección introductoria en el modelo Black-Scholes!