Mejor respuesta: La pregunta es un poco vaga y depende de si estas utilizando una toolbox o solo core bsico. Si estas usando la toolbox de lgebra simblica puedes usar el comando simplify as:

>> syms x >> y = x^2+1 >> z = simplify(y)

Para hacer lo contrario puedes usar el comando expand:

>> expand(z)

tambien esta directamente el comando factor:

>> s = factor(y)

Busca en la ayuda de matlab, hay mucha informacion alli, y lo mas importante, referencias a articulos y libros que te pueden ser de utilidad