¿Cómo uso fadeIn() y fadeOut() en Jquery para lograr el efecto que deseo al mover el mouse hacia arriba y hacia afuera?

No hay problema con el código, pero sí con su uso:

fadeOut significa hacer que el elemento sea transparente hasta que la transparencia alcance el 0%, luego mostrar:none;

Por lo que el efecto es completamente normal.

El efecto que desea debe lograrse usando fadeTo, lo que significa que la transparencia se detendrá cuando alcance la transparencia especificada.