El principal problema no es convertirlo, si no saber como comprimirlo y que medidas de resolucion darle para que pueda tener un tamaño y calidad adecuados para poder entrar en tu PSP, tambien se necesitaria que supieras modificar los bitrates de audio, pero bueno eso con la experiencia es mas facil.

Yo solo he usado un programa de edicion de video profesional llamado Pinnacle Studio 10.6 y es excelente para convertir, renderizar, modificar audio, y bueno todo lo que hace un profesional puedes hacerlo ahi, pero una caracteristica muy atractiva es que tiene una opcion predeterminada para convertir a un formato compatible con PSP, es muy sencillo de usar, el problema es que tarda mucho tiempo en convertir, un DVD toma varias horas y una pelicula de 2 horas pesa aproximadamente 2 gb, por tanto si te interesa podria darte mas informacion incluso hasta un tutorial, pero ese programa cuesta y ademas, al menos a mi no me gusta usa tanto espacio para una pelicula, la verdad no he vuelto a hacerlo pero, pues no es muy recomendable, de cualquier manera nso mantenmos en contacto, a por cierto, puede convertir tambien casi cualquier video, no solo DVDs, por tanto tambien puede servirte LOL. saludos

Total Video Converter (TVC), yo lo uso y es muy util y para miles de formatos:

http://www.effectmatrix.com/total-video-converter/