el metodo del que tu hablas se denomina reversar para ello se necesitan bastantes conocimientos de programacion y muchas horas de tiempo para realizarlo ya que puede llevar dias reversar un eboot o cualquier otro codigo compilado ya sea para psp,ds,pc o cualquier otra plataforma yo te recomendaria antes de aventurarte a la ingeniería inversa que primero tuvieras una buena base de C/C++ ya que suele ser el lenguaje utilizado para reversar, luego tambien hay distintos tipos de lenguaje ensamblador (el que se utiliza para reversar aparte de los que e dicho antes). de los que yo he oido hablar(no se reversar xDDD) son: motorola,mips,intel y amd. el de la PSP es mips.

Espero haberte ayudado

SALU2