En el mundo de Lua para PSP existen varios intérpretes, necesitas primero elegir uno. Los más populares son LuaHM y LuaDEV, te recomiendo ampliamente el segundo, es el más potente que hay actualmente, además de que su desarrollo sigue vigente.

Ya que elegiste uno, ahora necesitas un eboot y la documentación. Ambas cosas (para LuaDEV) las encuentras en este post, así como muchas funciones que no vienen documentadas aún (recuerda que se está desarrollando, por eso no todas vienen documentadas). En la documentación encuentras información sobre las funciones disponibles (también estarán disponibles las de Lua general, como las de las librerías string, IO, math, etc).

Todo bien, ahora sólo tienes que desarrollar tu script (o scripts, no sé xD) y a correrlos. La estructura que debes seguir en el caso de LuaDEV es ésta:

/PSP
  /GAME
    /un nombre cualquiera xD
      EBOOT.PBP
      script.lua
      otro script.lua
      y otro xD.lua

El eboot ejecutará el archivo que se llame script.lua primero, no importando los demás (te puedes "mover" a otros scripts con la función dofile, que es de Lua general, pero igual revísala en la docu).

Con esta información, y lo que dice stingo abajo supongo que ya tendrás para empezar (recuerda que el foro de programación siempre recibirá con los brazos abiertos tus dudas, y el de aportes los programas que vayas haciendo).