Espero que domines lua, para adentrarte en C...
Si, la idea es original, supongo que quieres hacer una especie de skype personal.
Weno, aún sabiendo la complejidad del proyecto, te indicaré dónde puedes encontrar lo que buscas.

Grabar desde microfono: Audio Mechanica. (Homebrew). Es open-source, y graba desde el mic, sólo tendrás k localizar esa parte en el código fuente.
http://dl.qj.net/download/audio-mechanica-v8d-source-code.html

Enviar datos via Wi-fi. Deberias saber de sockets para C, aki una página completita: http://www.eslinux.com/articulos/8591/programacion-sockets-l...
Y para ver cómo crear esos sockets o usarlos en la psp, entras en donde tengas instalado tu sdk, carpeta samples\net\simple\main.c <- ahi tienes el ejemplo. Ademas en samples\wlan tienes más ejemplos de como conectar y tal.. no se, echale un vistazo a la carpeta samples que ahi viene de todo un poco.

Por cierto, sólo necesité 5 minutos de google para encontrar lo primero y los sockets, y lo de los samples deberías haberlo explorado al instalar el sdk.

Por cierto si aun no te aclaras con los sockets ni viendo samples ni con esa web, prueba a exarle un vistazo a wifitest [ http://aibohack.com/psp/wifitest.htm ], que si te lo bajas viene con el source y sirve para mandar distintos tipos de datos por sockets (texto, jpg's..).

Espero haberte ayudado.

A una PSP o a algún server?