Primero, tienes k saber cómo diferenciar cuando estás sobre la opcion "editar" o no.
Una vez ya tengas claro como diferenciarlo, entonces, añades que al apretar el botón X o el que quieras, abra el editor.

Para guardar el texto producido por el editor lo haces bien, pero, en tu código sobreescribes la variable texto. Siempre te guardará la palabra "texto" en vez de lo que hayas escrito. Quedaría simplmente:

texto = Sys...startosk(...);
archivo = io.open('ruta/archivo.txt','w+');
archivo:write(texto .. '\n');
archivo:flush(); <-- no es necesario, pero recomiendo usarlo.
archivo:close();

El archivo que abras debe tener otro nombre de variable, si no sobreescribiras el texto otra vez, y perderás el texto guardado.

Recuerda cerrar los archivos despues de usarlos.

Si usas HM , para detectar la presión de cualquier botón puedes usar el método pad y oldpad.

Y creo que con eso es todo.

(Por cierto, veo que intentas editar un archivo en seplugins, con lo que pienso que quizás quieras agregar plug-ins a la lista de los actuales, si es así, no será tán facil como eso, deberías comprobar si el plugin previamente está escrito, y a la hora de borrarlo, averiguar en qué línea está, si no, cometerás el mismo típico error de todas las aplicaciones de este tipo, se borran plug-ins actuales, no descargan bien... un cacao en la seplugins...)