Como te ha dicho Arber, si pone System.homePopup(1) activas el Boton Home. Para desactivar el Home debes sustituir el 1 por el 0, y para que cuando pulses home te salga NO, debes quitar el System.homePopup(0) y poner el codigo de esta manera:

while true do
pad = Controls.read()
if pad:cross() then
System.message(System.getCpuSpeed(), 0)
end
 
if pad:home() then
System.message("No", 0)
end
end

Ya que si pones:

if pad:home() then
System.homePopup(0)
System.message("No", 0)
end

Al pulsar Home desactivas el Boton y por tanto no te saldra el mensaje "NO"

No estoy seguro ya que me he leido la documentación del HMv2 en todo caso el valor de la funcion System.homePopup() debería ser 0 (que en el lenguaje de programación generalmente significa "desactivado" o falso, depende del caso y de como se use), asi que la función debería quedarte asi más o menos asi:

if pad:home() then
System.homePopup(0)
System.message("No", 0)
end

Un saludo.