Ok, raro que hayas podido en uno si y en otro no, si seguiste los mismos pasos de instalación; a mi me tiraba el mismo error cuando quería iniciar el servicio y no me tiraba ningún error cuando iniciaba el servidor de aplicación por el Bat, pero después de instalar y desinstalar varias veces el java, posgresql y libertya (eso si quitando toda existencia de instalación en el registro y en las carpetas del sistema) me anduvo después del método que te menciono antes.
Si te sirve uno de los errores que vi fue que en los parametros del servicio openXpertya estaban mal creadas las rutas por eso es importante como dice el wiki que no haya espacios en las rutas de instalación del java y del progresql, los parámetros del servicio los chequeas en el registro en la ruta “HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesopenXpertyaparameters”.
Suerte
Saludos