Hola,
¿Qué error te da el instalador automático, específicamente?
Si seguís con la idea de hacer la instalación manual, y persiste el problema del puerto, probá cambiarlo en la configuración de PostreSQL y en la instalación de Libertya (podés usar por ejemplo el puerto 55432).
También podés probar con pgadmin3 (o el cliente mismo de PostreSQL) que se pueda establecer una conexión a la BD.
Saludos,
Juan Manuel.