Hola,
Libertya funciona muy bien en Linux y en Windows. La elección del SO es cuestión de gustos y de licencias.
Lo de las licencias no requiere mucho comentario: cualquier distribución de Linux, incluyendo el software extra, viene con su licencia y deberías revisarla para evacuar cualquier duda al respecto. Para usar Windows deberías comprar una licencia; hay otras formas de usarlo, pero no las voy a comentar ni promover. Si te inclinás por este sistema, descartaría usar XP.
En cuanto a la parte de gustos me inclino por Linux, sobre todo por la estabilidad y robustez del sistema. Además tenés una comunidad enorme para usar como soporte. A la hora de elegir una distribución, para el servidor usaría Debian y para los clientes Mint.
Saludos,
Juan Manuel.