Buenas,
Para poder debuggear tu componente deberías:
1) En Eclipse, crear un Launch Configuration para el proyecto de tu plugin, a fin de que el ClassLoader encuentre tus clases (tu proyecto debe referenciar al proyecto Libertya CORE). La clase a iniciar sigue siendo la misma org.openXpertya.OpenXpertya.
2) Debés simular en la BBDD que el componente se encuentra instalado. Al instalar un componente, se genera una entrada en AD_Plugin, referenciando al AD_ComponentVersion del componente instalado. Deberías entonces realizar el INSERT en la tabla AD_Plugin, y de esta manera Libertya entenderá que hay un componente instalado.
Saludos,
Federico