Es es posible, pero deberá hacer algún trabajo para que se realicen las llamadas correctamente. Nunca lo hice yo mismo, pero hasta que llegue alguien mejor equipado para responder la pregunta, aquí hay algunos lugares para comenzar.
Eche un vistazo a JNI (Java Native Interface, google o wikipedia puede proporcionarle más información), que le permite llamar desde Java a otros idiomas. Parece que hay un proyecto llamado jni4net (http://jni4net.sourceforge.net) que está destinado a hacer exactamente lo que usted desea, pero está en alfa en este momento y podría no ser lo suficientemente estable. Aún así, podría valer la pena echarle un vistazo.
También puede hacerlo usted mismo, llamando a través del JNI como una llamada C que luego se transferirá al CLR con el tiempo, pero parece un gran esfuerzo. Sé que esta no es una solución rápida y fácil, pero podría darte un par de lugares para comenzar. también http://www.codeproject.com/KB/cross-platform/javacsharp.aspx parecía ser un buen vistazo a cómo hacerlo.
Como todas las otras respuestas hasta ahora han dicho sin embargo, es difícil y un dolor. Si puede hacer otra cosa, probablemente valga la pena.
Mi consejo es buscar una biblioteca de AI para Java. – Radu