Puede usar exec-maven-plugin para ejecutar el script de shell que iniciará su proceso y se desconectará de él (permitiendo que el proceso se ejecute en segundo plano). Algo como esto:
<plugin>
<groupId>org.codehaus.mojo</groupId>
<artifactId>exec-maven-plugin</artifactId>
<executions>
<execution>
<id>start-server</id>
<phase>pre-integration-test</phase>
<goals>
<goal>exec</goal>
</goals>
<configuration>
<executable>src/test/scripts/run.sh</executable>
<arguments>
<argument>{server.home}/bin/server</argument>
</arguments>
</configuration>
</execution>
</executions>
</plugin>
Dónde run.sh pudiera ser así (para U * nix plataforma):
#! /bin/sh
$* > /dev/null 2>&1 &
exit 0
Que debe hacer el truco.
Para cualquier persona que busque soluciones recientes, intente https://github.com/bazaarvoice/maven-process-plugin –