El límite de 3 caracteres ya no existe en Windows, por lo que sugeriría utilizar una extensión más larga que deja inmediatamente en claro que esto es para su aplicación. P.ej. supongamos que su aplicación se llama StreetBuilder, solo use la extensión .streetbuilder.
Tenga cuidado con los problemas relacionados con la versión. Después de unos años, es posible que desee cambiar su formato de archivo debido a la nueva funcionalidad en su aplicación. No se sienta tentado a cambiar el formato de archivo y las extensiones de archivo (porque luego termina con extensiones como .streetbuilder2, .streetbuilder3, ...). En su lugar, cumpla con una extensión consistente (.streetbuilder) e incluya un número de versión al principio del contenido del archivo.
Lo que normalmente hago es iniciar el archivo con contenidos como este (suponiendo que su aplicación se llame StreetBuilder): "STREETBUILDERV01" o una cadena críptica seguida de un número de versión.
Si ahora desea cambiar el formato de su archivo, simplemente aumenta el número de versión. De esta forma, su aplicación siempre puede verificar si el archivo es realmente para su aplicación, y también sabe cómo analizar el archivo (según el número de versión).