Encontré una solución funcional para el problema (al menos funcionó para mí con JDev 12.1.2.0 pero creo que también debería funcionar en 11.x):
Agregue la siguiente línea en jdk.conf (JDEV_HOME/jdeveloper/ide/bin) y reinicie JDeveloper:
AddVMOption -Dfile.encoding=UTF-8