Para poder recuperar el estado de una interfaz, necesitas almacenar los datos que se encuentran en la interfaz en algún sitio. Un fichero texto, una bbdd, un fichero xml, etc

Una de las opciones mas sencillas,es crear un fichero de propiedades... Son ficheros de texto plano estilo:


identificado1= valor1
identificador2 = valor2
...


Pues para usarlo, suponiendo que en la raiz del proyecto tenemos un fichero que se llama miFichero.properties y cuyo contenido es:


saludo=Hola amigos!


Para leer y escribir en el fichero seria algo como lo que sigue:

public class EjemProper {
public static void main(String[] args) throws IOException {
Properties p =new Properties();

//Asi leeriamos del fichero
p.load(new FileInputStream(new File("miFichero.properties")));
String saludo=(String)p.get("saludo");
System.out.println(saludo);

//asi guardariamos en el fichero
p.put("calculo", "5");
p.store(new FileWriter(new File("miFichero.properties")), "Esto es un comentario");


}
}


Sería algo asi. Ahora bien en tu caso, lo que tendrias que hacer es:

Guardar el contenido de los campos antes de cerrar la aplicacion en donde mas te convenga, un fichero como te he enseñado, o una BBDD ya depende de tus necesidades.

Y leer el contenido del fichero de texto al ejecutar tu aplicacion, para recuperar el contenido que hubiera en los campos de texto.