Obviamente sin cuestionar lo que dice Abraham (¡faltaría más!) :-) te contesto desde otro punto de vista.

Precisamente por lo que dice Abraham sobre los JPanel, que son contenedores ligeros y que deben estar siempre exactamente dentro de otros contenedores como JFrame o JWindow, te permiten incrustarlos en diferentes lugares, incluyendo otros JPanel, haciéndolos más versátiles.

Por ejemplo, imagina que tienes un mantenimiento de acreedores con varias pantallas, una para datos de domicilio, otra para datos bancarios, etc. Si diseñas cada "pantalla" como un JPanel independiente, luego podrás usar cada uno de ellos dentro de un JFrame generado al vuelo para ofrecer una opción que permita editar sólo los datos relevantes en ese panel; o bien meter cada JPanel con un JTabbedPane para hacer una única ventana JFrame con varias pestañas que proporcione el mantenimiento completo del acreedor.

Puesto que NetBeans (y me imagino que otros IDE también) te permite diseñar un formulario como un JPanel prácticamente igual que un JFrame, usar JPanel mejora la reusabilidad del diseño. Volviendo a la respuesta de Abraham, si diseñas sobre un JPanel, luego lo puedes incrustar en un JFrame o en un JWindow (o un JInternalFrame). Si lo haces como JFrame, es un JFrame y punto. :-)