Es muy sencillo, necesitas descargar el djk de la JDK apropiada para tu distribucion de linux

* RPM - Distibuciones con base RedHat
* TAR - Distribuciones con base Debian

Una vez descargada depende de tu ditribucion la forma en que se instala, aqui esta la documentacion oficial de Oracle

Para el caso de Debian, una vez descomprimido el tar te recomiendo lo siguiente:

Cuando instalo linux lo hago con 3 particiones:

1.- Para la SWAP
2.- Para la carpeta /opt
3.- Para el root /

De esta manera, cuando sale una nueva version de mi distribucion unicamnete se formatea la particion raiz y mi carpeta /opt ya cotendra todos mis programas listos para utilizarse :)

Siguiendo este esquema, una vez que descomprimiste el archivo TAR como se indica en la documentacion, lo mueves a la carpeta /opt

$ sudo mv jdk-7u<version>-linux-x64 /opt

Ahora crea un enlace simbolico en la carpeta /usr/lib/jvm, si no existe la carpeta jvm creala. En la carpeta bin se colocan todas las librerias de las aplicacions.

$ sudo mkdir /usr/lib/jvm
$ cd jvm
$ sudo ln -s /opt/jdk-7u<version>-linux-x64 java-7-oracle

Con esto se crea un enlace simbolico que apunta a la carpeta del jdk en la carpeta /opt, el enlace simbolico tiene la siguiente ruta:

/usr/lib/jvm/java-7-oracle

esta ruta se va a utilizar para absolutamente todas las configuraciones, con el fin de que si actualizas algun dia la version del JDK, unicamente se modifica el enlace simbolico para que apunte a la nueva carpeta y todas tus configuraciones se ven sin transparentes a dicho cambio.

Una vez definido esto, necesitas agregar la ruta al PATH y definir la variable de entorno JAVA_HOME. Para esto abres el archivo del bash y lo editas para que en la ejecucion setee la variable:

$ gedit /etc/bash.bashrc (si es que tienes interfaz grafica)
$ vim /etc/bash.bashrc (si no tienes interfaz grafica)

te diriges hasta el final del archivo y agregas las siguientes lineas:

export JAVA_HOME=/usr/lib/java-7-oracle
export PATH=$PATH:$JAVA_HOME/bin

guardas los cambios y cierras el archivo.

una vez cerrado hay que volver a ejecutar el bash para que tome los cambios:

$ bash
$ java -version

y Listo, te debe de dar la informacion de la version y build del JDK

Ahora hay que poner como primer alternativa los jars del JDK que acabas de configurar:

$ sudo update-alternatives --install "/usr/bin/java" "java" "/usr/lib/jvm/java-7-oracle/bin/java" 1
$ sudo update-alternatives --set java /usr/lib/jvm/java-7-oracle/bin/java
$ sudo update-alternatives --install "/usr/bin/javac" "javac" "/usr/lib/jvm/java-7-oracle/bin/javac" 1
$ sudo update-alternatives --set javac /usr/lib/jvm/java-7-oracle/bin/javac

Ahora si, eso es todo

Saludos, oye una pregunta, como publico una pregunta en los foros?