x es una array de enteros de tamaño 8 y len=256.
x[len >> 5] |= 0x80 << ((len) % 32);----javascript no hay error.
Por que razon esta funcion me da un arrayindexoutofboundsexception en java.?

len >> 5 toma el valor 8
Como el array esta definido con una longitud de 8, la excepción dice que estás usando una posición del array inválida, puesto que las válidas están en el rango 0..7