Ejecute Apache Spark en la caja virtual.

Ejecute Apache Spark en la caja virtual.

Intento ejecutar Apache Spark Master y Worker dentro de Virtual Box (Ubuntu) y conectarme a él desde mi aplicación, pero desafortunadamente sigo recibiendo:

akka.remote.EndpointAssociationException: Association failed

Configuré la redirección de puertos desde la máquina virtual a la máquina host en 7077, 6066y 8080puedo hacer telnet desde mi máquina host con Windows 127.0.0.1 7077y conectarme.

Ejecuto Spark Master y Spark Worker con los siguientes comandos:

export SPARK_LOCAL_IP=127.0.0.1
export SPARK_MASTER_IP=127.0.0.1

bash sbin/spark-daemon.sh start org.apache.spark.deploy.master.Master 1 --ip 127.0.0.1 --port 7077 --webui-port 8080
bash bin/spark-class org.apache.spark.deploy.worker.Worker spark://127.0.0.1:7077 -c 2 -m 2000m -h 127.0.0.1

En la interfaz de usuario web veoSpark Master at spark://127.0.0.1:7077

¿Algunas ideas? Gracias.

Respuesta1

Para conectarse a Spark Master, debe definir la conexión Bridge en la VM. Ahora tu conexión NAT es por eso que no puedes conectarte.https://www.virtualbox.org/manual/ch06.html#network_bridged

En modo Bridge todo funciona bien)

información relacionada