Tengo una máquina Mac OS X Server (10.9) que ejecuta un servidor VPN L2TP/IPSec. La configuración parece estar bien y el nombre de host tanto del servidor como de la VPN está configurado en un nombre de host DynDNS. El servidor está configurado detrás de un enrutador AirPort Extreme con reenvío de puertos, conectado a un módem/enrutador Arris con el enrutador deshabilitado (en puente). El servidor está configurado con una IP interna estática y el enrutador también tiene su dirección MAC vinculada a través de DHCP para garantizar que la dirección interna sea consistente.
Si ingreso la dirección IP interna del servidor (10.0.1.x) e intento conectarme al servidor VPN desde dentro de la red, todo funciona bien. Pero si ingreso el nombre de host externo (el nombre DynDNS) e intento conectarme, nuevamente desde dentro de la red, no se puede conectar. De manera similar, no logra conectarse cuando está fuera de la red (a través de LTE, por ejemplo).
Otros servicios (SSH, escritorio remoto, etc.) se conectan bien tanto dentro como fuera de la red. Sólo la VPN se ve afectada. Puedo confirmar que se puede acceder al servidor desde SSH y Escritorio remoto (puertos 22/5900).
Además, confirmé que el enrutador está reenviando los puertos 500 (UDP), 1701 (UDP) y 4500 (UDP), además de los otros puertos utilizados por los otros servicios.
Cuando intento conectarme, aparece lo siguiente en la consola del cliente:
12/16/13 11:13:33.213 PM configd[28]: SCNC: start, triggered by (15822) com.apple.prefe, type L2TP, status 0, trafficClass 0
12/16/13 11:13:33.229 PM pppd[15967]: publish_entry SCDSet() failed: Success!
12/16/13 11:13:33.230 PM pppd[15967]: publish_entry SCDSet() failed: Success!
12/16/13 11:13:33.230 PM pppd[15967]: pppd 2.4.2 (Apple version 727.1.15) started by user, uid 501
12/16/13 11:13:33.231 PM pppd[15967]: L2TP connecting to server 'x.x.x.x' (x.x.x.x)...
12/16/13 11:13:33.232 PM pppd[15967]: IPSec connection started
12/16/13 11:13:33.244 PM racoon[15968]: accepted connection on vpn control socket.
12/16/13 11:13:33.244 PM racoon[15968]: Connecting.
12/16/13 11:13:33.244 PM racoon[15968]: IPSec Phase 1 started (Initiated by me).
12/16/13 11:13:33.245 PM racoon[15968]: IKE Packet: transmit success. (Initiator, Main-Mode message 1).
12/16/13 11:13:33.245 PM racoon[15968]: >>>>> phase change status = Phase 1 started by us
12/16/13 11:13:33.416 PM racoon[15968]: >>>>> phase change status = Phase 1 started by peer
12/16/13 11:13:33.416 PM racoon[15968]: IKE Packet: receive success. (Initiator, Main-Mode message 2).
12/16/13 11:13:33.420 PM racoon[15968]: IKE Packet: transmit success. (Initiator, Main-Mode message 3).
12/16/13 11:13:33.429 PM racoon[15968]: IKE Packet: receive success. (Initiator, Main-Mode message 4).
12/16/13 11:13:33.447 PM racoon[15968]: IKE Packet: transmit success. (Initiator, Main-Mode message 5).
12/16/13 11:13:36.715 PM racoon[15968]: !!! skipped retransmitting frags: frag_flags 1, r->sendbuf->l 112, max 1280
12/16/13 11:13:36.715 PM racoon[15968]: Received retransmitted packet from x.x.x.x[500].
12/16/13 11:13:36.715 PM racoon[15968]: the packet is retransmitted by x.x.x.x[500].
12/16/13 11:13:36.745 PM racoon[15968]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:39.872 PM racoon[15968]: !!! skipped retransmitting frags: frag_flags 1, r->sendbuf->l 112, max 1280
12/16/13 11:13:39.872 PM racoon[15968]: Received retransmitted packet from x.x.x.x[500].
12/16/13 11:13:39.873 PM racoon[15968]: the packet is retransmitted by x.x.x.x[500].
12/16/13 11:13:40.043 PM racoon[15968]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:43.170 PM racoon[15968]: !!! skipped retransmitting frags: frag_flags 1, r->sendbuf->l 112, max 1280
12/16/13 11:13:43.170 PM racoon[15968]: Received retransmitted packet from x.x.x.x[500].
12/16/13 11:13:43.170 PM racoon[15968]: the packet is retransmitted by x.x.x.x[500].
12/16/13 11:13:43.335 PM racoon[15968]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:55.912 PM racoon[15968]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:56.367 PM racoon[15968]: !!! skipped retransmitting frags: frag_flags 1, r->sendbuf->l 112, max 1280
12/16/13 11:13:56.367 PM racoon[15968]: Received retransmitted packet from x.x.x.x[500].
12/16/13 11:13:56.367 PM racoon[15968]: the packet is retransmitted by x.x.x.x[500].
12/16/13 11:14:03.416 PM pppd[15967]: IPSec connection failed
12/16/13 11:14:03.416 PM racoon[15968]: IPSec disconnecting from server x.x.x.x
12/16/13 11:14:03.416 PM racoon[15968]: glob found no matches for path "/var/run/racoon/*.conf"
Y esto en la consola del servidor:
12/16/13 11:13:33.404 PM racoon[216]: IPSec Phase 1 started (Initiated by peer).
12/16/13 11:13:33.404 PM racoon[216]: IKE Packet: receive success. (Responder, Main-Mode message 1).
12/16/13 11:13:33.404 PM racoon[216]: >>>>> phase change status = Phase 1 started by us
12/16/13 11:13:33.404 PM racoon[216]: IKE Packet: transmit success. (Responder, Main-Mode message 2).
12/16/13 11:13:33.541 PM racoon[216]: IKE Packet: receive success. (Responder, Main-Mode message 3).
12/16/13 11:13:33.559 PM racoon[216]: IKE Packet: transmit success. (Responder, Main-Mode message 4).
12/16/13 11:13:33.566 PM racoon[216]: Connecting.
12/16/13 11:13:36.697 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:36.697 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:39.989 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:43.286 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:13:56.484 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:14:06.392 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:14:12.978 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:14:32.767 PM racoon[216]: IKE Packet: transmit success. (Phase 1 Retransmit).
12/16/13 11:14:39.390 PM racoon[216]: IKEv1 Phase 1: maximum retransmits. (Phase 1 Maximum Retransmits).
12/16/13 11:14:39.390 PM racoon[216]: Phase 1 negotiation failed due to time up. 45b24df5cc9713e7:9b427f72231ccb59
Una cosa que noté es que el cliente falló a las 11:14:03 mientras que el servidor siguió retransmitiendo paquetes durante otros 30 segundos, hasta que se agotó el tiempo de espera. El cliente en este caso es Mac OS X, pero los clientes de iOS se comportan de manera similar.
¿Cuáles son los pasos de solución de problemas que debo buscar aquí?
Respuesta1
Bien, resulta que es un "error" en la última versión de Mac OS X Server. Por lo que pude encontrar, el demonio IKE racoonno aceptará conexiones si el puerto de origen no es UDP 4500. La mayoría de las conexiones que pasan por NAT aleatorizarán el puerto de origen, lo que significa que no se conectará. La versión antigua del demonio no tiene esta restricción. Las conexiones desde dentro de la red no aleatorizarán el puerto si se conectan directamente a la IP del servidor, pero aparentemente sí lo harán las conexiones loopback y externas, lo que provocará fallas.
La solución rápida, entonces, fuereemplace el racoonbinario con una versión anterior de OS 10.8, por supuesto, haciendo una copia de seguridad del anterior nombrándolo racoon.old(¿o sería racoon.newmás correcto? :D).
Apple parece estar al tanto del problema y, con suerte, publicarán una solución; Mientras tanto, revertir el binario funciona.