IPSecの履歴
Cent OS 5.5 の OpenSwan(オープンソースの実装) にはNAT Traversal機能にバグが有るらしいです。
I'd upgrade, 2.6.21 is really old and buggy.
http://lists.openswan.org/pipermail/users/2011-January/019926.html
Openswan は Cent OS 5.5 の標準レポジトリにパッケージがありますが、Version 2.6.21 ベースです。
ところが、このバージョンの Openswan の NAT-T(NATトラバーサル)にはバグがあるようで、NAT-T により IPsec の ESP プロトコルが over UDP でカプセリングされて IPsec が確立しても、その後の L2TP パケットは、そのまま 通そうとしてしまいます。 つまり、IPsec 接続しかできず、L2TP によるトンネリングが行えません。
xl2tpd 側で回避できればいいのですが、回避策は無いようでした。
Cent OS 6 がリリースされれば RHEL6 の Openswan は 2.6.24 ベースみたいなのでバグが解消されてると思いますが、Cent OS 5.x 系ではソースから入れるのが無難なようです。