у кого нибудь была такая проблема?

Версии tables и kernel?

OS: CentOS v4.4
iptables v1.2.11
kernel v2.6.9-023stab040.1-enterprise

google по русски такой ошибки незнает

Ядро старое, обновитесь

Да ничего не старое, это стабильное ядро в текущих Ред Хатах энтерпрайз уровня, без глюков от нововедений. Последнее у CentOS 4.4 2.6.9-42.0.10.EL, работает прекрасно при весьма немалом списке рулесов для iptables'а.

мне тоже кажется, что это не из за старости ядра.
да и какое оно старое то...

В центос по умолчанию идет старое и глючное ядро. Не верите - спросите hostbizua

С Fedore Core случайно не перепутали? У меня энтерпрайз серваки на CentOS/Red-Hat'ах всю жизнь были (по функционалу все от БД до почты/роутеров/брэндмауэров и т.д.), yum update запустить не долго, текущая версия CentOS 4.4 == RHEL 4, а RH4 это текущий stable от красношляпых, ядро там не дураки патчат, хотя конечно если брать самое первое ядро в релизе тогда х.з.

P.S.

$ iptables -V
iptables v1.2.11
$ uname -r
2.6.9-42.ELsmp

Увы, патчат там как раз его не очень
Причем как в rhel так и в пересобраном centos. Один глюк когда используется своп при свободной оперативке чего стоит...

Это ядро virtuozzo/openvz
Чтобы работали iptables, их нужно подключить для VPS. Смотрите:
http://forum.hostobzor.ru/index.php?s=&...ost&p=73361

Еще посмотрите параметр NUMIPTENT в ресурсах, возможно его не хватает