在inet

inet"/>

在inet

我需要在内核中记录一张标识IP层二元组(源IP/目标IP)流的流表！要这个干什么呢？因为我需要记录一条端到端路径的链路状况，比如TCP的拥塞窗口设置到哪里合适，比如RTT的波动范围，如此等等。这些信息非常重要，它可以指导当这条路径再次发生TCP连接的时候，TCP的拥塞参数如何配置，这些信息也是大数据机器学习的重要数据。
然而，这条路径可信吗？不是很可信！因为很多运营商都在Last Mile做了NAT，对于一个服务器而言，看到的一个源IP可能背后隐藏着一个不小的网络，该源IP实际上代理了很多的真实源IP。
        但是不管怎样，权衡记录传输层五元组流表所消耗的空间以及以此获得的收益，我还是选择IP二元组吧，虽然我知道，NAT的副作用不可小觑，但是你考虑过五元组nf_conntrack的开销吗？这玩意儿饱受诟病。
        在Linux内核协议栈里，有没有一个现成的地方标识一个IP层的二元组流呢？
        我的意思是说，是否存在一个cache，这个cache不是必须的，它仅仅可以提高效率，即便没有它也无所谓，有的话则更好。如果有这样的cache的话，把IP二元组设置进去，开销几乎为0！
        唯一的开销就是空间开销，然而你要知道，空间就是宇宙，而时间则转瞬即逝，哪个更难以触及？！
        有这样的cache，是什么呢？是路由cache！以2.6.32版本内核为例，路由cache项记录了一个标准的二元组，它记如下：

struct rtable
{union{struct dst_entry    dst;} u;...// 以下为记录二元组的信息__be32            rt_dst;    /* Path destination    */__be32            rt_src;    /* Path source        */int            rt_iif;/* Info on neighbour */__be32            rt_gateway;/* Miscellaneous cached information */__be32            rt_spec_dst; /* RFC1122 specific destination */// peer很重要！struct inet_peer    *peer; /* long-living peer info */
};

注意这个peer字段，很重要！peer结构体记如下：

struct inet_peer
{/* group together avl_left,avl_right,v4daddr to speedup lookups */struct inet_peer    *avl_left, *avl_right;__be32            v4daddr;    /* peer's address */__u16            avl_height;__u16            ip_id_count;    /* IP ID for the next packet */struct list_head    unused;__u32            dtime;        /* the time of last use of not* referenced entries */atomic_t        refcnt;atomic_t        rid;        /* Frag reception counter */__u32            tcp_ts;unsigned long        tcp_ts_stamp;
};

已经初见雏形了，peer里面记录了一些关于tcp的描述信息，这个可以指导TCP进行拥塞控制。我需要在peer结构体里面添加诸如init_cwnd，RTT，ssthresh之类的就好了，这些信息从哪来？从上次的连接中来，或者从所有之前的连接数据的移动指数平均而来！
        在建立或者接受连接的时候，甚至在每次发送数据包的时候，都需要查找路由，然后在命中路由cache的时候，自然而然就取到了peer字段，然后就可以用peer字段里面的数据指导TCP连接了，可以说，这个数据仅仅对TCP初始拥塞控制参数有效，其后的数据还是在本连接内学习为好。
        黄鹤一去不复返，白云千载空悠悠...
        路由cache在3.5之后被去除了，因此rtable也就和peer脱了钩，3.10内核的rtable记如下：

struct rtable {struct dst_entry    dst;int            rt_genid;unsigned int        rt_flags;__u16            rt_type;__u8            rt_is_input;__u8            rt_uses_gateway;int            rt_iif;/* Info on neighbour */__be32            rt_gateway;/* Miscellaneous cached information */u32            rt_pmtu;struct list_head    rt_uncached;
};

这是一个噩耗还是一个福音？？
        我觉得这是一个福音！
        inet_peer从此变成了一个独立的东西，随用随取，取到则用，取不到则罢。inet_getpeer接口非常好用，它完成以下措施：
1.如果二元组不存在，可以创建；
2.如果二元组存在，则立即取到。
这就是说，你可以调用唯一的这个接口完成查询，创建操作，至于销毁，完全靠系统的一个定时器来负责，完全不用用户操心。在认同了inet_peer框架带来的福音之后，我们再来看inet_peer结构体与2.6.32内核的不同：

struct inet_peer {/* group together avl_left,avl_right,v4daddr to speedup lookups */struct inet_peer __rcu    *avl_left, *avl_right;struct inetpeer_addr    daddr;__u32            avl_height;// 此为关键！u32            metrics[RTAX_MAX];u32            rate_tokens;    /* rate limiting for ICMP */unsigned long        rate_last;union {struct list_head    gc_list;struct rcu_head     gc_rcu;};/** Once inet_peer is queued for deletion (refcnt == -1), following fields* are not available: rid, ip_id_count* We can share memory with rcu_head to help keep inet_peer small.*/union {struct {atomic_t            rid;        /* Frag reception counter */atomic_t            ip_id_count;    /* IP ID for the next packet */};struct rcu_head         rcu;struct inet_peer    *gc_next;};/* following fields might be frequently dirtied */__u32            dtime;    /* the time of last use of not referenced entries */atomic_t        refcnt;
};

注意metrics字段！看看RTAX_MAX即可：

enum {RTAX_UNSPEC,
#define RTAX_UNSPEC RTAX_UNSPECRTAX_LOCK,
#define RTAX_LOCK RTAX_LOCKRTAX_MTU,
#define RTAX_MTU RTAX_MTURTAX_WINDOW,
#define RTAX_WINDOW RTAX_WINDOWRTAX_RTT,
#define RTAX_RTT RTAX_RTTRTAX_RTTVAR,
#define RTAX_RTTVAR RTAX_RTTVARRTAX_SSTHRESH,
#define RTAX_SSTHRESH RTAX_SSTHRESHRTAX_CWND,
#define RTAX_CWND RTAX_CWNDRTAX_ADVMSS,
#define RTAX_ADVMSS RTAX_ADVMSSRTAX_REORDERING,
#define RTAX_REORDERING RTAX_REORDERINGRTAX_HOPLIMIT,
#define RTAX_HOPLIMIT RTAX_HOPLIMITRTAX_INITCWND,
#define RTAX_INITCWND RTAX_INITCWNDRTAX_FEATURES,
#define RTAX_FEATURES RTAX_FEATURESRTAX_RTO_MIN,
#define RTAX_RTO_MIN RTAX_RTO_MINRTAX_INITRWND,
#define RTAX_INITRWND RTAX_INITRWND__RTAX_MAX
};#define RTAX_MAX (__RTAX_MAX - 1)

几乎涵盖了大多数的TCP拥塞控制参数，这简直是荒漠甘泉！然而，然而我发现这个inet_peer框架几乎没有被调用的地方。这又是为何？这又一次在逼我重新造轮子吗？...从中，我看到了社区里面的点滴，inet_peer结构体依然存在，只是不再用它了，作为替代，作为替代一定有新的东西完成inet_peer的功能并且甚之！
        不同于inet_peer，在既有的3.10内核中，tcp_metrics_hash占据了主角，仔细看看这个架构，感觉还是比inet_peer好，比之更加正式。这个接口是靠以下两个维护的：
tcp_get_metrics
tcp_update_metrics
这个metrics框架也是一个类似inet_peer一样全局的信息记录，但是功能跟inet_peer有些重复。在TCP连接初始之时，调用tcp_get_metrics获取TCP拥塞参数，然后在TCP连接结束的时候，会调用tcp_update_metrics来更新metrics，这个貌似更加合理。

        如果我事先知道了有tcp_metrics_hash框架，我还会大动干戈去修改inet_peer框架吗？我干过太多类似这样事情，我是个傻逼。