Lines Matching refs:sch

74 					   struct Qdisc *sch,
76 struct sk_buff * (*dequeue)(struct Qdisc *sch);
275 struct tcf_block * (*tcf_block)(struct Qdisc *sch,
304 struct Qdisc *sch,
309 int (*init)(struct Qdisc *sch, struct nlattr *arg,
313 int (*change)(struct Qdisc *sch,
316 void (*attach)(struct Qdisc *sch);
318 void (*change_real_num_tx)(struct Qdisc *sch,
324 void (*ingress_block_set)(struct Qdisc *sch,
326 void (*egress_block_set)(struct Qdisc *sch,
328 u32 (*ingress_block_get)(struct Qdisc *sch);
329 u32 (*egress_block_get)(struct Qdisc *sch);
702 void qdisc_offload_graft_helper(struct net_device *dev, struct Qdisc *sch,
716 qdisc_offload_graft_helper(struct net_device *dev, struct Qdisc *sch, in qdisc_offload_graft_helper() argument
832 const struct Qdisc *sch) in qdisc_calculate_pkt_len() argument
835 struct qdisc_size_table *stab = rcu_dereference_bh(sch->stab); in qdisc_calculate_pkt_len()
842 static inline int qdisc_enqueue(struct sk_buff *skb, struct Qdisc *sch, in qdisc_enqueue() argument
845 qdisc_calculate_pkt_len(skb, sch); in qdisc_enqueue()
846 return sch->enqueue(skb, sch, to_free); in qdisc_enqueue()
866 static inline void qdisc_bstats_cpu_update(struct Qdisc *sch, in qdisc_bstats_cpu_update() argument
869 bstats_update(this_cpu_ptr(sch->cpu_bstats), skb); in qdisc_bstats_cpu_update()
872 static inline void qdisc_bstats_update(struct Qdisc *sch, in qdisc_bstats_update() argument
875 bstats_update(&sch->bstats, skb); in qdisc_bstats_update()
878 static inline void qdisc_qstats_backlog_dec(struct Qdisc *sch, in qdisc_qstats_backlog_dec() argument
881 sch->qstats.backlog -= qdisc_pkt_len(skb); in qdisc_qstats_backlog_dec()
884 static inline void qdisc_qstats_cpu_backlog_dec(struct Qdisc *sch, in qdisc_qstats_cpu_backlog_dec() argument
887 this_cpu_sub(sch->cpu_qstats->backlog, qdisc_pkt_len(skb)); in qdisc_qstats_cpu_backlog_dec()
890 static inline void qdisc_qstats_backlog_inc(struct Qdisc *sch, in qdisc_qstats_backlog_inc() argument
893 sch->qstats.backlog += qdisc_pkt_len(skb); in qdisc_qstats_backlog_inc()
896 static inline void qdisc_qstats_cpu_backlog_inc(struct Qdisc *sch, in qdisc_qstats_cpu_backlog_inc() argument
899 this_cpu_add(sch->cpu_qstats->backlog, qdisc_pkt_len(skb)); in qdisc_qstats_cpu_backlog_inc()
902 static inline void qdisc_qstats_cpu_qlen_inc(struct Qdisc *sch) in qdisc_qstats_cpu_qlen_inc() argument
904 this_cpu_inc(sch->cpu_qstats->qlen); in qdisc_qstats_cpu_qlen_inc()
907 static inline void qdisc_qstats_cpu_qlen_dec(struct Qdisc *sch) in qdisc_qstats_cpu_qlen_dec() argument
909 this_cpu_dec(sch->cpu_qstats->qlen); in qdisc_qstats_cpu_qlen_dec()
912 static inline void qdisc_qstats_cpu_requeues_inc(struct Qdisc *sch) in qdisc_qstats_cpu_requeues_inc() argument
914 this_cpu_inc(sch->cpu_qstats->requeues); in qdisc_qstats_cpu_requeues_inc()
917 static inline void __qdisc_qstats_drop(struct Qdisc *sch, int count) in __qdisc_qstats_drop() argument
919 sch->qstats.drops += count; in __qdisc_qstats_drop()
932 static inline void qdisc_qstats_drop(struct Qdisc *sch) in qdisc_qstats_drop() argument
934 qstats_drop_inc(&sch->qstats); in qdisc_qstats_drop()
937 static inline void qdisc_qstats_cpu_drop(struct Qdisc *sch) in qdisc_qstats_cpu_drop() argument
939 this_cpu_inc(sch->cpu_qstats->drops); in qdisc_qstats_cpu_drop()
942 static inline void qdisc_qstats_overlimit(struct Qdisc *sch) in qdisc_qstats_overlimit() argument
944 sch->qstats.overlimits++; in qdisc_qstats_overlimit()
947 static inline int qdisc_qstats_copy(struct gnet_dump *d, struct Qdisc *sch) in qdisc_qstats_copy() argument
949 __u32 qlen = qdisc_qlen_sum(sch); in qdisc_qstats_copy()
951 return gnet_stats_copy_queue(d, sch->cpu_qstats, &sch->qstats, qlen); in qdisc_qstats_copy()
954 static inline void qdisc_qstats_qlen_backlog(struct Qdisc *sch, __u32 *qlen, in qdisc_qstats_qlen_backlog() argument
959 gnet_stats_add_queue(&qstats, sch->cpu_qstats, &sch->qstats); in qdisc_qstats_qlen_backlog()
960 *qlen = qstats.qlen + qdisc_qlen(sch); in qdisc_qstats_qlen_backlog()
964 static inline void qdisc_tree_flush_backlog(struct Qdisc *sch) in qdisc_tree_flush_backlog() argument
968 qdisc_qstats_qlen_backlog(sch, &qlen, &backlog); in qdisc_tree_flush_backlog()
969 qdisc_tree_reduce_backlog(sch, qlen, backlog); in qdisc_tree_flush_backlog()
972 static inline void qdisc_purge_queue(struct Qdisc *sch) in qdisc_purge_queue() argument
976 qdisc_qstats_qlen_backlog(sch, &qlen, &backlog); in qdisc_purge_queue()
977 qdisc_reset(sch); in qdisc_purge_queue()
978 qdisc_tree_reduce_backlog(sch, qlen, backlog); in qdisc_purge_queue()
1004 static inline int qdisc_enqueue_tail(struct sk_buff *skb, struct Qdisc *sch) in qdisc_enqueue_tail() argument
1006 __qdisc_enqueue_tail(skb, &sch->q); in qdisc_enqueue_tail()
1007 qdisc_qstats_backlog_inc(sch, skb); in qdisc_enqueue_tail()
1037 static inline struct sk_buff *qdisc_dequeue_head(struct Qdisc *sch) in qdisc_dequeue_head() argument
1039 struct sk_buff *skb = __qdisc_dequeue_head(&sch->q); in qdisc_dequeue_head()
1042 qdisc_qstats_backlog_dec(sch, skb); in qdisc_dequeue_head()
1043 qdisc_bstats_update(sch, skb); in qdisc_dequeue_head()
1068 static inline unsigned int __qdisc_queue_drop_head(struct Qdisc *sch, in __qdisc_queue_drop_head() argument
1077 qdisc_qstats_backlog_dec(sch, skb); in __qdisc_queue_drop_head()
1085 static inline struct sk_buff *qdisc_peek_head(struct Qdisc *sch) in qdisc_peek_head() argument
1087 const struct qdisc_skb_head *qh = &sch->q; in qdisc_peek_head()
1093 static inline struct sk_buff *qdisc_peek_dequeued(struct Qdisc *sch) in qdisc_peek_dequeued() argument
1095 struct sk_buff *skb = skb_peek(&sch->gso_skb); in qdisc_peek_dequeued()
1099 skb = sch->dequeue(sch); in qdisc_peek_dequeued()
1102 __skb_queue_head(&sch->gso_skb, skb); in qdisc_peek_dequeued()
1104 qdisc_qstats_backlog_inc(sch, skb); in qdisc_peek_dequeued()
1105 sch->q.qlen++; in qdisc_peek_dequeued()
1112 static inline void qdisc_update_stats_at_dequeue(struct Qdisc *sch, in qdisc_update_stats_at_dequeue() argument
1115 if (qdisc_is_percpu_stats(sch)) { in qdisc_update_stats_at_dequeue()
1116 qdisc_qstats_cpu_backlog_dec(sch, skb); in qdisc_update_stats_at_dequeue()
1117 qdisc_bstats_cpu_update(sch, skb); in qdisc_update_stats_at_dequeue()
1118 qdisc_qstats_cpu_qlen_dec(sch); in qdisc_update_stats_at_dequeue()
1120 qdisc_qstats_backlog_dec(sch, skb); in qdisc_update_stats_at_dequeue()
1121 qdisc_bstats_update(sch, skb); in qdisc_update_stats_at_dequeue()
1122 sch->q.qlen--; in qdisc_update_stats_at_dequeue()
1126 static inline void qdisc_update_stats_at_enqueue(struct Qdisc *sch, in qdisc_update_stats_at_enqueue() argument
1129 if (qdisc_is_percpu_stats(sch)) { in qdisc_update_stats_at_enqueue()
1130 qdisc_qstats_cpu_qlen_inc(sch); in qdisc_update_stats_at_enqueue()
1131 this_cpu_add(sch->cpu_qstats->backlog, pkt_len); in qdisc_update_stats_at_enqueue()
1133 sch->qstats.backlog += pkt_len; in qdisc_update_stats_at_enqueue()
1134 sch->q.qlen++; in qdisc_update_stats_at_enqueue()
1139 static inline struct sk_buff *qdisc_dequeue_peeked(struct Qdisc *sch) in qdisc_dequeue_peeked() argument
1141 struct sk_buff *skb = skb_peek(&sch->gso_skb); in qdisc_dequeue_peeked()
1144 skb = __skb_dequeue(&sch->gso_skb); in qdisc_dequeue_peeked()
1145 if (qdisc_is_percpu_stats(sch)) { in qdisc_dequeue_peeked()
1146 qdisc_qstats_cpu_backlog_dec(sch, skb); in qdisc_dequeue_peeked()
1147 qdisc_qstats_cpu_qlen_dec(sch); in qdisc_dequeue_peeked()
1149 qdisc_qstats_backlog_dec(sch, skb); in qdisc_dequeue_peeked()
1150 sch->q.qlen--; in qdisc_dequeue_peeked()
1153 skb = sch->dequeue(sch); in qdisc_dequeue_peeked()
1175 static inline void qdisc_reset_queue(struct Qdisc *sch) in qdisc_reset_queue() argument
1177 __qdisc_reset_queue(&sch->q); in qdisc_reset_queue()
1178 sch->qstats.backlog = 0; in qdisc_reset_queue()
1181 static inline struct Qdisc *qdisc_replace(struct Qdisc *sch, struct Qdisc *new, in qdisc_replace() argument
1186 sch_tree_lock(sch); in qdisc_replace()
1191 sch_tree_unlock(sch); in qdisc_replace()
1196 static inline void rtnl_qdisc_drop(struct sk_buff *skb, struct Qdisc *sch) in rtnl_qdisc_drop() argument
1199 qdisc_qstats_drop(sch); in rtnl_qdisc_drop()
1202 static inline int qdisc_drop_cpu(struct sk_buff *skb, struct Qdisc *sch, in qdisc_drop_cpu() argument
1206 qdisc_qstats_cpu_drop(sch); in qdisc_drop_cpu()
1211 static inline int qdisc_drop(struct sk_buff *skb, struct Qdisc *sch, in qdisc_drop() argument
1215 qdisc_qstats_drop(sch); in qdisc_drop()
1220 static inline int qdisc_drop_all(struct sk_buff *skb, struct Qdisc *sch, in qdisc_drop_all() argument
1224 qdisc_qstats_drop(sch); in qdisc_drop_all()
1330 void mq_change_real_num_tx(struct Qdisc *sch, unsigned int new_real_tx);