git.sesse.net Git - bcachefs-tools-debian/blob - include/linux/slab.h

   1 #ifndef __TOOLS_LINUX_SLAB_H
   2 #define __TOOLS_LINUX_SLAB_H
   3
   4 #include <malloc.h>
   5 #include <stdlib.h>
   6 #include <string.h>
   7
   8 #include <linux/kernel.h>
   9 #include <linux/log2.h>
  10 #include <linux/overflow.h>
  11 #include <linux/page.h>
  12 #include <linux/shrinker.h>
  13 #include <linux/types.h>
  14
  15 #include <stdlib.h>
  16 #include <sys/mman.h>
  17
  18 #define alloc_hooks(_do, ...)           _do
  19
  20 #define ARCH_KMALLOC_MINALIGN           16
  21 #define KMALLOC_MAX_SIZE                SIZE_MAX
  22
  23 static inline void *_kmalloc(size_t size, gfp_t flags)
  24 {
  25         unsigned i;
  26         void *p;
  27
  28         for (i = 0; i < 10; i++) {
  29                 if (size) {
  30                         size_t alignment = min(rounddown_pow_of_two(size), (size_t)PAGE_SIZE);
  31                         alignment = max(sizeof(void *), alignment);
  32                         if (posix_memalign(&p, alignment, size))
  33                                 p = NULL;
  34                 } else {
  35                         p = malloc(0);
  36                 }
  37
  38                 if (p) {
  39                         if (flags & __GFP_ZERO)
  40                                 memset(p, 0, size);
  41                         break;
  42                 }
  43
  44                 run_shrinkers(flags, true);
  45         }
  46
  47         return p;
  48 }
  49 #define kmalloc         _kmalloc
  50
  51 static inline void *krealloc(void *old, size_t size, gfp_t flags)
  52 {
  53         void *new;
  54
  55         new = kmalloc(size, flags);
  56         if (!new)
  57                 return NULL;
  58
  59         if (flags & __GFP_ZERO)
  60                 memset(new, 0, size);
  61
  62         if (old) {
  63                 memcpy(new, old,
  64                        min(malloc_usable_size(old),
  65                            malloc_usable_size(new)));
  66                 free(old);
  67         }
  68
  69         return new;
  70 }
  71
  72 static inline void *krealloc_array(void *p, size_t new_n, size_t new_size, gfp_t flags)
  73 {
  74         size_t bytes;
  75
  76         if (unlikely(check_mul_overflow(new_n, new_size, &bytes)))
  77                 return NULL;
  78
  79         return krealloc(p, bytes, flags);
  80 }
  81
  82 #define kzalloc(size, flags)            kmalloc(size, flags|__GFP_ZERO)
  83 #define kmalloc_array(n, size, flags)                                   \
  84         ((size) != 0 && (n) > SIZE_MAX / (size)                         \
  85          ? NULL : kmalloc((n) * (size), flags))
  86
  87 #define kvmalloc_array(n, size, flags)                                  \
  88         ((size) != 0 && (n) > SIZE_MAX / (size)                         \
  89          ? NULL : kmalloc((n) * (size), flags))
  90
  91 #define kcalloc(n, size, flags)         kmalloc_array(n, size, flags|__GFP_ZERO)
  92
  93 #define kfree(p)                        free(p)
  94 #define kzfree(p)                       free(p)
  95
  96 #define kvmalloc(size, flags)           kmalloc(size, flags)
  97 #define kvzalloc(size, flags)           kzalloc(size, flags)
  98 #define kvfree(p)                       kfree(p)
  99
 100 static inline struct page *_alloc_pages(gfp_t flags, unsigned int order)
 101 {
 102         size_t size = PAGE_SIZE << order;
 103         unsigned i;
 104         void *p;
 105
 106         for (i = 0; i < 10; i++) {
 107                 p = aligned_alloc(PAGE_SIZE, size);
 108
 109                 if (p) {
 110                         if (flags & __GFP_ZERO)
 111                                 memset(p, 0, size);
 112                         break;
 113                 }
 114
 115                 run_shrinkers(flags, true);
 116         }
 117
 118         return p;
 119 }
 120 #define alloc_pages                     _alloc_pages
 121
 122 #define alloc_page(gfp)                 alloc_pages(gfp, 0)
 123
 124 #define _get_free_pages(gfp, order)     ((unsigned long) alloc_pages(gfp, order))
 125 #define __get_free_pages(gfp, order)    ((unsigned long) alloc_pages(gfp, order))
 126 #define __get_free_page(gfp)            __get_free_pages(gfp, 0)
 127
 128 #define __free_pages(page, order)                       \
 129 do {                                                    \
 130         (void) order;                                   \
 131         free(page);                                     \
 132 } while (0)
 133
 134 #define free_pages(addr, order)                         \
 135 do {                                                    \
 136         (void) order;                                   \
 137         free((void *) (addr));                          \
 138 } while (0)
 139
 140 #define __free_page(page) __free_pages((page), 0)
 141 #define free_page(addr) free_pages((addr), 0)
 142
 143 #define VM_IOREMAP              0x00000001      /* ioremap() and friends */
 144 #define VM_ALLOC                0x00000002      /* vmalloc() */
 145 #define VM_MAP                  0x00000004      /* vmap()ed pages */
 146 #define VM_USERMAP              0x00000008      /* suitable for remap_vmalloc_range */
 147 #define VM_UNINITIALIZED        0x00000020      /* vm_struct is not fully initialized */
 148 #define VM_NO_GUARD             0x00000040      /* don't add guard page */
 149 #define VM_KASAN                0x00000080      /* has allocated kasan shadow memory */
 150
 151 static inline void vunmap(const void *addr) {}
 152
 153 static inline void *vmap(struct page **pages, unsigned int count,
 154                          unsigned long flags, unsigned prot)
 155 {
 156         return NULL;
 157 }
 158
 159 #define is_vmalloc_addr(page)           0
 160
 161 #define vmalloc_to_page(addr)           ((struct page *) (addr))
 162
 163 static inline void *kmemdup(const void *src, size_t len, gfp_t gfp)
 164 {
 165         void *p;
 166
 167         p = kmalloc(len, gfp);
 168         if (p)
 169                 memcpy(p, src, len);
 170         return p;
 171 }
 172
 173 struct kmem_cache {
 174         size_t              obj_size;
 175 };
 176
 177 static inline void *kmem_cache_alloc(struct kmem_cache *c, gfp_t gfp)
 178 {
 179         return kmalloc(c->obj_size, gfp);
 180 }
 181
 182 static inline void *kmem_cache_zalloc(struct kmem_cache *c, gfp_t gfp)
 183 {
 184         return kzalloc(c->obj_size, gfp);
 185 }
 186
 187 static inline void kmem_cache_free(struct kmem_cache *c, void *p)
 188 {
 189         kfree(p);
 190 }
 191
 192 static inline void kmem_cache_destroy(struct kmem_cache *p)
 193 {
 194         kfree(p);
 195 }
 196
 197 static inline struct kmem_cache *kmem_cache_create(size_t obj_size)
 198 {
 199         struct kmem_cache *p = kmalloc(sizeof(*p), GFP_KERNEL);
 200         if (!p)
 201                 return NULL;
 202
 203         p->obj_size = obj_size;
 204         return p;
 205 }
 206
 207 #define KMEM_CACHE(_struct, _flags)     kmem_cache_create(sizeof(struct _struct))
 208
 209 #define PAGE_KERNEL             0
 210 #define PAGE_KERNEL_EXEC        1
 211
 212 #define vfree(p)                free(p)
 213
 214 static inline void *__vmalloc(unsigned long size, gfp_t flags)
 215 {
 216         unsigned i;
 217         void *p;
 218
 219         size = round_up(size, PAGE_SIZE);
 220
 221         for (i = 0; i < 10; i++) {
 222                 p = aligned_alloc(PAGE_SIZE, size);
 223
 224                 if (p) {
 225                         if (flags & __GFP_ZERO)
 226                                 memset(p, 0, size);
 227                         break;
 228                 }
 229
 230                 run_shrinkers(flags, true);
 231         }
 232
 233         return p;
 234 }
 235
 236 static inline void *vmalloc_exec(unsigned long size, gfp_t gfp_mask)
 237 {
 238         void *p;
 239
 240         p = __vmalloc(size, gfp_mask);
 241         if (!p)
 242                 return NULL;
 243
 244         if (mprotect(p, size, PROT_READ|PROT_WRITE|PROT_EXEC)) {
 245                 vfree(p);
 246                 return NULL;
 247         }
 248
 249         return p;
 250 }
 251
 252 static inline void *vmalloc(unsigned long size)
 253 {
 254         return __vmalloc(size, GFP_KERNEL);
 255 }
 256
 257 static inline void *vzalloc(unsigned long size)
 258 {
 259         return __vmalloc(size, GFP_KERNEL|__GFP_ZERO);
 260 }
 261
 262 #endif /* __TOOLS_LINUX_SLAB_H */