git.sesse.net Git - bcachefs-tools-debian/blob - include/linux/slab.h

   1 #ifndef __TOOLS_LINUX_SLAB_H
   2 #define __TOOLS_LINUX_SLAB_H
   3
   4 #include <malloc.h>
   5 #include <stdlib.h>
   6 #include <string.h>
   7
   8 #include <linux/kernel.h>
   9 #include <linux/log2.h>
  10 #include <linux/overflow.h>
  11 #include <linux/page.h>
  12 #include <linux/shrinker.h>
  13 #include <linux/types.h>
  14
  15 #include <stdlib.h>
  16 #include <sys/mman.h>
  17
  18 #define alloc_hooks(_do, ...)           _do
  19
  20 #define ARCH_KMALLOC_MINALIGN           16
  21 #define KMALLOC_MAX_SIZE                SIZE_MAX
  22
  23 static inline void *kmalloc_noprof(size_t size, gfp_t flags)
  24 {
  25         unsigned i;
  26         void *p;
  27
  28         for (i = 0; i < 10; i++) {
  29                 if (size) {
  30                         size_t alignment = min(rounddown_pow_of_two(size), (size_t)PAGE_SIZE);
  31                         alignment = max(sizeof(void *), alignment);
  32                         if (posix_memalign(&p, alignment, size))
  33                                 p = NULL;
  34                 } else {
  35                         p = malloc(0);
  36                 }
  37
  38                 if (p) {
  39                         if (flags & __GFP_ZERO)
  40                                 memset(p, 0, size);
  41                         break;
  42                 }
  43
  44                 run_shrinkers(flags, true);
  45         }
  46
  47         return p;
  48 }
  49 #define kmalloc         kmalloc_noprof
  50
  51 static inline void *krealloc(void *old, size_t size, gfp_t flags)
  52 {
  53         void *new;
  54
  55         new = kmalloc(size, flags);
  56         if (!new)
  57                 return NULL;
  58
  59         if (flags & __GFP_ZERO)
  60                 memset(new, 0, size);
  61
  62         if (old) {
  63                 memcpy(new, old,
  64                        min(malloc_usable_size(old),
  65                            malloc_usable_size(new)));
  66                 free(old);
  67         }
  68
  69         return new;
  70 }
  71
  72 static inline void *krealloc_array(void *p, size_t new_n, size_t new_size, gfp_t flags)
  73 {
  74         size_t bytes;
  75
  76         if (unlikely(check_mul_overflow(new_n, new_size, &bytes)))
  77                 return NULL;
  78
  79         return krealloc(p, bytes, flags);
  80 }
  81
  82 #define kzalloc(size, flags)            kmalloc(size, flags|__GFP_ZERO)
  83 #define kmalloc_array(n, size, flags)                                   \
  84         ((size) != 0 && (n) > SIZE_MAX / (size)                         \
  85          ? NULL : kmalloc((n) * (size), flags))
  86
  87 #define kvmalloc_array(n, size, flags)                                  \
  88         ((size) != 0 && (n) > SIZE_MAX / (size)                         \
  89          ? NULL : kmalloc((n) * (size), flags))
  90
  91 #define kcalloc(n, size, flags)         kmalloc_array(n, size, flags|__GFP_ZERO)
  92
  93 #define kfree(p)                        free(p)
  94 #define kzfree(p)                       free(p)
  95
  96 #define kvmalloc(size, flags)           kmalloc(size, flags)
  97 #define kvzalloc(size, flags)           kzalloc(size, flags)
  98 #define kvfree(p)                       kfree(p)
  99
 100 static inline struct page *alloc_pages_noprof(gfp_t flags, unsigned int order)
 101 {
 102         size_t size = PAGE_SIZE << order;
 103         unsigned i;
 104         void *p;
 105
 106         for (i = 0; i < 10; i++) {
 107                 p = aligned_alloc(PAGE_SIZE, size);
 108
 109                 if (p) {
 110                         if (flags & __GFP_ZERO)
 111                                 memset(p, 0, size);
 112                         break;
 113                 }
 114
 115                 run_shrinkers(flags, true);
 116         }
 117
 118         return p;
 119 }
 120 #define alloc_pages                     alloc_pages_noprof
 121
 122 #define alloc_page(gfp)                 alloc_pages(gfp, 0)
 123
 124 #define _get_free_pages(gfp, order)     ((unsigned long) alloc_pages(gfp, order))
 125 #define __get_free_pages(gfp, order)    ((unsigned long) alloc_pages(gfp, order))
 126 #define get_free_pages_noprof(gfp, order)                               \
 127                                         ((unsigned long) alloc_pages(gfp, order))
 128 #define __get_free_page(gfp)            __get_free_pages(gfp, 0)
 129
 130 #define __free_pages(page, order)                       \
 131 do {                                                    \
 132         (void) order;                                   \
 133         free(page);                                     \
 134 } while (0)
 135
 136 #define free_pages(addr, order)                         \
 137 do {                                                    \
 138         (void) order;                                   \
 139         free((void *) (addr));                          \
 140 } while (0)
 141
 142 #define __free_page(page) __free_pages((page), 0)
 143 #define free_page(addr) free_pages((addr), 0)
 144
 145 #define VM_IOREMAP              0x00000001      /* ioremap() and friends */
 146 #define VM_ALLOC                0x00000002      /* vmalloc() */
 147 #define VM_MAP                  0x00000004      /* vmap()ed pages */
 148 #define VM_USERMAP              0x00000008      /* suitable for remap_vmalloc_range */
 149 #define VM_UNINITIALIZED        0x00000020      /* vm_struct is not fully initialized */
 150 #define VM_NO_GUARD             0x00000040      /* don't add guard page */
 151 #define VM_KASAN                0x00000080      /* has allocated kasan shadow memory */
 152
 153 static inline void vunmap(const void *addr) {}
 154
 155 static inline void *vmap(struct page **pages, unsigned int count,
 156                          unsigned long flags, unsigned prot)
 157 {
 158         return NULL;
 159 }
 160
 161 #define is_vmalloc_addr(page)           0
 162
 163 #define vmalloc_to_page(addr)           ((struct page *) (addr))
 164
 165 static inline void *kmemdup(const void *src, size_t len, gfp_t gfp)
 166 {
 167         void *p;
 168
 169         p = kmalloc(len, gfp);
 170         if (p)
 171                 memcpy(p, src, len);
 172         return p;
 173 }
 174
 175 struct kmem_cache {
 176         size_t              obj_size;
 177 };
 178
 179 static inline void *kmem_cache_alloc(struct kmem_cache *c, gfp_t gfp)
 180 {
 181         return kmalloc(c->obj_size, gfp);
 182 }
 183
 184 static inline void *kmem_cache_zalloc(struct kmem_cache *c, gfp_t gfp)
 185 {
 186         return kzalloc(c->obj_size, gfp);
 187 }
 188
 189 static inline void kmem_cache_free(struct kmem_cache *c, void *p)
 190 {
 191         kfree(p);
 192 }
 193
 194 static inline void kmem_cache_destroy(struct kmem_cache *p)
 195 {
 196         kfree(p);
 197 }
 198
 199 static inline struct kmem_cache *kmem_cache_create(size_t obj_size)
 200 {
 201         struct kmem_cache *p = kmalloc(sizeof(*p), GFP_KERNEL);
 202         if (!p)
 203                 return NULL;
 204
 205         p->obj_size = obj_size;
 206         return p;
 207 }
 208
 209 #define KMEM_CACHE(_struct, _flags)     kmem_cache_create(sizeof(struct _struct))
 210
 211 #define PAGE_KERNEL             0
 212 #define PAGE_KERNEL_EXEC        1
 213
 214 #define vfree(p)                free(p)
 215
 216 static inline void *__vmalloc(unsigned long size, gfp_t flags)
 217 {
 218         unsigned i;
 219         void *p;
 220
 221         size = round_up(size, PAGE_SIZE);
 222
 223         for (i = 0; i < 10; i++) {
 224                 p = aligned_alloc(PAGE_SIZE, size);
 225
 226                 if (p) {
 227                         if (flags & __GFP_ZERO)
 228                                 memset(p, 0, size);
 229                         break;
 230                 }
 231
 232                 run_shrinkers(flags, true);
 233         }
 234
 235         return p;
 236 }
 237
 238 static inline void *vmalloc_exec(unsigned long size, gfp_t gfp_mask)
 239 {
 240         void *p;
 241
 242         p = __vmalloc(size, gfp_mask);
 243         if (!p)
 244                 return NULL;
 245
 246         if (mprotect(p, size, PROT_READ|PROT_WRITE|PROT_EXEC)) {
 247                 vfree(p);
 248                 return NULL;
 249         }
 250
 251         return p;
 252 }
 253
 254 static inline void *vmalloc(unsigned long size)
 255 {
 256         return __vmalloc(size, GFP_KERNEL);
 257 }
 258
 259 static inline void *vzalloc(unsigned long size)
 260 {
 261         return __vmalloc(size, GFP_KERNEL|__GFP_ZERO);
 262 }
 263
 264 #endif /* __TOOLS_LINUX_SLAB_H */