git.sesse.net Git - bcachefs-tools-debian/blob - include/linux/compiler.h

   1 #ifndef _TOOLS_LINUX_COMPILER_H_
   2 #define _TOOLS_LINUX_COMPILER_H_
   3
   4 /* Optimization barrier */
   5 /* The "volatile" is due to gcc bugs */
   6 #define barrier() __asm__ __volatile__("": : :"memory")
   7 #define barrier_data(ptr) __asm__ __volatile__("": :"r"(ptr) :"memory")
   8
   9 #ifndef __always_inline
  10 # define __always_inline        inline __attribute__((always_inline))
  11 #endif
  12
  13 #ifndef __attribute_const__
  14 #define __attribute_const__     __attribute__((__const__))
  15 #endif
  16
  17 #ifdef __ANDROID__
  18 /*
  19  * FIXME: Big hammer to get rid of tons of:
  20  *   "warning: always_inline function might not be inlinable"
  21  *
  22  * At least on android-ndk-r12/platforms/android-24/arch-arm
  23  */
  24 #undef __always_inline
  25 #define __always_inline inline
  26 #endif
  27
  28 #define noinline
  29 #define noinline_for_stack noinline
  30
  31 #define __user
  32 #define __kernel
  33
  34 #define __pure                  __attribute__((pure))
  35 #define __aligned(x)            __attribute__((aligned(x)))
  36 #define __printf(a, b)          __attribute__((format(printf, a, b)))
  37 #define __used                  __attribute__((__used__))
  38 #define __maybe_unused          __attribute__((unused))
  39 #define __always_unused         __attribute__((unused))
  40 #define __packed                __attribute__((__packed__))
  41 #define __flatten               __attribute__((flatten))
  42 #define __force
  43 #define __nocast
  44 #define __iomem
  45 #define __chk_user_ptr(x) (void)0
  46 #define __chk_io_ptr(x) (void)0
  47 #define __builtin_warning(x, y...) (1)
  48 #define __must_hold(x)
  49 #define __acquires(x)
  50 #define __releases(x)
  51 #define __acquire(x) (void)0
  52 #define __release(x) (void)0
  53 #define __cond_lock(x,c) (c)
  54 #define __percpu
  55 #define __rcu
  56 #define __sched
  57 #define __init
  58 #define __exit
  59 #define __private
  60 #define __must_check
  61 #define __malloc
  62 #define __weak                  __attribute__((weak))
  63 #define likely(x)               __builtin_expect(!!(x), 1)
  64 #define unlikely(x)             __builtin_expect(!!(x), 0)
  65 #define unreachable()           __builtin_unreachable()
  66 #define __same_type(a, b)       __builtin_types_compatible_p(typeof(a), typeof(b))
  67 #define fallthrough             __attribute__((__fallthrough__))
  68 #define __noreturn              __attribute__((__noreturn__))
  69
  70 #define ___PASTE(a,b) a##b
  71 #define __PASTE(a,b) ___PASTE(a,b)
  72 #define __UNIQUE_ID(prefix) __PASTE(__PASTE(__UNIQUE_ID_, prefix), __LINE__)
  73
  74 #define ACCESS_ONCE(x) (*(volatile typeof(x) *)&(x))
  75
  76 #define __initcall(x)   /* unimplemented */
  77 #define __exitcall(x)   /* unimplemented */
  78
  79 #include <linux/types.h>
  80
  81 /*
  82  * Following functions are taken from kernel sources and
  83  * break aliasing rules in their original form.
  84  *
  85  * While kernel is compiled with -fno-strict-aliasing,
  86  * perf uses -Wstrict-aliasing=3 which makes build fail
  87  * under gcc 4.4.
  88  *
  89  * Using extra __may_alias__ type to allow aliasing
  90  * in this case.
  91  */
  92 typedef __u8  __attribute__((__may_alias__))  __u8_alias_t;
  93 typedef __u16 __attribute__((__may_alias__)) __u16_alias_t;
  94 typedef __u32 __attribute__((__may_alias__)) __u32_alias_t;
  95 typedef __u64 __attribute__((__may_alias__)) __u64_alias_t;
  96
  97 static __always_inline void __read_once_size(const volatile void *p, void *res, int size)
  98 {
  99         switch (size) {
 100         case 1: *(__u8_alias_t  *) res = *(volatile __u8_alias_t  *) p; break;
 101         case 2: *(__u16_alias_t *) res = *(volatile __u16_alias_t *) p; break;
 102         case 4: *(__u32_alias_t *) res = *(volatile __u32_alias_t *) p; break;
 103         case 8: *(__u64_alias_t *) res = *(volatile __u64_alias_t *) p; break;
 104         default:
 105                 barrier();
 106                 __builtin_memcpy((void *)res, (const void *)p, size);
 107                 barrier();
 108         }
 109 }
 110
 111 static __always_inline void __write_once_size(volatile void *p, void *res, int size)
 112 {
 113         switch (size) {
 114         case 1: *(volatile  __u8_alias_t *) p = *(__u8_alias_t  *) res; break;
 115         case 2: *(volatile __u16_alias_t *) p = *(__u16_alias_t *) res; break;
 116         case 4: *(volatile __u32_alias_t *) p = *(__u32_alias_t *) res; break;
 117         case 8: *(volatile __u64_alias_t *) p = *(__u64_alias_t *) res; break;
 118         default:
 119                 barrier();
 120                 __builtin_memcpy((void *)p, (const void *)res, size);
 121                 barrier();
 122         }
 123 }
 124
 125 /*
 126  * Prevent the compiler from merging or refetching reads or writes. The
 127  * compiler is also forbidden from reordering successive instances of
 128  * READ_ONCE, WRITE_ONCE and ACCESS_ONCE (see below), but only when the
 129  * compiler is aware of some particular ordering.  One way to make the
 130  * compiler aware of ordering is to put the two invocations of READ_ONCE,
 131  * WRITE_ONCE or ACCESS_ONCE() in different C statements.
 132  *
 133  * In contrast to ACCESS_ONCE these two macros will also work on aggregate
 134  * data types like structs or unions. If the size of the accessed data
 135  * type exceeds the word size of the machine (e.g., 32 bits or 64 bits)
 136  * READ_ONCE() and WRITE_ONCE()  will fall back to memcpy and print a
 137  * compile-time warning.
 138  *
 139  * Their two major use cases are: (1) Mediating communication between
 140  * process-level code and irq/NMI handlers, all running on the same CPU,
 141  * and (2) Ensuring that the compiler does not  fold, spindle, or otherwise
 142  * mutilate accesses that either do not require ordering or that interact
 143  * with an explicit memory barrier or atomic instruction that provides the
 144  * required ordering.
 145  */
 146
 147 #define READ_ONCE(x) \
 148         ({ union { typeof(x) __val; char __c[1]; } __u; __read_once_size(&(x), __u.__c, sizeof(x)); __u.__val; })
 149
 150 #define WRITE_ONCE(x, val) \
 151         ({ union { typeof(x) __val; char __c[1]; } __u = { .__val = (val) }; __write_once_size(&(x), __u.__c, sizeof(x)); __u.__val; })
 152
 153 #define lockless_dereference(p) \
 154 ({ \
 155         typeof(p) _________p1 = READ_ONCE(p); \
 156         typeof(*(p)) *___typecheck_p __maybe_unused; \
 157         smp_read_barrier_depends(); /* Dependency order vs. p above. */ \
 158         (_________p1); \
 159 })
 160
 161 #define flush_cache_all()                       do { } while (0)
 162 #define flush_cache_mm(mm)                      do { } while (0)
 163 #define flush_cache_dup_mm(mm)                  do { } while (0)
 164 #define flush_cache_range(vma, start, end)      do { } while (0)
 165 #define flush_cache_page(vma, vmaddr, pfn)      do { } while (0)
 166 #define ARCH_IMPLEMENTS_FLUSH_DCACHE_PAGE 0
 167 #define flush_dcache_page(page)                 do { } while (0)
 168 #define flush_dcache_mmap_lock(mapping)         do { } while (0)
 169 #define flush_dcache_mmap_unlock(mapping)       do { } while (0)
 170 #define flush_icache_range(start, end)          do { } while (0)
 171 #define flush_icache_page(vma,pg)               do { } while (0)
 172 #define flush_icache_user_range(vma,pg,adr,len) do { } while (0)
 173 #define flush_cache_vmap(start, end)            do { } while (0)
 174 #define flush_cache_vunmap(start, end)          do { } while (0)
 175
 176 #ifdef __x86_64
 177 #define CONFIG_X86_64   y
 178 #endif
 179
 180 #endif /* _TOOLS_LINUX_COMPILER_H */