arch/arm/include/asm/system.h

   1 #ifndef __ASM_ARM_SYSTEM_H
   2 #define __ASM_ARM_SYSTEM_H
   3
   4 #ifdef __KERNEL__
   5
   6 #define CPU_ARCH_UNKNOWN        0
   7 #define CPU_ARCH_ARMv3          1
   8 #define CPU_ARCH_ARMv4          2
   9 #define CPU_ARCH_ARMv4T         3
  10 #define CPU_ARCH_ARMv5          4
  11 #define CPU_ARCH_ARMv5T         5
  12 #define CPU_ARCH_ARMv5TE        6
  13 #define CPU_ARCH_ARMv5TEJ       7
  14 #define CPU_ARCH_ARMv6          8
  15 #define CPU_ARCH_ARMv7          9
  16
  17 /*
  18  * CR1 bits (CP#15 CR1)
  19  */
  20 #define CR_M    (1 << 0)        /* MMU enable                           */
  21 #define CR_A    (1 << 1)        /* Alignment abort enable               */
  22 #define CR_C    (1 << 2)        /* Dcache enable                        */
  23 #define CR_W    (1 << 3)        /* Write buffer enable                  */
  24 #define CR_P    (1 << 4)        /* 32-bit exception handler             */
  25 #define CR_D    (1 << 5)        /* 32-bit data address range            */
  26 #define CR_L    (1 << 6)        /* Implementation defined               */
  27 #define CR_B    (1 << 7)        /* Big endian                           */
  28 #define CR_S    (1 << 8)        /* System MMU protection                */
  29 #define CR_R    (1 << 9)        /* ROM MMU protection                   */
  30 #define CR_F    (1 << 10)       /* Implementation defined               */
  31 #define CR_Z    (1 << 11)       /* Implementation defined               */
  32 #define CR_I    (1 << 12)       /* Icache enable                        */
  33 #define CR_V    (1 << 13)       /* Vectors relocated to 0xffff0000      */
  34 #define CR_RR   (1 << 14)       /* Round Robin cache replacement        */
  35 #define CR_L4   (1 << 15)       /* LDR pc can set T bit                 */
  36 #define CR_DT   (1 << 16)
  37 #define CR_IT   (1 << 18)
  38 #define CR_ST   (1 << 19)
  39 #define CR_FI   (1 << 21)       /* Fast interrupt (lower latency mode)  */
  40 #define CR_U    (1 << 22)       /* Unaligned access operation           */
  41 #define CR_XP   (1 << 23)       /* Extended page tables                 */
  42 #define CR_VE   (1 << 24)       /* Vectored interrupts                  */
  43 #define CR_EE   (1 << 25)       /* Exception (Big) Endian               */
  44 #define CR_TRE  (1 << 28)       /* TEX remap enable                     */
  45 #define CR_AFE  (1 << 29)       /* Access flag enable                   */
  46 #define CR_TE   (1 << 30)       /* Thumb exception enable               */
  47
  48 /*
  49  * This is used to ensure the compiler did actually allocate the register we
  50  * asked it for some inline assembly sequences.  Apparently we can't trust
  51  * the compiler from one version to another so a bit of paranoia won't hurt.
  52  * This string is meant to be concatenated with the inline asm string and
  53  * will cause compilation to stop on mismatch.
  54  * (for details, see gcc PR 15089)
  55  */
  56 #define __asmeq(x, y)  ".ifnc " x "," y " ; .err ; .endif\n\t"
  57
  58 #ifndef __ASSEMBLY__
  59
  60 #include <linux/compiler.h>
  61 #include <linux/linkage.h>
  62 #include <linux/irqflags.h>
  63
  64 #include <asm/outercache.h>
  65
  66 struct thread_info;
  67 struct task_struct;
  68
  69 /* information about the system we're running on */
  70 extern unsigned int system_rev;
  71 extern unsigned int system_serial_low;
  72 extern unsigned int system_serial_high;
  73 extern unsigned int mem_fclk_21285;
  74
  75 struct pt_regs;
  76
  77 void die(const char *msg, struct pt_regs *regs, int err);
  78
  79 struct siginfo;
  80 void arm_notify_die(const char *str, struct pt_regs *regs, struct siginfo *info,
  81                 unsigned long err, unsigned long trap);
  82
  83 #ifdef CONFIG_ARM_LPAE
  84 #define FAULT_CODE_ALIGNMENT    33
  85 #define FAULT_CODE_DEBUG        34
  86 #else
  87 #define FAULT_CODE_ALIGNMENT    1
  88 #define FAULT_CODE_DEBUG        2
  89 #endif
  90
  91 void hook_fault_code(int nr, int (*fn)(unsigned long, unsigned int,
  92                                        struct pt_regs *),
  93                      int sig, int code, const char *name);
  94
  95 void hook_ifault_code(int nr, int (*fn)(unsigned long, unsigned int,
  96                                        struct pt_regs *),
  97                      int sig, int code, const char *name);
  98
  99 #define xchg(ptr,x) \
 100         ((__typeof__(*(ptr)))__xchg((unsigned long)(x),(ptr),sizeof(*(ptr))))
 101
 102 extern asmlinkage void c_backtrace(unsigned long fp, int pmode);
 103
 104 struct mm_struct;
 105 extern void show_pte(struct mm_struct *mm, unsigned long addr);
 106 extern void __show_regs(struct pt_regs *);
 107
 108 extern int __pure cpu_architecture(void);
 109 extern void cpu_init(void);
 110
 111 void arm_machine_restart(char mode, const char *cmd);
 112 void soft_restart(unsigned long);
 113 extern void (*arm_pm_restart)(char str, const char *cmd);
 114
 115 #define UDBG_UNDEFINED  (1 << 0)
 116 #define UDBG_SYSCALL    (1 << 1)
 117 #define UDBG_BADABORT   (1 << 2)
 118 #define UDBG_SEGV       (1 << 3)
 119 #define UDBG_BUS        (1 << 4)
 120 #define UDBG_SEGV_SHORT (1 << 8)
 121
 122 extern unsigned int user_debug;
 123
 124 #if __LINUX_ARM_ARCH__ >= 4
 125 #define vectors_high()  (cr_alignment & CR_V)
 126 #else
 127 #define vectors_high()  (0)
 128 #endif
 129
 130 #if __LINUX_ARM_ARCH__ >= 7 ||          \
 131         (__LINUX_ARM_ARCH__ == 6 && defined(CONFIG_CPU_32v6K))
 132 #define sev()   __asm__ __volatile__ ("sev" : : : "memory")
 133 #define wfe()   __asm__ __volatile__ ("wfe" : : : "memory")
 134 #define wfi()   __asm__ __volatile__ ("wfi" : : : "memory")
 135 #endif
 136
 137 #if __LINUX_ARM_ARCH__ >= 7
 138 #define isb() __asm__ __volatile__ ("isb" : : : "memory")
 139 #define dsb() __asm__ __volatile__ ("dsb" : : : "memory")
 140 #define dmb() __asm__ __volatile__ ("dmb" : : : "memory")
 141 #elif defined(CONFIG_CPU_XSC3) || __LINUX_ARM_ARCH__ == 6
 142 #define isb() __asm__ __volatile__ ("mcr p15, 0, %0, c7, c5, 4" \
 143                                     : : "r" (0) : "memory")
 144 #define dsb() __asm__ __volatile__ ("mcr p15, 0, %0, c7, c10, 4" \
 145                                     : : "r" (0) : "memory")
 146 #define dmb() __asm__ __volatile__ ("mcr p15, 0, %0, c7, c10, 5" \
 147                                     : : "r" (0) : "memory")
 148 #elif defined(CONFIG_CPU_FA526)
 149 #define isb() __asm__ __volatile__ ("mcr p15, 0, %0, c7, c5, 4" \
 150                                     : : "r" (0) : "memory")
 151 #define dsb() __asm__ __volatile__ ("mcr p15, 0, %0, c7, c10, 4" \
 152                                     : : "r" (0) : "memory")
 153 #define dmb() __asm__ __volatile__ ("" : : : "memory")
 154 #else
 155 #define isb() __asm__ __volatile__ ("" : : : "memory")
 156 #define dsb() __asm__ __volatile__ ("mcr p15, 0, %0, c7, c10, 4" \
 157                                     : : "r" (0) : "memory")
 158 #define dmb() __asm__ __volatile__ ("" : : : "memory")
 159 #endif
 160
 161 #ifdef CONFIG_ARCH_HAS_BARRIERS
 162 #include <mach/barriers.h>
 163 #elif defined(CONFIG_ARM_DMA_MEM_BUFFERABLE) || defined(CONFIG_SMP)
 164 #define mb()            do { dsb(); outer_sync(); } while (0)
 165 #define rmb()           dsb()
 166 #define wmb()           mb()
 167 #else
 168 #include <asm/memory.h>
 169 #define mb()    do { if (arch_is_coherent()) dmb(); else barrier(); } while (0)
 170 #define rmb()   do { if (arch_is_coherent()) dmb(); else barrier(); } while (0)
 171 #define wmb()   do { if (arch_is_coherent()) dmb(); else barrier(); } while (0)
 172 #endif
 173
 174 #ifndef CONFIG_SMP
 175 #define smp_mb()        barrier()
 176 #define smp_rmb()       barrier()
 177 #define smp_wmb()       barrier()
 178 #else
 179 #define smp_mb()        dmb()
 180 #define smp_rmb()       dmb()
 181 #define smp_wmb()       dmb()
 182 #endif
 183
 184 #define read_barrier_depends()          do { } while(0)
 185 #define smp_read_barrier_depends()      do { } while(0)
 186
 187 #define set_mb(var, value)      do { var = value; smp_mb(); } while (0)
 188 #define nop() __asm__ __volatile__("mov\tr0,r0\t@ nop\n\t");
 189
 190 extern unsigned long cr_no_alignment;   /* defined in entry-armv.S */
 191 extern unsigned long cr_alignment;      /* defined in entry-armv.S */
 192
 193 static inline unsigned int get_cr(void)
 194 {
 195         unsigned int val;
 196         asm("mrc p15, 0, %0, c1, c0, 0  @ get CR" : "=r" (val) : : "cc");
 197         return val;
 198 }
 199
 200 static inline void set_cr(unsigned int val)
 201 {
 202         asm volatile("mcr p15, 0, %0, c1, c0, 0 @ set CR"
 203           : : "r" (val) : "cc");
 204         isb();
 205 }
 206
 207 #ifndef CONFIG_SMP
 208 extern void adjust_cr(unsigned long mask, unsigned long set);
 209 #endif
 210
 211 #define CPACC_FULL(n)           (3 << (n * 2))
 212 #define CPACC_SVC(n)            (1 << (n * 2))
 213 #define CPACC_DISABLE(n)        (0 << (n * 2))
 214
 215 static inline unsigned int get_copro_access(void)
 216 {
 217         unsigned int val;
 218         asm("mrc p15, 0, %0, c1, c0, 2 @ get copro access"
 219           : "=r" (val) : : "cc");
 220         return val;
 221 }
 222
 223 static inline void set_copro_access(unsigned int val)
 224 {
 225         asm volatile("mcr p15, 0, %0, c1, c0, 2 @ set copro access"
 226           : : "r" (val) : "cc");
 227         isb();
 228 }
 229
 230 /*
 231  * switch_mm() may do a full cache flush over the context switch,
 232  * so enable interrupts over the context switch to avoid high
 233  * latency.
 234  */
 235 #define __ARCH_WANT_INTERRUPTS_ON_CTXSW
 236
 237 /*
 238  * switch_to(prev, next) should switch from task `prev' to `next'
 239  * `prev' will never be the same as `next'.  schedule() itself
 240  * contains the memory barrier to tell GCC not to cache `current'.
 241  */
 242 extern struct task_struct *__switch_to(struct task_struct *, struct thread_info *, struct thread_info *);
 243
 244 #define switch_to(prev,next,last)                                       \
 245 do {                                                                    \
 246         last = __switch_to(prev,task_thread_info(prev), task_thread_info(next));        \
 247 } while (0)
 248
 249 #if defined(CONFIG_CPU_SA1100) || defined(CONFIG_CPU_SA110)
 250 /*
 251  * On the StrongARM, "swp" is terminally broken since it bypasses the
 252  * cache totally.  This means that the cache becomes inconsistent, and,
 253  * since we use normal loads/stores as well, this is really bad.
 254  * Typically, this causes oopsen in filp_close, but could have other,
 255  * more disastrous effects.  There are two work-arounds:
 256  *  1. Disable interrupts and emulate the atomic swap
 257  *  2. Clean the cache, perform atomic swap, flush the cache
 258  *
 259  * We choose (1) since its the "easiest" to achieve here and is not
 260  * dependent on the processor type.
 261  *
 262  * NOTE that this solution won't work on an SMP system, so explcitly
 263  * forbid it here.
 264  */
 265 #define swp_is_buggy
 266 #endif
 267
 268 static inline unsigned long __xchg(unsigned long x, volatile void *ptr, int size)
 269 {
 270         extern void __bad_xchg(volatile void *, int);
 271         unsigned long ret;
 272 #ifdef swp_is_buggy
 273         unsigned long flags;
 274 #endif
 275 #if __LINUX_ARM_ARCH__ >= 6
 276         unsigned int tmp;
 277 #endif
 278
 279         smp_mb();
 280
 281         switch (size) {
 282 #if __LINUX_ARM_ARCH__ >= 6
 283         case 1:
 284                 asm volatile("@ __xchg1\n"
 285                 "1:     ldrexb  %0, [%3]\n"
 286                 "       strexb  %1, %2, [%3]\n"
 287                 "       teq     %1, #0\n"
 288                 "       bne     1b"
 289                         : "=&r" (ret), "=&r" (tmp)
 290                         : "r" (x), "r" (ptr)
 291                         : "memory", "cc");
 292                 break;
 293         case 4:
 294                 asm volatile("@ __xchg4\n"
 295                 "1:     ldrex   %0, [%3]\n"
 296                 "       strex   %1, %2, [%3]\n"
 297                 "       teq     %1, #0\n"
 298                 "       bne     1b"
 299                         : "=&r" (ret), "=&r" (tmp)
 300                         : "r" (x), "r" (ptr)
 301                         : "memory", "cc");
 302                 break;
 303 #elif defined(swp_is_buggy)
 304 #ifdef CONFIG_SMP
 305 #error SMP is not supported on this platform
 306 #endif
 307         case 1:
 308                 raw_local_irq_save(flags);
 309                 ret = *(volatile unsigned char *)ptr;
 310                 *(volatile unsigned char *)ptr = x;
 311                 raw_local_irq_restore(flags);
 312                 break;
 313
 314         case 4:
 315                 raw_local_irq_save(flags);
 316                 ret = *(volatile unsigned long *)ptr;
 317                 *(volatile unsigned long *)ptr = x;
 318                 raw_local_irq_restore(flags);
 319                 break;
 320 #else
 321         case 1:
 322                 asm volatile("@ __xchg1\n"
 323                 "       swpb    %0, %1, [%2]"
 324                         : "=&r" (ret)
 325                         : "r" (x), "r" (ptr)
 326                         : "memory", "cc");
 327                 break;
 328         case 4:
 329                 asm volatile("@ __xchg4\n"
 330                 "       swp     %0, %1, [%2]"
 331                         : "=&r" (ret)
 332                         : "r" (x), "r" (ptr)
 333                         : "memory", "cc");
 334                 break;
 335 #endif
 336         default:
 337                 __bad_xchg(ptr, size), ret = 0;
 338                 break;
 339         }
 340         smp_mb();
 341
 342         return ret;
 343 }
 344
 345 extern void disable_hlt(void);
 346 extern void enable_hlt(void);
 347
 348 void cpu_idle_wait(void);
 349
 350 #include <asm-generic/cmpxchg-local.h>
 351
 352 #if __LINUX_ARM_ARCH__ < 6
 353 /* min ARCH < ARMv6 */
 354
 355 #ifdef CONFIG_SMP
 356 #error "SMP is not supported on this platform"
 357 #endif
 358
 359 /*
 360  * cmpxchg_local and cmpxchg64_local are atomic wrt current CPU. Always make
 361  * them available.
 362  */
 363 #define cmpxchg_local(ptr, o, n)                                               \
 364         ((__typeof__(*(ptr)))__cmpxchg_local_generic((ptr), (unsigned long)(o),\
 365                         (unsigned long)(n), sizeof(*(ptr))))
 366 #define cmpxchg64_local(ptr, o, n) __cmpxchg64_local_generic((ptr), (o), (n))
 367
 368 #ifndef CONFIG_SMP
 369 #include <asm-generic/cmpxchg.h>
 370 #endif
 371
 372 #else   /* min ARCH >= ARMv6 */
 373
 374 extern void __bad_cmpxchg(volatile void *ptr, int size);
 375
 376 /*
 377  * cmpxchg only support 32-bits operands on ARMv6.
 378  */
 379
 380 static inline unsigned long __cmpxchg(volatile void *ptr, unsigned long old,
 381                                       unsigned long new, int size)
 382 {
 383         unsigned long oldval, res;
 384
 385         switch (size) {
 386 #ifndef CONFIG_CPU_V6   /* min ARCH >= ARMv6K */
 387         case 1:
 388                 do {
 389                         asm volatile("@ __cmpxchg1\n"
 390                         "       ldrexb  %1, [%2]\n"
 391                         "       mov     %0, #0\n"
 392                         "       teq     %1, %3\n"
 393                         "       strexbeq %0, %4, [%2]\n"
 394                                 : "=&r" (res), "=&r" (oldval)
 395                                 : "r" (ptr), "Ir" (old), "r" (new)
 396                                 : "memory", "cc");
 397                 } while (res);
 398                 break;
 399         case 2:
 400                 do {
 401                         asm volatile("@ __cmpxchg1\n"
 402                         "       ldrexh  %1, [%2]\n"
 403                         "       mov     %0, #0\n"
 404                         "       teq     %1, %3\n"
 405                         "       strexheq %0, %4, [%2]\n"
 406                                 : "=&r" (res), "=&r" (oldval)
 407                                 : "r" (ptr), "Ir" (old), "r" (new)
 408                                 : "memory", "cc");
 409                 } while (res);
 410                 break;
 411 #endif
 412         case 4:
 413                 do {
 414                         asm volatile("@ __cmpxchg4\n"
 415                         "       ldrex   %1, [%2]\n"
 416                         "       mov     %0, #0\n"
 417                         "       teq     %1, %3\n"
 418                         "       strexeq %0, %4, [%2]\n"
 419                                 : "=&r" (res), "=&r" (oldval)
 420                                 : "r" (ptr), "Ir" (old), "r" (new)
 421                                 : "memory", "cc");
 422                 } while (res);
 423                 break;
 424         default:
 425                 __bad_cmpxchg(ptr, size);
 426                 oldval = 0;
 427         }
 428
 429         return oldval;
 430 }
 431
 432 static inline unsigned long __cmpxchg_mb(volatile void *ptr, unsigned long old,
 433                                          unsigned long new, int size)
 434 {
 435         unsigned long ret;
 436
 437         smp_mb();
 438         ret = __cmpxchg(ptr, old, new, size);
 439         smp_mb();
 440
 441         return ret;
 442 }
 443
 444 #define cmpxchg(ptr,o,n)                                                \
 445         ((__typeof__(*(ptr)))__cmpxchg_mb((ptr),                        \
 446                                           (unsigned long)(o),           \
 447                                           (unsigned long)(n),           \
 448                                           sizeof(*(ptr))))
 449
 450 static inline unsigned long __cmpxchg_local(volatile void *ptr,
 451                                             unsigned long old,
 452                                             unsigned long new, int size)
 453 {
 454         unsigned long ret;
 455
 456         switch (size) {
 457 #ifdef CONFIG_CPU_V6    /* min ARCH == ARMv6 */
 458         case 1:
 459         case 2:
 460                 ret = __cmpxchg_local_generic(ptr, old, new, size);
 461                 break;
 462 #endif
 463         default:
 464                 ret = __cmpxchg(ptr, old, new, size);
 465         }
 466
 467         return ret;
 468 }
 469
 470 #define cmpxchg_local(ptr,o,n)                                          \
 471         ((__typeof__(*(ptr)))__cmpxchg_local((ptr),                     \
 472                                        (unsigned long)(o),              \
 473                                        (unsigned long)(n),              \
 474                                        sizeof(*(ptr))))
 475
 476 #ifndef CONFIG_CPU_V6   /* min ARCH >= ARMv6K */
 477
 478 /*
 479  * Note : ARMv7-M (currently unsupported by Linux) does not support
 480  * ldrexd/strexd. If ARMv7-M is ever supported by the Linux kernel, it should
 481  * not be allowed to use __cmpxchg64.
 482  */
 483 static inline unsigned long long __cmpxchg64(volatile void *ptr,
 484                                              unsigned long long old,
 485                                              unsigned long long new)
 486 {
 487         register unsigned long long oldval asm("r0");
 488         register unsigned long long __old asm("r2") = old;
 489         register unsigned long long __new asm("r4") = new;
 490         unsigned long res;
 491
 492         do {
 493                 asm volatile(
 494                 "       @ __cmpxchg8\n"
 495                 "       ldrexd  %1, %H1, [%2]\n"
 496                 "       mov     %0, #0\n"
 497                 "       teq     %1, %3\n"
 498                 "       teqeq   %H1, %H3\n"
 499                 "       strexdeq %0, %4, %H4, [%2]\n"
 500                         : "=&r" (res), "=&r" (oldval)
 501                         : "r" (ptr), "Ir" (__old), "r" (__new)
 502                         : "memory", "cc");
 503         } while (res);
 504
 505         return oldval;
 506 }
 507
 508 static inline unsigned long long __cmpxchg64_mb(volatile void *ptr,
 509                                                 unsigned long long old,
 510                                                 unsigned long long new)
 511 {
 512         unsigned long long ret;
 513
 514         smp_mb();
 515         ret = __cmpxchg64(ptr, old, new);
 516         smp_mb();
 517
 518         return ret;
 519 }
 520
 521 #define cmpxchg64(ptr,o,n)                                              \
 522         ((__typeof__(*(ptr)))__cmpxchg64_mb((ptr),                      \
 523                                             (unsigned long long)(o),    \
 524                                             (unsigned long long)(n)))
 525
 526 #define cmpxchg64_local(ptr,o,n)                                        \
 527         ((__typeof__(*(ptr)))__cmpxchg64((ptr),                         \
 528                                          (unsigned long long)(o),       \
 529                                          (unsigned long long)(n)))
 530
 531 #else /* min ARCH = ARMv6 */
 532
 533 #define cmpxchg64_local(ptr, o, n) __cmpxchg64_local_generic((ptr), (o), (n))
 534
 535 #endif
 536
 537 #endif  /* __LINUX_ARM_ARCH__ >= 6 */
 538
 539 #endif /* __ASSEMBLY__ */
 540
 541 #define arch_align_stack(x) (x)
 542
 543 #endif /* __KERNEL__ */
 544
 545 #endif