source: icGREP/icgrep-devel/icgrep/IR_Gen/CBuilder.cpp @ 5543

Last change on this file since 5543 was 5543, checked in by cameron, 2 years ago

Ensure size of dynamic buffers is a multiple of cache line size

File size: 46.5 KB
Line 
1/*
2 *  Copyright (c) 2016 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#include "CBuilder.h"
8#include <llvm/IR/Module.h>
9#include <llvm/IR/Constants.h>
10#include <llvm/IR/Intrinsics.h>
11#include <llvm/IR/TypeBuilder.h>
12#include <llvm/IR/MDBuilder.h>
13#include <llvm/Support/raw_ostream.h>
14#include <llvm/Support/Format.h>
15#include <toolchain/toolchain.h>
16#include <toolchain/driver.h>
17#include <set>
18#include <thread>
19#include <stdlib.h>
20#include <sys/mman.h>
21#include <unistd.h>
22#include <stdio.h>
23
24#if defined(__i386__)
25typedef uint32_t unw_word_t;
26#else
27typedef uint64_t unw_word_t;
28#endif
29#if defined(HAS_MACH_VM_TYPES)
30#include <mach/vm_types.h>
31extern void _thread_stack_pcs(vm_address_t *buffer, unsigned max, unsigned *nb, unsigned skip);
32static_assert(sizeof(vm_address_t) == sizeof(uintptr_t), "");
33#elif defined(HAS_LIBUNWIND)
34#define UNW_LOCAL_ONLY
35#include <libunwind.h>
36static_assert(sizeof(unw_word_t) <= sizeof(uintptr_t), "");
37#elif defined(HAS_EXECINFO)
38#include <execinfo.h>
39static_assert(sizeof(void *) == sizeof(uintptr_t), "");
40#endif
41
42using namespace llvm;
43
44
45Value * CBuilder::CreateURem(Value * number, Value * divisor, const Twine &Name) {
46    if (ConstantInt * c = dyn_cast<ConstantInt>(divisor)) {
47        uint64_t d = c->getZExtValue();
48        if ((d & (d - 1)) == 0) { // is a power of 2 or 0
49            if (d > 0) return CreateAnd(number, ConstantInt::get(divisor->getType(), d - 1), Name);
50        }
51    }
52    return Insert(BinaryOperator::CreateURem(number, divisor), Name);
53}
54
55Value * CBuilder::CreateUDiv(Value * number, Value * divisor, const Twine &Name) {
56    if (ConstantInt * c = dyn_cast<ConstantInt>(divisor)) {
57        uint64_t d = c->getZExtValue();
58        if ((d & (d - 1)) == 0) { // is a power of 2 or 0
59            if (d > 1) return CreateLShr(number, ConstantInt::get(divisor->getType(), std::log2(d)), Name);
60            else if (d == 1) return number;
61        }
62    }
63    return Insert(BinaryOperator::CreateUDiv(number, divisor), Name);
64}
65
66Value * CBuilder::CreateUDivCeil(Value * number, Value * divisor, const Twine &Name) {
67    if (ConstantInt * c = dyn_cast<ConstantInt>(divisor)) {
68        uint64_t d = c->getZExtValue();
69        if ((d & (d - 1)) == 0) { // is a power of 2 or 0
70            if (d > 1) {
71                Value * n = CreateAdd(number, ConstantInt::get(divisor->getType(), d - 1));
72                return CreateLShr(n, ConstantInt::get(divisor->getType(), std::log2(d)), Name);
73            }
74            else if (d == 1) return number;
75        }
76    }
77    return CreateUDiv(CreateAdd(number, CreateSub(divisor, ConstantInt::get(divisor->getType(), 1))), divisor, Name);
78}
79
80Value * CBuilder::CreateRoundUp(Value * number, Value * divisor, const Twine &Name) {
81    return CreateMul(CreateUDivCeil(number, divisor), divisor, Name);
82}
83
84Value * CBuilder::CreateOpenCall(Value * filename, Value * oflag, Value * mode) {
85    Module * const m = getModule();
86    Function * openFn = m->getFunction("open");
87    if (openFn == nullptr) {
88        IntegerType * int32Ty = getInt32Ty();
89        PointerType * int8PtrTy = getInt8PtrTy();
90        openFn = cast<Function>(m->getOrInsertFunction("open",
91                                                         int32Ty, int8PtrTy, int32Ty, int32Ty, nullptr));
92    }
93    return CreateCall(openFn, {filename, oflag, mode});
94}
95
96// ssize_t write(int fildes, const void *buf, size_t nbyte);
97Value * CBuilder::CreateWriteCall(Value * fileDescriptor, Value * buf, Value * nbyte) {
98    PointerType * voidPtrTy = getVoidPtrTy();
99    Module * const m = getModule();
100    Function * write = m->getFunction("write");
101    if (write == nullptr) {
102        IntegerType * sizeTy = getSizeTy();
103        IntegerType * int32Ty = getInt32Ty();
104        write = cast<Function>(m->getOrInsertFunction("write",
105                                                        AttributeSet().addAttribute(getContext(), 2U, Attribute::NoAlias),
106                                                        sizeTy, int32Ty, voidPtrTy, sizeTy, nullptr));
107    }
108    buf = CreatePointerCast(buf, voidPtrTy);
109    return CreateCall(write, {fileDescriptor, buf, nbyte});
110}
111
112Value * CBuilder::CreateReadCall(Value * fileDescriptor, Value * buf, Value * nbyte) {
113    PointerType * voidPtrTy = getVoidPtrTy();
114    Module * const m = getModule();
115    Function * readFn = m->getFunction("read");
116    if (readFn == nullptr) {
117        IntegerType * sizeTy = getSizeTy();
118        IntegerType * int32Ty = getInt32Ty();
119        readFn = cast<Function>(m->getOrInsertFunction("read",
120                                                         AttributeSet().addAttribute(getContext(), 2U, Attribute::NoAlias),
121                                                         sizeTy, int32Ty, voidPtrTy, sizeTy, nullptr));
122    }
123    buf = CreatePointerCast(buf, voidPtrTy);
124    return CreateCall(readFn, {fileDescriptor, buf, nbyte});
125}
126
127Value * CBuilder::CreateCloseCall(Value * fileDescriptor) {
128    Module * const m = getModule();
129    Function * closeFn = m->getFunction("close");
130    if (closeFn == nullptr) {
131        IntegerType * int32Ty = getInt32Ty();
132        FunctionType * fty = FunctionType::get(int32Ty, {int32Ty}, true);
133        closeFn = Function::Create(fty, Function::ExternalLinkage, "close", m);
134    }
135    return CreateCall(closeFn, fileDescriptor);
136}
137
138Value * CBuilder::CreateUnlinkCall(Value * path) {
139    Module * const m = getModule();
140    Function * unlinkFunc = m->getFunction("unlink");
141    if (unlinkFunc == nullptr) {
142        FunctionType * fty = FunctionType::get(getInt32Ty(), {getInt8PtrTy()}, false);
143        unlinkFunc = Function::Create(fty, Function::ExternalLinkage, "unlink", m);
144        unlinkFunc->setCallingConv(CallingConv::C);
145    }
146    return CreateCall(unlinkFunc, path);
147}
148
149Value * CBuilder::CreateMkstempCall(Value * ftemplate) {
150    Module * const m = getModule();
151    Function * mkstempFn = m->getFunction("mkstemp");
152    if (mkstempFn == nullptr) {
153        mkstempFn = cast<Function>(m->getOrInsertFunction("mkstemp", getInt32Ty(), getInt8PtrTy(), nullptr));
154    }
155    return CreateCall(mkstempFn, ftemplate);
156}
157
158Value * CBuilder::CreateStrlenCall(Value * str) {
159    Module * const m = getModule();
160    Function * strlenFn = m->getFunction("strlen");
161    if (strlenFn == nullptr) {
162        strlenFn = cast<Function>(m->getOrInsertFunction("strlen", getSizeTy(), getInt8PtrTy(), nullptr));
163    }
164    return CreateCall(strlenFn, str);
165}
166
167Function * CBuilder::GetPrintf() {
168    Module * const m = getModule();
169    Function * printf = m->getFunction("printf");
170    if (printf == nullptr) {
171        FunctionType * fty = FunctionType::get(getInt32Ty(), {getInt8PtrTy()}, true);
172        printf = Function::Create(fty, Function::ExternalLinkage, "printf", m);
173        printf->addAttribute(1, Attribute::NoAlias);
174    }
175    return printf;
176}
177
178Function * CBuilder::GetDprintf() {
179    Module * const m = getModule();
180    Function * dprintf = m->getFunction("dprintf");
181    if (dprintf == nullptr) {
182        FunctionType * fty = FunctionType::get(getInt32Ty(), {getInt32Ty(), getInt8PtrTy()}, true);
183        dprintf = Function::Create(fty, Function::ExternalLinkage, "dprintf", m);
184    }
185    return dprintf;
186}
187
188void CBuilder::CallPrintInt(const std::string & name, Value * const value) {
189    Module * const m = getModule();
190    Constant * printRegister = m->getFunction("PrintInt");
191    IntegerType * int64Ty = getInt64Ty();
192    if (LLVM_UNLIKELY(printRegister == nullptr)) {
193        FunctionType *FT = FunctionType::get(getVoidTy(), { getInt8PtrTy(), int64Ty }, false);
194        Function * function = Function::Create(FT, Function::InternalLinkage, "PrintInt", m);
195        auto arg = function->arg_begin();
196        std::string out = "%-40s = %" PRIx64 "\n";
197        BasicBlock * entry = BasicBlock::Create(getContext(), "entry", function);
198        IRBuilder<> builder(entry);
199        std::vector<Value *> args;
200        args.push_back(GetString(out.c_str()));
201        Value * const name = &*(arg++);
202        name->setName("name");
203        args.push_back(name);
204        Value * value = &*arg;
205        value->setName("value");
206        args.push_back(value);
207        builder.CreateCall(GetPrintf(), args);
208        builder.CreateRetVoid();
209
210        printRegister = function;
211    }
212    Value * num = nullptr;
213    if (value->getType()->isPointerTy()) {
214        num = CreatePtrToInt(value, int64Ty);
215    } else {
216        num = CreateZExtOrBitCast(value, int64Ty);
217    }
218    assert (num->getType()->isIntegerTy());
219    CreateCall(printRegister, {GetString(name.c_str()), num});
220}
221
222void CBuilder::CallPrintIntToStderr(const std::string & name, Value * const value) {
223    Module * const m = getModule();
224    Constant * printRegister = m->getFunction("PrintIntToStderr");
225    if (LLVM_UNLIKELY(printRegister == nullptr)) {
226        FunctionType *FT = FunctionType::get(getVoidTy(), { PointerType::get(getInt8Ty(), 0), getSizeTy() }, false);
227        Function * function = Function::Create(FT, Function::InternalLinkage, "PrintIntToStderr", m);
228        auto arg = function->arg_begin();
229        std::string out = "%-40s = %" PRIx64 "\n";
230        BasicBlock * entry = BasicBlock::Create(getContext(), "entry", function);
231        IRBuilder<> builder(entry);
232        std::vector<Value *> args;
233        args.push_back(getInt32(STDERR_FILENO));
234        args.push_back(GetString(out.c_str()));
235        Value * const name = &*(arg++);
236        name->setName("name");
237        args.push_back(name);
238        Value * value = &*arg;
239        value->setName("value");
240        args.push_back(value);
241        builder.CreateCall(GetDprintf(), args);
242        builder.CreateRetVoid();
243
244        printRegister = function;
245    }
246    Value * num = nullptr;
247    if (value->getType()->isPointerTy()) {
248        num = CreatePtrToInt(value, getSizeTy());
249    } else {
250        num = CreateZExtOrBitCast(value, getSizeTy());
251    }
252    assert (num->getType()->isIntegerTy());
253    CreateCall(printRegister, {GetString(name.c_str()), num});
254}
255
256void CBuilder::CallPrintMsgToStderr(const std::string & message) {
257    Module * const m = getModule();
258    Constant * printMsg = m->getFunction("PrintMsgToStderr");
259    if (LLVM_UNLIKELY(printMsg == nullptr)) {
260        FunctionType *FT = FunctionType::get(getVoidTy(), { PointerType::get(getInt8Ty(), 0) }, false);
261        Function * function = Function::Create(FT, Function::InternalLinkage, "PrintMsgToStderr", m);
262        auto arg = function->arg_begin();
263        std::string out = "%s\n";
264        BasicBlock * entry = BasicBlock::Create(getContext(), "entry", function);
265        IRBuilder<> builder(entry);
266        std::vector<Value *> args;
267        args.push_back(getInt32(STDERR_FILENO));
268        args.push_back(GetString(out));
269        Value * const msg = &*(arg++);
270        msg->setName("msg");
271        args.push_back(msg);
272        builder.CreateCall(GetDprintf(), args);
273        builder.CreateRetVoid();
274
275        printMsg = function;
276    }
277    CreateCall(printMsg, {GetString(message.c_str())});
278}
279
280Value * CBuilder::CreateMalloc(Value * size) {
281    Module * const m = getModule();
282    IntegerType * const sizeTy = getSizeTy();   
283    Function * f = m->getFunction("malloc");
284    if (f == nullptr) {
285        PointerType * const voidPtrTy = getVoidPtrTy();
286        FunctionType * fty = FunctionType::get(voidPtrTy, {sizeTy}, false);
287        f = Function::Create(fty, Function::ExternalLinkage, "malloc", m);
288        f->setCallingConv(CallingConv::C);
289        f->setDoesNotAlias(0);
290    }
291    size = CreateZExtOrTrunc(size, sizeTy);
292    CallInst * const ptr = CreateCall(f, size);
293    CreateAssert(ptr, "CreateMalloc: returned null pointer");
294    return ptr;
295}
296
297Value * CBuilder::CreateAlignedMalloc(Value * size, const unsigned alignment) {
298    if (LLVM_UNLIKELY((alignment & (alignment - 1)) != 0)) {
299        report_fatal_error("CreateAlignedMalloc: alignment must be a power of 2");
300    }
301    Module * const m = getModule();
302    IntegerType * const sizeTy = getSizeTy();
303    PointerType * const voidPtrTy = getVoidPtrTy();
304
305    size = CreateZExtOrTrunc(size, sizeTy);
306    ConstantInt * const align = ConstantInt::get(sizeTy, alignment);
307    if (codegen::EnableAsserts) {
308        CreateAssertZero(CreateURem(size, align), "CreateAlignedMalloc: size must be an integral multiple of alignment.");
309    }
310
311    Value * ptr = nullptr;
312    if (hasAlignedAlloc()) {
313        Function * f = m->getFunction("aligned_alloc");
314        if (LLVM_UNLIKELY(f == nullptr)) {
315            FunctionType * const fty = FunctionType::get(voidPtrTy, {sizeTy, sizeTy}, false);
316            f = Function::Create(fty, Function::ExternalLinkage, "aligned_alloc", m);
317            f->setCallingConv(CallingConv::C);
318            f->setDoesNotAlias(0);
319        }
320        ptr = CreateCall(f, {align, size});
321    } else if (hasPosixMemalign()) {
322        Function * f = m->getFunction("posix_memalign");
323        if (LLVM_UNLIKELY(f == nullptr)) {
324            FunctionType * const fty = FunctionType::get(getInt32Ty(), {voidPtrTy->getPointerTo(), sizeTy, sizeTy}, false);
325            f = Function::Create(fty, Function::ExternalLinkage, "posix_memalign", m);
326            f->setCallingConv(CallingConv::C);
327            f->setDoesNotAlias(0);
328            f->setDoesNotAlias(1);
329        }
330        Value * handle = CreateAlloca(voidPtrTy);
331        CallInst * success = CreateCall(f, {handle, align, size});
332        if (codegen::EnableAsserts) {
333            CreateAssertZero(success, "CreateAlignedMalloc: posix_memalign reported bad allocation");
334        }
335        ptr = CreateLoad(handle);
336    } else {
337        report_fatal_error("stdlib.h does not contain either aligned_alloc or posix_memalign");
338    }
339    CreateAssert(ptr, "CreateAlignedMalloc: returned null pointer.");
340    return ptr;
341}
342
343inline bool CBuilder::hasAlignedAlloc() const {
344    return mDriver && mDriver->hasExternalFunction("aligned_alloc");
345}
346
347
348inline bool CBuilder::hasPosixMemalign() const {
349    return mDriver && mDriver->hasExternalFunction("posix_memalign");
350}
351
352Value * CBuilder::CreateRealloc(Value * const ptr, Value * const size) {
353    Module * const m = getModule();
354    IntegerType * const sizeTy = getSizeTy();
355    PointerType * const voidPtrTy = getVoidPtrTy();
356    Function * f = m->getFunction("realloc");
357    if (f == nullptr) {
358        FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy}, false);
359        f = Function::Create(fty, Function::ExternalLinkage, "realloc", m);
360        f->setCallingConv(CallingConv::C);
361        f->setDoesNotAlias(0);
362        f->setDoesNotAlias(1);
363    }
364    CallInst * const ci = CreateCall(f, {CreatePointerCast(ptr, voidPtrTy), CreateZExtOrTrunc(size, sizeTy)});
365
366    return CreatePointerCast(ci, ptr->getType());
367}
368
369void CBuilder::CreateFree(Value * const ptr) {
370    assert (ptr->getType()->isPointerTy());
371    Module * const m = getModule();
372    Type * const voidPtrTy =  getVoidPtrTy();
373    Function * f = m->getFunction("free");
374    if (f == nullptr) {
375        FunctionType * fty = FunctionType::get(getVoidTy(), {voidPtrTy}, false);
376        f = Function::Create(fty, Function::ExternalLinkage, "free", m);
377        f->setCallingConv(CallingConv::C);
378    }
379    CreateCall(f, CreatePointerCast(ptr, voidPtrTy));
380}
381
382Value * CBuilder::CreateAnonymousMMap(Value * size) {
383    PointerType * const voidPtrTy = getVoidPtrTy();
384    IntegerType * const intTy = getInt32Ty();
385    IntegerType * const sizeTy = getSizeTy();
386    size = CreateZExtOrTrunc(size, sizeTy);
387    ConstantInt * const prot =  ConstantInt::get(intTy, PROT_READ | PROT_WRITE);
388    ConstantInt * const flags =  ConstantInt::get(intTy, MAP_PRIVATE | MAP_ANON);
389    ConstantInt * const fd =  ConstantInt::get(intTy, -1);
390    Constant * const offset = ConstantInt::get(sizeTy, 0);
391    return CreateMMap(ConstantPointerNull::getNullValue(voidPtrTy), size, prot, flags, fd, offset);
392}
393
394Value * CBuilder::CreateFileSourceMMap(Value * fd, Value * size) {
395    PointerType * const voidPtrTy = getVoidPtrTy();
396    IntegerType * const intTy = getInt32Ty();
397    fd = CreateZExtOrTrunc(fd, intTy);
398    IntegerType * const sizeTy = getSizeTy();
399    size = CreateZExtOrTrunc(size, sizeTy);
400    ConstantInt * const prot =  ConstantInt::get(intTy, PROT_READ);
401    ConstantInt * const flags =  ConstantInt::get(intTy, MAP_PRIVATE);
402    Constant * const offset = ConstantInt::get(sizeTy, 0);       
403    return CreateMMap(ConstantPointerNull::getNullValue(voidPtrTy), size, prot, flags, fd, offset);
404}
405
406Value * CBuilder::CreateMMap(Value * const addr, Value * size, Value * const prot, Value * const flags, Value * const fd, Value * const offset) {
407    Module * const m = getModule();
408    Function * fMMap = m->getFunction("mmap");
409    if (LLVM_UNLIKELY(fMMap == nullptr)) {
410        PointerType * const voidPtrTy = getVoidPtrTy();
411        IntegerType * const intTy = getInt32Ty();
412        IntegerType * const sizeTy = getSizeTy();
413        FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy, intTy, intTy, intTy, sizeTy}, false);
414        fMMap = Function::Create(fty, Function::ExternalLinkage, "mmap", m);
415    }
416    Value * ptr = CreateCall(fMMap, {addr, size, prot, flags, fd, offset});
417    if (codegen::EnableAsserts) {
418        DataLayout DL(m);
419        IntegerType * const intTy = getIntPtrTy(DL);
420        Value * success = CreateICmpNE(CreatePtrToInt(addr, intTy), ConstantInt::getAllOnesValue(intTy)); // MAP_FAILED = -1
421        CreateAssert(success, "CreateMMap: mmap failed to allocate memory");
422    }
423    return ptr;
424}
425
426/**
427 * @brief CBuilder::CreateMAdvise
428 * @param addr
429 * @param length
430 * @param advice
431 *
432 * Note: this funcition can fail if a kernel resource was temporarily unavailable. Test if this is more than a simple hint and handle accordingly.
433 *
434 *  ADVICE_NORMAL
435 *      No special treatment. This is the default.
436 *  ADVICE_RANDOM
437 *      Expect page references in random order. (Hence, read ahead may be less useful than normally.)
438 *  ADVICE_SEQUENTIAL
439 *      Expect page references in sequential order. (Hence, pages in the given range can be aggressively read ahead, and may be freed
440 *      soon after they are accessed.)
441 *  ADVICE_WILLNEED
442 *      Expect access in the near future. (Hence, it might be a good idea to read some pages ahead.)
443 *  ADVICE_DONTNEED
444 *      Do not expect access in the near future. (For the time being, the application is finished with the given range, so the kernel
445 *      can free resources associated with it.) Subsequent accesses of pages in this range will succeed, but will result either in
446 *      reloading of the memory contents from the underlying mapped file (see mmap(2)) or zero-fill-on-demand pages for mappings
447 *      without an underlying file.
448 *
449 * @return Value indicating success (0) or failure (-1).
450 */
451Value * CBuilder::CreateMAdvise(Value * addr, Value * length, Advice advice) {
452    Triple T(mTriple);
453    Value * result = nullptr;
454    if (T.isOSLinux() || T.isOSDarwin()) {
455        Module * const m = getModule();
456        IntegerType * const intTy = getInt32Ty();
457        IntegerType * const sizeTy = getSizeTy();
458        PointerType * const voidPtrTy = getVoidPtrTy();
459        Function * MAdviseFunc = m->getFunction("madvise");
460        if (LLVM_UNLIKELY(MAdviseFunc == nullptr)) {
461            FunctionType * fty = FunctionType::get(intTy, {voidPtrTy, sizeTy, intTy}, false);
462            MAdviseFunc = Function::Create(fty, Function::ExternalLinkage, "madvise", m);
463        }
464        addr = CreatePointerCast(addr, voidPtrTy);
465        length = CreateZExtOrTrunc(length, sizeTy);
466        int madv_flag = 0;
467        switch (advice) {
468            case Advice::ADVICE_NORMAL:
469                madv_flag = MADV_NORMAL; break;
470            case Advice::ADVICE_RANDOM:
471                madv_flag = MADV_RANDOM; break;
472            case Advice::ADVICE_SEQUENTIAL:
473                madv_flag = MADV_SEQUENTIAL; break;
474            case Advice::ADVICE_WILLNEED:
475                madv_flag = MADV_WILLNEED; break;
476            case Advice::ADVICE_DONTNEED:
477                madv_flag = MADV_DONTNEED; break;
478        }
479        result = CreateCall(MAdviseFunc, {addr, length, ConstantInt::get(intTy, madv_flag)});
480    }
481    return result;
482}
483
484#ifndef MREMAP_MAYMOVE
485#define MREMAP_MAYMOVE  1
486#endif
487
488Value * CBuilder::CreateMRemap(Value * addr, Value * oldSize, Value * newSize) {
489    Triple T(mTriple);
490    Value * ptr = nullptr;
491    if (T.isOSLinux()) {
492        Module * const m = getModule();
493        DataLayout DL(m);
494        PointerType * const voidPtrTy = getVoidPtrTy();
495        IntegerType * const sizeTy = getSizeTy();
496        IntegerType * const intTy = getIntPtrTy(DL);
497        Function * fMRemap = m->getFunction("mremap");
498        if (LLVM_UNLIKELY(fMRemap == nullptr)) {
499            FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy, sizeTy, intTy}, false);
500            fMRemap = Function::Create(fty, Function::ExternalLinkage, "mremap", m);
501        }
502        addr = CreatePointerCast(addr, voidPtrTy);
503        oldSize = CreateZExtOrTrunc(oldSize, sizeTy);
504        newSize = CreateZExtOrTrunc(newSize, sizeTy);
505        ConstantInt * const flags = ConstantInt::get(intTy, MREMAP_MAYMOVE);
506        ptr = CreateCall(fMRemap, {addr, oldSize, newSize, flags});
507        if (codegen::EnableAsserts) {
508            Value * success = CreateICmpNE(CreatePtrToInt(addr, intTy), ConstantInt::getAllOnesValue(intTy)); // MAP_FAILED = -1
509            CreateAssert(success, "CreateMRemap: mremap failed to allocate memory");
510        }
511    } else { // no OS mremap support
512        ptr = CreateAnonymousMMap(newSize);
513        CreateMemCpy(ptr, addr, oldSize, getpagesize());
514        CreateMUnmap(addr, oldSize);
515    }
516    return ptr;
517}
518
519Value * CBuilder::CreateMUnmap(Value * addr, Value * len) {
520    IntegerType * const sizeTy = getSizeTy();
521    PointerType * const voidPtrTy = getVoidPtrTy();
522    Module * const m = getModule();
523    Function * munmapFunc = m->getFunction("munmap");
524    if (LLVM_UNLIKELY(munmapFunc == nullptr)) {
525        FunctionType * const fty = FunctionType::get(sizeTy, {voidPtrTy, sizeTy}, false);
526        munmapFunc = Function::Create(fty, Function::ExternalLinkage, "munmap", m);
527    }
528    len = CreateZExtOrTrunc(len, sizeTy);
529    if (codegen::EnableAsserts) {
530        DataLayout DL(getModule());
531        IntegerType * const intPtrTy = getIntPtrTy(DL);
532        CreateAssert(len, "CreateMUnmap: length cannot be 0");
533        Value * const addrValue = CreatePtrToInt(addr, intPtrTy);
534        Value * const pageOffset = CreateURem(addrValue, ConstantInt::get(intPtrTy, getpagesize()));
535        CreateAssertZero(pageOffset, "CreateMUnmap: addr must be a multiple of the page size");
536        Value * const boundCheck = CreateICmpULT(addrValue, CreateSub(ConstantInt::getAllOnesValue(intPtrTy), CreateZExtOrTrunc(len, intPtrTy)));
537        CreateAssert(boundCheck, "CreateMUnmap: addresses in [addr, addr+len) are outside the valid address space range");
538    }
539    addr = CreatePointerCast(addr, voidPtrTy);
540    return CreateCall(munmapFunc, {addr, len});
541}
542
543PointerType * CBuilder::getVoidPtrTy() const {
544    return TypeBuilder<void *, true>::get(getContext());
545}
546
547LoadInst * CBuilder::CreateAtomicLoadAcquire(Value * ptr) {
548    const auto alignment = ptr->getType()->getPointerElementType()->getPrimitiveSizeInBits() / 8;
549    LoadInst * inst = CreateAlignedLoad(ptr, alignment);
550    inst->setOrdering(AtomicOrdering::Acquire);
551    return inst;
552   
553}
554
555StoreInst * CBuilder::CreateAtomicStoreRelease(Value * val, Value * ptr) {
556    const auto alignment = ptr->getType()->getPointerElementType()->getPrimitiveSizeInBits() / 8;
557    StoreInst * inst = CreateAlignedStore(val, ptr, alignment);
558    inst->setOrdering(AtomicOrdering::Release);
559    return inst;
560}
561
562PointerType * CBuilder::getFILEptrTy() {
563    if (mFILEtype == nullptr) {
564        mFILEtype = StructType::create(getContext(), "struct._IO_FILE");
565    }
566    return mFILEtype->getPointerTo();
567}
568
569Value * CBuilder::CreateFOpenCall(Value * filename, Value * mode) {
570    Module * const m = getModule();
571    Function * fOpenFunc = m->getFunction("fopen");
572    if (fOpenFunc == nullptr) {
573        FunctionType * fty = FunctionType::get(getFILEptrTy(), {getInt8Ty()->getPointerTo(), getInt8Ty()->getPointerTo()}, false);
574        fOpenFunc = Function::Create(fty, Function::ExternalLinkage, "fopen", m);
575        fOpenFunc->setCallingConv(CallingConv::C);
576    }
577    return CreateCall(fOpenFunc, {filename, mode});
578}
579
580Value * CBuilder::CreateFReadCall(Value * ptr, Value * size, Value * nitems, Value * stream) {
581    Module * const m = getModule();
582    Function * fReadFunc = m->getFunction("fread");
583    PointerType * const voidPtrTy = getVoidPtrTy();
584    if (fReadFunc == nullptr) {
585        IntegerType * const sizeTy = getSizeTy();
586        FunctionType * fty = FunctionType::get(sizeTy, {voidPtrTy, sizeTy, sizeTy, getFILEptrTy()}, false);
587        fReadFunc = Function::Create(fty, Function::ExternalLinkage, "fread", m);
588        fReadFunc->setCallingConv(CallingConv::C);
589    }
590    ptr = CreatePointerCast(ptr, voidPtrTy);
591    return CreateCall(fReadFunc, {ptr, size, nitems, stream});
592}
593
594Value * CBuilder::CreateFWriteCall(Value * ptr, Value * size, Value * nitems, Value * stream) {
595    Module * const m = getModule();
596    Function * fWriteFunc = m->getFunction("fwrite");
597    PointerType * const voidPtrTy = getVoidPtrTy();
598    if (fWriteFunc == nullptr) {
599        IntegerType * const sizeTy = getSizeTy();
600        FunctionType * fty = FunctionType::get(sizeTy, {voidPtrTy, sizeTy, sizeTy, getFILEptrTy()}, false);
601        fWriteFunc = Function::Create(fty, Function::ExternalLinkage, "fwrite", m);
602        fWriteFunc->setCallingConv(CallingConv::C);
603    }
604    ptr = CreatePointerCast(ptr, voidPtrTy);
605    return CreateCall(fWriteFunc, {ptr, size, nitems, stream});
606}
607
608Value * CBuilder::CreateFCloseCall(Value * stream) {
609    Module * const m = getModule();
610    Function * fCloseFunc = m->getFunction("fclose");
611    if (fCloseFunc == nullptr) {
612        FunctionType * fty = FunctionType::get(getInt32Ty(), {getFILEptrTy()}, false);
613        fCloseFunc = Function::Create(fty, Function::ExternalLinkage, "fclose", m);
614        fCloseFunc->setCallingConv(CallingConv::C);
615    }
616    return CreateCall(fCloseFunc, {stream});
617}
618
619Value * CBuilder::CreateRenameCall(Value * oldName, Value * newName) {
620    Module * const m = getModule();
621    Function * renameFunc = m->getFunction("rename");
622    if (renameFunc == nullptr) {
623        FunctionType * fty = FunctionType::get(getInt32Ty(), {getInt8PtrTy(), getInt8PtrTy()}, false);
624        renameFunc = Function::Create(fty, Function::ExternalLinkage, "rename", m);
625        renameFunc->setCallingConv(CallingConv::C);
626    }
627    return CreateCall(renameFunc, {oldName, newName});
628}
629
630Value * CBuilder::CreateRemoveCall(Value * path) {
631    Module * const m = getModule();
632    Function * removeFunc = m->getFunction("remove");
633    if (removeFunc == nullptr) {
634        FunctionType * fty = FunctionType::get(getInt32Ty(), {getInt8PtrTy()}, false);
635        removeFunc = Function::Create(fty, Function::ExternalLinkage, "remove", m);
636        removeFunc->setCallingConv(CallingConv::C);
637    }
638    return CreateCall(removeFunc, {path});
639}
640
641Value * CBuilder::CreatePThreadCreateCall(Value * thread, Value * attr, Function * start_routine, Value * arg) {
642    Module * const m = getModule();
643    Type * const voidPtrTy = getVoidPtrTy();
644    Function * pthreadCreateFunc = m->getFunction("pthread_create");
645    if (pthreadCreateFunc == nullptr) {
646        Type * pthreadTy = getSizeTy();
647        FunctionType * funVoidPtrVoidTy = FunctionType::get(getVoidTy(), {getVoidPtrTy()}, false);
648        FunctionType * fty = FunctionType::get(getInt32Ty(), {pthreadTy->getPointerTo(), voidPtrTy, funVoidPtrVoidTy->getPointerTo(), voidPtrTy}, false);
649        pthreadCreateFunc = Function::Create(fty, Function::ExternalLinkage, "pthread_create", m);
650        pthreadCreateFunc->setCallingConv(CallingConv::C);
651    }
652    return CreateCall(pthreadCreateFunc, {thread, attr, start_routine, CreatePointerCast(arg, voidPtrTy)});
653}
654
655Value * CBuilder::CreatePThreadYield() {
656    Module * const m = getModule();
657    Function * f = m->getFunction("pthread_yield");
658    if (f == nullptr) {
659        FunctionType * fty = FunctionType::get(getInt32Ty(), false);
660        f = Function::Create(fty, Function::ExternalLinkage, "pthread_yield", m);
661        f->setCallingConv(CallingConv::C);
662    }
663    return CreateCall(f);
664}
665
666Value * CBuilder::CreatePThreadExitCall(Value * value_ptr) {
667    Module * const m = getModule();
668    Function * pthreadExitFunc = m->getFunction("pthread_exit");
669    if (pthreadExitFunc == nullptr) {
670        FunctionType * fty = FunctionType::get(getVoidTy(), {getVoidPtrTy()}, false);
671        pthreadExitFunc = Function::Create(fty, Function::ExternalLinkage, "pthread_exit", m);
672        pthreadExitFunc->addFnAttr(Attribute::NoReturn);
673        pthreadExitFunc->setCallingConv(CallingConv::C);
674    }
675    CallInst * exitThread = CreateCall(pthreadExitFunc, {value_ptr});
676    exitThread->setDoesNotReturn();
677    return exitThread;
678}
679
680Value * CBuilder::CreatePThreadJoinCall(Value * thread, Value * value_ptr){
681    Module * const m = getModule();
682    Function * pthreadJoinFunc = m->getFunction("pthread_join");
683    if (pthreadJoinFunc == nullptr) {
684        FunctionType * fty = FunctionType::get(getInt32Ty(), {getSizeTy(), getVoidPtrTy()->getPointerTo()}, false);
685        pthreadJoinFunc = Function::Create(fty, Function::ExternalLinkage, "pthread_join", m);
686        pthreadJoinFunc->setCallingConv(CallingConv::C);
687    }
688    return CreateCall(pthreadJoinFunc, {thread, value_ptr});
689}
690
691void __report_failure(const char * msg, const uintptr_t * trace, const uint32_t n) {
692    raw_fd_ostream out(STDERR_FILENO, false);
693    if (trace) {
694        SmallVector<char, 4096> tmp;
695        raw_svector_ostream trace_string(tmp);
696        for (uint32_t i = 0; i < n; ++i) {
697            const auto pc = trace[i];
698            trace_string << format_hex(pc, 16) << "   ";
699            const auto len = codegen::ProgramName.length() + 32;
700            char cmd[len];
701            snprintf(cmd, len,"addr2line -fpCe %s %p", codegen::ProgramName.data(), reinterpret_cast<void *>(pc));
702            FILE * f = popen(cmd, "r");
703            if (f) {
704                char buffer[1024] = {0};
705                while(fgets(buffer, sizeof(buffer), f)) {
706                    trace_string << buffer;
707                }
708                pclose(f);
709            }
710        }
711        out.changeColor(raw_fd_ostream::WHITE, true);
712        out << "Compilation Stacktrace:\n";
713        out.resetColor();
714        out << trace_string.str();
715    }
716    out.changeColor(raw_fd_ostream::WHITE, true);
717    out << "Assertion `" << msg << "' failed.\n";
718    out.resetColor();
719    out.flush();
720
721}
722
723#if defined(HAS_MACH_VM_TYPES)
724
725/*
726 * Copyright (c) 1999, 2007 Apple Inc. All rights reserved.
727 *
728 * @APPLE_LICENSE_HEADER_START@
729 *
730 * This file contains Original Code and/or Modifications of Original Code
731 * as defined in and that are subject to the Apple Public Source License
732 * Version 2.0 (the 'License'). You may not use this file except in
733 * compliance with the License. Please obtain a copy of the License at
734 * http://www.opensource.apple.com/apsl/ and read it before using this
735 * file.
736 *
737 * The Original Code and all software distributed under the License are
738 * distributed on an 'AS IS' basis, WITHOUT WARRANTY OF ANY KIND, EITHER
739 * EXPRESS OR IMPLIED, AND APPLE HEREBY DISCLAIMS ALL SUCH WARRANTIES,
740 * INCLUDING WITHOUT LIMITATION, ANY WARRANTIES OF MERCHANTABILITY,
741 * FITNESS FOR A PARTICULAR PURPOSE, QUIET ENJOYMENT OR NON-INFRINGEMENT.
742 * Please see the License for the specific language governing rights and
743 * limitations under the License.
744 *
745 * @APPLE_LICENSE_HEADER_END@
746 */
747
748#include <pthread.h>
749#include <mach/mach.h>
750#include <mach/vm_statistics.h>
751#include <stdlib.h>
752
753#if defined(__i386__) || defined(__x86_64__)
754#define FP_LINK_OFFSET 1
755#elif defined(__ppc__) || defined(__ppc64__)
756#define FP_LINK_OFFSET 2
757#else
758#error  ********** Unimplemented architecture
759#endif
760
761#define INSTACK(a)      ((uintptr_t)(a) >= stackbot && (uintptr_t)(a) <= stacktop)
762#if defined(__ppc__) || defined(__ppc64__) || defined(__x86_64__)
763#define ISALIGNED(a)    ((((uintptr_t)(a)) & 0xf) == 0)
764#elif defined(__i386__)
765#define ISALIGNED(a)    ((((uintptr_t)(a)) & 0xf) == 8)
766#endif
767
768__private_extern__  __attribute__((noinline))
769void
770_thread_stack_pcs(vm_address_t *buffer, unsigned max, unsigned *nb, unsigned skip)
771{
772    void *frame, *next;
773    pthread_t self = pthread_self();
774    uintptr_t stacktop = (uintptr_t)(pthread_get_stackaddr_np(self));
775    uintptr_t stackbot = stacktop - (uintptr_t)(pthread_get_stacksize_np(self));
776   
777    *nb = 0;
778   
779    /* make sure return address is never out of bounds */
780    stacktop -= (FP_LINK_OFFSET + 1) * sizeof(void *);
781   
782    /*
783     * The original implementation called the first_frame_address() function,
784     * which returned the stack frame pointer.  The problem was that in ppc,
785     * it was a leaf function, so no new stack frame was set up with
786     * optimization turned on (while a new stack frame was set up without
787     * optimization).  We now inline the code to get the stack frame pointer,
788     * so we are consistent about the stack frame.
789     */
790#if defined(__i386__) || defined(__x86_64__)
791    frame = __builtin_frame_address(0);
792#elif defined(__ppc__) || defined(__ppc64__)
793    /* __builtin_frame_address IS BROKEN IN BEAKER: RADAR #2340421 */
794    __asm__ volatile("mr %0, r1" : "=r" (frame));
795#endif
796    if(!INSTACK(frame) || !ISALIGNED(frame))
797        return;
798#if defined(__ppc__) || defined(__ppc64__)
799    /* back up the stack pointer up over the current stack frame */
800    next = *(void **)frame;
801    if(!INSTACK(next) || !ISALIGNED(next) || next <= frame)
802        return;
803    frame = next;
804#endif
805    while (skip--) {
806        next = *(void **)frame;
807        if(!INSTACK(next) || !ISALIGNED(next) || next <= frame)
808            return;
809        frame = next;
810    }
811    while (max--) {
812        buffer[*nb] = *(vm_address_t *)(((void **)frame) + FP_LINK_OFFSET);
813        (*nb)++;
814        next = *(void **)frame;
815        if(!INSTACK(next) || !ISALIGNED(next) || next <= frame)
816            return;
817        frame = next;
818    }
819}
820#endif
821
822void CBuilder::__CreateAssert(Value * const assertion, StringRef failureMessage) {
823    if (LLVM_UNLIKELY(codegen::EnableAsserts)) {
824        Module * const m = getModule();
825        if (LLVM_UNLIKELY(isa<ConstantInt>(assertion))) {
826            if (LLVM_UNLIKELY(cast<ConstantInt>(assertion)->isZero())) {
827                report_fatal_error(failureMessage);
828            } else {
829                return;
830            }
831        }
832        Type * const stackTy = TypeBuilder<uintptr_t, false>::get(getContext());
833        PointerType * const stackPtrTy = stackTy->getPointerTo();
834        PointerType * const int8PtrTy = getInt8PtrTy();
835        Function * function = m->getFunction("assert");
836        if (LLVM_UNLIKELY(function == nullptr)) {
837            auto ip = saveIP();
838            IntegerType * const int1Ty = getInt1Ty();
839            FunctionType * fty = FunctionType::get(getVoidTy(), { int1Ty, int8PtrTy, stackPtrTy, getInt32Ty() }, false);
840            function = Function::Create(fty, Function::PrivateLinkage, "assert", m);
841            function->setDoesNotThrow();
842            function->setDoesNotAlias(2);
843            BasicBlock * const entry = BasicBlock::Create(getContext(), "", function);
844            BasicBlock * const failure = BasicBlock::Create(getContext(), "", function);
845            BasicBlock * const success = BasicBlock::Create(getContext(), "", function);
846            auto arg = function->arg_begin();
847            arg->setName("assertion");
848            Value * assertion = &*arg++;
849            arg->setName("msg");
850            Value * msg = &*arg++;
851            arg->setName("trace");
852            Value * trace = &*arg++;
853            arg->setName("depth");
854            Value * depth = &*arg++;
855            SetInsertPoint(entry);
856            IRBuilder<>::CreateCondBr(assertion, success, failure);
857            IRBuilder<>::SetInsertPoint(failure);
858            IRBuilder<>::CreateCall(LinkFunction("__report_failure", __report_failure), { msg, trace, depth });
859            CreateExit(-1);
860            IRBuilder<>::CreateBr(success); // necessary to satisfy the LLVM verifier. this is never executed.
861            SetInsertPoint(success);
862            IRBuilder<>::CreateRetVoid();
863            restoreIP(ip);
864        }
865
866        SmallVector<unw_word_t, 64> stack;
867        #if defined(HAS_MACH_VM_TYPES)
868        for (;;) {
869            unsigned int n;
870            _thread_stack_pcs(reinterpret_cast<vm_address_t *>(stack.data()), stack.capacity(), &n, 1);
871            if (LLVM_UNLIKELY(n < stack.capacity() || stack[n - 1] == 0)) {
872                while (n >= 1 && stack[n - 1] == 0) {
873                    n -= 1;
874                }
875                stack.set_size(n);
876                break;
877            }
878            stack.reserve(n * 2);
879        }
880        #elif defined(HAS_LIBUNWIND)
881        unw_context_t context;
882        // Initialize cursor to current frame for local unwinding.
883        unw_getcontext(&context);
884        unw_cursor_t cursor;
885        unw_init_local(&cursor, &context);
886        // Unwind frames one by one, going up the frame stack.
887        while (unw_step(&cursor) > 0) {
888            unw_word_t pc;
889            unw_get_reg(&cursor, UNW_REG_IP, &pc);
890            if (pc == 0) {
891                break;
892            }
893            stack.push_back(pc);
894        }
895        #elif defined(HAS_EXECINFO)
896        for (;;) {
897            const auto n = backtrace(reinterpret_cast<void **>(stack.data()), stack.capacity());
898            if (LLVM_LIKELY(n < (int)stack.capacity())) {
899                stack.set_size(n);
900                break;
901            }
902            stack.reserve(n * 2);
903        }
904        #endif
905        Value * trace = nullptr;
906        ConstantInt * depth = nullptr;
907        if (stack.empty()) {
908            trace = ConstantPointerNull::get(stackPtrTy);
909            depth = getInt32(0);
910        } else {
911            const auto n = stack.size() - 1;
912            for (GlobalVariable & gv : m->getGlobalList()) {
913                Type * const ty = gv.getValueType();
914                if (ty->isArrayTy() && ty->getArrayElementType() == stackTy && ty->getArrayNumElements() == n) {
915                    const ConstantDataArray * const array = cast<ConstantDataArray>(gv.getOperand(0));
916                    bool found = true;
917                    for (size_t i = 0; i < n; ++i) {
918                        if (LLVM_LIKELY(array->getElementAsInteger(i) != stack[i + 1])) {
919                            found = false;
920                            break;
921                        }
922                    }
923                    if (LLVM_UNLIKELY(found)) {
924                        trace = &gv;
925                        break;
926                    }
927                }
928            }
929            if (LLVM_LIKELY(trace == nullptr)) {
930                Constant * const initializer = ConstantDataArray::get(getContext(), ArrayRef<unw_word_t>(stack.data() + 1, n));
931                trace = new GlobalVariable(*m, initializer->getType(), true, GlobalVariable::InternalLinkage, initializer);
932            }
933            trace = CreatePointerCast(trace, stackPtrTy);
934            depth = getInt32(n);
935        }
936        IRBuilder<>::CreateCall(function, {assertion, GetString(failureMessage), trace, depth});
937    }
938}
939
940void CBuilder::CreateExit(const int exitCode) {
941    Module * const m = getModule();
942    Function * exit = m->getFunction("exit");
943    if (LLVM_UNLIKELY(exit == nullptr)) {
944        FunctionType * fty = FunctionType::get(getVoidTy(), {getInt32Ty()}, false);
945        exit = Function::Create(fty, Function::ExternalLinkage, "exit", m);
946        exit->setDoesNotReturn();
947        exit->setDoesNotThrow();
948    }
949    CreateCall(exit, getInt32(exitCode));
950}
951
952BasicBlock * CBuilder::CreateBasicBlock(std::string && name) {
953    return BasicBlock::Create(getContext(), name, GetInsertBlock()->getParent());
954}
955
956BranchInst * CBuilder::CreateLikelyCondBr(Value * Cond, BasicBlock * True, BasicBlock * False, const int probability) {
957    MDBuilder mdb(getContext());
958    if (probability < 0 || probability > 100) {
959        report_fatal_error("branch weight probability must be in [0,100]");
960    }
961    return CreateCondBr(Cond, True, False, mdb.createBranchWeights(probability, 100 - probability));
962}
963
964Value * CBuilder::CreatePopcount(Value * bits) {
965    Value * ctpopFunc = Intrinsic::getDeclaration(getModule(), Intrinsic::ctpop, bits->getType());
966    return CreateCall(ctpopFunc, bits);
967}
968
969Value * CBuilder::CreateCountForwardZeroes(Value * value) {
970    Value * cttzFunc = Intrinsic::getDeclaration(getModule(), Intrinsic::cttz, value->getType());
971    return CreateCall(cttzFunc, {value, ConstantInt::getFalse(getContext())});
972}
973
974Value * CBuilder::CreateCountReverseZeroes(Value * value) {
975    Value * ctlzFunc = Intrinsic::getDeclaration(getModule(), Intrinsic::ctlz, value->getType());
976    return CreateCall(ctlzFunc, {value, ConstantInt::getFalse(getContext())});
977}
978
979Value * CBuilder::CreateResetLowestBit(Value * bits) {
980    return CreateAnd(bits, CreateSub(bits, ConstantInt::get(bits->getType(), 1)));
981}
982
983Value * CBuilder::CreateIsolateLowestBit(Value * bits) {
984    return CreateAnd(bits, CreateNeg(bits));
985}
986
987Value * CBuilder::CreateMaskToLowestBitInclusive(Value * bits) {
988    return CreateXor(bits, CreateSub(bits, ConstantInt::get(bits->getType(), 1)));
989}
990
991Value * CBuilder::CreateMaskToLowestBitExclusive(Value * bits) {
992    return CreateAnd(CreateSub(bits, ConstantInt::get(bits->getType(), 1)), CreateNot(bits));
993}
994
995Value * CBuilder::CreateExtractBitField(Value * bits, Value * start, Value * length) {
996    Constant * One = ConstantInt::get(bits->getType(), 1);
997    return CreateAnd(CreateLShr(bits, start), CreateSub(CreateShl(One, length), One));
998}
999
1000Value * CBuilder::CreateCeilLog2(Value * value) {
1001    IntegerType * ty = cast<IntegerType>(value->getType());
1002    CreateAssert(value, "CreateCeilLog2: value cannot be zero");
1003    Value * m = CreateCountReverseZeroes(CreateSub(value, ConstantInt::get(ty, 1)));
1004    return CreateSub(ConstantInt::get(m->getType(), ty->getBitWidth()), m);
1005}
1006
1007Value * CBuilder::GetString(StringRef Str) {
1008    Module * const m = getModule();
1009    Value * ptr = m->getGlobalVariable(Str, true);
1010    if (ptr == nullptr) {
1011        ptr = CreateGlobalString(Str, Str);
1012    }
1013    Value * zero = getInt32(0);
1014    return CreateInBoundsGEP(ptr, { zero, zero });
1015}
1016
1017Value * CBuilder::CreateReadCycleCounter() {
1018    Module * const m = getModule();
1019    Value * cycleCountFunc = Intrinsic::getDeclaration(m, Intrinsic::readcyclecounter);
1020    return CreateCall(cycleCountFunc, std::vector<Value *>({}));
1021}
1022
1023Function * CBuilder::LinkFunction(StringRef name, FunctionType * type, void * functionPtr) const {
1024    assert (mDriver);
1025    return mDriver->addLinkFunction(getModule(), name, type, functionPtr);
1026}
1027
1028#ifdef HAS_ADDRESS_SANITIZER
1029
1030#define CHECK_ADDRESS(Ptr) \
1031    if (LLVM_UNLIKELY(hasAddressSanitizer())) { \
1032        Module * const m = getModule(); \
1033        PointerType * const voidPtrTy = getVoidPtrTy(); \
1034        IntegerType * const sizeTy = getSizeTy(); \
1035        Function * isPoisoned = m->getFunction("__asan_region_is_poisoned"); \
1036        if (LLVM_UNLIKELY(isPoisoned == nullptr)) { \
1037            isPoisoned = Function::Create(FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy}, false), Function::ExternalLinkage, "__asan_region_is_poisoned", m); \
1038            isPoisoned->setCallingConv(CallingConv::C); \
1039            isPoisoned->setDoesNotAlias(0); \
1040            isPoisoned->setDoesNotAlias(1); \
1041        } \
1042        Value * const addr = CreatePointerCast(Ptr, voidPtrTy); \
1043        ConstantInt * const size = ConstantInt::get(sizeTy, Ptr->getType()->getPointerElementType()->getPrimitiveSizeInBits() / 8); \
1044        Value * check = CreateCall(isPoisoned, { addr, size }); \
1045        check = CreateICmpEQ(check, ConstantPointerNull::get(cast<PointerType>(isPoisoned->getReturnType()))); \
1046        CreateAssert(check, "Valid memory address"); \
1047    }
1048
1049LoadInst * CBuilder::CreateLoad(Value *Ptr, const char * Name) {
1050    CHECK_ADDRESS(Ptr);
1051    return IRBuilder<>::CreateLoad(Ptr, Name);
1052}
1053
1054LoadInst * CBuilder::CreateLoad(Value * Ptr, const Twine & Name) {
1055    CHECK_ADDRESS(Ptr);
1056    return IRBuilder<>::CreateLoad(Ptr, Name);
1057}
1058
1059LoadInst * CBuilder::CreateLoad(Type *Ty, Value *Ptr, const Twine & Name) {
1060    CHECK_ADDRESS(Ptr);
1061    return IRBuilder<>::CreateLoad(Ty, Ptr, Name);
1062}
1063
1064LoadInst * CBuilder::CreateLoad(Value *Ptr, bool isVolatile, const Twine & Name) {
1065    CHECK_ADDRESS(Ptr);
1066    return IRBuilder<>::CreateLoad(Ptr, isVolatile, Name);
1067}
1068
1069StoreInst * CBuilder::CreateStore(Value * Val, Value * Ptr, bool isVolatile) {
1070    CHECK_ADDRESS(Ptr);
1071    return IRBuilder<>::CreateStore(Val, Ptr, isVolatile);
1072}
1073
1074#undef CHECK_ADDRESS
1075
1076#endif
1077
1078inline bool CBuilder::hasAddressSanitizer() const {
1079    return codegen::EnableAsserts && mDriver && mDriver->hasExternalFunction("__asan_region_is_poisoned");
1080}
1081
1082LoadInst * CBuilder::CreateAlignedLoad(Value * Ptr, unsigned Align, const char * Name) {
1083    if (codegen::EnableAsserts) {
1084        DataLayout DL(getModule());
1085        IntegerType * const intPtrTy = cast<IntegerType>(DL.getIntPtrType(Ptr->getType()));
1086        Value * alignmentOffset = CreateURem(CreatePtrToInt(Ptr, intPtrTy), ConstantInt::get(intPtrTy, Align));
1087        CreateAssertZero(alignmentOffset, "CreateAlignedLoad: pointer is misaligned");
1088    }
1089    LoadInst * LI = CreateLoad(Ptr, Name);
1090    LI->setAlignment(Align);
1091    return LI;
1092}
1093
1094LoadInst * CBuilder::CreateAlignedLoad(Value * Ptr, unsigned Align, const Twine & Name) {
1095    if (codegen::EnableAsserts) {
1096        DataLayout DL(getModule());
1097        IntegerType * const intPtrTy = cast<IntegerType>(DL.getIntPtrType(Ptr->getType()));
1098        Value * alignmentOffset = CreateURem(CreatePtrToInt(Ptr, intPtrTy), ConstantInt::get(intPtrTy, Align));
1099        CreateAssertZero(alignmentOffset, "CreateAlignedLoad: pointer is misaligned");
1100    }
1101    LoadInst * LI = CreateLoad(Ptr, Name);
1102    LI->setAlignment(Align);
1103    return LI;
1104}
1105
1106LoadInst * CBuilder::CreateAlignedLoad(Value * Ptr, unsigned Align, bool isVolatile, const Twine & Name) {
1107    if (codegen::EnableAsserts) {
1108        DataLayout DL(getModule());
1109        IntegerType * const intPtrTy = cast<IntegerType>(DL.getIntPtrType(Ptr->getType()));
1110        Value * alignmentOffset = CreateURem(CreatePtrToInt(Ptr, intPtrTy), ConstantInt::get(intPtrTy, Align));
1111        CreateAssertZero(alignmentOffset, "CreateAlignedLoad: pointer is misaligned");
1112    }
1113    LoadInst * LI = CreateLoad(Ptr, isVolatile, Name);
1114    LI->setAlignment(Align);
1115    return LI;
1116}
1117
1118StoreInst * CBuilder::CreateAlignedStore(Value * Val, Value * Ptr, unsigned Align, bool isVolatile) {
1119    if (codegen::EnableAsserts) {
1120        DataLayout DL(getModule());
1121        IntegerType * const intPtrTy = cast<IntegerType>(DL.getIntPtrType(Ptr->getType()));
1122        Value * alignmentOffset = CreateURem(CreatePtrToInt(Ptr, intPtrTy), ConstantInt::get(intPtrTy, Align));
1123        CreateAssertZero(alignmentOffset, "CreateAlignedStore: pointer is misaligned");
1124    }
1125    StoreInst *SI = CreateStore(Val, Ptr, isVolatile);
1126    SI->setAlignment(Align);
1127    return SI;
1128}
1129
1130CBuilder::CBuilder(LLVMContext & C)
1131: IRBuilder<>(C)
1132, mCacheLineAlignment(64)
1133, mSizeType(TypeBuilder<size_t, false>::get(C))
1134, mFILEtype(nullptr)
1135, mDriver(nullptr) {
1136
1137}
Note: See TracBrowser for help on using the repository browser.