source: icGREP/icgrep-devel/icgrep/IR_Gen/CBuilder.cpp @ 5386

Last change on this file since 5386 was 5386, checked in by nmedfort, 2 years ago

Replaced stdin input stream with mmap'ed buffer and aligned each read call to the page size.

File size: 22.4 KB
Line 
1/*
2 *  Copyright (c) 2016 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#include "CBuilder.h"
8#include <llvm/IR/Module.h>
9#include <llvm/IR/Constants.h>
10#include <llvm/IR/Intrinsics.h>
11#include <llvm/IR/TypeBuilder.h>
12#include <llvm/IR/MDBuilder.h>
13#include <fcntl.h>
14#include <unistd.h>
15#include <sys/mman.h>
16#include <toolchain.h>
17
18#include <llvm/Support/raw_ostream.h>
19
20using namespace llvm;
21
22Value * CBuilder::CreateOpenCall(Value * filename, Value * oflag, Value * mode) {
23    Function * openFn = mMod->getFunction("open");
24    if (openFn == nullptr) {
25        IntegerType * int32Ty = getInt32Ty();
26        PointerType * int8PtrTy = getInt8PtrTy();
27        openFn = cast<Function>(mMod->getOrInsertFunction("open",
28                                                         int32Ty, int8PtrTy, int32Ty, int32Ty, nullptr));
29    }
30    return CreateCall(openFn, {filename, oflag, mode});
31}
32
33// ssize_t write(int fildes, const void *buf, size_t nbyte);
34Value * CBuilder::CreateWriteCall(Value * fildes, Value * buf, Value * nbyte) {
35    Function * write = mMod->getFunction("write");
36    if (write == nullptr) {
37        IntegerType * sizeTy = getSizeTy();
38        IntegerType * int32Ty = getInt32Ty();
39        PointerType * int8PtrTy = getInt8PtrTy();
40        write = cast<Function>(mMod->getOrInsertFunction("write",
41                                                        AttributeSet().addAttribute(mMod->getContext(), 2U, Attribute::NoAlias),
42                                                        sizeTy, int32Ty, int8PtrTy, sizeTy, nullptr));
43    }
44    return CreateCall(write, {fildes, buf, nbyte});
45}
46
47Value * CBuilder::CreateReadCall(Value * fildes, Value * buf, Value * nbyte) {
48    Function * readFn = mMod->getFunction("read");
49    if (readFn == nullptr) {
50        IntegerType * sizeTy = getSizeTy();
51        IntegerType * int32Ty = getInt32Ty();
52        PointerType * int8PtrTy = getInt8PtrTy();
53        readFn = cast<Function>(mMod->getOrInsertFunction("read",
54                                                         AttributeSet().addAttribute(mMod->getContext(), 2U, Attribute::NoAlias),
55                                                         sizeTy, int32Ty, int8PtrTy, sizeTy, nullptr));
56    }
57    return CreateCall(readFn, {fildes, buf, nbyte});
58}
59
60Value * CBuilder::CreateCloseCall(Value * fildes) {
61    Function * closeFn = mMod->getFunction("close");
62    if (closeFn == nullptr) {
63        IntegerType * int32Ty = getInt32Ty();
64        FunctionType * fty = FunctionType::get(int32Ty, {int32Ty}, true);
65        closeFn = Function::Create(fty, Function::ExternalLinkage, "close", mMod);
66    }
67    return CreateCall(closeFn, {fildes});
68}
69
70Function * CBuilder::GetPrintf() {
71    Function * printf = mMod->getFunction("printf");
72    if (printf == nullptr) {
73        FunctionType * fty = FunctionType::get(getInt32Ty(), {getInt8PtrTy()}, true);
74        printf = Function::Create(fty, Function::ExternalLinkage, "printf", mMod);
75        printf->addAttribute(1, Attribute::NoAlias);
76    }
77    return printf;
78}
79
80void CBuilder::CallPrintInt(const std::string & name, Value * const value) {
81    Constant * printRegister = mMod->getFunction("PrintInt");
82    if (LLVM_UNLIKELY(printRegister == nullptr)) {
83        FunctionType *FT = FunctionType::get(getVoidTy(), { PointerType::get(getInt8Ty(), 0), getSizeTy() }, false);
84        Function * function = Function::Create(FT, Function::InternalLinkage, "PrintInt", mMod);
85        auto arg = function->arg_begin();
86        std::string out = "%-40s = %" PRIx64 "\n";
87        BasicBlock * entry = BasicBlock::Create(mMod->getContext(), "entry", function);
88        IRBuilder<> builder(entry);
89        std::vector<Value *> args;
90        args.push_back(CreateGlobalStringPtr(out.c_str()));
91        Value * const name = &*(arg++);
92        name->setName("name");
93        args.push_back(name);
94        Value * value = &*arg;
95        value->setName("value");
96        args.push_back(value);
97        builder.CreateCall(GetPrintf(), args);
98        builder.CreateRetVoid();
99
100        printRegister = function;
101    }
102    Value * num = nullptr;
103    if (value->getType()->isPointerTy()) {
104        num = CreatePtrToInt(value, getSizeTy());
105    } else {
106        num = CreateZExtOrBitCast(value, getSizeTy());
107    }
108    assert (num->getType()->isIntegerTy());
109    CreateCall(printRegister, {CreateGlobalStringPtr(name.c_str()), num});
110}
111
112Value * CBuilder::CreateMalloc(Value * size) {
113    Module * const m = getModule();
114    DataLayout DL(m);
115    IntegerType * const intTy = getIntPtrTy(DL);
116    if (size->getType() != intTy) {
117        if (isa<Constant>(size)) {
118            size = ConstantExpr::getIntegerCast(cast<Constant>(size), intTy, false);
119        } else {
120            size = CreateZExtOrTrunc(size, intTy);
121        }
122    }   
123    PointerType * const voidPtrTy = getVoidPtrTy();
124    Function * malloc = m->getFunction("malloc");
125    if (malloc == nullptr) {
126        FunctionType * fty = FunctionType::get(voidPtrTy, {intTy}, false);
127        malloc = Function::Create(fty, Function::ExternalLinkage, "malloc", mMod);
128        malloc->setCallingConv(CallingConv::C);
129        malloc->setDoesNotAlias(0);
130    }
131    assert (size->getType() == intTy);
132    CallInst * ci = CreateCall(malloc, size); assert (ci);
133    ci->setTailCall();
134    ci->setCallingConv(malloc->getCallingConv());
135    Value * ptr = CreatePointerCast(ci, voidPtrTy); assert (ptr);
136    CreateAssert(ptr, "FATAL ERROR: out of memory");
137    return ptr;
138}
139
140Value * CBuilder::CreateAlignedMalloc(Value * size, const unsigned alignment) {
141    if (LLVM_UNLIKELY((alignment & (alignment - 1)) != 0)) {
142        report_fatal_error("CreateAlignedMalloc: alignment must be a power of 2");
143    }
144    DataLayout DL(mMod);
145    IntegerType * const intTy = getIntPtrTy(DL);
146    Function * aligned_malloc = mMod->getFunction("aligned_malloc" + std::to_string(alignment));
147    if (LLVM_UNLIKELY(aligned_malloc == nullptr)) {
148        const auto ip = saveIP();
149        PointerType * const voidPtrTy = getVoidPtrTy();
150        FunctionType * fty = FunctionType::get(voidPtrTy, {intTy}, false);
151        aligned_malloc = Function::Create(fty, Function::InternalLinkage, "aligned_malloc" + std::to_string(alignment), mMod);
152        aligned_malloc->setCallingConv(CallingConv::C);
153        aligned_malloc->setDoesNotAlias(0);
154        aligned_malloc->addFnAttr(Attribute::AlwaysInline);
155        Value * size = &*aligned_malloc->arg_begin();
156        SetInsertPoint(BasicBlock::Create(mMod->getContext(), "entry", aligned_malloc));
157        const auto byteWidth = (intTy->getBitWidth() / 8);
158        Constant * const offset = ConstantInt::get(intTy, alignment + byteWidth - 1);
159        size = CreateAdd(size, offset);
160        Value * unaligned = CreatePtrToInt(CreateMalloc(size), intTy);
161        Value * aligned = CreateAnd(CreateAdd(unaligned, offset), ConstantExpr::getNot(ConstantInt::get(intTy, alignment - 1)));
162        Value * prefix = CreateIntToPtr(CreateSub(aligned, ConstantInt::get(intTy, byteWidth)), intTy->getPointerTo());
163        assert (unaligned->getType() == prefix->getType()->getPointerElementType());
164        CreateAlignedStore(unaligned, prefix, byteWidth);
165        CreateRet(CreateIntToPtr(aligned, voidPtrTy));
166        restoreIP(ip);
167    }
168    return CreateCall(aligned_malloc, {CreateZExtOrTrunc(size, intTy)});
169}
170
171Value * CBuilder::CreateAnonymousMMap(Value * size) {
172    DataLayout DL(mMod);
173    PointerType * const voidPtrTy = getVoidPtrTy();
174    IntegerType * const intTy = getIntPtrTy(DL);
175    IntegerType * const sizeTy = getSizeTy();
176    Type * const offTy = TypeBuilder<off_t, false>::get(getContext());
177    Function * fMMap = mMod->getFunction("mmap");
178    if (LLVM_UNLIKELY(fMMap == nullptr)) {
179        FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy, intTy, intTy, intTy, offTy}, false);
180        fMMap = Function::Create(fty, Function::ExternalLinkage, "mmap", mMod);
181    }
182    ConstantInt * const prot =  ConstantInt::get(intTy, PROT_READ | PROT_WRITE);
183    ConstantInt * const flags =  ConstantInt::get(intTy, MAP_PRIVATE | MAP_ANONYMOUS);
184    ConstantInt * const fd =  ConstantInt::get(intTy, -1);
185    ConstantInt * const offset = ConstantInt::get(intTy, 0); // getCacheAlignment()
186    Value * const ptr = CreateCall(fMMap, {Constant::getNullValue(voidPtrTy), size, prot, flags, fd, offset});
187    CreateAssert(CreateICmpNE(CreatePtrToInt(ptr, getSizeTy()), getSize((size_t)MAP_FAILED)), "CreateAnonymousMMap: mmap failed to allocate memory");
188    return ptr;
189}
190
191Value * CBuilder::CreateFileSourceMMap(Value * const fd, Value * const size) {
192    DataLayout DL(mMod);
193    PointerType * const voidPtrTy = getVoidPtrTy();
194    IntegerType * const intTy = getIntPtrTy(DL);
195    IntegerType * const sizeTy = getSizeTy();
196    Type * const offTy = TypeBuilder<off_t, false>::get(getContext());
197    Function * fMMap = mMod->getFunction("mmap");
198    if (LLVM_UNLIKELY(fMMap == nullptr)) {
199        FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy, intTy, intTy, intTy, offTy}, false);
200        fMMap = Function::Create(fty, Function::ExternalLinkage, "mmap", mMod);
201    }
202    ConstantInt * const prot =  ConstantInt::get(intTy, PROT_READ);
203    ConstantInt * const flags =  ConstantInt::get(intTy, MAP_PRIVATE);
204    ConstantInt * const offset = ConstantInt::get(intTy, 0); // getCacheAlignment()
205    Value * const ptr = CreateCall(fMMap, {Constant::getNullValue(voidPtrTy), size, prot, flags, fd, offset});
206    CreateAssert(CreateICmpNE(CreatePtrToInt(ptr, getSizeTy()), getSize((size_t)MAP_FAILED)), "CreateFileSourceMMap: mmap failed to allocate memory");
207    return ptr;
208}
209
210Value * CBuilder::CreateMRemap(Value * addr, Value * oldSize, Value * newSize, const bool mayMove) {
211    DataLayout DL(mMod);
212    PointerType * const voidPtrTy = getVoidPtrTy();
213    IntegerType * const intTy = getIntPtrTy(DL);
214    IntegerType * const sizeTy = getSizeTy();
215    Function * fMRemap = mMod->getFunction("mremap");
216    if (LLVM_UNLIKELY(fMRemap == nullptr)) {
217        //    void * mremap (void *addr, size_t old_size,
218        //                   size_t new_size, unsigned long flags);
219
220        FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, sizeTy, sizeTy, intTy}, false);
221        fMRemap = Function::Create(fty, Function::ExternalLinkage, "mremap", mMod);
222    }   
223    addr = CreatePointerCast(addr, voidPtrTy);
224    CreateAssert(addr, "CreateMRemap: initial addr is null");
225    Value * ptr = CreateCall(fMRemap, {addr, oldSize, newSize, ConstantInt::get(intTy, mayMove ? MREMAP_MAYMOVE : 0)});
226    CreateAssert(addr, "CreateMRemap: mremap failed to allocate memory");
227    return ptr;
228}
229
230Value * CBuilder::CreateMUnmap(Value * addr, Value * size) {
231    DataLayout DL(mMod);
232    IntegerType * const intTy = getIntPtrTy(DL);
233    IntegerType * const sizeTy = getSizeTy();
234    Function * fMUnmap = mMod->getFunction("munmap");
235    if (LLVM_UNLIKELY(fMUnmap == nullptr)) {
236        // int munmap (void *addr, size_t len);
237
238        PointerType * const voidPtrTy = getVoidPtrTy();
239        FunctionType * fty = FunctionType::get(intTy, {voidPtrTy, sizeTy}, false);
240        fMUnmap = Function::Create(fty, Function::ExternalLinkage, "munmap", mMod);
241    }
242    return CreateCall(fMUnmap, {addr, size});
243}
244
245void CBuilder::CreateFree(Value * const ptr) {
246    assert (ptr->getType()->isPointerTy());
247    Module * const m = getModule();
248    PointerType * const voidPtrTy = getVoidPtrTy();
249    Function * free = m->getFunction("free");
250    if (free == nullptr) {
251        FunctionType * fty = FunctionType::get(getVoidTy(), {voidPtrTy}, false);
252        free = Function::Create(fty, Function::ExternalLinkage, "free", mMod);
253        free->setCallingConv(CallingConv::C);
254    }
255    CallInst * const ci = CreateCall(free, CreatePointerCast(ptr, voidPtrTy));
256    ci->setTailCall();
257    ci->setCallingConv(free->getCallingConv());
258}
259
260void CBuilder::CreateAlignedFree(Value * const ptr, const bool testForNullAddress) {
261    // WARNING: this will segfault if the value of the ptr at runtime is null but testForNullAddress was not set
262    PointerType * type = cast<PointerType>(ptr->getType());
263    BasicBlock * exit = nullptr;
264    if (testForNullAddress) {
265        LLVMContext & C = getContext();
266        BasicBlock * bb = GetInsertBlock();
267        Function * f = bb->getParent();
268        exit = BasicBlock::Create(C, "", f, bb);
269        BasicBlock * entry = BasicBlock::Create(C, "", f, exit);
270        Value * cond = CreateICmpEQ(ptr, ConstantPointerNull::get(type));
271        CreateCondBr(cond, exit, entry);
272        SetInsertPoint(entry);
273    }
274    DataLayout DL(getModule());
275    IntegerType * const intTy = getIntPtrTy(DL);
276    const auto byteWidth = (intTy->getBitWidth() / 8);
277    Value * prefix = CreatePtrToInt(ptr, intTy);
278    prefix = CreateSub(prefix, ConstantInt::get(intTy, byteWidth));
279    prefix = CreateIntToPtr(prefix, intTy->getPointerTo());
280    prefix = CreateIntToPtr(CreateAlignedLoad(prefix, byteWidth), type);
281    CreateFree(prefix);
282    if (testForNullAddress) {
283        CreateBr(exit);
284        SetInsertPoint(exit);
285    }
286}
287
288Value * CBuilder::CreateRealloc(Value * ptr, Value * size) {
289    DataLayout DL(getModule());
290    IntegerType * const intTy = getIntPtrTy(DL);
291    PointerType * type = cast<PointerType>(ptr->getType());
292    if (size->getType() != intTy) {
293        if (isa<Constant>(size)) {
294            size = ConstantExpr::getIntegerCast(cast<Constant>(size), intTy, false);
295        } else {
296            size = CreateZExtOrTrunc(size, intTy);
297        }
298    }
299    Module * const m = getModule();
300    Function * realloc = m->getFunction("realloc");
301    if (realloc == nullptr) {
302        PointerType * const voidPtrTy = getVoidPtrTy();
303        FunctionType * fty = FunctionType::get(voidPtrTy, {voidPtrTy, intTy}, false);
304        realloc = Function::Create(fty, Function::ExternalLinkage, "realloc", mMod);
305        realloc->setCallingConv(CallingConv::C);
306        realloc->setDoesNotAlias(1);
307    }
308    assert (size->getType() == intTy);
309    CallInst * ci = CreateCall(realloc, {ptr, size});
310    ci->setTailCall();
311    ci->setCallingConv(realloc->getCallingConv());
312    return CreateBitOrPointerCast(ci, type);
313}
314
315PointerType * CBuilder::getVoidPtrTy() const {
316    return TypeBuilder<void *, false>::get(getContext());
317}
318
319LoadInst * CBuilder::CreateAtomicLoadAcquire(Value * ptr) {
320    const auto alignment = ptr->getType()->getPointerElementType()->getPrimitiveSizeInBits() / 8;
321    LoadInst * inst = CreateAlignedLoad(ptr, alignment);
322    inst->setOrdering(AtomicOrdering::Acquire);
323    return inst;
324   
325}
326
327StoreInst * CBuilder::CreateAtomicStoreRelease(Value * val, Value * ptr) {
328    const auto alignment = ptr->getType()->getPointerElementType()->getPrimitiveSizeInBits() / 8;
329    StoreInst * inst = CreateAlignedStore(val, ptr, alignment);
330    inst->setOrdering(AtomicOrdering::Release);
331    return inst;
332}
333
334PointerType * CBuilder::getFILEptrTy() {
335    if (mFILEtype == nullptr) {
336        mFILEtype = StructType::create(getContext(), "struct._IO_FILE");
337    }
338    return mFILEtype->getPointerTo();
339}
340
341Value * CBuilder::CreateFOpenCall(Value * filename, Value * mode) {
342    Function * fOpenFunc = mMod->getFunction("fopen");
343    if (fOpenFunc == nullptr) {
344        FunctionType * fty = FunctionType::get(getFILEptrTy(), {getInt8Ty()->getPointerTo(), getInt8Ty()->getPointerTo()}, false);
345        fOpenFunc = Function::Create(fty, Function::ExternalLinkage, "fopen", mMod);
346        fOpenFunc->setCallingConv(CallingConv::C);
347    }
348    return CreateCall(fOpenFunc, {filename, mode});
349}
350
351Value * CBuilder::CreateFReadCall(Value * ptr, Value * size, Value * nitems, Value * stream) {
352    Function * fReadFunc = mMod->getFunction("fread");
353    if (fReadFunc == nullptr) {
354        FunctionType * fty = FunctionType::get(getSizeTy(), {getVoidPtrTy(), getSizeTy(), getSizeTy(), getFILEptrTy()}, false);
355        fReadFunc = Function::Create(fty, Function::ExternalLinkage, "fread", mMod);
356        fReadFunc->setCallingConv(CallingConv::C);
357    }
358    return CreateCall(fReadFunc, {ptr, size, nitems, stream});
359}
360
361Value * CBuilder::CreateFWriteCall(Value * ptr, Value * size, Value * nitems, Value * stream) {
362    Function * fWriteFunc = mMod->getFunction("fwrite");
363    if (fWriteFunc == nullptr) {
364        FunctionType * fty = FunctionType::get(getSizeTy(), {getVoidPtrTy(), getSizeTy(), getSizeTy(), getFILEptrTy()}, false);
365        fWriteFunc = Function::Create(fty, Function::ExternalLinkage, "fwrite", mMod);
366        fWriteFunc->setCallingConv(CallingConv::C);
367    }
368    return CreateCall(fWriteFunc, {ptr, size, nitems, stream});
369}
370
371Value * CBuilder::CreateFCloseCall(Value * stream) {
372    Function * fCloseFunc = mMod->getFunction("fclose");
373    if (fCloseFunc == nullptr) {
374        FunctionType * fty = FunctionType::get(getInt32Ty(), {getFILEptrTy()}, false);
375        fCloseFunc = Function::Create(fty, Function::ExternalLinkage, "fclose", mMod);
376        fCloseFunc->setCallingConv(CallingConv::C);
377    }
378    return CreateCall(fCloseFunc, {stream});
379}
380
381Value * CBuilder::CreatePThreadCreateCall(Value * thread, Value * attr, Function * start_routine, Value * arg) {
382    Function * pthreadCreateFunc = mMod->getFunction("pthread_create");
383    if (pthreadCreateFunc == nullptr) {
384        Type * pthreadTy = getSizeTy();
385        FunctionType * funVoidPtrVoidTy = FunctionType::get(getVoidTy(), {getVoidPtrTy()}, false);
386        FunctionType * fty = FunctionType::get(getInt32Ty(), {pthreadTy->getPointerTo(), getVoidPtrTy(), funVoidPtrVoidTy->getPointerTo(), getVoidPtrTy()}, false);
387        pthreadCreateFunc = Function::Create(fty, Function::ExternalLinkage, "pthread_create", mMod);
388        pthreadCreateFunc->setCallingConv(CallingConv::C);
389    }
390    return CreateCall(pthreadCreateFunc, {thread, attr, start_routine, arg});
391}
392
393Value * CBuilder::CreatePThreadExitCall(Value * value_ptr) {
394    Function * pthreadExitFunc = mMod->getFunction("pthread_exit");
395    if (pthreadExitFunc == nullptr) {
396        FunctionType * fty = FunctionType::get(getVoidTy(), {getVoidPtrTy()}, false);
397        pthreadExitFunc = Function::Create(fty, Function::ExternalLinkage, "pthread_exit", mMod);
398        pthreadExitFunc->addFnAttr(Attribute::NoReturn);
399        pthreadExitFunc->setCallingConv(CallingConv::C);
400    }
401    CallInst * exitThread = CreateCall(pthreadExitFunc, {value_ptr});
402    exitThread->setDoesNotReturn();
403    return exitThread;
404}
405
406Value * CBuilder::CreatePThreadJoinCall(Value * thread, Value * value_ptr){
407    Function * pthreadJoinFunc = mMod->getFunction("pthread_join");
408    if (pthreadJoinFunc == nullptr) {
409        Type * pthreadTy = getSizeTy();
410        FunctionType * fty = FunctionType::get(getInt32Ty(), {pthreadTy, getVoidPtrTy()->getPointerTo()}, false);
411        pthreadJoinFunc = Function::Create(fty, Function::ExternalLinkage, "pthread_join", mMod);
412        pthreadJoinFunc->setCallingConv(CallingConv::C);
413    }
414    return CreateCall(pthreadJoinFunc, {thread, value_ptr});
415}
416
417void CBuilder::CreateAssert(Value * const assertion, StringRef failureMessage) {
418    if (codegen::EnableAsserts) {
419        Function * function = mMod->getFunction("__assert");
420        if (LLVM_UNLIKELY(function == nullptr)) {
421            auto ip = saveIP();
422            FunctionType * fty = FunctionType::get(getVoidTy(), { getInt1Ty(), getInt8PtrTy(), getSizeTy() }, false);
423            function = Function::Create(fty, Function::PrivateLinkage, "__assert", mMod);
424            function->setDoesNotThrow();
425            function->setDoesNotAlias(2);
426            BasicBlock * const entry = BasicBlock::Create(getContext(), "", function);
427            BasicBlock * const failure = BasicBlock::Create(getContext(), "", function);
428            BasicBlock * const success = BasicBlock::Create(getContext(), "", function);
429            auto arg = function->arg_begin();
430            arg->setName("assertion");
431            Value * e = &*arg++;
432            arg->setName("msg");
433            Value * msg = &*arg++;
434            arg->setName("sz");
435            Value * sz = &*arg;
436            SetInsertPoint(entry);
437            CreateCondBr(e, failure, success);
438            SetInsertPoint(failure);
439            Value * len = CreateAdd(sz, getSize(21));
440            ConstantInt * _11 = getSize(11);
441            Value * bytes = CreatePointerCast(CreateMalloc(len), getInt8PtrTy());
442            CreateMemCpy(bytes, CreateGlobalStringPtr("Assertion `"), _11, 1);
443            CreateMemCpy(CreateGEP(bytes, _11), msg, sz, 1);
444            CreateMemCpy(CreateGEP(bytes, CreateAdd(sz, _11)), CreateGlobalStringPtr("' failed.\n"), getSize(10), 1);
445            CreateWriteCall(getInt32(2), bytes, len);
446            CreateExit(-1);
447            CreateBr(success); // necessary to satisfy the LLVM verifier. this is not actually executed.
448            SetInsertPoint(success);
449            CreateRetVoid();
450            restoreIP(ip);
451        }
452        CreateCall(function, {CreateICmpEQ(assertion, Constant::getNullValue(assertion->getType())), CreateGlobalStringPtr(failureMessage), getSize(failureMessage.size())});
453    }
454}
455
456void CBuilder::CreateExit(const int exitCode) {
457    Function * exit = mMod->getFunction("exit");
458    if (LLVM_UNLIKELY(exit == nullptr)) {
459        FunctionType * fty = FunctionType::get(getVoidTy(), {getInt32Ty()}, false);
460        exit = Function::Create(fty, Function::ExternalLinkage, "exit", mMod);
461        exit->setDoesNotReturn();
462        exit->setDoesNotThrow();
463    }
464    CreateCall(exit, getInt32(exitCode));
465}
466
467BranchInst * CBuilder::CreateLikelyCondBr(Value * Cond, BasicBlock * True, BasicBlock * False, const int probability) {
468    MDBuilder mdb(getContext());
469    if (probability < 0 || probability > 100) {
470        report_fatal_error("branch weight probability must be in [0,100]");
471    }
472    return CreateCondBr(Cond, True, False, mdb.createBranchWeights(probability, 100 - probability));
473}
474
475Value * CBuilder::CreateCeilLog2(Value * value) {
476    IntegerType * ty = cast<IntegerType>(value->getType());
477    CreateAssert(value, "CreateCeilLog2: value cannot be zero");
478    Value * m = CreateCall(Intrinsic::getDeclaration(mMod, Intrinsic::ctlz, ty), {value, ConstantInt::getFalse(getContext())});
479    Value * isPowOf2 = CreateICmpEQ(CreateAnd(value, CreateSub(value, ConstantInt::get(ty, 1))), ConstantInt::getNullValue(ty));
480    m = CreateSub(ConstantInt::get(m->getType(), ty->getBitWidth() - 1), m);
481    return CreateSelect(isPowOf2, m, CreateAdd(m, ConstantInt::get(m->getType(), 1)));
482}
483
484CBuilder::CBuilder(Module * const m, const unsigned GeneralRegisterWidthInBits, const bool SupportsIndirectBr, const unsigned CacheLineAlignmentInBytes)
485: IRBuilder<>(m->getContext())
486, mMod(m)
487, mCacheLineAlignment(CacheLineAlignmentInBytes)
488, mSizeType(getIntNTy(GeneralRegisterWidthInBits))
489, mFILEtype(nullptr)
490, mSupportsIndirectBr(SupportsIndirectBr) {
491}
Note: See TracBrowser for help on using the repository browser.