Bicsák György

Mérnöki számítások


Lebegőpontos ábrázolás és lekerekítési hibák

Mivel a számítógépek csak véges számú digitet képesek tárolni és megjeleníteni, így a számokat oly módon érdemes tárolni, hogy az csak egy adott (fix) mennyiségű digitet használjon erre a célra. Ennek következtében a számítástechnikában alapvetően kétfajta ábrázolás terjedt el: a fixpontos és a lebegőpontos számábrázolás. Az első esetben a számok tárolásakor meghatározásra kerül, hogy hány tizedesjegyet szeretnénk tárolni, például: 4,0000; -129,1012; 0,0023. Ekkor a 4 tizedesjegy akkor is felhasználásra kerül, ha egész számot akarunk eltárolni. A lebegőpontos ábrázolás esetén pedig meghatározott számú digiteket tárol a karakterisztikából, így például:

Mérnöki számítások

Tartalomjegyzék


Kiadó: Akadémiai Kiadó

Online megjelenés éve: 2019

ISBN: 978 963 454 281 0

Habár az egyetemi tanulmányaink alatt viszonylag széles körű matematikai ismeretek kerülnek átadásra, azok gyakorlati használhatósága sokszor nem teljesen egyértelmű, vagy csak későbbi tanulmányok során kerülnek elő.

Az egyes numerikus módszerek lényege, hogy az egzakt, olykor igen bonyolult és műveletigényes matematikai megoldás helyett egy aritmetikai egyenletekből felépülő algoritmus segítségével a pontos eredményt csak megközelítsük valamilyen pontossággal.

A félév során kezdésként megnézzük azt, hogy numerikus algoritmusok használata során milyen hibákkal kell számolnunk, mi okozza őket, milyen hatása lehet a végeredményre, hogyan terjedhetnek tovább. A további fejezetek 3 fő témakörbe sorolhatók:

- görbeillesztési eljárások;

- numerikus deriválás és integrálás;

- optimalizációs eljárások.

Hivatkozás: https://mersz.hu/bicsak-mernoki-szamitasok//

BibTeXEndNoteMendeleyZotero

Kivonat
fullscreenclose
printsave