Dabóczi Tamás, Dobrowiecki Tadeusz, Pálfi Vilmos, Péceli Gábor, Renczes Balázs, Sujbert László, Virosztek Tamás

Mérés- és adattudomány

Válogatott fejezetek


A lebegőpontos aritmetika néhány jellemzője

A modern jelfeldogozó algoritmusok szinte kivétel nélkül digitálisan valósulnak meg. Az algoritmusok programozásakor gyakran élünk azzal a feltételezéssel, hogy az alkalmazott aritmetika kellően pontos, így a végeredmény is pontosnak tekinthető. Ebben az alfejezetben az 5.2.2.-ben tárgyalt szinuszillesztő algoritmusok numerikus, vagyis számítógépes jelfeldolgozáshoz köthető hibáiról mutatjuk meg, hogy még lebegőpontos számábrázolás esetén is jóval nagyobbak lehetnek a vártnál, így az algoritmus pontossága elmaradhat a kívánttól. Hogy ezeket a hibákat jobban megértsük, először vizsgáljuk meg, hogyan tudunk egy számot lebegőpontos aritmetikával ábrázolni.

Mérés- és adattudomány

Tartalomjegyzék


Kiadó: Akadémiai Kiadó

Online megjelenés éve: 2020

ISBN: 978 963 454 379 4

Hivatkozás: https://mersz.hu/meres-es-adattudomany//

BibTeXEndNoteMendeleyZotero

Kivonat
fullscreenclose
printsave