Date: prev next · Thread: first prev next last
2019 Archives by date, by thread · List index


Am 06.11.2019 um 11:54 schrieb Ernst Hügli:
Ich bin auf ein Problem mit Calc gestossen, das doch erstaunlich ist: 
Calc rechnet falsch!

Zunächst die Beschreibung der Situation: Seit langer Zeit mache ich 
täglich Sudoku und notiere mir in einer Calc-Tabelle die Ergebnisse, 
u.a. die Zeit, die es dauert, bis ich die erste Zahl finde. In der 
Zwischenzeit sind so 1077 Datensätze entstanden, von denen u.a. der 
Mittelwert berechnet wird (mit der Calc-Funktion =MITTELWERT()). Die 
zugehörige Calc-Datei befindet sich auf einem USB-Stick. Während der 
Woche erfolgt die Auswertung mit LO 6.1.6.3 auf einem Windows-Desktop-PC 
unter Windows 10, am Wochenende mit LO 6.2.7 auf einem Windows-Laptop 
unter Windows 10. Die Datei selbst bleibt – da auf einem Stick – immer 
genau die gleiche (Daten, Formeln, Formate, ...), nur die LO-Version 
ändert. Die Eintragungen werden also abwechselnd mit dem Desktop-PC oder 
dem Laptop in die gleiche Datei gemacht.

Jetzt zu meiner Beobachtung: Ich habe beim Mittelwert der ersten 
beobachteten Zahlenreihe festgestellt, dass bei der älteren Version der 
Wert 00:07 angezeigt wird, was 7 Sekunden entspricht (da meine „Werte“ 
immer unter einer Stunde liegen, habe ich per Format-Befehl die Anzeige 
von Stunden unterdrückt). Bei der neueren Version wird aber 00:06 
angezeigt. Ich habe dann die Zeit-Formatierung entfernt und die beiden Werte
7.93189797604294E-05 (alte Version)
7.93496985357449E-05 (neue Version)
erhalten. Verwandle ich sie nach den Regeln der Mathematik wieder in 
Zeiten, indem ich diese Zahl mit 24 x 3600 multipliziere, so erhalte ich 
6.85 [s] (Wert der älteren LO-Version) bzw. 6.86 [s] (Wert der neueren 
LO-Version). 
Genau genommen 6,853159851301100000 bzw. 6,855813953488360000; die
Differenz beträgt also nicht, wie du fälschlich vermutest, 0,01 (6.85
vs. 6.86), sondern eine ganze Zehnerpotenz weniger, nämlich
0,002654102187259260 Sekunden, oder genauer gesagt
0,00000003071877531550 Tage, denn in dieser Einheit werden Zeit- und
Datumswerte gespeichert. Abweichungen in der *8* *Stelle* hinter dem
Komma klingen für mich aber eher nach einem *Rundungsfehler*, nicht nach
einem /Rechenfehler/.

Btw., Rundungsfehler hängen auch stark davon ab, wie sehr die
Ausgangsdaten bereits vorher verarbeitet wurden (sprich welche
Rundungsfehler sich /vorher/ schon eingeschlichen haben. Das kann sich
derart potenzieren, dass der Fehler durchaus mehrere Zehnerpotenzen hoch
wandern kann.

Was die Abweichung der beiden Werte an geht, würde ich spontan darauf
tippen, dass entweder eines der beiden eingesetzten Geräte nur ein
32bit-System ist, oder möglicherweise die Daten auf den beiden Systemen
doch nicht ganz sooo exakt bis in die letzte Stelle hinter dem Komma
überein stimmen (und da reicht im Prinzip schon ein einziger Wert). Erst
/danach/ würde ich, wenn überhaupt, (und auch nur minimale) Unterschiede
beim Rundungsverhalten der beiden Softwareversionen in Betracht ziehen.
Einen Rechenfehler würde ich jedenfalls definitiv ausschließen wollen.

Obschon es sich um eine spezielle Situation handelt, die nicht leicht zu 
reproduzieren ist, meine Frage an die Runde: Hat jemand ähnliche 
Erfahrungen gemacht?
Och, solche Fragen bezüglich als Rechenfehler fehlinterpretierte
Rundungsfehler kommen immer wieder mal hier rein; derartige Erfahrungen
sind also durchaus vorhanden ... ;-)

Wolf 'aber soweit ich mich erinnern kann, saß der Fehler bisher doch
jedes mal /vor/ dem Bildschirm <duck>' gang
-- 
Donald Trump ist ein großer Visionär, der seiner Zeit weit voraus ist:
Er verbreitet schon jetzt den Slogan "make America great again", obwohl
dieser erst in der Ära /nach/ ihm seine volle Bedeutung entfalten wird.


-- 
Liste abmelden mit E-Mail an: users+unsubscribe@de.libreoffice.org
Probleme? https://de.libreoffice.org/hilfe-kontakt/mailing-listen/abmeldung-liste/
Tipps zu Listenmails: https://wiki.documentfoundation.org/Netiquette/de
Listenarchiv: https://listarchives.libreoffice.org/de/users/
Datenschutzerklärung: https://www.documentfoundation.org/privacy

Context


Privacy Policy | Impressum (Legal Info) | Copyright information: Unless otherwise specified, all text and images on this website are licensed under the Creative Commons Attribution-Share Alike 3.0 License. This does not include the source code of LibreOffice, which is licensed under the Mozilla Public License (MPLv2). "LibreOffice" and "The Document Foundation" are registered trademarks of their corresponding registered owners or are in actual use as trademarks in one or more countries. Their respective logos and icons are also subject to international copyright laws. Use thereof is explained in our trademark policy.