Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Microsoft: Excel verrechnet sich…

OT: Zahlendarstellung in OO-Calc (Excel?)

  1. Thema

Neues Thema Ansicht wechseln


  1. OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Wissenschaftler 27.09.07 - 21:24

    Wie kann ich in OpenOffice mit Messwerten rechnen?

    Anscheinend ist in OO 100 = 100,0 = 100,00 = ...

    Das mag zwar mathematisch identisch sein, in den Naturwissenschaften ist es aber nicht; es ist ein signifikanter Unterschied, wenn ich eine Stelle mehr hinter dem Komma genau gemessen habe.

    Und in Calc kann ich nur die Anzeige im Fenster auf die Nachkommastellen einstellen, der gespeicherte Wert bleibt davon unbeeinflusst - es sei denn, ich wähle "Text" als Anzeigewert, aber dann kann ich mit den Werten nicht rechnen!

    Weiß jemand einen Trick wie ich in Calc z. B. "100,0000" auch als Zahlenwert 100,0000 speichern kann (ohne das es auf 100 verkürzt/verfälscht wird)?

  2. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Sir Jective 27.09.07 - 23:09

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Wie kann ich in OpenOffice mit Messwerten
    > rechnen?
    >
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    >
    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.
    >
    > Und in Calc kann ich nur die Anzeige im Fenster
    > auf die Nachkommastellen einstellen, der
    > gespeicherte Wert bleibt davon unbeeinflusst - es
    > sei denn, ich wähle "Text" als Anzeigewert, aber
    > dann kann ich mit den Werten nicht rechnen!
    >
    > Weiß jemand einen Trick wie ich in Calc z. B.
    > "100,0000" auch als Zahlenwert 100,0000 speichern
    > kann (ohne das es auf 100 verkürzt/verfälscht
    > wird)?
    >
    wie soll das gehen?
    wenn der die zahl z.b. im double-precision ieee format ablegt (64bit), dann ist 100 ^= 0x4059000000000000 (intel byte order).
    daran kann man nicht erkennen, mit welcher genauigkeit du gemessen hast.


  3. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: erste Hilfe 28.09.07 - 03:33

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Wie kann ich in OpenOffice mit Messwerten
    > rechnen?
    >
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    >
    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.
    >
    Einstellungen->Calc->Berechnen und dann "Genauigkeit, wie angezeigt" auswählen. Damit wird das Ergebnis allerdings nicht besser, sondern du kannst mit gerundeten Zahlen arbeiten. Intern rechnen die Programme nämlich binär. Excel macht das auch nicht anders.

  4. Trick: Re: OT: Zahlendarstellung in OO-Calc

    Autor: noplease 28.09.07 - 03:44

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Wie kann ich in OpenOffice mit Messwerten
    > rechnen?
    > [...]
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    > [...]
    > es ist ein signifikanter Unterschied, wenn ich
    > eine Stelle mehr hinter dem Komma genau gemessen habe.
    > [...]
    > Weiß jemand einen Trick wie ich in Calc z. B.
    > "100,0000" auch als Zahlenwert 100,0000 speichern
    > kann (ohne das es auf 100 verkürzt/verfälscht
    > wird)?
    >

    Was Du schreibst, hat zunächst einmal mit der mathematischen Genauigkeit zu tun und nicht mit der Zahlendarstellung. Diese beiden Sachverhalte musst Du strikt trennen, um die Lösung für Deine Anforderung zu finden.
    In der richtigen Kombination von Rechengenauigkeit und Darstellungsformat liegt dann das, was Du willst. ;-)

    Zum Schluss soll die Darstellung das Messergebnis in seiner tatsächlichen Genauigkeit zeigen. Das hat mit der Rechengenauigkeit nichts zu tun und geht über das Format der jeweiligen Zelle, z.B. indem Du die Nachkommastellen definierst.
    Das kennst Du, das erläutere ich also nicht weiter.

    Vorher musst Du berücksichtigen, dass die für den Zweck nötigen Funktionen nicht an jeder beliebigen Nachkommastelle verfügbar/anwendbar sind.
    Um also richtig zu rechnen und die in dem Fall z.B. NICHT erwünschte höhere interne Rechengenauigkeit zu eliminieren, musst Du für alle betreffenden Zellen mehrere mathematischen Funktionen in OOo sinnvoll verschachteln. Die dafür jeweils nötige Formel gehört dazu in die beteiligten Zellen.

    Das bedeutet:
    Den jeweiligen Wert mit der Zehnerpotenz der erlaubten Nachkommastellen (Genauigkeit) multiplizieren. Dann mit den anzuwendenden Formel rechnen, danach (je nach Anforderung) den Integer- oder Absolutwert erzeugen und zum Schluss wieder das Komma an die richtige Stelle bringen, indem Du durch die für das Ergebnis korrekte Zehnerpotenz dividierst.

    Es klingt komplizierter als es ist.
    Vereinfacht: man verschiebt das Komma um die erforderlichen Stellen nach rechts, die der gewollten Genauigkeit entspricht. Dann führt man seine Berechnung mit ganzzahligen Werten durch, beseitigt unzutreffende Nachkommastellen mit den üblichen Funktionen und zum Schluss verschiebt man das Komma wieder nach links für den Anzeigewert. Das alles passt als Formel in eine Zelle.
    Dazu das passende Zahlenformat für die Darstellung und fertig.

    Dass man bei den Zehnerpotenzen so gewissenhaft und logisch korrekt vorgehen muss, wie beim Einheitenrechnen, sollte für Dich selbstverständlich sein.

  5. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Der_Ing. 28.09.07 - 08:41

    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    >
    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.
    >
    > Und in Calc kann ich nur die Anzeige im Fenster
    > auf die Nachkommastellen einstellen, der
    > gespeicherte Wert bleibt davon unbeeinflusst - es
    > sei denn, ich wähle "Text" als Anzeigewert, aber
    > dann kann ich mit den Werten nicht rechnen!
    >
    > Weiß jemand einen Trick wie ich in Calc z. B.
    > "100,0000" auch als Zahlenwert 100,0000 speichern
    > kann (ohne das es auf 100 verkürzt/verfälscht
    > wird)?

    Ich habe das ganz einfach durch die Verwendung von "=Runden(Wert;Anzahl der Dezimalstellen)" geschafft. Wenn Du entweder die Messdaten erst einmal in eine (Teil-)Tabelle einträgst und dann per Zellbezug die Werte rundest oder erst die Resultate rundest, dann hast Du, was Du wolltest. "Runden" rundet kaufmännisch, "Abrunden" schneidet nach der angegebenen Stellenzahl ab.
    In jedem Falle wird der Betrag gerundet und dann das Vorzeichen wieder eingesetzt. Die kaufmännische Rundung arbeitet im Prinzip so, dass der Wert an der ersten zu entfernenden Stelle um Fünf erhöht und dann der der Schwanz abgeschnitten wird: 1,0450001 -> 1,0455001 -> 1,0455; 1,045001 -> 1,050001 -> 1,05; 1,045001 -> 1,095001 -> 1,0; 1,045001 -> 1,545001 -> 1.

  6. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Kommatös 28.09.07 - 08:49

    Der_Ing. schrieb:
    > ... und dann der Schwanz
    > abgeschnitten wird ...

    Autsch! :P

  7. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: fastix 28.09.07 - 11:29

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...

    Also bitte: 100; 100,0; 100,00 sind nur andere Darstellungen desselben Dings: der ganzen Zahl 100 die der Bruchzahl 1000/10 oder 10000/100 nach allen Regeln der Algebra entspricht- was verlangst Du da?

    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.

    Wie wäre es, wenn Du die Messgenauigkeit (Hier wohl die Anzahl signifikanter Stellen) sachgemäß in einer zweiten Spalte erfasst, dann bei der Fehlerabschätzung beachtest und Dein Ergebnis entsprechend ausweist? War das nicht Stoff der 7. oder 8. Klasse in Physik?

    fastix


  1. Thema

Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. Pfennigparade SIGMETA GmbH, München
  2. Dataport, verschiedene Standorte
  3. Biotrics Bioimplants GmbH, Berlin
  4. Schaeffler Automotive Buehl GmbH & Co. KG, Bühl

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Spiele-Angebote
  1. (-64%) 6,50€
  2. 21,99€
  3. 137,70€


Haben wir etwas übersehen?

E-Mail an news@golem.de


Acer Predator Thronos im Sit on: Der Nerd-Olymp
Acer Predator Thronos im Sit on
Der Nerd-Olymp

Ifa 2019 Ob wir es nun den eisernen Thron oder den Sitz der Götter nennen: Der Predator Thronos von Acer fällt auf dem Messestand des Herstellers schon auf. Golem.de konnte den skurrilen Stuhl ausprobieren. Er ist eines Gaming-Kellers würdig.
Ein Hands on von Oliver Nickel

  1. Nitro XV273X Acer baut ersten Monitor mit IPS-Panel und 240 Hz
  2. Acer Beim Predator-Notebook fährt die Tastatur wie eine Rampe aus
  3. Geräte für Mediengestalter Acer gibt Verfügbarkeit der Concept-D-Laptops bekannt

FX Tec Pro 1 im Hands on: Starkes Tastatur-Smartphone für 650 Euro
FX Tec Pro 1 im Hands on
Starkes Tastatur-Smartphone für 650 Euro

Ifa 2019 Smartphones mit physischer Tastatur sind oft klobig - anders das Pro 1 des Startups FX Tec. Das Gerät bietet eine umfangreiche Tastatur mit gutem Druckpunkt und stabilem Slide-Mechanismus - wie es in einem ersten Kurztest beweist. Zusammengeklappt ist das Smartphone überraschend dünn.
Ein Hands on von Tobias Költzsch

  1. Galaxy A90 5G Samsung präsentiert 5G-Smartphone für 750 Euro
  2. Huami Neue Amazfit-Smartwatches kommen nach Deutschland
  3. The Wall Luxury Samsungs Micro-LED-Display kostet 450.000 Euro

How to von Randall Munroe: Alltagshilfen für die Nerd-Seele
How to von Randall Munroe
Alltagshilfen für die Nerd-Seele

"Ein Buch voll schlechter Ideen" verspricht XKCD-Autor Randall Munroe mit seinem neuen Werk How to. Es bietet einfache Anleitungen für alltägliche Aufgaben wie Freunde zu finden. Was kann bei dem absurden Humor des Autors schon schief gehen? Genau: Nichts!
Eine Rezension von Sebastian Grüner


    1. Elektromobilität: Stromwirtschaft will keine Million öffentlicher Ladesäulen
      Elektromobilität
      Stromwirtschaft will keine Million öffentlicher Ladesäulen

      Verkehrsminister Scheuer will günstige Elektroautos stärker fördern, Vizekanzler Olaf Scholz fordert "so was wie ein Eine-Million-Ladesäulen-Programm". Doch die Stromversorger warnen vor einer "überdimensionierten Ladeinfrastruktur".

    2. Saudi-Arabien: Drohnenangriffe legen halbe Erdölproduktion lahm
      Saudi-Arabien
      Drohnenangriffe legen halbe Erdölproduktion lahm

      Drohnen aus dem Jemen sollen die wichtigste Erdölraffinerie Saudi-Arabiens in Brand gesetzt haben. Die USA beschuldigen den Iran, die Huthi-Rebellen mit der Waffentechnik ausgerüstet zu haben.

    3. Biografie erscheint: Union lehnt Asyl für Snowden weiter ab
      Biografie erscheint
      Union lehnt Asyl für Snowden weiter ab

      US-Whistleblower Edward Snowden hätte weiterhin nichts dagegen, Russland in Richtung Deutschland zu verlassen. Doch Schutz vor einer Auslieferung in die USA kann er hierzulande nicht erwarten.


    1. 14:21

    2. 12:41

    3. 11:39

    4. 15:47

    5. 15:11

    6. 14:49

    7. 13:52

    8. 13:25