Abo
  1. Foren
  2. Kommentare
  3. Applikationen
  4. Alle Kommentare zum Artikel
  5. › Microsoft: Excel verrechnet sich…

OT: Zahlendarstellung in OO-Calc (Excel?)

  1. Thema

Neues Thema Ansicht wechseln


  1. OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Wissenschaftler 27.09.07 - 21:24

    Wie kann ich in OpenOffice mit Messwerten rechnen?

    Anscheinend ist in OO 100 = 100,0 = 100,00 = ...

    Das mag zwar mathematisch identisch sein, in den Naturwissenschaften ist es aber nicht; es ist ein signifikanter Unterschied, wenn ich eine Stelle mehr hinter dem Komma genau gemessen habe.

    Und in Calc kann ich nur die Anzeige im Fenster auf die Nachkommastellen einstellen, der gespeicherte Wert bleibt davon unbeeinflusst - es sei denn, ich wähle "Text" als Anzeigewert, aber dann kann ich mit den Werten nicht rechnen!

    Weiß jemand einen Trick wie ich in Calc z. B. "100,0000" auch als Zahlenwert 100,0000 speichern kann (ohne das es auf 100 verkürzt/verfälscht wird)?

  2. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Sir Jective 27.09.07 - 23:09

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Wie kann ich in OpenOffice mit Messwerten
    > rechnen?
    >
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    >
    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.
    >
    > Und in Calc kann ich nur die Anzeige im Fenster
    > auf die Nachkommastellen einstellen, der
    > gespeicherte Wert bleibt davon unbeeinflusst - es
    > sei denn, ich wähle "Text" als Anzeigewert, aber
    > dann kann ich mit den Werten nicht rechnen!
    >
    > Weiß jemand einen Trick wie ich in Calc z. B.
    > "100,0000" auch als Zahlenwert 100,0000 speichern
    > kann (ohne das es auf 100 verkürzt/verfälscht
    > wird)?
    >
    wie soll das gehen?
    wenn der die zahl z.b. im double-precision ieee format ablegt (64bit), dann ist 100 ^= 0x4059000000000000 (intel byte order).
    daran kann man nicht erkennen, mit welcher genauigkeit du gemessen hast.


  3. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: erste Hilfe 28.09.07 - 03:33

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Wie kann ich in OpenOffice mit Messwerten
    > rechnen?
    >
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    >
    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.
    >
    Einstellungen->Calc->Berechnen und dann "Genauigkeit, wie angezeigt" auswählen. Damit wird das Ergebnis allerdings nicht besser, sondern du kannst mit gerundeten Zahlen arbeiten. Intern rechnen die Programme nämlich binär. Excel macht das auch nicht anders.

  4. Trick: Re: OT: Zahlendarstellung in OO-Calc

    Autor: noplease 28.09.07 - 03:44

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Wie kann ich in OpenOffice mit Messwerten
    > rechnen?
    > [...]
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    > [...]
    > es ist ein signifikanter Unterschied, wenn ich
    > eine Stelle mehr hinter dem Komma genau gemessen habe.
    > [...]
    > Weiß jemand einen Trick wie ich in Calc z. B.
    > "100,0000" auch als Zahlenwert 100,0000 speichern
    > kann (ohne das es auf 100 verkürzt/verfälscht
    > wird)?
    >

    Was Du schreibst, hat zunächst einmal mit der mathematischen Genauigkeit zu tun und nicht mit der Zahlendarstellung. Diese beiden Sachverhalte musst Du strikt trennen, um die Lösung für Deine Anforderung zu finden.
    In der richtigen Kombination von Rechengenauigkeit und Darstellungsformat liegt dann das, was Du willst. ;-)

    Zum Schluss soll die Darstellung das Messergebnis in seiner tatsächlichen Genauigkeit zeigen. Das hat mit der Rechengenauigkeit nichts zu tun und geht über das Format der jeweiligen Zelle, z.B. indem Du die Nachkommastellen definierst.
    Das kennst Du, das erläutere ich also nicht weiter.

    Vorher musst Du berücksichtigen, dass die für den Zweck nötigen Funktionen nicht an jeder beliebigen Nachkommastelle verfügbar/anwendbar sind.
    Um also richtig zu rechnen und die in dem Fall z.B. NICHT erwünschte höhere interne Rechengenauigkeit zu eliminieren, musst Du für alle betreffenden Zellen mehrere mathematischen Funktionen in OOo sinnvoll verschachteln. Die dafür jeweils nötige Formel gehört dazu in die beteiligten Zellen.

    Das bedeutet:
    Den jeweiligen Wert mit der Zehnerpotenz der erlaubten Nachkommastellen (Genauigkeit) multiplizieren. Dann mit den anzuwendenden Formel rechnen, danach (je nach Anforderung) den Integer- oder Absolutwert erzeugen und zum Schluss wieder das Komma an die richtige Stelle bringen, indem Du durch die für das Ergebnis korrekte Zehnerpotenz dividierst.

    Es klingt komplizierter als es ist.
    Vereinfacht: man verschiebt das Komma um die erforderlichen Stellen nach rechts, die der gewollten Genauigkeit entspricht. Dann führt man seine Berechnung mit ganzzahligen Werten durch, beseitigt unzutreffende Nachkommastellen mit den üblichen Funktionen und zum Schluss verschiebt man das Komma wieder nach links für den Anzeigewert. Das alles passt als Formel in eine Zelle.
    Dazu das passende Zahlenformat für die Darstellung und fertig.

    Dass man bei den Zehnerpotenzen so gewissenhaft und logisch korrekt vorgehen muss, wie beim Einheitenrechnen, sollte für Dich selbstverständlich sein.

  5. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Der_Ing. 28.09.07 - 08:41

    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...
    >
    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.
    >
    > Und in Calc kann ich nur die Anzeige im Fenster
    > auf die Nachkommastellen einstellen, der
    > gespeicherte Wert bleibt davon unbeeinflusst - es
    > sei denn, ich wähle "Text" als Anzeigewert, aber
    > dann kann ich mit den Werten nicht rechnen!
    >
    > Weiß jemand einen Trick wie ich in Calc z. B.
    > "100,0000" auch als Zahlenwert 100,0000 speichern
    > kann (ohne das es auf 100 verkürzt/verfälscht
    > wird)?

    Ich habe das ganz einfach durch die Verwendung von "=Runden(Wert;Anzahl der Dezimalstellen)" geschafft. Wenn Du entweder die Messdaten erst einmal in eine (Teil-)Tabelle einträgst und dann per Zellbezug die Werte rundest oder erst die Resultate rundest, dann hast Du, was Du wolltest. "Runden" rundet kaufmännisch, "Abrunden" schneidet nach der angegebenen Stellenzahl ab.
    In jedem Falle wird der Betrag gerundet und dann das Vorzeichen wieder eingesetzt. Die kaufmännische Rundung arbeitet im Prinzip so, dass der Wert an der ersten zu entfernenden Stelle um Fünf erhöht und dann der der Schwanz abgeschnitten wird: 1,0450001 -> 1,0455001 -> 1,0455; 1,045001 -> 1,050001 -> 1,05; 1,045001 -> 1,095001 -> 1,0; 1,045001 -> 1,545001 -> 1.

  6. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: Kommatös 28.09.07 - 08:49

    Der_Ing. schrieb:
    > ... und dann der Schwanz
    > abgeschnitten wird ...

    Autsch! :P

  7. Re: OT: Zahlendarstellung in OO-Calc (Excel?)

    Autor: fastix 28.09.07 - 11:29

    Wissenschaftler schrieb:
    -------------------------------------------------------
    > Anscheinend ist in OO 100 = 100,0 = 100,00 = ...

    Also bitte: 100; 100,0; 100,00 sind nur andere Darstellungen desselben Dings: der ganzen Zahl 100 die der Bruchzahl 1000/10 oder 10000/100 nach allen Regeln der Algebra entspricht- was verlangst Du da?

    > Das mag zwar mathematisch identisch sein, in den
    > Naturwissenschaften ist es aber nicht; es ist ein
    > signifikanter Unterschied, wenn ich eine Stelle
    > mehr hinter dem Komma genau gemessen habe.

    Wie wäre es, wenn Du die Messgenauigkeit (Hier wohl die Anzahl signifikanter Stellen) sachgemäß in einer zweiten Spalte erfasst, dann bei der Fehlerabschätzung beachtest und Dein Ergebnis entsprechend ausweist? War das nicht Stoff der 7. oder 8. Klasse in Physik?

    fastix


Neues Thema Ansicht wechseln


Um zu kommentieren, loggen Sie sich bitte ein oder registrieren Sie sich. Zum Login

Stellenmarkt
  1. operational services GmbH & Co. KG, Frankfurt am Main, Wolfsburg, Braunschweig, Berlin
  2. Institut Franco-Allemand de Recherches Saint-Louis, Weil am Rhein
  3. Schöck Bauteile GmbH, Baden-Baden
  4. Hays AG, Stuttgart

Golem pur
  • Golem.de ohne Werbung nutzen

Anzeige
Top-Angebote
  1. (u. a. Lenovo Legion Y530-15ICH für 699€ + Versand - Bestpreis!)
  2. ab 99,00€
  3. (u. a. GTA 5 für 12,99€, Landwirtschafts-Simulator 19 für 27,99€, Battlefield V für 32,99€)


Haben wir etwas übersehen?

E-Mail an news@golem.de


e.Go Life: Ein Auto, das lächelt
e.Go Life
Ein Auto, das lächelt

Das Auto ist zwar klein, bringt aber sogar gestandene Rennfahrer ins Schwärmen: Das Aachener Unternehmen e.Go Mobile hat seine ersten Elektroautos ausgeliefert. In einer Probefahrt erweist sich der Kleinwagen als sehr dynamisch.
Ein Bericht von Werner Pluta

  1. Elektroauto Skoda Citigo e iV soll 265 km weit fahren
  2. Eon-Studie Netzausbau kostet maximal 400 Euro pro Elektroauto
  3. EZ-Pod Renault-Miniauto soll Stadtverkehr in Kolonne fahren

Kontist, N26, Holvi: Neue Banking-Apps machen gute Angebote für Freelancer
Kontist, N26, Holvi
Neue Banking-Apps machen gute Angebote für Freelancer

Ein mobiles und dazu noch kostenloses Geschäftskonto für Freiberufler versprechen Startups wie Kontist, N26 oder Holvi. Doch sind die Newcomer eine Alternative zu den Freelancer-Konten der großen Filialbanken? Ja, sind sie - mit einer kleinen Einschränkung.
Von Björn König


    Homeoffice: Wenn der Arbeitsplatz so anonym ist wie das Internet selbst
    Homeoffice
    Wenn der Arbeitsplatz so anonym ist wie das Internet selbst

    Homeoffice verspricht Freiheit und Flexibilität für die Mitarbeiter und Effizienzsteigerung fürs Unternehmen - und die IT-Branche ist dafür bestens geeignet. Doch der reine Online-Kontakt bringt auch Probleme mit sich.
    Ein Erfahrungsbericht von Marvin Engel

    1. Bundesagentur für Arbeit Informatikjobs bleiben 132 Tage unbesetzt
    2. IT-Headhunter ReactJS- und PHP-Experten verzweifelt gesucht
    3. IT-Berufe Bin ich Freiberufler oder Gewerbetreibender?

    1. ML-Processor: ARMs Smartphone-NPU schafft 5 Teraops pro Watt
      ML-Processor
      ARMs Smartphone-NPU schafft 5 Teraops pro Watt

      Computex 2019 Der ML-Processor ist, der Name impliziert es bereits, für Machine Learning gedacht: Der Funktionsblock von ARM soll neben CPU/GPU in Smartphone-Chips stecken und dort aufwendige Berechnungen bei hochauflösenden Fotos durchführen oder bei der Entsperrung per Gesicht helfen.

    2. Mali-G77: ARMs Valhall-Grafikeinheit ist 40 Prozent flotter
      Mali-G77
      ARMs Valhall-Grafikeinheit ist 40 Prozent flotter

      Computex 2019 Valhall- statt Bifrost-Architektur: ARMs Mali-G77 nutzt eine massiv veränderte Technik mit deutlich breiteren Ausführungseinheiten und eine zusätzliche Cache-Stufe. Daher laufen Spiele gleich 40 Prozent flotter und Machine Learning wird gar um 60 Prozent schneller berechnet.

    3. Cortex-A77: ARM-Kern hat 20 Prozent mehr Leistung pro Takt
      Cortex-A77
      ARM-Kern hat 20 Prozent mehr Leistung pro Takt

      Computex 2019 Mit dem Cortex-A77 hat ARM einen CPU-Kern für das 7-nm-Verfahren entwickelt, der teils ein Drittel flotter ist als der Cortex-A76. Ein Fünftel davon macht die IPC aus, denn der Kern wurde deutlich breiter als bisher.


    1. 06:00

    2. 06:00

    3. 06:00

    4. 03:45

    5. 20:12

    6. 11:31

    7. 11:17

    8. 10:57