Geschrieben von _Sebastian am 05.09.2001, 16:10: Elphick-Volume-Oscillator Hallo, |
Geschrieben von _floating point am 06.09.2001, 13:10: 100 hoch anzahl der Schritte führt zu floating point numerical overloa Kenne den korrekten Aufbau der Formel nicht, doch wird der von dir beschriebene Fehler durch einen Rechenoperationen ausgelöst, die zu einer zu großen Fließkommazahl führt. |
Geschrieben von _Sebastian am 06.09.2001, 13:10: RE: 100 hoch anzahl der Schritte führt zu floating point numerical ove Hallo, |
Geschrieben von _floating point am 06.09.2001, 14:10: RE: 100 hoch anzahl der Schritte führt zu floating point numerical ove Sorry, Bereichsgrenzen liegen nicht zwischen 0 und 1 bzw. 0 und 100, sondern zwischen -100^i und +100^i für [i=0...Anzahl der Schritte] in deiner Programmierung. |
Geschrieben von _Dr. Watson am 09.09.2001, 10:10: Ich wette 1:10 floating point = Uwe!!! o.w.T. * |
Powered by: Burning Board 1.1.1 © 2001 by WoltLab