ArrayArrayArrayArray BrainModular BrainModular Users Forum 2011-09-18T13:14:13+02:00 https://brainmodular.org/forums/app.php/feed/topic/3150 2011-09-18T13:14:13+02:00 2011-09-18T13:14:13+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21286#p21286 <![CDATA[problème récurrent, précision et arrondi]]> en effet en sortant des tout mes sous patchs un "data out" pour régler la "precision" de tout les éléments (obligatoire dans mon cas car la precision est variable), le problème disparait de lui même.
C'était simple mais j'y avais pas pensé avant.
Je voulais pas avoir l'air de dire du mal de usine je l'aime beaucoup ce logiciel,
mes critiques sont souvent le fruit de mon ignorance mais c'est un peu la raison de ce forum il me semble.
Merci à tous et bon patch...

Statistics: Posted by jeanrene — 18 Sep 2011, 13:14

]]> 2011-09-16T23:18:48+02:00 2011-09-16T23:18:48+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21273#p21273 <![CDATA[problème récurrent, précision et arrondi]]>
(A/B)xB
avec A une valeur quelconque
et B (0,1 ou 0,01 ...)

le résultat n'est pas égal à A
or (A/B)xB=A
Je ne suis pas spécialiste, mais ça doit venir du nombre de décimales considéré par usine (problème d'ailleurs identique sur n'importe quel calculateur) ?

Avec des valeurs simples de A (nombres entiers à 1 ou 2 chiffres), tu dois bien obtenir (A/B)*B = a quand même ?

Mais pour A une valeur qui utilise toutes les décimales utiles, en divisant par B (donc en multipliant par 10, 100, 1000...) tu perd 1, 2, 3... décimales de départ. D'où la différence finale.

D'un autre côté, si tu veux arrondir à 0,001 près, les décimales perdues ne devraient pas avoir d'importance, non ? La fonction round sur 1000*A ne te donne pas exactement ce que tu veux ?

Statistics: Posted by djPESSOA — 16 Sep 2011, 23:18

]]> 2011-09-16T14:55:25+02:00 2011-09-16T14:55:25+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21263#p21263 <![CDATA[problème récurrent, précision et arrondi]]> si y'a une astuce je suis toujours interessé,

les valeurs admises que je recherchais n'existe pas, pour simplifier au maximum les patchs j'utilise les valeurs:
0.5
0.25
0.125
0.0625
0.03125

ces valeurs semblent faire des résultats moins anarchique.

Statistics: Posted by jeanrene — 16 Sep 2011, 14:55

]]> 2011-09-16T12:03:46+02:00 2011-09-16T12:03:46+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21262#p21262 <![CDATA[problème récurrent, précision et arrondi]]>
la fonction round arrondi à 1 près, j'arrive également à arrondir à 0,125 avec un patch simple
j'aimerai pouvoir arrondir à
0,1
0,01
0,001
0,0001
0,00001


exemple du problème:

(A/B)xB
avec A une valeur quelconque
et B (0,1 ou 0,01 ...)

le résultat n'est pas égal à A
or (A/B)xB=A

J'ai toujours cru que le "data out" fesait cet arrondi avec la fonction precision mais il ne semble que afficher cet arrondi mais envoi la valeur à rallonge.

exemple: 0,1=0.100000001490116

je suppose que ces valeurs à rallonge sont dues à la base même du fonctionnement d'usine (supposition seulement),
s'il n'y a pas de solution quelles sont les valaurs proches admises par usine,
par exemple en suposant que 0,125 est proche de 0,1 quelles sont les valeurs proches de
0,01
0,001
0,0001
0,00001

Statistics: Posted by jeanrene — 16 Sep 2011, 12:03

]]> BrainModular BrainModular Users Forum 2011-09-18T13:14:13+02:00 https://brainmodular.org/forums/app.php/feed/topic/3150 2011-09-18T13:14:13+02:00 2011-09-18T13:14:13+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21286#p21286 <![CDATA[problème récurrent, précision et arrondi]]> en effet en sortant des tout mes sous patchs un "data out" pour régler la "precision" de tout les éléments (obligatoire dans mon cas car la precision est variable), le problème disparait de lui même.
C'était simple mais j'y avais pas pensé avant.
Je voulais pas avoir l'air de dire du mal de usine je l'aime beaucoup ce logiciel,
mes critiques sont souvent le fruit de mon ignorance mais c'est un peu la raison de ce forum il me semble.
Merci à tous et bon patch...

Statistics: Posted by jeanrene — 18 Sep 2011, 13:14

]]> 2011-09-16T23:18:48+02:00 2011-09-16T23:18:48+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21273#p21273 <![CDATA[problème récurrent, précision et arrondi]]>
(A/B)xB
avec A une valeur quelconque
et B (0,1 ou 0,01 ...)

le résultat n'est pas égal à A
or (A/B)xB=A
Je ne suis pas spécialiste, mais ça doit venir du nombre de décimales considéré par usine (problème d'ailleurs identique sur n'importe quel calculateur) ?

Avec des valeurs simples de A (nombres entiers à 1 ou 2 chiffres), tu dois bien obtenir (A/B)*B = a quand même ?

Mais pour A une valeur qui utilise toutes les décimales utiles, en divisant par B (donc en multipliant par 10, 100, 1000...) tu perd 1, 2, 3... décimales de départ. D'où la différence finale.

D'un autre côté, si tu veux arrondir à 0,001 près, les décimales perdues ne devraient pas avoir d'importance, non ? La fonction round sur 1000*A ne te donne pas exactement ce que tu veux ?

Statistics: Posted by djPESSOA — 16 Sep 2011, 23:18

]]> 2011-09-16T14:55:25+02:00 2011-09-16T14:55:25+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21263#p21263 <![CDATA[problème récurrent, précision et arrondi]]> si y'a une astuce je suis toujours interessé,

les valeurs admises que je recherchais n'existe pas, pour simplifier au maximum les patchs j'utilise les valeurs:
0.5
0.25
0.125
0.0625
0.03125

ces valeurs semblent faire des résultats moins anarchique.

Statistics: Posted by jeanrene — 16 Sep 2011, 14:55

]]> 2011-09-16T12:03:46+02:00 2011-09-16T12:03:46+02:00 https://brainmodular.org/forums/viewtopic.php?t=3150&p=21262#p21262 <![CDATA[problème récurrent, précision et arrondi]]>
la fonction round arrondi à 1 près, j'arrive également à arrondir à 0,125 avec un patch simple
j'aimerai pouvoir arrondir à
0,1
0,01
0,001
0,0001
0,00001


exemple du problème:

(A/B)xB
avec A une valeur quelconque
et B (0,1 ou 0,01 ...)

le résultat n'est pas égal à A
or (A/B)xB=A

J'ai toujours cru que le "data out" fesait cet arrondi avec la fonction precision mais il ne semble que afficher cet arrondi mais envoi la valeur à rallonge.

exemple: 0,1=0.100000001490116

je suppose que ces valeurs à rallonge sont dues à la base même du fonctionnement d'usine (supposition seulement),
s'il n'y a pas de solution quelles sont les valaurs proches admises par usine,
par exemple en suposant que 0,125 est proche de 0,1 quelles sont les valeurs proches de
0,01
0,001
0,0001
0,00001

Statistics: Posted by jeanrene — 16 Sep 2011, 12:03

]]>