どうも結果が安定しないと思ったら、浮動小数点数の足し算の順番が変わることで一見同じに見えるが内部表現的に変わってしまうケースに遭遇していた(しかもその数値は直接的に見えるわけではなく、比較することで結果が分岐するので確率的に違う道を選ぶように見える)。
そしてGoでmapのなかの浮動小数点数を足し合わせるものなので素朴にfor loopで足していくと結果が不安定化するという。浮動小数点数むずかしいねえ
Conversation
Notices
-
Jun Mukai (jmuk@mastodon.cloud)'s status on Wednesday, 21-Jun-2023 10:35:53 JST Jun Mukai - ikeji likes this.