Zenn
浮動小数点数
このトピックを指定するには
浮動小数点数
と入力
Articles
16
articles
Trending
Alltime
Latest
🔢
新しくプログラミング言語を作る際に数値型をどうするべきか
だめぽ
2023/02/27
164
⛳
NaNのビットパターンを使ってWebAssemblyからCPUの命令セットを推測する
だめぽ
2ヶ月前
63
🔢
「0.1 + 0.2 ≠ 0.3」を解明せよ
くすみ
in
ソーシャルデータバンク テックブログ
2024/03/08
39
✨
浮動小数点演算の結果が環境依存なのはどんなときか
だめぽ
2ヶ月前
31
😺
C言語における浮動小数点演算の短縮 (contract) とそれに対する防衛術
だめぽ
1ヶ月前
29
🌟
IEEE 754の十進浮動小数点数の基本
だめぽ
2023/01/22
19
😺
C言語において浮動小数点数の足し算は可換か：FMAがある場合
だめぽ
1ヶ月前
9
📘
浮動小数点数の丸めの相対誤差を計算機イプシロンで評価する
だめぽ
2023/01/10
11
🦁
Lua 5.1/5.2/LuaJITの%演算子と浮動小数点数の罠
だめぽ
2023/02/11
8
🔢
ざっくりと、しかしある程度理解しておく、浮動小数点数のビット表現
gtnao
in
株式会社primeNumber
2024/05/04
6
⛳
Arm32のSIMD (NEON) と非正規化数
だめぽ
2024/01/31
6
📚
半精度（16ビット）浮動小数点数をC言語から使う
だめぽ
5ヶ月前
4
⏱️
【Unity】時間経過によるシェーダーの_Timeの精度低下を検証
masamin
in
リリテックラボ
2024/05/02
3
📝
PHPで浮動小数点数を文字列に正しくキャストする
Genki Sano
2023/04/01
5
🌊
浮動小数点数計算のPython、Java、C#での実装について
shui2022
2022/10/25
1
🔢
浮動小数点数の情報落ちと最近接丸めと丸め誤差と
masamin
in
リリテックラボ
2024/05/04
1
