算法与计算机科学simonbyrne.github.io
小心 Fast-Math
Beware of Fast-Math
2021 — 2025，它一次次回到首页
黑点是上首页（≥ 50 分）的那次投稿，空心点是没冲上去的投稿，点越大分数越高。
导读
这篇文章剖析了编译器 fast-math 选项（如 -ffast-math）带来的各种浮点数优化陷阱：它们通过违反 IEEE 754 标准（如假设无 NaN/无穷、允许重排运算、将非规格化数清零等）换取速度，可能在不知不觉中改变程序的数值行为。作者提醒开发者在启用这些选项前要清楚每个标志的具体代价。
为什么经久不衰：浮点优化陷阱不会过时，任何关心数值正确性与性能权衡的开发者都该了解这些编译器标志背后的隐患。
HN 评论精选
fast-math 会抵消数值精度优化工具 Herbie 的改进，两者目标相反
有趣的是：我们在开发 Herbie（一个通过重排数学表达式来减少浮点误差的自动化工具）时发现，fast-math 经常会抵消 Herbie 带来的改进。某种意义上，Herbie 和 fast-math 是对立的：一个让代码更精确（有时更慢，有时更快），另一个让代码更快（有时精度降低，有时反而更高）。
pavpanchekha查看英文原文
Fun fact: when working on Herbie (http://herbie.uwplse.org), our automated tool for reducing floating-point error by rearranging your mathematical expressions, we found that fast-math often undid Herbie's improvements. In a sense, Herbie and fast-math are opposites: one makes code more accurate (sometimes slower, sometimes faster), while the other makes code faster (sometimes less accurate, sometimes more).
调侃这个编译器标志名字的歧义
-funsafe-math-optimizations 这个名字总让我发笑——当然，我想要既有趣又安全的数学优化。
headPoet查看英文原文
-funsafe-math-optimizations always makes me laugh. Of course I want fun and safe math optimisations
将非规格化数清零的收益（可达千倍）与其他 fast-math 陷阱性质不同，需区别看待
文中其他例子都是用严重的数学缺陷换取微小的速度提升，但把非规格化数清零可以带来巨大的速度提升，比如 1000 倍。而且包含非规格化数未必是好的浮点实践——据我所知，它们在 IEEE 754 制定过程中就颇有争议。这里的权衡与其他情况截然不同。
SeanLuke查看英文原文
The other examples he gave trade off significant math deficiencies for small speed gains. But flushing subnormals to zero can produce a MASSIVE speed gain. Like 1000x. And including subnormals isn't necessarily good floating point practice -- they were rather controversial during the development of IEEE 754 as I understand it. The tradeoff here is markedly different than in the other cases.
反方观点：不用 fast-math 也有代价，如无法使用 FMA、errno 检查拖慢速度
唱个反调：也要小心不用 fast-math。让 atan2f 和 sqrtf 之类设置 errno 会走非常慢的路径，在你多半不想要的地方损失大量性能。只要写法小心，大多数数学代码用 fast-math 都没问题。而且没有 fast-math，多数编译器甚至无法使用 FMA 指令（本可带来最高 2 倍的提升），因为无法证明结果相同——FMA 实际上往往更精确，但编译器因缺少 fast-math 而无法提供它。
dmitrygr查看英文原文
Contrarian waypoint: beware of not-fast-math. Making things like atan2f and sqrtf set errno takes you down a very slow path, costing you significant perf in cases where you likely do not want it. And most math will work fine with fast-math, if you are careful how you write it. (Free online numerical methods classes are available, eg [1]) Without fast-math most compilers cannot even use FMA instructions (costing you up to 2x in cases where they could be used otherwise) since they cannot prove it will produce the same result - FMA will actually likely produce a more accurate result, but your compiler is handicapped by lack of fast-math to offer it to you. [1] https://ocw.mit.edu/courses/mathematics/18-335j-introduction-to-numerical-methods-spring-2019/
历次讨论
同类还值得读
位运算技巧集
Bit Twiddling Hacks
斯坦福页面上的经典位运算技巧合集，收录了 popcount、前导/尾随零、位反转、交换、舍入等大量技巧，并附有解释和性能讨论。
算法与计算机科学上首页 8 次 · 2011–2024graphics.stanford.edu编辑精选如何不按平均评分排序
How Not To Sort By Average Rating
经典文章解释了为什么按平均评分排序不可靠：只有少量评价的条目（比如仅一条五星）会轻易排到最前，而评价数量的差异被忽略。
算法与计算机科学上首页 7 次 · 2009–2024evanmiller.org编辑精选数据结构可视化
Data Structure Visualizations
旧金山大学 David Galles 教授制作的数据结构与算法交互式可视化网站，涵盖 B 树、红黑树、排序、图算法等，可逐步操作观察其运行过程。
算法与计算机科学上首页 6 次 · 2011–2021cs.usfca.edu编辑精选1996 年以来的计算机科学最佳论文奖
Best Paper Awards in Computer Science since 1996
Jeff Huang 维护的一个汇总页面，收录了自 1996 年以来计算机科学各主要会议的“最佳论文奖”获奖名单，并按年份和会议整理，方便读者一站式浏览历届获奖论文。
算法与计算机科学上首页 6 次 · 2010–2018jeffhuang.com编辑精选算法（Jeff Erickson）
Algorithms, by Jeff Erickson
伊利诺伊大学 Jeff Erickson 教授的算法课教材，免费在线开放。
算法与计算机科学上首页 5 次 · 2018–2022jeffe.cs.illinois.edu编辑精选