AI 与机器学习web.stanford.edu编辑精选
语音与语言处理(第三版草稿,2017)
Speech and Language Processing, 3rd ed. draft (2017)
2018 — 2025,它一次次回到首页
黑点是上首页(≥ 50 分)的那次投稿,空心点是没冲上去的投稿,点越大分数越高。
导读
这是 Jurafsky 与 Martin 经典教材《Speech and Language Processing》第三版草稿的官方页面,按章提供 PDF,覆盖语音识别、自然语言处理与语言模型等主题。第三版尚未全部完成,页面上有计划章节表;它是很多人系统学习 NLP 的入口。
为什么经久不衰:作为长期免费公开的经典教材草稿,它体系完整、被反复推荐,今天仍是 NLP 入门与查漏补缺的常备参考。
HN 评论精选
指出书中 Kneser-Ney 未处理未登录词,并给出包含未知 token 的递推扩展。
万一有人想重新实现未修改的 Kneser-Ney 算法[0],书中给出的表述没有考虑查询中不在词表里的未知 token。我在这里把递推式扩展到包含未知 token 的自然闭包:https://github.com/jhanschoo/HMMTagger/blob/master/readme.pdf。这件事本身不难,但否则你可能要花一两个小时(很可能更多)才能得到它并证明其正确性,因为我在 Google 搜索中找不到这种扩展,原论文里也没有描述。我相信把它同样扩展到 modified Kneser-Ney 也会很直接。[0]: 使用多个折扣值的 Chen & Goodman 修改版被视为表现更好的平滑方法,如今更流行。
jhanschoo查看英文原文
On the slim chance that someone here wants to re-implement the unmodified Kneser-Ney algorithm[0], the presentation of it by the book does not account for unknown tokens in the query not in the vocabulary. I extended the recurrence to its natural closure including unknown tokens here [https://github.com/jhanschoo/HMMTagger/blob/master/readme.pdf]. A straightforward task, but it might take you an hour or two (probably more) otherwise to obtain it and prove its correctness, seeing as I couldn't find an extension in a Google search nor is it described in the original paper as well. I believe that it would likewise be straightforward to extend this to modified Kneser-Ney as well. [0]: The modification of using multiple discount values due to Chen & Goodman is regarded as a more well-behaved smoothing, and more popular today.
建议链接官方网页而非 PDF,并把标题改为第三版草稿。
为什么要链接到 PDF?网页 https://web.stanford.edu/~jurafsky/slp3/ 直接链接到 PDF,并提供背景和其他下载选项。从 PDF 回到网页并不容易。版主:我会改链接,标题改成“……第三版草稿”。其他人:有明显 HTML 页面可链时,请不要链 PDF。
imurray查看英文原文
Why link to the pdf? The webpage https://web.stanford.edu/~jurafsky/slp3/ links directly to the PDF, and gives context and other download options. It's not so easy to go back from the PDF to the webpage. Mods: I'd change the link, and the title to "...3rd Edition draft". Everyone else: please stop linking to PDFs when there is an obvious html page to link to instead.
提醒第三版仍是未完成草稿,计划章节表在官网。
注意第三版还没有完全完成。计划章节的完整目录在这里:https://web.stanford.edu/~jurafsky/slp3
lgessler查看英文原文
Note that the 3rd edition isn't entirely finished yet. A full table of planned chapters is here: https://web.stanford.edu/~jurafsky/slp3
推荐 Paul Taylor 的语音合成书,称其更偏工程。
我觉得 speech and language processing 是我学位课程中最有意思的课程之一。最近我决定再看看语音合成,发现 Paul Taylor 有一本关于这个主题的书(http://svr-www.eng.cam.ac.uk/~pat40/ ,草稿 PDF 在 http://svr-www.eng.cam.ac.uk/~pat40/ttsbook_draft_2.pdf)。在这个领域里,它比其他书更偏工程实践。
zerkten查看英文原文
I found speech and language processing to be one of the most interesting courses of my degree. Recently I decided to take a look at speech synthesis again and discovered a book by Paul Taylor on this subject (http://svr-www.eng.cam.ac.uk/~pat40/ and draft PDF at http://svr-www.eng.cam.ac.uk/~pat40/ttsbook_draft_2.pdf). It is more engineering focused than other books in this area.
历次讨论
同类还值得读
如何写一个拼写纠正器
How to Write a Spelling Corrector
Peter Norvig 用一个几十行的 Python 程序演示如何做拼写纠正:先用编辑距离(删除、插入、替换、换位)生成所有可能的候选词,再用从大量文本中统计出的词频概率,选出…
AI 与机器学习上首页 10 次 · 2007–2022norvig.com编辑精选面向黑客的概率编程与贝叶斯方法
Probabilistic Programming and Bayesian Methods for Hackers (2013)
《黑客的贝叶斯方法与概率编程》是一本开源的贝叶斯统计入门书,以 Python/PyMC 代码和交互式 Jupyter Notebook 为主线,强调“先实践、后数学”的学习路径,…
AI 与机器学习上首页 5 次 · 2013–2018camdavidsonpilon.github.io编辑精选神经网络黑客指南
Hacker's Guide to Neural Networks
Andrej Karpathy 写的神经网络入门教程,面向程序员,从最简单的表达式求导讲起,逐步推导出反向传播和梯度下降,最后引出神经网络。
AI 与机器学习上首页 4 次 · 2014–2019karpathy.github.io编辑精选神经网络能逼近任意函数的可视化证明
A visual proof that neural nets can approximate any function
这一章来自 Michael Nielsen 的在线书《Neural Networks and Deep Learning》,用 sigmoid 单元叠加成局部隆起/平滑阶跃的图示…
AI 与机器学习上首页 4 次 · 2014–2022neuralnetworksanddeeplearning.com编辑精选论乔姆斯基与统计学习的两种文化
On Chomsky and the Two Cultures of Statistical Learning
Norvig 回应 Chomsky 对统计语言模型批评的文章,围绕“统计学习能否解释语言”展开,比较生成与解释、少参数模型与 Shannon 式高参数统计模型。
AI 与机器学习上首页 4 次 · 2011–2025norvig.com编辑精选