В английской научной литературе по статистике (прощайте, читатели) различают два термина, который на русский, кажется, переводятся одним и тем же словом «вероятность»: probability и likelihood. Отличие между ними, говоря по-простому, заключается в том, что likelihood оценивает вероятность некоей гипотезы при имеющихся данных Pr(model|data), а probability — вероятность получения таких данных при условии, что гипотеза верна Pr(data|model).
Понять эту замысловатость очень просто, если представить себе эксперта (или даже лидера мнений) в области русского языка. Всякий раз, когда мы видим, или слышим, или читаем такого мыслителя, он говорит о том, как правильно писать слова либо где ставить в них ударения. Это наши данные, data. Что касается нашей гипотезы, model, то она заключается в том, что перед нами действительно эксперт.
Итак, вероятность-probability Pr(data|model) в данном случае будет очень высока: раскрывший рот эксперт неизбежно начнет говорить про норму, а вот вероятность-likelihood Pr(model|data) — наоборот, очень низка: такие разговоры может вести вообще кто угодно.