Со случайной величиной x связана функция P(x) называемая вероятностью случайной величины x. Относительно P(x) следует знать следующее: это не отрицательная (принимает только положительные значения), неубывающая (чем больше x, тем больше P(x)) и ограничена 1. Причем вероятность события, равная 1, означает, что событие происходит всегда. Такое событие называется достоверным. Если P(x) имеет производную, то ее производная называется плотностью вероятностей и обозначается j(x).

Под вероятностью P(x) случайного события X для нужд педагогики и спорта достаточно понимать ее допредельное определение: это предел относительной частоты (частного от деления) успешного числа опытов к общему числу опытов при бесконечном увеличении числа опытов. Так например, если мы бросаем монетку, то у нас выпадает либо «орел» либо «решка» и мы говорим, что вероятность появления, например, «орла» равна 1/2. Каждая выборка рассматривается как результат n независимых повторных измерений (x1, …, xn). (По определению два случайных события X1 и X2 называются независимыми (независимыми по вероятности), если вероятность их совместного появления равна произведению вероятностей появления каждого из событий, т.е. появление одного события не связано с появлением другого события).

Пример независимых случайных величин: измерение длины одного прыжка двумя разными приборами. x1, …, xn представляют собой взаимно независимые случайные величины с одинаковой плотностью вероятностей j(x). Такая выборка называется случайной выборкой объема n и представляет собой n-мерную случайную величину (x1, …, xn). Плотность ее распределения называется функцией правдоподобия. Использование функции правдоподобия в статистике является одним из наиболее мощных приемов получения оценок. Главное правило при применении этой функции - знание закона распределения случайных величин, т.е. знание формулы, которой описывается, например, плотность вероятности случайной величины. Наиболее известные законы распределения случайной величины (существуют формулы, описывающие плотности вероятностей, и следовательно, поведение этих величин):