Preface ix 1 Combinatorial Analysis1 1.1Introduction 1 1.2The Basic Principle of Counting2 1.3Permutations 3 1.4Combinations 5 1.5Multinomial Coefficients 9 1.6The Number of Integer Solutions of Equations12 2 Axioms of Probability 21 2.1Introduction 21 2.2Sample Spaceand Events21 2.3Axioms of Probability 25 2.4Some Simple Propositions 28 2.5Sample Spaces Having Equally Likely Outcomes32 2.6Probability as a Continuous Set Function 42 2.7Probability as a Measure of Belief 46 3Conditional Probability and Independence56 3.1Introduction 56 3.2Conditional Probabilities 56 3.3 Bayes’s Formula62 3.4 Independent Events 75 3.5 P(·|F)Isa Probability89 4 Random Variables 112 4.1Random Variables112 4.2Discrete Random Variables116 4.3Expected Value 119 4.4Expectation of a Function of a Random Variable121 4.5Variance 125 4.6The Bernoulli and Binomial Random Variables127 4.7The Poisson Random Variable135 4.8Other Discrete Probability Distributions 147 4.9Expected Value of Sums of Random Variables155 4.10Properties of the Cumulative Distribution Function159 5Continuous Random Variables 176 5.1Introduction 176 5.2Expectation and Variance of Continuous Random Variables179 5.3The Uniform Random Variable184 5.4Normal Random Variables187 5.5Exponential Random Variables197 5.6Other Continuous Distributions203 5.7The Distribution of a Function of a Random Variable208 6Jointly Distributed Random Variables220 6.1Joint Distribution Functions220 6.2Independent Random Variables228 6.3Sums of Independent Random Variables239 6.4Conditional Distributions: Discrete Case 248 6.5Conditional Distributions: Continuous Case 250 6.6Order Statistics256 6.7Joint Probability Distribution of Functions of Random Variables260 6.8Exchangeable Random Variables267 7 Properties of Expectation280 7.1Introduction 280 7.2Expectation of Sums of Random Variables281 7.3Momentsof the Number of Eventsthat Occur298 7.4Covariance,Variance of Sums,and Correlations304 7.5Conditional Expectation 313 7.6Conditional Expectation and Prediction330 7.7Moment Generating Functions334 7.8Additional Properties of Normal Random Variables345 7.9General Definition of Expecta
前言/序言
前 言 “我們看到,概率論實際上隻是將常識歸結為計算,它使我們能夠用理性的頭腦精確地評價憑某種直覺感受到的、往往又不能解釋清楚的見解……引人注意的是,概率論這門起源於對機會遊戲進行思考的科學,早就應該成為人類知識中最重要的組成部分……生活中那些最重要的問題絕大部分其實隻是概率論的問題.”著名的法國數學傢和天文學傢拉普拉斯侯爵(人稱“法國的牛頓”)如是說.盡管許多人認為,這位對概率論的發展作齣過重大貢獻的著名侯爵說話誇張瞭一些,但是概率論已經成為幾乎所有的科學工作者、工程師、醫務人員、法律工作者和企業傢們手中的基本工具,這是一個不爭的事實.實際上,有見識的人們不再問:“是這樣嗎?”而是問:“有多大的概率是這樣?” 一般方法和數學水平 本書是概率論的入門教材,適用於具備初等微積分知識的數學、統計、工程和其他學科(包括計算機科學、生物學、社會科學和管理科學)的學生.本書不僅介紹概率論的數學理論,而且通過大量例子來展示這門學科的廣泛應用. 內容和課程計劃 第1章闡述瞭組閤分析的基本原理,它是計算概率的最有用的工具. 第2章介紹瞭概率論的公理體係,並且闡明如何應用這些公理進行概率計算. 第3章討論概率論中極為重要的兩個概念,即事件的條件概率和事件的獨立性.通過一係列例子說明:當部分信息可利用時,條件概率就會起作用;即使在沒有部分信息時,條件概率也可以使概率的計算變得容易.利用“條件”計算概率這一極為重要的技巧還將齣現在第7章,在那裏我們用它來計算期望. 第4~6章引入隨機變量的概念.第4章討論離散型隨機變量,第5章討論連續型隨機變量,第6章討論隨機變量的聯閤分布.在第4章和第5章中討論瞭兩個重要概念,即隨機變量的期望值和方差,並且對許多常見的隨機變量求齣瞭相應的期望值和方差. 第7章進一步討論瞭期望值的一些重要性質.書中引入瞭許多例子,解釋如何利用隨機變量和的期望等於隨機變量期望的和這一重要規律來計算隨機變量的期望值.本章中還有幾節介紹條件期望(包括它在預測方麵的應用)和矩母函數.本章最後一節介紹瞭多元正態分布,同時給齣瞭來自正態總體的樣本均值和樣本方差的聯閤分布的簡單證明. 在第8章我們介紹瞭概率論的主要理論結果.特彆地,我們證明瞭強大數定律和中心極限定理.在強大數定律的證明中,我們假定瞭隨機變量具有有限的四階矩,因為在這種假定之下,證明非常簡單.在中心極限定理的證明中,我們假定瞭萊維連續性定理成立.在本章中,我們還介紹瞭若乾概率不等式,如馬爾可夫不等式、切比雪夫不等式和切爾諾夫界.在本章最後一節,我們給齣用有相同期望值的泊鬆隨機變量的相應概率去近似獨立伯努利隨機變量和的相關概率的誤差界. 第9章闡述瞭一些額外的論題,如馬爾可夫鏈、泊鬆過程以及信息編碼理論初步.第10章介紹瞭統計模擬. 與以前的版本一樣,在每章末給齣瞭三組練習題—習題、理論習題和自檢習題.自檢習題的全部解答在附錄B給齣,這部分練習題可以幫助學生檢測他們對知識的掌握程度並為考試作準備. 第9版的特色 第9版繼續對教材進行微調和優化,除瞭大量的小修改使得教材更加清晰外,本版還包括瞭很多新的或更新的練習題和正文內容,內容的選擇不僅因為它們本身的趣味性,更是為瞭用它們來建立學生對概率的直覺.第3章的例3h和例4k就是這個目標的最好例證,例3h介紹雙胞胎同卵的比例的估計,例4k分析發球和接球遊戲. 緻謝 我要感謝下麵這些為瞭改進本教材而慷慨地與我聯係並提齣意見的人們:Amir Ardestani(德黑蘭理工大學),Joe Blitzstein(哈佛大學),Peter Nuesch(洛桑大學),Joseph Mitchell(紐約州立大學石溪分校),Alan Chambless(精算師),Robert Kriner、Israel David(本–古裏安大學),T.Lim(喬治梅森大學),Wei Chen(羅格斯大學),D.Monrad(伊利諾伊大學),W.Rosenberger(喬治梅森大學),E.Ionides(密歇根大學),J.Corvino(拉法葉學院),T.Seppalainen(威斯康星大學),Jack Goldberg(密歇根大學),Sunil Dhar(新澤西理工學院),Vladislav Kargin(斯坦福大學),Marlene Miller、Ahmad Parsian和Fritz Scholz(華盛頓大學). 我也要特彆感謝第9版的審查者:Richard Laugesen(伊利諾伊大學),Stacey Hancock(剋拉剋大學),Stefan Heinz(懷俄明大學),Brian Thelen(密歇根大學).準確性的審查者Keith Friedman(得剋薩斯大學奧斯汀分校)和Stacey Hancock(剋拉剋大學)非常仔細地審查瞭書稿內容,在此也要特彆感謝他們. 最後,我要感謝下麵這些審查者提齣很有用的評論意見,其中第9版的審查者用星號標記. K.B.Athreya(愛荷華州立大學) Richard Bass(康涅狄格大學) Robert Bauer(伊利諾伊大學厄巴納–尚佩恩分校) Phillip Beckwith(密歇根科技大學) Arthur Benjamin(哈維姆德學院) Geoffrey Berresford(長島大學) Baidurya Bhattacharya(特拉華大學) Howard Bird(聖剋勞德州立大學) Shahar Boneh(丹佛大都會州立學院) Jean Cadet(紐約州立大學石溪分校) Steven Chiappari(聖塔剋拉拉大學