蒙地卡羅方法
蒙特卡罗方法(英語:),也称统计模拟方法,是1940年代中期由于科学技术的发展和电子计算机的发明,而提出的一种以概率统计理论为指导的数值计算方法。是指使用随机数(或更常见的伪随机数)来解决很多计算问题的方法。
20世纪40年代,在科學家冯·诺伊曼、斯塔尼斯拉夫·烏拉姆和尼古拉斯·梅特罗波利斯於洛斯阿拉莫斯国家实验室为核武器计划工作时,发明了蒙特卡罗方法。因为烏拉姆的叔叔经常在摩納哥的蒙特卡洛赌场输钱得名,而蒙特卡罗方法正是以概率为基础的方法。
与它对应的是确定性算法。
蒙特卡罗方法在金融工程学、宏观经济学、生物医学、计算物理学(如粒子输运计算、量子热力学计算、空气动力学计算)、机器学习等领域应用广泛。[1]
基本概念
通常蒙特卡罗方法可以粗略地分成两类:一类是所求解的问题本身具有内在的随机性,借助计算机的运算能力可以直接模拟这种随机的过程。例如在核物理研究中,分析中子在反应堆中的传输过程。中子与原子核作用受到量子力学规律的制约,人们只能知道它们相互作用发生的概率,却无法准确获得中子与原子核作用时的位置以及裂变产生的新中子的行进速率和方向。科学家依据其概率进行随机抽样得到裂变位置、速度和方向,这样模拟大量中子的行为后,经过统计就能获得中子传输的范围,作为反应堆设计的依据。
另一种类型是所求解问题可以转化为某种随机分布的特征数,比如随机事件出现的概率,或者随机变量的期望值。通过随机抽样的方法,以随机事件出现的频率估计其概率,或者以抽样的数字特征估算随机变量的数字特征,并将其作为问题的解。这种方法多用于求解复杂的多维积分问题。
假设我们要计算一个不规则图形的面积,那么图形的不规则程度和分析性计算(比如,积分)的复杂程度是成正比的。蒙特卡罗方法基于这样的想法:假設你有一袋豆子,把豆子均匀地朝这个图形上撒,然后数这个图形之中有多少颗豆子,这个豆子的数目就是图形的面积。当你的豆子越小,撒的越多的时候,结果就越精确。借助计算机程序可以生成大量均匀分布坐标点,然后统计出图形内的点数,透過它們占總點數的比例和坐标点生成范围的面积就可以求出图形面积。
分子模拟计算的步骤
使用蒙特卡罗方法进行分子模拟计算是按照以下步骤进行的:
- 使用随机数生成器产生一个随机的分子构型。
- 对此分子构型的其中粒子坐标做无规则的改变,产生一个新的分子构型。
- 计算新的分子构型的能量。
- 比较新的分子构型与改变前的分子构型的能量变化,判断是否接受该构型。
- 若新的分子构型能量低于原分子构型的能量,则接受新的构型,使用这个构型重复再做下一次迭代。
- 若新的分子构型能量高于原分子构型的能量,则計算玻尔兹曼因子,并产生一个随机数。
- 若这个随机数大于所计算出的玻尔兹曼因子,则放弃这个构型,重新计算。
- 若这个随机数小于所计算出的玻尔兹曼因子,则接受这个构型,使用这个构型重复再做下一次迭代。
- 如此进行迭代计算,直至最后搜索出低于所给能量条件的分子构型结束。
在数学中的应用
通常蒙特卡罗方法透過构造符合一定规则的随机数来解决数学上的各种问题。对于那些由于计算过于复杂而难以得到解析解或者根本没有解析解的问题,蒙特卡罗方法是一种有效的求出数值解的方法。一般蒙特卡罗方法在数学中最常见的应用就是蒙特卡罗积分。下面是蒙特卡罗方法的两个简单应用:
积分
非权重蒙特卡罗积分,也称确定性抽样,是对被积函数变量区间进行随机均匀抽样,然后对抽样点的函数值求平均,从而可以得到函数积分的近似值。此种方法的正确性是基于概率论的中心极限定理。当抽样点数为m时,使用此种方法所得近似解的统计误差只与m有关(与正相关),不随积分维数的改变而改变。因此当积分维度较高时,蒙特卡罗方法相对于其他数值解法更优。
圆周率
蒙特卡罗方法可用于近似计算圆周率:让计算机每次随机生成两个0到1之间的数,看以这两个实数为横纵坐标的点是否在单位圆内。生成一系列随机点,统计单位圆内的点数与总点数,(圓面積和正方形面積之比為PI:4,PI為圓周率),当随机点取得越多时,其结果越接近于圆周率(然而準確度仍有爭議:即使取10的9次方个随机点时,其结果也仅在前4位与圆周率吻合,以下Python程式碼可提供測試)。用蒙特卡罗方法近似计算圆周率的先天不足是:计算机产生的随机数是受到存储格式的限制的,是离散的,并不能产生连续的任意实数;上述做法将平面分割成一个个网格,在空间也不是连续的,由此计算出来的面积当然与圆或多或少有差距。
import numpy as np
# 生成10的9次方個隨機點
num_points = 10**9
points = np.random.rand(num_points, 2)
# 計算點到原點的距離
distances = np.sqrt(points[:,0]**2 + points[:,1]**2)
# 計算落在單位圓內的點的數量
points_inside_circle = np.sum(distances <= 1)
# 蒙地卡羅方法計算圓周率
pi_estimate = 4 * points_inside_circle / num_points
print(pi_estimate)
在机器学习中的应用
蒙特卡洛方法也常用于机器学习,特别是强化学习的算法中。一般情况下,针对得到的样本数据集建立相对模糊的模型,透過蒙特卡洛方法对于模型中的参数进行选取,使之于原始数据的残差尽可能的小。从而达到建立模型拟合样本的目的。
参见
- 遗传算法
- 粒子濾波器
- 拟蒙特卡罗方法
注释
- Kroese, D. P.; Brereton, T.; Taimre, T.; Botev, Z. I. . WIREs Comput Stat. 2014, 6: 386–392. doi:10.1002/wics.1314.
参考
- Anderson, Herbert L. (PDF). Los Alamos Science. 1986, 14: 96–108 [2018-04-29]. (原始内容 (PDF)存档于2017-07-02).
- Benov, Dobriyan M. . Monte Carlo Methods and Applications. 2016, 22 (1): 73–79 [2018-04-29]. doi:10.1515/mcma-2016-0102. (原始内容存档于2019-06-03).
- Baeurle, Stephan A. . Journal of Mathematical Chemistry. 2009, 46 (2): 363–426. doi:10.1007/s10910-008-9467-3.
- Berg, Bernd A. . Hackensack, NJ: World Scientific. 2004. ISBN 981-238-935-0.
- Binder, Kurt. . New York: Springer. 1995. ISBN 0-387-54369-4.
- Caflisch, R. E. . Acta Numerica 7. Cambridge University Press. 1998: 1–49.
- Davenport, J. H. . Proceeding ISSAC '92 Papers from the international symposium on Symbolic and algebraic computation. 1992: 123 129. ISBN 0-89791-489-9. doi:10.1145/143242.143290.
- Doucet, Arnaud; Freitas, Nando de; Gordon, Neil. . New York: Springer. 2001. ISBN 0-387-95146-6.
- Eckhardt, Roger. (PDF). Los Alamos Science, Special Issue. 1987, (15): 131–137 [2018-04-29]. (原始内容 (PDF)存档于2014-09-09).
- Fishman, G. S. . New York: Springer. 1995. ISBN 0-387-94527-X.
- C. Forastero and L. Zamora and D. Guirado and A. Lallena. . Phys. In Med. And Biol. 2010, 55 (17): 5213–5229. Bibcode:2010PMB....55.5213F. doi:10.1088/0031-9155/55/17/021.
- Golden, Leslie M. . 伊卡洛斯 (期刊). 1979, 38 (3): 451–455. Bibcode:1979Icar...38..451G. doi:10.1016/0019-1035(79)90199-4.
- Gould, Harvey; Tobochnik, Jan. . Reading: Addison-Wesley. 1988. ISBN 0-201-16504-X.
- Grinstead, Charles; Snell, J. Laurie. . 美國數學學會. 1997: 10–11.
- Hammersley, J. M.; Handscomb, D. C. . London: Methuen. 1975. ISBN 0-416-52340-4.
- Hartmann, A.K. . World Scientific. 2009 [2018-04-29]. ISBN 978-981-283-415-7. (原始内容存档于2009-02-11).
- Hubbard, Douglas. . John Wiley & Sons. 2007: 46.
- Hubbard, Douglas. . John Wiley & Sons. 2009.
- Kahneman, D.; Tversky, A. . Cambridge University Press. 1982.
- Kalos, Malvin H.; Whitlock, Paula A. . Wiley-VCH. 2008. ISBN 978-3-527-40760-6.
- Kroese, D. P.; Taimre, T.; Botev, Z.I. . New York: John Wiley & Sons. 2011: 772. ISBN 0-470-17793-4.
- MacGillivray, H. T.; Dodd, R. J. (PDF). Astrophysics and Space Science (施普林格科学+商业媒体). 1982, 86 (2).
- MacKeown, P. Kevin. . New York: Springer. 1997. ISBN 981-3083-26-3.
- Metropolis, N. (PDF). Los Alamos Science. 1987, (1987 Special Issue dedicated to Stanislaw Ulam): 125–130.
- Metropolis, Nicholas; Rosenbluth, Arianna W.; Rosenbluth, Marshall N.; Teller, Augusta H.; Teller, Edward. . Journal of Chemical Physics. 1953, 21 (6): 1087. Bibcode:1953JChPh..21.1087M. doi:10.1063/1.1699114.
- Metropolis, N.; Ulam, S. . Journal of the American Statistical Association (American Statistical Association). 1949, 44 (247): 335–341. JSTOR 2280232. PMID 18139350. doi:10.2307/2280232.
- M. Milik and J. Skolnick. . Proteins. Jan 1993, 15 (1): 10–25. PMID 8451235. doi:10.1002/prot.340150104.
- Mosegaard, Klaus; Tarantola, Albert. (PDF). J. Geophys. Res. 1995, 100 (B7): 12431–12447 [2018-04-29]. Bibcode:1995JGR...10012431M. doi:10.1029/94JB03097. (原始内容 (PDF)存档于2021-03-10).
- P. Ojeda and M. Garcia and A. Londono and N.Y. Chen. . Biophys. J. (Biophysical Society). Feb 2009, 96 (3): 1076–1082. Bibcode:2009BpJ....96.1076O. doi:10.1529/biophysj.107.125369.
- Int Panis, L; De Nocker, L; De Vlieger, I; Torfs, R. . Journal of Vehicle Design. 2001, 27 (1–4): 183–194. doi:10.1504/IJVD.2001.001963.
- Int Panis, L; Rabl, A; De Nocker, L; Torfs, R. P. Sturm , 编. . Mitteilungen Institut für Verbrennungskraftmaschinen und Thermodynamik (Technische Universität Graz Austria). 2002,. Heft 81 Vol 1: 48–54.
- Press, William H.; Teukolsky, Saul A.; Vetterling, William T.; Flannery, Brian P. . Fortran Numerical Recipes 1 Second. 劍橋大學出版社. 1996 [1986]. ISBN 0-521-43064-X.
- Ripley, B. D. . 約翰威立. 1987.
- Robert, C. P.; Casella, G. 2nd. New York: Springer. 2004. ISBN 0-387-21239-6.
- Rubinstein, R. Y.; Kroese, D. P. 2nd. New York: John Wiley & Sons. 2007. ISBN 978-0-470-17793-8.
- Savvides, Savvakis C. . Project Appraisal Journal. 1994, 9 (1). doi:10.2139/ssrn.265905.
- Sawilowsky, Shlomo S.; Fahoome, Gail C. . Rochester Hills, MI: JMASM. 2003. ISBN 0-9740236-0-4.
- Sawilowsky, Shlomo S. (PDF). Journal of Modern Applied Statistical Methods. 2003, 2 (1): 218–225.
- Silver, David; Veness, Joel. (PDF). Lafferty, J.; Williams, C. K. I.; Shawe-Taylor, J.; Zemel, R. S.; Culotta, A. (编). . Neural Information Processing Systems Foundation. 2010 [2018-04-29]. (原始内容 (PDF)存档于2012-05-25).
- Szirmay-Kalos, László. . VDM Verlag Dr. Mueller e.K. 2008. ISBN 978-3-8364-7919-6.
- Tarantola, Albert. . Philadelphia: Society for Industrial and Applied Mathematics. 2005 [2018-04-29]. ISBN 0-89871-572-5. (原始内容存档于2021-02-25).
- Vose, David. Third. John Wiley & Sons. 2008.