$$\lim_{\Delta x \to 0}\frac{\Delta y}{\Delta x}=\frac{dy}{dx}$$
- $\frac{\Delta y}{\Delta x}$表示的是一种平均值
- $\frac{dy}{dx}$表示的是一种瞬时值
导数的几何解释
- 选择函数曲线上的点$P$，其坐标值为$(x_0,y_0)$
- $x_0$沿着x轴（x-axis）移
蒙特卡洛方法（Monte Carlo method），也称统计模拟方法，是二十世纪四十年代中期由于科学技术的发展和电子计算机的发明，而被提出的一种以概率统计理论为指导的一类非常重要的数值计算方法。
蒙特卡洛方法的名字来源于摩纳哥的一个城市蒙特卡洛，该城市以赌博业闻名，而蒙特卡洛方法正是以概率为基础的方法。与它对应的是确定性算法。
蒙特卡洛方法的原理是通过大量随机样本，去了解一个系统，进而得到所要计算的值。
模拟退火算法（Simulated Annealing，SA）的思想最早是由Metropolis等提出的。物理中固体物质的退火过程与一般的组合优化问题之间的相似性，SA是一种由物理退火过程启发的通用优化算法
模拟退火法的物理过程：
遗传算法（Genetic Algorithm, GA）是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型，是一种通过模拟自然进化过程搜索最优解的方法。
遗传算法的关键要素：
核心过程：
