杨文龙的博客 » Blog Archive » 计算机是如何实现微积分的 - 个人技术笔记 - 热爱创新发明，专注机器学习、算法、深度学习、自然语言处理及人工智能

计算机是如何实现微积分的

发布时间：2022-12-14 栏目：AI应用领域, 软件、框架及系统, 软件算法评论：0 Comments

计算机如何计算微积分，从数学角度到计算机角度，本质上是从连续到离散。

第一部分说一下计算机如何进行积分。计算机进行积分的本质就是将积分区域划分成多个区间段，求解每一个区间段的矩形面积进行累加。

第二部分说一下计算机是如何进行微分。求解微分就是给出一个

f (x)

，需要求解这个函数在某个值上的梯度。求解的方法主要分为：数值微分、符号微分、自动微分。自动微分介于符号微分和数值微分之间。在深度学习领域用得太多了，网上可以找到大量的博客介绍。我来提一下符号微分和数值微分。对于一些基础的函数，可以直接知道其

f^{'} (x)

$f'(x) // ]]>$ f'(x) 。比如

s i n (x)

$sin(x) // ]]>$ sin(x) 的微分是

c o s (x)

$cos(x) // ]]>$ cos(x) 。那么只需要计算

c o s (x)

$cos(x) // ]]>$ cos(x) 即可。但并不是所有函数都是可以轻易地知道

f^{'} (x)

$f'(x) // ]]>$ f'(x) 。这个时候就可以使用数值微分，也就是计算

f (x + Δ x) - f (x - Δ x) / 2 Δ x

$f(x+\Delta x)-f(x-\Delta x)/2\Delta x // ]]>$ f(x+\Delta x)-f(x-\Delta x)/2\Delta x 。当然这种方式精度会比较差，所以在深度学习领域一般是用来验证梯度计算是否正确。

参考：

一文读懂自动微分（ AutoDiff）原理 – 知乎 (zhihu.com)

留下评论

You must be logged in to post a comment.

相册集

关于自己

杨文龙，微软Principal Engineering Manager, 曾在各家公司担任影像技术资深总监、数据科学团队资深经理、ADAS算法总监、资深深度学习工程师等职位，热爱创新发明，专注于人工智能、深度学习、图像处理、机器学习、算法、自然语言处理及软件等领域，目前发明有国际专利19篇，中国专利28篇。

联系我

个人技术笔记

welonshen@gmail.com

2015 in Shanghai

个人技术笔记

计算机是如何实现微积分的

留下评论

近期文章

近期评论

文章归档

分类目录

功能

热情读者

作者其他介绍

友情链接

相册集

关于自己

联系我