FacebookAI创造会算高数的神经网络体现碾压MATLAB

已然你点开了这篇文章，阐明你对自己的数学才能很有自傲，那先来做个数学题吧！

看到下面这个一阶微分方程了吗？求 y 的通解。你有 30 秒的时刻，用什么办法都能够，凭借 Mathematica，MATLAB 或许 Maple 这样的核算东西都行，写代码的时刻不算在内，只计入核算时刻。

…

…

…

…

…

正确答案是：

答对了吗？假如没有也不要伤心，这个方程十分难解，即使是 MATLAB 和 Mathematica 这样强壮的数学运算软件在 30 秒之内也解不出来。

不过，Facebook AI 的研讨人员 Guillaume Lample 和 Fran ois Charton 开发了一套新算法，能够在数秒内求解相似的方程。他们练习了一套神经网络来履行必要的符号推理和数学运算，初次完结了数学表达式的微分和积分。

这项效果是迈向更强壮的数学推理东西的重要一步，也是运用神经网络的新办法。

在发现和辨认规矩上，神经网络能够有很好的体现，因而咱们用它来履行面部辨认、物体辨认和自然言语辨认等使命。

可是虽然付出了很大尽力，依然没人练习出一套能够高效完结数学类象征性推理使命的神经网络。在这方面，神经网络乃至比不上小学生的水平，最好成果是学会整数的加法和乘法。

和人类相似，关于神经网络来说，剖析高档数学表达式的难点之一在于解析式子中的简写方式。举个比方，x3 代表了 x 乘以 x 乘以 x，其间的 “乘法” 代表了重复的加法，而 “加法” 自身又代表了两个变量之和。

因而，一条看似简略的数学表达式，可能是由一系列更简略的数学运算高度精简之后得出的。

想让神经网络 “把握” 这种逻辑十分困难。假如他们不明白简写的意义和规矩，那么就简直学不会怎么运用它们，更不用说求解了。实际上，人类也有相似的问题，但处理办法一般是从小就开端灌注，构成习气。

假如掀开数学简化规矩的面纱，从实质上来讲，微分和积分的运算进程会涉及到规矩辨认。这给了神经网络发挥的时机，只需处理了简化的难题。

Lample 和 Charton 提出了一种高雅的处理办法，把神经网络的数学水平从小学提高到了大学。

他们先将数学表达式拆分为多个基本单位，然后教神经网络怎么辨认积分和微分中包括的数学运算方式，最终再用全新的表达式测验网络的体现，与传统运算东西 Mathematica 和 MATLAB 的体现进行比照。

在第一步中，研讨人员采用了树状结构拆分表达式。树叶代表数字、常量和变量，比方 2 和 x，节点则代表运算符号，比方 + 和 -。

例如，表达式 2 + 3 x (5+2)能够分解成：

更杂乱的表达式 3x2+cos(2x)-1 能够写成：

假如不同树的数学运算成果相同，那么它们就被视为是相同的，比方 2+3 和 1x5 是相同的。

这样一来，表达式的简化就等同于找到数的较短等价表明办法，许多数学运算就更好处理了。

这些树也能够写成多个节点接连组成的序列，而现有的一种名为 Seq2Seq 的模型正好能够很好地处理序列方式的信息。

实际上，Seq2Seq 一般用于机器翻译，将一长串的单词从一种言语翻译成另一种言语。“咱们的办法实质大将数学视为一种自然言语，”两名研讨人员表明。

图 | 拆分更杂乱的表达式

下一步是练习进程，这需求很多的数据支撑。Lample 和 Charton 经过从二进制运算符库中随机组合数学表达式来创立新的数据库，其间包括加减乘除、三角函数、变量和常数等等。他们还约束了树的节点数量，避免方程变得过于巨大。

针对随机生成的表达式，他们运用核算东西对其积分和微分。任何不能被积分的表达式都会被丢掉。

经过这样的操作，研讨人员生成了超大规模的练习数据集，包括 8 千万个一阶和二阶微分方程，2 千万个分部积分表达式。

神经网络运用这些数据进行练习，学习怎么对给定数学表达式求导或积分。

为了测验神经网络的体现，研讨人员运用了它从没见过 5000 个表达式。它的核算成果还会与现有干流数学核算东西 Mathematica，MATLAB 和 Maple 进行比照，限时 30 秒得出核算成果。这些核算东西运用的算法是美国数学家 Robert Risch 在 1960 时代提出的简化版别。

图 | 神经网络与三种干流核算东西的体现比照

测验成果显现，神经网络模型的准确率显着优于 Mathematica，在积分使命上的准确率高达 99.6%，而 MATLAB 和 Maple 乃至还不如 Mathematica，跟神经网络更没有可比性。

在许多情况下，传统核算东西在测验 30 秒之后底子无法得出成果，而神经网络只需求 1 秒。文章最初的表达式便是其间之一。

另一个风趣的发现是，神经网络一般会找到相同问题的不同解，由于表达式有许多种不同的写法。这让研讨人员感到惊奇。

图 | 传统核算东西 30 秒之内算不出成果的表达式

“该模型在未经针对性练习的情况下就能找到等效表达式，十分吸引人，”Lample 和 Charton 表明，“据咱们所知，现在还没有针对神经网络检测数学表达式方式才能的研讨。这是一个重大突破。”

研讨人员没有泄漏 Facebook AI 会怎么运用这套算法。不过他们都认为，在日趋杂乱的核算数学国际中，愈加强壮的运算才能是必不可少的，在规范数学运算框架下引进神经网络必会成为未来的趋势。

-End-

翻译：Ren

参阅：

https:///s/614929/facebook-has-a-neural-network-that-can-do-advanced-math/