问题描述
那就溯源一下历史:
cse.chalmers.se/~coquand/AUTOMATA/mcp.pdf心理学家 Warren McCulloch 和数学家 Walter Pitts 在 1943 年发表的这篇题名为 A Logical Calculus of the Ideas Immanent in Nervous Activity 的论文,就提出了一个简单的基于命题逻辑的神经网络模型来描述大脑的神经网络和神经活动。为现在我们熟知的人工神经网络提供了理论基础。
另外,这篇论文还提出了神经活动中「all-or-none」的特点,与现在的人工神经网络中的激活函数也是同样的原理。