华人澳洲中文论坛

热图推荐

    手工演算一个只要两层的神经网络,来演示神经网络如何任务

    [复制链接]

    2023-3-5 06:49:31 15 0

    咱们将使用只要两层、每层两个神经元的很小的一个神经网络,来演示神经网络如何任务。


    两个输出值分别为1.0和0.5。而链接的权重,使用随机初始值。每个节点使用激活函数,将输出转变为输入。
    在这个小型的神经网络中,因为衔接每一个层中两个节点的组合就只要四种衔接形式,因此只要四个权重。下图标出了咱们以后所知的一切数字。


    上面开始计算。
    第一层输出层很容易,此处,无需进行计算。
    接上去的第二层。关于这一层的每个节点,咱们需求组合第一层的两个输入
    好比,第二层的第1个节点:
    x = (第一层第1个节点的输入*链接权重)+(第一层第2个节点的输入*链接权重)=(1.0 * 0.9)+(0.5 * 0.3)= 0.9 + 0.15 = 1.0
    而后,使用激活函数y = 1 /(1 + e -x )计算该节点的输入。你能够使用计算器算一下。谜底为 y = 1 /(1 + 0.3499)= 1/ 1.3499 = 0.7408
    一样的办法,计算第二层的第2个节点的输入。


    下一步,将神经网络的输入值与训练样本中的输入值进行对比,计算出误差。而后使用这个误差值来调剂神经网络自身,进而改进神经网络的输入值。
    还记得上一篇吗【AI编程入门】一文带你入门AI神经网络编程思想
    根本思绪仍是同样的。然而,那时咱们只是按照误差调理单个的输出参数。当输入和误差是多个节点独特作用的后果时,咱们如何更新链接权重呢?


    这个有两个参数,W1,1和W2,1,该如何按照误差进行调剂呢?
    根本的思绪是为较大链接权重的衔接调配更多的误差。
    这里有两个节点对输入节点的信号做出了奉献,它们的链接权重分别是3.0和1.0。按权重比例联系误差,那末咱们就能视察到输入误差的3/4应该能够用于更新第一个较大的权重,误差的1/4 能够用来更新较小的权重。也就是无功受禄嘛。


    咱们能够将一样的思想扩展到多个节点。假如咱们具有100个节点链接到输入节点,那末咱们要在这100条链接之间,根据每条链接对误差所做奉献的比例(由链接权重的大小表现),联系误差。
    总结一下
    咱们在两件事件上使用了权重。第一件事件,在神经网络中,咱们使用权重,将信号从输出向前传布到输入层。此前,咱们在少量地做这个任务。第二件事件,咱们使用权重,将误差从输入向后传布到网络中。咱们称这类办法为反向传布

    发表回复

    您需要登录后才可以回帖 登录 | 立即注册

    返回列表 本版积分规则

    :
    注册会员
    :
    论坛短信
    :
    未填写
    :
    未填写
    :
    未填写

    主题29

    帖子38

    积分170

    图文推荐