AI 黑箱难题怎么破？神经网络模型算法给你答案

• AI
• 黑箱难题
• 机器人

驱动中国2016年11月17 日消息  现在对于AI 完成某项任务已不是什么新鲜事，毕竟在工业、医疗、农业等诸多方面都大放异彩。最近，机器人的大脑又不断被开发，不但开始拥有好奇心来驱动自学，而且还像人们解释为什么作出了某些决策？机器人发展将迎来质的飞跃。

“我们需要质疑为什么算法程序会做出这样那样的决定，如果我们不在 AI 动机解释上花功夫，就无法信任这个智能系统。”卡内基梅隆大学计算机科学教授 Manuela Veloso表示说。

据了解， 创业公司 OptimizingMind 发明了一项能观察智能机器决策过程的技术。　这个算法的目的是创造“透明访问”系统，以呈现机器学习是如何做出预期的。OptimizingMind的负责人 Tsvi Achler 说：“该系统以人脑的神经模型为基础，能把任何深度网络转化为该系统的模式。它的目的是探索 AI 行为的潜在预期，并且找出 AI 思维模式的哪个方面对决策影响最大”。

“我感兴趣的是，大脑和计算机的共同点在哪里？为什么人脑可以在学会任何模型之后把它解释出来。如果我说 ‘章鱼’，你是否能告诉我那是什么？如果我问章鱼触手长什么样，你能告诉我吗？”

当然AI与人类大脑的主要区别之一在于：我们会条件反射地自主去学习，而AI则要有一系列的程序输入，而且牵一发动全身。这种灵活性与自主性对于AI来说还有很大的潜力可以突破。

此外，这个系统的“透明访问“也十分炫酷。这个系统提供了一种实时观察 AI 决策的方法，抓取重点信息上节省大量的时间。它可以程师们大幅减少机器开发的时间，帮企业节省资源。Achler 还表示，在提供透明度之外，这个算法还可以被修改。不但预期（expectations）能被表达出来，每个单独预期还能随着新信息立刻改变。

今天，大多数机器学习的方法使用一个正反馈技术。风险投资公司 Naiss.io 的联合创始人 Ed Fernandez 说，正反馈使用优化过的权重执行任务。在正反馈系统里，独特性信息依据训练中出现的频率被录入权重。这意味着整套训练中的权重必须经过优化。这又意味着可以“根据正在被识别的模式执行优化”，这不是为了权重而优化，而是为了模式识别去优化。

如今，在机器人与商业捆绑日益紧密之时，更加智能细分的机器人已成时下必需，如果能在机器人行动动机上有所突破，那么，未来我们看到的将不再是答非所问跑题王，也不是独臂行天下的低能机器人，而是心灵手巧，知错能改的机器人。