对AI＂出错＂零容忍?美国加强人工智能推理解释能力研究

随着硅谷私企引领人工智能（AI）爆发式发展，美国国防部曾发布报告称，将“立即采取行动”加速AI和自动化技术研发。据《麻省理工技术评论》杂志网站近日报道，美国国防高级研究计划局（DARPA）已经着手资助13个科研团队，赋予AI另一项本领——在机器学习技术基础上拥有更强的推理和解释能力。

深度学习和其他机器学习技术已经大大提高了AI的声音识别和图片分类等能力，并在越来越多领域展开应用。但深度学习技术通常只擅长从大数据中找到线索，理解并得出想要的结论，这是至今无法完成的任务。比如，深度学习系统能识别出照片中的一只猫，但它不能“说出”猫的胡须、眼睛等具体信息，只能给出模棱两可的答案，甚至可能将印有小猫图案的毛毯误认为一只猫。

对于需要识别潜在目标进行攻击的军用AI来说，这类错误和模棱两可是绝对不能容忍的。DARPA项目主管大卫·冈宁说：“在自动驾驶军用汽车和无人机等重要应用领域，AI需要学会推理和解释。因此我们决定加大投入，设计开发出拥有这些能力的全新机器学习方法。”

在获得DARPA研发投入的研究团队中，其中一家公司正在研发的新型深度学习系统，能对分类图片中的每个位置进行分析解释；另一个安装机器学习系统的计算机界面已进入实验阶段，它能对数据、视频和人类语言等进行解释。

德州农工大学胡夏（音译）带领的研究团队也被DARPA选中，他认为，拥有推理解释能力的AI不仅局限于军用，医药、法律和教育领域都对这类错误“零容忍”，只有AI更加可靠，这些领域的专家才会欣然接受AI给出的结果。

（编辑：文章分享网_茂名站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!