人工智能最终的发展结果会怎样?

《第一财经日报》：那么您理解的人工智能最终的发展结果会怎样?

张亚勤：

刚才我讲了三个层次，前两个层次在未来的十年、二十年机器都会和人一样的聪明，甚至比人更加的智能。第三个层次呢，这个时间还会很长，现在我们机器学习的算法包括深度网络，这个路径并没有一个直接的证据说可以达到哪儿去，人是怎么样感受到自己的，没有办法很清晰的表述出来，所有人能表述出来的东西，最终机器都能够超过。

这个会产生一些新的洞察(insights)，以后有没有可能sillicon会不会和蛋白质结合起来?这是另外一件事，这个要很多年以后了，现在要讨论或者想机器会不会把人类完全颠覆(take over)，这可能还稍微早一点。我倒是觉得有三点应该有所关注。

第一点，人工智能还是要有可控性，可控性就是我们的发明是要为人服务的。任何一个高科技都是一个双刃剑，像我们现在的算法，人工智能我们深度学习更多的是黑盒子，有问题我们不知道怎么去办，就像AlphaGo在第四盘的时候，忽然出问题了，它定义的几率错了，他就完全乱掉了。现在深度学习算法，它怎么学习我们不知道。所以现在微观方面有一个黑盒的问题。宏观方面，我们做东西要可控。就像核一样，可以做核武器也可以做核电站，既可以伤害人类也可以服务人类，所以关于可控性大家已经谈的很多了。

第二点，人工智能在将来的五到十年到二十年，会深度地改变社会的结构，比如说很多的工作就没有了。机器人出现，工厂的工人就不需要了、司机不需要了，很多重复性的脑力劳动者就不需要了。这时，我们需要有意识地提供一些培训，让大家的技能适应新时代的发展。我是乐观的，我相信更多的工作、更好的工作、不同的工作会出现。这个过程可能比想象的要快一些，希望大家没有被淘汰(left behind)。

第三点，我其实是担心机器越来越智能，人会不会更依赖机器。现在我们已经离不开手机了，手机没电了，没有导航就回不了家，也记不住电话号码。作为整个人类来讲，我们会越来越智慧，但是其中大部分的人会不会智力退化，因为不用去想很多事，所有东西会被5%的人设定(program)好，因为机器可以自设定(self-program)，大部分人可能会更加依赖机器智能。我有一位同事，他有句话我认为挺形象的，他在考虑机器会不会取代人类，就像现在就开始考虑火星上的人口问题一样(为时过早)。