人工智能双刃剑最好别砍到你 强AI发展之路

人工智能一词在2016年走入公众视野。既然世界各地的人们都开始谈论它，那么是否还有必要在此再将之讨论呢？有关AI的话题总聊不够，虽然许多聪明人士认为强AI潜在的价值将会是人类历史上最具革命性的发展成果，但与此同时AI太过强大所带来的风险也引起人们的担忧

人工智能一词在2016年走入公众视野。既然世界各地的人们都开始谈论它，那么是否还有必要在此再将之讨论呢？有关AI的话题总聊不够，虽然许多聪明人士认为强AI潜在的价值将会是人类历史上最具革命性的发展成果，但与此同时AI太过强大所带来的风险也引起人们的担忧。

如今我们已正式步入2017年——有人将之称为AI发展的临界点，或许是时候让我们来严肃探讨一番了。

强AI之路

AI有程度之分。目前世界上的AI水平还是低级的的弱AI（Artificial Narrow Intelligence，ANI）。无论是智能手机里的导航地图，或是前段时间放出大新闻的机器翻译。我们正不断努力发展成强AI（Artificial General Intelligence，AGI）。弱AI只能执行简单任务，强AI能够达到与人类持平的智能水平，可以解决更多问题。强AI之后是超级人工智能（Artificial Super Intelligence，ASI），AI真正的威力将在此展现。

在从弱AI到强AI的路上，人类已经努力了很长时间，至今没人敢说准最终会在什么时间实现。有一个共识认为强AI应该会在未来20～30年实现。不过机器学习的发展可能会让这个时间缩短。

学习之学习

“机器学习”是指通过大数据训练和少量的人工反馈，让计算机自学掌握特定技能的过程。机器学习的概念已经提出了几十年，得益于近几年计算机处理能力和信息积累的增加，机器学习在最近迎来成长。

从亚马逊的智能推荐到Facebook的人脸识别，几乎当下所有科技公司的产品都基于机器学习打造。目前谷歌是该领域的领跑者，谷歌的翻译工具、数字地图和搜索引擎中都有机器学习的应用。

2016年最大的机器学习新闻当属AlphaGo了。这个由谷歌团队打造的AI程序在举世瞩目的围棋人机大战中以4比1的总比分战胜韩国围棋大师李世乭。这是一个里程碑式的事件。围棋以其复杂性著称，围棋步骤的绝对数量比宇宙的原子数还多。

因此不可能以传统的逻辑程序设定每一步的走法，这要求AlphaGo必须拥有一种类人的直觉。虽然很久以前就有计算机程序在国际象棋上战胜人类，但两次胜利的意义不可同日而语。

机器学习应用于AI开发，将形成一个递归循环：程序具有自己学习的能力，并逐渐变的更加强大。其智能水平将呈指数增长。许多人因此表达了AI失控的担忧。在指数发展的前期，AI可能需要十年或更长时间才能达到接近人类的水平，但随后从强AI到超级AI，可能只要几个月甚至几星期就完成了。

这将远远超过人类的适应速度——人类用了几百万年才发展成为地球的主宰者，而今可能在几周之内就被自己的创造物超过了。情况紧迫如此，让人们不得不慎重思考AI的发展。

AI终结人类的方式

长远来看，发展AI对人类意味着什么呢？其实没人能给出肯定答案。超人工智能可能是人类的巨大威胁，也可能作为巨大力量为人所用。关于人类与AI可能爆发的冲突，好莱坞在科幻片中描绘过无数次了。AI研究人员担心的倒不是真的会出现那种人性的冷血杀手屠杀人类。研究人员更担心AI会因其价值观与人类不同而对人类的诉求冷漠以对。比如一个智能水平超出我们想象的AI可能不觉得有必要保证人类的生存，就好比人类总以自己的意愿行事，而将蚂蚁这样的低等生物认作无关紧要。

那就让我们防患于未然，从建造AI的一开始就设定其不能伤害人类。但即使这样也不能保证一个稳妥的未来。危机论者仍然看到发展AI的恶果：自工业革命以来，资本生产和消费构建了现代人类社会，人们工作换取薪水，然后用薪水换取商品。虽然这个系统千疮百孔，但过去几个世纪一直运行着。当机器能取代人类承担所有工作，人的经济价值不复存在。

这并非空说无凭，就拿自动化机器的普及来说，自动化加上其他市场力量——比如全球化——已经加剧了人类社会的不平等。一些工作岗位被机器淘汰，工人失业，甚至引发政治动荡。对此，有种亲科技的看法是：技术淘汰旧岗位，又会带来新的工作机会。这种观点在过去是否正确尚且可疑，在未来它肯定不成立。一些研究表明，照自动化和AI目前的发展速度，世界上一半的工作都将在20年内消失。这些被机器取代的工作不仅仅是低技术含量的苦工，像新闻撰写和写歌填词这样的工作可能也难以幸免。已经有机器被训练撰写新闻稿和谱曲。

后资本主义

面对全民失业潮的窘境，有人提出“普遍基本收入”的解决方案。简单来说，就是政府利用机器生产的巨额财富为人民提供足够的钱，保障日常生活。失业不要紧，政府出钱养大家。这可以看作是升级版的国家福利制度。在此情况下，个人仍然可以寻求工作——为了寻找意义或更好的生活标准，但那是个人的事。

“普遍基本收入”方案得到广泛支持。一些试点计划表明这可能是一个可行的方案。它也可以保障当前资本主义体系的灵活性。对许多老牌福利国家来说，这种方案也是自然而然的选择。不过仍然存在许多问题，比如成本的考虑。但如果自动化能够大大降低生产成本，并不需要再设立形式上的工作。这么一来实现人人康乐的社会的可能性比以往任何时候都高。

在一个快速变化的世界中保护人类，普遍基本收入策略似乎是一个还不错的方案。但当AI发展到超级人工智能的水平时，事情仍然难以想象。若超级AI比较仁慈，它可以在气候变化、医疗等各个方面造福人类。所有人最终生活在一个完全富足的世界，收入和消费的概念都将因过失而被淘汰。资本主义经济奋力发展的最终后果竟然是消灭了自身，这是多么讽刺啊。

AI社会的想象

当下的情况是：工作给人们压力和挑战，人们享受通过奋斗赢得财富和地位。这些东西在AI社会中像空气和水一样无处不在，不再是身份和地位的象征。于是人们开始追求其他目标，通过运动、诗歌来寻求生活意义。AI机器尽管可以在方方面面超过人类，但人类的生活状态仍然得以保留。就像今日，汽车比人类跑得快，但田径比赛仍然被传承。

人们将为了知识本身而追求知识。巴克明斯特·福勒的一句话正像是对此的先见之明：“人真正应该做的事是回到学校去思考，而不是赚钱谋生。”（The true business of people should be to go back to school and think about whatever it was they were thinking about before somebody came along and told them they had to earn a living.）

这听起来像乌托邦，但它真的可以被实现。所有人随心所欲各尽所长，无论是做个艺术家、运动员、哲学家或是四海漂泊浪荡天涯……如果这是发展AI会带来的最终后果，将皆大欢喜再好不过。