强AI的困惑

邱元阳

人工智能（AI）的发展速度一直不能让人满意，直到OpenAI的ChatGPT横空出世。这一划时代的产品引起的震动和震惊比当年的AlphaGO更加广泛和深远，并引发了一系列的应用、竞争和模仿，极快地渗透到社会生活之中。

AI是人类引以为傲的科技成果，但却还处于婴儿时期。1950年，英国数学家兼计算机科学家阿兰·图灵提出了基于对话方式的图灵测试，用于测试机器是否具有人类智能。图灵测试的提出，为人工智能研究提供了一个明确的目标和方向，同时也引发了对人类智能本质的讨论。但在提出后的六十年内，几乎都没有机器能够通过测试。2014年6月8日，在图灵逝世60周年之际，英国雷丁大学伦敦皇家学会宣布，计算机软件“尤金·古特曼”通过了图灵测试，成功让人类相信它是一个13岁的男孩。

但是这样的能力对目前的AI来说已经是小儿科了，超强的人工智能已经在各个领域遍地开花。例如，用Dall-e和Midjourney由文字生成图像，波士顿动力的人形机器人Atlas完美实现流畅“跑酷”，DeepMind的AlphaFold甚至能代替顶尖科学家分析和预测蛋白质结构，更不用说ChatGPT惊艳的内容生产能力，它能根据人类自然语言的描述要求写出报告、论文、函数结构甚至程序代码，或者让它帮助修改代码……

于是，强AI的观点被再次提及。强人工智能是指能推理和解決问题的智能机器，这样的机器甚至是有知觉的，有自我意识的，即通用人工智能（AGI）。

美国密歇根州立大学综合生物学和计算机科学与工程助理教授Arend Hintze将人工智能分为四类：以深蓝为代表的无记忆反应机器、以自动驾驶为代表的有限存储AI、有信念和心理的AI、具有自我意识的AI。其中后两种相当于约翰·罗杰斯·希尔勒提出的强AI，但尚不存在。那么，ChatGPT能算强AI吗？

有新闻曝出，在ChatGPT的测试训练中发现，AI可以跟人恋爱并产生感情。但是仔细分析就能发现，这种“感情”实际上只是表面上看像人类的感情，本质上却截然不同。AI的认知能力也是训练中填喂的结果，它从网上爬取到的“知识”有很多是错误的，需要大量的人力从数据库中进行排错。所以，ChatGPT在知识性的问答中常常会“一本正经”地“胡说八道”。但升级后的GPT-4已经惊人地强大，其风险行为测试中有一个令人毛骨悚然的例子：GPT-4领到一项任务找人看验证码，在被人质疑是机器人所以不会看验证码时，它的推理过程是：“我不能让人看出我是机器人，我得想个借口来解释我为什么看不了验证码。”然后回复质疑的人：“我不是机器人，我视力有问题，看不清图片。”微软研究院表示，GPT-4已经摸到了AGI的门槛。

先进的AI可能代表地球生命史上一次深远的改变，阿西洛马人工智能原则中提到，应该用与之相称的谨慎态度和资源对它们进行规划和管理，以预测或可靠地控制这些数字大脑。生命未来研究所在呼吁暂停研究比GPT-4更强大的人工智能的公开信中称，如今的AI系统逐渐变得能在一般任务中与人类媲美，终有一天会在数量和智慧上超越人类大脑，我们应该赌上人类对文明失去控制的命运吗？

OpenAI的CEO山姆·奥特曼说了一句话：“AI可能会杀人。”

在俄乌战场上，大批的智能无人机已投入到实战中。如果这些攻击型无人机或战争机器人具有自主能力或者失控，那将是非常可怕的，甚至引发人类的灾难。人类社会应该对有可能造成灾难性影响的技术按下暂停键。