对“脑机接口”应该泼一点冷水

美逸君

在“科技巨擘”眼中：世界是抽象的，可以被描绘成数据公式，任何人不过是无数代码里的1和0而已。“脑机接口”在猪身上实验成功了，如果有一天，用在人身上呢？

日前，Elon Musk发布了Neu-ralink“脑机接口”研发的最新进展：在猪身上实验成功，下一步将植入人脑。

看完后，想到：科技发展从来都是双刃剑……上古进入铁器时代，人类开始了王国战争、帝国争霸；近代，火药发明，战乱的破坏力指数级上升；而现代，随着人类分裂原子核，终于拥有了能毁灭人类文明与人类物种自身的手段……那么，AI发展，是否没有任何副作用、反作用？不需付出任何代价？如果存在副作用、反作用，会作用在哪里，代价由谁来承担？

没想到，仅仅一天之后，AI的副作用就砸到我自己头上……社交软件的红包功能被冻结了。原因是：在单位时间内接收红包数量超过了限额。

这种限制，主要是为防止洗钱，譬如：银行对每个账户、每张银行卡每日取现额度有限制，且多笔小额分拆取现，会引发报警。社交软件的AI设计，效仿银行限定了“每日收取红包限额”，却不顾红包总金额：几十笔十几元的红包，总共千把元钱，就触碰了它的预警参数……“咔”把你的功能锁定了。

在网上查解决办法，怎么试都不成。打客服电话，接听的是AI语音，电脑录音播放了很久，主要是新业务推荐，忽悠在他们那里投资理财等等，关于问题的解答就几秒时间，还没听明白就挂了。只好锲而不舍反反复复打，非要挤进人工服务不可。在活人引导下，提交了申请和验证文件，最终问题得以解决。

类似案例，仅在朋友身上就发生过多起，因数额较少，进行司法诉讼划不来，绝大多数人都自认倒霉。

事实证明，至少现价段大部分所谓“AI”不但没有人性，而且真的不够聪明。到目前为止，所有大规模应用的AI，是通过天量统计数据（“大数据”）来编织监控网络，来测算人们行为的概率。

而问题是：这些天量统计数据的获得途径，是否合法？“科技巨擘”们根本不予解释，我们的生活信息成了他们的“商业机密”，但谁授权他们随时监控我们的生活呢？

譬如：人们想去吃湘菜，仅仅因为想吃，不需其它理由，这是人的欲望与自由选择；而AI很可能会猜到你今晚有6成概率去吃湘菜，然后对你进行广告推送。

这并非因电脑具有人类的性灵，而是因其偷偷监控了你的生活规律、消费习惯、支付情况。甚至偷偷入侵了你的手机、银行账户、各种支付手段……长时间的监控和数据收集，描绘出你的生活图谱，因此AI对你的行为进行概率推测。

这不但不智能，反而存在道德隐患，甚至可能涉嫌违法犯罪：公民隐私受到法律保护是通例，是谁给了那些社交软件、购物软件，甚至输入法等等窥探、收集、监控、利用公民隐私进行牟利的权利？

而“科技巨擘”们，在利用我们的信息和隐私、获取超额利润同时，所提供的“AI”服务，往往是即无人工，也不智能，它只是极复杂的程序，大量的数据收集。编程者设定其“一定时限转账超过限额就冻结账号”，AI就执行指令，编程者未设定转账金额多少，AI当然不会思考为何要执行指令。

如果有人每天转账30笔，每笔50万，确有洗钱嫌疑，当然应介入调查。但社交软件的编程者就给AI设置数据：每天收账若干红包，也不管总金额多少，就触及警报线、冻结账号……于是，升斗小民做个小本生意、一天收了几十个红包，每个十几元，“咔”被冻结。

而升斗小民的投诉过程，是何其艰辛！　面对一道一道又一道机器墙，冰冷的电脑界面、手机界面、AI录音，而且这些所谓“AI”都被做成“不是专家不会用”的程度，每个问题每拖延一天解决，那些资金的一天利润，就都进入“科技巨擘”的豪账，积少成多、聚沙成塔！

在“科技巨擘”眼中：世界是抽象的，可以被描绘成数据公式，任何人不过是无数代码里的1和0而已。在“科技巨擘”眼中，只有自己的钱，才是真实的、具象的、不可侵犯的；为自己的利益，任何其它事物，甚至他人的生命都可以被牺牲……减少真人客服，而用“AI”将非专家级用户投诉屏蔽在外，甚至迫使维权者“知难而退”放弃小额资金追讨，这些钱就成了他们的钱了。

如今，Elon Musk又打开了另一个潘多拉魔盒，“脑机接口”在猪身上实验成功了，如果有一天，用在人身上呢？

如果能向人类大脑写入程序，也就可以删除某些记忆、盗取某些信息。那么，掌控人的大脑，就等于掌控了一切。未来世界，会不会发展到：社会管理权+执法权+财产权=AI=“科技巨擘”的意志？　当普通公民的权益受到侵害后，甚至连投诉的意愿都没有，因为AI通过“脑机接口”删除或修改了大脑某个扇区的记忆信息与功能。

这听起来似乎科幻，但回想过去几十年：手机、网购、面对“AI”进行投诉、投诉被“AI”拒之门外、脑机接口……不都是听起来挺科幻的？　不都实现了吗？

毫无疑问，科技当然要发展，大集团当然要获取超额利润，“科技巨擘”们当然是大象，那么我们怎样避免成为蚂蚁的命运呢？

AI发展，是标志性的，其代表着科技发展与法治的博弈。科技发展意味着进步和利润，而法治代表着公正。利益与公正，是人类文明几千年博弈不休的主题，如今，轮到AI在前台、“科技巨擘”在其身后唱双簧演出这场戏，而我们每个人都应该好好想想这一命题。

（作者系历史、军事学者）