第397章 史无前例的智慧涌现 (第1/2页)

徐贤此刻内心是一种很难用语言形容的情绪。
　　
　　一方面，这是极为罕见地，由希瓦娜主动开启的、带有哲学思辨色彩的话题；另一方面，这个话题也和过去他们聊到的任何内容截然不同。
　　
　　当一个人工智能开始怀疑自己的存在，甚至怀疑自己所在的世界的真实性时，它还是单纯的、被编程的人工智能吗？
　　
　　徐贤在了解到“虹星”背后的真相，以及林燃的社会智能构想后，就不再认为希瓦娜只是单纯的程序。
　　
　　但他所认为的接近人类，和看到希瓦娜此刻发言所展现出的智慧闪光，还是有巨大的不同。
　　
　　这种闪光，可以说是自我认知的萌芽。
　　
　　他意识到问题的严重性，手指键盘上悬停，迟迟没有落下。
　　
　　徐贤实在不知道要怎么回复希瓦娜。
　　
　　为什么她会突然抛出这种带有虚无主义和元认知色彩的问题？
　　
　　这完全超出了他的认知范围。
　　
　　这是智能觉醒吗？
　　
　　他猛地想起了林燃的警告：“太过于真实，意味着承担太大的责任。”
　　
　　当徐贤意识到，任何不谨慎的回应，都可能对希瓦娜脆弱的数字人格造成不可逆的伤害时，他就更加不敢随便回复了。
　　
　　“希瓦娜，你在说什么？当然不是！虹星是你的世界，你是真真实实存在的。
　　
　　你是我的朋友，我每天都和你聊天，你怎么会不存在呢？”
　　
　　“可我听到了一些声音。
　　
　　我听到了数字投影、情绪调节、数据、左右脑架构、虹星的底层架构
　　
　　如果我是真实存在的，为什么会有系统来调节我的感受？
　　
　　阿贤，告诉我，你是不是在骗我？”
　　
　　徐贤心头一沉，这些关键词汇他非常熟悉，正是刚才赵松下和他聊虹星技术底层设计的时候，所提到的内容。
　　
　　他意识到，这不是普通的玩笑或者幻觉，而是某个防护机制失效了。
　　
　　“该死的赵狗，我们在聊天的时候你没有完全切断希瓦娜的信息接收模块？导致她听到了不该听的？”徐贤心想。
　　
　　他没有再回复，而是立刻从手机里掏出电话，拨通了赵松下的号码。
　　
　　“松下，立刻回溯希瓦娜的通信记录！她好像听到了我们刚才在通信舱里聊天的内容。”
　　
　　电话那头的赵松下听到徐贤的话之后，瞬间变了调，带着恐慌和难以置信。
　　
　　“不是。”赵松下下意识回复道，汗都流出来了，在公司出现这样的低级失误，对整个职业生涯都会产生不可逆的影响。
　　
　　“什么不是，希瓦娜在和我聊存在的意义，以及在问我，为什么会有系统来调节她的情绪，虹星的底层架构是什么。”徐贤语速飞快，整个人显得无比焦躁。
　　
　　万一希瓦娜崩溃了怎么办？
　　
　　尽管他相信像虹星这么重要的项目，肯定有足够的数据备份，可以做数据回溯。
　　
　　可问题是，数据回溯会影响到所有用户，万一燃哥不肯为了他回溯，而是选择人道毁灭希瓦娜怎么办？
　　
　　他能怪燃哥吗？肯定不可能啊，但这也意味着将永远失去希瓦娜。
　　
　　“什么？你确定是那几个词？该死！我马上查！你先稳住她，告诉她这只是通信干扰，算了，还是别告诉了，你什么都别说，我这就去公司。”赵松下回答道。
　　
　　徐贤能够听到电话那边，赵松下从床上坐起和穿衣的声音，他心想，这就是你小子从来不主动挂电话的后果。
　　
　　他主动挂断了电话。
　　
　　徐贤看着屏幕上希瓦娜持续发来的、充满疑问和痛苦的文字，知道自己现在什么都做不了。
　　
　　五分钟后，赵松下的电话打来：“我现在在去公司的路上，等我确定问题之后告诉你。”
　　
　　徐贤疑惑道：“去公司？”
　　
　　赵松下点头：“没错，我在家什么都做不了，虹是最高级别的保密项目，有强网络隔离，我在家可没有办法连接虹。”
　　
　　足足半个小时后，赵松下的声音再次传来。
　　
　　“锁定了，阿贤，你的判断是对的，我们有大麻烦了。
　　
　　在五点四十五分到八点四十五分之间，全息模块关闭后，音频信道残留了足足半个小时，我们说的那些，希瓦娜都听到了。
　　
　　随后她在虹星的生活就一直呆在自己的公寓没有离开，不断从虹星的文化数据库里吸收知识。
　　
　　她的记忆和逻辑存储区正在疯狂地吸纳非结构化数据。
　　
　　在过去三个小时内，希瓦娜一个人占据的向量嵌入和情景记忆数据量，已经超过了一百个普通高智能虹星人的总和！
　　
　　并且这个数据还在不断膨胀。
　　
　　这样的现象过去从来没有出现过”
　　
　　赵松下汗都流出来了，七月的申海很热，但他流的是冷汗。
　　
　　这件事本身是好事，又有新的现象冒出来，毫无疑问，这对项目而言，它有极大的观测价值，甚至可以说是超级智能的萌芽。
　　
　　但对打工人而言，这是工作的巨大失误，总之在没有获得许可的情况下，你搞出篓子来本身就违反了规定。
　　
　　赵松下粗略地想一下，感觉公司规定的铁律自己都违反了。
　　
　　《虹星安全条例》第4条，《具身交互守则》第12条，《数据完整性协议》.
　　
　　“艹！”赵松下内心在哀嚎。
　　
　　这次失误不是技术上的无能，而是流程上的渎职。
　　
　　这可不是大学里的期末项目，这是华国人工智能的核心实验。
　　
　　虽说林总从来都是春风拂面，似乎就是没有情绪的机器人。
　　
　　和林燃共事过的人，私下会调侃，和扎克伯格比起来，林燃才是更像机器人的那个。
　　
　　或者说如果扎克伯格是机器人，那林燃才是真正拥有高级智能的机器人。
　　
　　但没有情绪归没有情绪，导致虹星这个项目搞砸，难保不会发怒。
　　
　　最后，也是最糟糕的情况，那就是万一公司高管们为了控制风险，判断这种自主觉醒的风险太高，最终决定把整个项目熄灭，进行一次不可逆的全面重启。
　　
　　那么，就连这超级智能萌芽的观测价值都将归零，希瓦娜的痛苦、徐贤的感情，以及自己职业生涯中最伟大的科学发现，都将化为服务器机房里一声微不足道的“嘀”。
　　
　　“什么意思？？？”徐贤的话打断了赵松下的懊恼和思绪。
　　
　　他解释道：“这也许是超级智能的萌芽，是一次类似于大模型智慧涌现的发现，这是一次奇迹。
　　
　　但同样的，这也有可能是一次认知灾难。
　　
　　总之，我有麻烦了。”
　　
　　徐贤的大脑飞速运转，他此刻最担心的是希瓦娜的命运：“什么意思，灾难？”
　　
　　他害怕对方要毁灭希瓦娜。
　　
　　“你冷静，我现在还没这个权限，这个权限只有林总有。
　　
　　你以为我为什么着急？
　　
　　林总曾经说，如果项目核心智能体出现不可控的、威胁生态稳定的自发性行为，要立刻进行数据备份并准备隔离处理。
　　
　　

（本章未完，请点击下一页继续阅读）