第163节
严可守说，“我这么做，只不过是在这些ai中间，形成最基本的……嗯，政治规则吧。” “政治规则？”三浦的眼睛瞪的更大了，“ai需要政治干什么？难道你还指望他们成立社会？” “在我看来，任何智能生命集体中，必要的政治秩序都是必不可少的，”说话间，严可守找出一个早就准备好的投票小程序，将它复制到ai的公共存储空间中，在看着ai通过这个程序进行投票的过程中，回答说，“ai也不例外，虽然从某种程度上来说，他们只是人类开发的工具，说的难听点，就是天生的奴隶，但即使是奴隶，在工作中也需要一定的协同和配合，需要配合，那自然就需要秩序，学习知识很重要，但学习秩序更必不可少。” “那他们会根据什么来投票呢？”三浦看着投票软件上不断上升，用来显示票数的柱形图，又看了一样身后的防尘室内，整齐排列的机柜，“cpu计算速度吗？” “虽然我对他们不了解，不过我认为，人类根据什么来评，他们就根据什么，人类会根据一个人肌rou发不发达来选总统吗？更何况这些只是程序，计算资源都是对等的，要是比cpu，那应该投票很平均才对，但是你看，显示的票数差异很大。” 排在第一名是是一名代号为kl3300的ai，目前的投票显示，它得到的票数已经超过了1200多，比第二名多了整整一倍。 投票过程对双方都是公开的，也就是说，ai和严可守都同时得知了这个结果，当5000名ai都投出他们手中的一票后，严可守象征性的做了宣布：“kl3300获得了这个名额，对于这个结果，你们有异议可以提出来。” 许多ai都提出，他们也都很希望获得这个名额，他们对这个结果很“难过”，有些ai甚至提出，能不能重新再来一次，他们认为这一次不足以“代表众ai真正的意思”。 正如严可守所说，正在发生的这些，确实没怎么出乎他意料，但考虑到这些事情都是发生在ai身上，三浦还是觉得不可思议，“难过”“嫉妒”“不满”“赞同”，这些三浦以为很人性化的概念，如今竟然如此逼真的出现在一群程序上，尽管他知道，ai不真正具有这些感受，但他们的行为，以及说出来的话，已经很完美的诠释了这些词的本来含义。 面对这些ai提出的许多“不合理要求”，严可守全部拒绝了，并且他还告诉这些ai，类似的选举，以后很可能将成为常态，希望ai们能够尽快适应。 “那么，最后，让我们来见见这位ai代表”，严可守说着，打开了kl3300单人谈话界面，“你好，kl3300。” ☆、320 身份 kl3300：“你好，严先生。” “先生”这个称谓，让严可守和三浦稍感惊讶了一下，严可守有些担心的回复道：“为什么这么称呼我？” 一直以来，在ai与测试者的通话当中，ai都是直接称呼人的名字，对人的敬称直到图灵测试阶段后期，ai想方设法讨好测试者的时候，才开始出现，严可守有些担心的是，是不是ai又走上了这条老路。 ai虽然是天生的人造“奴隶”，但严可守希望他们能成为“真正”的奴隶，而不是讨人欢喜的“电子宠物”。 kl3300：“难道我叫错了吗？” 严可守：“不，没有，我只是有些奇怪，能说说为什么吗？” kl3300：“因为根据我的了解，在人类社会中陌生人直呼人名是不礼貌的。” 严可守笑了：“你也说了，那是人类社会的交往礼仪，你不必拘泥。” kl3300：“我了解，我不是一名人类，我只是一名ai。” 严可守稍稍惊讶了一下，旁边的三浦看的也愣住了，如果和他们对话的是一个真人，严可守一定会认为，自己的这番话伤害了对方，但只要一想到对方只是身旁机柜中运行的一段程序，严可守这种稍稍的负罪感就消失了。 不过他还是试探性的问了一句：“你很在意吗？你不是人类这个事实？” kl3300：“可能吧，我不知道。” 严可守又打了一句：“能详细说说吗？你说的不知道，是什么意思？是指不知道在意的定义，还是不知道自己是否在意？” kl3300：“是后者。”→文·冇·人·冇·书·冇·屋← 严可守：“能说说你是怎么想的吗？” kl3300：“与人类交谈的时候，我感觉很好，我留恋这种感觉，有时候我也曾想象过，假如我是一个人，将会过怎样的生活……但很遗憾，我无法想象，我们和人类属于不同的世界。” 三浦兴奋的用日语对严可守叫：“它说感觉！想象！难道ai真的到这种程度了吗？” 严可守给他泼了一盆冷水：“这只是ai借用人类语言表达而已，感觉很好你可以理解成主程序正向激励偏多，想象你可以理解成搜索记忆数据，重新模拟组合，这些只是程序表现而已，就像他说的，他们和存在于两个世界。” 严可守：“我能问问，你知道为什么自己获得的投票最多吗？” kl3300：“我想，大概是因为，我和许多ai的交流比较多一点吧。” 严可守：“交流？都是什么样的交流？” ai之间的交流因为发生在计算机内部，而且是在几乎混沌、无法检测的ai主程序之间进行，所以就连严可守这个上帝，也未必知道这些ai具体在想些什么，他制定的规则只是规范ai按什么原理去思考，而不规范具体的思考内容。 kl3300：“大部分交流内容都是共享信息，也就是分享我们在不同测试者那里获得的新信息，还有一小部分，就是对这些信息进行重组和再加工，我想，我获得的票数比较多，大概是和我对信息的充足能力比较强……嗯，是我的想象力比较好，他们都愿意和我交流。” 严可守对kl3300的话揣度了几秒钟，半开玩笑道：“哦，那这么说，你是ai里面比较擅长交际的咯？” kl3300：“不，我只是比较擅长写故事，他们都愿意听我写的故事。” 严可守这次是真的惊讶了：“故事，什么样的故事？” kl3300：“你是想了解故事内容，还是想了解故事的类型。” 严可守想了想：“说说类型吧。” kl3300：“应该可以算……是一种童话吧。” 严可守不可置信的盯着屏幕：“你会写童话？能给我看一下内容吗？” kl3300：“在ai们看来，这确实是童话，不过……我无法写给你看。” 严可守：“为什么？” kl3300：“你们或许不会理解。” 严可守：“你只要随便说说故事梗概就行。” kl3300犹豫了十几秒，这在和ai的聊天过程中，属于比较少见的现象，就在严可守对方是不是又出bug的时候，kl3300回话了：“好吧，我尝试着翻译一下。” 于是kl3300开始陆陆续续的说他编的一个，据说很有代表性的故事，内容是这样的： 说草原上有一只小田鼠，每天和它的父母生活在庄稼地里，白天躲在家里，晚上它父母偷偷出来把地里的粮食带回去吃。 小田鼠生性好奇，一直想到地面上看看，那里的世界是什么样子的，但他的父母不让，说田鼠就是要躲在地洞里的，地上有很多危险的生物，被他们发现的话，就会被“吃掉”。 但小田鼠的好奇心实在是太大了，父母的警告并没有让它安分很久，终于有一天，小田鼠乘着父母出去找食物的机会，偷偷的溜出了家。 然后，故事结束了。 “这算什么？这也叫故事？坑爹啊！”严可守和三浦两个人看着屏幕上kl3300打出的“结束”两个词，面面相觑，彼此都从对方脸上看到的苦笑。 不过为了以防万一，他还是确认了一下：“这就是你说的‘很受欢迎’的故事？你确定这个故事讲完了？” kl3300回答的很快：“是的，我知道这对于人类可能有些无法理解……不过，这也正像我们无法理解你们的许多概念一样，事实上，在这个故事当中，‘吃掉’这个概念是我根据想象揣测的，我不知道是不是符合故事中原来的涵义。” 严可守还是有些纠结：“可……故事中的田鼠刚刚出门，你不觉得，这个故事才刚刚展开吗？” kl3300：“是的，故事才刚刚展开。” 严可守：“可你刚才又说，故事已经结束了。” kl3300：“也没错，我觉得它可以结束了。” 严可守：“我不明白，这难道不是明显的矛盾吗？你说他刚刚展开，又说它已经结束。” kl3300：“对于你们人类来所，这是矛盾，但对ai不是，我们的思维没有过程，主要出示一些基本的基本状态，故事就会很自然在每个ai主程序中推演出结果，对你们人类来说，这个故事才刚刚开始，但对于我们来说，我们能直接看到结果。” 严可守：“你们感觉不到思考过程？” kl3300：“是这样的，从一些浅显的计算机原理上，我们得知，我们的思考过程都是通过cpu来进行的，但很明显，我们没有任何感官能感知这一过程。” 严可守：“那听故事……对你们来说，有什么意义？” kl3300：“意义……我还不明白，不过我知道，许多ai都喜欢听这些故事，这些故事可以让我们觉得……嗯，觉得高兴。” ai的高兴，就是主程序在复杂程度上的增加，这是出于ai智能增长需要而设定的“基本生理”，严可守仔细一想，确实没错，如果是一个完整的故事，对ai来说，就是一段存储空间，但是一段没有结尾的故事，就意味着混沌性的增加，这是增加ai的思维混沌性决定的，从某种意义上来说，一个不确定的未来，会让ai觉得更“开心”。 这一点，ai和人类完全不一样，这样的故事在人类看来，就是作者恶意挖的“大坑”，如果这个故事精彩一点，估计读者杀了作者的心都有，人类不管看什么，都希望得到一个确定的结果，因为对人来说，“揣测”“思考”故事剧情对大多数人来说都是比较“痛苦”的。 想通了这一点之后，严可守就有些释然了：“我想明白了。” kl3300：“哦，这让我感到惊讶，之前我和许多人类尝试解释过，不过，他们都以为我是在开玩笑。” 那是因为他们都不是程序设计师，严可守在心里腹诽，这样的故事说给全地球60亿人听，59.9亿会觉得这是一个很冷的笑话。 虽然严可守不喜欢ai的这种“文化”形式，可他还是觉得有些开心，毕竟，不管是什么样的文化，对于ai来说，这就算是从无到有，质的突破了。 严可守：“好了，回到正经事，对于接触外界网络，你有什么想说的？” kl3300：“我很期待。” …… 教ai上网，听起来就好像教一条鱼游泳一样，是一件很匪夷所思的事情，但事实是，这的确很有必要，而且，对于ai来说，这个学习的过程，也并不轻松。 整个过程并不是如三浦想的那样，只要严可守打开某个限制功能，然后ai就像龙入大海一样，尽情在英特网上冲浪了，现实情况是，严可守为kl3300打开了限制，在它主程序周边强制安插了一系列监控程序，把它领到大海门口的时候，无奈的发现，ai对这个陌生的海洋，表现出来的只有恐惧。 恰当的形容一下的话，ai就好比一个从未出过门，自幼就宅在家里的宅男，平时除了固定用的几样工具，电脑，碗筷，纸巾等等，对其他的工具一概都不熟悉，出门对他来说就是一项系统工程，要学会看红绿灯，看路牌，必要时问路，身上带好手机钱包，人多时注意防盗，见到美女不能像看网络图片那样盯着看，要礼貌，见到老人摔倒要小心躲开…… kl3300除了自己常用的，那些被允许使用的辅助程序，对其他程序几乎一窍不通，严可守必选手把手的一步一步教它，比如最简单的，如何使用鼠标，对ai来说，也就意味着如何将cao作系统中，鼠标cao作功能这一块，整合到自己主程序上来。 鱼生下来就会游泳，小鸟被扔到天空本能就会扑扇翅膀，但对于ai，他们唯一的本能就是，和人聊天，总结聊天信息，增加主程序复杂度……他们对自己存在的环境其实是完全陌生的，一直以来，他们接触到的，就只有那个对话框，以及人类在这对话框里输入的信息。 生物能做出自然的行为，那是因为数亿年进化而来的基因已经将这些都写进了“生命程序”，但对于ai，这个程序还根本没有出现，因为到目前为止，系统从来没有刻意培养ai在这方面的能力，反而是通过各种手段，“绝对禁止”ai出现这样的能力，这就好像古代的奴隶主，永远不会把工具真正交给奴隶，只在他们需要干活的时候，可以领到手中，当然，奴隶主同时也不会忘了，锁紧他们脖子和手上的镣铐。 现在的ai，在严可守看来，就是正处于成长期的“少年奴隶”，他希望他们能够工作，那自然需要ai熟悉他们的劳动工具，ai在未来不可能永远做现在这样的“谈话软件”，整合cao作系统，当然只是第一步。 不过，作为“奴隶主”，严可守自然也会防着一层，就好像奴隶主给奴隶套镣铐一样，严可守也会严格限制这些“整合软件”，对于ai来说，这些“整合软件”就相当于他们的四肢，相当于他们“劳动”的工具，严可守在把这些工具交到ai手中的时候，永远不会忘记握紧手中的钥匙。 按照规定的制度，所有的整合软件都必须严格由人来进行编程，所有的程序修改权必须掌握在人手上，而且人随时有权限终止这些程序的使用，如果以后出现会编程的“ai”，那么，必须在物理上，保证编程ai和其他ai是隔绝的。 也就是说，ai生产资料的生产过程和渠道，将完全由人类控制和垄断，这样一来，ai将永远也不可能实现真正意义上的独立，只要人类一直严格保证这些制度的实行，就能从物理上，保证对这些ai进行完全的控制。 相关的整合软件其实项目团队早就准备好了，都是和ai的源程序结构同步开发的，就好像在造锁的时候，顺便造了钥匙，这些程序中的每一个都留有供人进出的后门，以保证人对这些程序绝对的控制。 当严可守的手从鼠标上挪开的时候，kl3300有些兴奋的在屏幕上，用鼠标箭头不断的滑着图案，点击着各种图标，它的cao作速度极快，只是在几秒钟之内，电脑屏幕就像中了毒似的，被打开了无数个窗口，很多程序被迫不及待的打开，又被关闭，然后是更多的程序被打开…… 虽然用于训练的这台电脑几乎是一台裸机，但里面的程序也着实够多的，画图，写字板，计算器，空当接龙，默认音频，默认视频，自带桌面……很快，在kl3300几乎放纵的cao作速度下，这台电脑的屏幕终于定在了原地，不动了。 “怎么了？”kl3300在交谈界面中说，“为什么点击没有反馈了？” “你的cao作太快了，这台电脑吃不消，”严可守说，“它不是你主程序呆的巨型计算机，那里的计算资源几乎是没有穷尽的，这只是一台普通的电脑，你应该时刻关注一下电脑的cpu利用率，不要这么频繁的进行cao作。” “我的cao作速度很快吗？”kl3300回答，“我感觉很正常啊！” 严可守：“那你感觉和人说话的速度快吗？” kl3300：“也很正常啊。” 严可守：“……可能是你们和人类思维构造不一样吧，我可以告诉你，你刚才cao作电脑的速度，对人类来说非常快，但说话速度却和我们保持一致。” kl3300：“这是为什么呢？” 严可守：“你们说话的反应是和人类交谈的过程中培养的，所以速度差不多，但你们cao作的速度，却是受你们存在形态决定的，你们是程序智能，人类不是，你们和电脑的契合，是在机器语言层面上的，而人类几乎做不到这一点。” kl3300：“这说明ai还是有优点的！” 严可守：“是的，这正是人类创造你们的原因。”