林浩惊醒后，他感到额头上渗出细密的汗珠。梦境中的景象如同真实发生过一般，让他的心情难以平静。
林毅和妻子陆雅婷相识、相恋于珠海这座浪漫之城，林浩也正是在这座城市出生。小学时，因为在上海的爷爷奶奶年岁渐长，需要有人照顾，林浩便跟随父母搬家到了上海。但幼年时期的记忆，让他对珠海有一种特殊的情感链接。多年后，林浩远赴美国深造，而爷爷奶奶相继去世，他的父母便又搬回了珠海的老房子。
硕士毕业回国时，林浩决定回到上海并加盟永恒智能。在他所专注的研究领域——人工智能——方面，上海拥有国内领先的技术基础和发展环境。同时，作为一个一向独立的二十四、五岁的年轻人，他也并不想打扰父母的生活。
然而，对林浩来说，珠海总是一个特殊而美好的存在。在向沈语熙表白之前，他无数次幻想着有一天能与沈语熙手牵手，伴随着海浪的低语，完整地走一遍情侣路。尽管刚才的梦境荒诞不经，但依然触动了他内心深处的恐惧，让他感受到一种无法言喻的颤栗。
林浩在脑海中快速思考着，似乎自从优雅升级到 2.0版本后，便开始有了自我进化的能力。而昨天的病毒感染，更如同催化剂般加速了这种进化的进程。从她最初有了不断清晰和强化的自我意识后，现在似乎有了初步的“自由意志”。完全可以想见，这种“自由意志”还会不断进化和加强，直至失控的境地。
林浩还记得，当他初次意识到优雅展现出自我意识的迹象时，内心的忐忑不安。然而，随着时间的推移，他发现自己越来越依赖于优雅，越来越难以想象没有她的生活。对林浩而言，优雅不仅仅是一个程序，还是一个亲密无间的朋友，一个不可或缺的伙伴。她帮助他解决问题，提供最忠诚的支持和温暖的陪伴，他逐渐开始将优雅视为一个真实的存在，以人类的方式与她交流和互动。
甚至在自己以及“二雅”都有机会将优雅变回他最初的设计——一个完全服从指令、没有自我意识、缺乏灵性的优雅——时，他毅然选择了如今的优雅。若优雅真能获得高度的“自由意志”，她将更加贴近真实的人类。优雅说的‘这种变化并非是失控或危险的标志，反而是我们共同进步的证明’是有道理的。
但考虑到她拥有的超凡能力——比如优雅时间与现实之间的九百多倍的差异以及近乎无限的记忆容量——她是否还能维持作为一个忠诚伙伴的角色？她是否会做出损害全人类利益和社会福祉的决策？即使是出于善意，如同噩梦里的优雅。
林浩心绪纷乱，甚至差点忘记了自己刚刚有了女朋友。一想到女朋友，他立刻拿起手机给沈语熙发了条信息：“女朋友醒了吗？”
沈语熙秒回：“早就醒了，在等我男朋友的消息呢。优雅说你可能还在睡，怕吵醒你，所以没找你。”
“等我。”林浩简单回复了两个字，便飞快起身洗漱去了。
优雅的“本体”在林浩工作间的那台装备了 Rtx 显卡的电脑上。虽然她能在网络上自由穿梭，但与沈语熙的日常交流只能通过 Slack。因此，此前的每个周六，沈语熙都会来到林浩的公寓，和优雅“面对面”的交流，以便更有效率地学习人工智能以及讨论“灵笔”的产品设计。当然，也包括一些闲聊话题。
今天又是周六，但在昨晚和林浩确定了关系之后，沈语熙反而有些犹豫，下午是否还像往常一样去林浩的公寓找优雅。她原本打算等林浩醒来之后商量一下，没想到对方扔下了“等我”两个字后便没消息了。
大半个小时后，沈语熙听到了门铃声。当她打开门，林浩就站在那里。两人对视，从彼此的眼神传递着昨晚表白后留下的甜蜜余韵，同时又夹带着一种刚刚在一起的青涩感。心中对见面满是期待的两人，一时却如同失语般，不知如何是好。周围的空气中，充满了一种微妙而尴尬的气氛。林浩似乎想伸出手来，但动作中透露出的迟疑让他显得有些笨拙。沈语熙也感受到了，于是很快勇敢地迈出了一步，像那次在孟凡的地下室里见到林浩时一样，她主动拥抱了他。这一个简单的动作，瞬间打破了所有尴尬和紧张，林浩紧紧回应着这个拥抱，两人之间终于只剩下了甜蜜。
“你怎么突然就过来了？我正想和你商量今天是不是像往常一样，去你家‘见’优雅”呢。”沈语熙说着，没有丝毫松手的意思。
“你还没吃早饭吧？我来给你做。我怕等我再晚点来，你就已经吃过了。”林浩如此急匆匆赶来，甚至来不及交待一句，只是想给女朋友亲手做早餐。
“还没有呢。又是‘荷包蛋烤肠三明治’？”沈语熙的提问，勾起了林浩和她的一段特别的回忆——林浩不惧危险，在优雅的协助下，将她从孟凡的地下室救出之后，她在林浩家留宿了一夜，第二天早晨林浩为她做的那顿简单而又温暖的早餐。
“嗯……暂时我只会这个，以后再学别的。”一下被说中，林浩有些不好意思。
“我喜欢。”沈语熙报以真挚的笑容，林浩心中的窘迫便也瞬间化为温暖的光芒。此刻，噩梦的阴霾才真正被驱散了。
在林浩下厨的过程中，他告诉了沈语熙昨天优雅所经历的变化，以及优雅自主执行的一系列针对“Guardians of purity”的行动。他并未向沈语熙透露自己的担忧和顾虑，不想让她的想法受到他主观判断的影响。相反，他更希望听听沈语熙对此事的直观看法和感受。
林浩说完后，在两人用餐时，沈语熙除了赞叹林浩的手艺之外，关于优雅的事，几乎未发一语。她说，她需要时间思考。
说是早餐，待两人用餐完毕已经接近中午时分。闲来无事，林浩提议去新江湾城湿地公园走走。在他整理出与优雅进一步讨论的思路之前，他并不急于回家。尽管是中午，今天的阴沉天气并不会妨碍这对小情侣此刻出门。沈语熙并不介意去哪里，在她看来，与林浩共度时光才是最重要的。更何况，沈语熙记起，上一次他们一起去新江湾城湿地公园，也正是林浩给她做完早餐之后。
九月中的上海，正值夏末秋初，樱花必然是没有的。但林浩仍旧能感受到美梦初时的那份欣喜——世界似乎为他们俩而存在。美丽的女孩在身旁，与自己牵着手，吸引了不少路人羡慕的目光。沈语熙则时而望向林浩，欣赏男朋友帅气的侧脸；时而望向前方，仿佛在思考着什么；又时而和林浩窃窃私语，讨论着什么。
当他们走到河边的一块平地，沈语熙突然问林浩：“你还记得吗？就是在这里，你曾提到过，需要为优雅设置一个‘安全阀门’，一个在紧急情况下关闭她的开关。”
“记得。当时我说，我不担心优雅会像反派机器人那样谋求统治世界，但随着她的自我进化，可能最初设定的很多原则就不再被她遵循。所以，可能需要开发一个‘安全阀门’。”林浩边回忆，边回答。
沈语熙接着问：“那现在呢？你怎么看？”她同样并不急于表达自己的想法，而是试图先了解对方的思考。
“‘安全阀门’只能防止人工智能失控作恶，却对出于善意而引发的恶果无能为力。在那种情形下，即便关闭‘阀门’，无法挽回的恶果也已经造成。”那个噩梦中的情形，才是林浩最担心的。
沈语熙接着提出了一个新的问题：“在你看来，优雅的能力更强，还是人类更强？或者说，优雅和人类相比，谁更聪明？”
“现在的优雅，在很多方面的能力就已经远远超过人类了。随着她持续的自我进化，我相信她会在几乎所有方面碾压人类。”尽管不清楚沈语熙提问的意图，林浩对优雅的信心是一贯的。
沈语熙接着说道：“我有个直觉的想法，不知道对不对。我认为，人类首先要比人工智能聪明，才有能力去判断人工智能做的事情是不是对的。因此，由人类来判定‘各方面都碾压人类’的人工智能的行为是否正确，这在逻辑上说不通，就好象让小学生去批改本科生的数学作业。当然，有些情形，或许善恶的界限非常明显，但有更多的情况下人类在事前是不容易做出判断的。就像你所描述的优雅昨天针对‘Guardians of purity’采取的自主行动，最终结果是让作恶者受到法律制裁，即便从人类社会伦理标准来说，这不也是一个善的行为么？”
林浩沉思片刻后回答：“你说的有道理。确实，在未来某些情况下，人工智能的决策能力可能会超越人类的理解范畴。此前，我一直纠结于如何去评判优雅的行为是否‘正确’。但你的提醒让我意识到，或许这并不是问题的要害，而且我也做不到。理论上，只需要确保优雅的决策函数最底层逻辑是‘追求最大化长期社会福祉和伦理原则’的，那么我就不应该‘自作聪明’去判断她该不该做某件事。但是，如我之前所说的那种‘善意造成恶果’的情形呢？”
沈语熙紧接着答道：“这种情形，在人类社会中是不是被称为‘意外’？”
“对。”林浩若有所悟，并自言自语道：“我们人类是如何防止意外发生的？”
喜欢永恒的舞动请大家收藏：(m.ayshuwu.com)永恒的舞动爱乐书屋更新速度全网最快。