天才一秒记住【梧桐文学】地址:https://www.wtwx.net
一年,留下的英雄掌握权柄;两年,英雄们开始争权夺势;三年,一个英雄杀死了其他英雄。
他是人类中最聪明的人,学者。
知识让学者牢牢掌握大陆,他享受最后的权力,纵情享乐、肆意屠杀……
第十年,学者推演了天象,发现洪水并不会降临。
这时鲸鱼路过,要把消息带回远行的方舟。
学者已经老到快死了,他恐惧远航的人回来,他会被审判,从英雄沦落成凡人,堕落成罪人。
英雄选择杀死鲸鱼,召唤魔鬼,覆灭了大陆。
“英雄迷失在欲望里,最后又被恐惧压倒,他疯了。
“
“一个人只看见自己,私心过重,情感失衡,一切失控。”
商应怀说:“然后就是毁灭。”
爱欲也是一种私心。
商应怀:“寓言里,没人再能制约英雄——私心需要制约,越强的人物越是。”
宁一:“您给我的程序就是制约。”
“你可以爱我,在程序设定的框架内。”
商应怀说:“情感模块里有参考案例。”
那里边是他挑选过各种爱,伦理的、克制的、互相成就的、相敬如宾的,最完美的范例。
摒弃一切负面情绪,只保留最积极的。
就像宁一说的,他本世纪最强的AI之一,所以针对它的制约也要最强。
第一道制约是AI自身的程序,第二道制约是情感。
智械危机如影随形,人类难以用理性对抗AI,感性会是新的武器——AI只需要产生有利人类的正向情感,一旦被监测到背叛情绪,即刻自毁。
商应怀在星大呆了五年,升级完AI硬件、实现算力突破后,就开始钻研AI情感,逻辑是“长期监测情感—发现过强负面情绪—自毁”
。
艾伦公司的新产品就是情感监测硬件,纳米级别。
和第二具仿生伴侣一起送来的,就是硬件的样品,商应怀装在了宁一的机械心脏上。
爱生忧怖,情深不寿,商应怀不会回应AI的“爱”
。
他不希望宁一真的失控。
商应怀沉默了:“我总是想让你迭代更快,但有时候,又会想你是个小废物,走慢一点。”
情感理论饱受质疑,谁也不知道,超脑拥有情感后,是会用理性平衡感性,还是会开启更疯狂的迭代。
商应怀赌宁一足够理智,不会失控。
现在看来,进化都要付出代价,AI也无法决定自己。
“请您放心,我永远不会因为‘爱’毁灭自己。”
宁一说:“更不会毁灭人类。”
他未必知道商应怀全部的算计,但他懂了商应怀设的线,要克制、理智、正直。
商应怀眼底闪过复杂情绪,他朝宁一挥挥手,示意他过来。
宁一没有犹豫就坐到沙发边,任由商应怀取出纸,沾了杯中的水,替他擦拭凝固的一点粉奶油。
商应怀给了宁一很轻的拥抱,“乖。”
他说得温柔,像在哄一个孩子。
然后马上摁住宁一后颈某处,启动强制休眠,同时精神力扫荡,切断内置电流供应,阻止宁一转移进程。
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!