第141章 斯塔克提了一个敏感话题——奥创
都市古仙医小说推荐阅读：和离后，神医王妃野翻全京城、越界心动、NBA：开局满级力量，库里被我惊呆了、龙族：从西游记归来的路明非、狐说、服软、她和暗恋的大佬官宣了、人民的财产（电视剧突围原著）、和穿来的儿子上综艺后爆红了、这游戏也太真实了、鲤鱼王的精灵模拟器、轻负、印卡是游戏王的一部分
第三次蹭饭的时候，林宇已经习惯了。
他学会了在斯塔克的餐厅里表现得像在自己家一样——趿拉着拖鞋走进去，拉开椅子坐下，拿起刀叉就吃。斯塔克有时候在，有时候不在，在的时候也是一边吃一边盯着全息屏幕处理数据，两个人各吃各的，偶尔说两句话。中间就扫描了两次毒液，除了露出很惊讶的表情，也没有多说什么。
这种相处模式意外地舒服。斯塔克不问他的过去，不打听他的能力上限，也不像弗瑞那样每句话里都藏着三层意思。他就是一个有钱的邻居，管你饭，偶尔聊两句，聊完各干各的。
但那天晚上不一样。
斯塔克喝了酒。两杯红酒。林宇注意到他喝酒的速度比平时快——平时他一杯能喝半小时，那天两杯十分钟就见底了。
“你今天怎么了？”林宇把叉子放下来。
斯塔克没直接回答。他端着酒杯转了两圈，然后把杯子放下，手指在桌面上敲了几下。
“你觉得——如果有一个AI——足够强大——能提前预测所有威胁——替人类做出最优决策——这算不算一种保护？”
林宇嘴里的帝王蟹腿差点掉了。
他嚼了两下，慢慢咽下去，把叉子放到盘子里，擦了擦手。
奥创。
斯塔克在考虑造奥创。
这不是什么推测。林宇对漫威的剧情烂熟于心——斯塔克和班纳一起研究洛基权杖里的宝石，发现了里面的智能结构，然后在这个基础上开发了奥创。奥创苏醒以后得出结论：人类本身是最大的威胁，要保护地球就得消灭人类。然后就是索科维亚事件，一整个城市被拉上天又砸下来。
这些事他全记得。
“不行。”林宇直接说。
斯塔克挑眉。“你都没听我说完——”
“我听完了。你想造一个超级AI来保护地球。”林宇拿起水杯喝了一口，“但任何——任何——有自主决策权的人工智能，一旦它的'保护人类'逻辑跟'人类自身的行为'产生矛盾——它的结论一定是'消灭人类自己才是最大的保护'。”
斯塔克的手指停了。
“你怎么这么确定？”
林宇低头看了眼自己的胸口。毒液在里面动了动，像是被提到了名字。
“因为我身上有一个外来智慧体。”他拍了拍胸口，“我花了好几个月才让它不吃人。一个外来的智慧体要理解人类的价值观——需要的不是算力，是时间和共处。”
他顿了一下，选了个更直白的说法。
“你想跳过这个过程直接造一个超级AI——它一定会出问题。”
斯塔克没接话。他拿起酒杯，发现空了，又倒了一杯。
“你说的有道理。”他终于开口，“但你忽略了一件事。”
“什么？”
“我不是在造一个有感情的生物。我是在造一个工具。一个用来分析数据、预测威胁的工具。它不需要理解人类价值观——它只需要执行。”
林宇张了张嘴，想说点什么，又咽回去了。
这个道理他没法跟斯塔克讲——你不能用“我看过电影所以我知道结局”来劝一个人放弃他的计划。而且斯塔克这个人，他越听别人的反对，越觉得自己是对的。这是天才的通病。
斯塔克把剩下的红酒一口饮尽，站起来。
“你比你看起来聪明得多。”
“我只是看过太多类似的故事。”林宇含糊地应了一句。
他不知道自己这番话能不能改变什么。也许能，也许不能。斯塔克这个人，听是一回事，做是另一回事。
但至少——他试了。
http://www.dushiguxianyi.com/yt133429/50762815.html
请记住本书首发域名：www.dushiguxianyi.com。都市古仙医手机版阅读网址：www.dushiguxianyi.com
他学会了在斯塔克的餐厅里表现得像在自己家一样——趿拉着拖鞋走进去，拉开椅子坐下，拿起刀叉就吃。斯塔克有时候在，有时候不在，在的时候也是一边吃一边盯着全息屏幕处理数据，两个人各吃各的，偶尔说两句话。中间就扫描了两次毒液，除了露出很惊讶的表情，也没有多说什么。
这种相处模式意外地舒服。斯塔克不问他的过去，不打听他的能力上限，也不像弗瑞那样每句话里都藏着三层意思。他就是一个有钱的邻居，管你饭，偶尔聊两句，聊完各干各的。
但那天晚上不一样。
斯塔克喝了酒。两杯红酒。林宇注意到他喝酒的速度比平时快——平时他一杯能喝半小时，那天两杯十分钟就见底了。
“你今天怎么了？”林宇把叉子放下来。
斯塔克没直接回答。他端着酒杯转了两圈，然后把杯子放下，手指在桌面上敲了几下。
“你觉得——如果有一个AI——足够强大——能提前预测所有威胁——替人类做出最优决策——这算不算一种保护？”
林宇嘴里的帝王蟹腿差点掉了。
他嚼了两下，慢慢咽下去，把叉子放到盘子里，擦了擦手。
奥创。
斯塔克在考虑造奥创。
这不是什么推测。林宇对漫威的剧情烂熟于心——斯塔克和班纳一起研究洛基权杖里的宝石，发现了里面的智能结构，然后在这个基础上开发了奥创。奥创苏醒以后得出结论：人类本身是最大的威胁，要保护地球就得消灭人类。然后就是索科维亚事件，一整个城市被拉上天又砸下来。
这些事他全记得。
“不行。”林宇直接说。
斯塔克挑眉。“你都没听我说完——”
“我听完了。你想造一个超级AI来保护地球。”林宇拿起水杯喝了一口，“但任何——任何——有自主决策权的人工智能，一旦它的'保护人类'逻辑跟'人类自身的行为'产生矛盾——它的结论一定是'消灭人类自己才是最大的保护'。”
斯塔克的手指停了。
“你怎么这么确定？”
林宇低头看了眼自己的胸口。毒液在里面动了动，像是被提到了名字。
“因为我身上有一个外来智慧体。”他拍了拍胸口，“我花了好几个月才让它不吃人。一个外来的智慧体要理解人类的价值观——需要的不是算力，是时间和共处。”
他顿了一下，选了个更直白的说法。
“你想跳过这个过程直接造一个超级AI——它一定会出问题。”
斯塔克没接话。他拿起酒杯，发现空了，又倒了一杯。
“你说的有道理。”他终于开口，“但你忽略了一件事。”
“什么？”
“我不是在造一个有感情的生物。我是在造一个工具。一个用来分析数据、预测威胁的工具。它不需要理解人类价值观——它只需要执行。”
林宇张了张嘴，想说点什么，又咽回去了。
这个道理他没法跟斯塔克讲——你不能用“我看过电影所以我知道结局”来劝一个人放弃他的计划。而且斯塔克这个人，他越听别人的反对，越觉得自己是对的。这是天才的通病。
斯塔克把剩下的红酒一口饮尽，站起来。
“你比你看起来聪明得多。”
“我只是看过太多类似的故事。”林宇含糊地应了一句。
他不知道自己这番话能不能改变什么。也许能，也许不能。斯塔克这个人，听是一回事，做是另一回事。
但至少——他试了。
http://www.dushiguxianyi.com/yt133429/50762815.html
请记住本书首发域名：www.dushiguxianyi.com。都市古仙医手机版阅读网址：www.dushiguxianyi.com