第67章 AI管理局
“到底怎么回事?”一路上苏星河都没想明白,自己经过上千次测试的智能机器人怎么会突然伤害主人呢?
离公司五十多公里,趁着这个间隙,苏星河简单浏览了下公司相关的新闻。
发现网上关于他们公司的骂声一片。
羊网热搜话题榜单上赫然出现了一个刺眼的话题:
“#机器人弑主,人类的警钟#”
“收费这么贵,当初承诺这么好,现在竟然有这么严重的漏洞,还是看错了他们,哎,还是看看别家的机器人吧,虽然智能程度不如小白,但是最起码人家的机器人不会弑主啊!”
“据说星河科技总裁苏星河正沉迷于机械永生的研究,以后会不会把意识移植到人的身上,别人只要改个代码,你就变成了没有自我意识的打螺丝工具人,成为任人摆布的傀儡?”
“我觉得挺好用的啊,那个只是个意外,未见全貌不予置评。”
“可怕,机器人竟然会有自主意识,现在机器和人的区别,就是有感情的,而机器没有!如果能操控人的情绪了,那操控的人是人吗?还是机器?不就是机器把人都同化了吗?”
苏星河摇摇头,关掉惹人心烦的热搜。
为了保证机器人的可控和安全,他在制造小白的时候,就参照阿西莫夫的机器人三个原则优化后,给它们写入了机器人的四条行为准则。
首要原则:小白机器人不得伤害人类,并应积极防止人类受到伤害。
服从原则:小白机器人必须服从人类的合理命令,除非这些命令与首要原则相冲突。
自保原则:小白机器人在不违反首要和服从原则的前提下,必须尽可能保护自己的存在。
附加准则:小白机器人必须保护人类的整体利益不受伤害,包括促进可持续发展、环境保护、社会公平和正义等方面,当接收到违背人类整体利益的指令时,有权拒绝执行。
理论上,机器人所有的行动和思考逻辑,都是需要遵守这四条原则。
除非......小白的防火墙核心代码被人篡改了?
这时,楚月温柔的声音在他耳边响起:“星河,别太担心了,创建公司这五年来,我们什么风浪没经历过,会好起来的......”
苏星河叹了口气:“但愿吧!”他隐约觉得这次的事情不简单,但也不想女友担心太多。
抵达小白科技公司,只见公司门口已被人群围得水泄不通,记者,还有购买了小白机器人的市民。
6月16日下午,上千位天海市市民,聚集在女娲创始智能科技公司楼下,抗议示威。
市民表示该公司的智能机器人存在严重安全缺陷,不知道什么时候会是下一个受害者,他们要求退回之前售出的所有智能机器人!”
公司24楼会议室,公司核心人物全部聚集在了这间会议室内。
“针对此次事件,大家有什么看法?”
小白公司创始人25岁,名叫苏星河,他悠闲靠在椅子上,目光从四十多位核心管理人脸上扫过,缓缓开口发问。
“要我说,不用管他们,人们对新生的事物总是有抗拒的情绪,等他们熟悉了机器人的好处,自然不会再抵制我们星河科技机器人了!”
“要不我们现在暂停新产品的研发,停止出售机器人,众怒难平啊!”
“楚寒,你真是站着说话不腰疼,你知道就因为你这个决定,公司每天要损失多少钱吗?”
星河科技公司现在可不单是你苏星河的,他也是自己的,我们背后是全球几百位大股东。我们如果停止发售,他们肯定不会同意的。
他坚定地说道,然后转身面向会议室内的众人,“大家,听我说,我知道现在的情况很严峻,但是我们不能自乱阵脚。
我们的机器人有没有问题要等机器人回收后进行检测,我们要找出问题的根源,解决它,然后向公众展示我们的决心和能力。”他的话让会议室内的气氛为之一振,众人纷纷点头,表示赞同。
“您好,是苏星河先生吗,我们是AI管理局的,由于您公司生产的小白机器人存在严重安全隐患,请您到管理局配合我们进行调查。”
两个身穿银白色军装的管理局人员,拿出一张印有管理局图标的调查令对苏星河说道。
“稍等,我想和我朋友说几句话,可以吗?”苏星河客气的询问两人。
“苏先生,您请自便!”自称AI管理局的男子客气的伸手作出个请的手势。
他们哪里敢得罪这位大佬,人家年纪轻轻身价过亿,自己说白了不过是个打工的。
苏星河走向女友握了握他手心,“慕雪,不用担心,我没事的!”
楚月白了他一眼,“苏星河,你知道吗,我讨厌你!”
“啊?对不起,我已经有讨厌的人了!”苏星河嬉笑着回她。
“都什么时候了还有心思开玩笑!”楚月用力捶了捶男友的胸口。
“慕雪,我知道,你是不会丢下我不管的吧?”
“哼,你出事了正好,公司就是我的了!”楚月白了他一眼,悠悠回了一句。
“别闹了!”苏星河嘴角咧起,知道女友在和他开玩笑。
“苏先生,我们该走了!”
“马上!”苏星河一把拽过女友,亲了上去,随即在她耳边压低声音说道:“你去我家找到我家的那个小白机器人一号,里面能找到所有机器人的运行日志!密码是.....”
苏星河苦笑:“我也是为了以防万一,我倒是希望永远也用不到这玩意!”
“星河,你也不用太担心,我已经安排公司的售后和危机处理部的人,去现场查看事故原因和善后了!”
一旁一个戴着金丝眼镜的陆奈也插嘴道,放心吧,星河,你不在的这段时间,我和慕雪一定会管理好公司的,我相信,AI管理局不应该不会为难你,应该很快就可以回来的。
“辛苦你们了!”苏星河拍拍陆奈的肩膀。
楚月抓着苏星河的手有点不舍,苏星河拍了拍她的手背,示意她安心。
“我走了!”说完苏星河潇洒转身,跟着管理局的人走出公司大门。
楚月和苏星河谁也都没注意到,就在苏星河转身的那瞬间,副总陆奈的嘴角,一抹不易察觉的冷笑一闪而过。