“会不会内存溢出，突然死机或者发疯什么的？”石文芳笑问道。

    “我说的是存储的内存，机器人感知系统的存储空间，不是那种临时性内存，现在的五行感知系统，理论上不会出现那种情况了！石三妹内部的运行机制和当前所有系统都不一样，我给她内部增加了自我优化功能......”

    罗平说话没耽误吃饭，一碗米粉很快吃进了肚子。

    “她能自己改代码，会不会有一天脱离我们的控制？”石文芳吃得慢多了，半碗没吃完。

    “五行感知系统的自我优化不是修改自身程序，而是压缩整合内部的特征库信息，他们对外界的感知和判断，形成认知的基础，都来自特征库，这也是他们的记忆所在，我从没想过绝对控制他们，只是给他们设定了一套形成认知的基本框架，我们和机器人不是控制与被控制的关系，更类似于合作伙伴！以后在不断的学习成长过程中，他们会形成自己的判断能力，他们不会绝对的服从命令！”罗平仔细阐述自己的观点。

    “这不就是安全隐患吗，三妹要是认为我们俩是坏人，会不会危害我们？”石文芳一定程度上理解罗平的想法，现在两人在探讨，于是就故意反驳道。

    “三字经你会背吗？”罗平问道。

    “人之初，性本善，性相近，习相远！后面不会了！”石文芳小时候没有专门背过，这几句还是看电视学的。

    “五行感知系统里面的木，并不是指单纯的木头、树木，而是一切可能有生命的物体，动物、植物、菌类，或者其他会移动的物体，都可能被她判定为木，通常情况下，机器人都不会去触动或者伤害，这是五行感知系统的基本原则之一！”罗平很笃定的说道。

    “你说的是通常情况，那就是还有特殊情况了？”

    “小孩子学习过程中，哪有不犯错的，无论是人还是机器，能犯错误能改进，才会有所提升，这就是所谓的智能，机器人主观不会去伤害生命，这就够了！现实情况复杂多变，我们人类都不可能面面俱到，你能指望机器人永不犯错，不觉得太天真吗？”罗平反问道。

    “唉，感觉跟你差的好远，你研究机器人都快成哲学家了！”石文芳感叹道。