读心与芯：我们与机器人的无限未来06问题或方案

1. 机器人可以是问题本身，也可以是解决方案

1.1. 新冠疫情

• 1.1.1. 分子生物学、医学、流行病学、公共卫生、设计、制造、供应链物流、金融等诸多领域在研发、批准以及向公众分发疫苗方面发挥了作用

• 1.1.2. 公共卫生领导人、政策制定者和监管机构确保了科学观点的有效运用，以及疫苗分配的公平公正

• 1.1.3. 传播和公共关系专业人士积极传播信息，极力纠正错误信息

• 1.1.4. 专业团队及专家的工作与知识都得到了有效协调和应用

1.2. 机器人和智能机器的设计要获得成功，为世界各地人们的生活带来积极的影响，仅靠科学家和技术人员是无法做到的，需要学术界、工业界、政府和社会等各领域专家的共同努力

1.3. 人类的智慧决定我们如何使用芯片，未来几年，我们的行动和决策将决定人工智能是福是祸

1.4. 2004年，世界上最先进的自动驾驶汽车只需在空旷的沙漠道路上行驶7英里就能在顶级研究团队的竞赛中夺冠

• 1.4.1. 15年后，Waymo开始为凤凰城的乘客提供自动驾驶服务

• 1.4.2. 发展速度是惊人的，但并没有完全出乎意料

1.5. 可能性1：沿着当前的路走下去

• 1.5.1. 一种可能性是沿着当前的路继续前进，为我们无法完全理解的机器人大脑构建更高级的身体和规模更大的人工智能、机器学习模型以及解决方案

• 1.5.2. 如果这些学习模式继续占据主导地位，就有可能培养出这样一代人，他们在问题出现时要么无法对自己的工作做出解释，要么无法识别问题

• 1.5.3. 出了问题我们只会采取权宜之计，而不是以长远的眼光去设计系统

1.6. 可能性2：堆积如山的仓库

• 1.6.1. 好莱坞电影里机器接管世界的噩梦是，它们突然有了某种奇怪的意识，决定消灭人类

• 1.6.2. 我们会依赖一个自己不理解的庞大而复杂的系统

• 1.6.3. 到处都是堆积如山的科技设备和电子垃圾

1.7. 可能性3：人与芯片合作

• 1.7.1. 智能机器作为更聪明的工具服务于人类

• 1.7.2. 未来的机器人是有保障的安全关键系统，其能力众所周知，它们赋予我们超能力，协助我们完成各种认知和体力任务，大幅提升全人类的生活水平，让我们的生活更加丰富多彩

• 1.7.3. 数字孪生

• 1.7.3.1. digital twin

• 1.7.3.2. 有可能是人与芯片融合的一个变革性概念

• 1.7.3.3. 通过数字孪生创建复杂系统、人、机器甚至城市的虚拟模型，这些模型近似于现实世界，可以在模拟中研究“假设”的场景

• 1.7.3.4. 数字孪生由真实数据定义、构建并持续更新，其存在或运行的模拟空间也是如此

• 1.7.3.5. 数字孪生的概念在各行各业扎根

>  1.7.3.5.1. 研究人员利用胰腺数字孪生帮助患者进行胰岛素管理>  1.7.3.5.2. 人类心脏数字孪生的使用也在增加>  1.7.3.5.3. 模拟的飞机引擎有助于监控飞行性能>   1.7.3.5.3.1. 将真实引擎运行时获取的数据与其虚拟器预测的数据进行比较，如果真实引擎获取的数据与数字孪生有差异，可能说明出了问题>  1.7.3.5.4. 智能手表可以追踪我们的运动和心率，提供大致的健康检测

• 1.7.3.6. 个人数字孪生技术的风险是上传了大量个人信息，因此需要非常强大的隐私保护和保障

• 1.7.3.7. 需要社会科学领域以及政策和传播专家的参与，塑造技术对人们的影响方式

• 1.7.3.8. 在考虑使用更多智能机器时，我们必须做好防护，建立道德原则，确保它们造福人类

2. 机器人和人工智能系统应具备以下11个特点

2.1. 安全

• 2.1.1. 最简单、最显而易见的要求

• 2.1.2. 要确保操作者和周围人的安全

• 2.1.3. 建造更柔和、更顺从的机器人肯定有好处，更多机器人将走出工业牢笼，进入世界

• 2.1.4. 安全第一，我们必须在设计时确保系统是无害的

2.2. 放心

• 2.2.1. 如果开始使用智能系统，上传和共享更多的个人信息（像数字孪生的例子那样）​，就必须通过强大的安全控制来确保个人信息的私密性

• 2.2.2. 未经同意和批准，不得共享个人信息

• 2.2.3. 确保这些技术能抵御黑客的攻击，采用先进的加密方法以及强大的安全措施与策略加以保护

2.3. 辅助性

• 2.3.1. 有关人工智能、机器学习和机器人技术的关键或重要决策应该由人类做出

• 2.3.2. 人与芯片协同工作时，人类合作者或操作者应该始终掌握最终决策权

2.4. 体现因果关系

• 2.4.1. 体现因果关系是略带技术性的要求，但很重要

• 2.4.2. 因果关系是行为与后果之间的联系

• 2.4.3. 在机器人技术和机器学习中，因果系统是可以解释内部和外部干预的系统

• 2.4.4. 系统识别其输出变化是否由某些干预措施造成，并关联因果关系，做出调整

• 2.4.5. 基于相关模式识别的机器学习不足以做出稳健的预测和可靠的决策

• 2.4.6. 在生活的许多领域，相关性并不意味着因果关系，在机器学习中也一样

• 2.4.7. 基于因果推理原则而非纯相关性的机器学习新方法，会提高解决方案的性能及其可推广性

• 2.4.8. 液态网络解决方案体现了因果关系

• 2.4.9. 伯恩哈德·舍尔科普夫

• 2.4.9.1. 将因果推理与统计学习技术相结合，从数据中推断因果关系

• 2.4.10. 需要更多可证明因果关系的解决方案，让机器人理解所分配的任务，以可靠且可预测的方式执行任务

2.5. 可泛化性

• 2.5.1. 机器人总会遇到未经训练的情况，我们要更好地了解系统应对陌生状况的方式

• 2.5.2. 液态网络可以将一种环境（夏季森林）中的训练转移到截然不同的环境（冬季森林或城市环境）中，不需要额外训练

• 2.5.3. 无人机经过训练可以搜索特定物体

• 2.5.4. 自动驾驶汽车，它如果在模拟中突然偏离道路，可以通过回溯了解程序哪里出了问题，然后修复故障，降低未来发生类似情况的可能性

2.6. 可解释性

• 2.6.1. 其运作方式让我们无从了解它们做出特定决策、产生特定结果的原因

• 2.6.2. 当模型生成我们不满意的结果时，很难回溯模型内部的步骤

• 2.6.3. 没有简单、可靠的事后检验算法确定问题所在，因为这些系统的大脑是黑箱

• 2.6.4. 对机器人等安全关键系统来说，无法理解模型的决策是不利因素

• 2.6.5. 如果汽车机器人选择做危险的事，我们希望能明确原因，纠正模型，消除它将来重蹈覆辙的可能性

• 2.6.6. 可以期待它正确行事，给出概率，但无法保证概率的正确性

• 2.6.6.1. 如果不了解决策过程的复杂性，要估计出概率都很难

2.7. 公平性

• 2.7.1. 深度机器学习系统容易受到普遍存在的算法偏差的影响，在训练数据代表性不强的情况下尤为如此

• 2.7.2. 深度学习模型越来越多地应用于社会各个领域，已成为许多安全关键应用的核心，包括自动驾驶汽车、金融市场预测、医疗诊断和药物发现渠道等

• 2.7.3. 算法的长期使用不仅取决于它们在训练过程中的性能，还取决于其通用性、安全性和公平性，应用范围和数量不断增加时更是如此

• 2.7.4. 识别空间中缺失的数据并提出扩充数据的建议是有可能的

• 2.7.5. 去偏方法能确定数据集里哪些数据项的代表性过高，哪些数据项代表性不足

• 2.7.5.1. 利用这些信息提高数据质量和表现，构建平衡、公平、公正的模型

2.8. 经济

• 2.8.1. 作为工程师、投资人、创新者和政策制定者，应该尽量确保人们能买得起所描述的机器人和人工智能系统

• 2.8.2. “机器人即服务”(robots-as-a-service)方法

• 2.8.3. 随着时间的推移，机器人的租用和使用越来越频繁，最终会达到一个临界点，制造成本、企业或个人的购买成本开始下降

• 2.8.4. 确保机器人不仅仅是富豪的玩具

2.9. 经过认证

• 2.9.1. 没有任何监管机构来认证我们在机器人领域的工作

• 2.9.2. 挑战在于，如何在应用安全的使用流程和鼓励创新之间取得适当的平衡

• 2.9.3. 如果执行恰当，监管机构、监督机构和认证将促进而不是扼杀创造力

2.10. 可持续性

• 2.10.1. 当今的人工智能和机器学习模型建立在几十年前的思想和方法之上

• 2.10.2. 计算是有成本的，处理器的运行也需要电力

• 2.10.2.1. 如果电力来自传统的使用化石燃料的发电厂，可能会对环境造成严重的破坏

• 2.10.3. 鼓励开发商和用户仅从可再生能源中获取能量

• 2.10.4. 如果能以同样的创新思维开发可持续的机器学习解决方案，为深度神经网络设计应用程序，我们就应该能设计出可持续性更强、更紧凑的模型

2.11. 有影响力

• 2.11.1. 应用程序的开发不必局限于最初的设想

• 2.11.2. 可以将机器人和人工智能的突破性进展用于其他高产且无害的领域

• 2.11.3. 将构建某种机器人的全部知识用于新型机器的快速开发和调用，解决了一个截然不同但真实紧迫的问题

• 2.11.3.1. 同样的原理和经验可用于制造自动驾驶轮椅、港口的自动搬运车等

• 2.11.4. 进一步扩大解决问题的思维范围，超越想象，创造性地思考正在开发的机器人和人工智能解决方案如何应用于其他领域，重新调整其用途，为更多人带来福祉