“微软CEO：为防止AI做坏事需设定“自毁开关””

本篇文章1018字，读完约3分钟

7月1日消息，据海外媒体quartz报道，微软首席执行官萨蒂娅-纳德拉表示，ai需要帮助人类提高效率，同时保护人类自尊心，保护人类隐私。 但是，为了防止机器人做意想不到的坏事，人类需要为ai设置自毁开关。

在机器人革命迹象隐约可见的情况下，埃隆·马斯克和著名科学家们关注着机器人的迅速发展给人类带来的影响。 他们的观点是，我们应该认真考虑与人工智能共存意味着什么，他们认为人工智能很容易就超过人类的智力。

微软首席执行官萨蒂娅-纳德拉在美国知名网络杂志slate上发表专栏文章，阐述了对人工智能的10条意见。 其实在纳德拉写的书里也在谈论人工智能。

以下是他的观点概要:

1. ai必须用来帮助人类。 纳德拉援引了科幻小说作家艾萨克·阿西莫夫的机器人三定律。 这些定律的核心副本是机器人不能伤害人类。 纳黛拉的建议更为深入。 机器人的程序设定是积极帮助人类。 他写道，机器人应该是协作机器人，或者是合作机器人。

2.ai必须是透明的。 人类必须完全了解机器人。 他说机器人得到了对人类的一点认知，人类也必须了解机器人。

3.ai必须在不伤害人类自尊心的情况下最大限度地提高性能。 技术和ai必须推进多样性和人类之间的相互连接，人类之间相互疏远，从历史上看，不幸的是，相互疏远是人类擅长的事情。

4.ai应该保护人类的隐私，不能暴露。

5. ai需要设定问责算法，以防止人类对机器人造成意想不到的伤害。 也就是说，为了防止机器人做意想不到的坏事，ai需要安装自毁开关( kill switch )。

6 .必须防止因ai而产生偏见。 ai必须代表每个人的意愿，而不是某个集团的意愿。

7 .为了推动人工智能的正常快速发展，人类必须具备的四个特质之一是具有共情能力。 纳德拉指出，要制造真正理解人类的机器人，人类首先需要理解他人的想法和感受。

8 .我们还需要投资于教育，开发和支持培训计划，以使ai的潜在好处更容易被人类享受。 根据纳德拉的例子，机动织机是1810年发明的，但经过35年对服装行业产生了变革性的影响。 由于当时熟练的技术人员数量不足，无法满足诉求。

9 .人类需要维持创造性。 这是人类具有的特质之一。 机器能够深化人类创造成果的应用，这也是多个ai研究者的探讨行业。

10 .保存评估权并承担责任。 我们可能愿意接受电脑诊断结果和法律决定，但是纳黛拉写道。 但是，我们仍然期待着人类承担后果的最终责任。