人工智能的道德与伦理
对人工智能的研究始于上世纪50年代。近几年,科学界和产业界对它的兴趣超越了以往。最近一年半来,谷歌收购了十几家机器人公司,并正在开发人工智能的一个图腾——无人驾驶汽车;去年,社交媒体脸谱成立了新的人工智能实验室……数据显示,2009年以来,人工智能吸引了超过170亿美元的投资,仅去年就有20多亿美元投向拥有类人工智能技术的322家公司。
随着机器人技术的不断演进,人工智能有可能发展出自己的思想,进而引发人类的“身份危机”。
近来发出类似警告的是两位顶尖科学家。一位是理论物理学家斯蒂芬·霍金,他甚至认为,当人工智能发展完全,就是人类的末日;另一位是电动汽车品牌特斯拉的掌门人马斯克,他曾公开表示:“我们要十分小心人工智能,它可能比核武器更危险。”
在1942年的短篇小说中,科幻作家Isaac Asimov提出了机器人的3条准则——工程安全措施和内置的道德准则,以保证机器人会友善对待人类并使人们免于机器末日。这些准则一是机器人不能伤害人类,或无所作为而导致人类受伤害;二是机器人必须听从命令,除非这些命令违背第一条准则;三是机器人必须保护自身,但这些保护不能与第一和第二条准则相违背。
在并行计算、数字化神经网络、云技术、大数据以及深度学习算法等技术的推动下,人工智能的形态正逐渐显现:它既不是拥有与人类相似意识的机器人,也不是奇点论(人工智能与人脑智慧