可以开门并找到电插座为自己充电的机器人、没有人能消灭的电脑病毒、尽管还要受到人类的遥控，但越来越接近自动杀人机器的“捕食者”无人驾驶飞机…… 
 
    由于人工智能方面令人吃惊的进展，一些计算机科学家正在争论是否应该对某些研究设限。这些研究可能导致人类失去对计算机体系的控制，而这些系统承担着越来越多的从发动战争到同顾客电话聊天的社会工作。

    他们的担忧是，人工智能的进一步发展可能制造重大的社会混乱，甚至带来危险后果。

    计算机科学家说，有理由担心，技术进步可能通过消灭大量工作机会，并强迫人类学会同越来越多地复制人类行为的机器共存来改变劳动者。

    在加利福尼亚州蒙特里湾一家酒店召开会议的计算机科学家、人工智能研究人员和机器人专家通常怀疑高度集中控制的超级智能的可能性以及智能可以从互联网自发产生的想法。但是他们都认为，可以自动杀人的机器人或者已经产生，或者很快将会出现。

    他们尤其担心，犯罪分子可能在人工智能系统一经开发就开始利用它们。犯罪分子可能使用一个能伪装成人类的语音合成系统来做什么呢？如果人工智能技术被用来从智能电话上挖掘个人信息该怎么办？

    研究人员还讨论了人工智能———例如自动驾驶汽车、个人助理软件和家庭中的机器人保姆———对人类工作造成的威胁。就在上个月，硅谷一家企业研发的一种机器人已经表明它可以在现实世界完成一系列综合性操作。

    这次会议的一份报告将在今年底发表。会议是由人工智能促进会组织的。该机构负责人埃里克·霍维茨说，他认为计算机科学家必须对超级智能机器和人工智能系统会发狂的看法做出反应。

    “智能爆炸”是数学家I.J.古德在1965年提出的思想。它指的是智能机器将设计出更多的智能机器。后来，计算机科学家弗诺·温格在演讲和科幻小说中推广了这样一种观念，即人类将制造出比人更聪明的机器，并迅速带来“人类时代终结”这种变化。他称这种变化为“奇点”。

    一些科学家认为，电影和文学作品中的这种观点似乎是对的，并且令人不安。其他一些技术专家已经在鼓吹超智能机器的到来，说它们将为人类生活的拓展和财富的制造带来巨大的进步。

    霍维茨说：“过去5到8年发生了一些新的情况。”

    他说：“由于博客上的有关呼声越来越高，并且一些人非常担心智能机器的崛起，我觉得，我们迟早要做个声明或评估。”

    该会议的报告将试图评估“人类失去对计算机智能的控制”的可能性。霍维茨说，它还将处理有关社会经济、法律和道德以及人类—计算机关系的改变等问题。例如，同与你的配偶一样聪明的机器相处会怎样？

    霍维茨说，科学家正在寻求不同方法以指导研究，使得技术可以推动社会进步，而不是带来灾难。比如，一些研究可能在一种高度安全的实验室里进行。