五大科技巨头欲为AI制定道德标准 探讨对就业和战争等的影响

站长搜索讯 据外媒报道，4年前，科幻电影制作人让我们对人工智能（AI）机器产生恐惧，认为它们可能对人类造成威胁。然而在未来10年到20年间，我们最大的担忧可能是机器人接管我们的工作，或者在高速公路上撞到我们

站长搜索讯 据外媒报道，4年前，科幻电影制作人让我们对人工智能（AI）机器产生恐惧，认为它们可能对人类造成威胁。然而在未来10年到20年间，我们最大的担忧可能是机器人接管我们的工作，或者在高速公路上撞到我们。现在，谷歌(微博)母公司Alphabet、Facebook、微软、IBM以及亚马逊等五大科技巨头正打算为人工智能制定道德标准。

科幻小说主要专注于人工智能对人类的生存威胁，而Alphabet等科技巨头的研究人员将举行会议，探讨更具体的问题，比如人工智能对就业、交通甚至战争的影响。长期以来，科技公司就在探索人工智能机器到底能做什么。近年来，人工智能领域在一系列方面取得突破性进展，从无人驾驶汽车到能够理解语言的机器（比如亚马逊Echo），再到可自动作战的新一代武器系统等。

据参与创建行业伙伴关系谈判的4名消息人士透露，尽管Alphabet等公司还没有敲定这个人工智能行业组织的名字，但其基本意图十分明确，那就是确保人工智能研究专注于造福人类，而非伤害人类。

斯坦福大学一个研究组织发布的报告强调了这个行业组织努力的重要性。斯坦福大学的报告得到微软研究员埃里克·霍维茨（Eric Horvitz）的资助，霍维茨是参加此次行业讨论的高管之一。斯坦福大学的项目名为“人工智能百年研究”，他们计划以5年为基准，制定有关人工智能在未来100年间对社会产生影响的详细报告。

对于科技界人士来说，他们最担心的是监管机构是否会围绕他们的人工智能研究创建规则。因此，他们尝试为自管理组织制定框架，尽管还不清楚其具体功能。美国得克萨斯大学奥斯汀分校计算机科学家、斯坦福大学报告作者之一彼得·斯通（Peter Stone）说：“我们不是说不应该存在监管，而是应该进行正确监管。”

虽然技术行业向来充满了竞争，但也有科技公司携手合作的先例，前提是能为它们带来最大利益。举例来说，20世纪90年代，科技公司同意为电子商务交易设定标准加密方式，这为互联网业务长达20年的增长奠定了基础。

斯坦福大学的报告名为《2030年人工智能与生活》，作者们认为人工智能很可能受到监管。报告中称：“研究小组已经达成共识，试图监管人工智能经常受到误导，因为我们现在对人工智能还没有明确定义，在不同的领域，也需要考虑不同的风险。”

斯通表示，报告中建议，提高各级政府对人工智能的认识和专业知识，同时呼吁增加在人工智能上的公共和私人投入。IBM沃特森人工智能部门总经理大卫·肯尼（David Kenny）说：“对于政府来说，它应该发挥作用，我们尊重政府的作用。但因此面临的挑战是，政策经常会拖技术后腿。”

Alphabet等公司之间流传的一份备忘录显示，这五大公司将于9月中旬宣布组建新的行业组织。熟悉谈判细节的消息人士称，一个未解决的问题就是，Alphabet子公司Google DeepMind要求以独立身份参加。据行业组织者透露，人工智能行业组织将根据Global Network Initiative等人权组织的模式组建，后者专注于言论自由和隐私权问题。

与此同时，职业社交网站LinkedIn创始人里德·霍夫曼（Reid Hoffman）也拥有人工智能背景，他正与麻省理工学院下属媒体实验室探讨资助一个项目，其目的旨在探索人工智能的社会和经济影响。

麻省理工学院和组建行业合作伙伴关系的目的，都是努力将技术进步与社会和经济政策问题更紧密地联系起来。麻省理工学院已经在考虑设计新式人工智能和机器人系统，它们应该属于“社会在环中”（society in the loop）级别，即人类对机器人系统进行监督。

“社会在环中”这个术语涉及到设计计算机和机器人系统的长期争论，即机器人依然需要人类干预。举例来说，美国国防部最近开始制定军事战略，采用人工智能武器系统，但依然需要由人类作出是否开火的决定，而非将决定权赋予机器。

麻省理工学院媒体实验室主管、《纽约时报》董事会成员伊藤穰一(Joichi Ito）说：“我要指出的是，计算机科学家并不擅长与社会科学家和哲学家互动。我们想要做的是支持正在进行研究的社会科学家，他们的研究在制定政策过程中会发挥重要作用。”

斯坦福大学报告试图为许多问题设定定义，假设一座典型的北美城市中，民众正面临能够模仿人类能力的计算机和机器人系统。作者们主要探讨了这些人工智能对现代生活中8个方面的影响，包括医疗健康、教育、娱乐以及就业等，但没有具体谈及对战争的影响。他们认为，军事级人工智能应用超出了他们当前的知识范畴，但他们不排除将来对其影响进行研究。

报告中也没有提及许多计算机科学家所谓的“奇点”可能性，它可能导致机器变得更加智能化，甚至可能威胁到人类。（编译/金鹿）