谷歌CEO皮查伊：人工智能需要被监管 技术无法保证美德
1月20日，谷歌及母公司Alphabet首席执行官(CEO)桑达尔·皮查伊(Sundar Pichai)在英国金融时报发表署名文章，称“人工智能需要被监管”。文中，皮查伊阐述了好的监管需要兼顾的条件，并表达了希望与监管部门合作的愿望。
在这篇题为《为什么谷歌认为我们需要监管人工智能》的评论文章中，皮查伊说：“毫无疑问，人工智能需要被监管，怎么都不为过。唯一的问题是我们的手段是什么。”
从伪造品到恶意使用面部识别，人们对AI的潜在负面后果感到担忧，©AFP via Getty Images
“历史上充斥着许多案例，技术无法保证美德。”皮查伊说：“人工智能的负面后果需要被切实关注，从deepfakes换脸视频到面部识别技术的不当滥用。”
为了解决这些问题，皮查伊认为，“国际协作对让全球标准生效至关重要。”他还认为，欧洲的《通用数据保护条例》(GDPR)是一个“坚实的基础”。
“好的监管框架能够兼顾安全性、可解释、公平和问责制，以确保我们用正确的方法开发出正确的工具。明智的监管必须兼顾相称的方法、在潜在的危害和社会机遇之间取得平衡，尤其是在高风险的领域。”皮查伊这样写道。
据9to5Google当天报道，在具体的案例中，皮查伊指出，现有医疗框架中应用人工智能辅助的心脏监护仪是“很好的起点”，同时自动驾驶汽车也要求政府“制定考虑到相关成本和收益的恰当新规”。前者是谷歌健康(Google Health)和Alphabet旗下生命科学部门Verily正在积极研发的领域；Alphabet旗下自动驾驶公司Waymo也已经在美国凤凰城开展了自动驾驶商业运营。
2018年，谷歌的云部门利用AI(人工智能)技术帮助美国军方识别无人机图像，招致了公司内部激烈的批评，并引发了数千名员工激烈抗议，反对谷歌与军方合作，以及将谷歌技术用于战争或违反人权的用途。舆论压力下，谷歌在2018年6月宣布，将不会续约与美国国防部合作的Maven项目，并于当月推出了谷歌对人工智能工具的新道德准则，旨在评估公司要发展的人工智能项目。新道德准则中，谷歌的人工智能软件被禁止用于武器及违反国际监控和人权惯例的服务。
2018年10月，谷歌进一步宣布，放弃竞标美国军方价值100亿美元的云计算业务合约JEDI，部分原因是因为该项目与公司的新道德准则不符。
皮查伊在文章中也提到，上述人工智能道德准则“AI Principles”。
皮查伊说，该准则“帮助我们避免偏见，严格地进行安全测试、设计时将隐私置于最先，并让技术对人们负责。它还明确了我们不能设计和应用人工智能的领域，如支持大规模监视或侵犯人权。”
文章结尾处，皮查伊表达了谷歌希望和监管部门一起合作的愿望。
“当出现不可避免的紧张局势和权衡取舍时，我们希望能成为监管部门有帮助的、共同参与的合作伙伴。提供我们的专业知识、经验和工具，共同解决这些问题。”皮查伊说。
我在印度长大，对技术着迷。每一项新发明都以有意义的方式改变了我家庭的生活。电话使我们免去了去医院检查结果的漫长旅程。冰箱意味着我们可以花更少的时间做饭，而电视使我们可以观看世界新闻和板球比赛，这些都是我们在听短波广播时才想到的。
现在，我有幸帮助塑造新技术，我们希望这些新技术将改变世界各地的人们的生活。人工智能是最有前途的之一：就在本月，有三个具体的例子说明了Alphabet和Google如何挖掘AI的潜力。《自然》杂志发表的研究表明，人工智能模型可以帮助医生在乳房X线照片中更准确地发现乳腺癌。作为应对气候变化的一大套工具的一部分，我们正在使用AI来比现有模型更快，更准确地做出即时的，超局部的降雨预报。汉莎航空集团正在与我们的云部门合作，测试AI的使用，以帮助减少航班延误。
然而，历史充满了无法保证技术美德的例子。内燃机使人们可以走出自己的区域，但也造成了更多的事故。互联网使与任何人建立联系并从任何地方获取信息成为可能，但也容易使错误信息传播。
这些教训告诉我们，我们需要对可能出问题的地方保持清醒的头脑。从伪造品到恶意使用面部识别，人们都对AI的潜在负面后果感到担忧。尽管已经进行了一些工作来解决这些问题，但不可避免地还会有更多的挑战，没有任何一个公司或行业可以独自解决。
欧盟和美国已经开始制定监管建议。国际协调对使全球标准生效至关重要。为了达到目标，我们需要就核心价值达成共识。像我们这样的公司不能仅仅建立有前途的新技术，而要让市场力量来决定如何使用它。我们同样有责任确保对技术进行善用并为所有人所用。
现在我毫无疑问需要对人工智能进行监管。不这样做太重要了。唯一的问题是如何处理它。
这就是为什么Google在2018年发布了自己的AI原则以帮助指导技术的道德开发和使用。这些准则可帮助我们避免偏见，严格地进行安全性测试，设计时首先考虑隐私，并使技术对人们负责。他们还指定了我们不会设计或部署AI的区域，例如支持大规模监视或侵犯人权的区域。
但是，保留在纸上的原则毫无意义。因此，我们还开发了将它们付诸实践的工具，例如测试AI决策是否公平以及对新产品进行独立的人权评估。我们走得更远，使这些工具和相关的开放源代码广泛可用，这将使其他人能够永久使用AI。我们相信，任何开发新AI工具的公司都应采用指导原则和严格的审查流程。
政府监管也将发挥重要作用。我们不必从头开始。诸如欧洲通用数据保护条例之类的现有规则可以作为坚实的基础。好的监管框架将考虑安全性，可解释性，公平性和问责制，以确保我们以正确的方式开发正确的工具。明智的监管还必须采取相称的方法，在潜在危害与社会机会之间取得平衡，尤其是在高风险地区。
监管可以提供广泛的指导，同时允许在不同部门进行量身定制的实施。对于某些AI用途，例如受管制的医疗设备（包括AI辅助心脏监护仪），现有框架是不错的起点。对于自动驾驶汽车等较新的领域，政府将需要制定适当的新规则来考虑所有相关成本和收益。
Google的作用始于认识到应用AI的原则性和规范性方法的必要性，但并不仅限于此。我们希望成为监管机构的有用和参与的合作伙伴，以应对不可避免的紧张局势和权衡取舍。当我们一起解决这些问题时，我们将提供我们的专业知识，经验和工具。
人工智能具有改善数十亿人生活的潜力，而最大的风险可能是无法做到。通过确保以有利于所有人的方式负责任地进行开发，我们可以激发子孙后代像我一样坚信技术的力量。a
