Carme Artigas 被公认为人工智能领域最重要的权威之一。在私营部门工作几年后，她于 2020 年被任命为西班牙首任数字化和人工智能国务秘书，并在任职期间介绍了西班牙国家人工智能战略、国家数字技能计划和数字权利宪章。

2023 年 10 月，作为联合国 人工智能咨询机构联合主席，阿蒂加斯女士带领 38 名成员编写了一份中期 报告，并于 12 月发布，报告得出的结论是，人工智能“迫切需要治理，而不仅仅是应对挑战”和风险，但要确保我们以不让任何人落后的方式利用其潜力。”

12 月 28 日，阿蒂加斯女士在其任期的最后一天回顾了联合国在制定全球商定的技术使用法规方面所发挥的作用，以及为什么它可以为所有人带来更美好的未来。

Carme Artigas：  我认为这波人工智能发展的不同之处在于，技术可以在没有人类参与的情况下继续发展，它不仅影响经济，还影响社会，以及人类在这个数字世界中的角色。

它正在影响我们看待现实的方式，从而产生信任问题。如果我们无法区分机器写的东西和人类写的东西怎么办？我们将处于一个非常混乱的世界。

我认为 GPT-4 的发布是一个“尤里卡”时刻，当时我们意识到它可能产生的巨大影响，以及为什么我们需要某种全球监管。 

此外，有必要在联合国层面对此进行讨论，因为迄今为止所有讨论仅在少数公司和政府内部进行，而所有这些公司和政府都位于北半球。

联合国新闻： 咨询 机构由来自全球南方和北方、私营和公共部门以及学术界的多元化成员组成。你们是如何就中期报告中的建议达成一致的？

Carme Artigas： 这 绝对是一个挑战，但由于已经采取了一些其他举措——例如七国集团广岛计划、英国人工智能安全峰会以及韩国围绕深度伪造的监管——我们一致认为我们需要达成全球共识关于我们如何利用人工智能超越人类智能，迄今为止人类智能仅实现了可持续发展目标的 16％ 。

联合国是全球范围内唯一有能力汇集所有这些不同愿景的权威全球实体，其成员在利益、避免全球人工智能鸿沟的机会上达成了一致，确保它造福于所有人，并且以不妨碍创新或危及基本人权的方式进行治理。

联合国新闻：  2023 年，一些最重要的人工智能专家呼吁暂停甚至停止人工智能研究，直到治理得到更广泛的认可。他们是对的吗？

Carme Artigas： 我认为要求暂停创新有点天真。相反，我们应该加快创新和研究，找到解决方案。

我总是说，存在的风险并不是来自机器人创造的毁灭我们所有人的世界末日。真正的生存风险是我们都会变得疯狂，因为我们无法相信我们所看到、听到或读到的东西。

此外，我们需要对这些技术的可持续性非常负责，这些技术在当今的地缘政治中发挥着非常重要的作用，就谁可以获得原材料和加工能力而言。因此，我们在这里试图关注的主题之一是我们如何允许数据、计算机能力、数字技能的普遍可访问性，以实现人工智能更加均匀和分布式的发展。

联合国新闻： 分享人工智能改善世界的一些方式。

Carme Artigas： 我认为人工智能是民主的一个非常重要的工具，因为它可以让全人类获得知识，并使所有人都能获得个性化教育。

它将对医疗保健、预防疾病、改善诊断和降低成本产生巨大影响。

它对于实现可持续发展目标、减少贫困、应对气候变化以及人类在解决方面取得的成功有限的其他全球挑战将非常有用。

联合国新闻： 联合国通讯主管梅丽莎·弗莱明(Melissa Fleming)最近在安理会成员会议上表示，生成式人工智能的出现意味着网络环境将变得更加糟糕，削弱公众对新闻和信息来源的信任。

这是您担心的一个问题吗？还是说，关于这个问题的讨论越来越多，这是否表明我们正在准备解决这个问题？

Carme Artigas： 我们在全球范围内展开对话这一事实给了我很大的希望。

新闻媒体可以发挥非常重要的作用，他们必须恢复“第四阶层”的角色，因为我们比以往任何时候都更需要他们。我们可以通过很多方法来验证新闻，而这正是严肃的媒体组织应该做的。有不同意见是可以的，但你不能出售假新闻，因为它只会产生不确定性和缺乏信任。

一两年前，当只有我们几个人考虑这个问题时，我很担心。但是，多亏了 GPT-4，每个人都看到了人工智能有多么普遍，我们需要对其使用施加一些限制。