名人媒体基金会
© Unsplash/史蒂夫·约翰逊 咨询机构预计将就人工智能的国际治理提出建议。
在政府、私营部门、技术、民间社会和学术界拥有丰富经验的专家的任务是支持联合国的努力，确保人工智能 (AI) 用于造福人类。
周四由秘书长安东尼奥·古特雷斯发起的人工智能咨询机构的成员将研究这些技术的风险、机遇和国际治理。
古特雷斯先生指出，过去一年人工智能的功能和使用取得了非凡的进步，包括通过聊天机器人、语音克隆、图像生成器和视频应用程序。
“增压”全球目标
他说： “人工智能带来的变革潜力甚至难以把握。”他强调，随着各国面临气候变化的影响和可持续发展的努力陷入停滞，迫切需要解决这一问题。
“人工智能可以帮助扭转这一局面，”他说。 “它可以加强气候行动和努力，以到 2030 年实现 17 项可持续发展目标(SDG)。”
秘书长认为，人工智能可以扩大和扩大政府、民间社会和联合国的工作——从预测和解决危机到推出公共卫生和教育服务。
潜力和陷阱
对于发展中国家来说，它提供了“跨越过时技术并直接为需求更大的人们和最需要服务的人们提供服务的可能性”。
但这将取决于人工智能是否被负责任地利用并让所有人都能使用，他补充道。
如今，专业知识集中在少数公司和国家，他警告说，这可能“加剧全球不平等，并将数字鸿沟变成鸿沟”。
可能造成的潜在危害包括错误信息和虚假信息的加速传播、偏见和歧视的根深蒂固、监视和侵犯隐私、欺诈和其他侵犯人权的行为。
联合国秘书长的“超现实经历”
此外，恶意使用可能会破坏对机构的信任，削弱社会凝聚力，并威胁民主。
在发布会开始时，古特雷斯先生讲述了他自己使用视频应用程序的“超现实体验”，他看到自己用完美的中文发表演讲——他的嘴唇与每个词同步移动——尽管他不会说中文。
“这只是人工智能令人难以置信的可能性和潜在危险的一个例子，”他说。
关于咨询机构
咨询机构由来自世界各地的 39 名专家组成。成员性别平衡、地域多样化且跨代。
该机构预计将在今年年底前就人工智能的国际治理、对风险和挑战的共同理解以及利用人工智能加速实现可持续发展目标的关键机遇和推动因素等领域提出建议。
这些建议将纳入明年九月未来峰会的筹备工作中，旨在重申对可持续发展的承诺，特别是围绕拟议的全球数字契约进行谈判，旨在确保每个人在新技术时代受益。
迈向有效的人工智能治理
秘书长技术特使阿曼迪普·辛格·吉尔（Amandeep Singh Gill）被问到，鉴于全球治理努力跟不上人工智能的进步，专家们如何才能消除错误信息和虚假信息。
他说，成员们汇集了有关技术如何影响社会、经济和政治的最新专业知识，“这样我们将能够缩小技术进步、技术前沿和治理响应前沿之间的差距。 ”
他们还将研究如何应对这些新出现的挑战和现有差距，以便人工智能治理更加有效。
“这是朝这个方向迈出的第一步，我们希望明年能有更多这样的举措，”吉尔先生说。
“全球数字契约有机会将其融入到更可持续的长期视角中，这样我们就不会因快速的技术发展而打瞌睡。”
秘书长咨询机构成员 - 人工智能
2023 年 10 月 26 日，秘书长在纽约举行的新闻发布会上宣布成立一个新的人工智能咨询机构，负责人工智能的风险、机遇和国际治理。该机构将支持国际社会治理人工智能的努力。
成员名单如下：
- Anna Abramova，俄罗斯联邦莫斯科国立国际关系学院 (MGIMO) 大学人工智能中心主任
- Omar Sultan Al Olama，阿拉伯联合酋长国人工智能国务部长，阿拉伯联合酋长国
- Latifa Al-Abdulkarim，舒拉委员会（沙特议会）成员，沙特阿拉伯国王大学计算机科学助理教授
- Estela Aranha，巴西联邦政府司法和公共安全部长特别顾问
- Carme Artigas，西班牙数字化和人工智能国务秘书
- Ran Balicer，以色列 Clalit Health Services 首席创新官兼副总干事
- 保罗·贝南蒂 (Paolo Benanti)，方济会三级修士，意大利罗马教皇格里高利大学讲师
- Abeba Birhane，埃塞俄比亚 Mozilla 基金会人工智能责任高级顾问
- Ian Bremmer，美国欧亚集团总裁兼创始人
- Anna Christmann，德国联邦政府航空航天协调员
- Natasha Crampton，微软首席人工智能官，新西兰
- Nighat Dad，巴基斯坦数字版权基金会执行董事，巴基斯坦
- 维拉斯·达尔 (Vilas Dhar)，美国帕特里克·J·麦戈文基金会主席
- Virginia Dignum，葡萄牙/荷兰于默奥大学负责任人工智能教授
- Arisa Ema，日本东京大学副教授
- Mohamed Farahat，埃及北非 IGF 法律顾问兼 MAG 副主席
- 阿曼迪普·辛格·吉尔（Amandeep Singh Gill），秘书长技术特使
- Dame Wendy Hall，英国南安普敦大学计算机科学皇家教授
- Rahaf Harfoush，数字人类学家，法国
- Hiroaki Kitano，日本索尼集团公司首席技术官
- Haksoo Ko，韩国个人信息保护委员会 (PIPC) 主席，韩国
- Andreas Krause，瑞士苏黎世联邦理工学院教授
- James Manyika，Google-Alphabet 高级副总裁，津巴布韦研究、技术和社会总裁
- Maria Vanina Martinez Posse，阿根廷人工研究所 (IIIA-CSIC) Ramon 和 Cajal 研究员
- Seydina Moussa Ndiaye，塞内加尔谢赫·哈米杜·凯恩数字大学讲师
- Mira Murati，阿尔巴尼亚 OpenAI 首席技术官
- Petri Myllymaki，芬兰赫尔辛基大学计算机科学系正教授
- Alondra Nelson，美国高等研究院 Harold F. Linder 教授
- Nazneen Rajani，印度 Hugging Face 首席研究员
- Craig Ramlal，特立尼达和多巴哥圣奥古斯丁西印度大学控制系统组组长
- 何瑞敏，新加坡政府首席人工智能官兼副首席数字技术官
- Emma Ruttkamp-Bloem，南非比勒陀利亚大学教授
- Sharad Sharma，印度 iSPIRT 基金会联合创始人
- Marietje Schaake，荷兰斯坦福大学网络政策中心国际政策主任
- Jaan Tallinn，爱沙尼亚剑桥存在风险研究中心联合创始人
- Philip Thigo，肯尼亚政府顾问，肯尼亚
- Jimena Sofia Viveros Alvarez，墨西哥墨西哥最高法院办公室主任兼大法官 Loretta Ortiz 的首席法律顾问
- 曾毅，中国科学院类脑认知人工智能实验室主任、教授
- 张凌瀚，中国政法大学数据法研究所教授
