教皇方济各(Pope Francis)呼吁制定一项国际条约,以确保人工智能的开发和应用符合伦理标准,他指出,缺乏同情、仁爱、道德和宽恕等人类核心价值观的技术风险极大。
在天主教会每年1月1日庆祝的世界和平日的年度讲话中,方济各加入了越来越多的呼声,要求对人工智能进行有约束力的全球监管。梵蒂冈于周四发布了这一信息的文本。
对方济各而言,这一呼吁有着个人的色彩:今年早些时候,一张由人工智能生成的他身穿奢华白色羽绒服的照片在网络上广为流传,显示出逼真的深度伪造图像在网络传播的迅速。
就在教皇发表这一信息的几天前,欧盟谈判代表暂时批准了全球首个全面的人工智能法规,预计这些法规将成为各国政府制定本国监管的黄金标准。
道德判断和伦理决策的独特能力不仅仅是复杂算法的集合过去一年,随着OpenAI的ChatGPT等前沿系统取得惊人进展,人工智能引起了全球的广泛关注,这些系统能够生成类似人类的文字、图像和音乐,令用户目不暇接。
然而,这项技术也引发了人们的担忧,大家担心快速发展的技术可能对就业、隐私、版权保护,甚至人类生命本身构成威胁。
方济各承认人工智能带来的希望,并称赞技术进步是人类智慧创造力的体现,这与梵蒂冈在今年联合国大会(UN General Assembly)上传递的信息相呼应。在联合国大会上,许多世界领导人讨论了人工智能的希望与风险。
但他的新和平信息更进一步,强调了伦理学家和人权倡导者对人工智能提出的严重和存在性担忧。人工智能有潜力改变日常生活,影响从民主选举到艺术的方方面面。
他坚信,人工智能的技术发展和应用必须优先考虑保障基本人权,促进和平,防止虚假信息、歧视和扭曲。
他最大的警告是针对人工智能在军事领域的应用,这一直是这位耶稣会教皇关注的重点,他甚至称传统武器制造商为“死亡商人”。
绝不能让算法决定我们如何理解人权,抛弃同情、怜悯和宽恕等基本人类价值观他指出,远程武器系统使人们“远离了战争的巨大悲剧,减少了对这些武器系统造成的破坏和使用这些武器的责任感”。
他写道:“道德判断和伦理决策的独特能力不仅仅是一堆复杂的算法,这种能力不能被简化为给机器编程。”
在更基本的层面上,他警告说,对公民进行排名或分类的自动化系统会对人类产生深远的影响。
他指出,这种技术可以决定抵押贷款申请人的可靠性、移民获得政治庇护的权利,或是曾被判有罪的人再次犯罪的可能性。
他写道:“绝不能让算法决定我们对人权的理解,抛弃同情、怜悯和宽恕等基本人类价值观,或消除个人改变和抛弃过去的可能性。”
对方济各而言,这个问题触及了他作为教皇的一些优先事项,包括谴责社会不公、倡导移民,并为囚犯和社会边缘人群提供服务。
教皇的讲话没有深入探讨可能达成的具有约束力的条约的细节,只是表示必须在全球层面进行谈判,以促进最佳实践,并防止有害做法。他强调,人们不能信任科技公司独自监管自己。
本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://dasbrooksbookkeeping.com/post/7487.html
评论列表(4条)
我是的签约作者“svs”!
希望本篇文章《Pope呼吁制定国际条约来规范人工智能》能对你有所帮助!
本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览: 教皇方济各(Pope Francis)呼吁制定一项国际条约,以确保人工智能的开发和应用符合伦理标准,他指出,缺乏同情、仁爱、道德和宽恕等人类核心价值观...