在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。
信中对人工智能的安全隐患表达了深切的担忧,指出“这可能会进一步加剧现有的不平等,导致信息操控和错误传播,甚至可能使人类面临灭绝的风险。”
其中包括一名来自谷歌深度思维(Google DeepMind)的员工在内的16位签署者警告称,人工智能公司“有强烈的经济动机来规避有效的监管”,而这些公司的自我监管并不能有效改善现状。
信中提到:“人工智能公司掌握着大量未公开的信息,包括其系统的能力与局限性、保护措施的有效性,以及不同类型伤害的风险程度。”
“然而,他们目前仅有微弱的义务与政府共享这些信息,而对公民社会则几乎没有分享。我们认为不能指望他们会自愿提供这些信息。”
信中还指出,这一现实意味着,只有公司内部的员工能够向公众发声,联署者呼吁制定更全面的举报人保护法律。
信中表示:“广泛的保密协议使我们无法表达我们的担忧,除了那些可能无法解决这些问题的公司。”
据《纽约时报》报道,OpenAI的四名现任员工匿名签署了这封信,因担心遭到公司的报复。
约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素也参与了这份备忘录,他们被广泛称为人工智能的“教父”,并对人们对人工智能潜在危险的准备不足表示批评。
OpenAI在一份声明中对这些批评进行了反驳。
声明中称:“我们为提供最强大、最安全的人工智能系统的记录感到自豪,并相信我们在解决风险方面采取了科学的方法。”
“我们同意,考虑到这项技术的重要性,进行严格的辩论至关重要,我们将继续与全球的政府、民间社会及其他社区合作。”
OpenAI还表示,员工有“表达担忧的渠道,包括匿名的诚信热线”,并新成立了一个由董事会成员和高管领导的安全与保障委员会,首席执行官萨姆·奥特曼也在其中。
对OpenAI的批评最初是在《纽约时报》上发表的,与此同时,关于奥特曼对公司领导能力的质疑也在增加。
OpenAI推出了一系列新产品,但该公司坚称,这些产品只有在经过全面测试后才会向公众发布。
最近,一款人形聊天机器人的发布引发了争议,好莱坞明星斯嘉丽·约翰逊抱怨称,这款聊天机器人的声音与她的声音极为相似。
此前,她曾拒绝了奥特曼的邀请。
本文来自作者[svs]投稿,不代表立场,如若转载,请注明出处:http://dasbrooksbookkeeping.com/post/9200.html
评论列表(4条)
我是的签约作者“svs”!
希望本篇文章《OpenAI内部人士抨击AI缺乏透明度》能对你有所帮助!
本站[]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览: 在周二,OpenAI的多位现任及前任员工联合发布了一封公开信,指出该公司在人工智能领域缺乏必要的透明度和问责机制,无法有效应对技术带来的潜在风险。...