首页 > 体育知识 > 体育知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

体育知识更多>>

空中技巧混团决赛 中国队315.02分排名第2晋级第二轮 五朝元老齐广璞冬奥谢幕 妻子:你已经是传奇! 自由式滑雪空中技巧混合团体 中国队夺铜美国队卫冕 宁忠岩:从没想过三次站上领奖台 下一个梦想一定是卫冕 冬奥速度滑冰男子集体出发 40岁荷兰老将摘金吴宇第15名 冬奥早报:空中技巧混团中国摘铜 速滑集体出发杨滨瑜第7 冬奥会女子双人雪车:德国组合卫冕 中国车队第11名完赛 冬奥会男子冰壶-加拿大第9局拿3分逆转 9-6英国夺冠 商务部:2025年消费者购买一级能/水效家电产品数量比上年增长20% 华硕天选Air 2026系列新品上市双重补贴更优惠 iPhone越贵越好卖!iPhone18没有单打孔 REDMI Turbo 5跑分出炉:新一代神U天玑8500加持 最高立省1000元,Apple新春限时优惠1月24日开启,覆盖iPhone16、iPad等 realme真我Neo8参数汇总,今晚发布 OPPO Find N6突然入网:2亿像素镜头+多光谱摄像头,手写笔也来了 微信上线15周年,腾讯张军:要不开个QQ许愿池? 文心大模型5.0正式版上线 复旦、上海创智学院等发布前沿大模型安全报告,覆盖六大领先模型 当智能家居挑战者MOVA闯入硅谷AI腹地 保时捷设计推C-Seed折叠电视,售价超三台911 这是一组iPhone 17系列的数据,看完后你们想说什么 荣耀Magic8 Air与荣耀Magic 8 RSR:外观、参数,均没有悬念了! B站百大UP主名单出炉,优质内容创作者集聚上海,沪九条半年来,有哪些改变 清华Nature发布惊人结论:AI写论文3倍速,但科学边界被锁死 “大起”被防住后,下周A股怎么走? 猎头黄仁勋的2025:高管从巨头挖,干活钟爱华人创业团队 新本田飞度上市,限时6.68万,限量3000台,发动机变速箱终身质保 27岁指挥官乃阿森纳之本!131场20球27助,有他在阿尔特塔很自信 曝前CBA外援布莱克尼打假球 23年3月打广东消极比赛 主场惨遭40分血洗! 广东不敌上海3连胜终结