首页 > 技术交流 > 技术交流 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

技术交流更多>>

江淮汽车集团与布雷博达成战略合作 上汽通用五菱印尼工厂举行首批出口巴基斯坦的Binguo EV(缤果)下线及发运仪式 光谷东智正式发布“光子机器人家族”全新成员——光子Lumen S1 三菱汽车2025财年第三季度营收利润双降,加藤隆雄称新型车带动业绩触底回升 5,000加元加拿大电动车补贴将于2月16日重启 铃木e Vitara正式在印尼上市,起售价7,550万印尼盾 特斯拉在美国推出Model Y全新后驱与四驱入门版 改款奔驰S级为何面临史上最严峻挑战? Waymo前CEO批评特斯拉FSD存在“严重视野缺陷” 三星德州工厂将启动光刻设备测试 为特斯拉AI5芯片量产做准备 特斯拉Cybertruck 2025年销量腰斩 跌幅居美国在售电动车之首 佑驾创新与易达资本携手进军中东 西班牙公共电动汽车充电桩数量达5万个 2026年,BBA传统豪华品牌,其核心目标是“稳住价格,稳住市场份额” 全球智能驾驶行业已从“技术验证”迈入“规模化落地”的关键阶段 近三成美国车主换车时负债超车辆价值 最高超1.5万美元 50万级大型SUV二选一 岚图泰山能否挑战问界M9? 汽车年终大考之品牌盘点:吉利汽车集团年销超302万,新能源猛涨 精准瞄准家用的极狐T1,却因“疑似减配”被推上投诉榜单 【汽车人】宝马领降,淘汰赛加速 全域AI 2.0助力,吉利今年冲刺345万辆年销目标 第五万辆下线,“东风日产N7模式”给合资阵营打了一个样儿 2026汽车国补真香!加码支持换新,最高补贴2万 新款小米SU7要来了,预计4月份上市,最高续航902km 特斯拉自动驾驶出租车上路!智能汽车快速拉升,智能汽车ETF涨超2% 限量 200 辆:雷克萨斯推Pinnacle版LC 500 国产轿车变天了 5月销量榜单出炉 18款销量过万 小米SU7第四 2025款东风奕派eπ007携颜值、智能、驾驶及安全四大领域惊艳登场 别克新E5的秘密,藏在one more thing背后 直营的体验,经销的网点!一汽-大众走出“两全其美”新路子