克日，据外媒报道，当地时间周三，ChatGPT的开发者OpenAI示意设计投入更多资源并确立新的研究团队，研究若何确保AI对人类的平安性，最终实现用AI来监视AI。
OpenAI团结首创人伊利亚·苏茨凯弗（Ilya Sutskever）和AI对齐卖力人简·莱克（Jan Leike）在官方博客中示意：“超级智能的伟大能力可能导致人类失去气力甚至灭绝。现在，我们还没有解决方案来操作或控制一个可能的超智能AI，并防止其酿成无赖。”该团队的目的是开发到达“人类水平”，由AI驱动的对齐研究员，随后通过重大的算力推动其生长。OpenAI示意，这意味着将使用人工反馈来训练AI系统，通过训练AI系统来协助人工评估，最终训练AI系统来举行现实的对齐研究。
苹果Vision Pro头显或将减产 目前无明确消息
不外，人工智能平安的提倡者康纳·莱希（Connor Leahy）示意，OpenAI的设计存在根个性缺陷，由于最初的人类水平AI可能会失控并造成严重损坏，而这将迫使研究者去解决AI平安问题。他在接受采访时示意：“在构建人类水平的智能之前，必须先解决对齐问题，否则默认情形下你无法控制它。我小我私人以为这不是个稀奇好的、平安的设计。”
AI的潜在危险一直是AI研究员和民众最体贴的问题。今年4月，一群AI行业首脑和专家签署果然信，呼吁暂停6个月开发比OpenAI的GPT-4更壮大的系统，缘故原由是对社会存在潜在风险。益普索今年5月的考察发现，跨越2/3的美国人郁闷AI可能发生的负面影响，61%的人以为AI可能威胁人类文明。
Spotify停止接受通过苹果应用商店设置的付款
