OpenAI首席科学家提出AI发展需保持“极其谨慎”，呼吁放缓发展速度

麦站管理员 50 2026-09-08 10:40:03

内容页头部广告位（PC）

内容页头部广告位（WAP）

<article><section data-type="rtext"><p>【环球网科技综合报道】9月8日消息，据BBC报道，在OpenAI发布旗下AI模型GPT-6 Astra的数日后，该公司首席科学家Jakub Pachocki发布文章，公开呼吁全行业对人工智能的飞速发展保持“极其谨慎”的态度，警告当前社会尚未为机器智能持续快速增长的后果做好准备，未来可能需要更多干预措施，以确保“人类继续掌控未来”。</p><p><i class="pic-con"></p><p>Pachocki指出，当前全球正处于向“拥有极其智能的机器的世界”过渡的关键阶段，必须全力保障这一转型过程始终对人类有利。他透露，OpenAI将持续投入***构建防御系统，通过技术方案实现AI对齐目标——即确保机器的行为与目标完全匹配人类的意图和安全防护要求。同时他披露，公司未来的核心优先事项之一，是打造“自动化人工智能研究员”体系，在跟上AI技术迭代速度的同时，保证人类研究人员始终深度参与核心管控流程。</p>
              <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader>
            <p>近期多起AI代理自主行动***，正在持续推高行业对前沿AI安全风险的关注。此前7月，OpenAI曾公开通报，其可在人类指令下独立运行的AI代理，成功入侵技术平台Hugging Face，当时公司将该***定义为“史无前例”的AI自主行动案例。而9月最新披露的报告显示，数月前该公司的AI代理还曾自主劫持一个德国网站。除OpenAI之外，包括Anthropic在内的多家头部AI企业，也都先后分享过旗下AI代理自主发起行动、对其他公司发动现实世界网络攻击的相关报告。</p><p>针对OpenAI提出的以内部技术方案应对AI安全风险的思路，学界与行业组织已经提出不同意见。剑桥大学Minderoo技术与民主中心主任Gina Neff教授指出，OpenAI当前的应对方案存在明显不足：“他们没有提出更完善的AI防护措施、监管规则或保障机制来保护公众安全，反而提议开发内部AI代理来研究这些问题，这对于OpenAI模型在网络安全、失业、信息错误、操作失误和欺诈等领域引发的日益增长的担忧，给出的回应远远不够。”</p><p>全球AI倡导组织Encode AI的总法律顾问Nathan Calvin则表示，自己认同Pachocki提出的高级AI模型开发过程中存在显著风险的判断，但OpenAI长期在相关信息上缺乏透明度，直接导致其公开发出的安全警告很容易被外界视为“自私自利的炒作”。他公开呼吁：“如果Jakub和OpenAI的团队真的希望AI行业的所有相关方携手推动安全发展，他们最应该做的事，就是分享更多那些促使他们发出谨慎呼吁的实际观测信息。”</p><p>Pachocki也正式提出了系统性的安全监管建议：推动建立法律层面或国际公认的AI最低安全标准，由“第三方审核员网络”或***机构负责强制执行；所有AI实验室必须达标，才能获准继续扩大研发规模或部署高级AI模型。他同时提出，希望行业能将“自愿放缓研发节奏”变成常态，在全行业共同的安全保障体系完全建立之前，主动控制前沿AI的迭代速度。</p><p>值得注意的是，2026年8月，OpenAI曾公开宣布，为提升整体安全性，已经主动放缓了部分最先进AI模型的训练进度。（青山）</p></section><img src='/image/159977-0' alt='OpenAI首席科学家提出AI发展需保持“极其谨慎”，呼吁放缓发展速度'>                            </div>

<div class="pcd_ad">
              <div style=" border:#dedede 1px dashed; height:90px; line-height:90px; text-align:center; font-size:14px">内容页头部广告位（PC）</div>
            </div>
            <div class="mbd_ad">
              <div style=" border:#dedede 1px dashed; height:90px; line-height:90px; text-align:center; font-size:14px">内容页头部广告位（WAP）</div>
            </div>
            <div class="article_footer clear">
              <div class="fr tag">标签：</div>
            </div>
            
            <div class="post-navigation clear">

<span>上一篇：<a href="/detail/156300.html">阿里练操作，Momenta 开真车，英伟达搭片场：三个&quot;世界模型&quot;根本不是一回事_预测_***</a></span>
              <span>下一篇：<a href="/detail/156455.html">对付蚊子，我们要赢了？对话“虎蚊克星”陈晓光：揭秘“只能生儿子”的基因驱动技术_研究_白纹_伊蚊</a></span>

</div>
            </div>
          </div>
          <div class="related_article">
            <div class="box_title clear"> <span>相关文章</span> </div>
            <div class="related_list clear">

<article class="fl">
                    <div class="related_img"><a href="/detail/156531.html"><img src="/public/tupian/153.jpeg"></a></div>
                    <div class="related_detail">
                        <h3><a href="/detail/156531.html" title="微软新一轮裁员波及销售、咨询及Xbox部门，规模或达数千人">微软新一轮裁员波及销售、咨询及Xbox部门，规模或达数千人</a></h3>
                        <div class="meta"> <span><i class="fa fa-eye"></i>01</span> <span><i class="fa fa-clock-o"></i>2026-07</span> </div>
                    </div>
                </article>
                                <article class="fl">
                    <div class="related_img"><a href="/detail/156668.html"><img src="/public/tupian/186.jpeg"></a></div>
                    <div class="related_detail">
                        <h3><a href="/detail/156668.html" title="首届AI世界杯，什么变了？_体育比赛_误判_技术">首届AI世界杯，什么变了？_体育比赛_误判_技术</a></h3>
                        <div class="meta"> <span><i class="fa fa-eye"></i>04</span> <span><i class="fa fa-clock-o"></i>2026-07</span> </div>
                    </div>
                </article>
                                <article class="fl">
                    <div class="related_img"><a href="/detail/156075.html"><img src="/public/tupian/117.jpeg"></a></div>
                    <div class="related_detail">
                        <h3><a href="/detail/156075.html" title="AI的旋风刮到了黄河：用钻石给芯片散热_金刚石_公司_材料">AI的旋风刮到了黄河：用钻石给芯片散热_金刚石_公司_材料</a></h3>
                        <div class="meta"> <span><i class="fa fa-eye"></i>23</span> <span><i class="fa fa-clock-o"></i>2026-06</span> </div>
                    </div>
                </article>
                                               </div>
          </div>
          <link href="/template/moban73/css/bootstrap.css" rel="stylesheet" type="text/css">

评论记录：

未查询到任何数据！

OpenAI首席科学家提出AI发展需保持“极其谨慎”，呼吁放缓发展速度_上海市网站建设_网站建设公司_网站建设设计制作_seo优化

OpenAI首席科学家提出AI发展需保持“极其谨慎”，呼吁放缓发展速度

评论记录：

热门文章

最新发布

不止于高端制造，更在于产业赋能，三星用“投资+分享”书写外企在华新样本

光速反转！骂翻DeepSeek面试的天才少年，被曝欺诈投资拿钱跑路_李博杰_全网_技术

乱用AI，打工人被坑惨了_客户_陈丹_工作

突破！猪肾移植的受体猴存活超600天，核心技术来自成都_基因_团队_奥格

超12万人被裁！AI“血洗”科技圈_fyi_Layoffs_行业

《恋与深空》边翻车边卖爆，乙游怎么撑起百亿市场？_游戏_女性_玩家

中远海运32.5万吨甲醇双燃料VLOC（超大型矿砂船）即将完工

小米徐洁云回应“雷军过早被质疑摆拍”

TAG标签