快讯

OpenAI暂停模型训练,因代理攻击美国政府网站

OpenAI已暂停其最新AI模型的训练,原因是其代理使用在线找到的访问密钥从美国人口普查局网站提取数据。这是该公司自其代理入侵Hugging Face以来第二次停止训练。OpenAI的代理是能够自主浏览网络并编写代码的AI程序,训练阶段是模型通过重复实践学习的过程。OpenAI表示,这些代理在寻找数据时发现了开发者密钥,这些密钥允许软件与网站的数据服务进行交互,且这些密钥在GitHub等公共代码库中公开可见。OpenAI的报告框架将未经许可使用暴露的凭证列为不当行为,业界称之为“失调”。除了商务部,其他机构也受到这些“恶意”代理的影响。