马斯克起诉案曝光OpenAI安全黑历史！科技巨头能否自证清白？
编者按：当OpenAI的公益初心与商业野心碰撞，一场关乎AI未来的法庭博弈正在上演。马斯克诉OpenAI案的核心，直指这家前沿实验室的营利子公司是否背离了“让全人类受益于通用人工智能”的创始使命。从安全团队的解散到产品仓促上线，从内部治理失序到信任崩塌，一位前员工的证词揭开了AI巨头转型中的阵痛与隐忧。这不仅是法律纠纷，更是对科技公司商业化与伦理平衡的深刻拷问。以下，让我们通过庭审实录，感受这场变革中的浮沉与思考。
马斯克起诉OpenAI的法律行动，其成败关键可能取决于该公司的营利子公司，究竟是推动了还是削弱了这个前沿实验室的创始使命——确保人类能从通用人工智能中获益。周四，加州奥克兰的一家联邦法院聆讯了一位前员工兼董事会成员的证词，她表示，该公司推动AI产品进入市场的举措，已损害了其对AI安全的承诺。
罗茜·坎贝尔于2021年加入公司的AGI就绪团队，并于2024年因团队解散而离职。同一时期，另一个专注于安全的团队——超级对齐团队也被关闭。”我入职时，公司非常注重研究，大家经常讨论AGI和安全问题，”她作证道，”但随着时间推移，它更像一个以产品为导向的组织了。”在交叉质询中，坎贝尔承认，实验室要实现构建AGI的目标，可能需要大量资金，但她表示，在没有完善安全措施的情况下创建超级智能计算机模型，这与她最初加入的组织的使命不符。
坎贝尔指出了一起事件：微软通过其Bing搜索引擎在印度部署了该公司GPT-4模型的一个版本，而该模型当时尚未经过公司部署安全委员会的评估。她表示，该模型本身并不构成巨大风险，但公司”必须（随着技术变得更强大）树立强有力的先例。我们想要建立良好且被可靠执行的安全流程。”OpenAI的律师也让坎贝尔承认，根据她的”推测性意见”，OpenAI的安全方法优于xAI——这是马斯克创立的AI公司，今年早些时候被SpaceX收购。OpenAI会公开发布其模型的评估结果并分享安全框架，但该公司拒绝对其当前的AGI对齐方法置评。其现任防范负责人迪伦·斯卡迪纳罗今年2月来自Anthropic。奥特曼表示，这次聘用让他”今晚能睡个好觉”。
然而，在印度部署GPT-4正是导致OpenAI非营利董事会于2023年短暂解雇CEO萨姆·奥特曼的警示信号之一。此前，包括前首席科学家伊利亚·苏茨克弗和前CTO米拉·穆拉蒂在内的员工，曾抱怨奥特曼不愿面对冲突的管理风格。当时的董事会成员塔莎·麦考利作证时表达了对奥特曼的担忧，认为他对董事会不够坦诚，导致其非常规的结构无法有效运行。麦考利还讨论了一个被广泛报道的模式，即奥特曼误导董事会。值得注意的是，奥特曼曾就另一位董事会成员的意图对第三人撒谎，而该成员当时正计划将另一名发表过暗示批评OpenAI安全政策论文的董事会成员除名。此外，奥特曼还未能就公开发布ChatGPT的决定告知董事会，成员们对他未披露潜在利益冲突感到担忧。”我们是非营利董事会，任务是监督下面的营利实体，”麦考利告诉法庭，”我们行使监督权的主要途径受到了质疑。我们完全没有信心相信，传达给我们的信息能让我们进行明智决策。”
然而，解雇奥特曼的决定恰逢公司向员工发出收购要约。麦考利表示，当OpenAI员工开始站队支持奥特曼，且微软努力恢复现状时，董事会最终改弦更张，反对奥特曼的成员们辞职了。非营利董事会显然未能影响营利组织，这直接支持了马斯克的观点：OpenAI从研究机构转型为全球最大的私营公司之一，违反了创始人的默契。哥伦比亚法学院前院长、受马斯克团队聘请担任专家证人的大卫·希泽尔呼应了麦考利的担忧。”OpenAI一直强调，其使命的关键部分是安全，他们要把安全置于利润之上，”希泽尔说，”这样做的一部分就是严肃对待安全规则。如果某件事需要接受安全审查，就必须执行。问题在于流程。”
随着AI已经深度嵌入营利性公司，这个问题远不止于单一实验室。麦考利表示，OpenAI内部治理的失败，应成为推动政府对先进AI加强监管的理由——”（如果）一切都由一位CEO来做决定，而公共利益岌岌可危，那实在太糟糕了。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/kx/28305.html
