通讯：OpenAI“旋转门”暗藏新科技路线之争
中新网旧金山12月23日电 题：OpenAI“旋转门”隐藏新技术路线争议
中新社记者 刘关关
“失控”5天
今年11月17日，总部位于旧金山的人工智能研究公司OpenAI突然宣布，阿尔特曼将不再担任公司首席执行官（CEO）并离开董事会，理由是他“并不总是与董事会沟通”。 坦白说，董事会不再相信他有能力继续领导 OpenAI。 另外，公司联合创始人兼总裁格雷格·布罗克曼将不再担任董事会主席。 布罗克曼立即宣布他将离开公司。
现年 38 岁的 Altman 于 2015 年联合创立了 OpenAI。该公司于 2022 年 11 月发布了大型语言模型 ChatGPT，5 天内注册用户超过 100 万。 Altman也被一些媒体称为“ChatGPT之父”。
OpenAI高层突然的震惊和董事会的严厉言论震惊了全球科技界。 就在11月初，OpenAI召开了首届开发者大会，奥特曼向全球观众介绍了公司的诸多新产品。 事发前的APEC会议上，他还与一些知名科技公司的高管谈论了人工智能的广阔前景。
图为OpenAI 11月份在公司博客上发布的两份人事变动声明，拍摄于12月20日。中新社记者 刘关关 摄
接下来的几天，这场高层震荡中的一系列“反转”更是出人意料。 OpenAI 宣布 Altman 离职后，该公司的投资者试图帮助他重返工作岗位。 11月19日，奥特曼以访客身份来到OpenAI总部，与董事会就回归事宜进行协商。 他的条件之一是重组董事会，谈判最终破裂。
当晚，微软首席执行官萨蒂亚·纳德拉在社交平台上宣布，奥特曼、布罗克曼和他们的前同事将加入微软，领导一个新的先进人工智能研究团队。 微软是OpenAI的最大投资者，投资金额达130亿美元。 该公司770名员工几乎全部签署了一封信，称如果Altman无法重返OpenAI，他们将辞职并加入微软的新团队。
11月21日深夜，OpenAI宣布阿尔特曼将再次担任公司CEO，公司董事会也将进行重组。 紧接着，布罗克曼宣布回归的消息，OpenAI“失控”的五天就此结束。
保守派与激进派的争论
如今，距离OpenAI高层震惊已经过去了一个月，对于事件的起因，仍然存在不同的说法。 从本质上讲，这很可能是关于人工智能发展的保守派和激进派思想之间的斗争，暴露了该领域理想主义和商业路线之间的差异。
OpenAI早期是一个非营利组织，其宗旨是开发“安全、有益”的通用人工智能造福全人类，这与“有效利他主义”的观点不谋而合。 有效利他主义者认为，人工智能的无节制发展可能会毁灭人类，人工智能的发展应该更注重安全而不是速度。
2015年，OpenAI在一份声明中表示，拥有一个优先考虑利他结果而不是自身利益的领先研究组织非常重要。 这一理念也为OpenAI的崛起奠定了基础。 多年不计成本的投入和对长远利益的重视，让ChatGPT在同类产品中脱颖而出。
然而，人工智能领域存在一种反对观点，称为“有效加速主义”，主张无条件加速技术创新并迅速推向市场，颠覆社会结构。 有人认为，虽然阿尔特曼也强调人工智能安全和监管的重要性，但他的立场显然更倾向于“有效加速主义”。
OpenAI 的产品暴露出了令人不安的方面。 一些人根据个人经验多次表示，ChatGPT 可以向用户提供一些不道德或非法的想法。
路透社援引两名匿名知情人士的话称，几名OpenAI员工在公司人事震动前写信给董事会，称名为“Q*”的人工智能算法项目在通用人工智能研究中取得的突破可能会对对人类的威胁。 威胁。
在公司快速发展的过程中，阿尔特曼对人工智能商业化的钦佩越来越明显，与苏兹科等董事会成员的分歧也加深。 英国《卫报》报道称，阿尔特曼被解雇后，一些OpenAI员工询问Sutskwei，这是否是一场“政变”。 苏茨克维否认该委员会正在履行其作为非营利组织的职责。
人类需要更多的“对齐”
11 月 29 日，阿尔特曼表示，通过“这一切”，公司“没有失去一名员工”。 然而，在看似没有改变什么的人员冲击之后，人工智能的安全问题再次引起广泛关注，一些国家、机构和组织正在加强对人工智能的监管。
美国总统拜登10月30日签署行政命令，为人工智能安全制定新标准。 美媒称，这是拜登政府针对人工智能技术采取的首个重大约束性行动。 欧洲议会、欧盟成员国和欧盟委员会于12月8日就《人工智能法案》达成一致，这将成为全球首个人工智能领域的综合性法规。
12月，OpenAI多次在社交平台发文讨论人工智能的安全问题，并提到“超级对齐”团队发表了第一篇论文。 所谓“超级对准”，就是建立一套控制技术，保证人工智能系统的目标与人类的价值观和利益一致。
“超级对齐”团队于今年7月成立，领导者之一是苏茨克维。 但截至目前，OpenAI尚未表态。 亲身“经历过这一切”的人或许已经明白，人类本身更需要“对齐”，这比人工智能的“对齐”要困难得多。 （超过）
