OpenAI奥尔特曼：担心AI或被少数人控制 甚至摆脱人类控制！
OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）周日表示，他担心人工智能（AI）有朝一日会被少数公司、模型或个人控制，使绝大多数消费者对这项技术如何发展失去话语权。
当天，他在一档播客节目中说道：“正确的做法是，我们希望人们能够深度掌控未来。社会和各种模型将共同演化。”
奥尔特曼表示，他担心的另一种可能性是人工智能摆脱人类的控制。矛盾的是，他还认为，对后一种可能性（AI摆脱人类控制）的恐惧，可能会导致前一种可能性（即AI被少数人控制）成为现实。
“有很多人对于这些风险的严重程度感到非常紧张，并被这种担忧深深影响，并觉得自己有必要保护世界。比如，他们会认为：‘我们应该为了安全而牺牲很多自由。’”他说。
奥尔特曼这番话很可能是在暗指Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）。
阿莫迪曾在播客、文章和公司博客中多次警告AI快速发展所带来的危险。他在6月的一篇文章中写道，该公司的新Mythos模型对网络安全、金融行业、关键基础设施和国家安全构成了“非常现实的风险”。
阿莫迪利用这些警告，呼吁政府在人工智能监管方面发挥更大作用。在奥尔特曼看来，这可能是以自由换取安全。
上个月，Anthropic也是唯一一家没有签署支持开放权重模型的信函的主要人工智能公司。开放权重模型允许开发者在自己的基础设施上共享、下载、修改和部署AI模型。
中国已积极拥抱开放权重模型，这使得其能够以极低的成本跟上硅谷的发展步伐。美国国内的一些力量，包括英伟达 、 Meta 和微软，则认为美国也需要采取同样的做法，否则就有可能在AI竞赛中将阵地拱手让给竞争对手。
虽然OpenAI尚未发布其前沿模型的源代码，但该公司去年确实发布了两款开放权重模型：gpt-oss-120b和gpt-oss-20b。
在上述播客节目中，奥尔特曼还表示，美国的人工智能领导者未能向公众证明这项技术如何能让人们对自己的生活拥有更大的自主权。
他说：“我们即将迎来前所未有的创业热潮，小型企业数量激增。我认为人工智能正在推动这一趋势。”
（文章来源：财联社）