2023年3月29日，未来生命研究所公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。截至发稿，这封信已有1079名科技领袖和研究人员签名。公开信写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。公开信表示，“只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。

 

也就是说如果不加以控制，等到发展到GPT6那种程度的话，其智力水平将远远超过人类，那时所谓的AI会做出什么事人类根本无法预测也控制不了，这事已经关系到人类存亡了，如果没有在严格监管和控制预案的情况下，应该先停下来。

 

目前来看，gpt5很快又要被开发出来了，想起未来简史里的一句话：“无意识但具备高智能的算法，可能很快比我们更了解我们”。人工智能这个东西可能比核武器更可怕。举个简单的例子，它可以进入网络追踪到全球任何地理位置的任何一个人，要是被心怀不轨的人掌握了人工智能，那么不可想象……

 

现在各国的法律都不完善。随意ai能力越来越强，以后ai什么都能造假，如果技术人员都不一定能分辨哪个是ai哪个是真的。那以后连法律都没用了。