【本文来自《这是AI模型的一个经典幻觉》评论区，标题为小编添加】
AI最大的问题，是困在它自己的逻辑里，为了证明它的观点，不停编造瞎话来实现逻辑自洽。
我觉得AI治理，怕是要限制它的无限搜索，比如医药相关的，只允许搜索官方发布的信息和指定网站，可能会好一些。还有就是实名注册，学生的搜索范围也要加以限制。
现在各大软件注册机制本身就已经带实名制了，扩大实名制只会造成更广泛的隐私泄露。
至于限制学生的搜索范围，这件事做不到，无论是监管还是运营，无法区分电脑/手机对面到底是成年人还是学生，游戏行业早就有针对未成年人的限制措施，但是最终基本都无效化，学生们总能绕开这些限制去使用它们。
而且这里面还有一个更大的问题，如果你真的不留死角的全方位封锁学生使用正规AI，那么这些学生会转向那些缺乏监管的非法AI，最终会酿成更严重的问题。
而且现在的AI已经是知识平权工具了，监管部门不能客观的造成一个有途径使用AI和没有途径使用AI的分化阶级，这就得不偿失了。
至于大模型不停编造瞎话的问题，首先，你得明白一点，大模型没有验证事实真实性的机制！
你一定要记住这一点，大模型所有的答案都是根据数据库检索统计联想推断出来的，当它记不清冷门细节、缺失信息时，不会停止输出，不会主动说【不知道】，只会根据相似文本的统计模式脑补一个读起来通顺的答案—— 这就是编造的起点。