Deterministic Components for LLM

talk

AlphaFold这类混合模型，是AI未来发展方向 AlphaFold是一种混合模型。所谓混合模型，是指同时使用概率性模型和确定性模型。概率性模型是目前大模型普遍都在使用的基于概率预测下一个Token的模式，而引入确定性模型是大模型取得关键进步的下一步方向。确定性模型遵循固定的逻辑算法，相同的输入必然得到相同的输出。例如在大模型中引入真实世界的物理规则与化学规则，就是确定性模型。哈萨比斯也在采访中，详细介绍了AlphaFold这个混合模型。