UP主： 封面： 简介：视频里只是讲解了混合专家模型主要的思路。实际上，在模型中，有些模块会分成若干个专家，有些模块还是会被共享。 另外，像Mistral8x7B里，拥有8个专家但每次只去激活2个专...
AI老兵文哲的视频 通俗易懂理解全量微调和LoRA微调 什么是混合专家模型（MoE)？ 什么是生成式AI？生成AI不等于大模型，判别模型和生成模型 通俗易懂理解自注意力机制（Self-Attention）
