1. Why Does a 125B AI Model Use Only 6B Parameters at a Time?

    [PROGRAMMING]

    なぜ125BのAIモデルは、1回あたりたった6Bのパラメータしか使わないのか？ 新しいAIモデルが発表される。Xを開くと、すぐにこんな数字が目に入る： 125B parameters 6B active parameters 262K context Open weights もし毎日LLMアーキテクチャに触れているわけではないなら、最初の反応はおそらくこう…

    1 DEV Community