(メモリ増設した) 普通の PC で 100b 以上の LLM を使用する

普通の自分の PC 上でも (メモリさえ増設できれば) 100b (1000億) 以上のパラメータを持った巨大な言語モデルを走らせることができます。 最近立て続けに 120b 前後のモデルが 3つほどリリースされたので、 … 続きを読む (メモリ増設した) 普通の PC で 100b 以上の LLM を使用する