最近は一般の PC でも LLM (Large Language Model) を走らせることができるようになっています。いわゆる ChatGPU のローカル版で、自分の PC 上で動くため API 利用料金などを気にせ … 続きを読む 普通の PC に GPU 5枚繋いで Llama 70b を動かしてみる