Qwen3.8 の uncensored に満足していたのだが、最近は何か新しいことがllama.cppとかに起きていないかなあと思って検索したら、なんと 300B越えのモデルを Strix Halo でも簡単に動かせる project maya なるものが登場しているという話をみた。
なので、さっそくインストールしてみたら、えらい簡単に GLM-5.3-Flash が動いてしまった。18 token/s なので一人で使っている分には全然問題ないというか、これまで使っていたQwen3.8 の 27B のやつと似たような速度だと思う。
この界隈の進歩はいつもすごいのだが、僕はいつも有り難く使わせていただいている。
GLM-5.3-Flashの実際の性能についてはこれから使っていってどんなものか分かってくると思う。楽しみだ。