llama.cpp で GPU 2台構成で性能向上
CUDA13で確認。GPU２台で利用している場合、 –split-mode tensor を使えば分散が２倍近く高速になる。gemma 4-31b で利用したところ、デフォルト( –split-m… Read more ›
Category Archives: LLM
Categories
Archive
- 2026年6月
- 2025年11月
- 2021年7月
- 2019年5月
- 2019年2月
- 2017年9月
- 2017年6月
- 2017年5月
- 2017年4月
- 2017年3月
- 2015年6月
- 2014年11月
- 2014年10月
- 2014年8月
- 2013年11月
- 2013年8月
- 2013年7月
- 2013年6月
- 2013年5月
- 2013年4月
- 2012年10月
- 2010年6月
- 2010年5月
- 2010年4月
- 2009年9月
- 2009年8月
- 2009年5月
- 2009年4月
- 2009年1月
- 2008年10月
- 2008年9月
- 2008年7月
- 2008年5月
- 2008年4月
- 2008年2月
- 2008年1月
- 2007年12月
- 2007年11月
- 2007年9月
- 2007年8月
- 2007年7月
- 2007年6月
- 2007年5月
- 2007年4月
- 2007年2月
- 2007年1月
- 2006年12月
- 2006年11月
- 2006年10月
- 2006年9月
- 2006年8月
- 2006年7月
- 2006年6月
- 2006年5月
- 2006年4月
- 2006年3月
- 2006年1月
- 2005年12月
- 2005年11月
- 2005年10月
- 2005年9月
- 2005年8月
- 2005年6月
- 2005年5月
- 2005年4月
- 2005年3月
- 2005年2月
- 2005年1月
- 2004年12月
- 2004年11月
- 2004年10月
- 2004年9月
- 2004年5月
- 2004年4月
NVIDIA LocalSystem Container エラー対応
GPUを交換した後、PCの起動が遅い。ログオン画面までに1-2分かかるようになった。解決までの備忘録。 TL;DR “NVIDIA LocalSystem Container” サービスのエラーが… Read more ›