ローカルLLM関連

ローカル環境でLLM構築する系の話

→大規模言語モデル

一般†

• API課金ゼロで米国ニュース要約デスクトップアプリを作った（Tauri × ローカルLLM） 2026.5

• とほほのローカルAI入門 - とほほのWWW入門 2026.4

• ローカルAIを活用したら、大量のサブスクが解約できたぞ！ | ライフハッカー・ジャパン 2026.3
  • GPT4ALL, Qwen, AnythingLLM

• 【緊急】月間9500万DLのLiteLLMが乗っ取られた。インストールしただけでSSH鍵・AWS認証・仮想通貨が全部盗まれる #Python - Qiita 2026.3

• ノートPCで動くローカルLLM完全ガイド【2025年12月版】 | SIOS Tech Lab 2025.12

• 気軽に試せる！ローカルLLMでのバイブコーディング - YouTube 2025.10

• 社長が、自腹のRTX2080で国産生成AIをゼロから作ってみた話｜片山良平＠paiza代表 2025.9

• ローカルLLMの歴史を学んで可能性を考える #生成AI - Qiita 2025.9

• gpt-oss × opencode × vibe kanbanで作る完全無料のAI開発環境 2025.8

• AMDのドライバ更新でAI処理能力が大幅強化され109BのLlama 4 Scoutをローカル実行可能に - GIGAZINE 2025.7

• 今さらながらLocal LLMに入門しました - 仮想化通信 2025.8

• 気づいたら小規模なLLMが強くなってた #AI - Qiita 2025.8

• 【Ubuntu日和】【第77回】llama.cppをビルドして、いち早く話題の日本語LLMを使おう！ - PC Watch 2025.7

• わずか2GBのメモリ使用量でスマホでの実行もOKな軽量オープンウェイトモデル「Gemma 3n」をGoogleが正式リリース、音声や動画の入力にも対応し日本語ももちろんOK - GIGAZINE 2025.6

• Microsoft、新しい小規模言語モデル「Mu」を発表 〜「設定」検索AIの頭脳 - 窓の杜 2025.6

• ローカルLLMで遊ぶためにVRAM40GBのPCを構築したので、その顛末を記録する(計40万円) - 技術メモ集 2025.2
• ゲーミングPCで使う最適なローカルLLM（2025年2月）｜もるすこ 2025.2
• 最近ローカルLLMがアツいらしい – soy-software 2024.5
• 【令和最新版】何もわからない人向けのローカル LLM 入門 2023.11
• ローカルLLMの情報まとめ｜npaka 2023.6

• いちばんやさしいローカル LLM｜ぬこぬこ 2024.4
  • Ollama,quantkit

gpt-oss†

• ローカル LLM 環境を構築する #Docker - Qiita 2025.8

• GPUメモリ4GBあればGPT-oss 20Bが14tok/secで動く - きしだのHatena 2025.8

• OpenAIのオープンウェイトモデル「gpt-oss」はOllamaを使って個人用PCで簡単に使用可能 - GIGAZINE 2025.8

• Amazon Bedrock で利用可能になった OpenAIの gpt-oss-120b と gpt-oss-20bを試してみた | DevelopersIO 2025.8
  • ※Bedrockなのでローカルではない

• OpenAIの「オープンなAI（gpt-oss-120b）」はGPUサーバじゃないと動かない？→約30万円の自作PCで動かしてみた - ITmedia AI＋ 2025.8

• gpt-ossの推論速度とShaberi3ベンチマーク結果まとめ 2025.8

• gpt-oss の使い方｜npaka 2025.8

• gpt-oss-120bをpythonとvLLMで触りながら理解する - ABEJA Tech Blog 2025.8

• 俺の128GB MacBook Proが真価を発揮する時がきた。ChatGPT o4-mini並みのgpt-oss-120bがローカルで動いてるよ（CloseBox） | テクノエッジ TechnoEdge 2025.8
• gpt-ossがAWSに来てる！ #OpenAI - Qiita 2025.8
  • openai/gpt-oss: gpt-oss-120b and gpt-oss-20b are two open-weight language models by OpenAI 2025.8

llama.cpp†

• 自分のPCで簡単にAIを動かせる「Ollama」には多数の問題点があり、llama.cppを使った方が良いという意見 - GIGAZINE 2026.4
  • 内部でllama.cppを使っていたのに隠していた

• 【Ubuntu日和】【第77回】llama.cppをビルドして、いち早く話題の日本語LLMを使おう！ - PC Watch 2025.7
• 非力なパソコンでもLLMを動かしたい!? llama.cppの紹介 | CyberAgent Developers Blog 2023.12
• Llama.cpp で Llama 2 を試す｜npaka 2023.7

Qwen3†

• 手軽に最新LLM！OllamaとQwen3でローカルAI環境を構築する方法 #ollama - Qiita 2025.5
• プログラマー必見！LMStudioとQwen3で始めるローカルAI開発環境構築 #LLM - Qiita 2025.4
• Qwen3はローカルLLMの世界を変えたかも - きしだのHatena 2025.4

DeepSeek†

• antirez/ds4: DeepSeek 4 Flash local inference engine for Metal 2026.5

• Claude Opusの1786分の1!? DeepSeek V4のAPI価格がバグってるので全部計算してみた #AI - Qiita 2026.5

• DeepSeek-R1の数理的背景を理解する - Techtouch Developers Blog 2025.4

• PythonでDeepSeek-R1 APIを呼び出す完全ガイド：インストールから成功実行まで #DeepSeekR1 - Qiita 2025.2

• Not蒸留物、本物のDeepSeek-R1(671B)を1.58bit量子化したモデルを動かす（1500円/時) 2025.2

• DeepSeek-R1 models now available on AWS | AWS News Blog 2025.2
  • Amazon Bedrock Marketplace および Amazon SageMaker JumpStart で一般提供

• DeepSeek-R1の技術的詳細 2025.2

• 「DeepSeek-R1は厳格なレッドチームテストと安全性評価を受けている」Microsoftが公式ブログにて言及 - 窓の杜 2025.1

• DeepSeek-R1がオープンソースでなければならなかった理由、そしてなぜOpenAIを倒せないのか - GIGAZINE 2025.1

• DeepSeek推しのローカルLLM勢から見るDeepSeek｜Holy_fox 2025.1

• DeepSeek R1 Dynamic 1.58-bit の概要｜npaka 2025.1

• Amazon Bedrockのカスタムモデルインポートで DeepSeek-R1を触ってみた #AWS - Qiita 2025.1

• DeepSeek-R1 1.58bを試す/ついに実用的なBitNetが!?｜shi3z 2025.1

• DeepSeek R1が何故OSSとして発表されたか - サッとぶ 2025.1

• DeepSeekの成功は必然。ビッグテックがやりたくないことをやった | ギズモード・ジャパン 2025.1
  • 金ではなく時間と手間をかけた

• Ollamaを活用したDeepSeek-R1のローカルLLM構築ガイド - GPT Master 2025.1

• DeepSeek-R1がNPU上で動作できるようMicrosoftが移植 - PC Watch 2025.1

• DeepSeek狂奏曲 – WirelessWire News 2025.1

• 【蒸留モデル】DeepSeek-R1ローカル実行時におすすめのモデル #macOS - Qiita 2025.1

• 話題の「DeepSeek-R1（の派生モデル）」はAmazon Bedrockで利用可能だよ〜〜！！！だがしかし #AWS - Qiita 2025.1

• 中華製AI｢DeepSeek｣はNVIDIAを駆逐するか 無料で性能はChatGPTにほぼ引けを取らない | 生成AI第2幕の行方 | 東洋経済オンライン 2025.1

• 性能はChatGPTよりも上…無料の中国製AI「DeepSeek」がヤバすぎる！東大の入試問題を解かせてわかった「驚異の実力」（現代ビジネス） - Yahoo!ニュース 2025.1

• “OpenAIを脅かす”中国発の新AIモデル「DeepSeek R1」無料で使える魅力と要注意ポイントとは（オタク総研） - Yahoo!ニュース 2025.1

• ASCII.jp：ChatGPT超えの中国AI「DeepSeek-R1」の衝撃 2025.1

• DeepSeek-R1の論文読んだ？【勉強になるよ】 2025.1

• DeepSeek検索：高性能LLMによる効率的なエビデンス収集｜genkAIjokyo|ChatGPT/Claudeで論文作成と科研費申請 2025.1

• GitHub - Jiayi-Pan/TinyZero 2025.1

• DeepSeek-R1 の technical report を読んでみた 2025.1

• DeepSeek R1 完全ガイド：o1並みの推論モデルがまさかのオープンソース＆激安APIで新登場 | AIじゃないよ 2025.1
• DeepSeek-R1 の概要｜npaka 2025.1
• DeepseekV3は何がすごいのか？何故ヤバいと言われているのかを解説 2025.1
• deepseek-ai/DeepSeek-V3

Cohere Command R+†

• ASCII.jp：まるで“いけない話ができるChatGPT”　ローカルAI「Command R+」の爆発的な可能性 (1/5) 2024.5

• Amazon BedrockでCohere Commandのプロンプトの奥地に迫る #AWS - Qiita 2024.5

• Cohere Command R+ のクエリの書き換え機能を確認する #AWS - Qiita 2024.5

• Cohere の Command R/R+ において 128k input tokens は短いのか長いのか #bedrock - Qiita 2024.4

• Command R+はどこまで量子化するとアホになってしまうのか？ – soy-software 2024.4
  • 4bitまでは大して劣化しない

• Command R+はトークナイザーもすごかった #LLM - Qiita 2024.4

• 【Command R+】オープンソース界最強LLMがGPT-4レベルの性能を達成 | WEEL 2024.4

• OpenAIのライバル:Cohereが最高にイけている件 #LLM - Qiita 2024.4

• 日本語対応でGPT-4よりも高性能な大規模言語モデル「Command R＋」が登場したので使ってみた、無料でダウンロードしてローカル動作も可能 - GIGAZINE 2024.4

最新の50件