大規模言語モデル の履歴(No.88)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 大規模言語モデル へ行く。
  • 1 (2023-04-27 (木) 18:57:23)
  • 2 (2023-04-27 (木) 19:12:32)
  • 3 (2023-04-28 (金) 09:18:46)
  • 4 (2023-05-01 (月) 10:19:21)
  • 5 (2023-05-06 (土) 00:32:15)
  • 6 (2023-05-09 (火) 12:17:28)
  • 7 (2023-05-11 (木) 09:53:46)
  • 8 (2023-05-13 (土) 11:34:30)
  • 9 (2023-05-16 (火) 09:42:36)
  • 10 (2023-05-17 (水) 10:15:13)
  • 11 (2023-05-17 (水) 18:37:28)
  • 12 (2023-05-18 (木) 13:11:00)
  • 13 (2023-05-18 (木) 18:32:26)
  • 14 (2023-05-19 (金) 15:46:23)
  • 15 (2023-05-20 (土) 17:48:59)
  • 16 (2023-05-20 (土) 21:48:50)
  • 17 (2023-05-22 (月) 00:19:46)
  • 18 (2023-05-22 (月) 17:37:49)
  • 19 (2023-05-23 (火) 16:25:56)
  • 20 (2023-05-24 (水) 13:12:43)
  • 21 (2023-05-24 (水) 22:02:35)
  • 22 (2023-05-29 (月) 16:40:17)
  • 23 (2023-05-31 (水) 10:36:35)
  • 24 (2023-06-02 (金) 09:41:28)
  • 25 (2023-06-03 (土) 17:08:36)
  • 26 (2023-06-05 (月) 09:18:17)
  • 27 (2023-06-06 (火) 11:05:08)
  • 28 (2023-06-08 (木) 11:16:04)
  • 29 (2023-06-09 (金) 12:43:02)
  • 30 (2023-06-12 (月) 10:35:54)
  • 31 (2023-06-14 (水) 08:53:53)
  • 32 (2023-06-19 (月) 10:03:13)
  • 33 (2023-06-21 (水) 16:52:06)
  • 34 (2023-06-22 (木) 14:19:20)
  • 35 (2023-06-24 (土) 07:31:36)
  • 36 (2023-06-25 (日) 09:53:10)
  • 37 (2023-06-28 (水) 09:34:10)
  • 38 (2023-06-30 (金) 12:51:06)
  • 39 (2023-07-03 (月) 09:40:36)
  • 40 (2023-07-07 (金) 17:28:51)
  • 41 (2023-07-10 (月) 10:55:35)
  • 42 (2023-07-20 (木) 13:06:37)
  • 43 (2023-07-21 (金) 10:37:49)
  • 44 (2023-07-23 (日) 16:08:23)
  • 45 (2023-07-24 (月) 21:45:29)
  • 46 (2023-08-01 (火) 09:17:03)
  • 47 (2023-08-18 (金) 12:44:15)
  • 48 (2023-08-22 (火) 10:06:06)
  • 49 (2023-08-24 (木) 10:45:33)
  • 50 (2023-08-24 (木) 17:36:06)
  • 51 (2023-08-29 (火) 15:34:37)
  • 52 (2023-09-14 (木) 09:14:07)
  • 53 (2023-09-23 (土) 12:10:56)
  • 54 (2023-09-29 (金) 09:17:51)
  • 55 (2023-09-29 (金) 12:18:28)
  • 56 (2023-10-10 (火) 15:06:08)
  • 57 (2023-10-17 (火) 09:13:02)
  • 58 (2023-10-18 (水) 09:55:27)
  • 59 (2023-10-18 (水) 22:05:06)
  • 60 (2023-10-19 (木) 12:16:28)
  • 61 (2023-10-23 (月) 12:02:59)
  • 62 (2023-10-23 (月) 17:38:27)
  • 63 (2023-10-26 (木) 22:09:26)
  • 64 (2023-10-27 (金) 09:39:49)
  • 65 (2023-10-28 (土) 09:37:03)
  • 66 (2023-10-28 (土) 23:36:14)
  • 67 (2023-11-03 (金) 23:08:54)
  • 68 (2023-11-26 (日) 22:17:09)
  • 69 (2023-11-28 (火) 16:08:52)
  • 70 (2023-12-01 (金) 09:43:38)
  • 71 (2023-12-02 (土) 22:38:03)
  • 72 (2023-12-08 (金) 09:40:59)
  • 73 (2023-12-09 (土) 14:14:14)
  • 74 (2023-12-14 (木) 16:20:41)
  • 75 (2023-12-15 (金) 15:42:35)
  • 76 (2023-12-17 (日) 13:38:52)
  • 77 (2023-12-19 (火) 11:59:31)
  • 78 (2023-12-26 (火) 21:34:35)
  • 79 (2024-01-22 (月) 09:25:51)
  • 80 (2024-02-17 (土) 12:34:00)
  • 81 (2024-02-22 (木) 22:33:33)
  • 82 (2024-03-02 (土) 21:57:14)
  • 83 (2024-03-03 (日) 06:51:28)
  • 84 (2024-03-03 (日) 22:59:43)
  • 85 (2024-03-04 (月) 21:36:25)
  • 86 (2024-03-05 (火) 13:23:34)
  • 87 (2024-03-05 (火) 23:52:10)
  • 88 (2024-03-06 (水) 14:21:35)
  • 89 (2024-03-07 (木) 09:28:43)
  • 90 (2024-03-07 (木) 13:15:55)
  • 91 (2024-03-08 (金) 13:27:00)
  • 92 (2024-03-08 (金) 18:00:05)
  • 93 (2024-03-11 (月) 15:43:30)
  • 94 (2024-03-13 (水) 19:03:08)
  • 95 (2024-03-14 (木) 09:39:42)
  • 96 (2024-03-15 (金) 13:33:10)
  • 97 (2024-03-15 (金) 16:45:41)
  • 98 (2024-03-18 (月) 12:49:59)
  • 99 (2024-03-19 (火) 16:12:49)
  • 100 (2024-03-20 (水) 13:46:44)
  • 101 (2024-03-23 (土) 00:35:19)
  • 102 (2024-03-23 (土) 12:08:37)
  • 103 (2024-03-30 (土) 11:27:04)
  • 104 (2024-04-02 (火) 12:47:55)
  • 105 (2024-04-05 (金) 11:11:13)
  • 106 (2024-04-08 (月) 17:53:00)
  • 107 (2024-04-09 (火) 09:44:24)
  • 108 (2024-04-09 (火) 18:39:48)
  • 109 (2024-04-12 (金) 09:32:28)
  • 110 (2024-04-13 (土) 12:42:41)
  • 111 (2024-04-16 (火) 15:39:42)
  • 112 (2024-04-17 (水) 11:54:20)
  • 113 (2024-04-17 (水) 23:33:10)
  • 114 (2024-04-21 (日) 13:32:21)
  • 115 (2024-04-22 (月) 09:50:16)
  • 116 (2024-04-22 (月) 17:40:09)
  • 117 (2024-04-27 (土) 12:01:31)

---

→自然言語処理

→OpenAIのAPI

サブトピック†

• LLM一般

• LLMアプリ開発

• LLMのローカル知識対応

• プロンプト・エンジニアリング
• GPT関連
  • Transformer

• LLMライブラリ

• LLMの歴史

Claude†

• GPT-4よりすごいらしいClaude 3が気になったあなたへ #AWS - Qiita 2024.3

• Anthropic Claude 3 の画像処理を試してみた | DevelopersIO 2024.3

• Claude 3を使ってさっそくローカルで画像解析してみた！ #Python - Qiita 2024.3

• Amazon BedrockでClaude 3 Sonnetが利用可能になりました - サーバーワークスエンジニアブログ 2024.3

• Python ( Boto3 ) からBedrockのClaude3を実行する #Python - Qiita 2024.3

• Google Colab で Claude 3 を試す｜npaka 2024.3
• Claude 3 の概要｜npaka 2024.3

• GPT-4を超えた？ Claude 3が登場！ Bedrockにも来ました。 #AWS - Qiita 2024.3

• 君は Anthropic Claude を知っているか? #機械学習 - Qiita 2023.11

• ASCII.jp：ChatGPTとClaudeの違いは? チャットAI比較対決 (1/5) 2023.11

• ついに日本で利用可能になったChatGPTの強力ライバル「Claude」使用レビュー、テキストファイルやPDFファイルの認識も可能でランチの相談からコーディング補助までサクサク応答 - GIGAZINE 2023.10

• OpenAIの競合Anthropic、ChatGPTに匹敵するClaude2をリリース、その特徴や実力とは？（AMP［アンプ］） - Yahoo!ニュース 2023.10

1ビットLLM/BitNet†

• BitNetから始める量子化入門 2024.3
• 速報：話題の 1ビットLLMとは何か？｜寺田英雄（?オープンストリームCTO） 2023.3
• 既存日本語LLMをBitNetで置き換えて実行してみた｜はち 2023.3

Gemini†

• Google Colab で Vertex AI の Gemini API を試す｜npaka 2024.3

• 「Gemini」の政治理念は過度にリベラルに偏向？Googleは生成AIのイメージ生成機能を停止、モデルは歴史上の事実とは異なる画像を出力、倫理的なAIを開発する能力が問われている | Emerging Technology Review 2023.3

• Google Colab で Gemma を試す｜npaka 2024.2

• Googleが警告、AI「Gemini」に“機密情報を入力しないで”。会話は従業員も閲覧（PHILE WEB） - Yahoo!ニュース 2024.2

• GoogleがGemini 1.5をリリース、最大100万トークンを処理できて1時間のムービーや70万語のテキストを扱うことが可能 - GIGAZINE 2024.2

• Geminiでマルチモーダル対応の生成AIチャットアプリを爆速で作ってみた - G-gen Tech Blog 2024.1

• 【Python】LangChainとGemini APIの革新的連携 | ジコログ 2023.12

• Gemini Proの動作検証が簡単にできるWebアプリのインストール | ジコログ 2023.12
• PythonでGemini APIを利用する方法 | ジコログ 2023.12

• Gemini API  |  Vertex AI  |  Google Cloud 2023.12

• NodeからGemini APIを使ってみる | DevelopersIO 2023.12

• Gemini Pro のリリースの概要｜npaka 2023.12

• GPT-4を超えた。 Geminiの使い方とその性能を解説｜ChatGPT研究所 2023.12

• 電撃発表、グーグルが｢全力開発｣した生成AI｢Gemini｣の全貌…ChatGPT超えするか | Business Insider Japan 2023.12

• Googleが突如発表した新しいAI、Geminiがすごい - orangeitems’s diary 2023.12

LlaMA2†

• OpenAI Python APIライブラリーからllama-cpp-pythonで立てたOpenAI API互換のサーバーへアクセスしてみる - CLOVER🍀 2023.12
• llama-cpp-pythonで、OpenAI API互換のサーバーを試す - CLOVER🍀 2023.11

• llama2のpretrainingを試す 2023.10

• Meta開発のLLMであるLLaMA、LLaMA2、派生モデルAlpacaについて解説！｜スタビジ 2023.10
  • LLaMAの基本アーキテクチャはTransformer

• 【西川和久の不定期コラム】340億パラメータのLLMは手元のPCで動く？Metaの「Code Llama 34B」を試してみた！ - PC Watch 2023.9

• えっ、まだChatGPT使ってんの？ - Qiita 2023.9

• Metaの「Llama 2」をベースとした商用利用可能な日本語LLM「ELYZA-japanese-Llama-2-7b」を公開しました｜ELYZA, Inc. 2023.8

• ChatGPT（3.5）に匹敵する「Llama 2」をローカルPCで動かしてみた（1/3 ページ） - ITmedia NEWS 2023.7

• Llama 2の性能がGPT-3.5並みだというのが本当かテストしてみた｜IT navi 2023.7

• オープンソースで商用利用可能な大規模言語モデル「Llama 2」がReplicateに登場したのでAPI経由で使ってみた - GIGAZINE 2023.7

• 話題のLlama 2という大規模言語モデルをAmazon SageMaker JumpStartで動かしてみた | DevelopersIO 2023.7

Llama.cpp†

• 非力なパソコンでもLLMを動かしたい!? llama.cppの紹介 | CyberAgent Developers Blog 2023.12
• Llama.cpp で Llama 2 を試す｜npaka 2023.7

Alpaca†

• LLaMAの派生モデル

• 日本語Alpacaデータを用いてJapanese-Alapaca-LoRAを作ったので公開します【デモページあり】｜kun1emon｜note 2023.3

• BloomをLoRaを使い日本語alpaca datasetでfine tuneを動かす - Qiita 2023.3

• チャットAI「Alpaca」をローカルにインストールしてオフラインでAIと会話できる「Alpaca.cpp」インストール手順まとめ - GIGAZINE 2023.3
• Alpaca-loraを日本語タスクでファインチューニングする - Qiita 2023.3
• GitHub - antimatter15/alpaca-lora: Code for reproducing the Stanford Alpaca InstructLLaMA result on consumer hardware 2023.3

rinna†

• HuggingFaceのLLMのメモリ使用率を調べる #NLP - Qiita 2023.10

• ローカルで動くマルチモーダルモデル(rinna-4b multimodal)を使って簡単なゲーム実況AIを作ってみた - Qiita 2023.8

• ローカルでも動く！？日本語に特化した強化学習済み対話GPT言語モデルを検証してみる - Qiita 2023.7

• 上司「オンプレでチャットAI作って」 - Qiita 2023.6

• ローカルで動く大規模言語モデル(Rinna-3.6B)を使ってあなただけのAIパートナーを作ろう - Qiita 2023.6

• 自分の過去ツイートでrinna/japanese-gpt-neox-3.6bをfinetuningして「俺tter」を生成する｜松xRのnote 2023.6

• 話題のrinna-3.6bをColab無料枠で動かしたい！(Hugging Face load_in_8bitを使ったサンプルコード) - Qiita 2023.5

• 【Python】手持ちのGPUがVRAM12Gだけど「Rinna-3.6B」とお話がしたい！！！ - Qiita 2023.5

• Google Colab で Rinna-3.6B を試す｜npaka 2023.5

PaLM†

• 超大規模Transformerモデル、コーディングタスクや多言語タスクでも高い性能

• PaLM 2 APIを使ってtext-bisonモデルに感情分析させてみた 2023.6

• Googleは世界最大規模のAI言語モデル「PaLM」を開発、言葉を理解する機能が格段に向上、人間のように論理的に考えジョークのオチを説明する | Emerging Technology Review 2022.7

OpenCALM†

• CyberAgent社の日本語LLM OpenCALMの対話モデル用途のfinetune検証 - ACES エンジニアブログ 2023.5
• サイバーエージェントの日本語LLM OpenCALMをDatabricksで動かしてみる - Qiita 2023.5
• CyberAgentの日本語言語モデルを試してみる - きしだのHatena 2023.5

Dolly†

• 大規模言語モデル(LLM)Dollyをパラメーター数を変えて動かしてみた - APC 技術ブログ 2023.5
• LLMのオープンソース化とDatabricks - Speaker Deck 2023.4
• 無料・商用利用可なオープンソースの大規模言語モデル Dolly 2.0(dolly-v2-12b) を試してみた - Qiita 2023.4
• Hello Dolly: オープンなモデルでChatGPTの魔法を民主化する - Qiita 2023.3

RWKV†

• 従来の大規模言語モデルの制約だった「入力量の限界」を取り払った「RWKV」は一体どんな言語モデルなのか？ - GIGAZINE 2023.7
  • アテンションの計算においては入力トークン間の全てのペアについて計算する必要があるため、処理に必要な時間が入力トークンの量の2乗に比例してしまうほか、テキストを生成する時には全トークンのアテンションベクトルを利用するのでメモリを大量に必要とするなど、入力トークンの長さに関して制限が存在しています。一方、RNNの場合は計算量が入力トークンの量の1乗に比例するため、かなり長い文章を「読む」ことが可能です

• RNNでTransformer並みの性能を実現するRWKVがやばい 2023.4

• RWKVをローカルPCで動かす（pyenv/Docker） 2023.3

• おうちの8GB VRAM GPUでChatRWKVと会話する - きしだのHatena 2023.3

• Google Colab で RWKV を試す｜npaka｜note 2023.3

• ChatGPT終了のお知らせ!?完全無料&オープン爆速大規模自然言語モデルRWKVが爆誕 - YouTube 2023.3

FlexGen†

• LLM推論にGPUは1つでいい？FlexGenについてまとめてみた - Platinum Data Blog by BrainPad 2023.5

• FlexGenでおうちのパソコンとお話する - きしだのHatena 2023.3
• ChatGPTで騒いでる場合じゃない。 AI研究者が｢FlexGen｣をゲームチェンジャーと呼ぶ理由 | Business Insider Japan 2023.2

• 自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす 2023.2
• 大規模言語モデルをシングルGPUで動かせる!? FlexGenを触ってみた | DevelopersIO 2023.2
• ChatGPT級のAIチャットボットがすぐに使えるFlexGen（あなたもColabでできる） - Qiita 2023.2

その他のモデル†

• 賢いと噂の日本語LLM「ELYZA」をウェブAPIで使う！ Power Automateなどからも呼び出せる完全ローカル環境の構築【イニシャルB】 - INTERNET Watch 2023.10

• Google Colab で Xwin-LM-70B-V0.1-GPTQ を試す。｜npaka 2023.9

• 100億パラメータサイズ・日英2ヶ国語対応の大規模言語モデル“Weblab-10B”をオープンソースで公開しました。 – 東京大学松尾研究室 – Matsuo Lab 2023.8