GPT関連
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
] [
Twitter
]
開始行:
→自然言語処理
→Transformer
→ディープラーニング
#contents
-GPT=Generative Pretrained Transformer
*サブトピック [#i9d619a9]
-OpenAIのAPI
-LLMライブラリ(LangChain/LlamaIndexなど)
-ChatGPT関連
*GPT-4/4V [#sf095d1d]
-[[GPT-4などのLLMが「AはB」から「BはA」を導かない『逆転の...
-[[明らかになったGPT-4の秘密 | AI専門ニュースメディア AIN...
-[[【論文解説】OpenAI GPT-4 を理解する | 楽しみながら理解...
-[[GPT-4テクニカルレポートの 熟読?深読み? - Speaker Dec...
-[[GPT-3.5世代のオープンな言語モデルを調べてみた - Qiita>...
-[[GPT-4以降,英語が最強のプログラミング言語になりつつあ...
-[[無料GPT-4アプリの公開とクリーンデータセットの作成につ...
-[[日本語が通る大規模言語モデルCerebras-GPTを動かす - き...
-[[GPT-4で今日からできる仕事効率化活用術7選!|ChatGPT ...
--何から手を付けていいか聞く
--コーディング
--メール作成
--タスク管理
--法律
--文章作成
--ブレーンストーミング
-[[GPT-4の力を最大限引き出す:プロンプトエンジニアリング...
-[[ChatGPTの有料会員(Plus)になってGPT-4を利用する方法 - Q...
-[[GPT-4との新たな開発体験: AIとペアプロを極める>https://...
-[[GPT-4用の珠玉のプロンプト6選|IT navi|note>https://no...
-[[GPT-4関連で面白かった・気になった事例まとめ - Qiita>ht...
-[[GPT-4の性能をBingと比較してみた|IT navi|note>https:/...
-[[GPT-4はどこまで進化したのか?オセロで戦うことができる...
-[[最速でGPT4の粗探しをしてみた - Qiita>https://qiita.com...
-[[GPT-4のすごさとその影響範囲について - Qiita>https://qi...
-[[「とりま、GPT-4 APIの価格について。GPT-4はコンテキスト...
-[[GPT-4とGPT-3.5に日程調整メールを作ってもらって性能を比...
-[[GPT-4が遂に公開。 GPT-4の使い方とその性能を解説|ChatG...
* GPT4ALL [#g3bc9bd3]
-「GPT4ALL」は、LLaMAベースで、膨大な対話を含むクリーンな...
-[[オフラインで動作する様々なオープンソースLLMのインタフ...
-[[Google Colab で GPT4ALL を試す|npaka|note>https://no...
-[[グラボ非搭載の低スペックPCでも使える軽量チャットAI「GP...
-[[無料でノートPCでも実行可能な70億パラメータのチャットボ...
* GPT一般 [#l9bc9c4d]
-[[[上級編]LLMへ至る道~GPT-3の話~[22日目] | DevelopersIO>...
-[[[上級編]LLMへ至る道~GPT-2の話~[21日目] | DevelopersIO>...
-[[225行のコードでGPTの仕組みを理解する>https://zenn.dev/...
-[[ざっくりわかるRLHF(人間からのフィードバックを用いた強...
-[[RLHF (人間のフィードバックからの強化学習) の図解|npak...
-[[GPTの仕組みをちゃんと勉強したい本 - きしだのHatena>htt...
-[[CompressGPT: Decrease Token Usage by ~70%>https://musi...
-[[OpenAI、「GPT-5」の開発はまだ--アルトマンCEOが明言 - C...
-[[【GPT】アーキテクチャが参考になるアプリケーションまと...
-[[GPT-1→GPT-2→GPT-3→GPT-3.5→ChatGPT→GPT-4までの進化の軌...
-[[ChatGPTに匹敵する性能の日本語対応チャットAI「Vicuna-13...
-[[【完全保存版】GPT を特定の目的に特化させて扱う (Fine-t...
-[[ChatGPTに自然言語処理モデル「GPT2-Japanese」の使用方法...
-[[[翻訳] GPTs are GPTs: An Early Look at the Labor Marke...
--[[[翻訳] GPTs are GPTs: An Early Look at the Labor Mark...
-[[GPT-3 信頼性を向上させる技術[翻訳]|メガゴリラ|note>h...
-[[ChatGPTを統合したiOSアプリがリジェクトされるという噂を...
-[[「ChatLLaMA」nebullvm/apps/accelerate/chatllama at mai...
--Metaが公開した巨大言語モデルであるLLaMAベースのモデル
--ChatGPTと同じRLHFでより効率的に学習できる
-[[GPT-3を使って文脈のある会話を実現する(+LINE Bot化) ...
-[[ChatGPTをオープンソースで再現、わずか1.6GBのGPUメモリ...
-[[GPTでテキストからJavaコードを生成する - きしだのHatena...
-[[言語の壁を打ち破る:GPT with 多言語インデックス - Qiit...
-[[How Does GPT-3 Work? - DEV Community 👩‍&...
-[[TypeScriptでGPT-3.5を使ってChatGPTクローンを作る1 - GP...
-[[OpenAI API で提供されている GPT-3モデル まとめ|npaka...
-[[GPT-3の論文を読んでいます! - CCCMKホールディングス TE...
--"GPT-3"は"Transformer"をベースにしたモデルで、その特徴...
-[[OpenAI開発のテキスト生成AI「GPT-3」がどんな処理を行っ...
-[[【無料】GPT-3レベルのGoogle製Flan-T5を利用する方法 | ...
-[[ABEJAで作った大規模GPTモデルとその道のり - ABEJA Tech ...
-[[【備忘録】Pythonで自然言語処理の学習を始めるにあたって...
--GPT2, GPT3
-[[GPT-2を使ってポケモン図鑑の説明文生成器を作ってみた - ...
** そもそもGPTとは何か [#wca760b5]
-[[[上級編]LLMへ至る道~GPTの話~[20日目] | DevelopersIO>ht...
-[[ChatGPTのコア技術「GPT」をざっくり理解する - Qiita>htt...
-[[【深層学習】GPT - 伝説の始まり。事前学習とファインチュ...
-GPTの何がすごいか
--データを増やし、モデルが大きくなるほど精度があがる。
--多様な言語タスクを1つのモデルで解決できる。(それまで...
-Pre-Training & Fine Tuning の威力
--それまでのDLはラベル付き教師データを作るのが大変だった
--ラベル無しデータでできるサブタスクを大量に行い、まず言...
-Pre-Training(100epoc)
--大量のタスク=次の単語予測をさせる→文法、単語、文脈を学習
-Fine-Tuning(3epoc程度で学習完了)
--各種タスクごとに最終層だけ取り換える→教師データを使った...
--省データ、省計算資源を実現
-モデルはTransformerのDecoderの改変
*Bing chat [#wf72aabf]
-[[進化したEdgeのAI機能「Bingチャット」に、読んでいない英...
-[[【new Bing】PDFが要約できるようなので試してみました | ...
-[[AI対応「新Bing」が素直すぎて秘密情報バラしまくり | App...
-[[チャット機能を搭載した新しいBingが使えるようになったの...
終了行:
→自然言語処理
→Transformer
→ディープラーニング
#contents
-GPT=Generative Pretrained Transformer
*サブトピック [#i9d619a9]
-OpenAIのAPI
-LLMライブラリ(LangChain/LlamaIndexなど)
-ChatGPT関連
*GPT-4/4V [#sf095d1d]
-[[GPT-4などのLLMが「AはB」から「BはA」を導かない『逆転の...
-[[明らかになったGPT-4の秘密 | AI専門ニュースメディア AIN...
-[[【論文解説】OpenAI GPT-4 を理解する | 楽しみながら理解...
-[[GPT-4テクニカルレポートの 熟読?深読み? - Speaker Dec...
-[[GPT-3.5世代のオープンな言語モデルを調べてみた - Qiita>...
-[[GPT-4以降,英語が最強のプログラミング言語になりつつあ...
-[[無料GPT-4アプリの公開とクリーンデータセットの作成につ...
-[[日本語が通る大規模言語モデルCerebras-GPTを動かす - き...
-[[GPT-4で今日からできる仕事効率化活用術7選!|ChatGPT ...
--何から手を付けていいか聞く
--コーディング
--メール作成
--タスク管理
--法律
--文章作成
--ブレーンストーミング
-[[GPT-4の力を最大限引き出す:プロンプトエンジニアリング...
-[[ChatGPTの有料会員(Plus)になってGPT-4を利用する方法 - Q...
-[[GPT-4との新たな開発体験: AIとペアプロを極める>https://...
-[[GPT-4用の珠玉のプロンプト6選|IT navi|note>https://no...
-[[GPT-4関連で面白かった・気になった事例まとめ - Qiita>ht...
-[[GPT-4の性能をBingと比較してみた|IT navi|note>https:/...
-[[GPT-4はどこまで進化したのか?オセロで戦うことができる...
-[[最速でGPT4の粗探しをしてみた - Qiita>https://qiita.com...
-[[GPT-4のすごさとその影響範囲について - Qiita>https://qi...
-[[「とりま、GPT-4 APIの価格について。GPT-4はコンテキスト...
-[[GPT-4とGPT-3.5に日程調整メールを作ってもらって性能を比...
-[[GPT-4が遂に公開。 GPT-4の使い方とその性能を解説|ChatG...
* GPT4ALL [#g3bc9bd3]
-「GPT4ALL」は、LLaMAベースで、膨大な対話を含むクリーンな...
-[[オフラインで動作する様々なオープンソースLLMのインタフ...
-[[Google Colab で GPT4ALL を試す|npaka|note>https://no...
-[[グラボ非搭載の低スペックPCでも使える軽量チャットAI「GP...
-[[無料でノートPCでも実行可能な70億パラメータのチャットボ...
* GPT一般 [#l9bc9c4d]
-[[[上級編]LLMへ至る道~GPT-3の話~[22日目] | DevelopersIO>...
-[[[上級編]LLMへ至る道~GPT-2の話~[21日目] | DevelopersIO>...
-[[225行のコードでGPTの仕組みを理解する>https://zenn.dev/...
-[[ざっくりわかるRLHF(人間からのフィードバックを用いた強...
-[[RLHF (人間のフィードバックからの強化学習) の図解|npak...
-[[GPTの仕組みをちゃんと勉強したい本 - きしだのHatena>htt...
-[[CompressGPT: Decrease Token Usage by ~70%>https://musi...
-[[OpenAI、「GPT-5」の開発はまだ--アルトマンCEOが明言 - C...
-[[【GPT】アーキテクチャが参考になるアプリケーションまと...
-[[GPT-1→GPT-2→GPT-3→GPT-3.5→ChatGPT→GPT-4までの進化の軌...
-[[ChatGPTに匹敵する性能の日本語対応チャットAI「Vicuna-13...
-[[【完全保存版】GPT を特定の目的に特化させて扱う (Fine-t...
-[[ChatGPTに自然言語処理モデル「GPT2-Japanese」の使用方法...
-[[[翻訳] GPTs are GPTs: An Early Look at the Labor Marke...
--[[[翻訳] GPTs are GPTs: An Early Look at the Labor Mark...
-[[GPT-3 信頼性を向上させる技術[翻訳]|メガゴリラ|note>h...
-[[ChatGPTを統合したiOSアプリがリジェクトされるという噂を...
-[[「ChatLLaMA」nebullvm/apps/accelerate/chatllama at mai...
--Metaが公開した巨大言語モデルであるLLaMAベースのモデル
--ChatGPTと同じRLHFでより効率的に学習できる
-[[GPT-3を使って文脈のある会話を実現する(+LINE Bot化) ...
-[[ChatGPTをオープンソースで再現、わずか1.6GBのGPUメモリ...
-[[GPTでテキストからJavaコードを生成する - きしだのHatena...
-[[言語の壁を打ち破る:GPT with 多言語インデックス - Qiit...
-[[How Does GPT-3 Work? - DEV Community 👩‍&...
-[[TypeScriptでGPT-3.5を使ってChatGPTクローンを作る1 - GP...
-[[OpenAI API で提供されている GPT-3モデル まとめ|npaka...
-[[GPT-3の論文を読んでいます! - CCCMKホールディングス TE...
--"GPT-3"は"Transformer"をベースにしたモデルで、その特徴...
-[[OpenAI開発のテキスト生成AI「GPT-3」がどんな処理を行っ...
-[[【無料】GPT-3レベルのGoogle製Flan-T5を利用する方法 | ...
-[[ABEJAで作った大規模GPTモデルとその道のり - ABEJA Tech ...
-[[【備忘録】Pythonで自然言語処理の学習を始めるにあたって...
--GPT2, GPT3
-[[GPT-2を使ってポケモン図鑑の説明文生成器を作ってみた - ...
** そもそもGPTとは何か [#wca760b5]
-[[[上級編]LLMへ至る道~GPTの話~[20日目] | DevelopersIO>ht...
-[[ChatGPTのコア技術「GPT」をざっくり理解する - Qiita>htt...
-[[【深層学習】GPT - 伝説の始まり。事前学習とファインチュ...
-GPTの何がすごいか
--データを増やし、モデルが大きくなるほど精度があがる。
--多様な言語タスクを1つのモデルで解決できる。(それまで...
-Pre-Training & Fine Tuning の威力
--それまでのDLはラベル付き教師データを作るのが大変だった
--ラベル無しデータでできるサブタスクを大量に行い、まず言...
-Pre-Training(100epoc)
--大量のタスク=次の単語予測をさせる→文法、単語、文脈を学習
-Fine-Tuning(3epoc程度で学習完了)
--各種タスクごとに最終層だけ取り換える→教師データを使った...
--省データ、省計算資源を実現
-モデルはTransformerのDecoderの改変
*Bing chat [#wf72aabf]
-[[進化したEdgeのAI機能「Bingチャット」に、読んでいない英...
-[[【new Bing】PDFが要約できるようなので試してみました | ...
-[[AI対応「新Bing」が素直すぎて秘密情報バラしまくり | App...
-[[チャット機能を搭載した新しいBingが使えるようになったの...
ページ名: