LLMのローカル知識対応の履歴(No.77) - 技術情報Wiki

[ トップ ] [ 新規 | 一覧 | 検索 | 最終更新 | ヘルプ | ログイン ] [ Twitter ]

→自然言語処理

→OpenAIのAPI

→Amazon Bedrock

→LLMライブラリ

→大規模言語モデル

RAG(Retrieval Augmented Generation または Retrieval-based Language Model）
- Amazon Bedrock によるRAG
- Azure on your data
一般
Amazon Bedrock によるエンベディング
OpenAI Embedding API
ベクトルDB／ベクターストア
ファインチューニング

RAG(Retrieval Augmented Generation または Retrieval-based Language Model）†

AWS Marketplace の Pinecone を Amazon Bedrock のナレッジベースとして利用する | Amazon Web Services ブログ 2024.3

ロングコンテキストLLMに対応したRAGの新アーキテクチャ｜npaka 2024.3

「社内のアレ分からん、教えてAI」を支援　Microsoftの“自社版ChatGPT作成サービス”、外部データ取り込み機能が正式リリース - ITmedia NEWS 2024.2

社内用語集を気軽に質問できるSlackBotを作ってみた (RAGの応用アプリ) - ABEJA Tech Blog 2024.2

RAGの性能を改善するための8つの戦略 | Fintan 2024.2

RAGの実案件に取り組んできた今までの知見をまとめてみた | DevelopersIO 2024.2

AzureでRAGをガンガン試行錯誤してみて得たナレッジを紹介します！/Azure RAG knowledge share - Speaker Deck 2024.2

戦国武将クイズに答えるRAGを構築して評価を自動化したら爆速でした | IIJ Engineers Blog 2024.1
- Introduction | Ragas RAG評価ツール

【生成AI】私が考えるRAGシステムに必要な機能について - サーバーワークスエンジニアブログ 2024.1

【生成AI】RAGシステムの解析：必要性と各アーキテクチャ要素の考慮事項 - サーバーワークスエンジニアブログ 2024.1

StepFunctionsとKnowledge baseを使ってノーコードでRAGを実現する #AWS - Qiita 2024.1

LLMを組み合わせたRAGの実装 - Speaker Deck 2024.1

Retrieval-Augmented Generationシステムの改善方法の紹介 - AITC - ISID | AI トランスフォーメンションセンターコラム 2024.1

社内規程集について回答してくれる生成AIを評価してみた〜生成AIのアーキテクチャ「RAG」の評価プロセス | LAC WATCH 2024.1

検索拡張生成（RAG）を用いたQA botを爆速で作る方法（Assistants API編） - GMOインターネットグループグループ研究開発本部 2024.1

RAGによる社内ナレッジを活用したチャットボットの構築 #AI - Qiita 2024.1

RAG評価フレームワークのragasを使ってみた - サーバーワークスエンジニアブログ 2023.12

LangChainを使ってリポジトリ内のソースコードについて答えてもらう #TypeScript - Qiita 2023.12

LLMのRAG（外部知識検索による強化）をまとめた調査報告 | AIDB 2023.12

生成AI／RAGで手持ちのソースコード解析（LangChain） #AI - Qiita 2023.12

GPTsより精度の高いRAGシステムの構築 - Speaker Deck 2023.12

Q&A + RAG に特化したLLMをSFTで学習させ4bit量子化モデルを作り、GPT3.5以上の性能を7Bモデルで達成する - A Day in the Life 2023.12

Prompt Flowで評価Flowを自作してRAGのイケてるLLMOpsを実現してみた - ENGINEERING BLOG ドコモ開発者ブログ 2023.12

RAG、ファインチューニングとは｜生成AI進化の鍵は「ドメイン特化」 | AI専門ニュースメディア AINOW 2023.12

ChatGPT+LangChain| Elasticsearch公式ドキュメントのQ&Aを作ってみる 2023.12

Amazon Q(プレビュー)を利用し、手軽にRAGアプリを作ってみる - サーバーワークスエンジニアブログ 2023.12

GPT-4 Turboにドキュメントのチャンク分けを任せてみる - EXPLAZA Tech Blog 2023.12

OpenAI Embeddings APIとベクトル検索エンジンValdを使って類似文章検索をしてみよう 2023.12

ChatGPTに自前の情報を画像込みで返答させてみた〜実践的なRAGとEmbeddingの使い方〜 - バイセル Tech Blog 2023.11

LLM技術と外部データ活用による検索・回答精度向上手法（ファインチューニング、セマンティック検索、In-Context Learning、RAG）と著作権侵害｜知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】 2023.11

langchainとDatabricksで(私が)学ぶRAG : MultiQueryRetrieverを使ったRAG #Databricks - Qiita 2023.11

LangChain への OpenAIのRAG戦略の適用｜npaka 2023.11

ChatGPTに社内文書に基づいた回答を生成させる仕組みを構築しました - コネヒト開発者ブログ 2023.11

LlamaIndex のマルチモーダルRAG のしくみ｜npaka 2023.11

RAGにおけるドキュメント検索精度向上について(概要編) 2023.11

Retrieval-based LM (RAG system) ざっくり理解する - Speaker Deck 2023.11

Azure OpenAI サンプル(5. 企業内向けChatと社内文書検索) をデプロイしてみる 2023.10

RAGを使った生成AIボットでユーザの意図を理解して対話するためのフローを考えてみた | DevelopersIO 2023.10

入門KDB.AI (6) - サンプルコード(Image Search) - APC 技術ブログ 2023.10

LangChain AmazonKendraRetriever から必要な情報を返してもらえない人へ #AWS - Qiita 2023.10

ChatGPT/AOAI自社データ活用(RAG)の精度向上のプラクティス【情シス向け】 – CloudNative Inc. BLOGs 2023.10

Retrieval-Augmented Generation(RAG)とは？ | IBM ソリューションブログ 2023.10

ベクトル検索で欲しい情報が得られないときの問題点と改良方法を考えてみた | DevelopersIO 2023.7

OpenAIのAPIを使って営業資料をベクトル検索するボットをつくってみた | DevelopersIO 2023.7

ChatGPTで独自データを扱うためのエンべディング｜緒方壽人 (Takram) 2023.5

OpenAIのEmbeddings APIのベクトルを使って検索を行う | DevelopersIO 2023.5

【書籍出版記念】LangChainから学ぶLLMを使ったアプリケーションの工夫 - Speaker Deck 2023.10

社内情報検索システムで用いられるRAGの4つの実装方法 - Speaker Deck 2023.10

Amazon KendraとAWS Lambdaを使い、RAGのRetrievalフェーズを試してみた | DevelopersIO 2023.10

ChatGPT・AOAIに自社データを組み込む場合(RAG)のアクセス制御のデザインパターン – CloudNative Inc. BLOGs 2023.10

【ChatGPT】ベクトルデータベースによる企業内データの活用(RAG) - Qiita 2023.9

LangChainでCognitive SearchのベクトルDBと連携させたRAGを構築する - Qiita 2023.9

LLMを利用したRAG（Retrieval Augmented Generation）と著作権侵害｜知的財産・IT・人工知能・ベンチャービジネスの法律相談なら【STORIA法律事務所】 2023.8

実践LangChain！RAGによる特化LLMシステムの作り方 - Qiita 2023.6

Amazon Bedrock によるRAG†

RAG検索の精度向上!? ナレッジベース for Bedrockがハイブリッド検索に対応 #AWS - Qiita 2024.3

AWSの生成AIで社内文書検索！ Bedrockのナレッジベースで簡単にRAGアプリを作ってみよう #AWS - Qiita 2024.3

Amazon Bedrock、Amazon Auroraを組み合わせたRAGで回答精度の向上に取り組んでみた！?概要編 #AWS - Qiita 2024.2

Bedrock + KendraのRAG構築ハンズオンやってみた #AWS - Qiita 2024.2

Amazon Bedrockを使った社内QAチャットボットを3か月運用して起きた変化 - サーバーワークスエンジニアブログ 2024.1

【コピペでRAG構築】Knowledge Base for Amazon Bedrock(Aurora Serverless v2 for PostgreSQL) - サーバーワークスエンジニアブログ 2024.1

StepFunctionsとKendraとBedrockを使ってノーコードでRAGを実現する #AWS - Qiita 2024.1

Amazon BedrockのKnowledge baseで簡単にRAGを構築 - Taste of Tech Topics 2023.12

生成AI初心者がAmazon BedrockのKnowledge baseを使ってRAGを試してみた – TechHarmony 2023.12

[やってみた]Amazon BedrockのKnowledge baseを触ってみた #AWSreInvent | DevelopersIO 2023.11

[アップデート] Amazon Bedrockで簡単にRAGが実現できる、Retrieval Augmented Generation (RAG) with Knowledge BaseがとうとうGAになりました！！ #AWSreinvent | DevelopersIO 2023.11

Bedrock、Lambda、Kendra、S3を使用したRAGをSAMで実装してみた | DevelopersIO 2023.11

AWS 内で大規模言語モデルを利用できる Amazon Bedrock を使って作る RAG アプリケーション - クックパッド開発者ブログ 2023.10

【Amazon Bedrock】AWSサービスのみを使ったシンプル構成のRAGアプリを作ってみた - NRIネットコムBlog 2023.10

【Amazon Bedrock】Titan Embeddings Generation 1を利用して過去のブログ記事から入力に関連する記事を出力してみた - DENET 技術ブログ 2023.10

【RAG】Amazon BedrockとConnect、Kendraを利用し、社内情報や社外の最新情報などの取り込んだデータをもとに回答するコールセンター向けAIチャットボットを構築してみた | DevelopersIO 2023.10

【Bedrock / Claude】AWSオンリーでRAGを使った生成AIボットを構築してみた【Kendra】 | DevelopersIO 2023.10

【Bedrock / Claude】AWSオンリーでRAGを使った社内情報を回答できる生成AIボットで構築してみた【Kendra】 | DevelopersIO 2023.10

Azure on your data†

【RAG】Azure On Your DataがGAされたので使ってみた #Azure - Qiita 2024.3

一般†

LLMチューニング手法「LoRA」のポイントと活用例 #AI - Qiita 2023.12

ベクトル検索の有用性をキーワード検索と比較する | SIOS Tech. Lab 2023.12

【Golang】Azure OpenAI で Embedding したベクトルを使って、自前検索エンジンを作ろう 2023.12

[中級編]LLMへ至る道~単語を埋め込むってどういうこと？~[8日目] | DevelopersIO 2023.12

Amazon RDS for PostgreSQLがpgvectorモジュールに対応しベクトル検索できるようになりました | DevelopersIO 2023.10

BERT系モデルで文章をEmbeddingする際のTips - Qiita 2023.8

PostgreSQL(pgvector) のベクトル検索による全自動PDF検索 : Blob Storage にアップロードしPDFをテキストに変換 - Qiita 2023.6

Azure OpenAI Embedding モデルを利用し最も関連性の高いドキュメントを見つける方法 - Qiita 2023.6

ChatGPTを使ってOpenAIのEmbeddings APIを実験してみる - Kaizen Platform 開発者ブログ 2023.6

Embeddingで埋め込みベクトルとってDBに投入して検索するのをout-context learningと呼ぶのはどうか - きしだのHatena 2023.4

「単語ベクトル」とは何か？ - YouTube 2023.4

ChatGPTなどのチャットAIがどんな風に文章を認識しているのかが一目で分かる「Tokenizer」 - GIGAZINE 2023.4

OpenAI GPTにおいて、モデルごとにトークン量が変動するのはなぜ？ | IIJ Engineers Blog 2023.3

OpenAI 言語モデルごとのエンコーディング一覧 2023.3

人間の言葉をコンピュータが理解できるようにするための「ベクトル化」の話 | DevelopersIO 2022.12
- 形態素解析,構文解析,意味解析,文脈解析,カウントベース,分散表現

自然言語処理：単語ベクトルの導出ー埋め込み表、CBOW、Skipgram - YouTube 2020

ざっくり理解する単語の分散表現(One-hot encode, word2vec, ELMo, BERT) - Qiita 2019

自然言語処理の必須知識！Word2Vec とは？ | キカガクの技術ブログ 2022.12

青空文庫の全小説でword2vecしてみる - Qiita 2022.7

BERT vs Word2Vec ～単語分散表現による同義語抽出～ - Qiita 2022.7

Amazon Bedrock によるエンベディング†

Amazon BedrockでLLMを使ったベクトル検索を試す #AWS - Qiita 2023.12

「ベクトル検索 vs 全文検索」〜Amazon Bedrockの埋め込みモデルを用いたプロトタイピング〜 - コネヒト開発者ブログ 2023.12

【Amazon Bedrock】AWSサービスのみを使ったシンプル構成のRAGアプリを作ってみた - NRIネットコムBlog 2023.10

Titan Embeddings Generation 1を利用して過去のブログ記事タイトルの類似性を散布図に落とし込んでみた - DENET 技術ブログ 2023.10

ASCII.jp：生成AI基盤のAmazon BedrockでTitan Embeddingsを試してみる 2023.10

Amazon BedrockでテキストのEmbeddingsを取得してみた | DevelopersIO 2023.10

Amazon BedrockのEmbeddingsを試しました。（良さげです） - Qiita 2023.9

OpenAI Embedding API†

大規模小説データをOpenAI Embedding APIで特徴抽出してUMAPで可視化してみた 2023.11

ChatGPT x LangChain で独自ドキュメントのベクターストア検索をチューニングする / 開発者向けブログ・イベント | GMO Developers 2023.9

OpenAI の Embeddings API はイケてるのか、定量的に調べてみる - Qiita 2023.9

OpenAIのEmbeddings APIを使って文の意味上の類似度を計算 | GMOアドパートナーズ TECH BLOG byGMO 2023.6

【ChatGPT】Embeddingsでドメイン知識をChatGPTに理解させる - Qiita 2023.6

ChatGPT_APIのEmbedding_カスタマイズ入門 - Speaker Deck 2023.4

ベクトルDB／ベクターストア†

Chromaインストールガイド: AIネイティブ埋め込みデータベースの導入方法 | ジコログ 2024.3

Vector Databases: A Technical Primer - Vector Databases - A Technical Primer.pdf 2024.1

ベクトルデータベースってどういうものがある？ - CLOVER🍀 2023.12

【LLM】ベクトルデータベースって多くてどれを使ったら良いか分からないというあなたのための記事（6つのツールを比較） 2023.10

LangChainでCognitive SearchのベクトルDBと連携させたRAGを構築する - Qiita 2023.9

LangChainでCognitive SearchのベクトルDBを構築する - Qiita 2023.8

ベクトルデータベース Pinecone の概念を整理する | DevelopersIO 2023.4

ChromaDBの完全なチュートリアル - Qiita 2023.10

ファインチューニング†

ファインチューニングを行う手順とポイント | Think IT（シンクイット） 2024.2

Microsoft Azure における大規模言語モデルの学習とファインチューニング - YouTube 2023.10

大規模言語モデルのFine-tuningによるドメイン知識獲得の検討 - Preferred Networks Research & Development 2023.10

職場の先輩をLLMで作ってみようとした話 #Python - Qiita 2023.10

【ChatGPT】ファインチューニングをわかりやすく解説 - Qiita 2023.9

LLMのファインチューニングで事実の学習ができないのは本当か？ちょっと実験してみた 2023.9

LLMのファインチューニングで何ができて何ができないのか｜npaka 2023.8

OpenAIのファインチューニングAPIによる GPT-4 から GPT-3.5 への蒸留を試す｜npaka 2023.8

ChatGPT の Fine-tuning を試したけど上手くいかなかった話 2023.8

OpenAI(ChatGPT)のfine-tuning機能を早速試してみた~ひろゆきのスパチャを例に - Qiita 2023.8

chatGPT(gpt3.5-turbo)をファインチューニングしてみた - Qiita 2023.8

GPT-3.5 Turboのファインチューニング｜npaka 2023.8

OpenAI API のファインチューニングガイド｜npaka 2032.8

GPT-3.5-turboをfine-tuningする際の気になるポイントをまとめた。 | DevelopersIO 2023.8

【速報】OpenAI APIでGPT-3.5-turboがfine-tuningできるようになりました！！ | DevelopersIO 2023.8

OpenAI APIのファインチューニングの学習データのガイドライン｜npaka｜note 2023.4