#author("2023-03-06T18:42:02+09:00","default:irrp","irrp")
#author("2024-01-11T09:31:35+09:00","default:irrp","irrp")
→自然言語処理

→Transformer

→ディープラーニング

#contents

*ChatGPT/OpenAIのAPI [#zbcae9d0]
-[[ChatGPTとDeepLのAPIを組み合わせて回答の精度を上げつつコストも抑える | Offers Tech Blog>https://zenn.dev/offers/articles/20230306-chatgpt_and_deepl]] 2023.3

-[[ChatGPTキャラクターマスコットアプリの紹介【Ver1.1.0変更点】 - Qiita>https://qiita.com/Haruyama_Dev/items/1f42d19ae93672f76f25]] 2023.3
-GPT=Generative Pretrained Transformer

-[[ChatGPT APIを使ってExcelやCSVのデータからレポートを自動作成してみる - Qiita>https://qiita.com/sakasegawa/items/7bde39583a1c076ba526]] 2023.3
*サブトピック [#i9d619a9]
-OpenAIのAPI
-LLMライブラリ（LangChain/LlamaIndexなど）
-ChatGPT関連

-[[[Node] VoskとVOICEVOXを使ってChatGPTと音声で会話する | DevelopersIO>https://dev.classmethod.jp/articles/chatgpt-audio-talk/]] 2023.3

-[[ChatGPT APIを使ったLINE botに記憶を持たせる - Qiita>https://qiita.com/yshimizu22/items/150c1c38c36c48b283be]] 2023.3
*GPT-4/4V [#sf095d1d]

-[[Webアプリケーションから簡単にOpenAIのGPTモデルを使用してテキスト生成する方法 - Qiita>https://qiita.com/abenben/items/cf01407700f6470be15d]] 2023.3
-[[GPT-4などのLLMが「AはB」から「BはA」を導かない『逆転の呪い』における誤解なき解釈と対策 | AIDB>https://aiboom.net/archives/56074]] 2023.10

-[[【ChatGPTで感情・表情を生成・表現するAIキャラクター】一日で俺の嫁を作る方法・続　〜一日で自分の好きな声・キャラ・見た目でおしゃべりしてくれるAIキャラクターを作ろう〜 - Qiita>https://qiita.com/mfuji3326/items/50ff6f19b6e98cfabf32]] 2023.3
-[[明らかになったGPT-4の秘密 | AI専門ニュースメディア AINOW>https://ainow.ai/2023/08/08/274257/]] 2023.8

-[[#ChatGPT と #Unity を組み合わせて感情表現ができるAIキャラクターと会話してみた | DevelopersIO>https://dev.classmethod.jp/articles/chatgpt-unity-methoko/]] 2023.3
-[[【論文解説】OpenAI GPT-4 を理解する | 楽しみながら理解するAI・機械学習入門>https://data-analytics.fun/2023/04/29/understanding-openai-gpt-4/]] 2023.4

-[[バッチ処理革命。コンバータもgpt-3.5-turbo (ChatGPT API)でほぼ作れてしまうという話 - Qiita>https://qiita.com/naosugi1987/items/1e5349424e4ed878c84d]] 2023.3
-[[GPT-4テクニカルレポートの 熟読？深読み？ - Speaker Deck>https://speakerdeck.com/livemynd/gpt-4tekunikarurepotono-shou-du-shen-du-mi]] 2023.4

-[[UnityでChatGPT APIを利用する - Qiita>https://qiita.com/mikito/items/e3f897e641e4e6400ebe]] 2023.3
-[[GPT-3.5世代のオープンな言語モデルを調べてみた - Qiita>https://qiita.com/suzuki_sh/items/4193ec903c3bc3859c76]] 2023.4

-[[5分でゼロからChatGPTのAPIを叩いてみるまで【初心者向けに全て解説】 - Qiita>https://qiita.com/JinA293/items/ab953c40ce73d161f4fc]] 2023.3
-[[GPT-4以降，英語が最強のプログラミング言語になりつつある状況をまじめに考えてみる．｜落合陽一｜note>https://note.com/ochyai/n/n594b96588560]] 2023.4

-[[ChatGPT APIで高度な感情分析を簡単に行う方法 | ジコログ>https://self-development.info/chatgpt-api%e3%81%a7%e9%ab%98%e5%ba%a6%e3%81%aa%e6%84%9f%e6%83%85%e5%88%86%e6%9e%90%e3%82%92%e7%b0%a1%e5%8d%98%e3%81%ab%e8%a1%8c%e3%81%86%e6%96%b9%e6%b3%95/]] 2023.3
-[[無料GPT-4アプリの公開とクリーンデータセットの作成について｜kun1emon｜note>https://note.com/kun1emon/n/n09098da8f39e]] 2023.4

-[[【Python】LangChainからChatGPTのAPIを利用する | ジコログ>https://self-development.info/%e3%80%90python%e3%80%91langchain%e3%81%8b%e3%82%89chatgpt%e3%81%aeapi%e3%82%92%e5%88%a9%e7%94%a8%e3%81%99%e3%82%8b/]] 2023.3
-[[日本語が通る大規模言語モデルCerebras-GPTを動かす - きしだのHatena>https://nowokay.hatenablog.com/entry/2023/03/31/110604]] 2023.3

-[[Google Apps ScriptでChatGPTのAPIを叩いてみた - Qiita>https://qiita.com/Tyamamoto1007/items/e144119a4bc737b9f097]] 2023.3
-[[GPT-4で今日からできる仕事効率化活用術７選！｜ChatGPT 研究所>https://chatgpt-lab.com/n/n4ff3235d811f]] 2023.3
--何から手を付けていいか聞く
--コーディング
--メール作成
--タスク管理
--法律
--文章作成
--ブレーンストーミング

-[[【最新速報】ChatGPT APIの「概要と使い方」（Pythonコード付き）>https://zenn.dev/umi_mori/articles/chatgpt-api-python]] 2023.3
-[[GPT-4の力を最大限引き出す：プロンプトエンジニアリング基礎編｜ChatGPT 研究所>https://chatgpt-lab.com/n/n67b5c987a74c]] 2023.3

-[[唐突な思い付きで会話できる AI を作った話｜teftef｜note>https://note.com/te_ftef/n/n0d549f4e735f]] 2023.2
--[[唐突な思い付きで会話できる AI を作った話 (続編)｜teftef｜note>https://note.com/te_ftef/n/nbcfecb6d5213]] 2023.3
-[[ChatGPTの有料会員(Plus)になってGPT-4を利用する方法 - Qiita>https://qiita.com/tak001/items/6a39da97e2f3e5d4eb08]] 2023.3

-[[[ChatGPT API][AWSサーバーレス]ChatGPT APIであなたとの会話・文脈を覚えてくれるLINEボットを作る方法まとめ | DevelopersIO>https://dev.classmethod.jp/articles/chatgpt-api-line-bot-aws-serverless/]] 2023.3
-[[GPT-4との新たな開発体験: AIとペアプロを極める>https://zenn.dev/okunokentaro/articles/01gvcmft5t9dc21nb0gc43c64a]] 2023.3

-[[ChatGPTのAPIを使って記憶（過去の会話をある程度覚えている）のあるAIキャラクターを作ってみる - Qiita>https://qiita.com/3dy3day/items/e399e53af04d5ba151a1]] 2023.3
-[[GPT-4用の珠玉のプロンプト6選｜IT navi｜note>https://note.com/it_navi/n/n2abdf83ae8ee]] 2023.3

-[[ChatGPT APIをlangchainから4行で超簡単に使う - Qiita>https://qiita.com/yakigac/items/223f08925ec2067ece90]] 2023.3
-[[GPT-4関連で面白かった・気になった事例まとめ - Qiita>https://qiita.com/nyanko5656/items/83432357959704ef2388]] 2023.3

-[[chatgpt-api-python/ChatGPT_API_in_Python.ipynb at main · amrrs/chatgpt-api-python · GitHub>https://github.com/amrrs/chatgpt-api-python/blob/main/ChatGPT_API_in_Python.ipynb]] 2023.3
-[[GPT-4の性能をBingと比較してみた｜IT navi｜note>https://note.com/it_navi/n/n4c1560b2cfcf]] 2023.3

-[[ChatGPT APIをUnityから動かす。｜ねぎぽよし｜note>https://note.com/negipoyoc/n/n88189e590ac3]] 2023.3
-[[GPT-4はどこまで進化したのか？オセロで戦うことができるのか検証してみた | DevelopersIO>https://dev.classmethod.jp/articles/try-to-play-reverci-with-gpt4/]] 2023.3

-[[ChatGPT APIリリースに伴ってOpenAIのAPIデータ利用ポリシーが改定されたので読んでみた | DevelopersIO>https://dev.classmethod.jp/articles/openai-data-usage-policy/]] 2023.3
-[[最速でGPT4の粗探しをしてみた - Qiita>https://qiita.com/T-Ohkuma/items/47a55ae2bbaaeb5436c5]] 2023.3

-[[ChatGPT API（gpt-3.5-turbo）を Node.js から使ってみる（公式リファレンスで参照した情報も記載） - Qiita>https://qiita.com/youtoy/items/b3e2e462029bf40f8a1a]] 2023.3
-[[GPT-4のすごさとその影響範囲について - Qiita>https://qiita.com/sakasegawa/items/4c6b9c3f703e89ec1c4d]] 2023.3

-[[OpenAIからChatGPTとWhisperに関するAPIがリリースされたのでドキュメントを読み解いてみた | DevelopersIO>https://dev.classmethod.jp/articles/release-openai-apis-chatgpt-and-whisper/]] 2023.3
-[[「とりま、GPT-4 APIの価格について。GPT-4はコンテキスト窓が8kのバージョンと32kのバージョンがある。（ChatGPTは4kだったから爆増！）8kバージョンは、コンテキストが1kにつき$0.03で、出力が1kにつき$0.06。これはGPT-3.5-Davinciの1.5〜3倍の価格、ChatGPT… https://t.co/F9tSiOSWgN」 / Twitter>https://twitter.com/umiyuki_ai/status/1635708273042259968]] 2023.3

-[[ChatGPT APIを使ってAIキャラクターを作ってみる！ - Qiita>https://qiita.com/sakasegawa/items/db2cff79bd14faf2c8e0]] 2023.3
-[[GPT-4とGPT-3.5に日程調整メールを作ってもらって性能を比較してみた。 | DevelopersIO>https://dev.classmethod.jp/articles/gpt-4-gpt-35-email/]] 2023.3

-[[新たな革命の幕開け。ChatGPT API の一般公開がもたらすもの。 ChatGPT API の料金と使い方(Python) を紹介。｜ChatGPT 研究所>https://chatgpt-lab.com/n/nda0de0be1774]] 2023.3
-[[GPT-4が遂に公開。 GPT-4の使い方とその性能を解説｜ChatGPT 研究所>https://chatgpt-lab.com/n/n7facbf0f8890]] 2023.3

-[[ChatGPT APIを使ったLineBot作り方を、人格の与え方まで完全解説【プログラミング不要】｜ChatGPT 研究所>https://chatgpt-lab.com/n/n55257c082a9d]] 2023.3

-[[人間がごちゃごちゃ話した結果を AI にまとめてもらう - FLINTERS Engineer's Blog>https://labs.septeni.co.jp/entry/2023/03/01/103300]] 2023.3
* GPT4ALL [#g3bc9bd3]
-「GPT4ALL」は、LLaMAベースで、膨大な対話を含むクリーンなアシスタントデータで学習したチャットAI

-[[OpenAI APIを利用して【感想文ジェネレーター】を作成しました - Qiita>https://qiita.com/maaaashi/items/cbc06263c51ab64e5dbe]] 2023.2
-[[オフラインで動作する様々なオープンソースLLMのインタフェース『GPT4All』が開発され公開 | AIDB>https://aiboom.net/archives/58916]] 2023.11

-[[ChatGPTとLlamaIndex（GPT Index）を使った仕様問い合わせAIの作成>https://zenn.dev/kinzal/articles/39f17a62bb6b20]] 2023.2
-[[Google Colab で GPT4ALL を試す｜npaka｜note>https://note.com/npaka/n/nf12146bf1677]] 2023.4
-[[グラボ非搭載の低スペックPCでも使える軽量チャットAI「GPT4ALL」の使い方まとめ - GIGAZINE>https://gigazine.net/news/20230331-gpt4all-how-to-use/]] 2023.3
-[[無料でノートPCでも実行可能な70億パラメータのチャットボット「GPT4ALL」発表 - GIGAZINE>https://gigazine.net/news/20230330-gpt4all/]] 2023.3

-[[OpenAIのAPIで自然言語(日本語)を使ってDBに問い合わせるCLIツールを作ってみた - Qiita>https://qiita.com/devneko/items/4b3bc01cfa4439bfa36f]] 2023.2

-[[PyChatGPT: Python Client for The Unofficial ChatGPT API>https://morioh.com/p/337c1ffce36f?f=5c21fb01c16e2556b555ab32&fbclid=IwAR0VVh_-6ylrLBW47Jvz1UryAzivBZAan2ciiIcsN36EkA-8GznqzkBIxvU]] 2022.12
* GPT一般 [#l9bc9c4d]
-[[[上級編]LLMへ至る道~GPT-3の話~[22日目] | DevelopersIO>https://dev.classmethod.jp/articles/road-to-llm-advent-calendar-2023-22/]] 2023.12
-[[[上級編]LLMへ至る道~GPT-2の話~[21日目] | DevelopersIO>https://dev.classmethod.jp/articles/road-to-llm-advent-calendar-2023-21/]] 2023.12

-[[ChatGPTにおけるチャットログの自動保存【Python】 | ジコログ>https://self-development.info/chatgpt%e3%81%ab%e3%81%8a%e3%81%91%e3%82%8b%e3%83%81%e3%83%a3%e3%83%83%e3%83%88%e3%83%ad%e3%82%b0%e3%81%ae%e8%87%aa%e5%8b%95%e4%bf%9d%e5%ad%98%e3%80%90python%e3%80%91/]] 2022.12
-[[225行のコードでGPTの仕組みを理解する>https://zenn.dev/hijikix/articles/be49bc565aaa85]] 2023.8

-[[PythonからChatGPTにアクセスできるPyChatGPTのインストール | ジコログ>https://self-development.info/python%e3%81%8b%e3%82%89chatgpt%e3%81%ab%e3%82%a2%e3%82%af%e3%82%bb%e3%82%b9%e3%81%a7%e3%81%8d%e3%82%8bpychatgpt%e3%81%ae%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%bc%e3%83%ab/]] 2022.12
-[[ざっくりわかるRLHF（人間からのフィードバックを用いた強化学習） - Platinum Data Blog by BrainPad>https://blog.brainpad.co.jp/entry/2023/05/31/160719]] 2023.5
-[[RLHF (人間のフィードバックからの強化学習) の図解｜npaka｜note>https://note.com/npaka/n/nb7796ae874c5]] 2023.4

-API Key を取得するには https://beta.openai.com/account/api-keys へアクセスする。
-[[GPTの仕組みをちゃんと勉強したい本 - きしだのHatena>https://nowokay.hatenablog.com/entry/2023/04/25/111706]] 2023.4

-[[GitHub - openai/openai-cookbook: Examples and guides for using the OpenAI API>https://github.com/openai/openai-cookbook]] 2023.1
-[[CompressGPT: Decrease Token Usage by ~70%>https://musings.yasyf.com/compressgpt-decrease-token-usage-by-70/]] 2023.4

-[[Quickstart tutorial - OpenAI API>https://beta.openai.com/docs/quickstart]] 2023.1
-[[OpenAI、「GPT-5」の開発はまだ--アルトマンCEOが明言 - CNET Japan>https://japan.cnet.com/article/35202673/]] 2023.4

-[[【GPT】アーキテクチャが参考になるアプリケーションまとめ - Qiita>https://qiita.com/sonesuke/items/03c979177adccb7758f2]] 2023.4

-[[GPT-1→GPT-2→GPT-3→GPT-3.5→ChatGPT→GPT-4までの進化の軌跡と違いをまとめてみた｜スタビジ>https://toukei-lab.com/gpt]] 2023.4

*ChatGPT一般 [#cdb422ff]
-[[ChatGPT 超入門。始め方や使い方、料金を紹介【3月2日更新】｜ChatGPT 研究所>https://chatgpt-lab.com/n/nc616d84a8c83]] 2023.3
-[[ChatGPTに匹敵する性能の日本語対応チャットAI「Vicuna-13B」のデータが公開され一般家庭のPC上で動作可能に - GIGAZINE>https://gigazine.net/news/20230404-vicuna-weight/]] 2023.4

-[[エンジニアは誰でも知ってる！？ChatGPT - Qiita>https://qiita.com/Haru-Amano/items/94002124706715df320b]] 2023.3
-[[【完全保存版】GPT を特定の目的に特化させて扱う (Fine-tuning, Prompt, Index, etc.) - Qiita>https://qiita.com/tmgauss/items/22c4e5e00282a23e569d]] 2023.3

-[[ChatGPTに感情回路を埋め込んだら、やべぇ感じになった｜深津 貴之 (fladdict)｜note>https://note.com/fladdict/n/n5043e6e61ce3]] 2023.2
-[[ChatGPTに自然言語処理モデル「GPT2-Japanese」の使用方法を聞きながら実装したら想像以上に優秀だった件 | 豆蔵デベロッパーサイト>https://developer.mamezou-tech.com/blogs/2023/03/22/using-transformer-02/]] 2023.3

-[[Microsoft will soon let you create your own chatbot using ChatGPT tech - report>https://mspoweruser.com/microsoft-will-soon-let-you-create-your-own-chatbot-using-chatgpt-tech/]] 2023.2
-[[[翻訳] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (前編) - Qiita>https://qiita.com/taka_yayoi/items/1bdbb59946ebff78a689]] 2023.3
--[[[翻訳] GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models (後編) - Qiita>https://qiita.com/taka_yayoi/items/3ac9cf3565fb3f389178]] 2023.3

-[[ChatGPTの生みの親、サム・アルトマンが語る「AIと検索と資本主義の未来」 | Forbes JAPAN 公式サイト（フォーブス ジャパン）>https://forbesjapan.com/articles/detail/60713]] 2023.2
-[[GPT-3 信頼性を向上させる技術[翻訳]｜メガゴリラ｜note>https://note.com/mega_gorilla/n/nb84faa741949]] 2023.3

-[[ChatGPTと「ジェネレーティブAI戦争」の知られざる6つの事実 | Forbes JAPAN 公式サイト（フォーブス ジャパン）>https://forbesjapan.com/articles/detail/60677]] 2023.2
-[[ChatGPTを統合したiOSアプリがリジェクトされるという噂を耳にしたので実際に試してみた | DevelopersIO>https://dev.classmethod.jp/articles/does-reject-iosapp-with-chatgpt/]] 2023.3

-[[ChatGPTに強力なライバル：DeepMindのSparrow>https://www.axion.zone/chatgptdeepmindsparrow/]] 2023.2

-[[月額2600円で使える有料版「ChatGPT Plus」がついに登場 - GIGAZINE>https://gigazine.net/news/20230202-chatgpt-plus/]] 2023.2

-[[ChatGPT生成の文章を検出する「DetectGPT」をスタンフォード大学が開発 - GIGAZINE>https://gigazine.net/news/20230130-detectgpt/]] 2023.1

-[[対話AI「ChatGPT」は教育現場で活躍するため禁止するのではなく使い方を教えるべきという指摘 - GIGAZINE>https://gigazine.net/news/20230117-chatgpt-school/]] 2023.1

-[[ChatGPTとは？始め方やアカウント登録・使い方を解説 - BTCC>https://www.btcc.com/ja-JP/academy/crypto-basics/what-is-chatgpt]] 2023.1

-[[GitHub - f/awesome-chatgpt-prompts: This repo includes ChatGPT prompt curation to use ChatGPT better.>https://github.com/f/awesome-chatgpt-prompts]] 2023.1

-[[ChatGPTはソフトウェアエンジニアリングを変えるだろう ― しかし、あなたが望んでいるような仕方ではない | AI専門ニュースメディア AINOW>https://ainow.ai/2023/01/10/271486/]] 2023.1

-[[Running ChatGPT Locally using Docker Desktop - DEV Community 👩‍💻👨‍💻>https://dev.to/docker/running-chatgpt-locally-using-docker-desktop-2i31]] 2023.1

-[[高度なチャットボット「ChatGPT」は検索エンジンを置き換える！！Googleは創業以来の危機に直面 | Emerging Technology Review>https://etechnologyreview.com/2022/12/16/%e9%ab%98%e5%ba%a6%e3%81%aa%e3%83%81%e3%83%a3%e3%83%83%e3%83%88%e3%83%9c%e3%83%83%e3%83%88%e3%80%8cchatgpt%e3%80%8d%e3%81%af%e6%a4%9c%e7%b4%a2%e3%82%a8%e3%83%b3%e3%82%b8%e3%83%b3%e3%82%92%e7%bd%ae/]] 2022.12

-[[ChatGPT 人間のフィードバックから強化学習した対話AI>https://www.slideshare.net/ShotaImai3/chatgpt-254863623]] 2022.12

-[[ChatGPTを速報解説してみた - 神戸のデータ活用塾！KDL Data Blog>https://kdl-di.hatenablog.com/entry/Bulletin-ChatGPT]] 2022.12


*ChatGPT使い方 [#m699e30a]
-[[ChatGPT（GPT3）にプログラミング言語で指示を与える - Qiita>https://qiita.com/shimajiroxyz/items/7ca1f34c12f652c7ea07]] 2023.3

-[[OpenAI 『ChatGPT』APIの使い方を解説 | 楽しみながら理解するAI・機械学習入門>https://data-analytics.fun/2023/03/03/openai-chatgpt-api/]] 2023.3

-[[ChatGPTの使い方を初心者にもわかりやすく解説。ChatGPTの上手な活用方法は？【openAIのChatGPTとBard】AIが世界を変える？中田敦彦さんもとりあげたチャットGPT - YouTube>https://www.youtube.com/watch?v=JtSGYfPAu4Q]] 2023.2

-[[いま話題の「ChatGPT」は何がスゴイ？ 仕事で使える活用術をnote 深津氏が解説！ | Web担当者Forum>https://webtan.impress.co.jp/e/2023/02/16/44314]] 2023.2

-[[「ChatGPTの可能性や使い方がわかるnote記事を10個スレッドにまとめました👇」 / Twitter>https://twitter.com/shodaiiiiii/status/1618073678553681921]] 2023.1

-[[Best ChatGPT Resources 101>https://enchanting-trader-463.notion.site/Best-ChatGPT-Resources-101-94a7c6dbabcc4febbfb498c555d6ef5f]] 2023.1

-[[ChatGPT使い方総まとめ - Qiita>https://qiita.com/sakasegawa/items/82069c97a1ee011c2d1e]] 2022.12



*ChatGPT技術的な解説 [#b32cae48]
-[[Intro to ChatGPT - Google スライド>https://docs.google.com/presentation/d/1TTyePrw-p_xxUbi3rbmBI3QQpSsTI1btaQuAUvvNc8w/preview#slide=id.g206fa25c94c_0_24]] 2023.2

-[[【論文解説】OpenAI ChatGPT の仕組み『InstructGPT』を理解する | 楽しみながら理解するAI・機械学習入門>https://data-analytics.fun/2023/02/25/understanding-instructgpt/]] 2023.2

-[[How ChatGPT is Trained - YouTube>https://www.youtube.com/watch?v=VPRSBzXzavo]] 2023.2

-[[【図解】ChatGPTの技術解説。仕組み・凄さの本質をわかりやすく解説｜自然言語処理（NLP） - すえつぐのNLP&G>https://nlpillustration.tech/?p=2877]] 2023.2

-[[ChatGPTは何をしていてなぜ機能するのか？を理論物理学者が解説 - GIGAZINE>https://gigazine.net/news/20230222-why-chatgpt-work/]] 2023.2

-[[ChatGPTのヤバさは、論理処理が必要と思ったことが確率処理でできるとわかったこと - きしだのHatena>https://nowokay.hatenablog.com/entry/2023/01/10/142544]] 2023.1

-[[ChatGPTの学習データと学習方法が知りたい！ 〜Q.埼玉県沖で採れるウニはいくらですか？ A.ウニはいくらではない。〜 - GMOインターネットグループ グループ研究開発本部（次世代システム研究室）>https://recruit.gmo.jp/engineer/jisedai/blog/chatgpt_please_tell_me_uni_ikura/]] 2023.1

-[[話題爆発中のAI「ChatGPT」の仕組みにせまる！ - Qiita>https://qiita.com/omiita/items/c355bc4c26eca2817324]] 2022.12

-[[ChatGPTはどのように学習を行なっているのか>https://zenn.dev/ttya16/articles/chatgpt20221205]] 2022.12


**ChatGPTの制限、限界 [#e7382586]
-[[ChatGPTとの連携を考えてみる?｜fūkyō｜note>https://note.com/fukyo/n/nc6a4362a1892]] 2023.3
--現時点での課題いろいろ

-[[GPTシリーズの限界と非連続的な進歩について – WirelessWire News>https://wirelesswire.jp/2023/02/84215/]] 2023.2

-[[ごめんねChatGPT…AIにも解けない問題がある理由 | ギズモード・ジャパン>https://www.gizmodo.jp/2023/02/ai-chatgpt-turing-machine-bing-bard-problems-hard-ai.html]] 2023.2

-[[Chat-GPTの限界 | AI専門ニュースメディア AINOW>https://ainow.ai/2023/02/14/272425/]] 2023.2

-[[チャットできるAI、ChatGPTが｢そこまですごくない｣理由。見えてしまった限界 | Business Insider Japan>https://www.businessinsider.jp/post-263042]] 2023.2

-[[なぜ人々は、ChatGPTという“トリック"に振り回されるのか？　Google「Bard」参戦、チャットAI戦争の行方：清水亮の「世界を変えるAI」（1/8 ページ） - ITmedia NEWS>https://www.itmedia.co.jp/news/articles/2302/10/news060.html]] 2023.2




*ChatGPTまたはGPTの活用事例 [#l618c50e]
-[[streamlitでGPT-3.5のチャットボットを作った話 - Google スライド>https://docs.google.com/presentation/d/1YBBm4i9AD_Osnf6EfAmE7kK7FxO1Oj6Mh4a3DgI-zVI/preview?slide=id.p1]] 2023.3

-[[ChatGPTとMakeを使ってGmailの返信を自動化してみる - Qiita>https://qiita.com/sakasegawa/items/d8fb1889cdc77d050c01]] 2023.3

-[[英語学習は AI と行う時代がついに到来！？ ChatGPT と LINE Bot でオンライン英会話アプリ「Small GPTalk」を作ってみた | DevelopersIO>https://dev.classmethod.jp/articles/smalltalk-with-chatgpt-small-gptalk/]] 2023.3

-[[いちいちシェルコマンド思い出せないので、ChatGPTで自然言語からスクリプトを生成するツールつくった - Qiita>https://qiita.com/hirokidaichi/items/6d568d5ddcb02a91edf4]] 2023.3

-[[ChatGPT API や Whisper API を早速使って開発された22個の面白いサービスまとめ｜ChatGPT 研究所>https://chatgpt-lab.com/n/nab7b50c552fc]] 2023.3

-[[ChatGPTに自社データを組み込んで新しい検索体験を模索してみました｜masa_kazama｜note>https://note.com/masa_kazama/n/n246df4af19f6]] 2023.3

-[[チャットAI上でシステムが完結する未来は来るのか。ChatGPTと飲食店シミュレーションをして考えてみた | DevelopersIO>https://dev.classmethod.jp/articles/chatai-system-chatgpt-restaurant/]] 2023.3

-[[GPT-3とVoiceVoxを活用してAIエージェントを作る！【Unity】｜ねぎぽよし｜note>https://note.com/negipoyoc/n/n081e25f5ee9e]] 2023.2

-[[1/90以上の工数圧縮。新しい取説の形は読むものから答えるものにDX。ChatGTPアーキテクチャベースのAIシステム>https://ledge.ai/coolied-cammgen2/]] 2023.2

-[[GPT を取り巻くビジネスを8つに分類する｜ChatGPT 研究所>https://chatgpt-lab.com/n/n95fc42c693d8]] 2023.2

-[[「ChatGPTで執筆した書籍」がAmazonで大量に売られている - GIGAZINE>https://gigazine.net/news/20230222-chatgpt-book-amazon/]] 2023.2

-[[コピペOK！ChatGPT×英語学習に使える「深津式プロンプト」>https://thepast.jp/blog/the-ultimate-guide-for-using-chatgpt-for-english-learning/]] 2023.2

-[[ChatGPTに図書館業務の手助けをしてもらう - やわらか図書館学>https://yawatosho.hateblo.jp/entry/2023/02/19/142929]] 2023.2

-[[ChatGPTを最強の学習ツールにする方法 - Qiita>https://qiita.com/tak001/items/7605f0be7b424118e5a5]] 2023.2

-[[ChatGPTのビジネス利用検討 - Qiita>https://qiita.com/nishihara_d/items/7b141eae2bfe71026962]] 2023.2

-[[プログラマのためのChatGPT活用 - コーディング編 - - Qiita>https://qiita.com/devneko/items/0dc9fd8b37419d9e369c]] 2023.2

-[[ChatGPTに共通テストの英語を解かせてみたら77%取れた>https://www.satoooh.org/blog/chatgpt-exam]] 2023.1

-[[VSCodeにChatGPTの拡張機能を入れてコードレビューやバグを発見してもらう - Qiita>https://qiita.com/tak001/items/c3000b3ce9b6e72b2ae5]] 2023.1
--[[VSCodeのChatGPTプラグインを日本語化する - Qiita>https://qiita.com/akiraak/items/b8ad643eafe1a32341ff]] 2023.1

-[[IDEにChatGPTを統合、「この関数のテストコードはどこ？」「XXXを実装するならどう書けばいい？」など、AIでコードと対話できる「qqbot」登場 − Publickey>https://www.publickey1.jp/blog/23/idechatgptxxxaiqqbot.html]] 2023.1

-[[ChatGPTでの英文校正というチート：使い方・注意点まとめ - Riklog>https://riklog.com/research/chatgpt/]] 2023.1

-[[【活用事例】ChatGPTを利用したプログラミングの効率化 | ジコログ>https://self-development.info/%e3%80%90%e6%b4%bb%e7%94%a8%e4%ba%8b%e4%be%8b%e3%80%91chatgpt%e3%82%92%e5%88%a9%e7%94%a8%e3%81%97%e3%81%9f%e3%83%97%e3%83%ad%e3%82%b0%e3%83%a9%e3%83%9f%e3%83%b3%e3%82%b0%e3%81%ae%e5%8a%b9%e7%8e%87/]] 2023.1

-[[ChatGPTさんに企画候補・企画書の生成・コーディングまでやってもらった (小説風) - Qiita>https://qiita.com/alclimb/items/91d9183aed12fd6db4f8]] 2022.12




* GPT一般 [#l9bc9c4d]
-[[「ChatLLaMA」nebullvm/apps/accelerate/chatllama at main · nebuly-ai/nebullvm · GitHub>https://github.com/nebuly-ai/nebullvm/tree/main/apps/accelerate/chatllama]] 2023.3
--Metaが公開した巨大言語モデルであるLLaMAベースのモデル
--ChatGPTと同じRLHFでより効率的に学習できる

-[[GPT-3を使って文脈のある会話を実現する（＋LINE Bot化） - Qiita>https://qiita.com/uezo/items/34a173787c26794e462f]] 2023.2

-[[CustomGPT.aiで自社サイトのヘルプを学習させてチャットボット化を検討 - Qiita>https://qiita.com/jirokun/items/01a2b2e2e78c0194a172]] 2023.2

-[[ChatGPTをオープンソースで再現、わずか1.6GBのGPUメモリですぐに使用でき7.73倍高速なトレーニングが可能 - GIGAZINE>https://gigazine.net/news/20230224-colossal-ai-chatgpt/]] 2023.2

-[[GPTでテキストからJavaコードを生成する - きしだのHatena>https://nowokay.hatenablog.com/entry/2023/02/01/100532]] 2023.2

-[[GPT Index の使用方法｜npaka｜note>https://note.com/npaka/n/n6a2b39b7da7c]] 2023.1
--「GPT Index」は、LLMと外部データを簡単に接続できるインデックスを作成するためのライブラリです。

-[[言語の壁を打ち破る：GPT with 多言語インデックス - Qiita>https://qiita.com/yakigac/items/d350ec3c94f2c640c3cf]] 2023.2

-[[How Does GPT-3 Work? - DEV Community 👩‍💻👨‍💻>https://dev.to/deepgram/how-does-gpt-3-work-hco]] 2023.1

-[[FAQチャットボット開発に役立つGPT Indexのインストール | ジコログ>https://self-development.info/faq%e3%83%81%e3%83%a3%e3%83%83%e3%83%88%e3%83%9c%e3%83%83%e3%83%88%e9%96%8b%e7%99%ba%e3%81%ab%e5%bd%b9%e7%ab%8b%e3%81%a4gpt-index%e3%81%ae%e3%82%a4%e3%83%b3%e3%82%b9%e3%83%88%e3%83%bc%e3%83%ab/]] 2023.1

-[[TypeScriptでGPT-3.5を使ってChatGPTクローンを作る1 - GPTで検索エージェント>https://zenn.dev/erukiti/articles/deno-chatgpt-clone-1]] 2023.1

-[[OpenAI API で提供されている GPT-3モデル まとめ｜npaka｜note>https://note.com/npaka/n/nef372ec2e33a]] 2023.1

-[[GPT-3の論文を読んでいます！ - CCCMKホールディングス TECH Labの Tech Blog>https://techblog.cccmk.co.jp/entry/2022/12/28/094423]] 2022.12
--"GPT-3"は"Transformer"をベースにしたモデルで、その特徴はその中に含まれる巨大なパラメータ数にあります。そのパラメータ数は175Billion, つまり1,750億になるそうです。"GPT"が117Million(1億1,700万)、"GPT-2"が1,542Million(15億4,200万)のパラメータで構成されている

-[[OpenAI開発のテキスト生成AI「GPT-3」がどんな処理を行っているのかを専門家が解説 - GIGAZINE>https://gigazine.net/news/20221212-gpt-3-architecture/]] 2022.12

-[[【無料】GPT-3レベルのGoogle製Flan-T5を利用する方法 | ジコログ>https://self-development.info/%e3%80%90%e7%84%a1%e6%96%99%e3%80%91gpt-3%e3%83%ac%e3%83%99%e3%83%ab%e3%81%aegoogle%e8%a3%bdflan-t5%e3%82%92%e5%88%a9%e7%94%a8%e3%81%99%e3%82%8b%e6%96%b9%e6%b3%95/]] 2022.11

-[[ABEJAで作った大規模GPTモデルとその道のり - ABEJA Tech Blog>https://tech-blog.abeja.asia/entry/abeja-gpt-project-202207]] 2022.7

-[[13億パラメータの日本語特化GPT言語モデルを使ってSlackAIチャットボットを作ってみた1〜文章生成機能編〜 - Qiita>https://qiita.com/milky04/items/24d7d2abf90e90417d93]] 2022.7

-[[【備忘録】Pythonで自然言語処理の学習を始めるにあたって参考にしたサイト - Qiita>https://qiita.com/ama_aki/items/59aa012db7b5ce81f6e5]] 2022.7
--GPT2, GPT3
-[[GPT-2を使ってポケモン図鑑の説明文生成器を作ってみた - Qiita>https://qiita.com/Napier1550/items/0edf1613ef4f213dc875]] 2022.5


*Bing chatモード [#p5f84e2a]
-[[AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank>https://www.appbank.net/2023/02/13/technology/2397764.php]] 2023.2
-[[チャット機能を搭載した新しいBingが使えるようになったので早速試してみた｜IT navi｜note>https://note.com/it_navi/n/n2e92c9ba9023]] 2023.2
** そもそもGPTとは何か [#wca760b5]
-[[[上級編]LLMへ至る道~GPTの話~[20日目] | DevelopersIO>https://dev.classmethod.jp/articles/road-to-llm-advent-calendar-2023-20/]] 2023.12

-[[ChatGPTのコア技術「GPT」をざっくり理解する - Qiita>https://qiita.com/ksonoda/items/b767cbd283e379303178]] 2023.5

-[[【深層学習】GPT - 伝説の始まり。事前学習とファインチューニングによるパラダイムシフト【ディープラーニングの世界vol.31】#109 #VRアカデミア #DeepLearning - YouTube>https://www.youtube.com/watch?v=wDXPXgn5hX4]] 2021

*FlexGen [#d50e3855]
-[[ChatGPTで騒いでる場合じゃない。 AI研究者が｢FlexGen｣をゲームチェンジャーと呼ぶ理由 | Business Insider Japan>https://www.businessinsider.jp/post-265982]] 2023.2
-GPTの何がすごいか
--データを増やし、モデルが大きくなるほど精度があがる。
--多様な言語タスクを１つのモデルで解決できる。（それまではタスクごとに最適化したモデルが必要だった）
-Pre-Training & Fine Tuning の威力
--それまでのDLはラベル付き教師データを作るのが大変だった
--ラベル無しデータでできるサブタスクを大量に行い、まず言語を理解させる。そのモデルを利用して本タスクを学習する。
-Pre-Training(100epoc)
--大量のタスク＝次の単語予測をさせる→文法、単語、文脈を学習
-Fine-Tuning(3epoc程度で学習完了）
--各種タスクごとに最終層だけ取り換える→教師データを使った通常の学習を行う
--省データ、省計算資源を実現

-[[自宅で動くChatGPTと噂のFlexGenをDockerで手軽に動かす>https://zenn.dev/karaage0703/articles/de7045e9792623]] 2023.2
-[[大規模言語モデルをシングルGPUで動かせる!? FlexGenを触ってみた | DevelopersIO>https://dev.classmethod.jp/articles/flexgen-in-colaboratory/]] 2023.2
-[[ChatGPT級のAIチャットボットがすぐに使えるFlexGen（あなたもColabでできる） - Qiita>https://qiita.com/john-rocky/items/28f17229b524c45d2204]] 2023.2
-モデルはTransformerのDecoderの改変


*Bing chat [#wf72aabf]
-[[進化したEdgeのAI機能「Bingチャット」に、読んでいない英文PDFの内容を教えてもらう【イニシャルB】 - INTERNET Watch>https://internet.watch.impress.co.jp/docs/column/shimizu/1515590.html]] 2023.7

-[[【new Bing】PDFが要約できるようなので試してみました | DevelopersIO>https://dev.classmethod.jp/articles/new-bing-pdf-summary/]] 2023.5

-[[AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank>https://www.appbank.net/2023/02/13/technology/2397764.php]] 2023.2
-[[チャット機能を搭載した新しいBingが使えるようになったので早速試してみた｜IT navi｜note>https://note.com/it_navi/n/n2e92c9ba9023]] 2023.2
トップ   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS