◇ 概観
-
大規模言語モデルの驚異と脅威 - Speaker Deck (2023/3/28)
岡崎直観氏による資料 -
大規模言語モデル - Speaker Deck (2023/9/4)
岡崎直観氏による資料2、上の資料よりも詳しい - NLPとVision-and-Languageの基礎・最新動向 (1) / DEIM Tutorial Part 1: NLP
- NLPとVision-and-Languageの基礎・最新動向 (2) / DEIM Tutorial Part 2 Vision-and-Language
- 最近、人工知能による自然言語処理が爆発的に進化しているのでまとめてみた。【前編】｜IT navi｜note
◇ 概観2
面倒になってきたのでサマリーはChatGPTによるものです。
あんまり真に受けないでください。
-
自然言語生成系AIの系譜
自然言語生成に関するAI技術の発展をまとめた資料 -
ChatGPT の仕組みを理解する（前編） - ABEJA Tech Blog
ChatGPTの基本的な仕組みと技術的背景を解説 -
東京大学深層学習（Deep Learning基礎講座2022）深層学習と自然言語処理 - 谷中瞳さん
深層学習と自然言語処理に関する基礎講座の資料 -
最近、人工知能による自然言語処理が爆発的に進化しているのでまとめてみた。【前編】
自然言語処理技術の進化についてまとめた記事 -
メンヘラちゃんと学ぶディープラーニング最新論文
メンヘラちゃんと一緒に学べる最新のディープラーニング論文紹介 -
自然言語処理（NLP）- 星の本棚
自然言語処理に関する基礎的な解説記事 -
自然言語処理（NLP）用語集（論文） - Qiita
自然言語処理に関する用語をまとめた用語集 - 自然言語処理タスクを概観する(1) 文書分類とその変形
◇ アーキテクチャごと
-
ngram言語モデルについてまとめる (add-one) - エイエイレトリック
n-gram 言語モデルの基本概念とadd-oneスムージングについて解説 -
再帰型ニューラルネットワーク（RNN) とは - 解説 OctOpt 技術ブログ
RNNの構造と基本的な動作について説明 -
LSTMネットワークの概要 - Qiita
LSTMの仕組みとその長期依存関係の処理能力について解説 -
Sequence To Sequence(Seq2Seq) - アルゴリズム解説
Seq2Seqモデルの構造と使い方について詳細に説明 -
seq2seqによる日英機械翻訳
Seq2Seqを用いた日英翻訳モデルの実装例を紹介 -
Seq2Seq+Attentionのその先へ - Qiita
Attention機構を取り入れたSeq2Seqモデルの進化について解説 -
【世界一分かりやすい解説】Attentionを用いたseq2seqのメカニズムBeginaid
Attention機構を用いたSeq2Seqモデルのメカニズムについて詳細に解説 -
Transformer (トランスフォーマー） - OctOpt 技術ブログ
Transformerモデルの構造と動作原理について解説 -
30分で完全理解するTransformerの世界
Transformerモデルの概念を短時間で理解できる解説 -
LLM Visualization
GPTを含む大規模言語モデルの視覚的な理解を助けるツールを紹介
◇ やや専門的?
-
最適輸送と自然言語処理 - 横井祥さん
最適輸送理論を自然言語処理に応用する方法についての解説 -
ChatGPT と自然言語処理 / 言語の意味の計算と最適輸送
ChatGPTの自然言語処理における最適輸送理論の役割についての紹介 -
最適輸送入門 - 佐藤竜馬さん
最適輸送理論の基本概念とその応用についての入門的な説明 -
機械読解の現状と展望 / A Talk on Machine Reading Comprehension (NLP2019) - 西田京介さん
機械読解技術の現状と今後の展望についての講演資料