自然言語処理トランスフォーマー読み方: トランスフォーマートランスフォーマー とは2017年にGoogleが発表した自然言語処理のアーキテクチャ。Self-Attentionメカニズムにより文章全体の文脈を並列処理でき、従来のRNNを大幅に超える性能を実現。GPT・BERT・T5など現代の主要LLMはすべてTransformerベース。画像認識（ViT）にも応用されている。関連用語LLM（大規模言語モデル）自然言語処理セルフアテンション機械学習GPT自然言語処理BERT自然言語処理ディープラーニング（深層学習）機械学習トランスフォーマーに関連するAIツールCohere企業向けLLM APIを提供するプラットフォーム。テキスト生成、エンベディング、再ランキング、分類タスクに特化し、RAG...Mistral AIフランス発のLLM開発企業。オープンソースのMistral 7BからプロプライエタリのMistral Largeまで、様...Groq独自設計のLPU（Language Processing Unit）チップで超高速LLM推論を実現するプラットフォーム。...Fireworks AIオープンソースLLMの高速推論APIを提供するプラットフォーム。独自の推論エンジンで低レイテンシ・高スループットを実現し...自然言語処理の他の用語LLM（大規模言語モデル）自然言語処理（NLP）GPTBERTプロンプトエンジニアリングRAG（検索拡張生成）用語集一覧に戻る