Groq

独自設計のLPU（Language Processing Unit）チップで超高速LLM推論を実現するプラットフォーム。LLaMA、Mistral等のモデルを従来比10倍以上の速度で実行でき、リアルタイムAIアプリケーションに最適。