AIコトバ図鑑
技術とらんすふぉーまー

Transformer

現代AI言語モデルの基盤となるニューラルネットワーク構造。


詳しい解説

2017年にGoogleが発表した「Attention is All You Need」論文で提唱されたニューラルネットワーク構造。ChatGPT・Claudeなど全ての主要LLMの基盤技術です。

関連用語