GPT の動作原理：200 行の Python コードで実現する極小 GPT（2023）
ブログ：http://arthurchiao.art/blog/gpt-as-a-finite-state-markov-chain-zh/
この記事は、arthurchiao が 2023 年の Andrej Karpathy の Twitter と一つの記事を整理して翻訳したものです：GPT as a finite-state markov chain。
この記事は実際には PyTorch をベースにしており、基本的な Python パッケージだけで GPT を実装しているわけではありません。主な目的は、GPT という複雑なシステムの（より低レベルではない）内部動作メカニズムを直感的に理解できるようにすることです。
少し長いですが。。。