Aydyn Tairov はオープン ソースの作成者であり、元 Meta エンジニアであり、以前 GitHub 上で話題の純粋な C 言語llama2.c
プロジェクトを Python に移植しましたllama2.py
—— 。
Mojo プログラミング言語は先週正式にダウンロード可能になり、Python より 68,000 倍高速であると言われています。
そこで、Aydyn Tairov は止まらずにllama2.py
それを Mojo に移植し始めましたllama2.mojo
が、その結果は非常に予想外でした。
同氏は、Mojo SIMD プリミティブは Python の低パフォーマンスを 250 倍近く改善するのに役立ったと述べました。さらに、matmul のベクトル化アシスタントを使用しているため、llama2.py
C バージョンよりも 20% 高速であることがテストされています。
詳細
https://github.com/tairov/llama2.mojo
https://twitter.com/tairov/status/1701194900228764023