Apple A4チップやAMD Ryzenの生みの親であるジム・ケラー氏がNVIDIAのCUDAとx86アーキテクチャを「沼」と呼んで批判

AMDのAthlonやZenマイクロアーキテクチャ、Apple A4などさまざまなチップの開発に携わったアーキテクトでエンジニアのジム・ケラー氏が、X(旧Twitter)で「NVIDIAのCUDAは沼です」と批判したことが報じられています。

Jim Keller criticizes Nvidia's CUDA, x86 — 'Cuda’s a swamp, not a moat. x86 was a swamp too' | Tom's Hardware
https://www.tomshardware.com/tech-industry/artificial-intelligence/jim-keller-criticizes-nvidias-cuda-and-x86-cudas-a-swamp-not-a-moat-x86-was-a-swamp-too

ケラー氏の経歴は以下の記事を読むとよくわかります。

Apple・AMD・テスラ・Intelを渡り歩いた天才エンジニアのジム・ケラー氏へのインタビューが公開中、Intelで一体何をしていたのか？ - GIGAZINE

また、ケラー氏は2023年2月には半導体ファブの「Atomic Semi」を立ち上げています。

AMD RyzenやApple A4を生んだ天才エンジニアのジム・ケラーが半導体製造企業「Atomic Semi」を立ち上げ - GIGAZINE

ケラー氏はXで「CUDAは堀(Moat)ではなく沼です。x86アーキテクチャもまた沼です」とコメントしました。

Cuda’s a swamp, not a moat. x86 was a swamp too

— Jim Keller (@jimkxa) February 17, 2024

CUDAは2006年に発表されたNVIDIA製GPUによるコンピューティング統合開発環境です。CUDAではC++をベースにした独自のプログラミング言語やライブラリ、APIが提供されており、CUDAでプログラミングすることで、GPU上で演算を行うことができます。

CUDAはNVIDIAにとって長期にわたって競争優位性を有する「堀」であり、ソフトウェアとハードウェアが更新されるたびに、下位互換性を維持しながらさまざまな機能が追加されていきました。しかし、下位互換性を維持したことで古い環境でもCUDAを動かすことが可能である一方で、パフォーマンスに影響が及んでしまって開発がより困難になっていったとケラー氏は指摘しています。

また、x86は当初16ビットアーキテクチャだったのが、32ビット対応、64ビット対応と進んでいく中で、互換性を保つために古い機能を残したまま、仮想メモリや仮想化などさまざまな機能が追加されていきました。ケラー氏は過去のインタビューでも、x86アーキテクチャやArmアーキテクチャが長い歴史の中で複雑になっていったことに触れています。

ケラー氏は「基本的に誰もCUDAを書きません。CUDAを書いても、おそらく高速ではありません」とポストしています。

また、ケラー氏は「Triton、Tensor RT、Neon、Mojoがあるのには十分な理由があります」ともコメント。たとえば、NVIDIAのTritonはAIモデルのバージョン管理やマルチモデルの提供、モデルの同時実行、GPUおよびCPUリソースの使用率の最適化などの機能を持つオープンソースのツールですが、CUDAのみに依存せず、TensorFlowやPyTorch、ONNXなどのフレームワークをサポートします。CUDAに頼らずともGPU演算を行える環境が整えられているのには、CUDA自体のややこしさが一因だというわけです。

他のXユーザーから「沼は最高の堀になります。専門家だけが参加し、そうではない人はワニによって行く手を阻まれます」という意見もありましたが、ケラー氏は「その通りです。沼は素晴らしい堀を作るでしょうし、スキルを授けてくれるでしょう。あなたはそこに住みたいですか？」と返答。さらにケラー氏は、「未来は美しくあるべきです」とポストしました。