特化型GPUカーネル生成による圧倒的な効率の実現

英語原文から AI が翻訳しました。 英語版を見る

* 新規カーネルのドラフト作成は低コストで並列処理も容易ですが、信頼性の確保は容易ではありません。システムの進捗速度は、それらのドラフトを検証できる速度に依存します。 * 奇跡的に高速に見える数値の多くは、前回の実行の残存処理、条件の異なる比較、あるいは隠れた前提条件の下でのみ性能を発揮するカーネルなど、計測上のバグに起因します。 * コンテキストは最大化すべき堆積物ではなくトレードオフの対象です。情報量が増えればモデルの作業領域は広がりますがコストがかさみ、不要な注釈は次回の試行における迷走を招きます。逆に少なすぎるとループが機能しません。 * 自由な探索が可能なエージェントはより優れたカーネルを記述します。厳格な外部システムはフィードバックを定義し、リリースを許可するかどうかを判断しなければなりません。優れた設計にはその両方が必要です。 * 生成された個別のQwen 3.5 122B用カーネルは、vLLMで利用可能な最適実装と比較して1.8〜5.2倍高速でした。