openAIのトップエンジニアは毎日何十億ものトークンを消費している。

実験しているわけではない。仕事だ。
codexは毎晩稼働している。databricksで無制限の推論。
これが新しいベースラインの姿だ。
ほとんどの人はまだ2023年のようにトークンを制限している。
制限していない人たちは他の誰よりも先を行っている。
私たちは、数兆のトークンの背後にあるインフラを構築したい推論エンジニアを採用している。
SGlang、vLLM、またはpytorchを大規模で触ったことがあるなら.. DMしてほしい。