rickawsb

HBFはHBMより安価なHBMではない
HBFは、HBMとSSDの間に新たな層を挿入するものだ。
解決するのは、HBMが不足していることと、SSDがあまりにも「遅い」ことだ。
しかしHBFも依然としてNAND Flashであり、この点がモデル重みの保存に適していることを決めている。
重みは基本的にWrite Once, Read Manyであり、変更されることは少ない。これはほぼNANDにとって理想的なワークロードだ。将来的には、数TB、さらには十数TBに及ぶモデルをHBFに大量に常駐させ、HBMには本当に高速アクセスが必要なhot working setだけを保存することができる。
しかしKV Cacheは、トークンの生成に伴って絶えず書き込まれ、Sessionの終了後には解放される。NANDはDRAMのように任意の場所を上書きできず、page/block、erase-before-write、有限のP/E cycleという制約が存在する。HBFを単純にDRAMとして使用すると、大量のデータを頻繁に移動、消去、再書き込みすることになりやすく、最終的には帯域幅を浪費し、消費電力を増加させ、寿命を縮める。
これが、HBFの仕様でWeightsとKV CacheをChannel単位で分離することが強調され始めた理由でもある。両者は読み書きのパターンとライフサイクルが完全に異なるため、も

今日、HONAの決算は予想を下回って大きな問題が露呈し急落した一方、上流の鍛造品大手Howmet（HWM）と特殊合金メーカーATIは、そろって予想を大幅に上回り、ガイダンスも引き上げた。
HWMの産業用ガスタービン（IGT）事業部門の売上高成長率は、前年同期比で39%もの大幅増となった。
一方、HONAが大幅下落した背景には、需要が依然として急速に伸びているにもかかわらず、供給が深刻に制約されていることがある。。。
これはまさに、AIDC（AIデータセンター）が従来の民間航空産業のサプライチェーンに対して起こしている、構造的な「吸い上げ」だ。
AIコンピューティング能力の爆発的な拡大が、データセンター向けオフグリッド天然ガス発電（産業用ガスタービン、IGT）の注文を急増させている。しかし、IGTの中核部品と航空エンジン（およびAPU）向けの高温合金精密鋳造部品は、材料と製造工程が完全に共通している。HowmetやATIなどの上流寡占企業にとって、IGTの受注は認証サイクルが短く、利益率も高いため、限られた溶解炉の生産能力と熟練労働者は当然、「大金を投じ、納品を急ぐ」AIDC発電需要へと振り向けられる。
その結果、上流企業はデータセンター向けで大いに稼ぐ一方、下流の航空会社は材料不足に陥っている。Tier-1サプライヤーであるHONAは、十分な高温鋳造部品の生産能力を割り当ててもらえ

リッチモンド（列治文）の物価、海鮮を食べるなら世界でほぼいちばん安いんじゃない？
わざわざ東南アジアの地理的な価格差アービトラージなんてするの？
米ドル対カナダドルが1:1.4、これって湾岸（ベイエリア）の1/3の値段だろ。

英伟达正在成为AI时代的中央银行
英伟达当然不能印钞，也不能决定联邦基金利率。但它正在影响另一种更重要的资源配置——AI时代最稀缺的资本。
整个AI产业正在进入金融化（Financialization）阶段，资本开始成为AI基础设施的一部分，而不仅仅是融资工具。在这个体系中，英伟达越来越像AI时代的中央银行，不是创造货币，而是一定程度上决定资本围绕哪里流动。
NVIDIA是这一趋势最积极的推动者，nvda带动着其他GPU厂商、云厂商、NeoCloud、封装厂、HBM厂商、银行、Private Credit基金、基础设施基金、保险资金和主权财富基金，正在共同构建新的资本体系。AI产业正在从半导体产业链，逐渐演变为基础设施资产体系。
第一步，是金融化供应链。长期采购协议（LTA）、预付款、Take-or-Pay协议、供应链融资不断增加，本质都是将未来需求提前锁定，让供应商敢于扩产。对于TSMC、Amkor、SK hynix、Micron等企业而言，融资能力开始与制造能力同样重要。供应链投资越来越依赖长期订单，而不是短期市场判断。
第二步，是金融化客户。英伟达已经不只是销售GPU，而是帮助客户获得融资，通过投资像neocloud等的客户，帮助他们更容易获得银行贷款、Private Credit，更容易实现资产证券化（GPU租赁合同，电力ppa），将未来数年的采购提前释放。未来收入提前转化

ビジネス・インサイダーのこの記事の特集は、とても重要な問いを解こうとしている——なぜAIに巨額を投じる企業の中で、ある会社は拡大し、別の会社は停滞してしまうのか？
過去1年余りで、ほぼすべての企業が、従業員に大規模言語モデルのアカウント、コードアシスタント、各種AIエージェントを猛烈に購入してきた。しかし、その効果はまるで天地ほど違う。企業レベルの「マタイ効果」がついに見え始めている。AIを買うのは簡単だが、AIを本当に目に見える生産力やビジネスの利益に変換するのは難しい。
これは、企業がAIを導入する際の2種類の全く異なる思考によって決まる可能性がある
いまの企業のAI活用を観察すると、多くの場合、2つの極端な分岐点に向かう。
守りの志向（AIを「コストの搾り取り機」とみなす）：このタイプの企業の中核的なニーズは「節約」。彼らの論理はこうだ——「AIがあるなら、雇う人数を減らせないだろうか？」
しかし、新たな事業の増分がなければ、節約できたコストの行き着く先は、ただの人員削減や採用凍結になる。たとえ従業員がAIで時間を節約しても、多くの場合、その時間は非効率な既存業務で「サボって」ぐるぐる回ることに使われる。
成長の志向（AIを「ビジネスの増幅器」とみなす）：これらの企業のロジックは真逆だ。「AIがチームの生産性を30%解放してくれたおかげで、これまでやりたかったのに資源がなくて

有人がAIを電力革命に例えるのは、シリコン文明への侮辱だ
エジソンが電力革命を始めた そしてAIは今、エジソンを量産し、 アインシュタインを量産し、さらにはアインシュタインをはるかに超える能力を持つ人を量産している。 AIはデータセンターの中に天才の国を生み出している