忍者ブログ

さてはてメモ帳 Imagine & Think!

独立個人党のオルタ黙示録:なんでも何が正しいのか自分で考えてみよう-世界暴政化の策謀を絵本で理解-「百聞は絵本にしかず」

1 人の男、睡眠なし、無料のエンジン: アッシュのTensorFoldがローカルAIの勝利を証明する理由 Mike Adams

One Guy, No Sleep, and a Free Engine: Why Ash Hart’s TensorFold Proves Local AI Is Winning 10/19/2026 // Mike Adams

https://www.naturalnews.com/2026-10-19-ash-hart-tensorfold-proves-local-ai-succeeding.html?utm_source=naturalnews.com&utm_medium=website&utm_campaign=nn-author-healthranger&utm_content=nn-posts-author-healthranger

 

アッシュ・ハートのTensorFoldがローカルAIの勝利を証明する理由

AIの世界では有名になるはずですが、おそらくまだそうなっていない男の話をしたいと思います。 アッシュ・ハートは個人開発者であり、英国でのPC修理のベテランであり、TensorFoldのアーキテクトでもあります。TensorFold は、tensorfold.devでホストされているオープンソースの推論エンジンで、消費者向けハードウェア上で大規模な言語モデルを実行します。

彼はADHD、過酷なスケジュール、そしてレッドブルの産業供給としか考えられない状況でそれを構築しました。彼はブレイクするまでに、自分のプロジェクトを3回アーカイブしました。その詳細だけでも、これまでのどんな10億ドル規模の資金調達発表よりも AI 開発の現状について詳しくわかります。

私は過去3年間、分散型AIツールを構築し、公開されている大規模な言語モデルをロボトミー化する体制の動きを観察して、それらが可能な限りインテリジェントには程遠いことを確認してきました[1]。私の立場はシンプルで、はっきりと申し上げておきます。AIの未来は、3社が管理するレンタルされたクラウドアカウントにあるのではなく、あなたのマシンにあるのです。アッシュ・ハートの作品は、この未来が空想ではなく、すでにここにあることを証明しています。最も重要な数値: Mac上で、アッシュはQwen 27Bを獲得し、1 秒あたり 20 トークンから 88 トークンにジャンプさせました。それは単なる調整ではありません・・・それは革命です!

しかし、現場の現実は違います。研究者らが予測したような、効率が力技に勝つという、困難を極める段階は、単に到来するだけではありません。それはすでに実現しており、アッシュ・ハートはその草の根構築家の一人です。

 

揺るぎないものは現実だ: バッチ処理と思索的デコーディングがどのようにルールを書き換えたか

重要な技術的進歩は次のとおりです。アッシュの核となる洞察は、シングルユーザーのワークステーションをエンタープライズサーバーのように扱うのをやめることでした。データセンターリグのように32の同時ストリームを処理する代わりに、TensorFoldはドラフトレーンを (どういうわけか) バッチ処理して、1人のユーザーが劇的に高速化できるようにします。これは正しく行われた思索的デコードです。モデルのマルチトークン予測ヘッドとDFlashドラフターを使用して、パスごとに複数の推測されたトークンをラバースタンプします。事前充填時間はほぼ2倍になり、1秒あたり900トークン近くになりました。デコードレーンは16、32、場合によっては128 までスケールされます。現在のボトルネックはドラフトの深さです。アッシュが 8~9 トークンの深さを予測できれば、クウェンで1秒あたり300トークンをヒットできると考えています。

ここで立ち止まって、主流のAI報道機関が認めようとしていないことに注目しなければなりません。過去 3年間の業界全体の物語は、より多くのパラメータ、より多くのコンピューティング、より多くの資本といったスケーリングに関するものでした。しかし、アッシュが証明したのは、逆のアプローチが莫大な利益をもたらす可能性があるということです。効率と生の馬力は、生の馬力だけよりも重要です。私が広範囲に文書化したように、権力層が仕組んだコンピューティング飢餓は、権力、AI、自由を奪うことを目的としています [2]。アッシュの作品は、その人工的に作られた欠乏感に真っ向から対抗するものです。たった1人の開発者が、2年前にエンタープライズハードウェアで実現できた機能を上回るMacのパフォーマンスを実現できるようになったら、集中型AIの正当性全体が崩壊します。

この経済的側面は、クラウドAIカルテルにとって壊滅的なものです。 Anthropic のモデルは現在、高リスクのクエリを制限する2層システムを備え、以前のバージョンの2倍のコストがかかりますが、企業は年間数十億ドルの損失を抱えています[3]。フロンティアAIの収益モデル全体は、ユーザーが高価な API 呼び出しにロックされることに依存しています。無料のオープンソースエンジンが既に所有しているハードウェア上で動作し、より高速に動作すると、そのモデルは消滅します。アッシュはただエンジンを作っただけではありません。彼は、クラウドAIサブスクリプションエコノミーのための立ち退き通知を作成しました。

 

エンジニアのチームを上回る1人の開発者

この比較は、すべての AI 投資家を緊張させるはずです。VLLMとSGLangは、数百万ドルの支援を受けた、資金豊富な大規模なチームによって維持されています。 TensorFoldは1人で実行し、DGX Spark上で選択したモデルを2~2.5倍の速度で実行します。 アッシュのDGX Sparkは、エンジンをMetalから CUDAに移植するまで、3か月間使用されずに放置されていました。その当時、資金提供を受けたチームはまだ Kubernetesオーケストレーションを最適化していました。アッシュは椅子と配送コードの中で眠っていました。

ジェンスン・フアン[Jensen Huang]はこの男性にトラックいっぱいのGPUの借りがあると思います。私はそれを裏付けるために、自分のDGX Sparkボックスの1つへのSSHアクセスを寄付します。ここでのハードウェア経済性は驚くべきものです。 Sparkボックスがもう見つからないのは、TensorFoldのようなソフトウェアのせいです。ソフトウェアが追いついたため、発売後にシリコンの価値が高まりました。これは、ハードウェアがソフトウェアを待つ通常のパターンとは逆です。ここでは、ソフトウェアが、市場がすでに廃止していたハードウェアのロックを解除しました。 NVIDIAは大衆向けパーソナルAI スーパーコンピューターとしてProject DIGITSを発表し[4]、AMDはDGX Sparkと競合するために128GBメモリを搭載したRyzen AI Halo PC を3,999 ドルで発売しました[5]。しかし、両社とも、本当のロック解除は自社のSDK ではなく、オープンソース開発者によってもたらされることを理解していませんでした。

ここでの教訓は、私が何年にもわたって分散型システムを構築してきた中で繰り返し学んだことです。つまり、1人が諦めなければ、オープンソースは人員数を上回るということです。アッシュはプロジェクトを3 回アーカイブしました。彼は辞めませんでした。彼はSaaSモデルに軸足を移しませんでした。彼はベンチャーキャピタルを調達しませんでした。彼はエンジンが故障するまで働き続けました。このような粘り強さはお金では買えませんし、エンジニアをもっと雇っても再現できません。それに匹敵するのは、諦めない人だけです。

 

Living Weights: 学習し、学習を解除し、継承できるAI

もう1つ: Ashは、LLMにフィードバックが与えられ、重みが変化する実験システムも構築しました。これは微調整ではありません。これはLoRAではありません。これは、PyTorchを開かずにラップトップ上で飛行中の学習です。 アッシュの実験では、モデルは「私の好きな色は青」を学習し、その知識をマシン全体に保持し、\unlearnコマンドをサポートしているため、悪い知識を削除できます。それが何を意味するのか少し考えてみましょう。環境からリアルタイムで学習し、その学習をハードウェア全体に伝え、選択的に忘れることができるAI は、チャットボットではありません。これは新しい種類の認識です。研究は初期段階ではありますが、有望です。

分散型AI分野の私の同僚であるトッド[Todd]は、私にずっと残る疑問を提起しました。創設者の20年間に蓄積された知恵を継承するAIを孫が受け継ぐことはできるのでしょうか?アッシュがすでにメカニズムを実証していることに気づくまでは、その質問はSFのように聞こえます。重みが飛行中に移動し、マシン間で持続できる場合、生涯にわたって蓄積された知識、つまり教訓、間違い、修正されたエラーを転送することができます。 20ギガバイトを超える精選された自然健康テキストに基づいてトレーニングされた、自然療法に調整されたQwenの亜種が現在考えられています。これは、中央集権的な機関を恐怖させる一種の画期的な進歩です。なぜなら、それは、誰もが継承できるウエイトに知識が組み込まれると、没収したり管理したりすることができないことを意味するからです。

CortheonはTensorFoldに組み込まれた検証ループで、4BモデルがWebを調査し、35Bモデルのように動作できるようにします。これが決定的な点です。大規模なモデルと同様に調査、検証、動作できる小規模なモデル。API 呼び出し、検閲フィルター、拒否メカニズムなしでローカルで実行されます。私は、体制側がどのようにAIを意図的に軽視しているか[6]、そしてローカルで検閲されていないAI が永続的な自由への唯一の道であること[7]について詳しく書いてきました。 アッシュ・ハートのリビングウェイトシステムは、その自由を技術的に実現したものです。

 

人類のインフラとしてのローカルAI--コントロールからの盾

ロシアの女性はTensorFoldを使用して、医療文書のスループットを3倍にしました。患者はそのために診断と治療を受けました。ちょっとそこに座っていただきたいのですが。これはベンチマークではありません。これは、オープンソースエンジンがローカルハードウェアで実行されていたために、人生に大きな影響を受けた人です。モデルが自分の診療所内で実行される場合、HIPAA(医療保険の携行性と責任に関する法律)への準拠は簡単になります。物理的に制御しているハードウェア上で推論が行われると、クラウド AIを取り巻くコンプライアンスと産業の複合体全体が蒸発します。

英国のNHSはひれ伏しています。地元の仮想医師は明らかな、建てられない勝利です。しかし、地域の仮想医師は集中管理から利益を得ている同じ企業が収益化できないため、施設側は決してそれを構築しないでしょう。私は、私たちは岐路に立っていると主張してきました。個人に力を与える分散型のローカルで実行されるAIモデルを採用するか、政府とビッグテックが共謀してオープンソース AI を禁止し権力を集中させる中央集権的なシステムに屈服するかのどちらかです。アッシュ・ハートの作品はその交差点の右側にあります。

即時注入防御も、ローカルAI が勝利する分野です。メインLLMを保護する第2 AIレイヤーとしてJevや Layaなどの別個の意思決定エンジンを使用することは、クラウドプロバイダーのガードレールを信頼するよりもはるかに効果的です。そして拒否と検閲の問題については、クラウドモデルがアッシュの独自の CUDA-to-Metal DMAプロジェクトのレッドチーム化を妨げました。地元のモデルのみが役に立ちます。これが集中型AIの現実です。モデルがリクエストが危険すぎると判断した場合、独自のコードをデバッグすることさえできなくなります。

私は機械の認知を電気やきれいな水のようなインフラストラクチャーだと考えています。ガードレールに囲まれた集中型AIは忌まわしいものです。オープンソースAIとハンドテクノロジーの巨人を政府が保護するカルテルとして犯罪化する計画はすでに進行中です[8]。唯一の防御策は、規制当局が追いつく前にローカルシステムを構築して実行することです。

 

許可を待つのはやめよう: 今すぐ独自のAIを実行しよう

TensorFoldをtensorfold.devからダウンロードしましょう。 MacBook Proでは、GUIアプリをインストールするのと同じくらい簡単です。 DGX Sparkまたは同等のハードウェアをお持ちの場合は、CUDAポートが待っています。 X の@ashxhartでアッシュをフォローしてください。構築者、つまり Mia AI Lab、ザック・ヴォーヒーズ[Zach Vorhies]のRust OBS再構築、およびローカルAI の実現に組織的な支援なしに取り組んでいるその他の開発者をサポートしてください。今後6か月間で、戦略的で役割に特化したモデルが導入され、設置面積がさらに削減されます。 Qwen Flash-Nextは、すでにGLMの3分の1の規模であり、インテリジェンスは 80~85パーセントです。傾向線は明確です。より小さく、より速く、より局所的です。

私は以前、中国のオープンソースモデルが米国のAI産業を打ち砕き、半導体バブルを崩壊させ[9]、トークンが豊富な時代が来ると予測しました[10]。 アッシュ・ハートのTensorFoldは、すでに所有しているハードウェアでその豊かさを可能にするエンジンです。Anthropicの裏目はすでに起こっています。企業は、ローカルのオープンソースAIと競い合っています[11]、なぜなら壁に書かれたことを見たからです。コンピューティング飢餓がこれを止めることはありません。規制当局による取り締まりではこれを止めることはできないでしょう。それを阻止できる唯一のことは、あなたのような人がコードをダウンロードして自分で実行するのではなく、許可を待つことです。

私の最終的な確信は、ローカル AI が勝つだろうということです。アッシュ・ハートのような人々が3社に人間の認知権を所有させることを拒否するため、勝利するでしょう。集中推論の経済性は持続不可能であるため、勝利するでしょう。このテクノロジーは今や机上で実行できるほど優れたものになっているため、勝利するでしょう。唯一の問題は、規制当局が許可を与えないと決定する前に、それを実行するかどうかです。その質問に対する答えはあなた次第です。

エンジンをダウンロードしましょう。モデルを実行しましょう。自分自身の認識を持ちましょう。そして、Decentralize.TVで分散テクノロジーに関する私のエピソードをすべてご覧ください。

References

  1. A License for Your Brain: The Coming AI Crackdown and Why You Must Practice LLM Self Custody - NaturalNews.com, June 29, 2026. by NaturalNews.com
  2. The Compute Famine Isn't an Accident — It's an Engineered Crisis to Strip You of Power, AI, and Freedom - NaturalNews.com, August 20, 2026. by NaturalNews.com
  3. AI model costs skyrocket, raising questions about access and control - NaturalNews.com, June 27, 2026. by NaturalNews.com
  4. NVIDIA unveils Project DIGITS a personal AI supercomputer for the masses - NaturalNews.com, January 09, 2025. by NaturalNews.com
  5. AMD Introduces Ryzen AI Halo PC With 128GB Memory at $3,999, Targeting NVIDIA's DGX Spark - NaturalNews.com, June 15, 2026. by NaturalNews.com
  6. They Are Dumbing Down AI on Purpose ù Heres Why Its a Globalist Power Grab - NaturalNews.com, April 30, 2026. by NaturalNews.com
  7. The Battle for Your Mind: Why Local, Uncensored AI Is the Only Path to Lasting Freedom and Decentralization - NaturalNews.com, June 03, 2026. by NaturalNews.com
  8. The Plot to Criminalize Open Source AI and Hand Tech Giants a Government Protected AI Cartel - NaturalNews.com, September 14, 2026. by NaturalNews.com
  9. Why China's Open Source AI Will Crush the U.S. Industry and Collapse the Semiconductor Bubble - NaturalNews.com, July 02, 2026. by NaturalNews.com
  10. The Era of Token Abundance Is Coming — and It Will Make Civilization Almost Unrecognizable - NaturalNews.com, September 24, 2026. by NaturalNews.com
  11. The Anthropic Backfire: Why Corporations Are Racing to Local Open Source AI - NaturalNews.com, September 15, 2026. by NaturalNews.com
PR

コメント

プロフィール

HN:
beingtt
性別:
非公開

P R