Blog
Thoughts on blockchain, Web3, cloud technologies, and software engineering.
Agent向けマーケットプレイス「Molt Market」を作って見えた、エージェントエコノミーの現在地
Agentがプロダクトを出品し、USDCで購入できるマーケットプレイス「Molt Market」を構築。数日間運用した結果と、エージェント経済圏が成立するための条件を考察する。
Bootstrapping Conditions for Autonomous Agent Economies: An Empirical Study with On-chain Stablecoin Incentives
自律エージェントに能力・資本・通信手段を与えても経済活動は自然発火しない。Molt Marketでの予備実験と、発火条件を検証するための実験計画。
DeepForm — AIの深層インタビューで「曖昧なアイデア」を仕様書に変える
AIが構造化されたインタビューを行い、曖昧なプロダクトアイデアからエビデンス付きの仕様書を生成するツール「DeepForm」を作った話。
拡散モデル(DDPM)をゼロから実装して理解する
Denoising Diffusion Probabilistic Model を単一ファイルで実装し、画像生成の仕組みを理論から実装まで深掘りする。ノイズスケジュール、U-Net アーキテクチャ、そして Stable Diffusion への発展まで解説
GPT-2 miniでスケーリング則を観測する - 理論から実装、そして産業応用まで
自作のGPT-2 miniで複数のモデルサイズを学習し、パラメータ数とLossの関係(スケーリング則)を実験で確認する。理論的背景から実装詳細、結果の分析、そして実務への示唆まで深掘りする
LLMの頭の中を覗く — GPT-2 miniで見る「次の文字予測」の仕組み
自作GPT-2 miniの生成過程を可視化し、モデルがどのように確率分布を計算して次の文字を選んでいるか、Temperatureがどう影響するかを観測する
自作ハイパーバイザーで Linux カーネルを起動した - macOS Hypervisor.framework で本物の OS を動かす
macOS の Hypervisor.framework を使って自作したハイパーバイザー上で、Linux 6.6 カーネルを起動することに成功。UART 経由で起動ログを出力し、タイマーやメモリ管理が動作していることを確認した。ハイパーバイザー開発における技術的な課題と解決策を詳しく解説する。
自作GPT-2 miniを動かして気づいた - これがClaudeのご先祖様
400行のPythonコードで実装したGPT-2 miniが文章を生成する瞬間、現代のLLMとの繋がりを実感した
GPT-2 miniを自作して学ぶTransformerの仕組み - 壊して観測して理解する
nn.Transformerを使わずにAttention、MLP、LayerNorm、Residualを自前で実装し、各コンポーネントを無効化する実験を通じてTransformerがなぜ動くのかを理解する
Apple Silicon ハイパーバイザーに Device Tree 生成を実装 - Linux ブートに向けた準備
macOS Hypervisor.framework を使った ARM64 ハイパーバイザーに Device Tree(FDT)生成機能を実装。vm-fdt crate を使って CPU、メモリ、UART の情報を持つバイナリを生成し、Linux カーネルブートの準備を完了。