001 / FOUNDATION

なぜ、Macで動くLocal AIから始めるのか

クラウドAIとの優劣ではなく、手元で動かす意味と、これから検証すべき問いを整理します。

PUBLISHEDSTATUSFOUNDATION

Local AIを選ぶ理由は、一つではありません。外部へ送りたくないデータがある。ネットワークに依存せず使いたい。繰り返し実行する処理の費用を把握したい。自分の環境に合わせてモデルや設定を細かく変えたい。どれもあり得ますが、目的が違えば最適な構成も変わります。

このメディアは「Local AIならクラウドより優れている」と最初から結論づけません。手元で動かすことで得られるものと、速度・品質・運用負荷の代償を同じ表に載せ、用途ごとに判断できる状態を目指します。

最初の入口をMacにする理由

へつほつの最初の読者像は、すでにMacで開発しているソフトウェアエンジニアです。次のMacを選ぶとき、CPUやGPUの名称だけでなく、Local Coding Agentを使うためにどれだけのメモリが必要かを知りたい。その具体的な購入判断に答えるところから始めます。

Macに対象を固定し続けるわけではありません。基準機と条件をそろえて検証方法を確立した後、AI PC、ワークステーション、Mini PCや専用サーバーへ比較範囲を広げます。

まず確かめる三つのこと

  1. ロードできるか。 モデルが起動するだけでなく、開発環境と同時に安定して使えるか。
  2. 仕事を完了できるか。 リポジトリを読み、変更し、テストし、結果を説明できるか。
  3. 継続して運用できるか。 待ち時間、消費電力、ストレージ、更新作業を含めて日常に置けるか。

公開ベンチマークの点数やtokens/sは重要です。ただし、それだけでこの三つに答えられるとは限りません。へつほつでは、一般指標を参照しつつ、実作業に近いタスクを別に設計します。

今はまだ言わないこと

現時点では、32GB、48GB、64GBのどれが最適か、特定のモデルが仕事に使えるかを断言しません。検証していない機材を実機確認済みとも表現しません。

先に問いと条件を公開するのは、後から結果に合わせて評価軸を変えないためです。次の段階では、手元の基準機を固定し、同じタスクを複数のモデルとruntimeで実行します。

次の実測によって前提が変わる場合は、更新履歴を残して改訂します。

FIELD NOTESへ戻る →