本文へスキップ

世界を照らす知

オープンウェイトAIモデルとは?Llama、Mistral、Qwen、DeepSeek、Gemmaを使って自分のコンピュータでAIを動かす

一部のAIモデルは企業のサーバー上でのみ動作しますが、一部は「ウェイト(重み)」が公開されており、自分のコンピュータで実行可能です。オープンウェイトとオープンソースの違い、有名なモデルファミリー、ローカル実行ツール、ハードウェア要件、利点と制限について解説します。

オープンウェイトAIモデルとは?Llama、Mistral、Qwen、DeepSeek、Gemmaを使って自分のコンピュータでAIを動かす

ChatGPT、Gemini、ClaudeなどのAIアシスタントを使用する場合、入力内容は企業のサーバーに送信され、そこで回答が生成されます。それらとは別に、トレーニング済みファイルを誰でもダウンロードして自分のコンピュータやサーバーで実行できる「オープンウェイト」モデルが急速に普及しています。

「ウェイト」とは何を意味するのか?

言語モデルは、トレーニング中にテキストから学習した内容を数十億の数値(パラメータ、または「ウェイト」)として保存します。モデルファイルは主にこれらのウェイトで構成されています。オープンウェイトモデルの場合、このファイルが共有されるため、インターネット接続や企業のサーバーなしでモデルを実行できます。

オープンウェイトはオープンソースと同じか?

必ずしもそうではありません。2024年にオープンソースイニシアチブ(OSI)が発表した「オープンソースAIの定義」によると、モデルがオープンソースと見なされるには、トレーニングコードとトレーニングデータに関する十分な情報も共有され、使用に制限がない必要があります。多くの人気モデルはウェイトのみを共有しており、独自のライセンス条件が付いています。例えば、一定数以上のユーザーを持つ企業には追加の許可が必要であったり、特定の使用が制限されていたりします。そのため、商用利用する前にモデルのライセンスを確認してください。

有名なモデルファミリー

  • Llama: Metaが開発。オープンウェイトモデルの普及におけるパイオニア。
  • Mistral: フランスの企業Mistral AIによるモデル。
  • Qwen: Alibabaの多言語モデルファミリー。
  • DeepSeek: 中国の企業DeepSeekによるモデル。特に推論とコーディングで注目されている。
  • Gemma: Googleの比較的小型で効率的なオープンモデル。

これらのファミリーは頻繁に新しいバージョンをリリースします。最新の状態とライセンスについては、常に公式ページを確認してください。

コンピュータで実行する方法

Ollama、LM Studio、llama.cppなどの無料ツールを使えば、数回のクリックやコマンド一つでオープンモデルをダウンロードして実行できます。モデルは通常、「量子化」という手法で圧縮されているため、必要なメモリが少なくて済みます。小型モデルは最近のノートパソコンでも動作しますが、大型モデルには大容量のメモリと強力なグラフィックスカードが必要です。原則として、モデルが大きければ大きいほど能力は高くなりますが、必要なハードウェアも増えます。

利点

  • プライバシー: データがデバイスから外に出ないため、機密文書を扱う際に大きな利点となります。
  • オフライン利用: 一度ダウンロードすれば、接続なしでモデルを実行できます。
  • カスタマイズ: 組織は特定のタスクのために、独自のデータでモデルを微調整(ファインチューニング)できます。
  • コスト管理: 大規模な利用の場合、独自のハードウェアで実行する方がコスト予測が立てやすい場合があります。

制限とリスク

  • ハードウェアとある程度のセットアップ知識が必要です。
  • 小型モデルは、最大規模のクローズドモデルよりも間違いやハルシネーション(誤情報生成)を起こしやすい傾向があります。
  • 安全対策はユーザーが簡単に変更できるため、悪用に関する議論が続いています。
  • モデルファイルは信頼できるソースからのみダウンロードしてください。

ライセンス:「オープン」モデルで注意すべきこと

モデルのウェイトをダウンロードできるからといって、あらゆる目的で自由に使えるわけではありません。ライセンス条文が決定的な役割を果たしており、ファミリー間で重要な違いがあります:

  • 寛容なライセンス: Mistral 7Bなどの一部のモデルはApache 2.0ライセンスの下で、DeepSeek-R1はMITライセンスの下でリリースされました。これらのライセンスは通常、商用利用や改変を許可しています。
  • コミュニティライセンス: MetaのLlamaモデルは独自のコミュニティライセンスの下で配布されています。例えば、月間アクティブユーザー数が7億人を超える企業は別途ライセンスを取得する必要があり、許容される使用ポリシーの遵守が求められます。
  • 利用規約: GoogleのGemmaモデルは、別の利用規約テキストと禁止事項リストに拘束されます。
  • 同一ファミリー内での異なるライセンス: Qwenのように、モデルサイズによってライセンスが変わる場合があるため、各リリースのページを個別に読む必要があります。

製品やサービスでモデルを使用することを検討している場合は、ダウンロードした特定のバージョンのライセンスと使用ポリシーを確認してください。疑問がある場合は、法的助言を求めてください。

どのようなハードウェアが必要か?メモリの概算

モデルに必要なメモリを見積もる簡単な方法があります。パラメータ数にパラメータあたりのバイト数を掛けます。16ビット(2バイト)精度の場合、70億パラメータのモデルはウェイトだけで約14GBのメモリが必要です。4ビット量子化を行うと、同じモデルは約4〜5GBまで減少し、多くの現行ノートパソコンで実行可能になります。

これに加えて、会話の長さに応じて増加する追加メモリ(コンテキストキャッシュ)が必要になるため、見積もりよりも少し余裕を持たせるのが賢明です。ローカルでモデルを実行するために広く使用されているllama.cppプロジェクトとそのGGUFファイル形式により、グラフィックスカードがないコンピュータでもプロセッサ上で量子化モデルを実行することが可能です。ただし、速度はハードウェアによって大きく異なります。

ソースと参考文献

  1. Open Source Initiative (OSI), “The Open Source AI Definition 1.0” (2024).
  2. Meta AI, Llamaライセンスおよび許容される使用ポリシーページ。
  3. Hugging Face, オープンモデルハブおよびドキュメント。
  4. OllamaおよびLM Studio公式ドキュメント。
  5. Apache Software Foundation – Apache License 2.0
  6. Meta – Llama 3 Community License Agreement
  7. ggml-org – llama.cpp (GitHub) およびGGUFドキュメント
シェア
YulaHubをフォロー今日の重要ニュースをいち早くお届けします。
RSS

コメントを残す

メールアドレスは公開されません。必須項目は * でマークされています