ChatGPT、Gemini、ClaudeなどのAIアシスタントを使用する場合、入力内容は企業のサーバーに送信され、そこで回答が生成されます。それらとは別に、トレーニング済みファイルを誰でもダウンロードして自分のコンピュータやサーバーで実行できる「オープンウェイト」モデルが急速に普及しています。
「ウェイト」とは何を意味するのか?
言語モデルは、トレーニング中にテキストから学習した内容を数十億の数値(パラメータ、または「ウェイト」)として保存します。モデルファイルは主にこれらのウェイトで構成されています。オープンウェイトモデルの場合、このファイルが共有されるため、インターネット接続や企業のサーバーなしでモデルを実行できます。
オープンウェイトはオープンソースと同じか?
必ずしもそうではありません。2024年にオープンソースイニシアチブ(OSI)が発表した「オープンソースAIの定義」によると、モデルがオープンソースと見なされるには、トレーニングコードとトレーニングデータに関する十分な情報も共有され、使用に制限がない必要があります。多くの人気モデルはウェイトのみを共有しており、独自のライセンス条件が付いています。例えば、一定数以上のユーザーを持つ企業には追加の許可が必要であったり、特定の使用が制限されていたりします。そのため、商用利用する前にモデルのライセンスを確認してください。
有名なモデルファミリー
- Llama: Metaが開発。オープンウェイトモデルの普及におけるパイオニア。
- Mistral: フランスの企業Mistral AIによるモデル。
- Qwen: Alibabaの多言語モデルファミリー。
- DeepSeek: 中国の企業DeepSeekによるモデル。特に推論とコーディングで注目されている。
- Gemma: Googleの比較的小型で効率的なオープンモデル。
これらのファミリーは頻繁に新しいバージョンをリリースします。最新の状態とライセンスについては、常に公式ページを確認してください。
コンピュータで実行する方法
Ollama、LM Studio、llama.cppなどの無料ツールを使えば、数回のクリックやコマンド一つでオープンモデルをダウンロードして実行できます。モデルは通常、「量子化」という手法で圧縮されているため、必要なメモリが少なくて済みます。小型モデルは最近のノートパソコンでも動作しますが、大型モデルには大容量のメモリと強力なグラフィックスカードが必要です。原則として、モデルが大きければ大きいほど能力は高くなりますが、必要なハードウェアも増えます。
利点
- プライバシー: データがデバイスから外に出ないため、機密文書を扱う際に大きな利点となります。
- オフライン利用: 一度ダウンロードすれば、接続なしでモデルを実行できます。
- カスタマイズ: 組織は特定のタスクのために、独自のデータでモデルを微調整(ファインチューニング)できます。
- コスト管理: 大規模な利用の場合、独自のハードウェアで実行する方がコスト予測が立てやすい場合があります。
制限とリスク
- ハードウェアとある程度のセットアップ知識が必要です。
- 小型モデルは、最大規模のクローズドモデルよりも間違いやハルシネーション(誤情報生成)を起こしやすい傾向があります。
- 安全対策はユーザーが簡単に変更できるため、悪用に関する議論が続いています。
- モデルファイルは信頼できるソースからのみダウンロードしてください。
ライセンス:「オープン」モデルで注意すべきこと
モデルのウェイトをダウンロードできるからといって、あらゆる目的で自由に使えるわけではありません。ライセンス条文が決定的な役割を果たしており、ファミリー間で重要な違いがあります:
- 寛容なライセンス: Mistral 7Bなどの一部のモデルはApache 2.0ライセンスの下で、DeepSeek-R1はMITライセンスの下でリリースされました。これらのライセンスは通常、商用利用や改変を許可しています。
- コミュニティライセンス: MetaのLlamaモデルは独自のコミュニティライセンスの下で配布されています。例えば、月間アクティブユーザー数が7億人を超える企業は別途ライセンスを取得する必要があり、許容される使用ポリシーの遵守が求められます。
- 利用規約: GoogleのGemmaモデルは、別の利用規約テキストと禁止事項リストに拘束されます。
- 同一ファミリー内での異なるライセンス: Qwenのように、モデルサイズによってライセンスが変わる場合があるため、各リリースのページを個別に読む必要があります。
製品やサービスでモデルを使用することを検討している場合は、ダウンロードした特定のバージョンのライセンスと使用ポリシーを確認してください。疑問がある場合は、法的助言を求めてください。
どのようなハードウェアが必要か?メモリの概算
モデルに必要なメモリを見積もる簡単な方法があります。パラメータ数にパラメータあたりのバイト数を掛けます。16ビット(2バイト)精度の場合、70億パラメータのモデルはウェイトだけで約14GBのメモリが必要です。4ビット量子化を行うと、同じモデルは約4〜5GBまで減少し、多くの現行ノートパソコンで実行可能になります。
これに加えて、会話の長さに応じて増加する追加メモリ(コンテキストキャッシュ)が必要になるため、見積もりよりも少し余裕を持たせるのが賢明です。ローカルでモデルを実行するために広く使用されているllama.cppプロジェクトとそのGGUFファイル形式により、グラフィックスカードがないコンピュータでもプロセッサ上で量子化モデルを実行することが可能です。ただし、速度はハードウェアによって大きく異なります。
ソースと参考文献
- Open Source Initiative (OSI), “The Open Source AI Definition 1.0” (2024).
- Meta AI, Llamaライセンスおよび許容される使用ポリシーページ。
- Hugging Face, オープンモデルハブおよびドキュメント。
- OllamaおよびLM Studio公式ドキュメント。
- Apache Software Foundation – Apache License 2.0
- Meta – Llama 3 Community License Agreement
- ggml-org – llama.cpp (GitHub) およびGGUFドキュメント
コメントを残す
メールアドレスは公開されません。必須項目は * でマークされています