Ollama 連携を使うと、AI モデルをご自身のコンピューター上でローカルに実行できます。
ローカルにインストールすれば、メールがコンピューターの外に出ることはありません。API キーもクラウドサービスも不要で、ハードウェア以外の費用もかかりません。
API キーが必要になるのは、Ollama がホストする API を使う場合か、認証を求めるプロキシの背後にあるサーバーを使う場合だけです。
| API キーが必要 | 無料オプション | プライベート / ローカル? | おすすめの用途 |
|---|---|---|---|
| いいえ(任意) | はい(完全無料、ご自身のハードウェアを使用) | はい(すべてがお使いのコンピューター内にとどまります) | プライバシーを重視するユーザー、機密性の高いメール、オフラインでの利用 |
前提条件
- Ollama がお使いのコンピューターにインストールされ、実行中であること(またはローカルネットワーク上でアクセスできること)
- Ollama に少なくとも 1 つのモデルがダウンロードされていること
- ThunderAI がインストールされた Thunderbird
Ollama のインストールとモデルのダウンロード
まだ Ollama をインストールしていない場合:
- ollama.com からダウンロードし、お使いの OS のインストール手順に従ってください
- ターミナルを開いてモデルをダウンロードします。例:
ollama pull llama3
メールの作業に適したその他のモデル:mistral、phi3、gemma2 - Ollama が実行中であることを確認します:
ollama list
CORS の設定
Thunderbird の拡張機能はサンドボックス環境で動作するため、Ollama がそのリクエストを受け付けるようにする必要があります。方法は 2 つあります。
- 環境変数
OLLAMA_ORIGINSをmoz-extension://*に設定し、Ollama を再起動します。 - または、ThunderAI の設定にある Give permission to the current host ボタン("Problems setting CORS?" の下)を使うか、
接続テスト時に表示されるリクエストを承認して、ThunderAI に Ollama サーバーへのアクセス許可を与えます。
localhostまたは127.0.0.1上のサーバーの場合、Thunderbird はすべてのウェブサイトへのアクセス(<all_urls>)を求めます。
CORS の詳しい設定については、Ollama と CORS に関する情報ページをご覧ください。
セットアップ
最も手早いのは Setup Wizard を使う方法です。ThunderAI のウェルカムページ、ツールバーのポップアップ、
または設定ページから開き、Ollama API (Local LLM) を選んで、サーバーのアドレスを入力し、モデルを選んで
接続をテストします。その後、ウィザードで必要な AI 機能を有効にできます。
手動で設定する場合は、以下の手順に従ってください。
1. ThunderAI の設定を開く
Thunderbird で、ツール → アドオンとテーマ → ThunderAI → 設定 に移動します。
2. Ollama 連携を選択する
Connection Settings パネルで、Connection Type のドロップダウンから Ollama API (Local LLM) を選びます。
3. サーバーのアドレスを設定する
Host Address 欄に Ollama サーバーの URL を入力します。既定値は次のとおりです:
http://localhost:11434
Ollama がネットワーク上の別のコンピューターで実行されている場合は、localhost をそのコンピューターの IP アドレスに置き換えてください。
通常のローカルインストールでは、Ollama API Key 欄は空のままにしてください。これが必要なのは
ollama.com がホストする API を使う場合か、認証を求めるプロキシの背後にあるセルフホストのサーバーを使う場合だけです。
4. モデルを選ぶ
Ollama Models の横にある Update list をクリックし、一覧から使いたいモデルを選びます。
5. 接続をテストする
設定は変更するとすぐに保存されます。保存ボタンはありません。
接続設定の下にあるバーの Test now をクリックし、Thunderbird の許可リクエストが表示された場合は承認してください
(CORS の設定を参照)。問題がなければ、バーに "Connected — Ollama API (Local LLM) reachable" と表示されます。
その後、任意のメールを開き、ツールバーの ThunderAI ボタンをクリックしてプロンプトを実行してください。
詳細オプション
Connection Settings パネルの Advanced options をクリックすると、以下の設定が表示されます。 これらは選択したモデルに合わせて変わります。
- System Prompt:各会話の最初に送信され、モデルに役割や常に守る指示を与えます。
- Enable thinking:モデルに回答前の推論をさせます。使用できる推論レベルはモデルによって異なり、モデルを選択すると表示されます。 Model default は何も送信せずモデルに判断を任せますが、モデルによってはその場合でも推論を行います。推論を無効にするには Off を選んでください。
- Temperature:値を大きくすると回答がより創造的になります。既定値は 0.8 で、0 から 1 の間の値をおすすめします。
- Number of context tokens:モデルが考慮できるテキストの量です。ThunderAI は選択したモデルがサポートする最大値を表示します。0 に設定するとサーバーの既定値を使用します。
- Keep model loaded:リクエスト後に Ollama がモデルをメモリに保持する時間です。例:
5mや30m。-1で常に読み込んだまま、0ですぐにアンロードします。 空欄の場合はサーバーの既定値(5 分)を使用します。Add Tags、スパムフィルター、自動要約が受信メールに対して動作する場合は値を大きくしてください。そうしないと、メッセージごとにモデルが再読み込みされます。 - Force JSON output:構造化出力に対応したモデルで、Ollama に有効な JSON を返させます。
- Extra options:Ollama に渡す追加パラメーターを JSON オブジェクトで指定します。例:
{"top_p": 0.9, "seed": 42}や{"num_predict": 512}。
これらのオプションは、カスタムプロンプトのページで個々のプロンプトに設定することも、各 AI 機能(Add Tags、Spam Filter、 Summarize、Translate、Calendar Event、Task)の個別接続にある Advanced options ボタンから設定することもできます。
ヒント
- パフォーマンスはハードウェアによって決まります。16 GB 以上の RAM を搭載した最新のコンピューターであれば、
llama3やmistralのようなモデルを快適に扱えます。GPU があると処理が大幅に速くなります。 - 小さなモデル(7B パラメーター)は高速ですが能力は劣ります。大きなモデル(13B、70B)はより良い結果を出しますが、より多くのリソースを必要とします。
- メールの作業には、品質と速度のバランスが良い
mistralやllama3がよく選ばれています。 - 処理の遅いモデルで自動機能(Add Tags、Spam Filter、Summarize、Translate)がタイムアウトで止まる場合は、ThunderAI の設定で Special command timeout (ms) の値を大きくしてください。
トラブルシューティング
"Failed to connect" または応答がない
Ollama が実際に実行されているか確認してください(ターミナルで ollama list)。ThunderAI の設定の Host Address が Ollama の設定と一致しているかも確認してください。
CORS エラー
OLLAMA_ORIGINS 変数が設定されていないか、設定後に Ollama が再起動されていません。CORS の設定の手順をもう一度行うか、代わりに Give permission to the current host ボタンを使ってください。
モデルの一覧が空
ollama pull <modelname> で少なくとも 1 つのモデルをダウンロードしていること、そして Ollama が実行中であることを確認してください。
推論させたくないのにモデルが推論する
モデルによっては既定で推論を行います。詳細オプションで Enable thinking を Off に設定してください。