「自社のデータでAIを学習させたい」——AI導入の相談で、最も多く聞くご要望のひとつです。ところが詳しく伺うと、本当に「学習」が必要なケースはごく一部で、多くはもっと安く簡単な方法で目的を達成できます。逆に、開発会社の提案を鵜呑みにして高額なファインチューニング（追加学習）に踏み込み、成果が出なかったという相談も実際にあります。
自社の知識をAIに使わせる方法は、大きく3つあります。プロンプト設計、RAG（検索拡張生成）、ファインチューニングです。この3つはコストが1桁ずつ違い、向いている用途もはっきり分かれています。
この記事では、3つの手法の仕組みと違いを整理し、「うちの場合はどれか」を自分で判断できる基準を示します。東海エリアの中小企業が過剰な投資をせずに済むこと——それがこの記事のゴールです。
3つの方法を一枚の絵で
3つの手法は「AIへの知識の渡し方」が違います。人に仕事を教える場面に例えると、こうなります。
- プロンプト設計——指示書を渡す。「あなたは当社の営業アシスタントです。この様式で、この語調で書いてください」と、依頼のたびに前提と手本を添える
- RAG——資料棚を用意する。質問のたびに関連する社内文書を検索して探し出し、それを読ませて答えさせる
- ファインチューニング——研修で叩き込む。大量の例文でAIそのものを再訓練し、振る舞いを体に覚えさせる
比較表にすると、違いは一目瞭然です。
| プロンプト設計 | RAG | ファインチューニング | |
|---|---|---|---|
| 何をする | 指示文を作り込む | 文書を検索して読ませる | AI自体を再訓練する |
| 費用の目安 | ほぼゼロ〜数十万円 | 月数万円〜／開発なら50万円〜 | 数百万円〜＋継続コスト |
| 必要な準備 | 良い指示文と手本 | 整理された社内文書 | 大量の高品質な訓練データ |
| 知識の更新 | 指示文を直すだけ | 文書を差し替えるだけ | 再訓練が必要 |
| 向くケース | 語調・形式・役割の指定 | 社内知識への質問応答 | 特殊な専門領域・大量処理の最適化 |
方法1: プロンプト設計——9割の悩みはここで解決する
最初に検討すべきはプロンプト設計です。OpenAIも「プロンプト設計から始めるのが基本で、それだけで足りることも多い」と案内しています。「AIの回答が的外れ」という不満の大半は、AIの能力不足ではなく指示の情報不足が原因だからです。
会社の前提情報・出力の様式・良い例と悪い例を指示文に含めるだけで、回答の質は別物になります。最近のAIツールには、こうした指示を毎回書かずに済む仕組み（カスタム指示やプロジェクト機能）が標準装備されており、追加費用ゼロで「自社仕様のAI」の8割は作れます。
限界もあります。指示文に入れられる情報量には上限があるため、「就業規則全部」「過去の見積もり1,000件」のような大量の知識は渡しきれません。そこで次のRAGの出番です。
方法2: RAG——「社内の知識に答えさせたい」の標準解
RAGは、AIが回答する直前に社内文書を検索し、見つかった内容に基づいて答えさせる仕組みです。社内規程・マニュアル・過去の議事録など、大量の文書知識をAIに扱わせる用途の標準的な作り方で、企業向けチャットボットの多くがこの方式です。
RAGの強みは、知識の更新が「文書を差し替えるだけ」で済むこと。規程が改定されてもAIを作り直す必要がありません。弱みは、精度が文書の整備状態に依存すること。仕組みの詳細と「精度が出ない本当の理由」は、RAGとは？社内チャットボットの仕組みで詳しく解説しています。
費用は既製ツールなら月数万円から、自社の業務に合わせた開発ならPoC（小規模検証）で50〜200万円が目安です。
方法3: ファインチューニング——最後の手段。ほとんどの会社には不要
ファインチューニングは、大量の例データでAIモデル自体を再訓練する手法です。効果がある一方で、誤解が最も多い手法でもあります。
最大の誤解は「知識を覚えさせるならファインチューニング」というものです。実際には、ファインチューニングは知識の追加には不向きです。追加学習とRAGを同じ条件で比べた研究では、新しい知識を覚えさせる用途でRAGが一貫して上回りました。得意なのは、語り口・様式・思考の型といった「振る舞い」を体に染み込ませること。個別の事実を正確に答えさせたいならRAGの方が確実で、しかも桁違いに安い。新しい知識を追加学習で覚えさせると、かえってAIが事実でないことを答える傾向が強まるという研究結果も出ています。
ファインチューニングが本当に効くのは、たとえば次のような場面に限られます。
- 医療・法務・特殊な業界用語など、一般のAIが根本的に苦手な専門領域に適応させたい
- 毎日数万件の定型処理があり、小型モデルを訓練して処理単価を下げたい
- 出力形式を厳密に固定する必要があり、プロンプトでは安定しない
そして前提として、数千件規模の高品質な訓練データを用意できることが条件です。データ作成の人件費まで含めると総額は数百万円規模になり、データが更新されたときや、ベースにしているAIが新しくなったときは、そのつど再訓練が必要になります。「まずファインチューニングから」という提案には、慎重になってください。
判断フロー——迷ったらこの順番
実務では、この順で試すのが鉄則です。
- まずプロンプト設計。費用ゼロで今日から試せる。ここで解決すれば終わり
- 知識の量が壁になったらRAG。社内文書への質問応答はこれが標準解
- それでも残る特殊要件だけファインチューニング。データを用意できるかを先に確認
途中で立ち止まるほど安く済む構造になっているので、上から順に試して「足りない理由」を確認してから次へ進めば、過剰投資は起きません。3つは排他的ではなく、実際のシステムではプロンプト＋RAGの併用が最も多い形です。
一般論の限界と、当社のアプローチ
手法の選択そのものは、この記事の判断フローで大半が決まります。難しいのはその手前——「そもそも何の業務を、どんな品質でAIに任せたいのか」の言語化と、RAGに進む場合の文書整備です。ここで詰まる会社が一番多い。
株式会社Central AXは、名古屋を拠点に、生成AI研修（1人25万円）・Claude Code研修（1人30万円）・AI受託開発（PoC 50〜200万円）を提供しています（詳細は料金プラン）。プロンプト設計は研修で社内に内製力をつけ、RAGが必要な段階になったら小さなPoCで精度を確かめてから投資判断する——手法の階段を下から順に登る支援を標準にしています。ファインチューニングは、上の条件に本当に当てはまる場合にしかおすすめしません。
東京の開発会社のオンライン提案では、この「手前の言語化」が飛ばされがちです。当社は東海エリアの会社へ訪問し、現場の業務と文書の実態を見てから手法を選びます。売り物ありきでなく業務ありきで選ぶ——地元の会社だからできる進め方だと考えています。
よくある質問（FAQ）
Q. 「自社データで学習させたい」と開発会社に言ったら、ファインチューニングを提案されました。妥当ですか？
A. 目的次第ですが、社内知識への質問応答が目的なら、まずRAGとの比較説明を求めてください。比較なしにファインチューニングだけを提案された場合は、他社の意見も聞くことをおすすめします。
Q. プロンプト設計は社員でもできますか？
A. できます。むしろ業務を知る社員がやるのが一番効果的です。型を学べば習得できるスキルなので、当社は研修で「自部署の業務用の指示文を作って持ち帰る」ところまでを扱っています。
Q. RAGとファインチューニングを併用することはありますか？
A. あります。振る舞いをファインチューニングで整え、知識はRAGで渡す構成です。ただしこれは大規模・特殊用途の話で、中小企業の初期段階で必要になることはまずありません。
Q. 自社に機密データがあり、外部のAIに渡すのが不安です。
A. 法人向けのAPIやサービスは入力データを学習に使わない契約が標準で（OpenAI・Anthropicがそれぞれ明記しています）、3つの手法いずれもその環境の上で実施できます。詳しくはChatGPTの情報漏洩リスクと対策をご覧ください。
まとめ
自社データをAIに使わせる方法は、プロンプト設計・RAG・ファインチューニングの3つです。費用は1桁ずつ違い、プロンプトは「振る舞いの指定」、RAGは「知識への質問応答」、ファインチューニングは「特殊領域への適応」と、得意分野が明確に分かれています。
判断の鉄則は、安い順に試すこと。プロンプトで足りるかを確かめ、知識量が壁ならRAGへ、それでも残る特殊要件だけファインチューニングを検討する。この順番を守るだけで、AI導入の過剰投資はほぼ防げます。
Central AXは名古屋を拠点に、研修による内製化からRAG構築まで、手法の階段を下から順に登る支援をしています。「うちの場合はどの方法か」の見立てだけでも価値があるはずです。お気軽にご相談ください。