Blog 活用ノウハウ

「AIって何から始めればいい?」中小企業向け生成AI活用スタートガイド

公開 2026.03.24 ・ 最終更新 2026.09.28 ・ 読了目安 約13分

たとえば、社長が個人のアカウントでChatGPTに登録し、何度か質問して3か月が過ぎた会社を考えます。ある朝、社員に「うちも仕事で使っていいんですか」と聞かれ、答えに詰まる。個人で触ったことと、会社として始めたことは別物だと気づくのはこの瞬間です。

生成AIの導入は、ツール選びから始めません。①目的を1文で書く、②最初の1業務を1つ選ぶ、③入れてはいけない情報を3行で出す、④使うツールを1つ選ぶ。この順番で決めれば、社員の質問にもその場で答えられます。以下、4つを決める順番と、自社が今週どれを決めればよいかの見分け方を整理します。

30-SECOND SUMMARY忙しい方へ|この記事の結論
  1. 決める順番は、目的→最初の1業務→入力してはいけない情報→ツール。ChatGPTかGeminiかClaudeかは4番目です
  2. 最初の1業務は、議事録やメール文面のように毎週発生し、社外に出る前に人が直せる仕事から選びます
  3. 入力ルールは長い規程より3行から。個人情報・取引先の機密・未公開の数字を入れない、と先に社員へ伝えます

生成AIとは?2026年に社長が知っておくべき基本

生成AIとは、指示の文章に応じて文章や画像などを作るAIのことです。業務では「完成品を出す道具」ではなく、「下書きを速く出す道具」として扱います。下書きを社外に出してよいかは人が決める。この前提が、この先の4つの順番すべてに効いてきます。

ツールより先に決める4つの順番

何から始めるかの答えは、下の表の上から順です。各段は「決まったと言える状態」で終わらせ、次の段へ進みます。

順番と決めること 決める人 決まったと言える状態 飛ばすと起きること
①目的 社長 「どの仕事の何を、どう楽にするか」が1文で書けている 登録しただけで誰も開かなくなる
②最初の1業務 社長と担当部署の責任者 業務名が1つ、使う担当者が1〜2名決まっている 全員が別々の用途で試し、効果を比べられない
③入れてはいけない情報 社長(個人情報の扱いは管理部門と確認) 入力NGの3行が社員に届いている 社員が個人アカウントに取引先の資料を貼る
④使うツール 担当者が候補を出し、社長が決める ツールが1つ、契約プランとデータ設定が記録されている 比較だけで数か月が過ぎる

今週どれを決めるかは、自社の状態で分かれます。目的が1文で書けないなら①から。目的はあっても使う業務が決まっていないなら②から。業務は決まったのに入力のルールが無いなら③から始めます。①〜③がそろっているなら、ツールは1日で絞れます。

目的、最初の1業務、入れてはいけない情報、ツールの順に決め、各段に決まった状態の目安がある流れ図
ツールは4段目。上の3段が決まるまで比較を始めなくてよいことが分かります

数字で見る、生成AIの業務利用の現在地

令和8年版情報通信白書(2026年7月公表)では、活用方針を「わからない」と答えた企業を除くと、日本企業の86.4%が何らかの業務で生成AIを使っていました。2025年度の企業向け調査の結果です。

一方、2026年7月に公表されたDX動向2026調査では、従業員101人以下の企業でAIを導入している割合は16.6%でした。こちらは生成AIに限らないAI全般の数字です。調査の対象と定義が違うため、2つの数字を直接比べることはできません。

2つの数字から、自社が今週決めることは出てきません。出てくるのは、社員100人前後までの会社なら「まだ始めていない側」にいても珍しくない、という現在地だけです。だから焦ってツールを契約するより、1週間かけて①の1文を書く方が先に効きます。

それでも読み取れることはあります。規模の小さい会社ほど、まだ始めていない側にいる可能性が高い。そして始めていない理由の多くは、技術ではなく「何を先に決めるか」が決まっていないことにあります。AIが難しそうだという印象で止まっているなら、「AIは難しい」という思い込みを分解した記事を先に読むと、①の目的を書く手が軽くなります。

導入時にやるべきは「ツール選び」ではなく「目的の言語化」

①と②は一緒に決めます。目的は「どの仕事の、何を、どう楽にするか」の1文です。この1文に業務名が入った時点で、②の最初の1業務もほぼ決まります。

目的を1文で書く型

書く形は「(業務名)の仕事で、(作業)にかかる手間を減らし、空いた時間を(使い道)に回す」です。たとえば「営業会議のあとの議事録で、清書の手間を減らし、空いた時間を顧客への連絡に回す」。ここまで書ければ十分です。

反対に「業務を効率化する」「DXを進める」は目的になりません。業務名が入っていないため、誰がいつ使うかが決まらないからです。

目的が曖昧なまま進めた場合に何が起きるかは、目的が曖昧なままAI導入を進めたときに起きることで詳しく扱っています。

1つ目の業務は、社外に出る前に人が直せる仕事から

最初の1業務の条件は3つです。毎週必ず発生すること。文章が中心であること。AIの出力が間違っていても、社外に出る前に担当者が直せること。

令和8年版情報通信白書では、業務類型のうち「議事録・メール作成補助」で活用していると答えた割合が約7割と最も高く、導入効果を実感した割合も約7割でした。最初の1業務の候補として、まずこの類型を検討する理由はここにあります。

見積金額の計算、契約書の条文、採用の合否のように、間違いがそのまま金額や責任に直結する仕事は最初の1業務にしません。AIを使うこと自体は可能でも、確認の手間が大きく、効果を測る前に止まりやすいからです。

決めきれない点:目的を「時間」で置くか「品質」で置くか

議事録なら「作成時間」を目的に置けますが、提案メールなら「返信率」や「言い回しのばらつき」を置きたくなります。どちらが正しいかは、業務によって分かれます。迷ったら最初の1か月は時間で置き、2か月目に品質の指標を足す、という順番が測りやすいと考えています。

時間で置く場合は、議事録1件あたりの作成時間を分単位で記録します。AIを使う前の5件と、使ったあとの5件を並べれば比べられます。品質で置く場合は、社外に出す前に上長が直した箇所の数を1件ずつ数えます。どちらも測る人は担当者1人で足ります。

目的と最初の1業務を、事業全体の投資順序と合わせて決めたい場合は、AIコンサルティングのように外部と一緒に整理する方法もあります。

ツール選定|ChatGPT・Gemini・Claude、結局どれがいい?

ツールは4つの順番の最後に決めます。①〜③が決まると「どの業務で、誰が、何を入れずに使うか」が見えるため、候補は自然に1つか2つに絞れるからです。

主要3ツールの比較表

比べる点 ChatGPT Gemini Claude
開発元 OpenAI Google Anthropic
向いている場面 まず1つで幅広く試したい GmailやGoogleカレンダーを日常的に使っている 長い文書の要約や文章作成が中心
選ぶ前に確かめること 無料と有料の機能差、法人プランの有無、入力内容を学習に使うかどうかの設定(料金と条件は変わるため、契約時に各社の公式ページで確認)

迷ったら、②で選んだ業務のファイルが普段どこにあるかで決めます。Googleのサービスで文書を回している会社ならGemini、長い議事録や規程の要約が中心ならClaude、まず1つで幅広く試すならChatGPT、という分け方です。

各ツールに個人で登録して最初の質問をするところまでは、ChatGPT・Gemini・Claude・Copilotを個人で始める記事にまとめています。

無料版と有料版、始めはどちらで使うべきか

社長や担当者が個人で感触をつかむ段階なら、無料版で足ります。会社の業務データを入れる段階に進むなら話が変わります。

無料版では、入力した内容が学習に使われる設定になっている場合があります。業務で使うと決めた時点で、契約するプランと学習利用の設定を担当者が確認し、社内に記録を残します。プランの違いと切り替えの目安はChatGPTの無料版と有料版の違いを整理した記事で扱っています。

セキュリティと社内ルール|「何を入力してはいけないか」を決める

最初に社員へ届けるのは、長いガイドラインではなく次の3行です。

  • 氏名・電話番号・住所など、個人を特定できる情報を入れない
  • 取引先から受け取った資料や、契約の中身を入れない
  • 決算前の数字や未発表の商品情報など、社外に出していない数字を入れない

この3行を出してから③を「決まった」とします。全面禁止にすると、社員が個人のアカウントで黙って使い始め、何が入力されたか誰も把握できなくなります。禁止よりも、線を引いて見える場所で使ってもらう方が管理できます。

個人情報の扱いは、会社の義務として確認する

個人情報保護委員会は2023年6月に公表した注意喚起で、事業者が生成AIサービスに個人情報を含む指示を入力する場合、利用目的の達成に必要な範囲内かを十分に確認するよう注意を促しています。本人の同意なく個人データを入力し、それが応答の出力以外の目的で扱われると、法令違反となる可能性も示しています。

だから1行目に個人情報を置きます。顧客名簿や問い合わせ履歴を扱う仕事を最初の1業務にしたい場合は、先に管理部門と「どの欄を伏せてから入れるか」を決めてください。判断に迷うときは、弁護士など専門家に確認する前提で進めます。

3行の次に足すのは、出力の確認と利用の記録

3行が定着したら、2つを足します。AIが出した文章は必ず人が目を通してから社外に出すこと。誰がどの業務で使ったかを、月に1回だけ担当者が振り返ること。社内ルールのひな形と判断の流れは生成AIに会社の情報を入れてよいかを判断する3つのルールにまとめています。

For Executives · 毎月限定5社

「AI、何から始めるか」を、
御社の事業に当てはめた戦略提案書。

業界事例・ROI試算・3ヶ月導入ロードマップを含む全15章から、御社が今いちばん知りたい5章を選んで編集。代表 吉元が監修して3〜5営業日でPDFお届け。完全無料。

経営者・役員・部門長・AI推進ご担当者の方限定。御社の事業に当てはめた個別作成のため、立場が判断できない方への配信はお断りしております。

プロンプトの基本|「聞き方」を変えるだけで出力が変わる

ツールを替える前に、指示へ目的と条件を足す

最初の出力が期待外れだったとき、ツールを替える前に聞き方を変えます。指示に「目的」と「条件」の2つを足すだけで、返ってくる文章は変わります。

たとえば「議事録を作って」ではなく、「営業部の定例会議の議事録を作って。決定事項と次回までの宿題を分けて、箇条書きで」と書く。慣れてきたら、AIに担わせる役割と、返してほしい形式も加えます。

型を覚えるより、自分の業務を3行で説明できるか

書き方の細かい型は覚えなくても構いません。誰の、どの場面の、何を作る仕事か。この3行を説明できれば、指示はそのまま書けます。説明できないなら、それはプロンプトの問題ではなく①の目的がまだ曖昧だという合図です。

業務別にそのまま使える指示文は、業務別プロンプトのテンプレート集にまとめています。

初日にどの業務で試すかを迷っているなら、生成AIを入れた初日に試す業務の記事が参考になります。

導入後1ヶ月のロードマップ|スモールスタートの進め方

4つが決まったら、最初の4週間は1業務・1〜2名で回します。全社に一斉に配るのは、この4週間の記録がそろってからです。

4週間の週ごとの動きと、週末に残すもの

週 担当者がやること 週末に残すもの
第1週 選んだツールで、業務以外の文章も含めて1日15分ほど触る 使ってみて迷った点のメモ
第2週 ②で選んだ1業務だけを、1日30分を上限にAIの下書きで回す 下書きから直した箇所の記録
第3週 AIを使う前の5件と使った後の5件で、1件あたりの作業時間を測る 業務1件あたりの時間の比較(自社で測る)
第4週 社長に10分で報告し、次に誰がどの業務で使うかを決める 次の1か月の業務名と担当者

担当者1人が1日15分から30分を20日続けると、4週間で5時間から10時間ほどになります。この時間を通常業務の外に確保できるかを、1週目に入る前に社長が決めておきます。確保できないまま始めると、2週目あたりで手が止まり、第3週の比較に使う5件がそろいません。

使う人は、ITの詳しさより業務を楽にしたい意欲で選ぶ

使う人は、ITに詳しい人より「今の業務をもっと楽にしたい」と思っている人を選びます。機能の探求に向かうより、業務の手間に目が向くからです。週ごとの確認項目は最初の1か月の進め方を週単位で書いた記事にあります。

推進の体制づくりや社員への説明の仕方は、4つを決めたあとの別の段階です。社内に広げる準備は生成AIを社内に展開する前の準備作業で扱っています。

「やってみたけど意味なかった」を防ぐ3つの習慣

使い始めて2週間ほどで「意味がない」と感じたら、4つの順番のどこを飛ばしたかを見直します。習慣はそれぞれ、飛ばしやすい段に対応しています。

毎日やる仕事に1つだけ組み込む(②を飛ばした場合)

使い始めて2週間ほどで「意味がない」と感じる場面の多くは、使う回数が少なすぎて効果が見えていない状態です。「時間があるときに使う」では、ほぼ使われません。毎朝のメール返信や毎週の週報など、必ず発生する仕事に1つだけAIの下書きを挟みます。頻度が上がれば、効果もあるかないかがはっきりします。

AIに下書きさせ、人が直す(①を飛ばした場合)

出力をそのまま完成品として期待すると、たいてい物足りなく感じます。8割をAIの下書きで出し、残りを自分で仕上げる前提に切り替えてください。直した箇所を見返すと、次の指示に何を足せばよいかが分かります。

月に1回、使い方を社内で見せ合う(③と④を飛ばした場合)

1人で黙って使うと、入力してよい情報の線も、ツールの設定も人によってずれていきます。月に1回、30分だけ、使った指示文と結果を見せ合う場を作れば、ルールの確認も同時にできます。持ち寄るのは1人1件で十分です。社内に根づかせる段階の進め方は生成AIを社内に定着させる段階ごとのガイドにまとめています。

社内だけで決めると止まりやすい境目

社内だけで4つを決めようとして詰まりやすいのは、2つの場面です。部署ごとに目的が割れて1文にまとまらないとき。顧客情報を扱う業務を最初に選びたいのに、入力の線を判断できる人が社内にいないとき。どちらかに当たるなら、外部の専門家と一緒に線を引く方が早く進みます。

それでも成果が見えないときの原因の切り分けは、生成AIで成果が出ない原因と改善の記事で扱っています。全員が使いこなす必要はありません。効果の出る業務と人に絞るのも、立派な判断です。

ビフォーアフター:4つを決める前と後で、社員の質問への答え方が変わる

決める前:ツールの比較で止まっている

  • 社長の個人アカウントだけが動いていて、社員は使ってよいか分からない
  • ツールの比較記事を読むうちに数か月が過ぎ、社員の誰かが個人の無料版に取引先の資料を貼っていても把握できない

決めた後:1業務と3行で動き出している

  • 「議事録の清書に使ってよい。ただし入れてはいけない情報は3つ」と社長が答えられる
  • 担当者1〜2名が同じツール・同じ設定で使い、1件あたりの時間を記録している
  • 下書きから直した箇所が溜まり、次の指示に足す条件が見えている
  • 4週目の報告で、次に使う業務と担当者が決まる

違いを生むのはツールの性能ではなく、決める順番です。4つのうち今週決める1つを選べば、来週には社員の質問に答えられる状態に近づきます。

この記事のまとめ

  • 今週決めるのは1つだけ。目的の1文が書けないなら①、書けるなら②の業務名、業務が決まっているなら③の3行です
  • 最初の4週間で測るのは、選んだ1業務の1件あたりの作業時間と、下書きから直した箇所の数です

監修者|生成AIの導入から定着まで伴走する専門家が確認しています

吉元大輝(よしもとひろき)

株式会社BoostX 代表取締役社長

AI顧問・FDE型AI伴走支援・AIエージェント開発など、生成AIの相談から構築・現場定着までを一社で支援。業務可視化から効果測定まで、企業のAI活用を実務レベルで前に進めている。

2026年9月

この記事をシェア

読んで終わりにしないために

「自社の場合は、どうすれば?」
その答えを、最大45分で持ち帰る。

記事で分かるのは、一般論まで。AI導入を専門に見ている担当が、貴社の業務に当てはめて“次の一手”だけを一緒に整理します。

この相談で持ち帰れるもの

  1. 01

    自社業務に当てはめたAI活用マップ

  2. 02

    投資対効果(ROI)のシミュレーション

  3. 03

    いまの悩み・疑問への、その場の個別回答

COMPANY PROFILE / PDF 全46ページ

BoostXの考え方・7つのサービス・料金を、1冊に。

社内でAI活用を検討されるときの資料として、そのままご共有いただけます。入力は3項目、送信後すぐにダウンロードできます。

会社案内を無料でダウンロード