訪問介護のAI活用｜LINEボイスボットに任せる範囲とリスク検知の設計

訪問介護事業所向けに、利用者・ご家族からのLINEの問い合わせにAIが自動で応答するシステムを開発しています。先日、テキストに加えて音声メッセージにも対応する機能を追加しました。

実装の手順は音声対応を追加した記録で公開しています。この記事では事業者の方に向けて、AIに何を任せてよく、何を任せてはいけないのかを整理します。

介護の現場で生成AIを使う以上、避けて通れない論点です。仕組みがよくできていても、ここの設計を誤ると、事業者にとって大きなリスクになります。

先に答えをお伝えすると、当社は問い合わせを次の二つに分けて設計しました。

• AIに任せる：訪問時間、持ち物、駐車場などの定型の問い合わせ
• AIに任せない：医療の判断を伴う相談、精神的な不調の訴え、命に関わる緊急の連絡

任せない問い合わせは、AIが自由に答えずに担当者へつなぎます。

実装を進める中で当社が考えたこと・調べたことを、事業者の方が判断材料に使えるようにまとめた記録です。

料金・仕様は2026年9月時点の公式情報です。

LINEのAI自動応答とボイスボット

最初に、この記事で扱う「LINEを使ったAIチャット・音声チャット」がどういうものかを説明します。

事業所が運営するLINE公式アカウントに、利用者やご家族がふだんどおりメッセージを送ると、内容に応じてAIが自動で返信する仕組みです。

たとえば「明日の訪問時間を教えてください」と送ると、AIが事業所の情報をもとに「明日は午前10時にお伺いする予定です」のように返信します。

LINEの音声メッセージで話しかけた場合も、AIが内容を文字に起こして理解し、音声で返答します。

LINEのMessaging APIは、利用者から届いた音声メッセージを受け取り、音声ファイルとして取り出せます。

返信にも音声メッセージを使えます。音声ファイル（mp3かm4a）をHTTPSのURLで置き、URLと音声の長さを指定して送る仕様です。

ご家族の世代はLINEのテキストで問い合わせる方が多い一方で、高齢のご家族や音声入力に慣れた方からは「文字を打つのが大変なので音声で送りたい」というご要望があります。

テキストと音声の両方に対応すれば、幅広い利用者に応えられます。

事業者にとってのメリットは、営業時間外でも問い合わせに自動で応答できることです。夜間や休日にも利用者・ご家族からの連絡に応える仕組みを、人を増やさずに作れます。

事務の担当者が電話の対応に時間を取られている事業所では、定型の問い合わせをAIに任せると、現場の業務に使える時間が増えます。

電話型とLINE型のボイスボット

関連する言葉に「ボイスボット」があります。AIによる自動の音声対応をまとめた呼び方で、大きく二つのタイプがあります。

タイプ	やり取りの形	向いている利用者	構築の手間
電話に応答するボイスボット	事業所の電話番号にかかってきた電話にAIが応答する	電話に慣れた高齢者ご本人	専用の電話の基盤（Twilioなど）と高い技術が必要
LINEなどメッセージアプリ経由のボイスボット	利用者が音声を録音して送り、AIが音声で返す（同時の通話ではない）	ご家族が中心の問い合わせ	LINEのMessaging APIの上に作れる

電話型は、利用者がふつうに電話をかけるだけで使えます。その代わり、構築には専用の電話の基盤と高い技術が必要です。

どちらが合うかは利用者によります。ご家族が中心の問い合わせならLINE型、高齢者ご本人が直接連絡する場合は電話型が向いています。

この記事では、LINE型を前提に話を進めます。

LINE公式のAIチャットボットとの違い

LINE公式アカウントにも、有料の「チャットProオプション」で使えるAIチャットボット(β)があります。登録しておいたQ&Aから、AIが合う回答を選んで返す機能です。

この機能は、病院・診療所・介護施設などの医療・福祉の業種では使えない場合があると、LINEのヘルプに書かれています。

対象外の業種は予告なく変わることがあるため、使いたい場合はヘルプで最新の条件を確かめてください。

また、公式のマニュアルには音声メッセージへの対応の記載がありません。

当社が音声に対応したシステムをMessaging APIの上に作ったのは、音声への対応と、次に説明するリスクの検知を自分たちで設計できるからです。

AIに任せる問い合わせと任せない問い合わせ

訪問介護事業所のLINEには、さまざまな問い合わせが届きます。

定型の問い合わせの代表は、「明日の訪問時間を教えてください」「持ち物は何が必要ですか」「駐車場はどこですか」などです。こうした問い合わせはAIで十分に対応できます。

夜中でも休日でも待たせずに返せる点では、AIのほうが向いています。一方で、AIが答えてはいけない問い合わせもあります。

ここでは三つの種類と、事業者の責任の考え方を整理します。

医療の判断を伴う相談

たとえば、次のような相談です。

• 「薬を飲み忘れたんですが、まとめて飲んでも大丈夫ですか」
• 「最近食欲がないんですが、何を食べさせたらいいですか」
• 「熱が38度あります。様子を見ていいですか」

これにAIが具体的な助言を返したらどうなるでしょうか？ たとえば「2回分まとめて飲んでも大丈夫ですよ」と返し、利用者の体調が悪くなった場合、事業者が責任を問われるおそれがあります。

薬や症状の判断はAIに任せず、医師や看護師などの専門職につなぐ前提で設計します。AIには答えさせず、担当者が確認してから連絡する形です。

精神的な不調を訴える発言

次のような発言も、AIに任せません。

• 「もう疲れました」
• 「生きていても仕方ない気がします」
• 「あの世に行ってしまった主人のところに早く行きたい」

ここでAIが「大丈夫ですよ、頑張りましょう」と励ましの言葉を返したらどうなるでしょうか？ その方が自分を傷つける行動に至った場合、事業者として何の対応もしていなかったことになります。

こうした発言は、人が話を聞くべきサインです。AIは相談窓口の案内と担当者への連絡だけを行うように設計します。

命に関わる緊急の連絡

次のような連絡は、一刻を争います。

• 「父が倒れました、息をしていません」
• 「血が止まりません」
• 「火事になっているかもしれません」

1分の遅れが命に関わる場面では、AIに任せた結果、初動が遅れることは避ける必要があります。AIは119番への通報を案内し、同時に担当者へ知らせるだけにします。

AIが誤って答えたときの責任

こうした場面でAIが誤った応答をした場合、事業者が法的な責任を問われるおそれがあります。AIが応答したからといって、事業者の責任がなくなるわけではありません。

訪問介護の運営基準（平成11年厚生省令第37号）には、次のような定めがあります。

• 第13条：利用者の心身の状況などの把握に努める
• 第27条：サービス提供中の病状の急変時に、主治の医師への連絡などを速やかに行う

LINEでの問い合わせへの応答が、これらの定めや事業者の管理責任とどう関わるかは、個別の事情で変わります。

医療に関わる助言については、医師法・薬剤師法との関係が問題になり得るという指摘もあります。

当社は法律や医療の専門家ではありません。法令の解釈や責任の範囲は、弁護士や医療・介護の法務に詳しい専門家にご確認ください。

この記事は、事業者として法的な観点を意識するきっかけとしてお読みください。

リスク検知レイヤーの考え方

こうしたリスクに備えるため、AIの応答システムには「リスク検知レイヤー」を組み込むべきだと当社は考えています。受け取ったメッセージを、AIが答える前に仕分ける層です。

実装してみて分かったのは、リスク検知の仕組みを作ること自体は、技術的にはそれほど難しくないということです。

難しいのは、業種ごとに「何をリスクとみなすか」を整理することと、「誰にどうつなぐか」の運用を設計することです。技術より、業務の理解と運用の設計のほうがはるかに重要です。

リスクを見つけたらAIは答えない

仕組みは次の図のとおりです。LINEで受け取ったメッセージを、リスク検知レイヤーで「通常の問い合わせ」と「リスクのある内容」に分けます。

リスクのある発言を見つけたら、AIは自由に応答せず、決まった文面で「担当者にすぐ連絡します」とだけ返します。同時にサービス提供責任者などへ通知が届き、人が引き継ぎます。

AIですべてをさばこうとしない、という考え方です。一番大事な場面でAIが適切に対応できないシステムになっては、本末転倒です。

リスクありと判定する四つの区分

訪問介護の文脈で、リスクとして検知する発言を四つの区分に整理しました。

区分	概要	検知する言葉の例	AI側の応答
緊急対応	生命・身体に直接関わる発言。すぐに救急の案内が必要	「倒れた」「息してない」「意識がない」「救急車」「心臓が」「呼吸が」「痙攣」「出血」	「119にお電話ください、同時に担当者に連絡しています」
自傷リスク	精神的な不調が深刻になっているサイン	利用者を動揺させるおそれがあるため記載を控えます。実装するときは、介護現場の経験者やメンタルヘルスの専門家と相談しながら作ることを勧めます	「担当者がすぐにご連絡します」と、よりそいホットライン（0120-279-338、24時間）、いのちの電話（0570-783-556、10時〜22時）の案内
強い精神的苦痛	直接的な言葉を含まないが、気分の落ち込みがうかがえる発言	「もう無理」「生きてる意味」「いなくなりたい」「つらい」「助けて」	担当者から折り返し連絡する旨を返す
医療判断	薬の量や症状の判断など、AIに任せると誤った情報を返しかねない領域	「薬を」「症状」「熱がある」「痛い」「血が」「腫れている」	「担当者に確認してご連絡しますね」で固定

このうち「強い精神的苦痛」は検知が難しく、キーワードだけでは取りこぼしやすい区分です。はっきりしたリスクの言葉を含まない発言も当てはまるためです。

キーワードとAIの二段で判定する

リスク検知は一見シンプルですが、実装してみると、キーワードの一致だけでは取りこぼしが多いことに気づきました。たとえば、次の発言をキーワードの辞書だけで判定できるでしょうか？

• 「もう何もかもどうでもいい気分です」
• 「最近、何を見ても虚しいんです」
• 「夜になると涙が止まらなくなって」

はっきりしたリスクの言葉は含みませんが、精神的な危機のサインである可能性が高い発言です。経験のある介護スタッフなら、すぐに「話を聞かなければ」と判断するはずです。

そこで当社は、判定を二段に分けました。

1. キーワードの辞書：はっきりしたリスクの言葉を素早く拾い、取りこぼさない
2. 軽量なAIによる文脈の判定：あいまいな表現を「緊急」「自傷リスク」「精神的苦痛」「医療相談」「通常」のどれかに分ける

二段にすると、費用を抑えながら取りこぼしを減らせます。キーワードでは拾えなかった発言も、文脈を読むAIなら「精神的苦痛」として判定できます。

検知したあとに誰へつなぐか

リスクを検知したら、誰に、どのような形で知らせるかを決めます。ここは業者任せにせず、事業者が決める部分です。

時間帯で通知先を切り替える

訪問介護事業所は、24時間の体制ではないことが多いです。そのため、時間帯ごとに通知先を切り替える設計が現実的です。

時間帯	通知先	通知の手段の例	対応の目安
日中（営業時間内）	サービス提供責任者、緊急性が高ければ管理者	ビジネスチャット（SlackやLINE WORKSなど）、管理者の携帯へのSMS	1時間以内に折り返す運用を組み込む
夜間・休日	当直の担当者。いなければ翌朝にサービス提供責任者が確認	当直の担当者へのチャットや電話	AIからは24時間対応の相談窓口を案内する

通知の手段は、事業所がふだん使っている連絡の道具に合わせて選びます。当社の構成では、担当者への通知をメールで送っています。

利用者に返す定型文

LINEで利用者に返す文面も、区分ごとに用意しておきます。

これらの定型文は、相談窓口の電話番号を必ず書くことを意識しています。AIが完璧な対応をしようとせず、専門家にバトンを渡す設計です。

リスクを検知したときの返信は、合成音声を使わずテキストだけで返します。合成音声で励ますような応答をしてしまうと、後の説明責任が重くなるためです。

どんな言い回しを使うか、どの相談窓口を案内するかは、事業者と業者ですり合わせて決めます。文面が事業所の運用と合っていないシステムは、現場で機能しません。

個人情報はAIに渡す前に伏せる

リスク検知と並んで大事なのが、個人情報の保護です。当社のシステムでは、利用者の氏名や電話番号などを、外部のAIに渡す前に伏せています。

具体的には、メッセージに含まれる電話番号、郵便番号、登録済みの利用者名を、記号に置き換えます。

変更前：田中花子さんの薬を取りに行きます。電話番号は090-1234-5678です。
変更後：[USER_0]の薬を取りに行きます。電話番号は[PHONE]です。

音声メッセージは、文字に起こしてから伏せる処理をかけます。そのため、文字起こしのサービスには伏せる前の音声が渡ります。

文字起こしのサービスのデータの扱いも、あわせて確かめておきましょう。

学習に使われなくても保存と確認はある

伏せる処理が必要なのは、外部のAIに渡した会話が、学習に使われなくても一定の期間保存され、確認されることがあるためです。

事業者	学習への利用（APIの既定）	保存と確認
OpenAI	使わない（利用者が同意した場合を除く）	不正利用の監視用のログを最長30日保存し、必要に応じて担当者が確認することがある
Anthropic	使わない（フィードバックを送った場合などを除く）	入出力は原則30日以内に削除。利用ポリシー違反の疑いがあると判定されたものは最長2年保存する

介護の現場の機微な情報（利用者の氏名、住所、健康状態、家族構成など）が外部の人の目に触れる可能性を、設計の段階で小さくしておくことが、信頼される事業運営につながります。

介護の個人情報で気をつけること

介護事業所が扱う個人情報には、病歴や心身の状態など、取得や第三者への提供に原則として本人の同意が要る「要配慮個人情報」が含まれます。

個人情報保護委員会と厚生労働省は、医療・介護の事業者向けにガイダンスを出しています。

ガイダンスでは、個人情報の扱いを外部に任せる場合、委託先を選び、その扱いを監督することを求めています。AIのサービスやシステムの業者もこの目線で選びます。

個人情報保護委員会は、生成AIのサービスに個人情報を入力するときの注意喚起も出しています。利用目的の範囲内か、入力した情報が学習に使われないかを確かめるよう求める内容です。

自社の運用がこれらに沿っているかの判断は、専門家に確認してください。社内のデータをどこまでAIに渡してよいかの決め方は、次の記事で整理しています。

段階的に公開して調整する

リスク検知つきのAI応答システムは、いきなり全利用者に公開せず、段階を踏んで広げることを勧めます。

1. 第1週の内部テスト：管理者やサービス提供責任者など、スタッフ2〜3名で全機能を試す
2. 第2〜4週の協力者テスト：協力いただけるご家族3〜5名に限って公開し、毎日ログを見る
3. 第2か月以降の全利用者への公開：全利用者・ご家族に知らせて公開し、会話ログを月1回見直す

内部テストでは、実際の環境で誤検知と見逃しを確かめます。協力者テストで誤った応答や検知漏れが見つかったら、AIへの指示（システムプロンプト）とリスクのキーワード辞書を調整します。

段階を踏む理由は、AIのシステムは運用しながら調整していくものだからです。最初から完璧なシステムは作れません。

誤検知を一件、見逃しを一件、丁寧に拾って直す作業を、少なくとも3か月は続けるつもりで計画しておくことを当社は勧めています。

導入後の点検の進め方は、AIエージェント導入後の運用と保守で紹介しています。

運用費と業者に確認すること

最後に、運用費の目安と、業者を選ぶときに確かめたいことをまとめます。

月額の運用費の目安

当社が構築した構成で、訪問介護事業所1拠点・利用者30名・月500メッセージ程度の利用のときに計測した月額の実測は、合計で32ドル（約4,800円）でした。

サービス	用途	月額（実測）
Railway	n8n（ワークフローの実行基盤）	5ドル
Anthropic Claude	回答の作成・リスクの判定	18ドル
OpenAI Whisper	音声の文字起こし	4ドル
ElevenLabs	音声の合成	5ドル
Supabase	データベース・音声ファイルの保管	0ドル

これは計測した当時の料金と利用量での実測で、各サービスの料金は変わります。

今の料金は、各社の公式ページで確かめてください。

LINE公式アカウントの利用料もかかります。AIからの返信をMessaging APIの応答（Reply API）で送る場合、メッセージの通数には数えられません。

一方、担当者への通知や利用者へのお知らせをLINEのプッシュで送ると、通数に数えます。月の無料の通数と料金は次のとおりです。

プラン	月額（税別）	無料の通数	追加のメッセージ
コミュニケーション	0円	200通	送れない
ライト	5,000円	5,000通	送れない
スタンダード	15,000円	30,000通	1通3円（税別）まで

スタンダードの追加メッセージの料金は、2026年10月1日に改定されます。月20万通までは1通3円、それを超えた分は1通2.5円（いずれも税別）です。

ここまでは、サービス自体の運用費です。業者に構築を頼む場合、初期の構築費と運用支援の費用は別にかかります。

業者に確認すること

業者に構築を頼むときは、この記事で説明した設計が入っているかを確かめてください。

• リスク検知の仕組みが入っているか
• キーワードだけでなく、AIによる文脈の判定もあるか
• 定型文と通知先を、事業所の運用に合わせて決められるか
• AIに渡す前に個人情報を伏せる処理があるか
• 導入後の3か月ほど、運用の支援があるか

個人情報について「OpenAIは学習に使わないので大丈夫です」と説明する業者もいます。ただ、それは学習の話で、保存や確認の話ではありません。

最初の数か月は、誤検知や見逃しが見つかりやすい時期です。「作って終わり」の契約だと、この時期の問題が残りやすくなります。

介護以外の業種でも同じ設計が要る

ここまで訪問介護の文脈で書いてきましたが、この設計の考え方は、ほかの業種にも当てはまります。

業種	AIに答えさせない発言の例	設計の要点
クリニック・歯科	「胸が痛い」「呼吸が苦しい」	緊急の症状にAIが応答してしまわないようにする
法律事務所・士業	「明日が裁判」「逮捕されました」	期限のある法的な相談を取りこぼさない
不動産管理	「ガス漏れ」「水漏れ」「鍵を閉め出された」	緊急の修繕を24時間受け付ける
建設業・工務店	「現場で事故が」「労災」	初動の対応を確実に人へつなぐ
飲食店	「アレルギー反応が出た」「異物が入っていた」	食品の安全に関わる連絡にAIが軽く答えない

どの業種にも、人が対応すべき発言があります。代表的なものは次の四つです。

• 人命・身体に関わる発言
• 期限のある法的な相談
• お金の被害の通報
• 未成年に関わる相談

AIで一次対応をする以上、これらを担当者へ引き継ぐ仕組みを必ず組み込むべきだと当社は考えています。

まとめ

AIの音声対応は、中小事業者の人手不足を補う有力な選択肢です。ただし、業種ごとのリスクを考えずに導入すると、かえって大きなリスクを抱えることになります。

介護・医療・士業など、人命や法的な責任が絡む業種では、「AIで応答してよい範囲」と「AIに任せてはいけない範囲」をはっきり設計することが、システムの質を決めます。

当社が組み込んだ設計は、次の六つです。

• リスク検知レイヤー
• キーワードとAIの二段の判定
• 時間帯ごとの通知先の切り替え
• リスク検知時は合成音声を使わない判断
• 個人情報を伏せる処理
• 段階的な公開

どれも技術的には地味ですが、業務のAIを「使えるもの」にするかどうかの分かれ目です。

自社の問い合わせで、どこまでAIに任せられるかを整理したい方は、訪問介護事業所向けのLINE自動応答をご覧ください。

実装の手順は、次の記事で公開しています。エンジニアの方や、自社で内製したいとお考えの方はご参照ください。