介護の生成AIは記録より先に職員会議と研修資料から、利用者の情報は入れない

介護記録に生成AIを使えば楽になると聞く一方で、利用者の情報を入れてよいのか判断できずにいる介護事業所の管理者や本部の担当者に向けた記事です。対象は、法人としてAIの道具をまだ用意しておらず、一部の職員がChatGPTやGeminiの個人用の無料アカウントで文書の下書きを作り始めている事業者です。介護で生成AIを使うなら、介護記録から始めず、職員会議の議事録や研修資料など利用者の情報を含まない書類から始めます。

あわせて「利用者の名前や病名は入れない」決まりと法人で管理するアカウントを先に用意すれば、記録の手間を減らす前に、職員が安心して使える状態を作れます。読み終えると、最初に任せる書類、入れない情報、使うアカウント、試す期間の4つを決められます。

生成AIとは、指示した内容をもとに、文書の下書きや要約を作るAIです。

介護の生成AIで、利用者の情報をいちばん慎重に扱う理由

介護記録に書く利用者の情報は、個人情報の中でも、取り扱いに特に配慮が要る種類に当たります。そのため、生成AIに入れる前に確かめることが多く、最初に試す材料には向きません。

介護記録は「要配慮個人情報」を含む

要配慮個人情報とは、病歴や障害など、本人が不当な扱いを受けないよう特に慎重に扱う個人情報です。医療・介護の事業者向けのガイダンスは、介護関係の記録に書かれた病歴や障害の事実を、その例に挙げています。こうした情報の取得や第三者への提供には、原則として本人の同意が必要です。

厚生労働省のサイトに載っている介護事業所向けの手引きは、要配慮個人情報に当たる範囲をさらに広く捉えています。介護事業所で扱う情報のほとんどは要配慮個人情報であり、記録だけでなく、メモや会話に出てくる個人につながる情報も含まれるとしています。

生成AIに入れるときに確かめること

個人情報保護委員会は、事業者が生成AIに個人情報を含む指示文を入れる場合について、注意を呼びかけています。呼びかけているのは、利用目的の範囲内かを十分に確かめることと、AIの提供元がそのデータを学習に使わないかを確かめることの2つです。本人の同意なく入れたデータが回答以外の目的で使われると、法律に違反するおそれがあるともしています。

現場では、すでに個人のAIに利用者の情報が入っていることがある

たとえば、職員30名のデイサービスで、介護職員が家族への連絡文の下書きに個人のスマホのAIを使ったとします。早く仕上げたいあまり、利用者の名前と、最近の体調の変化をそのまま打ち込みます。個人のGoogleアカウントのGeminiでは、入れた内容の一部を人が確認することがあり、確認されたチャットは削除しても最長3年間残ります。

一度入れた内容は、あとから履歴を消しても、消えるとは限りません。だからこそ、職員が入れてしまう前に、入れない情報の決まりと法人の道具を用意しておきます。

介護の生成AIを始める前に決める4つのこと

介護の生成AIを始める前に決めるのは、最初に任せる書類、入れない情報、使うアカウント、試す期間の4つです。

最初に任せる書類は、利用者の情報を含まない書類

最初に任せるのは、職員会議や運営会議の議事録の要約、研修資料のたたき台、求人の文面、職員向けのお知らせなどです。サービス担当者会議やケース会議では利用者の様子や病状を話し合うため、その議事録は利用者の情報を含みます。この2つの会議の議事録は、最初の対象から外します。研修資料も、ヒヤリハットの事例を使う場合は、利用者を特定できる内容を除いてから入れます。

入れない情報は、利用者と家族のこと

入れない情報は、利用者の氏名、住所、病名、家族の情報です。介護事業所向けの手引きは、介護保険の被保険者番号や職員の個人情報も、個人情報の例に挙げています。職員向けのお知らせを作るときは、職員の氏名や連絡先も入れない決まりにすると迷いません。

介護記録をAIに渡すかどうかは、この段階では決めません。法人のアカウントと決まりが整ったあとでも、すぐには入れません。記録を入れる前に確かめることは、次の章で説明します。

使うアカウントは、法人で契約して管理するもの

同じChatGPTやGeminiでも、個人の無料のアカウントと、法人で契約して管理するアカウントでは、入れた内容の扱いが違います。法人で管理するアカウントとは、法人が契約し、誰が使っているかを法人が管理できるAIのアカウントです。個人向けのChatGPTは、設定によっては入れた内容が学習に使われます。

法人向けのChatGPT Businessは、初期設定では入れた内容が学習に使われず、管理者が会話の履歴を確かめられます。Google Workspaceでは、Business Starter、Standard、PlusなどのプランでGeminiを使えます。これらのプランの仕事用のアカウントでは、チャットが人に確認されず、御社が許可しない限り、組織の外でAIの学習に使われることもありません。

どちらを選ぶ場合も、介護事業所向けの手引きにあるとおり、職員ごとにアカウントを分け、退職した人のアカウントはすぐに止めます。データの扱いは、OpenAI におけるエンタープライズプライバシーとGoogle Workspace の生成 AI に関するプライバシー ハブに載っています。

試す期間は1か月

試す期間は1か月とし、続けるかどうかを判断する日も、始める前に決めておきます。その日に、議事録の要約にかかった時間や、AIの下書きをどれだけ直したかを職員に聞いて判断します。

関連記事：Google Meetの議事録を自動で作る、Geminiのメモで決める2つのこと

関連記事：NotebookLMで業務マニュアルを質問できる形に、入れる資料の決め方3つ

生成AIを始めた事業所がつまずく3つの点

生成AIを始めた介護事業所がつまずくのは、個人のスマホで使われること、AIが書いた文書を確かめずに使うこと、介護記録から始めることの3つです。

禁止するだけでは、個人のスマホでの利用は止まらない

職員が個人のスマホの無料のAIに、利用者の様子をそのまま打ち込んでしまうことがあります。介護事業所向けの手引きは、原則として、職員個人のスマホやパソコンで個人情報を扱う業務をしないこととしています。それでも、下書きを早く作りたい職員は、禁止だけでは手を止めません。法人の道具を用意し、使ってよい書類を示せば、個人のスマホに頼る理由がなくなります。

AIが書いた文書を、確かめずに使ってしまう

生成AIは、不正確な内容を事実のように示すことがあり、これをハルシネーションと呼びます。議事録の要約に、会議で決まっていない日付や担当が入ることもあります。書類ごとに確かめる人を決め、議事録は司会、研修資料は研修の担当者が目を通してから配ります。

介護記録の要約から始めると、試す前に止まる

介護記録の要約から始めると、個人情報の扱いの確認に加えて、医療情報の安全管理の指針への対応が先に要ります。厚生労働省の「医療情報システムの安全管理に関するガイドライン」のQ&Aは、介護事業者が医療情報を情報システムで扱う場合も対象になると答えています。生成AIに医療情報を入れる場合の問いも載っており、記録を扱うなら、この指針への対応も検討の対象です。まず利用者の情報を含まない書類で慣れておけば、記録に広げるかどうかも落ち着いて判断できます。

自分で進める場合と、頼む場合の境目

介護の生成AIを自分で進めるか頼むかの境目は、事業所の数と、AIを使う書類の範囲です。事業所が1か所で、AIに詳しい職員がいて、使う書類が職員会議の議事録や研修資料に限られるなら、御社で進められます。

次のどれかに当てはまる場合は、頼んだほうが確実です。

• 複数の事業所で、入れない情報の決まりを揃えたい
• 職員向けに、使い方のセミナーを開きたい
• 介護記録にもAIの利用を広げたい

介護事業所向けの手引きも、情報の安全管理をすべて管理者や職員で抱え込む必要はなく、外部から支援を受けることが効果的だとしています。

弊社は、何を入れないかも含めた使い方の決まりづくりから、職員向けのセミナーまで、続けて引き受けます。使うAIの道具を1つ決めるところも、法人向けAIチャット「HBM Assistant」を含めてご相談いただけます。自分で進める場合も、決まりの案に抜けがないかの確認からご相談ください。

「職員が個人のAIに何を入れているか分からない」「介護記録にAIを使ってよいのか判断できない」「AIを使い始めたいが、何から任せればよいか分からない」といったご相談を、弊社で受け付けています。社内でのAIの使い方を決めるセミナーと、法人向けAIチャット「HBM Assistant」の導入は、弊社にご相談いただけます。

今日できる確認、職員3人への聞き取り

今日できる確認は、事業所の職員3人に、仕事でChatGPTやGeminiを使ったことがあるか、使ったなら何に使ったかを聞くことです。5分ほどで済みます。聞き取りの結果で、始める前に決める4つのうち、どこから手を付けるかが決まります。

介護で生成AIを使うなら、介護記録から始めず、職員会議の議事録や研修資料など利用者の情報を含まない書類から始めます。「利用者の名前や病名は入れない」決まりと法人で管理するアカウントを先に用意すれば、職員が安心して使える状態を作れます。

決まりの作り方が分からない場合や、利用者のことを入れていた職員がいた場合は、ご相談ください。

無料相談のご案内

弊社はGoogle Workspaceの導入支援・保守サポートを行っており、中小企業のAI活用をご相談いただいてきました。御社の業務に合わせてご提案します。

強引な営業は一切いたしません。まずはお気軽にご連絡ください。

※オンライン相談にも対応しております。

出典

• 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等
• 個人情報保護委員会 医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス
• 厚生労働省 医療情報システムの安全管理に関するガイドライン 第7.0版
• 厚生労働省 医療情報システムの安全管理に関するガイドライン 第7.0版 Q&A
• 老人保健健康増進等事業 検討委員会 介護事業所における情報安全管理の手引き（解説書）
• OpenAI Help Center モデルのパフォーマンスを向上させるためのデータの使用方法
• OpenAI OpenAI におけるエンタープライズプライバシー
• Google Gemini アプリのプライバシー ハブ
• Google Workspace 管理者ヘルプ Google Workspace の生成 AI に関するプライバシー ハブ

本記事は公開日時点の情報です。料金や機能の最新情報は、各公式ページをご確認ください。制度の最新情報は、各省庁の発表をご確認ください。個別の判断は、税理士や社会保険労務士などの専門家にご相談ください。