Oriental Nippon Development
ブログ一覧へ
テクノロジー

人が判断するAI:送らずに、下書きまで

介護のシフト、支援セッションの記録、営業メール、研修コンテンツ。私たちのAIシステムは提案し、下書きします。決めるのは指名された人です。その設計が優れている理由をご紹介します。

私たちが提供してきたAIシステムを見渡すと、一つのパターンが繰り返されています。モデルが下書きし、人が決める。

これは技術の限界ではなく、設計上の選択です。この記事では、どこでこのパターンを使っているか、何がコストになるか、そして人が実際に確認するほど確認のステップを速くする方法をご紹介します。

このパターンが現れる場所

システムAIがすること決める人
介護のシフト作成シフトの割り当てを提案ケアコーディネーター
障害福祉の支援セッション書き起こしから記録項目を下書き支援者
営業の調査パーソナライズした営業メールを下書き営業担当者
学習コンテンツ研修教材を生成指名されたレビュアー
リードの登録名刺や会話から連絡先の項目を入力保存前の営業スタッフ

介護の現場では、システムが下書きするすべての記録の背後に、指名された人がいます。

なぜ完全に自動化しないのか

誰も確認していない自動の記録は、改善とは言えないからです。それは大規模に、より速く間違える方法にすぎません。自動送信は間違ったものを拡大し、自動承認は誤りを拡大します。

介護や医療のような規制のある現場には、もっと単純な理由もあります。すべての記録には責任を持つ誰かが必要で、その誰かは人でなければならないのです。

人のステップがもたらすもの

  1. 信頼。 現場の担当者は、自分の判断を尊重するツールを使います。判断を覆すツールは、静かに避けられます。
  2. データの質。 すべての確認が、「正しい」とはどういうものかのラベル付きの例になります。
  3. 責任の所在。 すべての判断の背後に、指名された人がいます。
  4. 安全な改善の道。 修正率を見れば、顧客より先に、モデルが弱い場所が正確にわかります。

確認を速くする

人のステップは、速くなければ機能しません。確認に書くのと同じだけ時間がかかるなら、人は確認しなくなります。

  • 構造化された下書き。 書き直す文章ではなく、確認するフォームに。支援セッションのシステムでは、支援者が確認するのは段落ではなく項目です。
  • 根拠を示す。 書き起こしの抜粋、満たした制約、引用した出典。
  • 承認はワンアクションで。 正しい下書きの確定は、ワンクリックであるべきです。
  • 修正は手軽に。 一つの項目を変えるのに、最初からやり直す必要があってはいけません。

測るべきもの

指標わかること
承認率下書きが変更なしで確定される頻度
項目ごとの修正率モデルが間違えやすい部分
確定までの時間確認が本当に速いかどうか
却下の理由データ、ルール、プロンプトの抜け

それでも時間は確実に減る

障害福祉のプロジェクトでは、紙による二重の手間が完全になくなりました。セッションは録音・書き起こし・下書きされ、支援者が確定します。人が主導権を持ったまま、事務負担は減っています。

実際の例は障害福祉の支援セッションのAI書き起こしをご覧ください。

参考資料

  1. People + AI Guidebook(Google PAIR)
  2. Guidelines for human-AI interaction(Microsoft HAX Toolkit)
  3. AI Risk Management Framework(NIST)
  4. Collaborative intelligence: humans and AI are joining forces(Harvard Business Review)

関連ケーススタディ

障害福祉の支援セッションをAIで書き起こし、記録を下書き