開発者と読み解くAIの世界

AIエージェントを開発するために注力すべきポイント

実際の開発から得た3つの知見

坂本一樹

2025年2月20日 09:00

　本コーナー「開発者と読み解くAIの世界」では、AIアプリ開発に携わるエンジニアより寄稿いただき、開発者目線でみる生成AIの面白さや活用法、開発現場のリアルをお伝えします。

　近年、生成AI――特に大規模言語モデル（LLM）――を活用した「AIエージェント」の実用化が進んでいます。人間が負担を感じるような繰り返し作業の自動化や、非構造化データの活用によって新しい体験を提供できる反面、想定外の出力や安全面のリスクもあり、開発には従来型のシステムとは異なる発想が求められるのが実情です。

　本稿では、開発者視点から見た「AIエージェントの開発における注力すべきポイント」を、以下の3つのポイントに沿ってご紹介します。

AIエージェントに「何を」任せるべきか？

　最初に押さえておきたいのが、AIエージェントは目的ではなく、あくまで“課題を解決するための手段”であるということです。AIがあらゆる場面で人間の代わりを務めるわけではなく、「本当にAIを入れることによって目的が達成できるか」を見極める必要があります。

　たとえば、人手で大量に作業しなければいけないタスク――問い合わせ対応や定型文書の作成など――はAIエージェントの得意分野です。一方で、既存業務はシステム化されている点も数多く存在し、整合性をとらずにAIエージェントを開発したとしても業務の煩雑化を招いてしまうでしょう。

　したがって、「どの業務をAIに任せるのか？」は、現場の業務フローを一度丁寧に洗い出した上で検討することが大切です。

　エキスパートや実務担当者の知見を取り入れつつ、既存のシステムやルールベースの仕組みとの組み合わせ方を考えるべきです。AIはあくまで“必要なところだけ”ピンポイントで役割を持たせて任せる。そうすることで「プロダクトとして本当に価値があるのか？」を見極め、不必要な投資と機能開発への時間を削減できます。

　AIに“本当に必要なこと”を“実際の業務に沿って”考える。これなくしてAIエージェントに任せるものは見えてこないと考えます。

AIエージェントに「どこまで」任せるべきか？

　AIエージェントに何でもかんでもタスクを任せると、制御不能のままでたらめな文章を大量送信するなど、深刻なトラブルに発展しかねません。逆に「すべて人間が最終チェックする」となると、せっかくの自動化効果を発揮できず、導入メリットが薄れてしまいます。そこで必要なのが、AIに任せる「判断の幅」と「安全設計の明確化」です。

AIに任せる「判断の幅」

　判断の幅とは、AIが「何を基準に判定するか」を定義することです。

　たとえば、筆者が開発に関わっている採用AIエージェント「リクルタAI」では、採用候補者にスカウトメールを送る際、実際の採用担当者が“送付すべき”と考えるターゲットに適切なメッセージだけを自動生成するように設計しています。こうした“適切な候補者”への“適切なメッセージ”という枠組みを明確にすることで、スパムのような濫用を防ぎ、信頼度を高めることができるのです。これは他のAIエージェントでも同じと言えるでしょう。

　AIが24時間動き続けられるからと不必要に任せるのではなく、必要なことを必要なだけ実施することが、AIエージェントを信頼してもらう上で非常に大事な設計です。

安全設計の明確化

　さらに課題となるのが、生成AIが常に正しい情報を出力するわけではないことです。近年のLLMは自然な文面を生成できますが、ハルシネーション（事実とは異なる・事実性を確認できない内容）を含むリスクがあるため、誤作動を前提にした安全設計が求められます。ここで鍵となるのが「予防」と「対策」です。

予防
不要なデータはそもそも持たないこと。必要な情報以外を扱わないように事前に選別することにより、そもそも不要な情報をユーザーに誤って出力してしまうような状況を避ける
対策
AIの生成結果をルールベースの仕組みと組み合わせて品質保証したり、想定外の挙動が起こった際にシステムを停止するなど、被害を最小限に抑えるための仕掛け

　たとえ優れたLLMを使っていても、誤作動をユーザーに届く手前で防止するよう対策を講じておくことが不可欠です。なぜなら一度でも重大な情報漏えいや不適切なアウトプットが発生すると、AIそのものに対する社会的信用が揺らぎ、結果的に業界全体の発展を阻害しかねないからです。

　自動化や効率化の恩恵を受けながら、暴走のリスクには常に目を光らせる――それこそが、今後AIエージェントを活用する上で、開発者が果たすべき責任と言えるでしょう。

AIエージェントを「どう」運用すべきか？

　AIエージェントの面白いところは、導入した後も“運用しながら育てる”感覚がある点です。

　従来のシステムは、一度リリースしたら大きな仕様変更がない限り、大規模な改修を行うことはあまりありませんでした。しかし、LLMを使ったAIエージェントでは、日々の利用データやユーザーフィードバックを取り込み、プロンプト（指示文）やパラメーターを微調整して性能を向上させるアプローチが有効です。

　たとえば、問い合わせ対応型のAIエージェントであれば、ユーザーがどんな質問を多くしているか、どの回答に不満や戸惑いを感じているかを分析し、頻出パターンに的確に応答できるよう日々チューニングを行います。こうした細やかな修正を繰り返すことで、AIの回答精度やユーザーの満足度は徐々に高まっていくでしょう。

　最終的にはこうした日常的なアップデートを、人間の手を最小限に抑えて、結果をもとにAIが自動で学んでいく仕組みを実現することが運用していく上での理想です。