生成AIを使う上で現場の事務長が知っておくべき「人間の目」の必須性

最近は業務効率化のためにAIを活用される法人様も増えてきましたね。私自身も日常の壁打ちや考えの整理に有料版のGeminiを使っているのですが、先日ふと「これは怖いな」と思う出来事がありました。

1. AIに自信満々に嘘をつかれた

法人運営のサポートをしていると、役員の選任や変更の手続きで「理事の要件」を確認する場面がよくあります。先日、私がAIを使って社会福祉法における役員の資格等（第44条第6項）についての考え方を壁打ちをしていたところ、驚くような回答が返ってきました。

AIは、もっともらしい条文の体裁を保ちながら、実際の法律とは全く異なる要件を提示してきたのです。

2.社会福祉法第44条第6項の話

実際にAIが出力した内容と、正しい現行法を比べてみましょう。役員（理事）の親族等の特殊関係者の人数制限についての重要な規定です。

ピンと来られた方もいるかもしれませんが、AIの出力は「3人を超えて〜、または3分の1を超えて〜」という社会福祉法の規定を、「1人を超えて〜、かつ、6分の1を超えて〜」という謎の厳しい条件に書き換えてしまっています。

さらに恐ろしいのは私がAIに誤りを指摘したところ、AIは以下のように返答してきました。

「ご指摘いただいた条文についてですが、大変重要な点ですので整理させていただきます。結論から申し上げますと、ユーザー様が引用された文章は一般財団法人や公益財団法人等に適用される法律に近い規定と思われます。現在の社会福祉法 第44条 第6項の正しい条文（現行法）は以下の通りです。」

そう前置きした上で、またしても先ほどと全く同じ誤った「1人を超え〜、6分の1を〜」という文章を出力してきたのです。

3. 一次情報へ立ち返ることの重要性

AIであっても、ここまで明確に、しかも専門用語を交えて自信満々に言われれば、信じてしまう方がいらっしゃっても不思議ではありません。
私も恥ずかしながら、「いつの何か改正されていたの！？」と、不安になって原文を読みに行きました。

今回のケースでは、AIが提示した条件が本来の法律よりも「厳しい条件」だったため、仮にこれを信じて行動したとしても結果的に法令違反にはならなかったかもしれません。
しかし、これが逆だったらどうでしょうか。重要な手続きの要件を緩く勘違いしたまま進めてしまえば、取り返しのつかない事態になります。

たとえば海外旅行に行った際、現地の法律やルールをよく知らないままネットの不確かな情報を鵜呑みにしてしまい、意図せず法令違反をしてしまったら…と考えるとゾッとします。

• AIはあくまで案出しや考えの整理のためのツールである
• 法令や手続きの要件は、必ずe-Gov（電子政府の総合窓口）や行政の公式手引き等の「一次情報」を確認する
• 最終的な判断は、所管庁への確認や専門家のアドバイスを仰ぐ

4. こんなことに気を付けてください

• １AIがもっともらしい法令の条文を出してきた場合、どうやって真偽を確認すればよいか？
  A

  必ずe-Gov法令検索などの公的なデータベースを使用して、実際の条文を直接検索してください。また、所轄庁が発行している「社会福祉法人審査基準」や「運営の手引き」と照らし合わせるのが最も確実な方法です。

• ２議事録のドラフト作成にAIを使うのは問題ないか？
  A

  文章の推敲や整えに使う分には便利ですが、個人情報や法人の機密情報をそのまま入力するのは避けてください。また、出力された議事録の記載事項が、法定の要件を満たしているかは必ず人間の目で最終チェックを行う必要があります。

いくらAIが普及して便利になっても、未だ最終的な「人間のチェック」は省けないなと思いました。面倒に感じても必ず一次情報に当たる癖をつけていきましょう。