この文書ではAI利用に関する上での、深刻なアクシデントを回避するための注意点を挙げています。 ディープラーニングの利用活性化により、多くの基準が各所で設けられているので、掘り下げたい人は、そちらを参考するのも良いでしょう。ここでは「最低限これくらいのことは意識しながら利用しよう」という自戒を兼ねた整理となります
AIツールの導入を決定する前に、以下の項目を必ず確認してください。
利用を検討しているAIサービスが、データセキュリティやプライバシー保護に関して十分な実績と透明性を持つ企業によって提供されているかを確認します。
入力した情報が、AIモデルの学習に利用されない設定が明確に保証されているサービスを選定することが大前提です。管理者側で組織メンバーのデータ利用設定を一元管理できる機能があれば、より安全ですが、まずは利用する個々が意識することが大事です。
無料または極端に安価なAIサービスの中には、特定の製品やサービスを宣伝する目的で、回答が意図的に調整されている可能性があります。 このようなAIを業務で利用すると、市場調査や情報収集の際に著しく偏った（バイアスのかかった）結果を得てしまい、ビジネス上の判断を誤る危険性があります。中立性が担保されたサービスを選択してください。
「使った分だけ支払う」従量課金制や月額固定のサブスクリプション制など、サービスの課金体系を正確に理解し、想定外のコストが発生しないように計画を立てます。
AIツールの利用を開始した後は、以下のルールを全従業員が遵守する必要があります。
ここでいう「MCPサーバー」とは、私たちが入力した情報を処理し、AIからの回答を生成する、サービス提供者のクラウド基盤全体を指します。 私たちのデータは、AIモデルの学習に使われない設定（オプトアウト）にしていても、必ずこの外部サーバーを経由します。この事実から生じるリスクを、全従業員が理解しなければなりません。
「学習に利用されない」という設定は、「サーバー上で誰にも見られず、一切記録されない」ことを意味しません。サービス提供者は、濫用防止や品質管理のために一時的にデータを保持（ロギング）している可能性があります。万が一のサイバー攻撃や内部不正があれば、入力した情報が漏洩するリスクはゼロではありません。 そのため、顧客情報、個人情報、社外秘の技術情報や経営戦略などを入力することは、固く禁止します。
AIは、このサーバー上で膨大なデータをもとに回答を生成しますが、その過程で事実に基づかない情報を生成する「ハルシネーション」を起こします。AIからの回答を鵜呑みにせず、最終的な事実確認と判断の責任は利用者自身にあることを肝に銘じてください。
AIが生成したコンテンツ（テキスト、画像、コードなど）には、元の学習データに含まれる著作物との類似性が生じる可能性があります。そのため、生成されたコンテンツをそのまま商用利用する際は、著作権侵害のリスクがないか十分に確認する必要があります。特に、ロゴやデザイン、キャッチコピーなど、企業のブランドに関わる重要なコンテンツを生成する際には、人間による最終的なチェックと修正を義務付けるべきでしょう。