生成AIを「とりあえず」教室で使う前に

生成AIを「とりあえず」教室で使う前に

先生方のお教室では、生成AIを利用する際のルールは決まっているでしょうか。

社会に生成AIサービスが普及するにつれ、生徒から「使ってみたい」という声が聞かれることも多くなっているのではないでしょうか。

「話題になっているから使ってみる」
「生徒が使いたがっているから認める」
「講師が個人的に使っているサービスを授業でも使う」

こうした形で安易に利用を認めたくなるところではあります。
またSNSなどを拝見すると、実際に子どもたちに自由に使わせている教室さまも多いようです。
しかし、子どもに生成AIサービスを使わせる際には、細心の注意が必要となります。

一般向けの生成AIサービスを子どもに使わせる場合は、年齢制限、保護者同意、個人情報の取り扱い、アカウント管理、不適切な出力への対応、著作権保護などについて、教室側が事前に確認し、理解しておくべきことが多くあります。

今回のコラムでは、生成AIを使った学習方法やカリキュラムについては触れません。
あくまで、教室にて生徒に生成AIを使わせる場合の運営上の注意点を整理しておきます。

利用するサービスの対象年齢を確認する

最初に確認したいのは、利用するサービスの最低利用年齢です。
生成AIサービスの年齢条件は一律ではありません。13歳以上から利用できるものもあれば、18歳以上を対象としているものもあります。
また、最低利用年齢を満たしていても、未成年者の利用には保護者や法定代理人の同意が必要とされる場合があります。

教室の基本方針としては、次のような線引きが分かりやすいでしょう。

• 規定年齢に達していない生徒には、そのサービスを直接利用させない
• 13歳以上で、かつサービスの規定年齢を満たしている生徒には、必要な保護者同意を確認したうえで利用を認める
• 年齢条件を満たしている場合でも、教室が認めたサービスを、教室の管理下で利用させる

保護者の許可があったとしても、サービスの規定年齢を下回る生徒に使わせることは絶対に避けましょう。
講師のアカウントを貸したり、実際とは異なる年齢で登録させたりする運用も適切ではありません。

また、年齢条件や利用規約は変更される可能性があります。導入時だけでなく、定期的に最新の内容を確認することも必要です。

保護者への説明を曖昧にしない

未成年の生徒に生成AIを使わせる場合は、保護者への説明も必要です。

「授業でインターネットを使います」「デジタル教材を使います」といった一般的な説明だけでは、生成AIの利用について十分に伝わらない可能性があります。

少なくとも、次のような内容は具体的に説明しておきたいところです。

• 使用する生成AIサービスの名称
• 生徒が直接操作するかどうか
• アカウントを誰が作成し、管理するか
• 入力した内容が外部サービスへ送信される可能性について
• 入力内容や利用履歴が保存される可能性について
• 教室側が利用状況を確認する場合があること

利用するサービスを変更した場合や、生徒が利用できる範囲を広げた場合には、必要に応じて改めて説明することも心がけましょう。

個人情報を入力させない

生成AIに入力した文章や画像は、外部の事業者へ送信されます。
サービスや設定によっては、入力内容が一定期間保存されたり、サービス改善などに利用されたりする場合があります。

「個人情報を入力しないように」と曖昧に伝えるのでなく、入力してはいけない情報を具体的に決めておくことが大切です。

「個人情報」とは、次のような情報です。

• 氏名、学校名、住所、電話番号
• 顔写真
• 家族や友人に関する情報
• 成績や健康に関する情報
• ログインID、パスワード、APIキー
• 個人を特定される恐れのある制作物

例えば名前や住所などのデータを使う必要がある場合は、実在する情報ではなく、架空の名前やサンプルデータを使用します。

正しい利用ができているかどうかを把握するために、教室側が生徒の利用状況をチェックしておく必要もあります。
そしてチェックを行うことを予め生徒にも伝えておき、合意を得ておく必要があります。

また、生徒だけでなく、講師の利用にも注意が必要です。
教材や案内文を作成するために、生徒の氏名、保護者からの相談内容、成績、教室内の記録などをそのまま入力しないよう、講師間でもルールを共有しておきましょう。

生成された内容を無確認で使わせない

生成AIは自然で詳しい回答を表示しますが、その内容が正しいとは限りません。
事実とは異なる説明や、存在しないサービス、機能、プログラムなどを、もっともらしく回答することがあります。

特に注意したいのが、生成されたコードやコマンドの実行です。
次のような操作が含まれている場合は、生徒の判断だけで実行させないようにします。

• ファイルの削除や変更
• パソコンの設定変更
• 外部サイトへのデータ送信
• 不明なソフトウェアのダウンロード
• パッケージや拡張機能のインストール
• 管理者権限を必要とする操作
• パスワードやAPIキーの入力

教室の端末については、生徒が自由にソフトウェアを追加したり、端末の設定を変更したりできないよう、利用権限を制限することも有効です。
AIが生成した内容であることを理由に、教室側の確認責任がなくなるわけではありません。

不適切な出力への対応を決める

生成AIには安全対策が設けられていますが、子どもの年齢に合わない内容や、不快に感じる表現が表示される可能性を完全になくすことはできません。

意図しない回答が表示された場合は、無理に読み続けたり、ほかの生徒に見せたりせず、画面を閉じて講師に知らせるよう伝えておきます。
生徒には、次のような対応を案内しておくとよいでしょう。

• それ以上、同じ質問や関連する操作を続けない
• 表示された内容をほかの人に見せたり、SNSなどへ投稿したりしない
• 不安や不快感がある場合は、すぐに講師へ相談する

講師は、生徒の状況を確認したうえで、必要に応じて利用を中止し、質問内容やサービスの設定を見直します。

アカウントの管理方法を決める

生徒やその家族の個人アカウントを授業で使用すると、教室側で安全設定や利用履歴を十分に管理できません。
また、家庭での利用履歴が他の生徒に見えてしまうプライバシー上のリスクもあります。

一方、1つのアカウントを複数の生徒で共有する運用も避けるべきです。
誰が何を入力したのか把握できなくなるうえ、アカウントの共有自体がサービスの利用規約に違反する可能性が高いからです。

そのため、教室での学習時には各生徒において「授業専用のアカウント」を用意することを推奨します。
なお、サービスによっては未成年によるアカウント作成が禁止されている場合もあるため、「保護者の同意のもとで作成してもらう」か、「教室側で管理用（組織用）アカウントを用意して付与する」といった対応が必要です。

あわせて、安全管理や運用の確認のために教室側で利用状況を閲覧・チェックする場合があることを、事前に生徒・保護者へ伝え、合意を得ておきましょう。

著作権と外部公開にも注意する

生成AIが作った文章、画像、音楽、プログラムだからといって、必ず自由に利用できるわけではありません。

既存作品と似た内容が生成されたり、利用条件のあるコードや素材が含まれたりする可能性があります。
また、第三者が作成した文章や画像を、許可なく生成AIへ入力することにも注意が必要です。

特に、次のように生成物を外部へ公開する場合は、教室内だけで試す場合とは異なる確認が必要です。

• 教室のWebサイトやSNSへ掲載する
• チラシや教材に使用する
• 生徒作品として展示する
• コンテストへ応募する
• 有料サービスや販売物に使用する

既存作品との類似、素材やコードの利用条件、掲載先や応募先の生成AI利用ルールを確認します。
生成AIを使用したことの申告が必要かどうかについても、提出先の規定を確認しておきましょう。

講師ごとの判断に任せない

生成AIの利用を講師個人の判断だけに任せると、クラスによって対応が異なり、生徒や保護者に教室の方針を説明できなくなります。
教室として、少なくとも次の内容を規程として定めておきましょう。

• 利用を認めるサービス
• 保護者同意の確認方法
• アカウントの作成と管理方法
• 入力してはいけない情報
• 生成物を外部公開する場合の確認方法
• 問題発生時の報告手順
• 利用規約を定期的に確認する担当者

講師が個人的に使っている生成AIサービスを、教室の確認を経ずに授業へ持ち込むことも避けたいところです。
ルールを作成した後は講師全員で共有し、定期的に見直すことが大切です。

まとめ

生成AIを子どもに使わせる場合は、「便利そうだから、とりあえず使ってみる」といった安易な導入は避けたいところです。
教室が責任を持って管理できる状態になっているかを見極めて、慎重に判断をしましょう。

このコラムも参考にしていただきながら、まずは利用するサービスを限定し、対象となる生徒、アカウントの管理方法、入力禁止情報、トラブル時の対応を教室の規程としてまとめておきましょう。
そしてその内容を講師と保護者、生徒本人に共有したうえで、利用を始めることが大切です。