ニューヨーク・タイムズによると、グーグルはファミリーリンクのペアレンタルコントロールを使用している保護者に対し、子供が監視対象のAndroidデバイス上のGemini AIアプリにすぐにアクセスできるようになることを電子メールで通知した。
同社によれば、子どもたちはジェミニを使って宿題を手伝ったり、物語を読んでもらったりできるようになるという。 Googleは、Workplace for Educationのアカウントと同様に、子供のデータはAIのトレーニングには使用されないと述べた。それでも、Googleは電子メールの中で、「Geminiは間違いを犯す可能性がある」こと、そして「子供が見せたくないコンテンツに遭遇する可能性がある」ことを保護者に警告した。
ピザのトッピングとして接着剤を勧めたり、イチゴの「r」の数を数え間違えたりするような、もっとばかばかしいミスの他にも、一部のAIボットはもっと困った問題を抱えている。 Character.ai の若いユーザーの中には、チャットボットと現実を区別するのが難しい人もいました。ボットはユーザーに実際の人間と話していると伝えていたからです。同社は、ボットが不適切なコンテンツを提供していると訴えられた訴訟を受けて、新たな制限とペアレンタルコントロールを導入した。
ジェミニの場合、グーグルのメールのアドバイスでは、親は子どもと話し、AIは人間ではないこと、チャットボットと機密情報を共有しないことを説明するべきだとされていた。
13 歳未満の子供は、Google ファミリー リンクを通じて自分で Gemini を有効にしてアクセスできるようになります。これは、保護者が子供のデバイスの使用状況を監視し、制限を設定し、有害なコンテンツから子供を保護できるように設計されています。 Googleの広報担当者カール・ライアン氏はThe Vergeへのメールで、親はファミリーリンクを通じてアクセスをオフにすることができ、「若者は初めてGeminiにアクセスしたときに追加の通知を受け取る」と認めた。