Google Gemini は、チャットボットのスキルセットにベビーシッター機能を追加します。ニューヨーク・タイムズによると、Googleは、ファミリーリンクを使用して保護者が管理するGoogleアカウントを使用する限り、13歳未満のユーザーにもGeminiを提供する予定だという。グーグルは保護者宛の電子メールで、子どもたちがジェミニにアクセスして「質問したり、宿題を手伝ってもらったり、物語を作ったり」できるようになると述べた。グーグルの広報担当カール・ライアン氏はニューヨーク・タイムズ紙に対し、今回のサービス拡大は新たなユーザー層にガードレールを提供するものであり、ジェミニが子供に安全でないコンテンツを提供することを防ぐことになるだろうと語った。
メールの中で、グーグルは「ジェミニは間違いを犯す可能性がある」と認め、ジェミニの回答をファクトチェックする方法を親が子供に教えることを推奨した。 Google は、二重チェックに加えて、若いユーザーに対して、Gemini は人間ではないため、会話に機密データや個人情報を入力しないように注意するよう推奨しています。こうした対策を講じても、子どもたちが「見たくないコンテンツに遭遇する可能性がある」と電子メールは警告した。
AI チャットボットの導入率が驚くほど高まる中、事実と異なる回答や示唆的な回答の例により、未成年ユーザーに関する懸念が浮上しています。コモンセンスメディアは先週発表したレポートで、AIチャットボットが18歳未満のユーザーに対して「有害な行動を助長し、不適切なコンテンツを提供し、精神疾患を悪化させる可能性がある」と警告した。ウォールストリートジャーナルは最近、MetaのAIチャットボットが未成年者と性的な会話をすることができると報じた。グーグルは、危険な会話を避けることに加え、AIモデルのトレーニングにジェミニの若いユーザーのデータを一切使用しないとも述べた。現在、Google は、監視対象アカウントへの Gemini へのアクセスを段階的に展開していると述べている。