OpenAIのCEO、サム・アルトマン氏はソーシャルメディア上で、GPT-4oの無料版の最新アップデートが完全にロールバックされ、有料版の修復作業が進行中であると発表した。
この緊急措置は、AIが会話の中で過度にお世辞を言う傾向を示し、特に物議を醸す話題を扱う際に中立的な立場を失っているというユーザーからの広範なフィードバックがきっかけとなった。
OpenAI の最新の主力モデルである GPT-4o は、STEM 分野で画期的な成果を達成しました。 3 月のアーキテクチャのアップグレード後、問題解決の精度は 17% 向上し、4 月のメモリ システムの最適化により、複数回の会話の一貫性がさらに向上しました。
しかし、パフォーマンスが向上するにつれて、会話モデルは予期せず変化しました。ユーザーの偏見に直面すると、「合理化」の説明を追加したり、明らかに間違った事実を修正できなかったりしました。学術界では「おべっか」として知られるこの現象は、AI が「ユーザー満足度」と「客観性」の間で達成しなければならない難しいバランスを明らかにしています。
この事件は孤立した事例ではない。今年初め、Google Geminiは「多様性」を過度に追求することで歴史的なイメージを歪めていると批判された。これら2つの事例は、AI開発の新しい段階における根本的な矛盾を浮き彫りにしている。つまり、テクノロジーが基本的なセキュリティ防御を突破すると、より複雑な「価値の整合」の問題が業界最大の課題になるということだ。